ИИ-инструмент Sybil нашёл странную уязвимость. Он сканировал системы клиента. Обнаружил утечку конфиденциальных данных.
Основатели компании RunSybil удивились. Проблема требовала глубоких знаний. Нужно было понимать несколько сложных систем.
Они искали информацию в сети. Ничего не нашли. Уязвимость была неизвестна миру.
Это показывает растущий риск. ИИ учится находить «нулевые» уязвимости. Он становится умнее с каждым месяцем.
Дон Сонг из Беркли создала тест CyberGym. В нём 1507 известных ошибок. Модели ищут их в открытом коде.
В июле 2024 модель находила 20% уязвимостей. К октябрю результат вырос до 30%. Рост способностей резкий.
Сонг называет это переломным моментом. Одна и та же технология может защищать. Или атаковать.
Нужны новые меры защиты. Например, делиться моделями с исследователями до релиза. Они найдут баги первыми.
Другой путь — менять разработку ПО. ИИ может генерировать более безопасный код. Это поможет защитникам в будущем.
Но пока хакеры получают преимущество. ИИ умеет писать код и действовать в системе. Это главные навыки взломщика.
Если способности ИИ ускорятся, атаки тоже участится. Гонка вооружений началась.
