В Амазоне прошло экстренное совещание инженеров. Причина — серия сбоев в системах. Виновником назвали код, написанный ИИ.
Илон Маск обратил внимание на инцидент. Проблема оказалась масштабной. Сбой затронул критически важные сервисы.
Год назад эксперты предупреждали об этом. Писать код с помощью ИИ — просто. Отлаживать и поддерживать его — сложно.
Университет Сунь Ятсена и Алибаба провели исследование. Они тестировали 18 ИИ-агентов на 100 реальных проектах. Наблюдение длилось 233 дня.
Результаты оказались плачевными. Пройти тесты один раз — легко. Поддерживать код восемь месяцев — невозможно.
ИИ с задачей не справился. Системы ломались одна за другой. Последние модели справляются чуть лучше.
Но для важных систем даже одна ошибка смертельна. Амазон убедился в этом на практике.
Будущее, где ИИ пишет код, всё ещё возможно. Но люди ещё долго будут разгребать последствия.
