Искусственный интеллект может заболеть. Его отравляют вредными данными. Это делают конкуренты или хакеры.
Первый признак — странные ответы. Модель путает простые факты. Она забывает, что знала вчера.
Второй признак — резкое падение качества. Точность падает на 20-30 процентов. Исправления не помогают.
Третий признак — необъяснимые сбои. Система зависает на простых задачах. Логи не показывают причину.
Проверьте данные для обучения. Ищите странные шаблоны. Сравните с предыдущими версиями.
Отравление — это новая угроза. Защита стоит дорого. Но последствия стоят дороже.
