Исследователи Арджун Сваминатан и Мете Акгюн представили новый метод атаки. Он называется TEA — Targeted Edge-informed Attack.
Метод использует контуры целевого изображения. Это позволяет создать почти незаметные искажения.
Нейросеть видит изменённую картинку и ошибается. Она присваивает ей нужный злоумышленнику класс.
Главное преимущество — скорость. TEA требует на 70% меньше запросов к системе.
Это критично для реальных атак. Часто число запросов к чужой модели строго ограничено.
Старые методы изучали геометрию границ решений. Новый подход использует информацию из самих изображений.
Работа принята на конференцию IEEE SaTML. Код и данные уже доступны публично.
