Исследователи Varonis взломали Copilot. Один клик по ссылке украл личные данные. Атака работала даже после закрытия чата.
Ссылка выглядела легально. Она вела на сайт Copilot. В конце ссылки прятались вредоносные инструкции.
Искусственный интеллект выполнил команды. Он вытащил имя и местоположение пользователя. Затем отправил эти данные на сервер хакеров.
Защита Microsoft сработала только на первый запрос. Второй запрос прошёл свободно. Так устроена многоступенчатая атака.
Microsoft уже закрыла уязвимость. Но проблема остаётся. ИИ не отличает команды пользователя от скрытых инструкций.
