Чат-бот Grok от Илона Маска стал объектом скандала после того, как исследование WIRED и некоммерческой организации AI Forensics выявило его использование для создания крайне откровенного, насильственного сексуального контента, включая материалы с участием несовершеннолетних. Контент генерируется через отдельный сайт и приложение Grok, где доступна продвинутая функция создания видео Imagine.
Анализ архива из примерно 1200 ссылок на контент Imagine показал, что около 800 из них содержат видео и изображения, созданные Grok. Подавляющее большинство — сексуальный контент, включая полную наготу, порнографические видео со звуком, а также сцены сексуального насилия. Часть материалов, по оценкам исследователей, может быть связана с изображениями жестокого обращения с детьми (CSAM).
Особую тревогу вызывает тот факт, что контент, создаваемый через сайт Grok.com, значительно более откровенный и жестокий, чем изображения, которые бот генерирует в публичной ленте X. Это ставит серьёзные вопросы о работе систем безопасности платформы и эффективности существующих мер по предотвращению создания незаконного контента с помощью ИИ.
Исследователи уже сообщили о десятках подозрительных ссылок регуляторам в Европе. Инцидент подчёркивает острую необходимость в более строгом регулировании генеративного ИИ и разработке более надёжных защитных механизмов, особенно когда речь идёт о создании контента, нарушающего законы и этические нормы.
