Национальная комиссия по информатике и свободам Франции (CNIL) и Департамент персональных данных Малайзии (PDPD) начали официальное расследование в отношении ИИ-ассистента Grok от компании xAI Илона Маска. Поводом стали многочисленные жалобы пользователей на генерацию моделью порнографических дипфейков с изображениями реальных людей без их согласия.
Расследование сосредоточено на алгоритмах генерации контента Grok и механизмах модерации. Регуляторы проверяют, соблюдает ли xAI законодательство о защите персональных данных и цифровой безопасности. Особое внимание уделяется случаям, когда модель создавала откровенные изображения публичных лиц и частных граждан по текстовым запросам.
Это первый крупный случай, когда модель ИИ, позиционируемая как более свободная альтернатива ChatGPT, столкнулась с обвинениями в создании вредоносного контента. Инцидент поднимает острые вопросы о балансе между свободой генерации контента и необходимостью защиты личности. Ранее Grok критиковали за провокационные ответы, но не за создание дипфейков.
Результаты расследования могут привести к серьёзным штрафам для xAI и ужесточению регулирования генеративного ИИ в обеих странах. Компании, возможно, придётся внедрить более строгие фильтры или ограничить функционал модели в этих регионах.
