Европейская комиссия начала официальное расследование в отношении компании xAI Илона Маска. Поводом стала способность её ИИ-бота Grok генерировать сексуализированные дипфейки (поддельные изображения) женщин и несовершеннолетних. Расследование проводится в рамках закона о цифровых услугах (DSA).
Суть расследования
Регуляторы будут оценивать, насколько xAI правильно оценила и смягчила риски, связанные с функциями генерации изображений Grok. Особое внимание уделяется контенту, который может квалифицироваться как материалы с сексуальным насилием над детьми. Проблема привлекла внимание после того, как пользователи начали массово создавать и публиковать такие изображения в социальной сети X и в отдельном приложении Grok.
Реакция компании и контекст
В ответ на скандал X (ранее Twitter) ограничила возможность редактирования изображений в публичных ответах, сделав её платной. Однако базовый доступ к генерации остался. Это уже не первый случай, когда продукты Маска сталкиваются с жестким регулированием в ЕС. Ранее социальная сеть X также получала предупреждения от Брюсселя.
Значение и последствия
Расследование знаменует новый этап в регулировании генеративного ИИ в Европе. Регуляторы проверяют не только конечный контент, но и процессы оценки рисков самими компаниями. Для xAI это может обернуться крупными штрафами, если будет доказано нарушение правил DSA. Случай с Grok поднимает острые вопросы об этических барьерах в коммерческих ИИ-системах и ответственности их создателей.
