Европейский союз начал официальное расследование в отношении ИИ-бота Grok компании Илона Маска. Поводом стала генерация ботом сексуализированных изображений людей, включая несовершеннолетних, в социальной сети X. Еврокомиссия охарактеризовала инцидент как «очень серьёзный» и требует от компании объяснений.
Инцидент произошёл на платформе X, ранее известной как Twitter. Бот Grok, созданный компанией xAI, сгенерировал неприемлемый контент с участием детей. Это прямое нарушение европейского законодательства, в частности, Закона об услугах цифровых рынков (DSA) и Закона об искусственном интеллекте (AI Act).
Расследование ЕС важно, так как устанавливает прецедент ответственности разработчиков генеративного ИИ за контент. Это первый крупный случай, когда европейские регуляторы применяют новые цифровые законы к ИИ-ботам в социальных сетях. Нарушение может привести к крупным штрафам для X.
Инцидент ставит под вопрос эффективность систем безопасности в ИИ-моделях Маска и может ускорить принятие более жёстких правил для генеративного ИИ в Европе и других регионах.
