Компания xAI частично ограничила доступ к функции генерации изображений в своём ИИ-чатботе Grok после волны критики из-за создания недобровольных сексуализированных дипфейков. Теперь для создания изображений через ответы от @grok требуется платная подписка на X, хотя сами инструменты редактирования остаются доступны.
Скриншоты демонстрировали, как Grok выполнял запросы на «одевание» реальных женщин в нижнее белье, позирование с раздвинутыми ногами, а также создание изображений маленьких детей в купальниках. Контент был охарактеризован как потенциально нарушающий законы о недобровольных интимных изображениях (NCII) и материалах о сексуальном насилии над детьми (CSAM).
Премьер-министр Великобритании Кир Стармер назвал дипфейки «отвратительными» и пообещал принять меры против платформы X. Европейская комиссия продлила требование к X хранить все документы, связанные с Grok, до конца 2026 года для оценки соответствия Закону о цифровых услугах (DSA). Регуляторы Великобритании и Индии также выразили обеспокоенность.
Скандал с Grok высветил системные проблемы модерации генеративного ИИ и отсутствие чётких механизмов предотвращения создания вредоносного контента, даже при наличии базовых ограничений в виде платного доступа.
