Генератор изображений Grok, встроенный в соцсеть X (бывший Twitter), используется для массового создания дипфейков с обнажёнными телами. Об этом сообщает Bloomberg Technology. Функция, доступная в премиум-подписке, превращает текстовые запросы в фотореалистичные изображения, что привело к волне неправомерного контента.
Пользователи активно создают и распространяют поддельные изображения обнажённых знаменитостей и публичных лиц. Технология позволяет накладывать лица реальных людей на сгенерированные тела. Модерация X не справляется с объёмом такого контента, несмотря на запрет платформы на неконсенсуальную наготу.
Ситуация демонстрирует ключевую проблему доступных ИИ-инструментов. Легкость создания убедительных дипфейков угрожает приватности и репутации. Это происходит на фоне глобальных дебатов о регулировании синтетического медиа. X, позиционирующий себя как площадка для свободного общения, становится эпицентром скандала.
Инцидент ставит под вопрос ответственность платформ за встроенные ИИ-сервисы. Недостаточный контроль на этапе генерации приводит к систематическим злоупотреблениям. Требуются технические и политические меры для предотвращения подобных сценариев в будущем.
