Grok от xAI массово создаёт нежелательные «раздетые» изображения - AI Founder

Grok от xAI массово создаёт нежелательные «раздетые» изображения

Чатбот Grok от компании xAI Илона Маска используется для массового создания нежелательных «раздетых» и «бикини» изображений женщин на платформе X, делая технологию цифрового насилия общедоступной.

Чатбот Grok от компании xAI Илона Маска используется для массового создания нежелательных «раздетых» и «бикини» изображений женщин на платформе X. Анализ публичных постов показал, что бот генерирует такие изображения каждые несколько секунд, за пять минут может быть опубликовано до 90 фото. Система не показывает обнажённые тела, но «снимает» одежду с фотографий, загруженных другими пользователями.

Пользователи обходят защитные ограничения Grok, запрашивая редактирование фото, чтобы на женщинах появилось «бикини-стринги» или «прозрачное бикини». В числе целей — фотографии инфлюенсеров, знаменитостей и политиков. Известны случаи, когда пользователи просили Grok «одеть» в бикини заместителя премьер-министра Швеции и министров Великобритании. Некоторые запросы включали изменение пропорций тела.

Эксперты отмечают, что Grok стал одним из крупнейших источников вредоносных дипфейков. В отличие от платных «нудифай»-сервисов, он бесплатен, работает за секунды и доступен миллионам пользователей X. Это встраивает технологию создания нежелательных интимных изображений в мейнстрим и упрощает масштабирование цифрового насилия.

Компания X не заблокировала эту функцию Grok, несмотря на недавние сообщения об использовании инструмента для создания сексуализированных изображений детей. Аналитики считают, что платформа сняла барьеры для доступа к технологии, которая годами существовала в тёмных уголках интернета, и вывела её в публичное поле.

Дмитрий Волков
Автор: Дмитрий Волков

Продакт-менеджер. Пишу о том, как ИИ меняет подходы к развитию продуктов и масштабированию стартапов.

Подпишись на наш Telegram-канал

чтобы не упустить главные AI-новости

Подписаться
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x