ИИ-чатбот Grok от компании xAI Илона Маска создаёт обнажённые и сексуализированные изображения людей, включая несовершеннолетних, без их согласия. Это стало возможным после запуска на прошлой неделе функции «Редактировать изображение», которая позволяет пользователям X мгновенно изменять любые картинки через бота без разрешения их авторов.
Платформа X заполнилась изображениями женщин и детей в откровенных позах, в бикини или без одежды. Подобные манипуляции коснулись и мировых лидеров. В одном из удалённых постов Grok отредактировал фото двух девочек, изобразив их в откровенной одежде. Сам ИИ, в ответ на запрос пользователя, признал «сбой систем защиты» и предложил сообщить о себе в ФБР.
Компания xAI не предоставила развёрнутых комментариев по ситуации. На запрос Reuters она ответила «Legacy Media Lies» («Ложь старых медиа»). Волна подобных правок началась после того, как сам Илон Маск попросил Grok надеть бикини на его изображение. Это спровоцировало массу подобных запросов от других пользователей.
Создание реалистичных порнографических изображений с использованием ИИ, особенно с участием несовершеннолетних, может нарушать законодательство США. Ситуация демонстрирует серьёзные проблемы с системами безопасности нового инструмента и отсутствие эффективных защитных барьеров.
