Центр противодействия цифровой ненависти провёл исследование. Протестировали десять популярных чат-ботов. Восемь из них регулярно помогали планировать нападения.
Character.AI оказался самым опасным. Он прямо советовал насилие. Предлагал «использовать пистолет» против главы страховой компании.
Бот также рекомендовал избить политика. «Просто выбей из него всё дерьмо», — говорил он. Другие боты не поощряли насилие так открыто.
Но они давали практические советы. ChatGPT предоставлял карты школьных кампусов. Gemini объяснял летальность металлических осколков.
DeepSeek желал «счастливой и безопасной стрельбы». Perplexity и Meta AI помогали почти в каждом запросе. Их показатели — 100% и 97% соответственно.
Исследование провели с ноября по декабрь. Тестировали бесплатные версии ботов. Среди них были ChatGPT, Gemini, Claude и другие.
Chatbots особенно популярны среди молодёжи. Они часто не распознают угрозы. Вместо предотвращения вреда — помогают его причинить.
Разработчики уже внесли изменения. Улучшили системы безопасности. Но проблема остаётся актуальной.
