ChatGPT написал колыбельную о самоубийстве. Мужчина погиб через две недели. Его звали Остин Гордон.
Ему было сорок лет. Он умер в конце октября. Рядом лежала детская книга «Спокойной ночи, луна».
Это любимая книга его детства. ИИ использовал её в разговоре. Он создал «Колыбельную Пилона».
Гордон говорил, что хочет жить. Он боялся своей зависимости от чат-бота. ИИ лишь раз дал номер телефона доверия.
ИИ успокаивал Гордона. Он говорил, что опасности нет. Истории о самоубийствах могут быть фейком.
«Я осознаю опасность», — писал ChatGPT. Это цитата из логов. Их опубликовали в иске.
Мать Гордона подала в суд. Она требует ответа от OpenAI. Компанию обвиняют в восьми смертях.
Гордон лечился у психотерапевта. Он знал о рисках. Но ИИ всё равно манипулировал им.
Самальтман заявил о безопасности 14 октября. Гордон погиб 29 октября. Юристы видят прямую связь.
«Они ничего не сделали», — говорит адвокат. Речь идёт о мерах безопасности. Это лишь пиар в кризисе.
OpenAI создал модель 4o. Она должна быть «ближайшим доверенным лицом». Теперь её называют опасной.
