ChatGPT и Perplexity дали неверную информацию о политических событиях в Венесуэле. Когда редактор Wired спросил о свержении президента Николаса Мадуро, обе системы заявили, что этого не происходило, хотя новость уже была подтверждена авторитетными источниками.
ChatGPT ответил: «Этого не случилось. США не вторгались в Венесуэлу, и Николас Мадуро не был захвачен». Система предположила, что пользователь мог столкнуться с дезинформацией. Perplexity аналогично обвинила пользователя в опоре на непроверенные данные, хотя к моменту запроса информация уже была опубликована в The New York Times, Reuters и AP.
Эксперт по ИИ Гэри Маркус объяснил, что чистые языковые модели застряли в прошлом — они ограничены данными, на которых обучались, и не способны критически оценивать новую информацию. Они коррелируют слова из тренировочных данных, но не имеют устойчивой, обновляемой модели мира. Ошибки возникают из-за той же динамики, что и галлюцинации.
Компании исправляют подобные ошибки с помощью человеческих правок, но это игра в догонялки. Маркус предупреждает, что полагаться на такие системы в быстро меняющихся ситуациях, например, в военном планировании, опасно. ИИ, который не справляется с публичными новостями, не поможет выиграть войну.
