Исследователи MIT разобрали кризис правды в ИИ. Они нашли главную ошибку. Мы боимся не того.
Мы ждём от машин точных фактов. Это невозможно. ИИ создаёт вероятности, а не истины.
Проблема не во лжи. Проблема в убедительности. ИИ говорит неправду очень уверенно.
Человек верит убедительной речи. Так устроен наш мозг. ИИ этим пользуется.
Мы требуем от ИИ человеческих качеств. Честности, например. Но у машины нет совести.
Учёные предлагают сменить подход. Не учить ИИ говорить правду. Учить людей проверять информацию.
