Исследователи Apple задали простой вопрос. Может ли ИИ честно рассказать о своей неуверенности? Ответ оказался отрицательным.
Они создали метрику SelfReflect. Она измеряет разрыв между словами модели и её внутренними убеждениями. Метрика улавливает даже малейшие отклонения.
Модели не могут раскрыть свои сомнения. Ни через рассуждения, ни через цепочки мыслей. Даже специальное обучение не помогает.
Решение нашли простое. Нужно сгенерировать несколько ответов и показать их модели. Тогда она даёт более честную картину.
Работа опубликована в 2026 году. Она проливает свет на будущее доверия к ИИ. Метрика SelfReflect поможет в этом.
