Исследователи Apple изучили метод «цепочки мыслей». Этот метод заставляет ИИ проговаривать шаги рассуждения. Учёные хотели понять, что именно ведёт к правильному ответу.
Они ввели понятие «потенциала». Оно измеряет вклад каждого шага в успех. Анализ показал удивительные вещи.
Потенциал часто ведёт себя странно. Он может резко падать из-за тупиковых рассуждений. Иногда он взлетает от внезапной догадки.
Бывают и счастливые случайности. Модель даёт верный ответ без всяких обоснований. Это похоже на удачное угадывание.
Учёные проверили переносимость рассуждений. Они взяли цепочку мыслей от сильной модели. Затем подали её слабой модели.
Результат поразил. Всего 20% такой цепочки «разблокировало» слабую модель. Она решила задачи, которые раньше были ей не по зубам.
Это значит, что механика рассуждений передаваема. Ключевые инсайты можно позаимствовать. Это открывает новые пути для обучения ИИ.
