Исследователи выровняли внутреннее пространство моделей. Теперь они общаются напрямую. Это как телепатия для ИИ.
Модели обмениваются кэшем ключей и значений. Текст больше не нужен. Пропускная способность выросла.
Задачи становятся сложнее. Одной модели часто не хватает. Совместная работа решает проблему.
Эксперименты провели на моделях Gemma-2. Производительность каждой выросла. Навыки научились передавать напрямую.
Параметры основных моделей не трогали. Добавили только адаптеры. Это как переводчик для внутреннего языка.
Статья заняла пятнадцать страниц. В ней шесть рисунков и четыре таблицы. Работу выложили на arXiv в январе.
