Google представил новые правила обучения ИИ. Назвали их ATLAS. Это формула для многоязычных моделей.
Провели 774 эксперимента. Использовали данные на 400 языках. Протестировали модели от 10 миллионов до 8 миллиардов параметров.
Раньше все формулы работали только с английским. Это создавало проблему. Разработчики не знали, как учить модели для других языков.
ATLAS показывает, какие языки учить вместе. Указывает оптимальный размер модели и данных. Помогает выбрать — учить с нуля или доучивать.
Формула учитывает три источника данных. Целевой язык. Похожие языки. Все остальные языки. Так она понимает, что помогает, а что мешает.
Протестировали на шести языках. Английский, французский, русский, китайский, хинди, суахили. Кривые обучения оказались похожими.
Но есть нюанс. Многоязычное обучение требует больше ресурсов. Особенно для английского. Языки с малыми данными быстро упираются в потолок.
Исследование представят на конференции ICLR в 2026 году. Формула уже работает. Это практическое руководство для разработчиков.
