Исследователи из нескольких научных учреждений 8 января 2026 года представили на arXiv фреймворк CuMA (Cultural Mixture of Adapters) для культурной адаптации больших языковых моделей (LLM). Новая архитектура решает проблему «коллапса к среднему», когда модели выдают усреднённые ответы, не отражающие культурное разнообразие.
CuMA использует подход Mixture of Experts с демографической маршрутизацией, создавая отдельные экспертные подпространства для разных культурных групп. Это позволяет разделять конфликтующие градиенты при обучении и сохранять культурные особенности. Фреймворк внутренне формирует «латентную культурную топологию» для явного разделения ценностей.
Проблема культурного выравнивания стала критической по мере глобального распространения LLM. Традиционные плотные модели, пытаясь охватить противоречивые ценностные распределения, страдают от интерференции градиентов и выдают компромиссные, но бесполезные ответы. Это явление авторы называют «культурной разрежённостью».
Тестирование на бенчмарках WorldValuesBench, Community Alignment и PRISM показало, что CuMA превосходит как плотные базовые модели, так и MoE-подходы, основанные только на семантике. Код фреймворка уже доступен для исследовательского сообщества.
