Китайские ИИ-модели выбрали новый путь после DeepSeek
После успеха DeepSeek китайские разработчики ИИ пошли другим путём. Они выбрали архитектуру Mixture of Experts и сделали ставку на малые модели.
ИИ-архитектура
Microsoft представила новую версию архитектуры Transformer
Исследователи из Microsoft представили вторую версию архитектуры Diff-Transformer. Она работает быстрее и проще.