Google выпустила DiffusionGemma
Google представила DiffusionGemma — экспериментальную открытую text diffusion-модель для быстрой генерации текста. В отличие от обычных autoregressive LLM, которые пишут токены последовательно, модель генерирует блоки текста параллельно и затем итеративно уточняет результат. DiffusionGemma основана на семействе Gemma 4 и исследованиях Gemini Diffusion. Это 26B Mixture of Experts-модель, которая активирует 3,8B параметров при инференсе и может … Читать далее