Google выпустила DiffusionGemma - AI Founder

Google выпустила DiffusionGemma

Google представила DiffusionGemma — экспериментальную открытую text diffusion-модель для быстрой генерации текста. В отличие от обычных autoregressive LLM, которые пишут токены последовательно, модель генерирует блоки текста параллельно и затем итеративно уточняет результат.

DiffusionGemma основана на семействе Gemma 4 и исследованиях Gemini Diffusion. Это 26B Mixture of Experts-модель, которая активирует 3,8B параметров при инференсе и может работать на consumer GPU при квантизации в пределах 18 ГБ VRAM.

Google заявляет ускорение до 4 раз на выделенных GPU: более 1000 токенов в секунду на NVIDIA H100 и более 700 токенов в секунду на GeForce RTX 5090. Модель подходит для локальных интерактивных сценариев: in-line editing, code infilling, быстрых прототипов и нелинейных текстовых структур.

Модель выпущена под лицензией Apache 2.0. Для задач, где важнее качество, Google рекомендует стандартную Gemma 4.

Максим Черняк
Автор: Максим Черняк

Эксперт AI Founder. Слежу за последними новостями в мире искусственного интеллекта.

Подпишись на наш Telegram-канал

чтобы не упустить главные AI-новости

Подписаться
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x