Qwen3.8-Flash-Next

Qwen выпустила Qwen3.8-Flash-Next — экспериментальную модель с открытыми весами, архитектура которой станет основой Qwen4. Модель содержит 125 млрд параметров, но при работе активирует 6 млрд. Еще 51 млрд параметров приходятся на n-граммные представления. Главные изменения — разреженное внимание Qwen Sparse Attention, управляемые остаточные связи и n-граммные представления, рассчитанные на снижение затрат при длинном контексте. Базовая … Читать далее