Thinking Machines представила Inkling — модель с открытыми весами на 975 млрд параметров, из которых 41 млрд активны. Модель поддерживает контекстное окно до 1 млн токенов и работает с текстом, изображениями и аудио.
Inkling построена на архитектуре разреженной смеси экспертов и обучалась с нуля на 45 трлн токенов текста, изображений, аудио и видео.
Компания позиционирует Inkling не как самую сильную модель, а как базу для настройки под конкретные задачи. Модель уже доступна для дообучения на платформе Tinker, а полные веса опубликованы на Hugging Face.
Inkling поддерживает управляемое усилие рассуждения: разработчик может выбирать баланс между качеством ответа, стоимостью и задержкой.
Также представлена Inkling-Small — облегченная версия на 276 млрд параметров, из которых 12 млрд активны. Ее веса выпустят после завершения тестирования.
