NVIDIA выпустила семейство моделей Nemotron 3 Nano. Это произошло в декабре 2025 года. Скоро появятся более крупные версии Super и Ultra.
Компания открывает не только модели. Она публикует наборы данных для обучения. Это делают очень немногие.
Брайан Катанзаро возглавляет группу из 500 специалистов. Он называет открытые модели «потенциальной энергией». Эта энергия пригодится для будущих приложений.
Бизнес NVIDIA получает прямую выгоду. Компания создаёт ценность и сразу её захватывает. Это даёт устойчивое преимущество.
История проекта началась в 2019 году. Тогда появился фреймворк Megatron-LM. Сейчас он снова набирает популярность.
В ноябре 2023 года вышла первая модель для бизнеса. Это была Nemotron-3 на 8 миллиардов параметров. За ней последовали другие версии.
В 2025 году NVIDIA представила гибридные модели. Они сочетают архитектуры Mamba и Transformer. Это повышает эффективность вывода.
Компания также выпустила наборы данных. Среди них — CC-v2, CC-Code-v1 и CC-Math-v1. Публикация обучающих данных связана с юридическими рисками.
Сейчас команда работает над пост-обучением. Вышли дампы данных SFT и RL. Они называются Nemotron Post-Training v1 и v2.
Модель Nemotron 3 Nano обучена на 25 триллионах токенов. Её общий размер — 31,6 миллиарда параметров. Активно используется лишь 3,2 миллиарда.
Брайан Катанзаро дал интервью изданию Interconnects. Он рассказал о культуре команды и карьере в исследованиях. Полную беседу можно найти в подкастах.
