NVIDIA Nemotron Labs Dory 1.0 4B появилась на Hugging Face с четырьмя чекпоинтами и без анонса

N​VIDIA N​emotron Labs Dory 1.0 4B уже выложена на Hugging Face — в четырёх вариантах квантования — и N​VIDIA не сказала об этом ни слова. Чекпойнт nvidia/N​VIDIA-N​emotron-Labs-Dory1.0-4B-MXFP8 появился с карточкой модели, в которой сборка помечена как «GA (10/16/2026)»; три его собрата — N​VIDIA-N​emotron-Labs-Dory1.0-4B-BF16, N​VIDIA-N​emotron-Labs-Dory1.0-4B-NVFP4 и N​VIDIA-N​emotron-Labs-Dory1.0-4B-GGUF — были загружены в пределах одного и того же 36-минутного окна по обе стороны от полуночи по UTC 16–17 октября 2026 года. Соответствующего поста в блоге N​VIDIA для разработчиков нет, записи на исследовательской странице N​emotron тоже нет, и ни на одной из них нет ни малейшего упоминания модели под названием Dory. Сама карточка на удивление полна — целая таблица бенчмарков, инструкции по запуску для двух движков, контрольная сумма, — но маркетинговой обвязки вокруг неё, того самого, что обычно и сообщает о существовании модели, нет полностью.

Так что стоит быть точными в том, что это даёт, а что не даёт вам право утверждать. Что известно: веса существуют, их можно скачать, лицензия указана, архитектура описана достаточно подробно, чтобы её можно было воспроизвести, а вендор опубликовал собственные показатели вместе с примечанием, что измерял их сам. Что пока не подтверждено: является ли это началом семейства Nemotron Labs или разовым экспериментом, выйдет ли статья или пост в блоге, и выдержат ли эти цифры проверку на чьём-либо ещё тестовом стенде. NVIDIA не позиционировала это как запуск — и этот материал тоже. Это прочтение репозитория, появившегося за одну ночь.

Что на самом деле находится в репозитории

Артефакты — это четыре чекпоинта и одна карточка модели. Карточка — это содержательный документ, и именно из неё взято почти всё нижеследующее.

• Форматы — BF16 (W16A16), MXFP8 (W8A16), NVFP4 (W4A16) и экспорт Q5_K_M GGUF для llama.cpp. Чекпоинт MXFP8 является предметом этого материала только потому, что именно он несёт канонический идентификатор репозитория; бенчмарки в карточке измерялись на BF16.

• Размер и форма — 4B параметров всего, плотный стек, а не смесь экспертов, разделённый на 8-слойный входной блок, 20-слойный рекуррентный блок и 8-слойный выходной блок.

• Контекст — до 256K токенов, с 262 144 позициями, проверенными в vLLM с помощью команды запуска, которую NVIDIA поставляет вместе с картой.

• Лицензия — OpenMDW 1.1, разрешительная модель лицензии, допускающая распространение, с текстом, ссылка на который приведена в карточке. В карточке прямо указано, что модель «готова к коммерческому или некоммерческому использованию».

• Язык — только английский, хотя данные предобучения охватывают 43 языка программирования.

• Бюджет обучения — 6 триллионов токенов предварительного обучения, из которых примерно первые 4,5 триллиона выполнялись нативно в NVFP4, прежде чем оставшаяся часть переключилась на BF16, после чего последовала фаза расширения контекста на 300 миллиардов токенов. Данные охватывают период с 2013 года по декабрь 2025 года. Постобучение — это дообучение с учителем на наборе, отобранном NVIDIA, затем обучение с подкреплением в нескольких средах с использованием GRPO.

• Активность репозитория — восемь коммитов в `main` и два участника на момент написания, причём самый новый из них — правка README. Первый — «Upload Dory 4B MXFP8 checkpoint and tokenizer» — появился всего несколько часов назад. Это не репозиторий, который месяцами тихо лежал в открытом доступе и его только что заметили; это репозиторий, который был наполнен сегодня.

Одна деталь, которую карточка делает правильно, а большинство карточек — нет: она указывает точный размер в байтах и SHA-256 GGUF-экспорта, чтобы вы могли проверить то, что скачали. 3 673 288 864 байта, а хеш напечатан в инструкциях по запуску.

Архитектура — это и есть вся причина, по которой это важно.

Если отбросить таблицу бенчмарков, интересный факт о N​VIDIA N​emotron Labs Dory 1.0 4B состоит в том, что это не одна фиксированная модель. Это зацикленная, или латентно-рекуррентная, сеть: 20-слойный рекуррентный блок применяется повторно между входным и выходным блоками, а вход заново подаётся на каждом цикле. Один и тот же чекпоинт поэтому ведёт себя по-разному в зависимости от того, сколько циклов вы запросите, и выбираете вы это на этапе сервинга, а не на этапе обучения.

Отсюда следуют три следствия, и все они вытекают из карточки модели, а не из чьих-либо тестов:

• Эластичные вычисления для инференса — один файл весов обслуживает несколько вычислительных бюджетов. Число циклов: 1 — для минимальной задержки, 2 — рекомендуемое значение по умолчанию, 4 — когда точность на агентных задачах важнее, чем токенов в секунду. Без переобучения, без второго чекпоинта, который нужно скачать и синхронизировать.

• Эффективность по токенам — N​VIDIA утверждает, что дополнительные вычисления на каждый токен уходят в латентное рассуждение, а не в более длинную видимую цепочку рассуждений, поэтому большее число циклов может давать меньше выходных токенов при решении той же задачи. В карточке приведён график коэффициента выходных токенов в подтверждение этого. У этого утверждения есть прямые последствия для затрат — именно поэтому его стоит отметить, а не отмахнуться от него.

• Зацикливание с эффективным использованием памяти — именно оно отвечает на очевидное возражение. Стандартное зацикливание хранит отдельный KV-кэш для каждого цикла, поэтому память растёт с каждым добавленным проходом. Dory поддерживает режим KV-кэширования последнего цикла, который хранит единственный кэш на каждый слой рекуррентного внимания и перезаписывает его на каждом проходе, удерживая объём памяти примерно на уровне одного цикла, сколько бы циклов вы ни запускали. NVIDIA утверждает, что точность при кэшировании последнего цикла остаётся близкой к точности при кэшировании для каждого цикла, а длины выходных данных почти не меняются, и описывает это как собственный экспериментальный результат.

Стек внимания гибридный: чередующиеся слои со скользящим окном и полным вниманием — та же общая схема, к которой пришли малоразмерные модели с длинным контекстом, появившиеся в 2026 году. Само по себе ничто из этого не экзотично. Реже встречается возможность задавать число циклов как параметр развёртывания у 4B-модели с окном 256K.

Таблица бенчмарков, прочитанная как таблица вендора

Все приведённые здесь цифры были получены N​VIDIA в рамках того, что в карточке называется «единообразный стенд (NeMo Gym / Nemo Evaluator SDK)». Никто со стороны не воспроизвёл ничего из этого, модель появилась примерно сутки назад, а счётчики скачиваний во всех четырёх репозиториях показывают ноль. Считайте эти числа заявлением о направлении, а не табло с очками.

Набор для сравнения, который выбрала N​VIDIA, показателен сам по себе: Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B и Qwen3.6-35B-A3B. Примечательно, что оба участника сравнения класса 4B относятся к предыдущему поколению Q​wen, а все остальные участники существенно крупнее. Пройдитесь по всем трём настройкам цикла:

• SWE-bench Verified — 50.3 при одном цикле, 59.5 при двух, 61.8 при четырёх, против 54.7 у Qwen3.5-4B, 61.0 у Qwen3.5-9B, 57.40 у Gemma 4 26B A4B и 73.4 у Qwen3.6-35B-A3B.

• Terminal-Bench 2.1 — 12,5 / 18,1 / 22,2 против 15, 24, 35 и 43. Это строка, где зацикливание даёт наибольший выигрыш и где Dory всё ещё сильнее всего отстаёт от остальных.

• τ³-bench (Banking) — 11.6 / 12.89 / 14.69 против 5.03 у Qwen3.5-4B, 7.22 у Qwen3.5-9B, 13.66 у Gemma 4 26B A4B и 9.54 у Qwen3.6-35B-A3B. Dory здесь с большим отрывом опережает модели Qwen 4B и 9B.

• GDPval-AA-V2 (Elo) — 815 / 946 / 967 против 424, 546, 751,6 и 987. Скачок с одного цикла на два составляет 131 балл Elo — это самое крупное изменение от цикла к циклу во всей таблице.

• GPQA Diamond, без инструментов — 69.19 / 72.41 / 72.16 против 77.71, 80.93, 80.43 и 85.35. Dory проигрывает этот тест всем сравниваемым моделям, включая 4B Qwen.

• HLE, только текст, без инструментов — 8,25 / 10,89 / 10,43 против 11,31, 15,43, 17,79 и 19,18. Та же история.

• IFBench — 74,29 / 77,94 / 79 против 53,83, 59, 77,89 и 57,44. Следование инструкциям — самый сильный относительный результат Dory; на четырёх циклах Dory немного опережает 26B G​emma 4.

• AA-LCR — 63 / 71 / 73 против 64,7, 68,4, 64,6 и 68,5. Извлечение в длинном контексте заметно улучшается с циклами и в итоге опережает все четыре сравниваемых варианта.

• AA-Omniscience (точность) — 10.03 / 10.08 / 10.03 против 15.02, 18.05, 21.13 и 19.95. Зацикливание практически ничего не даёт для сохранённых знаний — это ожидаемый результат и полезная проверка адекватности для остальной части таблицы.

Важна форма этой закономерности. Циклическое повторение даёт наибольший выигрыш на агентных задачах и задачах с использованием инструментов, наименьший — при энциклопедическом воспроизведении знаний, а второй цикл везде даёт гораздо больше, чем третий и четвёртый. Это согласуется с собственной рекомендацией карточки по умолчанию использовать два цикла.

Четыре оговорки, которые содержатся в собственных сносках N​VIDIA

Вот здесь карточка честнее большинства, и здесь читатель, бегло просматривающий таблицу, был бы введён в заблуждение.

• Показатели AA — это не показатели Artificial Analysis. Сравнение NVIDIA с индексом оценок AA явно помечено как «внутренние оценки, рассчитанные в рамках единого оценочного стенда», которые «могут отличаться от официальных оценок Artificial Analysis (AA)». Это внутреннее измерение в сопоставимых условиях, а не внешний рейтинг.

• Столбец длинного контекста использует гибридную конфигурацию. Для AA-LCR в карточке сказано, что использовались исправленные ключи ответов из AA-LCR v1.1, но была оставлена более старая модель-судья, а не более новая. Смешение исправленного набора ключей со старой моделью-судьёй делает этот столбец сопоставимым с другими строками N​VIDIA и не обязательно сопоставимым с чьими-либо ещё.

• Количество повторов сильно разнится. SciCode выполняется восемь раз, AA-LCR — шестнадцать, AA-Omniscience — десять, GDP.pdf — пять, а HLE, Terminal-Bench 4.0 и варианты GDPval-AA — по одному разу. Один прогон на бенчмарке с существенным разбросом — это точечная оценка, а не балл.

• Одна строка в таблице отмечена кинжалом как заявленный, а не измеренный показатель — 73,4 Qwen3.6-35B-A3B на SWE-bench Verified. А значит, самое большое с виду число на табло — то, которое N​VIDIA не запускала сама.

Ничто из этого не делает таблицу неверной. Это делает её внутренним снимком одной лаборатории, и честное прочтение состоит в том, что Dory выглядит действительно конкурентоспособной с моделями 4B и 9B из предыдущего поколения Qwen на агентных задачах, оставаясь позади моделей 26B и 35B, рядом с которыми она поставлена.

Что вы можете запустить сегодня, а что — нет

Для этой модели нет хостируемого эндпоинта, который мы могли бы проверить, ни от NVIDIA, ни от кого-либо ещё. Dory — только веса, и оба пути обслуживания, указанные в карточке, требуют сборки из не влитого пул-реквеста:

• vLLM — поддержка «на рассмотрении» в pull request 60149. Пока это не попадёт в релиз, вы устанавливаете vLLM из этой ветки, а затем запускаете с переопределениями, которые задают количество циклов и режим KV-кэша. В карточке отмечено, что флаг окружения для предварительно скомпилированного ядра позволяет избежать локальной сборки CUDA.

• llama.cpp — поддержка находится в пул-реквесте 30306, а карточка фиксирует конкретную ревизию, а не движущийся head PR, что является правильным чутьём для эталонной конфигурации. Инструкции рассчитаны на нативный ARM64 macOS на Apple Silicon, а путь GGUF ожидает экспорт Q5_K_M с размером в байтах, указанным выше.

Ничто в карточке не говорит о том, что какой-либо из проектов был смержен, и ни в примечаниях к выпуску ни одного из движков нет записи, которая говорила бы об обратном. Если вы хотите запустить Dory на этой неделе, вы собираете из PR.

Полезные заметки по оборудованию: NVIDIA протестировала на H100, B200, B300 и DGX Spark, и единственные опубликованные показатели скорости — это ускорение квантования на Spark, а не данные о пропускной способности. На этом устройстве MXFP8 показывает 1,69× и 1,84× по сравнению с BF16 в зависимости от соотношения длин входа и выхода, а NVFP4 достигает 2,17× и 2,44×. Рекомендуемые параметры сэмплирования: температура 1,0 и top-p 0,95; при этом в пути vLLM режим рассуждений всегда включён.

Почему тихий релиз 4B всё ещё стоит того, чтобы посвятить ему вторую половину дня

Интересная особенность модели, которая появляется без запуска, заключается в том, что её утверждение можно проверить так, как утверждение о запуске проверить нельзя. Нет презентации, заявляющей о победе в категории; есть карточка, утверждающая конкретный, опровержимый механизм — что один чекпойнт 4B масштабирует собственную точность в зависимости от вычислений во время инференса. Это можно проверить на одной GPU с флагом количества циклов, и ответ либо виден в вашем собственном eval, либо нет.

Это также та ситуация, для которой создан слой маршрутизации, и здесь стоит быть точными в том, что мы делаем, а не ограничиваться намеками. OrcaRouter не обслуживает NVIDIA Nemotron Labs Dory 1.0 4B — этой модели нет в нашем каталоге, и нигде нет подтверждённого хостингового эндпоинта для неё. Что действительно даёт один ключ, так это вторую половину сравнения: хостинговые модели, с которыми вы бы сравнивали самостоятельно размещённую 4B, доступны через один API по прайсовой цене провайдера с наценкой 0%, поэтому эксперимент с самостоятельным хостингом не требует второго контракта или второго SDK. Автоматическое переключение при сбое покрывает окно, когда ваш собственный пул GPU насыщен, а DSL маршрутизации позволяет вызову к самостоятельно размещённой модели находиться рядом с хостинговыми за одним эндпоинтом. Если вы проверяете, оправдывает ли эластичная глубина операционную сложность, по крайней мере, до контрольной группы — один ключ.

Что превратило бы это в настоящую историю

Три вещи, и ни одной из них пока нет.

Сначала — объявление. Карточка датирована 16 октября, а репозитории были заполнены за ночь; в ленте разработчиков NVIDIA 15 октября вышел пост о Nemotron, который был посвящён совершенно другой модели. В любой момент может появиться пост в блоге, статья или страница семейства Nemotron Labs, и, вероятно, там будут детали обучения и предполагаемая роль модели, которые карточка оставляет неявными.

Во-вторых, поддержка движков. И vLLM, и llama.cpp сидят на неслитых pull-реквестах. В тот день, когда любой из них смержат, «вы можете это запустить» перестанет означать «вы можете собрать это из ветки».

В-третьих, и это самое ценное, — независимая оценка. Утверждения, которые наиболее стоит воспроизвести, — это те, что выделил поставщик: динамика SWE-bench и Terminal-Bench в зависимости от количества циклов и заявление, что KV-кэширование последнего цикла сохраняет точность. И то, и другое можно проверить с помощью опубликованных инструментов, и ни то, ни другое не проверял никто за пределами NVIDIA.

Точное резюме на сегодня таково: реальные веса в четырёх форматах, разрешительная лицензия, действительно необычная архитектура, путь сервинга, существующий только в виде двух открытых пул-реквестов, и таблица бенчмарков, которая представляет собой собственный стенд одной лаборатории с оговорками, напечатанными в её собственных сносках. Это самая интересная 4B-модель, опубликованная NVIDIA в этом году, и компания ещё не решила рассказать о ней кому-либо.

Ничего из этого не гипотетично: задокументированные сбои ИИ и инциденты с агентами, стоящие за такими релизами, как этот, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, класс уверенности и флаг оспаривания.