Титульная карточка для NVIDIA Nemotron 3.5 Super VL — 120B-параметрической визуально-языковой модели на основе смеси экспертов с 12B активных параметров, чьи веса на Hugging Face были выложены 12 октября 2026 года, а пост в блоге производителя вышел следом 15 октября; с пометкой, что цифры заявлены производителем, а независимой таблицы результатов пока нет. На карточке есть надзаголовок «выпущено до анонса», заголовок «NVIDIA Nemotron 3.5 Super VL 120B A12B», подзаголовок «Гибридная визуально-языковая модель Mamba-2 на основе смеси экспертов — веса на Hugging Face 12 октября, собственный пост NVIDIA 15 октября», три скруглённых чипа с надписями «120B всего · 12B активных», «контекст до 1M токенов» и «лицензия OpenMDW-1.1», линия-разделитель и строка с датой: «веса BF16 — 231,8 GiB · 4× H100» и «веса NVFP4 — 2× H100 или 1× H200». Логотип OrcaRouter находится в правом нижнем углу.
Guides & Insights

NVIDIA Nemotron 3.5 Super VL: открытая модель на 120 млрд параметров, вышедшая раньше собственного поста в блоге

Автор

Rowan Sterling

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

Веса для N​VIDIA N​emotron 3.5 Super VL появились на Hugging Face за три дня до того, как N​VIDIA написала о них. Репозиторий с полной точностью, nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, был создан в 2026-10-12T15:32:06Z. Его квантованный собрат, nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4, появился на 24 секунды позже. Пост в собственном блоге N​VIDIA для разработчиков, объясняющий эту модель, датирован 15 октября 2026 года — тем же днём, который указан в её карточках модели: «Hugging Face - 10/15/2026». Так что публичные артефакты и публичный анонс появились в разные дни, и разрыв достаточно мал, чтобы ни одна из дат не была ошибочной и обе заслуживали того, чтобы о них знать.

Далее следует то, что на самом деле говорят репозиторий и пост NVIDIA об этой визуально-языковой модели со 120 млрд параметров и 12 млрд активных: архитектура, расчёты для развёртывания, места, где её собственная опубликованная таблица показывает, что она проигрывает, и лицензионная загвоздка, о которой в блог-посте ни разу не упоминается.

Что на самом деле представляет собой Nemotron 3.5 Super VL

NVIDIA описывает её в собственном посте как «открытую, настраиваемую мультимодальную модель», созданную для специализированных агентных рабочих процессов — рассуждений, следования инструкциям и использования инструментов — в сочетании с пониманием текста, изображений, документов и видео в одном наборе весов. Смысл такого сочетания, как его формулирует NVIDIA, состоит в том, что команды «могут решать текстовые и визуальные задачи, не развёртывая отдельные текстовые и визуально-языковые модели и не передавая контекст задачи между ними».

Архитектура, согласно карточке модели:

• Shape — 120B общих параметров, 12B активных на токен. Модель типа mixture-of-experts с 512 маршрутизируемыми экспертами на слой MoE.

• Основа — чередующиеся слои Mamba-2, внимания и MoE, гибридная архитектура N​emotron, унаследованная от линейки N​emotron 3.

• Зрение — это визуальный энкодер C-RADIO плюс визуально-языковой коннектор. Строка архитектуры transformers — NemotronH_Omni_Reasoning_V3, тип модели — nemotron_h_omni.

• Контекст — до 1 млн токенов, при этом промпт, изображения, история диалога, результаты работы инструментов и сгенерированный ответ используют это окно совместно.

• Спекулятивное декодирование — нативная голова Multi-Token Prediction, поэтому для рецептов vLLM и SGLang, публикуемых N​VIDIA, не требуется отдельно скачивать драфтер.

• Режим рассуждений — переключаемый через шаблон чата с помощью enable_thinking, с medium_effort в качестве промежуточной настройки. Токены рассуждений и ответ используют один и тот же max_tokens-бюджет, на что карточка явно указывает, поскольку это обычная причина усечённого вывода агента.

• Входные данные — текст, RGB-изображения (JPEG, PNG) и видео MP4 длительностью до двух минут. Рекомендуемая в рецепте vLLM частота выборки видео — 2 FPS и 256 кадров при коэффициенте прореживания 0,5; для 1080p в карточке указано снизить до 1 FPS и 128 кадров.

• Языки — английский, испанский, французский, немецкий, итальянский и японский во фронтматтере карточки. N​VIDIA также сообщает, что обучающий корпус охватывает английский плюс ещё 19 других разговорных языков и 43 языка программирования.

The Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16, showing the repository name, the image-text-to-text, transformers, safetensors and PyTorch tags, the custom_code tag, the model type tag nemotron_h_omni and the green 'License: openmdw-1.1' badge; the description naming it the full-precision release of NVIDIA Nemotron 3.5 Super VL, a vision-language model for reasoning, coding, tool use, document understanding and video understanding; the architecture paragraph describing interleaved Mamba-2, mixture-of-experts and attention layers with a C-RADIO vision encoder and a vision-language connector, 120B total and 12B active parameters, context lengths up to 1M tokens and native Multi-Token Prediction; the sentence 'This model is ready for commercial or non-commercial use.'; and a Model Summary listing total parameters 120B (12B active), a Mamba-2-Transformer hybrid Mixture of Experts architecture with a C-RADIO vision encoder, BF16 precision, context length up to 1M tokens, text, images and video inputs, deployment on 4x H100 or 2x GB200, native Multi-Token Prediction speculative decoding, a reasoning mode configurable through the chat template, and a recommended sampling line. The sidebar shows the downloads figure, a model size of 124B params, a tensor type of BF16/F32, the file count, and a follow count for NVIDIA.

Два уровня точности — и память, которую они дают

N​VIDIA выпустила модель дважды, и скачок объёма памяти между этими двумя выпусками — единственное наиболее важное для принятия решений число в релизе.

• BF16 — эталон полной точности. Репозиторий содержит 64 шарда safetensors общим объёмом примерно 231,8 ГиБ. Собственный рецепт сервинга от N​VIDIA — --tensor-parallel-size 4 на 4× H100 или TP2 на 2× GB200.

• NVFP4 — 4-битные веса и активации с дистилляцией с учетом квантования, которая, по словам NVIDIA, «закрывает разрыв в точности, который вносит квантование». Тот же чекпоинт работает на оборудовании, отличном от Blackwell, с 4-битными весами и 16-битными активациями, а QAD также позволяет хранить KV-кэш в NVFP4 вместо FP8. Поскольку квантование происходит во время обучения, а не после, NVIDIA заявляет, что это не добавляет накладных расходов на инференс. В карточке NVFP4 указано развертывание на 1× DGX Spark, 1× H200, 2× H100 или 1× GB200.

Последняя строка — как раз практическая. Модель на 120B, которая помещается на двух H100 в FP4, а не на четырёх в BF16, — это совсем другой разговор о закупках, и именно поэтому квантованный репозиторий — тот, на который N​VIDIA указывает для эффективного обслуживания. Третий собрат, N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr, появился на Hugging Face за день до основной пары, без каких-либо анонсов; в блоге N​VIDIA позже поясняется, что LiLiCorr — это открытая техника спекулятивного декодирования, и он назван «рекомендуемым драфтером для инференса с низкой задержкой с N​emotron 3.5 Super VL» на DGX Spark. Его репозиторий появился на четыре дня раньше этого пояснения — наглядная иллюстрация того, как всплыл этот релиз.

За этим скачком стоит правомерный вопрос — что уровень NVFP4 теряет по сравнению с эталоном BF16, — но собственный ответ NVIDIA — это утверждение о методологии обучения, а не опубликованная таблица точности с прямым сопоставлением двух чекпоинтов. Если ваше решение зависит именно от выбора точности, то такого сравнения в репозитории нет.

Где его собственная таблица бенчмарков показывает, что он проигрывает

Карточка модели содержит большую таблицу бенчмарков, подготовленную вендором, — примерно 40 строк, — охватывающую рассуждения, программирование, агентные задачи, длинный контекст, многоязычную и мультимодальную работу. N​VIDIA здесь на удивление откровенна: она называет сравнения, и некоторые из них не льстят модели. Её собственные показатели против ближайшего открытого конкурента в той же конфигурации, Qwen3.5-122B-A10B:

• GPQA-Diamond — N​emotron 3.5 Super VL 89,52 против Qwen3.5-122B-A10B 86,7 (N​emotron впереди)

• HLE, только текст — 31,79 против 24,2 (N​emotron впереди)

• MMLU-ProX — 76,91 против 83,2 (Qwen опережает более чем на шесть пунктов)

• CritPt — 10,86 против 1,1 (Nemotron с большим отрывом впереди)

• LiveCodeBench v6 — 88.22 против 76.7 (N​emotron впереди на этом стенде)

• SWE-bench Verified — 71,10 против 71,9 (ничья, в пределах погрешности)

• SWE-bench Pro — 51.78 против 44.9 (N​emotron впереди)

• tau2-bench retail — 69,24 против 55,4 (Nemotron впереди)

• tau2-bench telecom — 73.19 против 87.2 (Qwen опережает на 14 пунктов)

• AA-LCR v1.1 — 68,62 против 75,1 (Qwen впереди на длинном контексте)

• BabyVision — 29.60 vs 35.7 (Qwen впереди)

• MathVision — 78.16 против 83.3 (Qwen впереди)

• OCRBench v2, английский — 68.12 против 68.3 (практически на одном уровне)

• OCRBench v2, китайский — 59,15 против 67,3 (Qwen опережает на восемь пунктов)

• V* — 85.60 против 91.1 (Qwen впереди)

• IFBench — 70,86 против 67,6 (N​emotron впереди)

• AA-Omniscience index — 4.03 против -36.1 (оба слабые; Nemotron гораздо менее отрицательный)

Об этой таблице стоит сказать три вещи, а не позволять победам говорить за неё.

Во-первых, каждое число в ней — как у N​emotron, так и у каждой базовой модели — заявлено вендором и собрано с помощью собственного стенда N​VIDIA. В карточке об этом прямо сказано: «Все результаты оценки для N​emotron 3.5 Super и базовых моделей были собраны через NeMo Gym», а примечания о воспроизводимости опубликованы в репозитории NeMo Gym. Это более качественное раскрытие информации, чем удаётся большинству лабораторий, и всё же это не независимая оценка. Читайте эти столбцы как измерения одной лаборатории для нескольких моделей, а не как нейтральную таблицу лидеров.

Во-вторых, сама N​VIDIA перечисляет бенчмарки, которые не были включены в её открытый инструментарий, — BabyVision, CharXiv-RQ, MathVision, MMLongBench-Doc, OCR-Reasoning, OCRBench-v2, V* и Video-MME-v2 — и говорит, что в них использовались официальные реализации или «внутренняя обвязка, которую мы планируем открыть в будущем». Каждая строка таблицы, относящаяся к мультимодальным моделям, сопровождается этой оговоркой.

В-третьих, закономерность в проигрышах последовательна, а не случайна. Отставания — в OCR для китайского языка, рассуждениях с длинным контекстом, а также в визуальной математике и чтении графиков. Победы сосредоточены в бенчмарках на вызов инструментов и краткосрочных агентных задачах — CritPt, tau2-bench retail и airline, APEX, Terminal-Bench 2.1 с 66,70 против 48,70 у Q​wen, SWE-bench Pro. Для модели, которую N​VIDIA позиционирует как исполнителя в мультимодельном агентном стеке, это оправданный профиль. Если ваша рабочая нагрузка — разбор китайских документов или очень длинный аналитический контекст, та же таблица говорит вам о другом.

Two-column scoreboard card titled 'Nemotron 3.5 Super VL — vendor-stated vs not yet established', with the kicker 'Everything in the left column comes from NVIDIA's own model card and blog post. Nothing in the right column exists yet.' The left column, headed 'NVIDIA states', lists Shape 120B total / 12B active, Architecture Mamba-2 hybrid MoE, Vision encoder C-RADIO + connector, Context up to 1M tokens, Licence OpenMDW-1.1, Checkpoints BF16 and NVFP4, Context reuse attention + Mamba state, GPQA-Diamond 89.52, Terminal-Bench 2.1 66.70 and SWE-bench Pro 51.78. The right column, headed 'Not yet established', lists Independent benchmark none published, BF16 vs NVFP4 accuracy no published delta, Harness ownership NVIDIA NeMo Gym, Multimodal scaffolding not yet released, 1M-context recall untested outside, Post-training gains vendor + customer, MMLU-ProX 76.91 vs 83.2, tau2-bench telecom 73.19 vs 87.2, OCRBench v2 Chinese 59.15 vs 67.3 and MathVision 78.16 vs 83.3. A footer notes that the left column is vendor-reported and that the right-column pairs are NVIDIA's own measured losses against Qwen3.5-122B-A10B collected via NeMo Gym, not independently. The OrcaRouter logo sits in the bottom-right corner.

Модели после постобучения превосходят базовые, и N​VIDIA лидирует в этом.

Самое конкретное утверждение о точности в блоге N​VIDIA — это не результат бенчмарка. Это утверждение о кастомизации: что дообучение базовой модели N​emotron 3.5 Super VL может позволить специализированной рабочей нагрузке превзойти Claude Opus 5. Пример N​VIDIA — заявления по медицинскому страхованию, где приводится рост на 44% от дообучения.

В том, как NVIDIA сообщает об этом, важны две вещи. Эта цифра приписывается заявленному приросту от дообучения, а не сравнению модели с моделью на публичном бенчмарке — что является другим и более слабым видом доказательства. И в собственном посте NVIDIA осторожно отмечает, что эти улучшения сопровождаются оговорками: «базовая модель сама по себе не превзошла проприетарные передовые модели» — это честная версия этого предложения, и формулировка такова, что преимущество открытых весов заключается в том, что компания может дообучить модель на своих данных и запустить результат на своей инфраструктуре.

Сторона вендора в той же истории слабо подкреплена. N​VIDIA называет Scale AI, Ramp и AI21 организациями, которые дообучали модель; Ramp цитируется с ожиданием «до 50% более высокой пропускной способности и в 10 раз меньшей задержки» для извлечения данных из чеков в JSON, Scale AI — 40-кратного снижения затрат на инференс и 5-кратного улучшения задержки при обработке кредитов поставщиков. Это заявленные клиентами ожидания и результаты, опубликованные вендором, за которыми не стоит независимых измерений. Вполне возможно, так оно и есть. Никто за пределами этих компаний не проверял.

Что NVIDIA всё же публикует и что действительно помогает — это набор рецептов: NeMo AutoModel для SFT и LoRA, NeMo RL и NeMo Gym для обучения с подкреплением и оценки на основе сред, NeMo Data Designer для генерации мультимодальных данных, а также 45 наборов данных для задач «зрение — язык» и ряд наборов данных для агентного использования инструментов, финансовых рассуждений и следования инструкциям на Hugging Face. Учебное руководство по воспроизведению опубликованных бенчмарков находится в репозитории NeMo Gym. Последняя часть действительно полезна — это значит, что вы можете попытаться самостоятельно прогнать собственные оценки NVIDIA, а не доверять таблице.

Лицензия не соответствует тому, что подразумевает маркетинг.

Вот деталь, ради которой стоит читать репозиторий, а не пост в блоге.

В публикации N​VIDIA модель названа «открытой, настраиваемой мультимодальной моделью», а также упоминаются «открытые веса модели». Оба утверждения верны в отношении весов. Ни одно из них не является утверждением о лицензии. Во фронтматтере карточки модели указано license: other, с license_name: openmdw-1.1, а регулирующие условия — это Лицензионное соглашение OpenMDW версии 1.1 по адресу openmdw.ai/license/1-1/. В карточке прямо сказано, что модель «готова к коммерческому или некоммерческому использованию», а собственные формулировки N​VIDIA о развёртывании говорят о запуске в «поддерживаемых локальных средах, средах центров обработки данных или облачных средах».

Итак: коммерческое использование разрешено — согласно N​VIDIA. Но «открытый» здесь означает OpenMDW-1.1, а не Apache 2.0 и не MIT. Если в вашей организации есть список предварительно одобренных open-source лицензий, именно этот список нужно проверить прежде всего — и практическая разница между «открытыми весами» и конкретной именованной лицензией — это ровно та пропасть, обнаружение которой на позднем этапе стоит целого цикла релиза. Это не критика модели, и OpenMDW не является ограничительной лицензией. Это напоминание о том, что прилагательное из поста в блоге играет меньшую роль, чем frontmatter карточки.

Пробуем это, не ставя на карту продакшн-путь.

Опубликованные рецепты развёртывания явно ориентированы на одну машину, и это определяет, как это оценивается. Команды vLLM от NVIDIA в обеих карточках выполняются при TP4 на 4× H100 или TP2 на 2× GB200 с --trust-remote-code — модель поставляется с собственным кодом моделирования — а рецепт SGLang использует lmsysorg/sglang:v0.5.20 на двух GB200. Для DGX Spark существует выделенный чекпоинт драфтера LiLiCorr, и NVIDIA рекомендует его во всех сценариях Spark; компания утверждает, что генерация токенов до 2,3 раза быстрее, чем декодирование без спекуляции. На 16 B200 с Dynamo NVIDIA упоминает обслуживание до 8 раз большего числа пользователей при снижении задержки первого токена на 85% при 50 токенах в секунду на пользователя. Каждое из этих измерений — внутреннее измерение производителя.

Это реальная стоимость оценки для модели, которой всего три дня, у которой нет независимой таблицы результатов и мультимодальные строки которой сопровождаются оговоркой о неоткрытой обвязке. Дешёвый способ взглянуть на это — не разворачивать сначала четыре H100.

Дешёвый способ взглянуть на релиз, которому всего пара дней, — через единый шлюз, а не через второй заказ железа. В OrcaRouter это означает один ключ для более чем 200 моделей по каталожной цене провайдера с наценкой 0%, без отдельного контракта и без изменений в коде, а также автоматическое переключение при сбое между провайдерами, так что модель, которую вы ещё не проверили, не становится единой точкой отказа на продакшн-пути. Этой конкретной модели пока нет в каталоге — N​VIDIA выпустила её несколько дней назад, — поэтому сегодня она доступна через собственный API вендора или сторонние платформы, которые её предоставляют. Что это вам даёт — это сравнение, которое можно провести уже сейчас: поставьте кандидатов, которых она якобы превосходит, за один и тот же ключ, прогоните через них свои задачи и сравните с моделями, которыми вы уже пользуетесь, и пусть слой маршрутизации сделает замену изменением конфигурации, а не миграцией. Только тогда вопрос о 4× H100 или 2× GB200 станет решением о покупке, а не догадкой.

Дело не в том, что маршрутизация заменяет бенчмарк. Дело в том, что решение, которое вы можете принять уже сегодня, — это какие задачи эта модель должна взять на себя в вашем стеке, и это решение не требует заказа оборудования.

Что ещё не установлено

Честный список неизвестных короток, но значим, и именно от него следует отталкиваться, а не от маркетинга:

• Независимой оценки не существует. Каждый балл, приведённый выше, взят из запуска NeMo Gym от NVIDIA. В блоге NVIDIA приводятся ссылки на бенчмарк-тестирование Artificial Analysis и независимую оценку EXO Labs, помещающую модель на границу Парето «точность — выполнение задач» для DGX Spark, но сама карточка модели не публикует ни одной сторонней оценки, и на момент написания ни на одном из крупных агрегаторов нет независимой страницы этой модели.

• Разница в точности между BF16 и NVFP4 не определена количественно. Аргумент NVIDIA в пользу NVFP4 строится на том, что дистилляция с учётом квантования закрывает этот разрыв. Но это заявление о методологии, а не опубликованное сравнение точности между двумя чекпоинтами, которые вы действительно можете скачать.

• Кампания по тестированию частично проводилась на собственных инструментах NVIDIA.Восемь мультимодальных бенчмарков использовали официальные реализации или внутреннюю инфраструктуру, которая, по словам NVIDIA, «планируется к открытию исходного кода в будущем», — а значит, эти результаты в принципе воспроизводимы, когда-нибудь, но не сегодня.

• Прирост после обучения приводится со слов поставщика и заказчиков. Заявление о 44-процентном приросте, а также показатели Ramp и Scale AI озвучены NVIDIA в отношении собственных клиентов. Независимо их никто не измерял.

• Поведение на длинном контексте при полном окне в 1M токенов не проверялось за пределами вендора. Архитектура рассчитана на это, и NVIDIA публикует рекомендации по развёртыванию для этого. Сохранится ли точность извлечения на полном миллионе токенов при работе с реальными документами — это как раз то, что проявляется в независимом тестировании и не отражается в таблице вендора.

Timeline card titled 'How this model surfaced, and what would change the picture', with the kicker 'Two dates matter, and they are three days apart.' A gradient axis carries three nodes: '12 Oct 2026', described as the BF16, NVFP4 and Base repos created on Hugging Face within 41 seconds of each other with no announcement; '15 Oct 2026', described as NVIDIA's developer blog post explaining the model, with both model cards dating themselves the same day; and 'Next', described as the first score that was not collected through NVIDIA's own NeMo Gym harness. Below the axis sit three cards headed 'Act now if', 'Wait if' and 'Watch for', covering the workloads that fit the model, the Chinese-language OCR, long-context and visual-maths clusters where NVIDIA's own table shows the largest gaps, and the independent BF16-versus-NVFP4 comparison worth waiting for. A footer notes that the repo timestamps were read from the Hugging Face API, that the blog and card dates are as published by NVIDIA, and that all benchmark figures are vendor-reported. The OrcaRouter logo sits in the bottom-right corner.

Стоит ли вам действовать сейчас?

Если вы создаёте агентов для документов, графиков, видео или мультиинструментальных агентов и уже заложили в бюджет инференс класса 120B, на этой неделе стоит всерьёз присмотреться: уровень NVFP4 позволяет запустить его на двух H100, лицензия допускает коммерческое использование, а строки с вызовом инструментов в таблице N​VIDIA — самая сильная его часть. Конфигурация с 12B активных параметров также означает, что он дешевле за токен, чем можно предположить по общим 120B, — и на стороне OrcaRouter изменение цены поставщиком на него вступает в силу в тот же день, а не после расчётного цикла, потому что списочная цена поставщика передаётся без добавления наценки.

Если ваша рабочая нагрузка опирается на OCR для китайского языка, очень длинный аналитический контекст или визуальную математику, то собственная таблица N​VIDIA даёт вам три конкретные причины дождаться независимых цифр, а не делать выводы из маркетинга.

В любом случае, следить стоит не за очередным постом вендора, а за первым независимым тестом, который прогоняет чекпоинт NVFP4 против BF16 на одном и том же стенде, и за первой сторонней оценкой, собранной не через NeMo Gym. Пока их нет, это хорошо задокументированная, с удобной лицензией, по-настоящему эффективная открытая модель, чьи самые громкие заявления целиком зиждутся на собственных измерениях её создателя — и чей собственный создатель был достаточно прозрачен, чтобы опубликовать строки, где она проигрывает.

Этот разрыв между тем, что измеряет табло результатов, и тем, с чем сталкивается реальное развёртывание, — как раз поэтому этот реестр важен: задокументированные сбои ИИ и инциденты с агентами, связанные с моделями этого класса, собраны в Архиве инцидентов ИИ OrcaRouter, где каждая запись содержит собственные источники, уровень серьёзности, оценку уверенности и отметку об оспаривании.

© 2026 OrcaRouter

Провайдерам

Управляете инференс-платформой? Разместите свои модели на OrcaRouter.

providers@orcarouter.ai

Присоединяйтесь к сообществу

Discordsupport@orcarouter.aiXGitHubYouTube