Вышла NVIDIA Nemotron 3.5 Super VL: 120B открытых весов, заявление о 5-кратном превосходстве и подвох в 249 ГБ

NVIDIA Nemotron 3.5 Super VL вышла, и характеристика, которая должна решить, стоит ли вам к ней прикасаться, — не та, с которой начинается анонс. Модель представляет собой визуально-языковую систему на 120B параметров с 12B активных параметров, контекстом на 1M токенов, нативным спекулятивным декодированием и поддержкой текста, изображений, документов и видео. Публикация NVIDIA о запуске датирована 15 октября 2026 года и представляет её как самую быструю открытую агентную модель в своём классе — «до 5 раз выше пропускная способность по сравнению с другими моделями в своём классе», — измеренную в рейтинге Artificial Analysis Intelligence Index. Но в публикации не выносится на первый план то, что релиз состоит из двух контрольных точек, что разница между ними — 174 ГБ видеопамяти и что меньшая из них оплачивает эту экономию неравномерно.

Что на самом деле вышло 15 октября

Две вещи произошли в разные дни, и этот разрыв имеет значение, если вы датируете развёртывание. Веса появились на Hugging Face 12 октября в 15:32 UTC. Анонс последовал 15 октября. В собственной карточке модели NVIDIA указывает релиз как 10/15/2026 в версии 1.0 GA, так что производитель считает датой выпуска 15-е; временные метки репозитория говорят об обратном. Ни одна из этих дат не старше недели, и обе достаточно свежие, чтобы ничего в этом релизе ещё не успело быть независимо воспроизведено.

Релиз шире, чем модель, в честь которой назван анонс:

• Nemotron 3.5 Super VL — флагман, 120B всего / 12B активных, в сборке BF16 и сборке NVFP4, обе опубликованы 12 октября.

• Nemotron 3.5 Super VL Base — это чекпоинт до пост-обучения, опубликованный вместе с instruct-версией, что важно, поскольку лицензия позволяет проводить собственное пост-обучение.

• Nemotron 3.5 Bolt 74B-A9B 24GB — edge-модель, которая помещается в 24 ГБ благодаря нативной 2-битной квантизации, опубликована 7 октября.

• Nemotron 3.5 Bolt E4B 4GB — самый маленький в семействе, датирован 23 октября.

Архитектура — это гибрид Mamba-2/Transformer со смесью экспертов и предсказанием нескольких токенов, 512 маршрутизируемых экспертов на слой MoE, визуальный энкодер C-RADIO и визуально-языковой коннектор. Мультимодальная обработка охватывает OCR, таблицы, диаграммы, многостраничные документы и визуальную привязку; видео принимается в формате MP4 длительностью до двух минут, с выборкой 2 FPS и до 256 кадров либо 1 FPS и 128 кадров при 1080p. Лицензия — OpenMDW-1.1; как указано в карточке модели, она готова для коммерческого или некоммерческого использования — по-настоящему разрешительный набор условий и одна из реальных причин, почему этот выпуск привлёк внимание.

Два чекпоинта, и 174 ГБ между ними

Вот здесь релиз становится интересным для всех, кому приходится платить за GPU. NVIDIA опубликовала одну и ту же модель дважды, с двумя разными точностями, и эти две сборки сильно различаются по размеру. Обе приведённые ниже цифры взяты из списков файлов репозитория Hugging Face, где указаны размеры отдельных шардов весов:

• чекпоинт BF16 — 248,94 ГБ в 63 шардах. Заголовок safetensors указывает, что количество параметров составляет 124,45 млрд.

• Чекпоинт NVFP4 — 75,06 ГБ в 88 шардах. Инференс выполняется в режиме W4A4 на Blackwell и W4A16 на любом более старом оборудовании.

• Оборудование, полная точность — в карточке NVIDIA указаны 4× H100 или 2× GB200 для текста, изображений и видео.

• Аппаратное обеспечение, квантованное — 1× H200, 2× H100, 1× GB200 или один DGX Spark, при этом для варианта со Spark требуется драфтер LiLiCorr для спекулятивного декодирования.

• Экономия — 173,88 ГБ, или примерно в 3,3 раза меньше на диске, а также разница между узлом с четырьмя GPU и одним ускорителем.

Читайте это как вопрос экономики, потому что это он и есть. Переход с четырёх H100 на один H200 — это не решение о тюнинге; это разница между моделью, которую можно поставить за продукт в этом квартале, и той, которую нельзя. Рецепт квантования, использованный NVIDIA, также аккуратнее обычного: визуальный энкодер, коннектор, свёртки Mamba и эмбеддинги остаются в BF16, маршрутизатор MoE остаётся в FP32, а всё остальное получается посредством дистилляции с учётом квантования из BF16-модели с 200 итерациями SFT-дистилляции сверху.

От чего отказывается квантованная сборка

NVIDIA опубликовала парную таблицу, сравнивающую две контрольные точки при всех остальных неизменных настройках, — это честный способ проводить такое сравнение, и встречается он реже, чем следовало бы. Пары ниже — это собственные цифры NVIDIA из карточки модели NVFP4, и они не все указывают в одну сторону.

Где квантованная сборка проигрывает:

• Terminal-Bench 2.1 — 66,70 в BF16 против 60,80 в NVFP4. Падение на 5,9 пункта, крупнейшая единичная регрессия в таблице.

• WebVoyager, офлайн — 77,72 против 66,31. Падение на 11,4 пункта в работе браузерных агентов.

• DeepSWE, офлайн — 24,65 против 18,20.

• MMLU-ProX — 76,91 против 73,76.

• tau3-bench banking — 18,88 против 17,78.

Где растёт или держится:

• GPQA-Diamond — 89,52 против 89,90.

• Шортлист APEX — 88.36 против 89.36.

• частота галлюцинаций AA-Omniscience — 30,0 против 27,7, то есть по собственной методике NVIDIA квантованная сборка галлюцинирует немного меньше.

• tau2-bench telecom — 73,19 с обеих сторон, идентично.

• OCRBench v2 EN — 68,12 против 68,34.

• MMLongBench-Doc — 62.82 с обеих сторон.

Закономерность видна и без статистика. Нагрузки на работу с документами, OCR и извлечение знаний почти не меняются, а некоторые даже улучшаются. Долгосрочные агентные нагрузки меняются сильно. Если ваше приложение читает финансовые документы, чеки или изображения страниц и возвращает структурированный вывод, именно чекпойнт на 75 ГБ вам следует обслуживать, и вы почти ничем не жертвуете. Если ваше приложение — это агент, который запускает терминал или управляет браузером на протяжении десятков последовательных шагов, вы обмениваете примерно девять процентов Terminal-Bench на три четверти расходов на GPU, и это решение стоит проверять на собственном eval, а не на таблице вендора.

Показатель 5x и то, с чем он сравнивается

Главный тезис NVIDIA — пропускная способность, и он заслуживает точного прочтения, а не того, чтобы от него отмахнулись или просто повторили. Утверждение таково: «до 5 раз быстрее по пропускной способности по сравнению с другими моделями своего класса», причём класс в посте не определён. Измерение принадлежит NVIDIA и выполнено на стеке обслуживания NVIDIA, при тех значениях параллелизма и том составе последовательностей, которые выбрал рецепт, — собственные таблицы развёртывания в карточке модели указывают 32 параллельные последовательности и 5 или 3 черновых токена спекулятивного декодирования в зависимости от оборудования, а пропускная способность на 20-ходовом агентном прокси — это совсем другое число, чем пропускная способность на однократных промптах.

Ничто из этого не делает утверждение ложным. Это делает его заявлением вендора о вендорской конфигурации рабочей нагрузки, что именно и написано на ярлыке. Стоит отметить, что в этом выпуске нет противовеса: не опубликовано ни одного независимого измерения пропускной способности этих контрольных точек, поэтому единственные цифры в обращении — это цифры NVIDIA. Показатель пропускной способности без указания базовой модели, заявленной конкурентности и заявленной аппаратной конфигурации — это не то, на основе чего можно планировать ёмкость. Если 5x имеет решающее значение для вашего решения, воспроизведите его на собственном трафике, прежде чем оформлять резервирование GPU.

Где модель сильна, по собственной таблице NVIDIA

В карточке отдельной модели также указано, как чекпойнт BF16 соотносится со своими аналогами, и стоит прочитать столбцы справа от столбцов самой NVIDIA, потому что они тоже принадлежат NVIDIA. В сравнении с Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash, Nemotron 3 Ultra, Inkling-Small и GLM-5.3-Flash:

• Video-MME v2 — 32,85 против Qwen3.8-Flash-Next с 45,1 и GLM-5.3-Flash с 14,8. Середина списка и самый широкий разброс среди всех строк.

• OCRBench v2 EN — 68,12, примерно на одном уровне с Qwen3.8-Flash-Next с 67,9 и Qwen3.5-122B-A10B с 68,3.

• Рассуждения CharXiv — 80,82, отстаёт от обеих моделей Qwen.

• MathVision — 78,16, уступает Qwen3.8-Flash-Next с 87,5.

• MMLU-ProX — 76,91, ниже любого столбца с показателями аналогов в этой строке.

• частота галлюцинаций AA-Omniscience — 30,0 против 84,5 у Qwen3.5-122B-A10B и 95,9 у DeepSeek-V4-Flash. В этой строке меньше — лучше, и разрыв не маленький.

• Terminal-Bench 2.1 — 66,70 против 85,8 у Qwen3.8-Flash-Next и 82,7 у GLM-5.3-Flash.

• SWE-bench Verified — 71.10 против GLM-5.3-Flash с 79.10.

• OSWorld-Verified — 51,14 против GLM-5.3-Flash с 14,78.

Такой профиль согласуется с тем, для чего, по словам NVIDIA, предназначена эта модель. Она не лидер в чистом рассуждении или программировании и не претендует на это — в анонсе её сопоставляют с собственной крупнейшей моделью, имея примерно в пять раз меньше параметров, а не с моделями переднего края. Она сильна в дисциплине по части галлюцинаций, извлечении данных из документов и работе с настольными агентами, находится на среднем уровне по видео и отстаёт в самых сложных бенчмарках агентных терминальных задач. Если вы заинтересовались этим релизом потому, что «понимание видео» было в первой строке анонса, то именно на видеопоказатели стоит смотреть внимательно.

Сколько стоит запуск

Прейскурантной цены нет, и это не упущение со стороны NVIDIA — такова форма выпуска открытых весов. NVIDIA не продаёт эту модель за токен по опубликованному тарифу; она публикует веса под лицензией OpenMDW-1.1 и контейнер NIM с проверенными конфигурациями, а вы платите за GPU. Так что вопрос стоимости — это вопрос GPU-часов, и есть два приемлемых ответа: 4× H100 для BF16 или один H200 либо один DGX Spark для NVFP4.

Это та часть арифметики, в которой большинство команд ошибаются, когда сравнивают открытую модель с хостинговым API. Сторона хостинга называет ставку за токен, которая уже включает чужую кривую загрузки. Сторона открытой модели называет чекпоинт и минимальный список оборудования, и реальное число полностью зависит от того, сможете ли вы поддерживать загрузку GPU. Один H200, запускающий чекпоинт на 75 ГБ, который обслуживает один внутренний рабочий процесс несколько сотен раз в день, обходится значительно дороже за вызов, чем тот же чекпоинт при общем развёртывании. Арендуйте, прежде чем покупать, и измеряйте токены в секунду на своих собственных промптах, а не на прокси-нагрузке.

Попробовать это, прежде чем поставить на это продукт

Честный первый шаг для модели, документации которой всего день, — это оценка, а не миграция, и именно здесь шлюз выполняет реальную работу, а не риторическую. Один ключ к более чем 200 моделям по прайсовой цене провайдера с 0 % наценки означает, что сравнение, которое вам действительно нужно, — Nemotron 3.5 Super VL против текстовой или визуальной модели, которую вы используете сегодня, — это изменение строки модели, а не вторые отношения с поставщиком, а автоматическое переключение при сбое между провайдерами означает, что рабочая нагрузка, которую вы только тестируете, может работать параллельно с производственным трафиком, при этом ни одна из них не зависит от другой. Здесь это важно больше, чем обычно: два чекпоинта ведут себя на агентной работе достаточно по-разному, поэтому полезный эксперимент — не «хороша ли эта модель», а «какая из этих двух сборок, на каком моём бенчмарке и при каких затратах на GPU».

Последовательность, которая позволяет не потратить GPU-месяц впустую: сначала выберите нагрузку документного типа, потому что именно там разрыв между BF16 и NVFP4 наименьший и именно там собственные показатели модели лучше всего. Запустите её на меньшем чекпойнте. Оцените её с помощью написанного вами эвала. И только потом решайте, оправдывают ли агентные нагрузки — те, в которых квантованная сборка теряет 5,9 балла на Terminal-Bench и 11,4 на WebVoyager, — сборку на 249 ГБ и четыре GPU.

Что до сих пор остаётся без ответа?

Три пробела стоит отслеживать, потому что они меняют решение, а не маркетинг.

Первое — независимая оценка. Каждое число в этой статье, которое исходит от NVIDIA, помечено как таковое, и в этом релизе таковы все они. Ни одна третья сторона не опубликовала измерение пропускной способности, воспроизведение точности или сравнение на стенде для оценки ни для одного из чекпоинтов. Утверждение о 5-кратном увеличении пропускной способности и парная таблица квантования внутренне согласованы и явно составлены с тщательностью, и они остаются заявленными производителем и невоспроизведёнными. Рассматривайте их как верхнюю границу, пока кто-нибудь за пределами NVIDIA не опубликует те же эксперименты.

Второй — это видео-путь. Модель принимает MP4, и в анонсе на первом месте стоит понимание видео, но на единственном видеобенчмарке в собственной таблице NVIDIA она набирает 32,85, тогда как Qwen3.8-Flash-Next находится на 45,1. Обучающие данные охватывали видео от 10 000 до миллиона часов — это широкий диапазон, который ничего не говорит ни о плотности, ни о домене. Если видео — ваш сценарий использования, это та строка, которую стоит проверить первой, и та, которая с наибольшей вероятностью разочарует презентацию для закупок, построенную на анонсе.

Третий — это базовый чекпойнт. Его публикация под той же лицензией — самая долгоиграющая часть этого релиза, потому что она позволяет команде с собственными данными запускать посттренировку, а не обходить вендорскую модель с помощью промптов. Собственный корпус NVIDIA для посттренировки этого семейства тоже открыт, а размеры эффектов в отчёте NVIDIA достигают десятков пунктов в собственном стенде NVIDIA. Пока никто не опубликовал убедительный независимый файнтюн на основе этого базового чекпойнта. Когда это произойдёт, это даст больше информации о реальном потолке этой модели, чем пост о запуске.

Веса уже доступны для скачивания сегодня, и лицензия позволяет использовать их коммерчески. Чего нельзя скачать, так это независимый бенчмарк и показатель пропускной способности с указанной базой для сравнения — а именно они нужны, прежде чем закладывать продакшен-путь на модель, которой сейчас всего четыре дня.