Nemotron 3.5 Super на Ollama: 120B-визуальная модель, которую вы могли запустить ещё до того, как NVIDIA её анонсировала

Около двадцати часов локальный путь к NVIDIA Nemotron 3.5 Super существовал ещё до объявления о том, что он существует. Ollama опубликовала контрольную точку в своей библиотеке 14 октября 2026 года в выпуске v0.40.5, подтянув обновление llama.cpp, которое добавило поддержку Nemotron 3.5, и выложила девять тегов 120-миллиардной визуально-языковой модели — ollama run nemotron-3.5-super, и вы уже запускаете её. Собственный пост NVIDIA в новостной ленте о тех же весах, опубликованный под более полным именем NVIDIA Nemotron 3.5 Super VL, появился на следующий день после полудня, 15 октября, в 15:00 UTC. Сами веса лежали на Hugging Face с 12 октября, в репозитории под названием NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16, где поле даты выпуска в самой карточке модели уже значилось как 10/15/2026.

Ничто из этого не скандал. Это обычная форма выпуска модели с открытыми весами в наши дни: артефакт выходит, фреймворки наперегонки добавляют его поддержку, а маркетинг подтягивается следом. Но это меняет то, ради чего стоит читать страницу Ollama. То, что появилось 14 октября, — не анонс продукта с прилагающимся рантаймом, а рантайм с прилагающимся продуктом, и два документа расходятся в нескольких вещах, которые важны, если вы собираетесь потратить на это 90 ГБ диска.

Что на самом деле вошло в v0.40.5

Примечание к выпуску Ollama необычно конкретно, что удобно. В нём Nemotron 3.5 Super описывается как визуально-языковая модель для программирования, рассуждений, использования инструментов и понимания документов, построенная на гибридной основе mixture-of-experts из Mamba-2/Transformer с 12 млрд активных параметров на токен из 120 млрд общих, в паре с визуальным энкодером C-RADIO. Заявлены вызов инструментов, режим размышления вкл./выкл. и контекст до 1 млн токенов. Две строки, которые важнее всего для тех, кто уже использует Ollama, спрятаны ниже: Обновлены llama.cpp (добавлена поддержка Nemotron 3.5) и MLX.

Эта единственная строка — вся причина, по которой загрузка вообще работает. Ollama направляет этот чекпоинт через свой llamacpp раннер в формате GGUF — манифест реестра прямо об этом говорит — так что «Ollama поддерживает Nemotron 3.5 Super» и «llama.cpp поддерживает Nemotron 3.5 Super» — это одно и то же утверждение. Если вы используете любую версию Ollama старше 0.40.5, то вы не в их числе. Блоб конфигурации модели содержит "requires":"0.40.5", поэтому ограничение по версии применяется принудительно, а не просто рекомендуется.

В том же примечании к выпуску также упоминается родственная модель Nemotron 3.5 Bolt, которая дистиллирует Super до 74 млрд параметров с 9 млрд активных и, согласно примечанию, настроена так, чтобы помещаться на 24-ГБ GPU NVIDIA со спекулятивным декодированием через входящий в комплект драфтер. Это другая сборка и другой уровень аппаратного обеспечения; держите это отдельно в голове, потому что название провоцирует путаницу.

Девять артефактов и сколько на самом деле весит каждый из них

Страница библиотеки показывает размерную шкалу. Манифест реестра, лежащий в её основе, содержит реальные размеры в байтах, и эти два показателя округляются по-разному, поэтому вот числа из самих манифестов, а не из округлённых бейджей:

• q4_K_M — 88 419 818 592 байта, или 82,3 ГиБ (на странице библиотеки указано 80 ГБ–90 ГБ). Имена тегов :latest, :120b, :120b-a12b и :120b-a12b-q4_K_M все указывают на один и тот же слой, поэтому четыре из девяти записей — это один артефакт под четырьмя именами.

• q8_0 — 131 601 243 232 байта, 122,6 ГиБ, выводится как 133 ГБ.

• bf16 — 247 403 355 232 байта, 230,4 ГиБ, отображается как 249 ГБ. Это чекпоинт полной точности в обёртке GGUF, и это единственный тег здесь, который находится далеко за пределами потребительского железа.

• MLX nvfp4 — всего 79,56 ГБ, самый маленький в наборе, и NVFP4 — это формат, в котором карта самой NVIDIA поставляется как полноценный чекпойнт, а не как сторонняя квантизация.

• MLX mxfp8 — 129,60 ГБ всего; MLX-аналог занимает примерно столько же, сколько q8_0.

• MLX bf16 — в общей сложности 248,92 ГБ, незначительно больше, чем GGUF bf16, потому что MLX хранит тензоры иначе.

• Проектор — каждый тег, без исключения, несёт 1 733 696 896-байтовый mmproj-bf16.gguf медиа-слой. Это 1,61 ГиБ визуального энкодера, который идёт в довесок к каждой загрузке, включая самую маленькую. Путь изображения не опционален и не является отдельной загрузкой.

Три из девяти записей — те, что относятся к MLX, — помечены для Apple silicon, а не для CUDA, и на странице библиотеки каждая обозначена просто «MLX». Если вы выбираете тег на Mac, nvfp4объёмом 79,56 ГБ — это тот, что помещается в машину с 96 ГБ или 128 ГБ унифицированной памяти ещё с запасом, а mxfp8объёмом 129,60 ГБ вообще не поместится в машину со 128 ГБ, если учесть KV-кэш.

Страница библиотеки и манифест расходятся относительно длины контекста.

Теги GGUF заявляют контекстное окно размером 1M токенов. Три тега MLX не заявляют ничего — в столбце указано "- context window", тогда как у остальных указано "1M". Либо путь MLX не был настроен для конфигурации с длинным контекстом, либо страницу просто не заполнили, но снаружи это неразличимо, и честная позиция такова: заявление о длинном контексте подтверждено для тегов GGUF и не подтверждено для тегов MLX.

Есть второй разрыв в том же направлении. Конфигурационный блоб для тега по умолчанию объявляет "model_type":"123.6B", тогда как все человекочитаемые обозначения говорят о 120B. Это не расхождение в весах; это расхождение в том, как количество параметров округляется между двумя системами, и полезно знать, какое число называет вам конкретный инструмент.

И третья — та, что с наибольшей вероятностью укусит: в блобе params поставляется {"draft_num_predict":3,"temperature":1,"top_p":0.95}. Эти значения сэмплирования — рекомендованные настройки из карточки модели, но для текста. Для работы со зрением карточка рекомендует другую пару: temperature 0.6 против top_p 0.95. Так что значение по умолчанию в Ollama подогнано под текстовую половину модели, которую Ollama рекламирует как модель для зрения. Если ваш первый опыт работы с ней на графиках или отсканированных страницах разочарует, это первая ручка, которую стоит покрутить, прежде чем делать выводы о самом чекпоинте.

Поле draft_num_predict: 3 заслуживает отдельной строки. Это параметр спекулятивного декодирования, и в манифесте нет отдельного слоя draft-модели — только GGUF модели и проектор. Так что любая спекуляция, выполняемая средой выполнения, опирается на встроенную в модель голову многотокенного предсказания, а не на отдельный драфтер LiLiCorr, о котором карточка NVIDIA упоминает, что он поставляется вместе с BF16- и NVFP4-чекпоинтами. Это разумное инженерное решение, и оно также означает, что путь через Ollama не является точной конфигурацией, которую описывают показатели пропускной способности производителя.

Что конфигурационный блоб тихо сообщает вам

Четыре поля в конфигурации манифеста информативнее, чем можно судить по их размеру.

• model_family: nemotron_h_moe — строка семейства не просто nemotron. Всё в вашем стеке, что переключается по семейству моделей, чтобы выбрать шаблон чата или токенизатор, не совпадёт при наивном сопоставлении по префиксу.

• рендерер: nemotron-3.5-super — выделенный рендерер, поэтому шаблон чата действительно принадлежит именно этой модели, а не является унаследованным по умолчанию.

• парсер: nemotron-3-nano — а здесь парсер позаимствован у меньшего собрата Nano. Формат вывода в режиме размышления и для вызовов инструментов, очевидно, был достаточно стабильным во всём семействе, поэтому новый парсер не потребовался. Это также означает, что если вы уже реализовали обработку вызовов инструментов для Nemotron 3 Nano, то здесь она, скорее всего, будет работать без изменений.

• file_type: Q4_K_M — тег по умолчанию — это 4-битное квантование, и именно по этой конфигурации большинство людей будут судить об этой модели.

Слой лицензии — это блок размером 2 618 байт, содержащий Лицензионное соглашение OpenMDW версии 1.1, то есть ту же лицензию, которую карточка на Hugging Face называет как openmdw-1.1. Она разрешительная, коммерческое использование допускается, и её стоит прочитать, прежде чем предполагать, что это Apache-2.0, только потому, что окружающая экосистема Ollama в основном именно такая.

Бенчмарки: один набор — вендорский, другой — нет.

Опубликованная самой NVIDIA таблица обширна и полностью основана на данных, заявленных самой компанией. В ней модель показывает 89,52 на GPQA-Diamond, 31,79 на Humanity's Last Exam в текстовом режиме, 76,91 на MMLU-ProX, 88,22 на LiveCodeBench v6, 71,10 на SWE-bench Verified, 67,72 на SWE-bench Multilingual, 51,78 на SWE-bench Pro, 66,70 на Terminal-Bench 2.1, 70,86 на IFBench, 62,82 на MMLongBench-Doc, 78,16 на MathVision и 68,12 на OCRBench v2 для английского языка против 59,15 для китайского. Строки для агентных задач сильны: 69,24 в розничной торговле, 76,50 в авиаперевозках и 73,19 в телекоме на tau2-bench. Компания также утверждает, что в рейтинге Artificial Analysis Intelligence Index модель обеспечивает до 5 раз более высокую пропускную способность, чем другие модели её класса, а её запуск на NVIDIA Dynamo позволяет организациям обслуживать до 8 раз больше пользователей при задержке на 85% ниже. Это цифры вендора, полученные вендором на инфраструктуре вендора, — воспринимайте их как спецификацию, а не как аудит.

Независимая картина менее полна, но полезнее именно потому, что менее полна. Artificial Analysis сейчас присваивает этому чекпоинту значение Intelligence Index 26, которое описывает как значительно превышающее медиану 8 для моделей с открытыми весами аналогичного размера — реальный разрыв, и значимый, если вы исходили из того, что открытая 120B-модель от производителя оборудования окажется где-то в середине поля. На той же странице зафиксировано 170 млн выходных токенов, израсходованных при прогоне Индекса, против медианы в 100 млн, что она трактует как «несколько многословно»: это reasoning-модель с режимом расширенного мышления, а многословность — это строка затрат, а не сноска. Она подтверждает контекст в 1,0 млн, 120B общих параметров при 12B активных, ввод изображений с выводом текста и лицензию OpenMDW-1.1.

Единственное, чего эта страница не может вам сообщить, — это сколько стоит один токен, потому что нет цены за хостинг, которую можно было бы назвать. Ответ самого Artificial Analysis на вопрос, доступна ли модель через API, таков: это модель с открытыми весами, которую можно развернуть самостоятельно. Вся экономическая суть — в одном предложении: ваши предельные издержки — это электроэнергия и GPU-час, а постоянные издержки — это скачивание.

Что нужно, чтобы на самом деле запустить это

Карточка модели рекомендует четыре H100 или два GB200 для выпущенного чекпоинта, а рецепт vLLM задаёт тензорный параллелизм 4 и спекулятивную конфигурацию с методом mtp. Это решение для дата-центров, ориентированное на BF16. Интересный вопрос для того, кто читает листинг Ollama, заключается в другом конце лестницы.

При q4_K_M 82,3 GiB весов плюс 1,61 GiB проектора позволяют разместить модель на одной карте с 96 GB или на Mac с 128 GB объединённой памяти, причём запас под KV-кэш быстро сокращается по мере увеличения контекста. При заявленных 1M токенов кэш уже не поместится рядом с весами на таком классе оборудования, что бы ни говорил шильдик: длинный контекст на одной машине означает обмен на параллельность, а не бесплатное её получение. Планируйте рабочий контекст значительно ниже потолка и воспринимайте цифру 1M как предел архитектуры, а не вашего развёртывания.

MLX nvfp4 объёмом 79,56 ГБ — прагматичный выбор для Apple Silicon, к тому же это формат, который производитель поставляет нативно, что делает его среди малых тегов наименее способным удивить вас качеством.

Где это уместно, если вы маршрутизируете, а не хостите самостоятельно

NVIDIA Nemotron 3.5 Super доступен через собственные каналы сборки и распространения поставщика и через описанный выше pull из Ollama. Его нет на OrcaRouter — мы маршрутизируем чуть более 200 моделей, и эта не входит в их число — поэтому, если вам конкретно нужен этот чекпоинт, локальный pull — ваш путь, и ничто в этой статье не намекает, что вы можете вызвать его с нашим ключом.

По-настоящему эта платформа нужна здесь ради решения, которое вокруг неё строится. Оценка такой модели, как эта, имеет фиксированную цену, которую не отменяет никакая таблица бенчмарков: загрузка на 90 ГБ, вечер на настройку и набор ваших собственных промптов, прежде чем вы хоть что-то узнаете. Более дешёвый первый шаг — прогнать вашу реальную нагрузку через размещённые модели, до которых вы уже можете дотянуться — один API к 200+ моделям, с прайс-листом провайдера, транслируемым без наценки за токен, так что снижение цены вендором у нас действует в тот же день — и пусть это покажет, есть ли вообще смысл в том, чтобы нагрузку улучшала reasoning-модель на 120B. А уж потом тратьте загрузку на те случаи, которые это пережили.

И если вы всё же ставите недавно выпущенную открытую модель в продакшен-путь, прежде чем доверять ей, автоматическое переключение при отказе важнее цены. Модель, выпущенная 14 октября, получила два дня внимания всего мира; маршрутизация её через резервный вариант — это способ получить её преимущества, не ставя путь запросов на неё.

Честное резюме того, что подтверждено, а что — нет.

Подтверждено непосредственно из реестра и примечаний к выпуску: теги, их дайджесты, их размеры в байтах, минимальная версия 0.40.5, формат GGUF через llamacpp-раннер, общий визуальный проектор, строковое имя семейства моделей, рендерер, унаследованный парсер Nano и лицензия OpenMDW-1.1. Подтверждено из собственного новостного раздела NVIDIA и карточки модели: архитектура, распределение параметров, лицензия, рекомендуемые настройки сэмплирования, масштаб обучения — примерно 26 триллионов токенов на этапах предварительного обучения и продолженного предварительного обучения, затем постобучение примерно на 3,8 миллионах образцов с обучением с подкреплением в десятках сред — и языковой охват: английский, испанский, французский, немецкий, итальянский и японский.

Не подтверждено: все показатели бенчмарков, заявленные производителем, при том что индекс Artificial Analysis со значением 26 и многословность в 170 млн токенов — единственные независимые измерения в этом материале. Не подтверждено: что теги MLX поддерживают заявленную длину контекста, поскольку на странице библиотеки это для них не утверждается. Не подтверждено: что визуальный тракт настроен из коробки, потому что поставляемые по умолчанию параметры сэмплирования — текстовые. И не подтверждено: как 4-битное квантование влияет на опубликованные оценки — а это тот показатель, который действительно важен большинству читателей карточки Ollama, и тот, который никто не опубликовал.

Если у вас есть карта на 96 ГБ, причина хотеть открытую визуально-языковую модель с настоящей основой на 120B и вы не против зависимости первой недели, это самое сильное в своём весовом классе, что появилось в этом месяце, а загрузка тривиальна. Если вам нужна точная конфигурация, которую тестировала NVIDIA, или нужно, чтобы зрение заработало с первого раза, или вы не можете позволить себе потратить вечер на выяснение, какой из этих двух документов является авторитетным, — подождите оценок квантизации и отчётов сообщества. Весам четыре дня, а поддержке среды выполнения — два.