Nemotron 3.5 Super против Claude Opus 5.5: 12 миллиардов активных параметров против метра

Вот число, которое решает исход этого сравнения, и его нет ни в одной из таблиц бенчмарков. N​VIDIA N​emotron 3.5 Super — опубликованная N​VIDIA под более полным названием N​VIDIA N​emotron 3.5 Super VL, и указанная в библиотеке Ollama как nemotron-3.5-super/ — активирует около 12 миллиардов из своих 120 миллиардов параметров на каждый генерируемый токен. Claude Opus 5.5 вообще не публикует количество параметров и берёт $4 за миллион входных токенов и $20 за миллион выходных токенов. Таким образом, у одной из этих моделей предельная стоимость за токен — это функция от электроэнергии, а у другой предельная стоимость за токен — это отдельная статья расходов. Оба числа реальны. Ни одно из них не говорит, какую модель дешевле эксплуатировать, потому что они выражены в разных валютах.

Причина, по которой об этом стоит написать сейчас: веса N​VIDIA были выложены на Hugging Face 12 октября 2026 года — тихо, в репозитории под названием N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, за три дня до того, как 15 октября официальный пост в новостном разделе N​VIDIA сделал это достоянием общественности. До этого анонса единственным публичным подтверждением того, что N​emotron 3.5 Super существует как нечто запускаемое, был набор артефактов в реестре — и тот факт, что часть спецификации в этих артефактах не совпадает со спецификацией на карточке вендора. Из репозитория можно узнать вполне конкретный объём сведений: количество байтов, форматы квантования, версионный гейт, лицензию. А чего не узнать ни из одного репозитория — так это того, как он ведёт себя в сравнении с хостируемой фронтир-моделью на вашей рабочей нагрузке. Именно об этом разрыве и рассказывает эта страница.

Что на самом деле содержит репозиторий, прежде всего остального

Три пригодных для использования контрольные точки появились в течение шестидесяти секунд друг от друга 12 октября: эталонные веса BF16, вариант Base и сборка NVFP4. Отдельный репозиторий драфтера LiLiCorr был выложен на день раньше, 11 октября, что является самым ранним публичным следом этого уровня. Карточка описывает гибридную смесь экспертов Mamba-2 и Transformer с 512 маршрутизируемыми экспертами на слой MoE, визуальный энкодер C-RADIO и визуально-языковой коннектор, 120 млрд общих параметров при 12 млрд активных, контекст до 1 млн токенов, вход текста, изображений и видео с выходом текста, а также нативное спекулятивное декодирование через голову Multi-Token Prediction. Лицензия — OpenMDW-1.1, которая разрешает коммерческое использование. Развёртывание указано как четыре H100 или два GB200 для BF16.

Листинг Ollama — это версия, с которой большинство людей столкнётся в первую очередь, и именно здесь спецификация начинает расходиться. В нём представлено девять тегов. Четыре из них — :latest/, :120b/, :120b-a12b/ и :120b-a12b-q4_K_M/ — указывают на один и тот же слой q4_K_M, поэтому загрузка по умолчанию — это 4-битная квантизация, и имя «120b» — не тот файл, который вы получите. Каждый тег, включая самый маленький, несёт в себе проектор зрения на 1.6 GiB, потому что путь обработки изображений не является опциональным. Поставляемая по умолчанию схема сэмплирования — temperature 1.0 при top_p 0.95, что является текстовой рекомендацией карточки, — а настройка зрения в карточке — temperature 0.6. И ограничение среды выполнения применяется принудительно: в конфигурации указано requires: 0.40.5/, поэтому на более старой версии Ollama загрузка вообще не работает.

Ничто из этого не является дефектом. Это обычный разрыв между примечаниями к выпуску от производителя и их пакетированием сообществом, и именно поэтому следует читать оба документа, а не один.

Честная арифметика 12B active

Разреженная активация — это весь коммерческий аргумент в пользу этой модели, и стоит точно понимать, что она даёт, а что нет.

Что это даёт: при инференсе токен затрагивает примерно десятую часть сети. Поэтому пропускная способность на фиксированном оборудовании гораздо ближе к плотной модели на 12B, чем к модели на 120B, а объём памяти — единственное место, где проявляются все 120 миллиардов параметров. Собственная карта NVIDIA заявляет пропускную способность до 5 раз выше, чем у других в её классе, а при работе на стеке Dynamo от производителя — до 8 раз больше одновременных пользователей при задержке на 85% ниже. Это цифры вендора, полученные на оборудовании вендора, и они представляют собой спецификацию, а не аудит, — но направление заявления — прямое следствие архитектуры, что по крайней мере представляет собой связную историю.

Чего это не даёт: веса всё равно должны полностью находиться в памяти. Слой BF16 GGUF занимает 230,4 ГиБ. Значение q4_K_M по умолчанию — 82,3 ГиБ плюс проектор. Ни одна из этих цифр не уменьшается из-за того, что на каждый токен срабатывает лишь 12 миллиардов параметров. Так что нижняя граница аппаратных требований задаётся памятью, а пропускная способность — активацией; вот почему одна карта на 96 ГБ может с комфортом вместить 4-битную модель и при этом выдавать токены со скоростью, которая посрамила бы плотную модель того же общего размера, а также почему та же карта вообще не может вместить модель полной точности.

А теперь поставьте Opus 5.5 рядом с этим. Модель от Anthropic — это 1 миллион токенов контекста, 128 000 токенов максимального вывода, поддержка ввода текста, изображений и файлов, а цена — $4/$20 при чтении из кэша по $0,20 за миллион. Здесь не нужно ничего скачивать, принимать решения о квантовании, исправлять параметры сэмплирования по умолчанию или фиксировать версию. К тому же это модель с хорошим аудитом: она занимает верхнюю строчку в стороннем рейтинге, которым большинство людей пользуется для сравнения подобных вещей, и находится намного выше этого уровня Nemotron.

Так что это сравнение не о том, «что лучше». По измеренным общим возможностям побеждает облачный флагман, и делать вид, что это не так, было бы медвежьей услугой читателю, который вот-вот примет решение о покупке. Это сравнение о том, где пересекаются две кривые затрат.

Где открытая модель с 120 миллиардами параметров заслуживает своё место

Три места, и они конкретные.

• Объём при фиксированном счёте. Самостоятельно развёрнутый чекпоинт превращает предельные издержки в постоянные. При низком трафике счётчик по токенам безусловно выигрывает — четыре H100 обходятся в месяц дороже, чем большинство команд тратит на токены. При высоком и стабильном трафике фиксированные издержки амортизируются, а счётчик — нет. Точка пересечения — единственный расчёт, который здесь имеет значение, и она зависит от вашего объёма токенов, а не от качества той или иной модели.

• Работа с визуальными задачами, где количество страниц определяет стоимость. В карточке N​VIDIA указано 62,82 на MMLongBench-Doc, 78,16 на MathVision, 80,82 на CharXiv reasoning и 68,12 на OCRBench v2 для английского против 59,15 для китайского — все данные от производителя. В O​pus 5.5 те же входные данные тарифицируются по токенам, а страница сканированного отчёта — это много токенов. Если ваша нагрузка — тысячи страниц документов в день, арифметика меняется быстрее, чем любое различие в качестве.

• Фиксация. Контрольная точка на диске, который вы контролируете, не меняется у вас под руками. Это стоит реальных денег в регулируемом пайплайне, и это свойство хостируемая модель не может предложить ни за какую цену.

Есть два случая, где он не оправдывает своего места, и оба стоит назвать вслух. Первый — долгосрочная агентная работа: в карточке NVIDIA заявлены 66,70 в Terminal-Bench 2.1, 71,10 в SWE-bench Verified и 51,78 в SWE-bench Pro — достойно, но не воспроизведено и отстаёт от хостового фронтира. Второй — всё, где неудачный запрос обходится дорого, потому что у модели, чьи веса появились четыре дня назад, за спиной четыре дня внимания всего мира и никакой операционной истории.

Числа, которым пока не стоит доверять, и почему

Вся опубликованная таблица бенчмарков для Nemotron 3.5 Super — это собственная таблица вендора, собранная через тестовый стенд NeMo Gym от NVIDIA. GPQA-Diamond 89.52. Humanity's Last Exam только текст 31.79. LiveCodeBench v6 88.22. IFBench 70.86. tau2-bench 69.24 розница, 76.50 авиакомпании, 73.19 телеком. BrowseComp 78. LMArena v3 прокси 52.67. Каждый из этих показателей — это заявление вендора с приложенным воспроизводимым рецептом, что лучше, чем голословное заявление, но всё ещё не независимое измерение.

Независимая картина гораздо более скудная, и это само по себе — самый полезный факт на этой странице. Сторонняя панель, которая оценивает эти модели, ставит этот чекпойнт на уровень Intelligence Index в середине двадцатых — около 26 — против примерно 58 у Opus 5.5. Эта панель также фиксирует необычно высокое потребление выходных токенов за прогон по индексу, что она трактует как многословность, а многословность — это статья расходов, а не сноска в любом развёртывании, где вы платите за каждый токен или ждёте каждый токен. Одна независимая точка данных — не вердикт, но это единственная, которую не создала компания, продающая модель.

То, что никто не опубликовал: как 4-битное квантование смещает эти оценки. Стандартный тег Ollama — q4_K_M. Все опубликованные цифры относятся к BF16 или NVFP4. Следовательно, число, которое большинство людей фактически увидит на практике, не измерено, и именно за ним стоит следить в ближайшие несколько недель.

Что вы можете и не можете называть сегодня

Об этом стоит сказать прямо, потому что это самое распространённое заблуждение на подобных страницах. N​emotron 3.5 Super нет на OrcaRouter. Мы маршрутизируем чуть более двухсот моделей, и среди них нет записи N​VIDIA N​emotron, поэтому если вам нужен именно этот чекпойнт, ваши маршруты — это собственные каналы сборки и распространения вендора и загрузка через локальный рантайм, а не мы.

Opus 5.5, напротив, работает через наш ключ, по прейскурантной цене провайдера, которая передаётся без наценки за токен, а значит, изменение цены поставщиком вступает в силу на нашей стороне в тот же день, а не при следующем продлении контракта. Эта асимметрия действительно полезна для решения, которое стоит перед вами: дешёвый первый шаг — взять нагрузку, которую вы собирались запускать на четырёх H100, и сначала прогнать её на хостируемой модели, через один API, без закупки. Если хостируемая модель справляется с задачей по приемлемой цене, вы сэкономили себе кластер. Если нет — а неверное прочтение насыщенного технического документа в масштабе вполне может быть способом этого не сделать — у вас теперь есть доказательства, а не таблица бенчмарков, и вы можете потратить загрузку на те случаи, которые выжили.

Во что конкретно обходится рецепт развёртывания

Рецепт vLLM для этой карты стоит прочитать как бюджетный документ. Тензорный параллелизм 4, использование памяти GPU 0,85, максимум 32 одновременные последовательности, одно изображение и одно видео на запрос, прореживание видео на 0,5 и спекулятивное декодирование через голову MTP с тремя спекулятивными токенами. Четыре H100 при использовании 0,85 и ограничении в 32 последовательности — это не крупный сервис, а серьёзное развёртывание на одном узле, и потолок параллелизма говорит о том, какую нагрузку, по мнению вендора, должна выдерживать одна реплика.

Две детали в этом рецепте значат больше, чем кажется на первый взгляд. Конфигурация для видео принимает одно видео на промпт с прореживанием наполовину, и это явный намёк на то, куда уходит бюджет зрения на длинных входах. А парсер рассуждений называется nemotron_v3/, тогда как парсер вызовов инструментов — qwen3_coder/ — вендор переиспользует формат вызовов инструментов, который сам не изобретал; это хорошая новость для всех, у кого уже есть код для вызова инструментов, и об этом стоит знать, прежде чем писать новую логику разбора.

В противовес этому, операционная поверхность хостируемой модели — это API-ключ. Сравнение «четырёх H100 и рецепта vLLM» с «ключом и счётчиком» далеко не равнозначно по трудозатратам. Оно близко только по стоимости и только при больших объёмах.

Ещё одна вещь, которую можно узнать из репозитория и легко упустить: рекомендуемые параметры сэмплирования различаются по модальностям. Тексту нужна температура 1.0 с top_p 0.95; зрению — 0.6 с 0.95. Развёртывание, которое задаёт одну пару глобально, а затем обрабатывает графики и отсканированные страницы, запускает зрительную половину модели зрения с настройками текстовой половины. Если ваше первое впечатление об этой модели при работе с документами плохое, это первый параметр, который стоит проверить, — прежде чем делать какие-либо выводы о чекпоинте.

Так какой

Если ваша работа — это длительные агентные задачи по программированию или что-либо ещё, где рассуждения должны быть передового уровня с первой попытки, то ответ — Claude Opus 5.5, и уровень N​emotron ему не замена. Это даже не близкий выбор, и опубликованные самим вендором показатели по агентным задачам обратного не утверждают.

Если ваша работа — это понимание документов и изображений в больших объёмах, где затраты определяются количеством страниц, а не сложностью рассуждений, то это один из самых интересных открытых чекпоинтов, появившихся в этом году: 120 миллиардов параметров при 12 миллиардах активных, разрешительная лицензия, визуальный тракт, который действительно присутствует, а не прикручен сбоку, и 4-битный режим по умолчанию, умещающийся на одной карте с 96 ГБ. Подвох в том, что у версии, которую все реально будут запускать, — q4_K_M по умолчанию, — нигде нет опубликованной оценки, модели всего четыре дня, а спецификация, опубликованная рантаймом, не полностью совпадает со спецификацией, опубликованной производителем.

И то и другое — причины попробовать, а не причины доверять. Сначала отправьте рабочую нагрузку в размещённую модель, чтобы выяснить, относится ли эта нагрузка к тем, которые решает передовая модель, а модель среднего уровня — нет. Затем решите, стоят ли оставшиеся случаи кластера, загрузки или вечера настройки. И если вы всё же ставите четырёхдневный чекпойнт в путь запросов, направляйте его через резервный вариант, потому что самая дешёвая страховка от модели без операционной истории — вторая модель за тем же вызовом.

Чего цифры не могут вам сказать, так это того, не пошло ли что-то не так на практике: задокументированные инциденты с ИИ и сбои агентов, связанные с моделями этого класса, собраны в архиве инцидентов ИИ OrcaRouter, где каждая запись сопровождается собственными источниками, оценкой серьёзности, уровнем достоверности и отметкой о спорности.