Nemotron 3.5 Bolt 74B против Nemotron 3 Ultra: 1,5 пункта индекса, в семь раз больше параметров

Самое удивительное число в семействе N​VIDIA N​emotron 3.5 — не размер флагманской модели. А то, что N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB — контрольная точка на 74 млрд параметров, ужатая до 24 гигабайт при двух битах на вес, — отстаёт всего на 1,5 балла от N​emotron 3 Ultra — модели на 550 млрд параметров, из которой дистиллировали остальные модели семейства, — в независимо составляемом Artificial Analysis индексе Intelligence Index: 21,4 против 22,9. В семь раз больше параметров, в шесть раз больше активных вычислений на токен — и разрыв, который можно потерять в пределах погрешности бенчмарка. Веса Bolt появились на Hugging Face 7 октября 2026 года, а анонс N​VIDIA последовал 15 октября; Ultra вышла 4 июня 2026 года.

Две модели не взаимозаменяемы, и то, в чём они расходятся, поучительнее, чем итоговый балл. Что сжатие сохранило и что отбросило — и то, и другое видно в опубликованных числах, и это не одни и те же строки.

Что представляет собой каждый

Ultra — флагман предыдущего поколения и учитель в центре конвейера дистилляции N​VIDIA. Это гибрид Mamba-2 с общим числом параметров 550B и 55B активных, с Multi-Token Prediction, выпущенный под OpenMDW-1.1 вместе с обучающими данными и рецептами, созданный для длительной агентной работы с контекстом до миллиона токенов и ограничением вывода в 65 000 токенов на запрос. Собственное утверждение N​VIDIA о нём состояло в том, что это самая интеллектуальная американская модель с открытыми весами в период её выпуска, и независимые данные в целом это подтверждают: панель выставляет ей оценку 22,9 в конфигурации для рассуждений, с измеренной скоростью 156 выходных токенов в секунду, 1,29 секунды до первого токена и медианным временем сквозного ответа 19 секунд.

Bolt — это edge-уровень более нового поколения, и это не дистиллированная Ultra в прямом смысле. Его родительская модель — N​emotron 3.5 Super VL 120B-A12B, мультимодальная модель на 120 миллиардов параметров, которую N​VIDIA выпустила вместе с ним. Сжатие выполнила Star Elastic — управляемый маршрутизатором поиск архитектуры от N​VIDIA, который оптимизировался под наименьшие потери при дистилляции знаний, удовлетворяя жёсткому ограничению по размеру менее 24 ГБ при размере батча 1 и контексте 128K, — сократив top-K экспертов с 22 до 9 и квантуя веса экспертов до IQ2-XXS при 2,0625 бита на элемент, с дистилляцией с учётом квантования для восстановления точности. Он оснащён визуальным энкодером C-RADIO v4-H, поскольку его родительская модель была мультимодальной.

Независимые ряды, с обеих сторон

Всё ниже взято из Artificial Analysis, если не указано иное, и именно это делает сравнение пригодным для использования: обе модели были запущены одним и тем же оценщиком в рамках одного и того же испытательного стенда.

• Индекс интеллекта — Bolt 21,4; Ultra 22,9. Оба измерены независимо.

• GDPval-AA (нормализованный) — Bolt 0,240; Ultra 0,257. Разрыв в 1,7 пункта на бенчмарке, построенном на реальных результатах трудовой деятельности.

• SciCode — Bolt 0.397; Ultra 0.403. Практически на одном уровне.

• Humanity's Last Exam, без инструментов — Bolt 24,7 процента; Ultra 28,4 процента. Разрыв в четыре пункта здесь — самый большой в этом списке в относительном выражении.

• AA-LCR, извлечение из длинного контекста — Bolt 69,7 процента; Ultra 79,3 процента. Десять пунктов, и самое наглядное свидетельство того, чего стоит 2-битная компрессия.

• AA-Omniscience — у Bolt точность 17,1 процента при 56,3 процента отсутствия галлюцинаций; у Ultra точность 22,6 процента при 70,3 процента отсутствия галлюцинаций. Флагман и более осведомлён, и лучше откалиброван, а это наименее удивительный результат на странице.

• Terminal-Bench 4.0 (более сложный набор) — обе набирают ноль. Ни одна из моделей не решает этот уровень, включая флагманскую.

• Контекстное окно — Bolt: до 256 000 токенов согласно карточке модели и 262 144 по данным панели. Ultra: до 1 000 000 согласно N​VIDIA при максимальном объёме вывода 65 000 токенов.

• Входные данные — Bolt: текст, изображения и видео на входе, текст на выходе. Ultra: текст на входе, текст на выходе. Ничто в материалах о выпуске флагманской модели не говорит о наличии модуля компьютерного зрения.

• Цена — Bolt: нет. Для чекпоинта 24GB нет опубликованного тарифа с оплатой по факту использования, и в панели не приведены ни входные, ни выходные показатели для него. Ultra: $0,60 за миллион входных токенов и $2,50 за миллион выходных, при этом кэшированный ввод — $0,16, а измеренные затраты — $0,60 на одну задачу Intelligence Index.

• Скорость — Bolt: независимых измерений нет. Ultra: 156,1 выходных токенов в секунду, 1,29 секунды до первого токена, медианное время рассуждения 14,6 секунды на ответ.

• Занимаемая память — Bolt: 24 ГБ при IQ2, разворачивается на одном A100, H100 или Blackwell. Ultra: развёртывание на нескольких ускорителях; собственный рецепт N​VIDIA для чекпоинтов учителя в этом семействе в качестве минимума указывает четыре B200 или восемь H100, а Ultra — крупнейший представитель.

Почему разрыв в индексе меньше разрыва в размере и что это означает

Есть два честных объяснения, и оба, вероятно, отчасти верны.

Первое: Intelligence Index — это сводный показатель, который поощряет процедуру в большей степени, чем припоминание. Bolt потерял свои сохранённые факты из-за 2-битной квантизации — это видно по строкам точности — но сохранил достаточно поведения в виде цепочки рассуждений, вызова инструментов и структурированного вывода, чтобы набрать баллы на композитных задачах. Обратите внимание, что преимущество Ultra сосредоточено именно там, где важна память: извлечение из длинного контекста, точность всеведения, частота галлюцинаций, сложные научные вопросы, требующие факта, а не метода.

Второй момент: поиск архитектуры на основе сильного родителя — более эффективное использование фиксированного бюджета, чем обучение небольшой модели с нуля; именно это NVIDIA прямо утверждает в документации Bolt. Взять 120B мультимодального учителя и искать самого широкого ученика, который укладывается в 24GB, — это другое упражнение, чем предварительное обучение модели на 30B, и полученный чекпоинт 74B/9B занимает нишу, где находилась бы необычайно эффективная модель на 74B.

Это не значит, что Bolt заменяет Ultra. Модель, которая чаще признаёт неопределённость (56,3 против 70,3 процента ответов без галлюцинаций — движение не в ту сторону) и менее надёжно извлекает информацию из длинного контекста, — худший помощник для вопросов, которые люди действительно задают. Она лучший помощник для задач, которые в основном процедурные: вызов инструментов, заполнение форм, редактирование файлов, просмотр скриншота и клик по нужному элементу.

Две вещи, которые Ultra не умеет делать

Преимущества Bolt невелики, и оба они носят структурный, а не численный характер.

Это подходит. 24-гигабайтный чекпоинт работает на оборудовании, которым владеет человек, без сети, без счётчика за токены и без переговоров о мощности. Интеллект Ultra доступен только через API, по цене $0.60 за вход и $2.50 за выход за миллион токенов и примерно $0.60 расходов на задачу индексации. Эта цена действительно низка для модели такого класса, поэтому хостинговый маршрут — это реальный вариант, а не компромисс, — но это всё ещё маршрут, требующий подключения и доверия к чужому времени безотказной работы.

Оно видит. Визуальный энкодер C-RADIO v4-H от Bolt обеспечивает ввод изображений и видео, а в карточке модели N​VIDIA указаны 50,86 на WebArena vision и 66,75 на BrowseComp. Ultra — текстовая модель. Если задача агента включает скриншоты, PDF-файлы, чтение дашбордов или автоматизацию браузера с визуальным состоянием, флагман предыдущего поколения нельзя поставить вместо него ни за какие деньги.

Как выбрать

Выбирайте Ultra, если рабочая нагрузка требует интенсивных рассуждений и является текстовой: многошаговый анализ, большие наборы документов, программирование в крупных репозиториях или всё, где ошибка обходится дорого. Его независимые оценки превосходят Bolt почти везде, цена — среди самых низких в категории высокого интеллекта, а пропускная способность измерена, а не предполагается.

Выбирайте Bolt, если рабочая нагрузка выполняется на контролируемом вами оборудовании, должна «видеть» или должна продолжать работать при отсутствии сети. Разрыв в 1,5 пункта по индексу реален и достаточно мал, чтобы решение обычно принимали исходя из развертывания, а не качества, — и тот факт, что NVIDIA выпустила 24-ГБ файл, который набирает в пределах двух пунктов от её собственного флагмана на 550 млрд параметров, — более значимая новость из этих двух релизов.

Есть промежуточный путь, который стоит назвать, потому что именно так N​VIDIA позиционирует это семейство, а не так, как поступил бы покупатель одной модели: небольшой локальный исполнитель выполняет вызовы инструментов и читает экран, а более крупная хостируемая модель занимается планированием и сложными рассуждениями. Такой архитектуре нужен надёжный способ добраться до хостируемой половины через более чем одного провайдера, для чего и нужен механизм отказоустойчивого переключения OrcaRouter — автоматический повтор запросов у разных провайдеров за одним эндпоинтом, по ключу, который также открывает доступ более чем к 200 моделям по прайс-листовой цене провайдера с наценкой 0 процентов. Мы не хостим ни одну модель N​VIDIA; семейства N​emotron нет в нашем каталоге, и ничто здесь не является заявлением о том, что мы его обслуживаем. Смысл лишь в том, что двухуровневой агентской архитектуре нужен маршрутизируемый второй уровень, а единственный жёстко заданный эндпоинт поставщика — обычная причина, по которой такая архитектура терпит неудачу.

Что изменило бы эту страницу

Два измерения. Первое — независимый прогон пропускной способности и задержки на 24-ГБ чекпойнте, который либо подтвердит, либо разрушит аргумент в пользу его использования как локального исполнителя на интерактивной скорости; сегодня единственное доступное число — собственные 83,99 токена в секунду у NVIDIA на AIPerf SPEED-Bench-Coding, измеренные на машине ноутбучного класса и несопоставимые со стендом панели. Второе — независимый повторный прогон агентных бенчмарков на 2-битных весах при квантовании, которое контролирует третья сторона: в таблице вендора Bolt обходит Ultra на Terminal-Bench 2.1 почти на 27 пунктов, и это утверждение несёт огромную нагрузку без внешнего подтверждения.

Ничто из этого не является причиной избегать эту модель — лишь повод знать историю: задокументированные инциденты с ИИ и сбои агентов, стоящие за моделями этого класса, собраны в the OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, степень уверенности и флаг оспаривания.