Nemotron 3.5 Bolt 74B против Qwen3.8-Max: самый широкий разрыв в таблице

В каждом сравнении внутри семейства N​emotron 3.5 Bolt есть разрыв. В этом случае он самый большой. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB набирает 21,4 балла в Artificial Analysis Intelligence Index; Qwen3.8-Max, флагманская модель A​libaba и модель с наивысшим результатом в этой серии сравнений, набирает 45,4 балла на том же независимо проводимом рейтинге. Это 24 балла — больше, чем весь результат меньшей модели по индексу, и это честная отправная точка для всех, кто спрашивает, может ли локальный агент на 24 ГБ заменить собой фронтирные модели.

Не может. Эта пара заслуживает внимания потому, что две модели побеждают в совершенно разных строках, а собственная таблица бенчмарков NVIDIA сравнивает Bolt с моделью Qwen, которая не является этой.

Две модели, у которых нет ничего общего, кроме мультимодальности.

N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB — это визуально-языковая модель с 74 млрд параметров, сжатая до 2-битного чекпоинта, который помещается в 24 гигабайта памяти. Её веса были выложены на Hugging Face 7 октября 2026 года; N​VIDIA упомянула её в публикации о запуске 15 октября. Она создана для локальной агентной работы — вызова инструментов, веб-браузинга, работы в терминале и чтения экрана — и продаётся как загружаемый файл, а не как сервис, при этом опубликованной цены с оплатой по мере использования нигде нет.

Qwen3.8-Max — это противоположная конструкция. Флагманская модель Alibaba — это разреженная смесь экспертов, которую компания напрямую противопоставляет самым сильным закрытым моделям своего окна выпуска; она доступна через три сетевых формата — интерфейс, совместимый с OpenAI, интерфейс, совместимый с Anthropic, и собственный DashScope от Alibaba — в регионах Пекин, Сингапур, Токио, Франкфурт и Вирджиния. Облачная модель была запущена 3 августа 2026 года с вводом изображений и видео, контекстом в миллион токенов и переключателем режима обдумывания; снимок от 2 сентября — это версия, которая сейчас оценивается в таблицах лидеров. Открытая по весам родственная модель в том же семействе, Qwen3.8-2.4T-A95B, — это отдельный выпуск, а не модель, измеряемая здесь.

Одно — это файл. Другое — сервис. Это сравнение всё ещё полезно, потому что сервис публикует цену, а файл — нет, и разница между ними — это то, что на самом деле покупает локальное развёртывание.

• Индекс интеллекта — NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB: 21,4. Qwen3.8-Max: 45,4. Оба показателя независимо измерены Artificial Analysis.

• Контекст — 262 144 токена для чекпоинта NVIDIA против примерно 983 000 у Qwen3.8-Max, при максимальном объёме вывода 131 072 токена на стороне Alibaba.

• Параметры — 74 млрд всего и 9 млрд активных у Bolt; флагманский уровень Alibaba — это разреженная смесь экспертов совершенно иного порядка, активирующая примерно 95 млрд параметров на токен в своей форме с открытыми весами.

• Входные данные — текст, изображения и видео на входе, текст на выходе у обоих. Это единственный аспект, в котором они оба действительно схожи.

• Цена — Qwen3.8-Max: $2.00 за миллион входных токенов, $6.00 за миллион выходных, $0.25 за кэшированный ввод. Bolt: ничего, потому что нет эндпоинта, через который можно купить.

• Стоимость одной задачи Intelligence Index — $5.41 для Qwen3.8-Max, измерено. Для Bolt данных нет по той же причине.

• Скорость — Qwen3.8-Max: 39,8 выходных токенов в секунду, время до первого токена — 3,06 секунды, медианное время рассуждения — 50,3 секунды на ответ; все измерено независимо. Bolt: независимых измерений пропускной способности не существует.

Строки, откуда берутся 24 точки

Artificial Analysis запустили оба. Построчная детализация полезнее сводного показателя, поскольку сводный показатель скрывает тот факт, что ни одна из моделей не превосходит другую по всем параметрам.

• Terminal-Bench 2.1 — Qwen3.8-Max: 88,8 процента, независимое измерение. У Bolt нет независимого результата в этом бенчмарке; NVIDIA указывает 50,98 в карточке модели.

• GPQA Diamond — Qwen3.8-Max: 92,8 процента по независимым данным. 86,43 у Bolt — это собственная цифра N​VIDIA, а у экспертной панели нет независимого показателя для него.

• Humanity's Last Exam, без инструментов — Qwen3.8-Max 43,1 процента против 24,7 процента у Bolt, оба показателя измерены независимо.

• Длинноконтекстный поиск (AA-LCR) — 80,3 % против 69,7 %, оба показателя измерены.

• Научное программирование (SciCode) — 52,1 процента против 39,7 процента, оба измерены.

• Мультимодальное рассуждение (MMMU-Pro) — Qwen3.8-Max 82,8 процента, независимо измерено. У Bolt нет независимой записи, что является заметным упущением для модели, главный аргумент в пользу которой — то, что она умеет видеть.

• Профессиональные результаты (GDPval-AA) — Qwen3.8-Max 0,583 с нормализацией относительно 0,240 у Bolt, оба показателя измерены.

• Агентные системы и ИТ-операции — Qwen3.8-Max набирает 42,4 процента в APEX-Agents, 40,3 процента в ITBench-SRE и 45,0 процента в оценке агента-аналитика. У Bolt нет независимых оценок ни в одной из этих трёх колонок.

• Отсутствие галлюцинаций (AA-Omniscience) — Qwen3.8-Max: 71,2 процента против 56,3 процента у Bolt, при точности 31,7 процента против 17,1 процента. В отличие от сравнения Bolt и Ultra, где сжатая модель выигрывает в строке калибровки, здесь флагман побеждает в обоих.

• Стоимость за задачу индексации — $5.41 для Qwen3.8-Max. Это самый высокий показатель стоимости за задачу в семействе сравнений вокруг этой модели, и именно это число делает локальный вариант интересным даже при отставании в 24 пункта.

Что можно получить за $5.41 за задачу — и что вместо этого можно получить за 24GB

Экономика Qwen3.8-Max необычна для передовой модели: цена за токен — $2.00 на входе и $6.00 на выходе — умеренная, но модель тратит много времени на размышления. Медианное время рассуждений в прогонах панели составляет 50,3 секунды, а сквозное время ответа в среднем равно 65,9 секунды. Задача, на которую у модели уходит минута внутренних размышлений, порождает много выходных токенов, и именно стоимость на одну задачу индекса это выявляет. Это не критика модели — глубокое рассуждение и есть продукт, — но именно поэтому при высокой нагрузке цикл агента быстро становится дорогим на этом уровне.

Именно под такую нагрузку и создан Bolt. У локального чекпоинта вообще нет счётчика по токенам: маржинальная стоимость вызова инструмента — это электроэнергия, а фиксированная — GPU. Для постоянно работающего агента, выполняющего тысячи мелких процедурных шагов — чтение экрана, вызов эндпоинта, редактирование файла, — сравнение идёт не между 21,4 и 45,4, а между константой и растущим счётом. Сама N​VIDIA формулирует это так: Bolt существует для того, чтобы повседневные агентские задачи выполнялись локально, без отправки нагрузки в облако, и именно на таких задачах он показывает 50,86 в WebArena vision и 66,75 в BrowseComp.

Подвох в том, что фиксированная стоимость реальна, а задержка неизвестна. Эталонный рецепт обслуживания от N​VIDIA состоит из нескольких шагов: закреплённая ночная сборка vLLM, пакет ядер b12x, отдельно скачиваемый плагин reasoning-parser, явно заданные бэкенды Mamba и attention, а также конфигурация спекулятивного декодирования с использованием драфтера LiLiCorr и семью draft-токенами. N​VIDIA публикует пропускную способность на уровне 83,99 токена в секунду в AIPerf SPEED-Bench-Coding на машине ноутбучного класса — вендорная цифра на вендорном бенчмарке, без независимого прогона для сверки.

Базовая конфигурация, которую выбрала N​VIDIA

Есть еще одна вещь, на которую стоит обратить внимание, и это скорее урок чтения, чем технический. В таблице бенчмарков на карточке модели Bolt в качестве точки сравнения включена модель Qwen — это Qwen3.6-35B-A3B, модель гораздо меньшего размера, чем флагман, измеряемый на этой странице. Таблица NVIDIA показывает, что Bolt побеждает эту модель на Terminal-Bench 2.1, GPQA Diamond, BrowseComp, GDPVal, Tau3 Banking, SciCode, AA-LCR и MCP-Atlas, но проигрывает по точности AA-Omniscience, отсутствию галлюцинаций в AA-Omniscience и PinchBench.

Возможно, эти сравнения и верны. Но читатель, который выносит из таблицы вывод «Bolt превосходит Q​wen», сравнивает 74-миллиардную edge-модель с 35-миллиардной MoE плотного класса, а не с фронтирным уровнем A​libaba. В случае с Qwen3.8-Max независимые данные говорят об обратном почти по каждой общей строке, и на самых сложных бенчмарках разрыв скорее расширяется, чем сокращается. Когда вендор сам выбирает базовые варианты для сравнения, честный ход — проверить, что именно взято за базу.

Как решить

Выбирайте Qwen3.8-Max, когда корректность является ограничением. Если задача — многошаговый анализ, сложные мультимодальные рассуждения, агентная работа с реальными последствиями или что-либо, измеряемое бенчмарками, на которых модель опережает на 24 балла, локальный вариант не является кандидатом — а при цене $2.00 и $6.00 за миллион токенов она стоит как инфраструктура, а не как роскошь. Это также модель, которую стоит выбирать, когда рабочему процессу нужны структурированные выходные данные, нативный вызов инструментов и контекст на миллион токенов в одном вызове — всё это A​libaba документирует как поддерживаемое.

Выбирайте Bolt, когда ограничение — это то, где выполняется работа. Конфиденциальность, работа в автономном режиме, задержка, не зависящая от сети, и отсутствие стоимости за вызов — это четыре отдельных аргумента, и каждого из них самого по себе достаточно для некоторых команд. Модель хорошо справляется с процедурами и слаба в припоминании; нацеливайте её на первое.

Что касается облачной части, Qwen3.8-Max доступна через OrcaRouter как qwen/qwen3.8-max/ по тому же ключу, что и ещё более 200 других моделей, по прайс-листовой цене провайдера Alibaba без какой-либо наценки — а значит, изменение цены поставщиком отражается на нашей стороне в тот же день, а не в конце расчётного периода. На этом тарифе это важнее, чем на дешёвом, ведь $5.41 за задачу индексации — цифра, которую финансовая команда захочет перепроверять ежемесячно. Маршрутизация меняет форму решения в вопросе объёма: нагрузка, состоящая на 90 процентов из небольших процедурных шагов и на 10 процентов из сложных рассуждений, может отправлять эти 10 процентов сюда, а остальное оставлять локально, с автоматическим переключением между провайдерами при сбое, так что облачный уровень деградирует до повторной попытки, а не до простоя.

We host no N​VIDIA model and have no Bolt endpoint — the N​emotron family is not in our catalogue, and the local half of this comparison is a hardware question that no routing layer touches.

Неразрешённый номер

То, что никто не опубликовал, — это измерение, которое сделало бы это сравнение полным: независимый замер задержки и пропускной способности на 24-ГБ чекпоинте при размере батча, равном единице, на машине, которую человек может купить. Если 2-битный чекпоинт 74B окажется способен выполнять шаги интерактивного агента с приемлемой скоростью, разрыв в 24 пункта превратится в разрыв, который можно обойти — локально для процедур, в облаке для рассуждений. Если нет, локальный вариант — это инструмент для пакетной обработки, и сравнение сводится к цене. В любом случае до ответа — одна публикация, и именно это стоит искать, прежде чем планировать развёртывание вокруг этой модели.

Именно в таких сравнениях также проявляются режимы отказов: документально зафиксированные инциденты с ИИ и сбои агентов, связанные с моделями этого класса, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, степень серьёзности, оценку достоверности и отметку о спорности.