Nemotron 3.5 Bolt E4B 4GB vs Nemotron 3.5 Bolt 74B-A9B 24GB: одно и то же название, противоположные машины

NVIDIA выпустила две модели под названием Bolt с разницей в восемь дней. NVIDIA-Nemotron-3.5-Bolt-E4B-4GB появилась 23 октября 2026 года: текстовая диалоговая модель с общим числом параметров 8B, дообученная на основе Gemma-4-E4B-it. NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB — модель, которую большинство людей имеет в виду, когда говорит Nemotron 3.5 Bolt, — появилась 15 октября: мультимодальный агент с 74B общих и 9B активных параметров, сжатый до двух бит на каждый вес эксперта.

У них общие значок, лицензия и окно запуска. Но у них нет общей родительской архитектуры, модальности, контекстного окна, набора бенчмарков или задачи. Воспринимать «Bolt» как лестницу размеров — это ошибка, которую должно предотвратить это сравнение.

Один — производная Gemma. Другой — сжатый 120B-агент.

Родословная объясняет почти всё остальное.

E4B начал свою жизнь как Gemma-4-E4B-it — небольшая модель Google, настроенная на выполнение инструкций, — а NVIDIA дообучила её с помощью обучения с подкреплением на основе проверяемых вознаграждений и обратной связи от людей через NeMo-RL и NeMo-Gym. Архитектура принадлежит Gemma: 8B общих параметров при 4B эффективных, текстовый ввод и вывод, а также контекстное окно 64K. Вклад NVIDIA — это поведение, а не архитектурная основа.

74B была создана на основе Nemotron 3.5 Super VL 120B-A12B — собственной мультимодальной родительской модели NVIDIA. NVIDIA провела управляемый маршрутизатором поиск архитектуры под названием Star Elastic с ограничением памяти в 24 ГБ и получила гибрид с 74 млрд параметров и 9 млрд активных параметров на токен, объединяющий слои Mamba-2 и Transformer в дизайне LatentMoE, с визуальным энкодером C-RADIO v4-H. Он принимает текст, изображения и видео и обрабатывает 256K токенов контекста.

Если говорить прямо: E4B — это диалоговая модель, которую настроила NVIDIA. 74B — это агентная модель, которую NVIDIA сжала. Название «Bolt» описывает цель развёртывания — интеллект на гигабайт — а не общую архитектуру.

Характеристики, бок о бок

• Общее и активное число параметров — 8B всего, из них 4B эффективных для E4B; 74B всего, из них 9B активных для 74B.

• Архитектура — Gemma-4-E4B для малой модели; гибрид Mamba-2 и Transformer LatentMoE для большой, со сжатием Star Elastic от родительской модели Super VL.

• Модальность — текст на входе, текст на выходе для E4B; текст, изображения и видео на входе, текст на выходе для 74B.

• Контекстное окно — 64K токенов на вход и 64K на выход для E4B; до 256K токенов для 74B.

• Точность — Q4_K_M для поставляемого GGUF модели E4B; IQ2 при примерно 2,0625 бита на вес эксперта для 74B, с NVFP4 на некоторых слоях Mamba и эмбеддингами Q8_0.

• Опубликованные веса — 6,18 ГБ Q4_K_M и 15,88 ГБ BF16 для E4B; 23,75 ГБ весов GGUF плюс визуальный проектор, 24,12 ГБ safetensors, готовых для vLLM, и 149,8 ГБ в BF16 для 74B.

• Лицензия — OpenMDW-1.1 для обоих, при этом компонент Gemma 4 распространяется по Apache 2.0 в стеке E4B.

• Дата выпуска — 23 октября 2026 года для E4B; 15 октября 2026 года для 74B.

• Среда выполнения — llama.cpp для E4B, при этом карточка помечает рецепт как «pending», несмотря на наличие команд быстрого запуска; vLLM для 74B — с эталонным рецептом, который закрепляет nightly-контейнер по хешу коммита.

Одну ловушку в метаданных стоит отметить, прежде чем она приведёт к ошибке при покупке. Виджет файлов Hugging Face в репозитории 74B показывает «22B params», тогда как карточка модели указывает 74B всего и 9B активных. Карточка права: 22B — это устаревшее поле боковой панели, а не третий вариант, и любой, кто подбирает оборудование по виджету, а не по карточке, сильно ошибётся в обратную сторону.

В таблицах бенчмарка нет ни одной общей строки

Это самое важное, что нужно понять перед сравнением этих двух, и именно это чаще всего упускают в освещении.

NVIDIA провела оценку 74B на GDPVal-AA-V2, Terminal-Bench 2.1, Tau3 Banking, HLE, AA-Omniscience, SciCode, GPQA Diamond, AA-LCR, PinchBench, MCP-Atlas, BrowseComp и WebArena. Она провела оценку E4B на MultiChallenge, RoleBench, RoleMRC, EQ-Bench v3, Brevity, BFCL-v3, When2Call, ToolSandbox, Tau2-Bench, IHEval, AgentIF, StructEval-T, IFBench, InverseIFEval, RULER, LongMemEval, LongBench v2, SysBench, GaRAGe, RAGTruth и RelyToolBench.

Пересечения нет. Ни одна строка не фигурирует в обеих таблицах. Эти два набора тестов даже используют разные версии агентного бенчмарка — Tau2 для E4B и Tau3 Banking для 74B, — поэтому даже наиболее похожая пара тоже несопоставима.

Это означает, что любое утверждение вида «74B лучше E4B на X пунктов» сфабриковано. NVIDIA не публиковала общий испытательный стенд, и ни одна третья сторона его не запускала. Что таблицы действительно подтверждают, так это утверждение о замысле дизайна:

• Модель 74B оценивали на задачах, похожих на рабочую деятельность, — использование терминала, просмотр веб-страниц, научное программирование, вопросы уровня выпускника вуза, рассуждения с длинным контекстом. Её самые сильные опубликованные результаты — BrowseComp 66.75, Terminal-Bench 2.1 50.98, GPQA Diamond 86.43 и AA-LCR 64.06.

• E4B оценивали на задачах, похожих на диалог, — сохранение персоны, иерархия инструкций, понимание, когда вызывать инструмент, опора на вывод инструмента. Его самые сильные строки — IHEval 84.79, RoleBench 67.05, RelyToolBench 63.16 и When2Call 63.36.

Оба набора заявлены производителем и не воспроизведены. В карточке 74B есть дополнительный нюанс, который стоит отметить: NVIDIA описывает модель как лучшую открытую модель в своём классе на PinchBench, но в её собственной таблице Qwen3.6-35B-A3B указана с 88,07 против 87,82 у Bolt. Это разрыв в 0,25 балла и утверждение, которое не совсем согласуется с собственной сноской.

Заявления о скорости — с прилагаемым оборудованием

Пропускная способность — единственное, где обе карты приводят цифры, и даже их всё равно не удаётся сопоставить.

• E4B на RTX 5070 12GB — от 106,2 до 133,4 токенов в секунду, от 548 до 1 238 мс до первого токена, от 3,5 до 4,3 ГБ видеопамяти; измерено с помощью llama.cpp и CUDA при размере батча 1.

E4B на Jetson Orin Nano 8GB — от 13,0 до 15,5 токенов в секунду и от 5,8 до 6,3 секунды до первого токена. Та же модель на аппаратном обеспечении, к которому на самом деле относится рекламный тезис о «4GB».

74B на RTX Spark — 83,99 токена в секунду на AIPerf SPEED-Bench-Coding с подключённым драфтером LiLiCorr и семью спекулятивными токенами на шаг.

Показатель 74B предполагает отдельный чекпоинт драфтера на 1.13B, конкретный бенчмарк и другое железо, нежели в любом из запусков E4B. Показатель E4B предполагает отсутствие драфтера. Сравнивать 133 с 84 и заключать, что маленькая модель быстрее, — технически верно и практически бессмысленно: одна — это модель с четырьмя миллиардами эффективных параметров на настольном GPU, другая — модель с девятью миллиардами активных параметров на другой машине с прикрученным спекулятивным декодером.

Что числа действительно показывают, так это характер компромисса. E4B оптимизирован под время до первого токена; 74B создан для продолжительной агентной работы, где 84 токена в секунду достаточно. Строка Orin Nano — это предостережение: модель на 4 ГБ на встраиваемом оборудовании не становится автоматически собеседником в реальном времени.

Память: 4 ГБ и 24 ГБ — это конверты, а не файлы

Оба имени используют цель в памяти, и ни одно из чисел не является загрузкой.

• E4B — GGUF Q4_K_M объёмом 6,18 ГБ. NVIDIA в собственных прогонах с батчем 1 на оборудовании RTX фиксирует от 3,1 до 4,3 ГБ видеопамяти. Карта не публикует файл объёмом 4 ГБ.

• 74B — 22,02 ГБ весов GGUF плюс отдельный визуальный проектор на 1,73 ГБ, итого 23,75 ГБ, или 24,12 ГБ в сборке safetensors, готовой для vLLM. Именно 2,0625-битное квантование экспертов позволяет уложиться в 24 ГБ.

• Сборки BF16 — 15,88 ГБ для E4B, 149,8 ГБ в 63 шардах для 74B. Варианты полной точности предназначены для постобучения, а не для развёртывания, и в карточке 74B это прямо указано.

Разрыв в объёме хранилища составляет примерно четыре к одному при точности развёртывания и примерно девять к одному при полной точности. Разрыв по видеопамяти меньше разрыва по числу параметров, потому что модель 74B расплачивается за сжатие битами, а не размером.

Модальность и контекст решают больше, чем количество параметров.

64K-текстовое окно и 256K-мультимодальное окно — это не один и тот же продукт с разными лимитами.

74B может смотреть на изображение или видео и действовать на основе увиденного. В его спецификации указаны входные данные в формате RGB JPEG или PNG, видео MP4 длительностью до двух минут и рекомендация один кадр в секунду при 1080p или два кадра в секунду при 720p. Он может прочитать скриншот, график, форму или поток с камеры и затем вызывать инструменты на основе увиденного. Именно эта способность делает его агентом для работы в браузере и на рабочем столе.

E4B не умеет видеть. Он принимает текст и возвращает текст, а его 64K-окно явно слабее, чем у конкурентов, в задачах извлечения: RULER — 86.99 против 95.15 у Qwen3.5 4B, LongBench v2 — 50.50 против 59.93. Если вашему приложению нужно удерживать в поле зрения длинный документ или скриншот, E4B — неподходящая модель, независимо от того, насколько хороши её оценки по персоне.

Для кого предназначен каждый из них

E4B предназначен для интерфейсного уровня. Интерактивные персонажи, голосовые ассистенты, агенты во встраиваемых устройствах, роботы, которым нужно выбрать сценарий и заговорить, а также любые приложения, где модель должна ответить за несколько сотен миллисекунд на оборудовании, которое стоит меньше рабочей станции. Демонстрации NVIDIA делают замысел конкретным: робот Reachy Mini на Jetson Orin Nano использует E4B для выбора анимационных сценариев, пока отдельная модель компьютерного зрения отвечает за восприятие, а NPC-кузнец проверяет оплату, ищет рецепт, собирает ингредиенты и выдаёт предмет.

74B предназначена для рабочего слоя. Постоянно активные персональные агенты, которые просматривают веб, пишут код, анализируют данные, отслеживают фоновые задачи и вызывают API. Она работает на RTX Spark, DGX Spark, рабочих станциях RTX PRO и видеокартах GeForce RTX с достаточным объёмом памяти и спроектирована так, чтобы работать рядом с другими приложениями в пределах 24 ГБ. Её профиль бенчмарков — BrowseComp, Terminal-Bench, GPQA, AA-LCR — это профиль модели, которая доводит задачи до конца, а не той, которая ведёт беседу.

Ни то, ни другое не заменяет друг друга. Игровой студии, которой нужны убедительные NPC, не нужен мультимодальный агент на 74B; агентная платформа, которой нужно читать веб-страницу и выполнять команду в терминале, не может использовать текстовую диалоговую модель на 4B.

Что означает семейство из двух моделей для развёртывания

Интересное архитектурное следствие заключается в том, что NVIDIA выпустила портфель, а не лестницу. E4B обрабатывает рефлекторный слой, 74B обрабатывает слой локальной работы, а Super VL 120B-A12B обрабатывает более тяжелые мультимодальные случаи. Это три разных бюджета памяти и три разных задачи, все в рамках одного лицензионного семейства.

Большинству приложений всё равно понадобится четвёртый уровень, который нельзя скачать: фронтирная модель для запросов, превышающих возможности локального железа, или второй поставщик для той модальности, которой не хватает локальной модели. Маршрутизация их через единый API — более 200 моделей, 0% наценки к прайс-листу провайдера, автоматическое переключение при сбое, когда провайдер деградирует, — позволяет локальному Bolt оставаться быстрым путём, а размещённой модели — оставаться исключением. Альтернатива — отдельная интеграция, ключ и счёт для каждой модели выше локального уровня.

Что решило бы семейный вопрос?

Один запуск. Прогоните оба Bolts через один и тот же стенд на одних и тех же задачах — наборе для диалогов, наборе для агентных сценариев и мультимодальном наборе — и опубликуйте строки. У NVIDIA есть чекпоинты, стек оценки и стимул; вместо этого она решила опубликовать две отдельные таблицы.

Пока этого не существует, наиболее обоснованное прочтение таково: 74B — более способная модель как по замыслу, так и по свидетельствам, на тех задачах, которые NVIDIA выбрала для измерения. E4B — более подходящая модель для большого класса интерфейсов, где агент на 24GB абсурден, а разговорная модель на 4GB — это в точности то, что нужно. Название на коробке одно и то же. Машина внутри — нет.