Granite 4.2 30B vs Nemotron 3.5 Lightning — мыслитель и исполнитель. Перегенерированная иллюстрация.
Guides & Insights

Granite 4.2 30B против Nemotron 3.5 Lightning: мыслитель и практик

Автор

Rowan Sterling

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

Granite 4.2 30B и Nemotron 3.5 Lightning — это две 30B-модели с открытым весом, вышедшие с разницей в четырнадцать дней и почти противоположными задачами. Nemotron 3.5 Lightning, выпущенная NVIDIA 11 августа 2026 года, представляет собой гибридную модель Mixture-of-Experts с общим объемом 30B и 3B активных параметров — в ней используются слои пространства состояний Mamba-2, MoE и внимание, — созданную как исполнительный слой агентных систем: быстрые вызовы инструментов, высокообъемные циклы, работа субагентов и запуск на одном GPU. Granite 4.2 30B, которую IBM тихо опубликовала на Hugging Face 25 августа 2026 года, — это плотная модель рассуждений с 29 миллиардами параметров, «мыслитель», с выбираемыми режимами мышления и агентным обучением с подкреплением; ее также можно развернуть на собственном оборудовании. Обе модели открыты (Apache 2.0 и OpenMDW-1.1), обе работают на оборудовании, которое команда реально может себе позволить, и обе являются августовскими релизами, чьи бенчмарки все еще в основном предоставлены вендорами. Интересный вопрос не в том, какая лучше, а в том, какая нужна вам: планировщик, исполнитель или обе.

Это разделение на планировщика и исполнителя — не выдумка редакции; это собственный дизайн NVIDIA. Nemotron 3.5 Lightning был дистиллирован из гораздо более крупного Nemotron 3 Ultra специально для того, чтобы передовая модель могла заниматься планированием, пока Lightning выполняет цикл, и NVIDIA выпустила его вместе с NeMo Switchyard — библиотекой маршрутизации, реализующей именно такое разделение труда. Granite 4.2 30B, напротив, пытается быть целым агентом в одном пакете на 30B.

Granite 4.2 30B, мыслитель

Флагманская модель IBM Granite 4.2 — плотный Transformer архитектуры decoder-only с тремя режимами рассуждений: полное обдумывание (заключённое в теги think>.../think>), обдумывание с низкими усилиями и без обдумывания — плюс OpenAI-совместимый вызов инструментов и агентное обучение с подкреплением, которое обучило её работать с терминалами, выполнять код и искать в интернете внутри песочницы. Её собственный контекст в 128K расширяется до 512K. Карточка IBM заявляет 89.17 на AIME 2025, 77.60 на MMLU-Pro и 57.00 на SWE-Bench Verified (в собственной тестовой среде) — все показатели заявлены вендором, ни один не воспроизведён независимо, и записи в Artificial Analysis пока нет. Короче говоря, это универсальная модель рассуждений, которую сильно заточили под агентные задачи и которая доступна в квантованиях BF16, FP8, NVFP4/MXFP4 и GGUF, чтобы команды могли реально её запускать.

A screenshot of the Hugging Face model card for ibm-granite/granite-4.2-30b (captured August 26, 2026), showing the card header, Model Summary with Model Type 'Decoder-only Dense Transformer (Reasoning)', Base Model 'Granite-4.1-30B-Base', Parameters 30B, Context 'Natively Supports 128K (Long-context extension to 512K)', bfloat16 precision, 12 tested languages, and 'Built-in <think>...</think> chain-of-thought'.

Nemotron 3.5 Lightning, исполнитель

Решение NVIDIA имеет совершенно иную форму. Название «30B A3B» означает 30 миллиардов параметров всего, но лишь около 3 миллиардов активных на каждый токен — гибридная архитектура, сочетающая Mamba-2, MoE и attention, что обеспечивает быструю и недорогую генерацию. Модель поставляется со встроенным спекулятивным декодированием: головки Multi-Token Prediction, а также черновые модели DFlash и DSpark, поэтому небольшая черновая модель предлагает токены, а основная модель проверяет их параллельно. NVIDIA заявляет о скорости вывода до 4 раз выше по сравнению с моделями схожего размера, и всё это работает на одном GPU — RTX 5090, DGX Spark или Jetson — или с контекстом 256K на одном H100, при этом модель в принципе поддерживает контекст до 1M. Её лицензия OpenMDW-1.1 покрывает веса, обучающие данные и рецепты.

Собственная позиция NVIDIA предельно ясна в том, чем Lightning не является: в проведённой компанией оценке была показана слабая производительность Terminal-Bench в качестве основного агента — LLM Stats независимо подтвердили примерно 24.6 на Terminal-Bench 2.1 — и рекомендация заключается в использовании его как исполнителя, а не планировщика. Заявленные сильные стороны: MMLU Pro 81.94, GPQA Diamond 75.44, SWE-Bench Verified 51.56 и PinchBench с точностью 86%, при этом задачи выполняются примерно на 30% быстрее, чем у Qwen 3.6 35B с сопоставимой точностью. И каждая из этих цифр — собственная оценка NVIDIA.

A screenshot of the Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 (captured August 26, 2026) showing the NVIDIA organization header, Total Parameters 30B (3B active), Context Length up to 1M tokens (256K for a single H100 deployment), and License openmdw-1.1.

Табло, честно подписанное

Полезное сравнение — это форма столбца, а не значения строк:

• Granite 4.2 30B — ~29B плотная, все параметры активны; Apache 2.0; 128K нативный / 512K расширенный; режимы рассуждения, которые можно выбирать для каждого запроса; заявленные вендором SWE-Bench Verified 57.00, Terminal-Bench 2.1 29.24; мыслитель.

• Nemotron 3.5 Lightning — 30B всего / 3B активных, гибридный MoE; OpenMDW-1.1; контекст 1M (256K практически на одном H100); спекулятивное декодирование (MTP/DFlash/DSpark); заявленные вендором показатели: SWE-Bench Verified 51.56, ~24.6 Terminal-Bench 2.1 (проверено LLM Stats); исполнитель.

A two-column comparison scoreboard titled 'Granite 4.2 30B vs Nemotron 3.5 Lightning — the scoreboard'. Left column Granite 4.2 30B: Params ~29B dense, Context 128K / 512K ext, License Apache 2.0, Architecture dense Transformer, Terminal-Bench 2.1 29.24 (vendor), One GPU yes (quantized). Right column Nemotron 3.5 Lightning: Params 30B / 3B act MoE, Context 1M (256K practical), License OpenMDW-1.1, Architecture hybrid MoE (Mamba-2), Terminal-Bench 2.1 ~24.6 (LLM Stats), One GPU yes (NVFP4). Footer: 'Granite & Nemotron figures vendor-reported; Nemotron Terminal-Bench per LLM Stats.' OrcaRouter logo in the bottom-right corner.

Читайте эти строки так, как задумано NVIDIA: слабость Lightning в Terminal-Bench — это особенность его конструкции: он не должен планировать, он должен выполнять. Показатели Granite — это одна модель, претендующая на то, чтобы делать и то и другое. Ни один набор результатов не был независимо воспроизведён на момент выпуска; оба будут воспроизведены в течение нескольких недель.

Стек, а не модель.

Эти две модели — {{1}}не столько конкуренты, сколько смежные компоненты одной системы{{/1}}. Агенту нужны {{2}}планировщик для декомпозиции задачи и исполнитель, продирающийся сквозь тысячу вызовов инструментов{{/2}}. Granite 4.2 30B пытается объединить обе функции в одну плотную модель; Nemotron 3.5 Lightning — это явно половина двухмодельного стека, вторую половину которого составляет фронтирная модель. NVIDIA называет этот стек NeMo Switchyard; маршрутизирующий слой делает то же самое с любой комбинацией облачных и локальных моделей.

Здесь должно быть честное примечание о маршрутизации. Ни одна из моделей не представлена на OrcaRouter — мы не маршрутизируем ни Granite 4.2 30B, ни Nemotron 3.5 Lightning, и для обеих моделей доступность обеспечивается либо вашим собственным оборудованием, либо собственными каналами вендора. Но паттерн из двух моделей, на который они указывают, — это именно то, для чего предназначен DSL маршрутизации: соберите самостоятельно размещённый эндпоинт Granite для проходов рассуждения и самостоятельно размещённый эндпоинт Lightning для циклов выполнения, поставьте впереди хостируемую передовую модель для планирования, которому нужно больше запаса, и управляйте всеми тремя через один API-ключ с автоматическим переключением при сбое. Вам не нужно выбирать между мыслителем и исполнителем — вы можете собрать стек, который использует каждую модель там, где она сильна, и позволить маршрутизатору выступить арбитром.

Какой первый?

Если вы хотите владеть одной моделью, иметь одну кодовую базу и один стек обслуживания и готовы поручить ей всю работу по рассуждению и выполнению, начните с Granite 4.2 30B — но дождитесь первого независимого бенчмарка, прежде чем доверять результату 57.00 в SWE-Bench. Если вы создаёте высоконагруженного агента, где большинство вызовов — короткие шаги инструментов, а задержка — главный бюджет, начните с Nemotron 3.5 Lightning и позвольте фронтирной модели или эндпоинту Granite заниматься обдумыванием. Если вы строите что-то серьёзное, ответ — использовать обе модели, и такое решение сравнение только с 30B никогда бы не выявило.

© 2026 OrcaRouter