Granite Switch 4.1 30B vs Nemotron 3.5 Lightning 30B A3B: что означает «Switch» в каждом названии?

Обе эти модели — примерно 30B, в названии обеих есть слово, звучащее как «маршрутизация», и обе делают с ним совершенно разные вещи. Granite Switch 4.1 30B — веса на Hub с 14 октября 2026 года — переключает адаптеры: одна плотная базовая модель, два подключаемых LoRA-адаптера, и каждый токен проходит через всю сеть. Nemotron 3.5 Lightning 30B A3B, которую NVIDIA опубликовала 11 августа 2026 года, переключает экспертов: гибридный стек Mamba-2 и MoE, в котором на каждый токен срабатывает лишь около 3 миллиардов из 30 миллиардов параметров. Никто не сравнивал эти две модели друг с другом в бенчмарках, и эта статья не собирается делать вид, что это не так. По-настоящему полезное сравнение — это то, во сколько каждый дизайн обходится вам за токен и что он даёт взамен.

Правильно уловить это различие — не педантизм, потому что сами названия провоцируют ровно неверный вывод. «Switch» в Granite Switch относится к лёгкому слою переключения, который считывает управляющие токены во входных данных и сообщает каждому слою декодера, какие веса LoRA применять на этом отрезке токенов. Это не маршрутизация mixture-of-experts, и это не сокращает вычисления на токен ни на один FLOP. «A3B» в названии NVIDIA — противоположность: это явное утверждение о том, насколько малая часть модели работает при инференсе.

Табло, измерение за измерением

• Параметры — Granite Switch 4.1 30B в сумме даёт 29 989 814 272 поверх базы 28 865 728 512 (+3,89%); Nemotron 3.5 Lightning 30B A3B имеет в общей сложности 30B, из которых примерно 3B активных параметров на токен.

• Архитектура — плотный декодер-трансформер плюс два активированных LoRA-адаптера против гибрида из чередующихся Mamba-2, MoE и attention.

• Вычисления на токен — полный плотный прямой проход модели 30B против примерно одной десятой от этого объёма в активных параметрах, и в этом весь смысл суффикса A3B.

• Контекст — 131 072 токена в чекпоинте Switch; до 1 млн у Nemotron Lightning, при этом NVIDIA указывает 256K как практический показатель на одном H100.

• Режим рассуждений — нет в шаблоне чата Switch; настраиваемый переключатель enable_thinking в Nemotron.

• Аудиовход — встроенный 470M речевой энкодер в модели Switch; на стороне NVIDIA его нет.

• Лицензия — Apache-2.0 против OpenMDW-1.1. Это не один и тот же документ, и условия для нижестоящих различаются; читайте ту, под которой вы фактически выпускаете.

• Оборудование — в карточке Switch перечислены Transformers и vLLM в рамках узкого диапазона версий; NVIDIA документирует Nemotron Lightning на одном H100 или A100 80GB, со сборкой NVFP4, предназначенной для развёртывания.

Что на самом деле даёт вам чекпоинт Granite Switch

Композиция — это и есть продукт. Granite Switch 4.1 30B замораживает Granite 4.1 30B и присоединяет два адаптера: адаптер ранга 16 guardian-core — классификатор безопасности на проекциях внимания и ранга 64 decision адаптер по всем семи проекциям — плюс речевой энкодер. Выбор адаптера происходит через шаблон чата, когда вы передаёте adapter_name, так что это параметр запроса, а не второй сервис.

Взамен вы получаете плотность возможностей: вердикт о безопасности, калиброванное распределение вариантов и транскрипт из одного процесса — за 1,12 млрд дополнительных параметров поверх базовой модели, которую вы и так собирались загрузить. Полгода назад тот же проект выпустил предварительный чекпойнт с двенадцатью адаптерами при надбавке 11,68%; готовая версия сократила их до двух при 3,89%, что для IBM означает обмен охвата на удобочитаемость. Остальные десять адаптеров по-прежнему существуют, и композер соберёт вам чекпойнт с любым подмножеством.

Издержки находятся ровно там, где вы и ожидали. Ничто в механике адаптеров не делает базовую модель быстрее, ведь базовая модель плотная и не тронута — каждый токен по-прежнему прогоняется через всю сеть. Речевой тракт работает только с английским, выдаёт текст в нижнем регистре, без знаков препинания и, по словам самой IBM, не обучался совместно с языковой моделью, поэтому ошибка распознавания незаметно меняет вопрос, на который отвечает модель. А чекпойнт поставляется лишь в одной точности, без официальной квантованной сборки — в отличие от модели NVIDIA, рекомендованный для развёртывания вариант NVFP4 которой присутствует на Hub с начала августа.

Что на самом деле измеряют показатели Nemotron

Таблица бенчмарков NVIDIA для Nemotron 3.5 Lightning 30B A3B полнее, чем у IBM для модели Switch, и стоит прочитать сноску к ней. Эти показатели — MMLU-Pro 81.94, GPQA Diamond 75.44, SWE-bench Verified 51.56, Terminal-Bench 2.1 24.58, PinchBench 85.37, AA-LCR 52.00 на длинном контексте — описаны компанией NVIDIA как измеренные в её собственном едином испытательном стенде, с оговоркой, что они могут отличаться от самостоятельно заявленных чисел других поставщиков. Это более честная формулировка, чем удаётся большинству карточек, и всё же это остаются данные, заявленные производителем. NVIDIA опубликовала рецепты в NeMo Gym, чтобы запуски могли воспроизвести другие, но это не то же самое, как если бы кто-то другой их уже воспроизвёл.

Более интересное утверждение — то, что о скорости, а не о точности. Модель на 30B с 3B активных параметров — это ставка на то, что большей части агентной работы не нужно, чтобы вся сеть срабатывала на каждом токене, и NVIDIA выпустила вместе с ней спекулятивное декодирование — головы многотокенного предсказания плюс драфтеры DFlash и DSpark, — чтобы ещё больше повысить пропускную способность. Оно также позиционирует Lightning как слой исполнения под более крупным планировщиком, а не как модель, которой задают сложные вопросы. Эта позиция принадлежит NVIDIA, и она же является правильной оптикой и для таблицы бенчмарков: именно эффективность на уровне токенов отражается в счёте.

Ловушка в объединении этих двух табло

Для главной возможности модели Switch опубликован один показатель — Decision Index, редакция v0.3, публичное быстрое подмножество из 1 068 строк, Общий балл 50.1, где знания — 32.4, язык — 58.6, поиск — 49.8, инструменты — 76.5 и искусство — 26.4 — а для Nemotron Lightning есть полная таблица бенчмарка. Поставить 50.1 рядом с 81.94 или 51.56 было бы категориальной ошибкой в самом чистом виде.

The Decision Index оценивает, насколько хорошо адаптер решений ранжирует фиксированный набор помеченных вариантов. Это не показатель качества общения или рассуждений базовой модели, и адаптер не изменяет базовую модель. Таблица Nemotron оценивает всю модель по знаниям, рассуждениям, программированию и длинному контексту. Разные оси, разные стенды, разные авторы, и между ними нет общего бенчмарка. Оба показателя заявлены производителями. Ни один нельзя сравнивать с другим, и единственное честное, что можно сделать с этой парой, — отказаться вычитать их друг из друга.

Что вы действительно можете сделать — это прочитать форму каждого из них. Значение 76,5 в Индексе решений по категории Tools против 26,4 по категории Arts говорит о том, что адаптер имеет смысл направлять на решения о выборе инструментов, и ему не следует доверять при классификации в открытой предметной области без вашей собственной оценки. 51,56 у Nemotron на SWE-bench Verified против лучшего результата в той же таблице — 70,12 — говорит о том, что это не самый сильный агент для написания кода в его собственном наборе для сравнения: NVIDIA поместила более высокий показатель конкурента в свою собственную таблицу, а это, по крайней мере, сигнал, который стоит уважать.

Какой именно и для чего

Если ваша задача — длинный агентный цикл, выполняющий тысячи коротких решений по инструментам, экономика параметров указывает в одном направлении: MoE с 3B активных параметров на одной GPU выполнит эту работу за долю стоимости за токен по сравнению с плотной 30B, а у модели Switch нет механизма, чтобы закрыть этот разрыв, потому что её «переключатель» никогда не снижает вычисления. Добавьте контекст 1M и переключатель рассуждений — и модель NVIDIA просто создана для такой нагрузки.

Если ваша задача — единый процесс, который должен отвечать пользователю, выдавать калиброванное решение о маршрутизации и транскрибировать сказанное пользователем, арифметика переворачивается. У Nemotron 3.5 Lightning вообще нет ни головы для принятия решений, ни какого-либо аудиотракта, а обращение к чат-модели с просьбой ответить одной буквой — это не калиброванное распределение. Granite Switch 4.1 30B даёт вам все три из одного чекпоинта, добавив менее 4% весов по сравнению со своей базовой версией, и эту возможность нельзя купить, просто выбрав модель получше.

Честный третий случай — самый распространённый: вы вообще не выбираете между ними. Оба — артефакты для самостоятельного хостинга, оба распространяются под Apache-2.0 или OpenMDW-1.1, а не являются хостинговым эндпоинтом, и ни один из них не был независимо оценён. Granite Switch 4.1 30B существует два дня, и по нему опубликована всего одна цифра; Nemotron 3.5 Lightning существует два месяца, и по нему есть таблица от вендора и опубликованные рецепты. Этого недостаточно, чтобы планировать миграцию.

Получить настоящий ответ без миграции

Ни одной из этих моделей сегодня нет в каталоге OrcaRouter, поэтому обе подразумевают ваше собственное оборудование и собственные каналы релизов вендора — IBM для Switch checkpoint, NVIDIA для Lightning. Утверждать обратное означало бы выдумывать эндпоинт.

Платформа оправдывает своё место тем, что кандидата должно быть дёшево протестировать. Один ключ охватывает более 200 моделей с автоматическим переключением при сбое и передаёт цену провайдера по прайс-листу с наценкой 0%, так что когда появляется хостинговый маршрут к любой из этих моделей, поставить её рядом с моделью, уже работающей в продакшене, — это изменение конфигурации, а не цикл закупок. Когда перед вами две открытые модели на 30B, которые обе выглядят разумно на бумаге и ни одну из которых никто за пределами соответствующего вендора не измерял, решающее значение имеет не то, какой карте вы верите. А то, насколько дёшево вы можете это выяснить.

Итог

Granite Switch 4.1 30B и Nemotron 3.5 Lightning 30B A3B совпадают по числу параметров и почти больше ни в чём. Одна — плотная база с переключаемыми адаптерами, которая даёт три задачи на процесс при полных плотных вычислениях на токен; другая — разреженный гибрид, созданный для того, чтобы каждый токен стоил как можно меньше и чтобы можно было выполнять длинный цикл на одном GPU. Выбирайте по форме рабочей нагрузки, а не по таблице бенчмарков — и если вы вынесете из этого одну вещь, пусть это будет поправка в названиях: переключение адаптеров даёт вам возможности, разреженность экспертов даёт вам пропускную способность, и ни одна модель здесь не даёт вам и того, и другого.