Granite Switch 4.1 8B против Granite 4.2 3B: одна и та же лаборатория, две разные ставки

Первое, что нужно знать о Granite Switch 4.1 8B и Granite 4.2 3B — это то, что они на самом деле не соперники. Это два ответа на разные вопросы, которые просто делят одну лабораторию, одну лицензию и один номер версии, и самый быстрый способ потратить неделю впустую — рассматривать это как очное противостояние и выбирать победителя. IBM выпустила Granite 4.2 3B 25 августа 2026 года как небольшую модель рассуждений: три режима мышления, вызов инструментов, контекст 128K с расширением до 512K. IBM выпустила Granite Switch 4.1 8B 14 октября 2026 года как композицию: замороженная текстовая модель на 8B с двумя переключаемыми адаптерами и речевым энкодером, подключённым к ней. Одна создана, чтобы думать усерднее; другая — чтобы выполнять больше задач из одной контрольной точки.

Второй момент, который стоит знать, тоньше, и именно из-за него это сопоставление вообще заслуживает отдельного материала. Линейка Granite Switch построена на весах поколения 4.1, тогда как обычная линейка IBM уже перешла на 4.2. Загляните в манифест сборки Granite Switch 4.1 8B — базовая модель: ibm-granite/granite-4.1-8b. Откройте карточку модели Granite 4.2 3B — она дообучена с ibm-granite/granite-4.1-3b-base. Обе линейки опираются на одно и то же поколение предварительно обученных весов и используют их противоположным образом: 4.2 усерднее дообучают для рассуждений, Switch компонует вширь ради широты охвата. Ни одна из них не вытеснила другую — вот почему рефлекс «что новее» здесь даёт неверный ответ.

Что каждый из них на самом деле из себя представляет

Granite 4.2 3B is a dense decoder-only model at roughly 3 billion parameters — 40 layers, hidden size 2,560, SwiGLU with an 8,192 intermediate, grouped-query attention at 40 query heads against 8 KV heads, RoPE theta 1e7, RMSNorm at 1e-5, untied input and output embeddings, and the same 100,352-token vocabulary the Granite family has used for a while. Its distinguishing feature is that reasoning is a mode rather than a model: full thinking with <think>...</think> chain-of-thought, a non-thinking mode that skips it, and a low-effort mode that produces a short burst of reasoning on queries that do not need the full pass. Tool calling is reasoning-augmented, meaning the model reasons about which function to invoke rather than emitting a call pattern directly. Context is 128K natively with a documented extension to 512K.

Granite Switch 4.1 8B — это не модель рассуждений, и она не пытается ею быть. Её основа — Granite 4.1 8B: 40 слоёв, размер скрытого слоя 4 096, 32 головы запросов против 8 голов KV, окно в 131 072 токена — заморожена, а сверху — два адаптера activated-LoRA. guardian-core имеет ранг 16 над проекциями внимания и предназначен для обнаружения вреда, джейлбрейкинга, ненормативной лексики, насилия, сексуального контента, социальной предвзятости и неэтичного поведения. decision имеет ранг 64 над всеми семью проекциями и предназначен для выдачи калиброванного распределения вероятностей по размеченным вариантам за один прямой проход. Добавьте Granite Speech 5.0 TurboCTC — conformer-энкодер с 470 млн параметров — для транскрипции. Итоговый состав: 8 776 400 896 параметров против базовых 8 380 551 168 — рост на 4,72%.

Измерения, в которых они действительно различаются

• Размер — Granite Switch 4.1 8B с 8,78B против Granite 4.2 3B примерно с 3B. Почти втрое больше весов, а на одной GPU это разница между «комфортно» и «впритык».

• Контекст — 131 072 токена против 128K нативного контекста с возможностью расширения до 512K. Близко на базовом уровне, но не близко, если вам нужен режим длинного контекста.

• Рассуждение — режим размышления вообще отсутствует против трёх из них. Granite Switch 4.1 8B отвечает; Granite 4.2 3B сначала рассуждает, опционально.

• Структурированный вывод — калиброванный softmax по размеченным вариантам в сопоставлении с ответом на подсказку. Только один из них даёт число, к которому можно применить порог.

• Модальности — текст и аудио на входе, текст на выходе, против только текста.

• Композиция адаптеров — два переключаемых aLoRA и публичный композер против единственного монолитного чекпоинта.

• Релиз — 14 октября 2026 года против 25 августа 2026 года, с разницей в семь недель, оба под лицензией Apache-2.0.

Где Granite 4.2 3B — очевидный выбор

Всё, что должно подумать перед ответом, и всё, что должно работать на малых ресурсах. Модель 3B, которая рассуждает при контролируемом количестве токенов, — это другой инструмент по сравнению с моделью 8B, которая вообще не рассуждает, и в математике, многошаговой логике и коде режимы мышления выполняют реальную работу, а не просто украшают вывод. Недооценённая часть — это режим низких усилий: он даёт промежуточную настройку между «рассуждать полностью» и «не рассуждать», что именно то, что нужно, когда запрос простой, но не тривиальный, и вы платите за каждый токен.

Расширение до 512K важно по той же причине, но в другом направлении. Работа с длинными документами — код масштаба репозитория, входные данные на сотни страниц — это там, где окно в 131K начинает требовать стратегий разбиения на части, а Granite Switch 4.1 8B не документирует путь расширения сверх его 131,072.

Ресурсоёмкость — это третий аргумент, и он не маленький. Три миллиарда параметров — это модель класса ноутбука. Вы можете запускать Granite 4.2 3B там, где 8.78B чекпоинт просто не вариант, и это разница в возможностях, а не в предпочтениях.

Где Granite Switch 4.1 8B — очевидный выбор

Когда нужный вам вывод — это вероятность, а не абзац. Модель рассуждений можно попросить выбрать вариант B, и она выдаст вам букву. Однако запросы — это не вероятности: вы не можете применить порог к букве, вы не можете сравнить букву между ходами как калиброванную оценку, и вы не можете логировать её как значение уверенности. Этот решение-адаптер возвращает softmax по токенам меток напрямую — документированный вызов запрашивает у vLLM логарифмические вероятности именно этих идентификаторов и экспоненцирует, выдавая вывод в форме A: 0.982, B: 0.0035, C: 0.014. Это примитив маршрутизации, а не ответ.

Когда проверка безопасности должна быть компонентом, а не политикой. guardian-core использует ту же контрольную точку и активируется управляющим токеном, который шаблон чата вставляет, когда вы передаёте adapter_name. Вам не нужно поднимать вторую модель для проверки входных данных; классификатор — это режим уже загруженной вами модели.

Когда вам нужна одна конечная точка вместо двух, и особенно когда аудио — одно из этих двух. Транскрипция использует ту же конечную точку, что и чат, и решения, поэтому input_audio в виде части содержимого в обычном chat completion — это всё, что нужно. У Granite 4.2 3B нет аудиотракта.

А когда вы захотите собрать собственный вариант. Композер общедоступен, каталог адаптеров открыт, а манифест сборки для этого чекпоинта лежит рядом с весами — то есть ранги, целевые модули и идентификаторы управляющих токенов можно прочитать, а не выводить косвенно.

Честные оговорки с обеих сторон

Granite Switch 4.1 8B не имеет никакой независимой оценки. Его единственный опубликованный результат — это Decision Index, редакция v0.3, публичный быстрый поднабор, с общим баллом 42.9 — Знания 29.1, Язык 48.9, Поиск 49.8, Инструменты 59.8, Искусство 18.0 — и этот прогон был собственным прогоном IBM, опубликованным на карточке модели IBM, никем не воспроизведённым. Нет записи в стороннем лидерборде. Модели два дня на Hub, несколько десятков загрузок.

Её речевой тракт уже, чем можно судить по заголовку, и IBM признаёт это сама: кодировщик работает только с английским, транскрипт выдаётся в нижнем регистре и без знаков препинания, а кодировщик и языковая модель не обучаются совместно — нет обученной проекции, которая бы их связывала, поэтому ошибка распознавания может незаметно изменить то, на что реагирует модель. Granite 4.2 3B, тем временем, — ей семь недель, а не два дня, но её метрики оценки тоже получены IBM, а её контекст в 512K — это путь расширения, а не нативное окно.

Ни у одной из этих моделей нет отдельной записи в таблице результатов. Сейчас это свойство всей линейки Granite 4.x, а не критика в адрес любого из чекпоинтов.

Запуск обоих без запуска двух стеков

Полезное наблюдение об этой паре состоит в том, что две модели не конкурируют за один и тот же запрос, поэтому реалистичное развёртывание — это обе они, последовательно: Granite 4.2 3B в режиме размышления там, где сложная часть — это рассуждение, Granite Switch 4.1 8B там, где сложная часть — это оценка решения или расшифровка голосовой заметки. Это архитектура из двух контейнеров, и стоит точно понимать, где слой маршрутизации помогает, а где нет: ни одна модель Granite любого поколения сегодня не входит в каталог OrcaRouter, так что мы не являемся хостинговым маршрутом к любой из этих двух контрольных точек — Granite Switch 4.1 8B и Granite 4.2 3B — это в обоих случаях загрузка с Hugging Face плюс контейнер vLLM. Что меняет платформа — это слой над ними. Двести с лишним моделей находятся за одним ключом, цена из прайс-листа провайдера передаётся с наценкой 0%, поэтому снижение цены поставщиком вступает в силу в тот же день, а не при следующем обновлении каталога, и автоматическое переключение при сбое означает, что модель, которую вы всего лишь пробуете, может находиться в рабочем пути, не становясь единой точкой отказа. Смысл иметь это готовым до того, как любая из Granite появится на хостинговой конечной точке, в том, что сравнение тогда обойдётся в одну строку модели вместо одной миграции.

Так какой

Выбирайте Granite 4.2 3B, когда рабочая нагрузка связана с рассуждениями, когда машина маломощная или когда входные данные длиннее 131K токенов. Выбирайте Granite Switch 4.1 8B, когда рабочей нагрузке нужна калиброванная вероятность решения, встроенная проверка безопасности или речь на том же эндпоинте, что и чат. Выбирайте оба, если у вас есть GPU, потому что пересечение между ними гораздо меньше, чем можно подумать из-за общего ярлыка «Granite 4.x», — и не выбирайте ни один из них, полагаясь на число из бенчмарка, который IBM прогнала на карте IBM, потому что это и есть вся публичная доказательная база для обоих.