Granite Switch 4.1 8B против Gemma 4 12B: составные специалисты или одна единая модель?

Спросите две лаборатории, как построить модель, способную поддерживать беседу, читать скриншот и расшифровывать голосовую заметку, — и получите противоположные ответы. Granite Switch 4.1 8B, выпущенная IBM 14 октября 2026 года, сохраняет замороженную текстовую модель 8B и навешивает на неё небольшие переключаемые адаптеры, так что блок проверки безопасности, движок принятия решений и распознаватель речи — всё это надстройки над одним общим бэкбоном. Gemma 4 12B, опубликованная Google 23 мая 2026 года, поступает наоборот: одна модель с 11,95 млрд параметров, обученная с самого начала на тексте, изображениях и аудио, без отдельного энкодера, который нужно было бы подключать. Обе распространяются по лицензии Apache-2.0, обе работают на одной GPU, и они расходятся почти во всём, что лежит в основе.

Практическая версия, прежде чем перейти к деталям: Gemma 4 12B — зрелый выбор для всего, что должно видеть, потому что она находится в открытом доступе уже пять месяцев, имеет по-настоящему большую базу установок, а её мультимодальный путь обучен, а не сшит из отдельных частей. Granite Switch 4.1 8B — интересный выбор для всего, что должно решать или запускать один эндпоинт вместо трёх, и ему всего два дня, а независимых оценок нет ни одной. Это не конкурирующие вердикты — это ответы на разные вопросы, и остальная часть этой статьи — детали, которые позволят вам понять, какой вопрос на самом деле стоит перед вами.

Архитектурное разделение, изложенное простыми словами

Granite Switch 4.1 8B — это композиция. База — Granite 4.1 8B: 40 слоёв, размер скрытого слоя 4 096, 32 головы запросов против 8 голов KV, окно в 131 072 токена, словарь на 100 352 токена, который два адаптера расширяют ровно на три зарезервированных id. Поверх этого находятся два активированных LoRA-адаптера, guardian-core ранга 16 на проекциях внимания и decision ранга 64 на всех семи из них, плюс Granite Speech 5.0 TurboCTC — неавторегрессионный конформерный энкодер на 470 млн параметров для аудиовхода. Итого: 8 776 400 896 параметров против 8 380 551 168 у базовой модели — прирост на 4,72% за счёт двух адаптеров и речевой модели.

Gemma 4 12B — это единый стек. В конфиге он называется gemma4_unified, и название буквально: изображение, аудио и видео имеют собственные идентификаторы токенов в одном словаре из 262 144 токенов, а в карточке архитектура описывается как не имеющая энкодера, то есть нет отдельной визуальной или аудиобашни, которая подавала бы проекцию в языковую модель. Он чередует локальное внимание со скользящим окном в 1 024 токена с полным глобальным вниманием, использует p-RoPE для позиций и растягивается до контекста в 256K. Apache-2.0, как у Granite.

• Параметры — Granite Switch 4.1 8B: 8,78 млрд суммарно (8,38 млрд базовых). Gemma 4 12B: 11,95 млрд.

• Контекст — 131 072 токена против 256 000 токенов.

• Словарь — 100 355 против 262 144, причём у Gemma он зарезервирован под токены изображений, аудио и видео.

• Модальности в — текст и аудио против текста, изображения, аудио и видео.

• Модальности исключены — только текст против только текста.

• Специализированные головы — калиброванное распределение решений и классификатор безопасности против отсутствия таковых; Gemma отвечает, а не оценивает метки вариантов.

• Лицензия — Apache-2.0 в обоих случаях.

Где Gemma 4 12B одерживает безоговорочную победу

По части работы с изображениями даже близко не стоит. Gemma 4 12B читает изображения нативно; у Granite Switch 4.1 8B вообще нет никакого пути для изображений. Если ваш пайплайн принимает скриншоты, PDF-файлы, графики или снимки интерфейса, на этом сравнение заканчивается — никакие ухищрения адаптера не заменят модальность, которую чекпойнт не принимает.

Послужной список — это второй. Gemma 4 12B находится на Hub с 23 мая 2026 года, а её instruct-версия превысила 1,6 миллиона загрузок; только базовая контрольная точка превышает 79 000. Обе цифры — это количество загрузок на Hub, а не показатели использования, поэтому они преувеличивают реальное развёртывание, но направление однозначно: есть большое количество людей, которые уже столкнулись с её режимами отказа и написали об этом. Granite Switch 4.1 8B на момент написания существует два дня, имеет несколько десятков загрузок и несколько лайков. Пять месяцев публичных отчётов об ошибках — это актив, который нельзя купить, и это самый сильный аргумент в пользу Gemma на пути в продакшн в этом квартале.

Длина контекста — это третий пункт, и он самый незаметный. 256K против 131 072 — это не маркетинговое отличие, когда вы подаёте длинные документы. Ни одной из моделей не нужен обходной путь для типичной чат-нагрузки, но только одна из них примет контекст масштаба репозитория без шардирования.

Где Granite Switch 4.1 8B одерживает безоговорочную победу

Адаптер решений — это возможность, которой у другой модели просто нет. Дайте ему состояние и вопрос с размеченными вариантами, и он вернёт калиброванный softmax по этим меткам за один прямой проход — документированный вызов запрашивает у vLLM logprobs именно для id токенов меток и возводит их в экспоненту, выдавая результат вида A: 0.982, B: 0.0035, C: 0.014. Модель общего назначения можно с помощью промпта попросить выбрать метку, но промптинг порождает токен, а не распределение, к которому можно применить порог, сравнить его между ходами или залогировать как калиброванную оценку. Для логики маршрутизации, триажа, порогов эскалации и всего, что требует значения уверенности, а не ответа, это другой класс вывода.

Второе — консолидация на одной конечной точке. Расшифровка речи работает на той же конечной точке, что и чат и принятие решений; вы отправляете input_audio как часть содержимого при обычном chat completion, и кодировщик на 470M расшифровывает её, а затем вставляет текст в контекст. Ни второго сервера, ни слоя оркестрации, ни отдельного счёта за ASR. Gemma 4 12B тоже принимает аудио, так что это не разрыв в возможностях — это различие в форме развёртывания, и оно имеет значение, только если вы иначе собирались запускать отдельный речевой сервис рядом с LLM.

Третий — это объём памяти. 8,78 млрд против 11,95 млрд — это примерно на четверть меньше веса, который нужно хранить, а архитектура с общим KV-кэшем означает, что адаптерам не нужно каждому нести собственное состояние внимания. IBM утверждает, что скомпонованная модель занимает примерно столько же видеопамяти, сколько базовая сама по себе; это конкретное утверждение не воспроизведено, но стоящая за ним разница в параметрах 4,72% — факт из манифеста сборки.

Два утверждения со стороны Granite, которые ещё не стали фактами

Опубликованное значение Decision Index для решающего адаптера составляет 42,9 в целом на публичном быстром подмножестве edition-v0.3 из 1 068 строк, с оценками по областям: Знания — 29,1, Язык — 48,9, Поиск — 49,8, Инструменты — 59,8 и Искусство — 18,0. Эту оценку проводила IBM, и опубликовала её тоже IBM. Больше её никто не воспроизводил, а сторонней записи в таблице лидеров для Granite Switch нет вообще. Обратите внимание и на форму профиля: 59,8 по Инструментам рядом с 18,0 по Искусству — это профиль специалиста, а не оценка общей компетентности, и в карточке прямо сказано, что вероятности вариантов следует рассматривать как априорные, а не как сертифицированную классификацию в тех доменах, для которых адаптер не обучался.

Второе — это речевой тракт, и именно это утверждение чаще всего интерпретируют шире, чем следует. Кодировщик работает только с английским, его вывод — в нижнем регистре и без пунктуации, и — по собственным словам IBM из карточки модели — речевой кодировщик и LLM не обучались совместно; нет обученной проекции, которая бы их связывала. Аудиотракт Gemma 4 12B обучался как часть модели. Вот в чём настоящая разница, и она сохраняется при всех разговорах об объединении эндпоинтов: в одной системе есть обученная связь между звуком и смыслом, в другой транскрипт вставляется в промпт компонентом, который никогда не оптимизировался под то, что его читает.

Запуск их параллельно

Оба чекпоинта доступны для скачивания, оба распространяются под лицензией Apache-2.0, и честная формулировка такова: их место — в разных нишах, а не в соревновании. Gemma 4 12B — это то, к чему вы прибегаете, когда входные данные включают пиксели. Granite Switch 4.1 8B — это то, к чему вы прибегаете, когда выходные данные должны быть вероятностью или когда вы хотите, чтобы одна конечная точка выполняла чат, принятие решений и транскрипцию, и при этом готовы принять, что часть, отвечающая за транскрипцию, — это склейка, а не обученный путь.

Если вы сравниваете эти две, сделайте это, не перестраивая свой стек. OrcaRouter предоставляет более 200 моделей за одним API-ключом с автоматическим переключением при сбое и передаёт цену провайдера из прайс-листа с наценкой 0%, так что изменение цены на стороне провайдера появляется здесь в тот же день, а не при следующем обновлении каталога. img src="4.png" alt="Скриншот страницы модели OrcaRouter для Gemma 4 26B A4B, где модель отмечена тегами Vision, Tools, JSON и Reasoning, с контекстом в 262 тыс. токенов, вводом текста, изображений и видео, датой выпуска Google 2026-04-03, ценой за миллион токенов $0,06 за ввод и $0,33 за вывод, p50 времени до первого токена 2,74 секунды и вводным описанием, где Gemma 4 26B A4B IT описывается как инструкционно-настроенная модель со смесью экспертов с общим числом параметров 25,2 млрд, из которых 3,8 млрд активируются на каждый токен." /> Ни одного из этих двух чекпойнтов сегодня нет в нашем каталоге, и мы не собираемся делать вид, что это не так — Granite Switch — это загрузка с Hugging Face и контейнер vLLM, Gemma 4 12B — то же самое. Смысл размещения кандидата за одним ключом в том, что когда он действительно станет доступен, сравнение его с текущим решением на вашем собственном трафике обойдётся заменой строки модели, а не миграцией. Рассмотрите некоторые из моделей, которые мы действительно обслуживаем, например Gemma 4 26B A4B, в качестве моста: это то же семейство, что и оцениваемая вами модель, на хостинговом эндпоинте, уже сегодня.

Какой именно, для кого?

Выбирайте Gemma 4 12B, если в вашей рабочей нагрузке есть пиксели, если 256K контекста — несущая конструкция, или если вы выпускаете продукт в этом квартале и хотите, чтобы между вами и продакшеном было пять месяцев чужих ошибок. Выбирайте Granite Switch 4.1 8B, если вам нужно калиброванное распределение по размеченным вариантам, а не ответ, если сведение чата, принятия решений и речи к одной конечной точке убирает сервис из вашей архитектуры, или если вы из тех команд, которые хотят читать манифест сборки и собирать собственный вариант — композер общедоступен, а каталог адаптеров открыт.

Не берите Granite Switch 4.1 8B для задач компьютерного зрения. У него их нет. И не принимайте решения ни по одному из них на основе показателя бенчмарка, который вы не запускали сами, потому что единственная оценка для решения в этом сравнении — заявленная поставщиком, и за ней нет независимого подтверждения, — а это утверждение о состоянии доказательств, а не о модели.