Granite Switch 4.1 8B vs Qwen3-8B: Что происходит, когда у другой стороны нет преемника

Начнём с проблемы с названием, потому что она меняет то, чем эта статья может честно являться. Когда вы ищете модель на 8B в новейшем поколении Qwen от Alibaba, вы её не найдёте: линейка Qwen3.8 — Qwen3.8-27B, Qwen3.8-Max, варианты Flash, огромная mixture-of-experts 2.4T-A95B — просто не включает плотную модель на 8B. Нишу 8B в семействе Qwen по-прежнему занимает Qwen3-8B, выпущенная 27 апреля 2025 года: 8,2 млрд параметров, гибридное мышление и режим без размышлений в одной модели, более 100 языков и диалектов, 32 768 токенов собственного контекста с расширением до 131 072 с помощью YaRN. Этой модели шестнадцать месяцев, и она по-прежнему один из самых скачиваемых чекпойнтов с открытыми весами из существующих. Она — действующий лидер, и то, что делает это сравнение достойным статьи, — это то, что Granite Switch 4.1 8B, составной чекпойнт IBM от 14 октября 2026 года, вообще не предлагает заменить её преемником. Он предлагает другую форму модели в том же классе параметров: замороженную текстовую модель на 8B с двумя переключаемыми адаптерами и речевым энкодером, подключённым к ней, которая выполняет три задачи за счёт переключения, а не одну задачу за счёт рассуждений. Никто не заменил Qwen3-8B, и более правильный вопрос — нужно ли это кому-либо.

Против него стоит Granite Switch 4.1 8B, составной чекпойнт IBM от 14 октября 2026 года — замороженный Granite 4.1 8B с 8 380 551 168 параметрами, несущий два переключаемых адаптера activated-LoRA и речевой энкодер на 470M, при составном итоге 8 776 400 896, что на 4,72% больше. Тот же класс параметров, совершенно иное представление о том, что такое модель. Qwen3-8B — это один плотный стек, который делает всё, рассуждая об этом. Granite Switch 4.1 8B — это стек, который ничего не делает с помощью рассуждений и делает три вещи с помощью переключения.

Слот 8B пуст, и в этом вся суть

Стоит остановиться на этом отсутствии, а не считать его пробелом в этом сравнении. Alibaba выпустила поколение Qwen3.8 с плотной моделью на 27B, вариантами Max и Flash и mixture-of-experts на 2,4 трлн параметров, пропустив класс размера, который сделал предыдущее поколение выбором по умолчанию для развёртывания на одном GPU. Каждая команда, выбравшая Qwen3-8B потому, что она помещалась на одной карте и её можно было недорого дообучить, теперь смотрит на линейку преемников, которая либо вдвое увеличивает требования к памяти, либо полностью меняет задачу сервинга.

Вот о каком решении на самом деле эта статья. Никто не выбирает между Qwen3-8B и Granite Switch 4.1 8B по качеству — шестнадцатимесячный действующий игрок против двухдневного претендента без независимой оценки — это не сравнение качества, это сравнение знаний. Вопрос в том, что делать, когда у вашей рабочей лошадки нет преемника того же размера, и два возможных ответа — «оставить рабочую лошадку» и «сменить форму».

Qwen3-8B: что дают шестнадцать месяцев в продакшене

Qwen3-8B — это плотный каузальный трансформер с 36 слоями, размером скрытого слоя 4 096, групповым вниманием (grouped-query attention) при 32 головках запросов и 8 головках KV, промежуточным размером 12 288, RoPE theta 1e6, несвязанными эмбеддингами и словарём из 151 936 токенов. Примерно 8,2 млрд параметров, из которых около 6,95 млрд — неэмбеддинговые. Переключатель мышления — это параметр — enable_thinking — а настройки генерации различаются в зависимости от режима; при этом карточка явно предупреждает против жадного декодирования в режиме мышления, поскольку оно вызывает зацикливание.

То, что у него есть и на что не может претендовать ни один новый чекпойнт: шестнадцать месяцев чужого продакшен-трафика. Режимы отказа, с которыми кто-то другой уже столкнулся и описал. Квантизации, файнтюны, рецепты LoRA и руководства по развёртыванию для каждого значимого сервинг-фреймворка. Почти десять миллионов скачиваний с Hub и более двух тысяч лайков, а за этим стоит линия instruct-моделей. Когда модель так долго находится в открытом доступе, экосистема вокруг неё становится неотъемлемой частью её возможностей, и никакую дату релиза нельзя задним числом в это вписать.

Granite Switch 4.1 8B: что даёт новая форма

Чекпоинт IBM — это композиция, а не модель, и части задокументированы в манифесте сборки, зафиксированном рядом с весами. База: Granite 4.1 8B, 40 слоёв, размер скрытого слоя 4 096, 32 головы запросов против 8 голов KV, окно в 131 072 токена, словарь на 100 352 токена. Адаптеры: guardian-core, ранг 16, альфа 64, по проекциям внимания (k_proj, o_proj, q_proj, v_proj), обнаруживающий вред, джейлбрейк, ненормативную лексику, насилие, сексуальный контент, социальную предвзятость и неэтичное поведение; и decision, ранг 64, альфа 128, по всем семи проекциям, включая MLP, возвращающий калиброванный softmax по помеченным токенам опций за один прямой проход. Кодировщик: Granite Speech 5.0 TurboCTC, 470M параметров, неавторегрессионный conformer CTC, английский. Лицензия: Apache-2.0, та же, что и у Qwen3-8B.

Возможность, у которой нет эквивалента в Qwen3-8B, — это адаптер принятия решений. Вы передаёте ему состояние и вопрос с размеченными вариантами, и он возвращает распределение, а не ответ — задокументированный вызов запрашивает у vLLM logprobs ровно тех token id меток через logprob_token_ids и возводит их в экспоненту, выдавая результат вида A: 0.982, B: 0.0035, C: 0.014. Можно дать Qwen3-8B запрос выбрать метку, и он, вполне компетентно, это сделает, а вы получите букву. Букву нельзя порогово сравнивать как калиброванную оценку, усреднять по ходам или записывать в лог как значение уверенности. В этом и разница, и это не та разница, которую исправляет масштаб.

Второе, что даёт композиция, — это арифметика. Каждый адаптер использует общий с базовой моделью кэш ключей/значений, а не поддерживает собственный, поэтому переход от нуля адаптеров к двум плюс речевой энкодер стоит 4,72% параметров, а не отдельного состояния внимания на каждую возможность. В анонсе IBM утверждается, что композитная модель занимает примерно столько же видеопамяти, сколько базовая сама по себе; это конкретное утверждение не воспроизведено, но разница в параметрах, на которой оно основывается, прямо указана в манифесте. Именно поэтому в том же анонсе гонка между композитной Granite Switch на 30B и решающей моделью на 27B описывается как преимущество в скорости, а не как штраф по памяти.

• Параметры — 8,78 млрд в сумме (8,38 млрд базовых) против 8,2 млрд.

• Слои — 40 против 36.

• Контекст — 131 072 нативно против 32 768 нативно, 131 072 с YaRN.

• Словарный запас — 100 355 против 151 936.

• Языки — двенадцать названных (английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский, китайский) против более 100.

• Рассуждение — отсутствие vs гибридное мышление и режим без мышления в одном чекпоинте.

• Структурированный вывод — калиброванный softmax по токенам меток против выбора по подсказке.

• Аудиовход — встроенный ASR-энкодер на 470M против его отсутствия.

• Экосистема — ей два дня, нет ни квантований, ни файнтюнов, о которых стоило бы говорить, против шестнадцати месяцев работы сообщества.

Где Qwen3-8B всё ещё выигрывает

Языки — и это решающий фактор. Двенадцать названных языков против более чем сотни — это не погрешность округления для любого, кто выпускает продукт для глобальной аудитории, и это первое, что выявит тест миграции. Словарь рассказывает ту же историю: 151 936 токенов против 100 355, причём три зарезервированных идентификатора адаптеров Granite округляют его до 100 355. Модель, обученная на сотне языков, была обучена на сотне языков.

Второй пункт — нативный контекст. 131 072 токена из коробки против 32 768 с путём расширения YaRN. Granite Switch 4.1 8B как раз достигает тех же 131K, но делает это нативно, а расширение YaRN имеет свою цену в поведении на длинном контексте, которой у нативного окна нет.

Третий — тот, что решает большинство реальных миграций: ничего не сломано. Нет интеграций, которые нужно переписывать, нет serving-стека, который нужно менять, нет поведения, которое нужно переучивать. Каждый режим отказа уже описан кем-то другим, а файнтюны, которые у вас, возможно, уже есть, — ваши. Претендент должен быть существенно лучше, чтобы ради этого стоило отказываться, а Granite Switch 4.1 8B, будучи двухдневным и без независимой оценки, ещё не доказал, что он таков.

Где выигрывает Granite Switch 4.1 8B

Скоринг решений и та операционная форма, которая с ним идёт. Если вашему приложению нужно значение уверенности по размеченным вариантам — маршрутизация заявки, оценка порога эскалации, выбор инструмента с привязанным к нему числом, — это примитив, которого Qwen3-8B не предоставляет, и промптинг его не создаёт. Опубликованный показатель для этого адаптера — Decision Index, выпуск v0.3, публичное быстрое подмножество из 1 068 строк: 42,9 в целом, при этом Knowledge 29,1, Language 48,9, Retrieval 49,8, Tools 59,8 и Arts 18,0. IBM провела его, IBM опубликовала его, никто его не воспроизвёл, и сама карточка говорит, что вероятности — это априорное распределение, а не сертифицированная классификация в доменах, для которых адаптер не обучался.

Консолидация эндпоинтов — это второе. Чат, решения и транскрипция на одном эндпоинте, при этом транскрипция запускается обычной input_audio-частью содержимого, а не вторым сервисом. Предостережения из карточки IBM применимы, и их стоит повторить дословно по духу: только английский, вывод в нижнем регистре и без знаков препинания, а речевой энкодер и LLM не обучались совместно, поэтому ошибка транскрипции может незаметно изменить то, на что отвечает модель.

А композируемость — это третье: композер публичен, каталог адаптеров открыт, и вы можете создать собственный вариант вместо того, чтобы соглашаться на выбор IBM из двух адаптеров.

Что делать, пока слот 8B пуст

Продуктивный шаг — не миграция. Нужно рассматривать Granite Switch 4.1 8B как кандидата для тех конкретных запросов, с которыми Qwen3-8B плохо справляется, — тех, что заканчиваются значением уверенности или приходят в виде аудио, — а всё остальное оставить там, где оно есть. Это задача маршрутизации, а не переписывания: отправляйте вызовы, связанные с принятием решений, в одну сторону, а разговорный трафик — в другую, и сохраняйте резервный путь нетронутым, пока выясняете, действительно ли новая схема справляется с вашим трафиком.

Это тот уровень, который занимает OrcaRouter, и здесь стоит уточнить, что это означает: Qwen3-8B сегодня нет в нашем каталоге, как и Granite Switch 4.1 8B, поэтому мы не являемся способом получить ни один из них — Qwen3-8B — это загрузка с Hugging Face, а Granite Switch 4.1 8B — это загрузка с Hugging Face плюс контейнер vLLM. Что делает платформа — это сопутствующая работа: один API-ключ для более чем 200 хостируемых моделей, автоматическое переключение при сбое, чтобы кандидат мог находиться в боевом пути, не будучи единой точкой отказа, DSL маршрутизации для объединения нескольких моделей в один вызов, и каталожная цена провайдера, передаваемая с наценкой 0%, так что снижение цены вендором вступает в силу в тот же день, а не при следующем обновлении. Если вы хотите увидеть, как Qwen текущего поколения выглядит на хостируемом эндпоинте, пока обдумываете это, Qwen3.8-27B присутствует в каталоге и принадлежит к тому же семейству, что и действующая модель в этом сравнении.

Итог

Оставьте Qwen3-8B в качестве модели по умолчанию. Шестнадцать месяцев продакшена, более ста языков и словарь на 151 936 токенов — это не те преимущества, которые двухдневный чекпойнт может обойти лишь за счёт архитектуры, и тот факт, что Alibaba не выпустила преемника 8B, не делает Granite Switch 4.1 8B этим преемником — это делает его другим инструментом, который просто попадает в тот же класс памяти. Внедряйте его узко и конкретно: для запросов, которым нужно калиброванное распределение по размеченным вариантам, для встроенной проверки безопасности и для аудио на том же эндпоинте, что и чат. Протестируйте его на своём собственном наборе меток, прежде чем доверять 42,9, потому что это число принадлежит IBM и только IBM. Интересное в этом противостоянии не то, что одна модель побеждает другую, — а то, что слот 8B остался пустым, и модель, которая займёт его следующей, может вовсе не быть плотной 8B.