Granite Switch 4.1 30B: IBM сократила двенадцать адаптеров до двух

Пять месяцев назад IBM выложила на Hugging Face предварительную версию 30B Granite Switch с двенадцатью адаптерами внутри и 11,68%-ной надбавкой к параметрам относительно базовой модели. 14 октября 2026 года готовая модель вышла — Granite Switch 4.1 30B — и в ней ровно два адаптера и надбавка в 3,89%. Главная цифра снизилась на две трети, и это и есть релиз.

Чтобы быть точными в том, что означает «появился», потому что именно здесь многие материалы грешат небрежностью: веса были выложены на Hub 14 октября 2026 года, а собственный пост IBM о запуске, Granite Switch 4.1: чат, решения и речь из одной конечной точки, был опубликован 15 октября. Это на два дня раньше, чем пишется этот текст. Это анонсированный релиз, а не тихий дроп, который кто-то нашёл в зеркале, и это не повторная публикация майского превью — артефакт другой, количество адаптеров другое, а аудиопуть в превью вообще отсутствовал. Далее мы отделяем то, что можно прочитать в репозитории, от того, что сказала только IBM.

Что на самом деле находится в чекпоинте

Granite Switch 4.1 30B — это композиция, а не новая архитектура. Она берёт Granite 4.1 30B — плотный трансформер, состоящий только из декодеров, окно размером 131 072 токена, словарь из 100 352 токенов — замораживает его и прикручивает два активированных LoRA-адаптера плюс речевой энкодер. Манифест сборки закоммичен в репозиторий рядом с весами, поэтому каждое структурное утверждение ниже можно прочитать, а не только услышать в чьём-то пересказе.

• guardian-core — aLoRA, ранг 16, альфа 64, привязана только к проекциям внимания (k_proj, o_proj, q_proj, v_proj), взята из Guardian Library и нацелена на вред, обход ограничений, нецензурную лексику, насилие, сексуальный контент, социальную предвзятость и неэтичное поведение. Управляющий токен <|guardian-core|>, идентификатор 100352.

• Решение — aLoRA, ранг 64, альфа 128, привязанная ко всем семи проекциям, включая MLP, и обученная делать нечто более узкое, чем чат: по заданному состоянию и вопросу с размеченными вариантами возвращать калиброванное распределение вероятностей по этим меткам за один прямой проход. Управляющий токен <|decision|>, идентификатор 100353.

• Речь — granite-speech-5.0-470m-turboctc, неавторегрессионный conformer-энкодер CTC на 470 млн параметров, только для английского языка, подключённый как путь аудиовхода, а не как отдельный сервис.

Арифметика весов — это самое чистое число в релизе. База: 28 865 728 512 параметров. Собранная: 29 989 814 272. Разница составляет 1 124 085 760 параметров, или +3,89%. Вам не нужно писать управляющие токены самостоятельно — шаблон чата вставляет их, когда вы передаёте adapter_name в качестве аргумента, а это значит, что возможность переключения — это параметр запроса, а не второе развёртывание.

В предварительной версии поставлялось двенадцать адаптеров. В релизе поставляется два.

Это решение стоит понять, потому что на первый взгляд оно выглядит как регрессия. Предварительный чекпоинт — всё ещё на Hub, всё ещё Apache-2.0, датированный 5 мая 2026 года — содержит двенадцать адаптеров из трёх Granite Libraries: цитирование, переписывание запроса, уточнение запроса, обнаружение галлюцинаций, возможность ответа, обнаружение фактичности, политические ограничения, исправление фактичности, guardian-core, неопределённость, проверка требований и атрибуция контекста. Это действительно полезный набор, и это набор, о котором придётся рассуждать, потому что двенадцать адаптеров означают двенадцать рецептов вызова и двенадцать различных контрактов вывода.

Granite Switch 4.1 30B оставляет два из них и добавляет речевой энкодер. Компромисс, на который пошла IBM, — это понятность за счёт охвата: готовая модель — это чат-модель, которая также умеет отвечать на вопрос о решении, указывая вероятность, и расшифровывать аудио, а это три вещи, которые пользователь может одновременно удержать в голове. Остальные десять адаптеров никуда не делись — они по-прежнему опубликованы, по-прежнему компонуемы, а композер в репозитории granite-switch соберёт вам чекпойнт с любым нужным подмножеством, включая все двенадцать. Что изменилось — так это то, что поставляется включённым по умолчанию.

Это реальная цена, и её стоит назвать, а не сглаживать: если вы ждали, когда адаптеры обнаружения галлюцинаций и атрибуции контекста из превью достигнут чекпоинта 1.0, то это не тот случай. Это более узкая модель с меньшими накладными расходами, и именно инструментарий композиции закрывает разрыв.

Адаптер принятия решений — это та половина, которая не является чат-моделью.

Извлекать распределение вероятностей из языковой модели — не ново. А вот сделать это за один прямой проход по фиксированному набору меток вариантов, с числами, откалиброванными достаточно хорошо, чтобы по ним можно было маршрутизировать, — именно это и требует объяснения. Документированный рецепт — это фиксированный системный промпт для движка принятия решений, ход State:, оцениваемый на замороженной базе, затем ход ### DECISION, представляющий вопрос и варианты с однотокенными метками. Вы запрашиваете logprobs именно для этих идентификаторов токенов меток и возводите их в экспоненту. Пример из самой карточки возвращает что-то вроде A: 0.982, B: 0.0035, C: 0.014 — и интересно то, что они получены от обычного эндпоинта completion, а не от классификатора.

В анонсе упущена одна инженерная загвоздка. Механизм logprob-token-id ограничен 128 идентификаторами на запрос, поэтому вопрос с выбором, в котором больше 128 вариантов, сразу завершается ошибкой. Документированное решение — разбить идентификаторы меток на фрагменты по 128, отправить по одному запросу на каждый фрагмент с идентичным промптом и объединить результаты — математически эквивалентно вызову без ограничения, поскольку возвращаемые logprobs покрывают весь словарь, а значит, значение каждой метки не зависит от того, какой фрагмент его запросил. Один дополнительный запрос на каждые 128 вариантов. Это из тех деталей, которые существуют только внутри репозитория.

Единственное опубликованное число, привязанное к адаптеру, — это Decision Index, версия v0.3, публичное быстрое подмножество из 1 068 строк: Общий показатель 50.1, с показателями: Знания 32.4, Язык 58.6, Поиск 49.8, Инструменты 76.5 и Искусства 26.4. Смотрите на форму, а не на заголовок: 76.5 по Инструментам рядом с 26.4 по Искусствам — это очень неравномерный профиль, и он говорит о том, куда этот адаптер безопасно направлять, больше, чем общий показатель. IBM также сообщает, что результаты обслуживания адаптера локально и через размещённый endpoint vLLM совпали с точностью до примерно 0.6 пункта, что является полезной проверкой адекватности пути обслуживания, хотя IBM запускала обе половины.

Преобразование речи в текст, и оговорка, которую IBM вписала в свою собственную карточку

Аудиотракт пропускает транскрипт через встроенный энкодер и вставляет его в контекст чата вместо части аудиоконтента, так что запрос с аудио выглядит как обычное завершение чата с частью input_audio. Ни второго речевого сервера, ни второго бюджета задержки.

Все эти ограничения взяты из собственной документации IBM, а не от скептика: только английский язык, вывод в нижнем регистре и без знаков препинания, отсутствие управления на этапе декодирования, и — то, что должно заставить вас насторожиться, — речевой энкодер и языковая модель не обучаются совместно. Нет обученной проекции, которая бы их связывала. Поэтому ошибка транскрипции может изменить то, на что реагирует модель или адаптер принятия решений, и ничто в конвейере это не отметит. Если вы развёртываете что-либо, где ошибка транскрипции имеет последствия, это предложение — вся ваша модель угроз.

Подтверждено, сообщено поставщиком, непроверено

• Подтверждено из репозитория — идентичность базовой модели, оба ранга адаптеров и их целевые модули, идентификаторы управляющих токенов, итоговое количество параметров и прирост +3.89%, окно в 131 072 токена, лицензия Apache-2.0 и закреплённое окно поддержки (Transformers 5.16–5.17, vLLM 0.26–0.28, PyTorch 2.11+).

• По данным вендора, не воспроизведено — показатели Decision Index, утверждение, что Granite Speech 5.0 TurboCTC — самая быстрая ASR-модель в таблице лидеров OpenASR, утверждение, что составная модель потребляет примерно столько же видеопамяти, сколько базовая, заявление, что адаптер Guardian превосходит несколько названных закрытых моделей принятия решений в задачах, связанных с безопасностью, и попутное замечание из поста о запуске, что кастомная сборка Granite Switch на 3B играла в Doom со скоростью 60–100 решений в секунду против заявленных 10 в секунду. IBM говорит, что новые данные появятся «в ближайшие недели», а это признание того, что сегодняшние доказательства скудны.

• Никто не проверял — всё остальное. Никакой сторонней оценки, ни записи в таблицу лидеров, ни независимых измерений задержки или пропускной способности, ни размещённого в IBM эндпоинта. В репозитории — несколько лайков и, на момент написания, практически ноль загрузок. Ему два дня, и его почти никто не читал.

Где это находится в стеке

Granite Switch 4.1 30B — это история о самостоятельном хостинге. В карточке перечислены Hugging Face Transformers и vLLM, зафиксирован узкий диапазон версий, и чекпойнт запускается на обоих без конвертации. Управляемой конечной точки нет, поэтому практичный первый шаг — одна GPU и контейнер.

Честно об остальном: сегодня в каталоге OrcaRouter нет ни одной модели Granite, так что если вам нужен этот чекпоинт, путь один — релиз IBM и собственное железо. А что платформа действительно даёт, так это сопутствующее решение — более 200 моделей за одним ключом с автоматическим переключением при сбое, списочная цена провайдера передаётся без наценки — 0% — и это важно как раз в такой ситуации. Чекпоинт двухдневной давности без независимой оценки — это кандидат, а не действующий игрок, и самое дешёвое, что можно сделать с кандидатом, — держать его рядом с моделью, уже работающей в продакшене, и сравнивать на своём трафике, а не перестраивать под него продакшен-путь.

Открытый вопрос

Ставка Granite Switch в том, что композиция побеждает масштаб для определённого класса задач — приложений, которые отвечают, принимают решения и транскрибируют, где три модели означают три развёртывания, три задержки и три счёта. Совместное использование одного KV-кэша между адаптерами и плата за это в размере 3,89% — это по-настоящему необычное инженерное решение, и именно эта часть этого релиза будет иметь значение ещё и через год.

Не решён вопрос, хорош ли составленный ответ. Опубликованный профиль адаптера решений неравномерен, речевой тракт поддерживает только английский и не обучался совместно, а модели всего два дня, и за ней нет независимого запуска. Прочитайте манифест сборки, соберите собственное подмножество и проверьте адаптер решений на своём наборе меток, прежде чем доверять чьим-либо 50,1.