Granite Switch 4.1 8B против LFM2.5 2.6B Base: есть ли здесь реальный выбор?

Это самая неравная пара в наборе, поэтому давайте сразу с этим разберёмся, а не будем делать вид, что это не так. Granite Switch 4.1 8B — это составной чекпойнт с 8,78 млрд параметров, опубликованный IBM 14 октября 2026 года: замороженная модель Granite 4.1 8B с двумя переключаемыми адаптерами и речевым энкодером, выполняющая чат, оценку решений и транскрипцию через один эндпоинт. LFM2.5 2.6B Base — это предобученная текстовая модель с 2,69 млрд параметров, опубликованная Liquid AI 1 августа 2026 года и специально созданная для развёртывания на устройстве — и, что важно, в её собственной карточке модели сказано, что это базовый чекпойнт, «рекомендуемый только для задач, требующих серьёзной тонкой настройки». Сравнивать их так, будто одна может заменить другую, — это категориальная ошибка. Сравнение говорит о более полезном: где на самом деле проходит граница каждой из них и почему почти никто не будет выбирать между этими двумя.

Итак, это не состязание моделей. Это карта решения, которое вы бы действительно принимали, — того, где у вас есть периферийная цель и серверная цель и вы пытаетесь понять, какая модель куда идёт.

Для чего предназначен каждый

LFM2.5 2.6B Base — это гибридная архитектура, и вся суть в гибридности. Тридцать слоёв, из которых 22 — это блоки короткой свёртки с двойным гейтированием, а 8 — групповое внимание с запросами, поэтому большая часть стека — это свёртка, а не внимание, и именно это снижает потребление памяти и стоимость на токен на малом оборудовании. Скрытая размерность — 2 048, 32 головы запросов против 8 голов KV, контекст на 131 072 токена, словарь на 128 000 токенов и бюджет предварительного обучения — 34 триллиона токенов. Перечислены шестнадцать языков: английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский, испанский, вьетнамский, тайский, индонезийский, хинди, русский и польский. Liquid описывает это семейство как созданное для развёртывания на устройстве и поставляет парную instruct-модель в форматах GGUF, ONNX и MLX вместе с нативным чекпоинтом.

Granite Switch 4.1 8B — это противоположный инстинкт, применённый к противоположной задаче. Вместо того чтобы уменьшать модель, он сохраняет довольно крупный текстовый каркас и наращивает возможности в сторону. За основу взят Granite 4.1 8B: 40 слоёв, размер скрытого слоя 4 096, 32 головы запросов против 8 голов KV, окно в 131 072 токена, словарь на 100 352 токена. Поверх этого расположены guardian-core — LoRA-адаптер ранга 16 с активацией поверх проекций внимания, который обнаруживает вред, джейлбрейкинг, нецензурную лексику, насилие, сексуальный контент, социальную предвзятость и неэтичное поведение; decision — адаптер ранга 64 поверх всех семи проекций, который возвращает калиброванный softmax по размеченным токенам-вариантам за один прямой проход; и Granite Speech 5.0 TurboCTC — неавторегрессионный конформерный энкодер на 470 млн параметров для транскрипции. Суммарно получается 8 776 400 896 параметров против 8 380 551 168 у базовой модели — рост на 4,72%.

Решающее измерение: instruct против base

Самое большое различие между этими двумя чекпоинтами — не размер и не архитектура. Оно в том, что один — готовая модель, а другой — сырой материал.

Granite Switch 4.1 8B поставляется готовым к вызову. Адаптеры уже встроены, управляющие токены прописаны через шаблон чата, рецепты вызова адаптера принятия решений задокументированы с рабочим кодом, а в карточке перечислены точные версии Transformers и vLLM, которые ему нужны. Вы скачиваете его, запускаете — и он выполняет три задачи.

LFM2.5 2.6B Base ничего из этого не делает — и так задумано. Собственные рекомендации Liquid таковы: этот чекпоинт предназначен для «ассистентов, ориентированных на конкретный язык (например, японский) или конкретную предметную область (например, медицину), обучения на проприетарных данных или экспериментов с новыми подходами к пост-обучению» — а если вам нужна модель, которая отвечает на вопросы сразу из коробки, карточка вместо этого указывает на прошедшую пост-обучение родственную модель. У базового чекпоинта нет поведения следования инструкциям, которое можно было бы сравнивать, нет выравнивания и нет дисциплины шаблона чата. Если прогнать обе на одном и том же оценочном тесте, модель Granite будет выглядеть значительно лучше по причине, не имеющей никакого отношения к тому, какая модель лучше: одна прошла пост-обучение, а другая — нет.

• Параметры — 8,78 млрд в совокупности против 2,69 млрд.

• Слои — 40 плотных блоков трансформера против 30 гибридных (22 с короткой свёрткой с двойным стробированием + 8 GQA).

• Контекст — 131 072 токена против 131 072 токенов. Абсолютное равенство, что необычно и заслуживает внимания.

• Словарь — 100 355 (три зарезервированных id для адаптеров) против 128 000.

• Модальности — текст и аудио на входе, текст на выходе против только текста.

• Тип контрольной точки — скомпонованный, прошедший постобучение, готовый к вызову vs предварительно обученная база для тонкой настройки.

• Лицензия — Apache-2.0 в сравнении с лицензией LFM 1.0, которая не Apache. Это различие важно с коммерческой точки зрения, и его легко упустить.

• Опубликованные доказательства — один Decision Index, проведённый самим вендором, с общим показателем 42,9, независимой оценки нет, при этом для базового чекпоинта нет сопоставимого публичного бенчмарка.

Что можно купить за 2,69 млрд, чего нельзя за 8,78 млрд

Портируемость — и это не эфемерное преимущество. Модель на 2,69B, 22 из 30 слоёв которой построены на коротких свёртках, спроектирована для работы на устройстве — ноутбуке, SoC класса смартфона, встраиваемом устройстве — и именно для этого Liquid выпускает квантованные варианты GGUF, ONNX и MLX. Составной чекпойнт на 8,78B с речевым энкодером на 470M — это серверный артефакт. Он работает на GPU, в контейнере, за эндпоинтом.

Это означает, что варианты развёртывания не пересекаются: один предназначен для случая, когда запрос не может покинуть устройство, другой — для случая, когда может. Если ограничение — «нет сети», сравнение заканчивается, не успев начаться, и никакая композиция этого не изменит. Добавьте к этому ещё и лицензионный момент — LFM 1.0, а не Apache-2.0 — и чекпойнт 2.6B окажется тем, который вы выберете, когда намереваетесь дообучить собственную модель на собственных данных и выпустить её в составе продукта, тогда как Granite Switch — это тот, который вы выберете, когда хотите получить три возможности уже сегодня по разрешительной лицензии.

Что вам даёт композиция, чего не может 2.69B?

Три задачи с одного эндпоинта, и вероятность вместо ответа.

Адаптер принятия решений — это компонент, у которого нет эквивалента на другой стороне. Получив состояние и вопрос с размеченными вариантами, он за один прямой проход возвращает калиброванный softmax по этим меткам — в документированном вызове у vLLM запрашиваются logprobs ровно для идентификаторов токенов меток через logprob_token_ids и затем они экспоненцируются, что даёт вывод вида A: 0.982, B: 0.0035, C: 0.014. Промпты дают вам токен; это даёт число, которое можно сравнивать с порогом, усреднять и логарифмировать. Есть также документированная тонкость, о которой стоит знать, прежде чем на этом строить: vLLM ограничивает logprob_token_ids до 128 идентификаторов на запрос, поэтому вопрос с более чем 128 вариантами требует разбиения идентификаторов его меток на группы по 128, по одному запросу с идентичным промптом на каждый фрагмент, с конкатенацией результатов и применением одного softmax ко всему набору меток. Поскольку возвращаемые logprobs охватывают весь словарь, значение каждой метки не зависит от того, какой фрагмент его запросил, поэтому результат при разбиении математически идентичен вызову без ограничения.

Речь на том же эндпоинте — вторая. Отправьте input_audio как часть содержимого в обычном chat completion — и 470M-энкодер транскрибирует её, прежде чем вставить расшифровку в контекст. Оговорки IBM конкретны и заслуживают того, чтобы их повторить: только английский язык, вывод в нижнем регистре и без знаков препинания, а энкодер и языковая модель не обучались совместно — нет обученной проекции, которая их связывала бы, поэтому ошибка транскрипции может незаметно изменить то, на что отвечает модель. У граничной модели, у которой вообще нет аудиоканала, проблема не отсутствует, а является другой.

И третий — это адаптер безопасности: классификатор вредоносного контента и джейлбрейков, работающий на том же чекпоинте и активируемый управляющим токеном, который шаблон чата вставляет, когда вы передаёте adapter_name, а не вторую модель, которую нужно развернуть и оплачивать.

Где место роутеру, когда ответ — «оба»

Реалистичная версия этого сравнения заканчивается тем, что обе модели оказываются в одном продукте. LFM2.5 2.6B Base, дообученная, на устройстве, обрабатывает то, что не может покинуть устройство; Granite Switch 4.1 8B, развёрнутая самостоятельно, обрабатывает решения и транскрипцию на стороне сервера. Это двухуровневая архитектура, и операционный вопрос, который она поднимает, — что происходит на стыке: модель на устройстве, которая отказывает, сервер, который перегружен, запрос, который нужно передать дальше, к чему-то ещё. Ни одного из этих чекпойнтов сегодня нет в каталоге OrcaRouter, так что мы не способ получить ни один из них; точка, в которой мы становимся релевантны, — это цепочка резервных вариантов за ними. Один API-ключ покрывает более 200 размещённых моделей с автоматическим переключением при сбое, а DSL маршрутизации позволяет объединять несколько моделей в один вызов, а не вручную реализовывать разветвление, а также списочная цена провайдера передаётся с наценкой 0%, поэтому снижение цены вендором вступает в силу в тот же день. img src="4.png" alt="Скриншот каталога моделей OrcaRouter с заголовком «210 моделей, 16 провайдеров, один API-ключ, один счёт», с фасетами модальностей, показывающими 173 текстовые, 12 графических, 5 эмбеддинговых, 10 видео- и 10 TTS-моделей, боковой панелью фильтров для входных модальностей, длины контекста, входной цены, статуса, уровня доступа, серии и поддерживаемых параметров, а также списком карточек моделей в порядке от новых к старым, начинающимся с OrcaCyber Zero 1.5, OpenAI GPT-6.1 Sol и Anthropic Claude Sonnet 5.5 с их ценами за миллион токенов на входе и выходе." /> Это тот слой, который делает двухуровневую архитектуру жизнеспособной, а не хрупкой, и его стоит иметь на месте до того, как граничный уровень начнёт отказывать в полевых условиях.

Вердикт, каков он есть

Выбирайте LFM2.5 2.6B Base, если собираетесь дообучать модель, если инференс должен выполняться на устройстве или если жёстким ограничением является объём в 2.69B. Выбирайте Granite Switch 4.1 8B, если вам нужно калиброванное распределение решений, встроенный классификатор безопасности или транскрибирование с того же эндпоинта, что и чат, и если контейнер с поддержкой GPU вас устраивает. Пересечение этих двух сценариев использования близко к нулю — именно поэтому честный ответ на вопрос «кто побеждает» состоит в том, что сам вопрос некорректен, — и поэтому полезнее вынести из этого то, что базовый чекпоинт на 2.69B и составная instruct-модель на 8.78B — это не две точки на одной линии качества. Это два разных продукта, у которых просто оказались близкие количества параметров.