SubQ Snap 1.1 против Granite 4.2 3B: цена за токен — это не тот счёт

IBM Granite 4.2 3Bстоит $0.03 за миллион входных токенов. SubQ Snap 1.1стоит $0.04. Если бы счёт определяла ставка за токен, модель с 3 млрд параметров под лицензией Apache-2.0 обошла бы модель принятия решений, разделившую первое место в Artificial Analysis Decision Index v1.0, и эта статья была бы короткой. Но ставка — это не счёт. Как только вы оцениваете решение, а не токен — включая то, что каждой модели приходится выдавать, чтобы получить одно решение, — рейтинг переворачивается, переворачивается обратно в зависимости от одной-единственной настройки конфигурации и заканчивается где-то там, где не рекламирует ни один из поставщиков.

Granite 4.2 3B — небольшая плотная модель рассуждений IBM, выпущенная 25 августа 2026 года вместе с моделями-собратьями 8B и 30B при на удивление малом шуме: технический пост в блоге, а не мероприятие по запуску. Snap 1.1 — модель принятия решений от Subquadratic, работающая с 22 октября 2026 года и вместо генерации текста возвращающая выбор из фиксированного набора ответов. Они пересекаются ровно в одной задаче: взять фрагмент текста и определить, что это такое. Всё остальное у них различается, включая то, что означает «дешёвый».

Во-первых, что на самом деле представляют собой две модели

Granite 4.2 3B — это плотный декодер с тремя миллиардами параметров, построенный на Granite-4.1-3B-Base. Это модель рассуждений с тремя режимами: режимом мышления, который выдаёт цепочку рассуждений, режимом низких усилий и режимом без мышления, который отвечает напрямую. IBM сообщает о показателях AIME 2025 — 78,33, GPQA — 54,80, LiveCodeBench v6 — 69,71, MMLU-Pro — 67,84, IFBench — 74,3 и τ³-Bench — 45,8; все это данные производителя, ни один из них не был воспроизведён независимо. На длинном контексте сообщается RULER 67,52 при 64K и 55,30 при 128K. Artificial Analysis оценивает его Intelligence Index в 9, что непримечательно в абсолютном выражении, но выше медианы для его размерного класса.

Самое интересное — это аппаратная часть. Модель занимает от шести до восьми гигабайт при bf16 и менее двух гигабайт в квантованном виде, а значит, подойдёт ноутбук, одна потребительская видеокарта или процессор с достаточным объёмом оперативной памяти. Она работает только с текстом, поддерживает двенадцать языков, поддерживает OpenAI-совместимый вызов инструментов и доступна в vLLM, SGLang, Transformers, GGUF, llama.cpp, MLX и Ollama. Если ваше требование — «должна работать там, где контроль у меня», эта модель ему соответствует.

SubQ Snap 1.1 — продукт противоположного типа почти по всем параметрам. У него нет весов. Он работает только через API Subquadratic. Он принимает до 384 тыс. токенов текста и изображений, а также набор вариантов ответа от двух до 255 альтернатив и возвращает выбранный вариант с калиброванной вероятностью. Он не умеет писать предложения, и в этом суть: нет выходных данных, которые нужно разбирать, и нет выходных данных, за которые нужно платить.

Ловушка выходных токенов

Вот арифметика, которую скрывает сравнение в расчёте на токен. Возьмём миллион решений о маршрутизации, каждое из которых читает 6 000 токенов текста заявки — правдоподобный месячный объём для службы поддержки среднего размера или напряжённая вторая половина дня для крупной. Это шесть миллиардов входных токенов.

• Granite 4.2 3B в режиме без размышлений — 6 млрд входных токенов по $0,03/млн составляют $180, плюс примерно пять выходных токенов на одно решение, или 5 млн выходных токенов по $0,12/млн, что даёт $0,60. Итого: около $180,60.

• Granite 4.2 3B в режиме размышления — 6 млрд входных токенов за $180, плюс, возможно, 800 токенов рассуждения на каждое решение, или 800 млн выходных токенов по $0.12/млн, что составляет $96. Итого: около $276.

• SubQ Snap 1.1 — 6 млрд входных токенов по $0,04 за миллион — это $240, и строки для вывода вообще нет.

Так что честный ответ — это три разных ответа. В режиме прямого ответа Granite на 25% дешевле Snap, и статья на этом действительно могла бы закончиться. В режиме размышления Granite на 15% дороже Snap, потому что токены рассуждений — самое дорогое в конвейере, и никто не закладывает на них бюджет. Преимущество Snap никогда не заключалось в цене входных токенов — она на 33% выше, чем у Granite, — а в том, что архитектура не может тратить токены на обдумывание.

Это не теоретический риск. Независимый профиль Granite 4.2 3B от Artificial Analysis называет модель «очень многословной» и отмечает, что при оценке на Intelligence Index она сгенерировала 92 млн выходных токенов против медианы в 67 млн у сопоставимых моделей. Многословность — это измеряемое свойство модели в режиме рассуждения, и именно оно определяет, сохранится ли преимущество в цене за токен при столкновении с рабочей нагрузкой маршрутизации.

Это также объясняет число, которое на первый взгляд кажется неверным. Artificial Analysis оценивает Snap 1.1 примерно в $30 за миллион задач против $8,4 для Elephant 9B. Тридцать долларов за миллион задач подразумевают очень короткую среднюю задачу — порядка нескольких тысяч токенов. Состав бенчмарков Decision Index ориентирован на короткие задачи. Ваши тикеты, договоры и логи — нет, и дальше стоимость линейно растёт с длиной входных данных. Воспринимайте показатели на задачу как свойство бенчмарка, а не как обещанную цену.

Где 3B действительно выигрывает

Более дешёвые токены — это лишь самое малое. Granite 4.2 3B можно развернуть самостоятельно под Apache 2.0, а значит, после оплаты оборудования платить за каждый вызов не придётся вовсе, данные не покинут вашу сеть, не будет ограничений на частоту запросов и не будет поставщика, который может изменить цену или модель у вас за спиной. Для рабочего процесса, подчинённого требованиям соответствия, это не предпочтение, а необходимость, и Snap 1.1 просто не может войти в эту комнату.

Он также умеет больше. Он пишет сводку после решения о маршрутизации. Он обрабатывает вызовы инструментов по схеме. Он поддерживает опциональное расширение контекста до 512K, добавленное в пятой фазе предварительного обучения, что на бумаге длиннее, чем 384K у Snap, — хотя падение его оценки RULER с 67,52 при 64K до 55,30 при 128K служит справедливым предупреждением о том, насколько большая часть этого окна пригодна к использованию. И он достаточно мал, чтобы работать на периферии, в контейнере рядом с вашим приложением, без сетевого перехода между решением и действием.

Где Snap 1.1 действительно выигрывает

Три вещи, в которых 3B-генеративная модель плоха по построению.

Калибровка идёт первой. Snap 1.1 сообщает об ожидаемой ошибке калибровки 0,014 против 0,108 в предварительной версии и доле отказов от ответа 86% на вопросы, на которые не может ответить, — на фоне показателя отсутствия галлюцинаций 0,7% для его собственного релиза 1.0 на прокси-метрике поставщика. Это цифры поставщика, и читать их следует именно так, но они описывают модель, обученную с отказом от ответа в качестве явной цели. У 3B-модели рассуждений такой цели нет. Спросите её, можно ли ответить на тикет, — и она в любом случае выдаст правдоподобное предложение.

Поведение при однократном проходе на длинном контексте — это второе. Snap обрабатывает 384K токенов за один прямой проход при постоянных вычислениях на токен — и это всё обоснование Subquadratic Sparse Attention. Деградация RULER у Granite — это нормальное поведение плотной модели при длине в десять раз больше комфортной. Если ваше решение зависит от чего-то, погребённого на позиции 200 000 в наборе логов, архитектурная разница уже не академическая.

Детерминированность формы вывода — это третье, и её недооценивают. Snap возвращает число из вашего списка вариантов. Granite возвращает текст, который вы затем разбираете, а каждый парсер — это место, где некорректный ответ превращается в сбой. Декодирование с ограничениями закрывает большую часть этого разрыва, и это стоит отметить — это не фундаментальное преимущество, а разница в том, сколько обвязки вам приходится писать.

Вопрос о конфигурации, который никто не задаёт

Если вы используете Granite 4.2 3B в качестве роутера, самое ценное изменение, которое можно сделать, — отключить режим размышления. IBM поставляет этот режим именно по этой причине, и приведённая выше арифметика показывает почему: модель рассуждения, которую просят выбрать одну из пяти меток, часто тратит восемьсот токенов на обоснование решения, которое правильно принимается за проход без размышления. Прежде чем предполагать, что вариант с размышлением лучше, протестируйте оба режима на собственных данных. На задаче с фиксированным набором ответов это часто не так.

Эквивалентный рычаг Snap — противоположный: вы даете ему меньше, но более четких вариантов. Его API ограничивает число вопросов шестнадцатью, а число альтернатив — 255 на вопрос, а точность в Decision Index составляет 20% — ниже, чем 32% у d1-ultra, — при этом оценка индекса обеспечивается за счет воздержания. Сузьте набор ответов — и проблема точности уменьшится; дайте ему открытое суждение — и оно будет отказываться, причем корректно и часто.

Что я на самом деле создал бы

Для конвейера поддержки или обработки документов со значимым объёмом самая дешёвая защитимая архитектура — двухступенчатая. Granite 4.2 3B в режиме без рассуждений работает как классификатор первого прохода на простом большинстве — тикетах, которые явно относятся к возвратам, явно к сбоям, явно к спаму, — где 3B-модель точна и не добавляет предельных затрат. Snap 1.1 обрабатывает остаток: длинные ветки, неоднозначные случаи, те, где правильный ответ может быть «эскалировать», а уверенная догадка хуже отказа. Вы платите $0.04 за миллион токенов только за ту долю, которой это нужно, и получаете калиброванную вероятность именно по тем решениям, где калибровка важна.

Ни один из вендоров не продаёт такую схему, потому что каждый хочет быть всем слоем целиком. Granite 4.2 3B нет в каталоге OrcaRouter — он под Apache 2.0, поэтому обычный путь — развернуть его самостоятельно; кроме того, его предоставляют ряд провайдеров инференса. Snap 1.1 тоже не наш; он работает через собственный API Subquadratic. Вклад OrcaRouter в подобную схему — это уровень генерации, стоящий за ней: 200+ моделей за одним ключом, цена из прайс-листа провайдера передаётся с наценкой 0% и автоматическое переключение при сбое, поэтому модель, которая пишет сводку об эскалации, и модель, которая решает эскалировать, — не одна и та же зависимость.

За чем стоит следить, так это за тем, сохраняется ли калибровка Snap 1.1, когда его запускает кто-то другой. Его точность в 20% — самый слабый показатель в его собственных материалах запуска, и именно он решает, дешевле ли описанная выше двухэтапная схема, чем кажется: чем чаще Snap воздерживается от ответа, тем больше работы переходит к этапу, который должен собственно отвечать.