Granite 4.2 3B вышел: компактная модель рассуждений IBM размером с ноутбук набирает 78.33 на AIME 2025

Granite 4.2 3B можно запустить на ноутбуке уже сегодня вечером. Это практический факт, стоящий за громкой цифрой из заголовка: IBM выпустила Granite 4.2 3B 25 августа 2026 года под лицензией Apache-2.0 как самую маленькую из трёх плотных моделей рассуждений в новом семействе Granite 4.2 — Granite 4.2 3B, Granite 4.2 8B и Granite 4.2 30B — и в её карточке модели заявлен результат 78.33 на AIME 2025, показатель математических рассуждений, который несколько лет назад был доступен только моделям в сто раз большего размера. Веса модели насчитывают примерно 3 миллиарда параметров: шесть-восемь гигабайт в bfloat16, менее двух гигабайт при практическом квантовании. В этом и состоит весь смысл релиза — модель рассуждений, которая раньше была покупкой для дата-центра, теперь помещается в сумку.

Честная подача должна соседствовать с этим. Каждая цифра на карточке — собственная у IBM, напечатана в день, когда веса были выложены, и ни одна независимая лаборатория не воспроизвела ни одну из них. Хостируемого API пока нет — на карточке не указан ни один провайдер инференса, — так что единственный способ познакомиться с этой моделью сегодня — запустить её самостоятельно или ждать появления хостируемого тарифа. Это сводка «что мы знаем на данный момент» о самом маленьком представителе семейства, а значит, нужно быть точным в том, какие утверждения репозиторий действительно поддерживает.

Что вышло, и как тихо

Granite 4.2 — это поколение рассуждений IBM: первое семейство Granite, построенное вокруг явной цепочки рассуждений, и первое, добавившее агентное обучение в масштабе на своих более крупных представителях. Все три размера — это плотные трансформеры только с декодером под лицензией Apache 2.0, предварительно обученные на примерно 15 триллионах токенов в течение пяти фаз, и все работают с нативным контекстом 128K и расширением длинного контекста до 512K. Анонс не был пресс-релизом: основным источником является технический блог Hugging Face «Granite 4.2 LLMs: How They're Built», опубликованный вместе с карточками моделей 25 августа. Китайская техническая пресса подхватила семейство в течение нескольких часов, а Ollama уже включает сборку granite4.2:3b.

Что делает 3B крайним элементом

Модель 3B дообучена на основе Granite-4.1-3B-Base, и от своих «собратьев» её отличает то, чего в ней нет. Granite 4.2 8B и Granite 4.2 30B обе прошли через агентное обучение с подкреплением от IBM — тренировку, которая учит модель работать с терминалом, запускать код и искать информацию в интернете в изолированных средах. Именно поэтому у этих двух моделей есть показатели SWE-Bench и Terminal-Bench. Модель 3B полностью пропускает этот блок; в её карточке нет результатов SWE-Bench или Terminal-Bench, потому что механизм агентного RL в неё никогда не встраивался.

Что 3B сохраняет, — это ядро рассуждений и интерфейс:

• Параметры — 3B (около 4B суммарно с учётом эмбеддингов согласно метаданным safetensors), плотный Transformer архитектуры decoder-only, построенный на основе Granite-4.1-3B-Base.

• Архитектура — внимание с группированными запросами (40 голов, 8 KV-голов), RoPE с θ=10 000 000, SwiGLU MLP (скрытый размер 8 192), RMSNorm, bfloat16.

• Контекст — 131 072 токена изначально; пятый этап предварительного обучения расширяет окно до 512K.

• Режимы рассуждения — полное мышление по умолчанию (<think>...</think>), без мышления через enable_thinking=False, и низкозатратный режим, который тратит небольшой бюджет рассуждений на простые вопросы.

• Вызов инструментов — совместимый с OpenAI вызов функций, использующий ту же схему, что и старшие модели, и предоставляемый через vLLM endpoint; документированы интеграции с OpenHands, OpenCode и Pi.

• Языки — протестировано 12: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский, китайский.

• Сервинг — Hugging Face Transformers, vLLM (v0.20+ со специальным парсером для мыслительного процесса), SGLang, GGUF-сборки для llama.cpp, FP8/NVFP4/MXFP4-квантования и Ollama.

Числа, сообщённые вендором

{{1}}На карточке указаны высокие показатели рассуждения, и каждый из них — собственный результат IBM.{{/1}} {{2}}По математике и рассуждению 3B показывает 78.33 на AIME 2025, 66.67 на HMMT February 2025, 54.80 на GPQA и 69.71 на LiveCodeBench v6.{{/2}} {{3}}По следованию инструкциям: 67.84 на MMLU-Pro и 74.33 на IFBench.{{/3}} {{4}}По длинному контексту показатели RULER составляют 67.52 на 64K и 55.30 на 128K.{{/4}} {{5}}По агентно-общим оценкам 3B действительно справляется — базовое использование инструментов, без блока agentic-RL — и показывает 52.41 на BFCL v4.{{/5}}

Ничто из этого не было независимо воспроизведено. Модель вышла 25 августа; в Artificial Analysis для неё ещё нет записи, и никакой сторонней оценки опубликовано не было. За показателем 78.33 AIME стоит следить: для плотной модели класса 3B он намного выше диапазона, которого исторически достигали небольшие открытые модели, и такая «бумажная» цифра — это именно то, что воспроизведение либо подтверждает, либо тихо дезавуирует. Относитесь к каждой цифре в этом разделе как к утверждению IBM.

Что подтверждено, а что нет

Подтверждено артефактами: веса доступны для загрузки; лицензия — Apache 2.0; архитектура, длины контекста, режимы рассуждения и интерфейс вызова инструментов соответствуют карточке; а рецепт обучения задокументирован с необычной детализацией — вплоть до пропорций данных и кластера NVIDIA GB200 NVL72 (размещённого у CoreWeave), использованного для обучения семейства. Подтверждено работой по интеграции в день релиза: Ollama уже включает granite4.2:3b, а в карточке описаны пути обслуживания через vLLM, SGLang, Transformers и GGUF.

Пока не подтверждено: результаты независимых бенчмарков; появится ли размещённый API — собственный watsonx от IBM или любой сторонний — и по какой цене; как расширение на 512K ведёт себя на реальных задачах с длинными документами, а не на тестах RULER «иголка в стоге»; и как базовый вызов инструментов у 3B-модели держится в производственных агентных циклах, где у неё нет обучения agentic-RL, на которое можно опереться.

Где 3B конкурирует, и как его тестировать

Ставка 3B в том, что маленькое и локальное — это преимущество, а не компромисс. Ниже него семейство обрывается: 3B — нижняя граница линейки Granite 4.2. Вокруг него бюджетный сегмент рассуждающих моделей густо заполнен на хостинговой стороне: DeepSeek V4 Flash и Gemini 3.5 Flash-Lite закрепляют дешёвые хостинговые уровни рассуждений, а небольшие модели с открытыми весами выходят круглый год. 3B отличается от всех них одним конкретным свойством: она плотная, под лицензией Apache-2.0 и достаточно мала, чтобы предельная стоимость запроса сводилась к электричеству одного скромного GPU, — но она также новая, непроверенная и без единой сторонней оценки.

Именно в таком сочетании маршрутизирующий уровень оправдывает своё существование. OrcaRouter не маршрутизирует Granite 4.2 3B — честная картина доступности такова: самостоятельный хостинг через vLLM, SGLang или Ollama, либо собственные каналы IBM, когда они появятся, — но конкурирующие хостинг-модели доступны в OrcaRouter по цене провайдера, без наценки 0%, за одним API-ключом. Если вы строите сравнительный стенд, который определяет, превосходят ли локальные рассуждения 3B аренду бюджетной хостинг-модели, один ключ указывает на хостинг-поле, вы прогоняете A/B-тест против самостоятельно размещённого Granite через единую конечную точку, а автоматическое переключение при сбое поглощает часы, когда ваш собственный пул GPU перегружен. Снижение цены на эти хостинг-альтернативы отражается в сквозной цене в тот же день.

Что посмотреть

Три вещи определят, как запомнят этот релиз. Во-первых, независимое воспроизведение показателей AIME и GPQA — разрыв между 78.33 на карточке и 78.33 в стороннем запуске — это то, где заявления о малых моделях либо подтверждаются, либо проваливаются. Во-вторых, подхватит ли watsonx или другой хостинг модель 3B и по какой цене за токен; квантованная модель рассуждений размером менее двух гигабайт может стать поразительно дешёвым уровнем хостинга. В-третьих, сохранит ли режим рассуждений с низкими усилиями качество на простых вопросах, потому что именно этот режим делает модель рассуждений размером с ноутбук пригодной для реального продакшн-трафика. Granite 4.2 3B — это по-настоящему открытая, хорошо документированная модель рассуждений, которая вышла тихо и может работать на вашем оборудовании уже завтра; ответы на все открытые вопросы появятся в течение недель.