Сгенерированная титульная карточка с надписью «Inkling 2 Mini vs Inkling 2 Small», подзаголовком «одиннадцать индексных пунктов, разница 394 ГБ», а под ней две скруглённые карточки с надписями «Inkling 2 Mini — 1 файл, около 20 ГБ» и «Inkling 2 Small — 36 файлов, 393,5 ГБ», разделённые разделителем с пометкой «11 пунктов». Логотип OrcaRouter расположен в правом нижнем углу.
Guides & Insights

Inkling 2 Mini против Inkling 2 Small: 11 пунктов за 394GB

Автор

jinhao.song

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

Два чекпоинта, одно семейство — и выбор, который сводится к тому, сколько дискового пространства и памяти вы готовы потратить ради одиннадцати пунктов индекса. Inkling 2 Mini — меньшая из них: 26,4 млрд параметров всего, 3,4 млрд активных, один файл размером примерно 20 ГБ, который Thinking Machines Lab опубликовала 20 ноября 2026 года под лицензией Apache 2.0. Inkling 2 Small — большая: 594 млрд всего, 17 млрд активных, 393,5 ГБ в 36 файлах, веса открыты 12 ноября после недели закрытого доступа, начавшегося с её запуска 5 ноября. В Artificial Analysis Intelligence Index v5.0.1, который независимо оценивает обе модели, они набирают 20,1 и 31 балл соответственно. Вот и весь компромисс в одной строке, и она преуменьшает, насколько по-разному ведут себя эти две модели.

Далее разделяются два вида свидетельств, поскольку именно это различие определяет большинство споров об этом семействе. Балл индекса, стоимость одной задачи индекса, скорость, контекст и лицензия — это показатели Artificial Analysis и метаданные поставщика, считанные 21 ноября 2026 года. Каждый процент в бенчмарках взят из собственной таблицы оценок Thinking Machines, приведённой в соответствующей публикации о запуске, на чекпоинте, обученном компанией, и каждый раз при появлении помечается как заявленный поставщиком. Ни одна из таблиц не была воспроизведена за пределами лаборатории.

Что на самом деле представляет собой каждая контрольная точка

Начните с артефакта, потому что артефакты — не одно и то же. Inkling 2 Small — это плоская модель mixture-of-experts: 594B всего, 17B активных на токен, веса опубликованы через восемь дней после запуска в виде 24 шардов safetensors плюс вариант MXFP8, который ещё больше. Inkling 2 Mini — это прореженный потомок с циклом: тот же основной рецепт, но две трети экспертов удалены, а в средние слои добавлен цикл. Он поставляется одним файлом размером около 20 ГБ, потому что обучался сквозным образом в 4-битном формате и развёртывается в той точности, в которой обучался: 20 слоёв в NVFP4 и 4 в MXFP8, так что платить за потери при конвертации не приходится.

• Общее число параметров — Inkling 2 Mini 26,4 млрд против Inkling 2 Small 594 млрд.

• Активные параметры — 3,4 млрд против 17 млрд, при этом Mini достигает 5,4 млрд эффективных активаций весов на токен с учётом трёх проходов цикла.

• Загрузка — около 20 ГБ в одном файле против 393,5 ГБ в 36 файлах или 622,8 ГБ для варианта MXFP8.

• Индекс — 20,1 против 31, оба по шкале Intelligence Index v5.0.1.

• Стоимость за задачу индексации — $0,59 против $1,18.

• Скорость вывода и первый токен — 280 токенов в секунду за 9,72 секунды против 118 токенов в секунду за 39,68 секунды.

• Контекст — 1 млн токенов на обеих карточках моделей, и Artificial Analysis зафиксировала 1 млн для обеих. Обслуживаемый уровень Inkling 2 Small на Tinker уже, чем в её карточке, и Mini наследует тот же разрыв; рассматривайте миллион как возможность, а не как операционное обещание.

• Лицензия — Apache 2.0 у обоих. Карточка Small заявляет её, но не поставляет файл LICENSE; карточка Mini заявляет её в метаданных при том же отсутствии. Стоит знать, если вашей юридической проверке нужны документы в дереве.

Screenshot of the Artificial Analysis model page for Inkling 2 Small, showing a score of 31 on the Intelligence Index against a median of 23 for its class, 154M tokens generated during the index run against a 104M median, pricing of $0.30 per 1M input and $1.00 per 1M output tokens, $1.18 per index task, 21.2 minutes per task, a 1M-token context window, a 39.68-second time to first token and 118 output tokens per second.

Одиннадцать пунктов, и откуда они берутся

Сопоставление двух таблиц поставщиков — единственный способ увидеть, что даёт дополнительная вычислительная мощность, поскольку один лишь балл по индексу это скрывает. Обе модели оценивались одной и той же лабораторией с частично совпадающими тестовыми наборами, поэтому строки примерно сопоставимы друг с другом — и только друг с другом.

• DeepSWE v1.1 — Inkling 2 Small 72,1% против Inkling 2 Mini 48,2%. Самый большой разрыв в блоке программирования.

• SWE-bench Pro v2, сложный — 86,3% против 77,9%.

• SWE-bench Verified — 79,2% для Mini, только bash. В собственной таблице запуска Small не указана та же строка, поэтому это единственный бенчмарк по программированию, по которому два поста нельзя сопоставить.

• Vibe Code Bench v1.1 — 81,6% против 77,9%.

{{1}}FrontierCode v2.0 — 25,4% против 15,1%{{/1}}. {{2}}Разрыв в десять процентных пунктов на бенчмарке, где оба слабее всего.{{/2}}

• PMPP-Hard, бенчмарк оптимизации ядер — 494.27 AUC у Small против 455.82 у Mini, что ближе, чем можно судить по количеству параметров, и именно на эту строку указывает пост о запуске, когда говорит, что Mini «приближается» к своему более крупному собрату.

• BrowseComp — 90,2% против 79,0%; DeepSearchQA — 90,9% против 85,3%; MCP Atlas — 85,0% против 82,7%. Поиск и использование инструментов сокращают разрыв до однозначных цифр.

• CritPt v2, полная версия — 55,7% против 31,4%. Именно в научных рассуждениях дополнительный объём сохранённых знаний проявляется сильнее всего.

• AA-Omniscience — 16.1 при показателе отсутствия галлюцинаций 73.3% против −8.6 при 63.4%.

Именно на последней строке и стоит задержаться. Отрицательный показатель всезнания означает, что модель хуже, чем отказ от ответа, и разрыв в одиннадцать пунктов по индексу в основном возникает именно там: более крупная модель знает факты, а меньшая — выводит их. Сама Thinking Machines говорит об этом другими словами, объясняя, что циклы добавляют последовательные вычисления, но не сохранённые факты. Прореживание отсекло две трети экспертов; знания живут в оставшихся экспертах.

Тот же рецепт, сковорода меньше

Сходство внутри семейства — не маркетинговый ход. Обе модели прошли SFT со сходным набором данных и этап RL, в сумме охватывающий 2,2 трлн токенов за 2 000 шагов, причём в обеих для выравнивания использовалась on-policy-дистилляция. Конвейер постобучения один и тот же; различается лишь то, что в него поступает.

Путь Mini к этому стоит знать, потому что он объясняет несколько строк бенчмарка. Он начался с разреженности 48, при которой каждый токен направлялся к 8 из 384 экспертов. В какой-то момент посреди обучения Thinking Machines сохранили 128 наиболее используемых экспертов на каждом слое — сокращение на две трети — и восстановили потери на 1T токенов, дистиллированных из более крупной внутренней модели Inkling, обучив выживших взять на себя работу удалённых экспертов. Затем они добавили зацикливание: четыре блока по шесть слоёв, причём средние два блока прогоняются три раза, а обучаемый гейт объединяет сообщение предыдущего прохода со следующим, начиная с нулевого усиления, так что обучение начинается как у обычной модели.

Два решения, требующих суждения, в той архитектуре поучительны. Компания замкнула средние двенадцать слоёв, а не последние двенадцать, после того как протестировала оба варианта на 28 оценках и обнаружила, что средний вариант лучше в 27 случаях, при эквивалентном по вычислениям выигрыше 1,51–1,91× против 1,24–1,36×. И она оставила первый и последний блоки однопроходными, исходя из теории, что они выполняют перевод токенов в представления, тогда как средние слои несут абстракцию. Вот почему Mini получает 48 применений слоёв на токен из 24 хранимых слоёв, не добавляя ни одного параметра.

Цена этого трюка — эксплуатационная. Плоская MoE — это то, что каждый стек инференса поддерживает уже два года. У looped-модели поддержка в SGLang и vLLM появилась примерно в день её выпуска, и карточка модели прямо говорит, что поддержка looped-моделей в рантайме новая и что скорость варьируется. Если в этом месяце вы выбираете между этими двумя вариантами для production-пути, скучный из них — тот, у которого зрелое ядро.

Железо — настоящий водораздел.

Два чекпойнта не конкурируют за одну и ту же машину, и это определяет больше развёртываний, чем балл. Согласно спецификации, Mini работает на одном NVIDIA DGX Spark, на любом устройстве на Apple silicon с 32 ГБ и более или на GPU с 32 ГБ видеопамяти; в собственной демонстрации компании он собирает играбельный авиасимулятор офлайн на MacBook Pro в авиарежиме, а также симуляцию города с двадцатью агентами на одном ноутбуке. Стэнфордское исследование эффективности, проведённое на этапе раннего доступа, оценило его в 0,703 единицы интеллекта на ватт на DGX Spark при MXFP8 и низком уровне усилий на рассуждение — измерено исследователями вне лаборатории, на одном устройстве, что является самым сильным независимым сигналом в релизе.

Для Small нужен узел. 393,5 ГБ весов не помещаются ни в одно устройство, которым владеет человек, поэтому естественный способ их использовать — хостинговый эндпоинт (в случае вендора — Tinker), и поэтому интересное сравнение для большинства читателей — не «какой файл мне скачать», а «какие из них я вообще смогу запустить». Mini отвечает на этот вопрос ноутбуком. Small отвечает на него бюджетом.

Именно в этой асимметрии маршрутизация оправдывает себя, и лучше говорить конкретно, а не ограничиваться общими словами. Ни одной из этих моделей нет на OrcaRouter, так что сегодня маршрутизировать на них нечего. То, что есть на OrcaRouter, — это хостинговая сторона того же решения: модели, к которым вы бы обращались для рабочих нагрузок, для которых на самом деле предназначен чекпоинт 594B, по одному ключу, по прайс-листу провайдера без наценки. Здесь важен именно DSL маршрутизации — он позволяет разделять по задачам, чтобы дорогой вызов происходил только для запросов, которым он нужен, с автоматическим переключением при отказе провайдера, а дешёвая локальная модель обрабатывала всё остальное. Запуск Mini локально и обращение наружу только для сложного хвоста обходится дешевле, чем запуск любой из моделей для всего, и именно такую схему на самом деле делает возможной этот релиз.

Решение — в трёх случаях

Если вы создаёте агента, который живёт на машине разработчика или внутри отдельного офлайн-устройства, Inkling 2 Mini — это ответ, и реальной конкуренции здесь нет. Загрузка на 20 ГБ со скоростью 280 токенов в секунду, Apache 2.0 и таблица по кодингу, которая обходит каждую open-weights модель своего размера в собственных строках вендора. Запустите его в песочнице — карточка предупреждает о деструктивных действиях с файлами и циклах при отладке — и он будет выполнять агентную работу масштаба репозитория на оборудовании, которое у вас уже есть.

Если ваш рабочий сценарий — это поиск по большому корпусу документов, которые писали не вы, преимущество Small проявляется в основном в строках, где требуется вспомнить, что говорилось в документе. CritPt — 55,7% против 31,4%, omniscience — 16,1 против −8,6, а доля ответов без галлюцинаций 73,3% против 63,4% — это отнюдь не небольшие различия в сфере комплаенса или финансов, где уверенный неправильный ответ обходится дороже, чем медленный правильный. Чтобы получить их, вам придётся платить за узел или эндпоинт.

Если вы выбираете для смешанной нагрузки, суть именно в разделении. Слабость Mini — знания, а знания — это единственное, что можно подать извне: слой извлечения, инструмент поиска, более крупная модель для сложных редких случаев. Её сила — долгосрочная агентная настойчивость по цене, с которой никто в классе 20GB не сравнится. Покупайте маленькую модель, арендуйте знания, а чекпоинт 594B рассматривайте как то, к чему вы переходите при необходимости, а не как то, что вы запускаете.

Screenshot of the Artificial Analysis model page for Inkling 2 Mini, showing a score of 20 on the Intelligence Index against a median of 10, 161M tokens generated during the index run against an 85.7M median, pricing of $0.15 per 1M input and $0.50 per 1M output tokens, $0.59 per index task, 9.0 minutes per task, and a 1M-token context window, alongside the technical specification panel listing the reasoning, input and output modalities, context window, parameter counts and licence.

Одна оговорка касается всех трёх случаев и заслуживает места в конце, а не того, чтобы быть погребённой в тексте. Таблицы бенчмарков обеих моделей — собственные таблицы лаборатории, и оценки индексов — единственные независимо измеренные показатели возможностей в этом сравнении. 31 и 20,1 сопоставимы; 86,3% и 77,9% сопоставимы друг с другом и ни с чем больше. Тот, кто цитирует строки вендора рядом с опубликованным результатом конкурента, сравнивает две методики тестирования, а не две модели.

A generated two-column scoreboard titled 'Inkling 2 Mini vs Inkling 2 Small — the scoreboard'. The Inkling 2 Mini column reads Intelligence Index 20.1, active parameters 3.4B, total parameters 26.4B, download about 20GB, cost per index task $0.59, and output speed 280 tokens per second. The Inkling 2 Small column reads Intelligence Index 31, active parameters 17B, total parameters 594B, download 393.5GB, cost per index task $1.18, and output speed 118 tokens per second. A footer states that index, cost and speed are per Artificial Analysis and benchmark percentages are vendor-reported.