Сгенерированная титульная карточка с надписью «Inkling 2 Mini» и подзаголовком «26,4 млрд всего, 3,4 млрд активных, около 20 ГБ — зацикливание средних слоёв», а также тремя плашками с надписями «Индекс интеллекта 20.1», «48 применений слоёв» и «Apache 2.0», над схемой слоёв из четырёх блоков, в которой два средних блока помечены «запуск 3 раза», а два внешних — «запуск 1 раз». Логотип OrcaRouter расположен в правом нижнем углу.
Guides & Insights

Inkling 2 Mini выходит за 20: модель на 20 ГБ, которая мыслит циклами

Автор

jinhao.song

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

Чекпойнт весит около 20 ГБ, и это число — аргумент. Inkling 2 Mini — это смесь экспертов с 26,4 млрд параметров, из которых 3,4 млрд активны на каждом токене; она опубликована Thinking Machines Lab 20 ноября 2026 года под лицензией Apache 2.0 в виде одного загружаемого файла, который работает на Mac с 32 ГБ унифицированной памяти или на одном NVIDIA DGX Spark. В тот же день Artificial Analysis провела замеры и оценила её: 20,1 балла в Intelligence Index v5.0.1, $0,15 за миллион входных токенов и $0,50 за миллион выходных, $0,59 на завершение одной задачи индекса, 280 выходных токенов в секунду. Интересна не сама оценка. А то, что модель достигает её, прогоняя одни и те же двенадцать слоёв три раза вместо хранения большего числа параметров, — именно это заставляет чекпойнт на 26B вести себя как нечто большее, не требуя больше памяти, чем есть у ноутбука.

Смешайте два типа чисел небрежно — и релиз будет выглядеть как чистая победа; разделите их — и он прочитается как нечто более конкретное, чего и пытается добиться этот материал. Индекс, стоимость задачи, скорость, многословность и лицензия — это измерения и метаданные Artificial Analysis, считанные 21 ноября 2026 года. Каждая строка по кодингу и рассуждениям ниже — это собственный харнесс Thinking Machines на чекпойнте, обученном компанией, и это указано там, где она появляется. Никто за пределами лаборатории не воспроизвёл эти строки.

Что опубликовала Thinking Machines

Релиз — это в первую очередь выкладка весов. Репозиторий Hugging Face был создан 17 ноября, а последнее изменение датируется 20 ноября; это похоже на поэтапно выложенный чекпойнт, а не на внезапный дроп, и в карточке модели датой релиза указано 20 ноября 2026 года. Есть действительно важный нюанс с файлом лицензии: в метаданных карточки заявлена Apache 2.0, и теги репозитория содержат то же самое, так что это релиз с разрешительной лицензией, а не обещание такого релиза, с которым 5 ноября вышла Inkling 2 Small.

• Параметры — 26,4 млрд всего, 3,4 млрд активных и 5,4 млрд эффективных активаций весов на токен с учётом зацикливания; Thinking Machines оценивает каждый дополнительный проход цикла примерно в 1,0 млрд дополнительных активных параметров.

• Объём — один чекпойнт около 20 ГБ, 20 слоёв в NVFP4 и 4 в MXFP8, поставляемый в той точности, в которой он обучался, а не квантованный после.

• Модальности — текст и изображения на входе через vision transformer проецируются в общее скрытое пространство, текст на выходе.

• Контекст — в карточке модели указано до 1M токенов, а Artificial Analysis фиксирует 1M.

• Сервинг — Hugging Face, SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, Unsloth и GGUF-файлы llama.cpp, Llama App, а также Ollama и Exo Labs на Apple silicon. Для Miles и SkyRL существуют рецепты постобучения.

• С хостингом — Tinker, для инференса и кастомизации, с площадкой для экспериментов. Это собственный эндпоинт поставщика, и единственный; Inkling 2 Mini отсутствует в OrcaRouter, и ничто ниже не подразумевает обратного.

Вместе с ним поставляется сопутствующая модель. TML-d24-varloop-research — это та же архитектура, обученная принимать от одного до пяти проходов цикла, и она существует, чтобы исследователи могли варьировать глубину, которую производственная модель фиксирует на трёх. Она тоже есть на Hugging Face, и именно на ней была выполнена большая часть работы по мониторируемости в этом выпуске.

Screenshot of the Thinking Machines announcement page titled 'Introducing Inkling 2 Mini', dated Nov 20, 2026, showing the Capabilities, Architecture and training, Monitorability of looped transformers and Try Inkling 2 Mini today section links, plus the opening paragraphs describing a model small enough to run on a laptop that runs the middle layers three times per token and leads open-weights models under 100B total parameters on DeepSWE v1.1 at 48.2%.

Цикл — это продукт

Inkling 2 Mini — это 24-слойный трансформер, состоящий только из декодера, с разреженными слоями прямой связи на основе смеси экспертов, разделённый на четыре блока по шесть слоёв. Первый блок выполняется один раз, последний блок выполняется один раз, а два средних блока — двенадцать слоёв — выполняются три раза с общими весами. Таким образом, токен проходит через 48 применений слоёв, взятых из 24 хранимых слоёв весов.

Повтор — это не копия. При каждом проходе через средние блоки считывается выход прелюдии, а второй и третий проходы также считывают то, что Thinking Machines называет сообщением: собственный выход средних блоков с предыдущего прохода, объединённый через обучаемый гейт. Этот гейт изначально полностью блокирует сообщение, поэтому обучение начинается как у обычной модели без циклов, а усиление сообщения со временем повышается. Это трюк для стабильности обучения, и именно поэтому цикл можно добавить в середине обучения, а не обучать с нуля.

Вопрос о том, какие слои зацикливать, не был произвольным. Компания сравнила зацикливание средних двенадцати слоёв с зацикливанием последних двенадцати на 28 оценках и обнаружила, что средние выиграли в 27 из них, с выигрышем при эквивалентных вычислениях 1,51–1,91× против 1,24–1,36×. Интуиция, которую это даёт, такова: ранние и поздние слои заняты переводом между токенами и внутренними представлениями, тогда как средние несут абстрактное рассуждение, которому идёт на пользу больше последовательных шагов.

Эксперты были прорежены, а не спроектированы. Обучение началось при разреженности 48, при этом каждый токен направлялся к 8 из 384 экспертов; на одном из этапов промежуточного обучения компания сохранила 128 наиболее используемых экспертов на слой и восстановила повреждения на 1T токенов, дистиллированных из более крупной внутренней модели Inkling, после чего провела SFT и фазу RL общей сложностью 2,2T токенов за 2 000 шагов. Это та же посттренировочная смесь, что и у Inkling 2 Small, поэтому сильные стороны обеих моделей оказываются в одних и тех же местах.

Двадцать, и что находится под ним

Основная оценка реальна и измерена независимо, и она также близка к нижней границе того, что индекс способен полезно различать. Artificial Analysis помещает 20 как значительно выше среднего для класса сравнения модели в рейтинге открытых весов, где медиана равна 10, но полоса непосредственно вокруг 20 переполнена моделями на одно очко в обе стороны, и индекс не упорядочивает модели настолько тонко. Оценка 20 означает, что модель преодолевает планку, а не то, что она превосходит всё в пределах одного очка от неё.

То, что оценка действительно подтверждает, — это позиционирование, важное для модели такого размера. Утверждение о Парето-эффективности из материалов запуска — передовой интеллект на активный параметр — подкрепляется собственным резюме Artificial Analysis, где модель называют одной из ведущих в своём размерном классе по интеллекту и разумно оценённой по цене на фоне других моделей с открытыми весами сопоставимого размера. Она достигает этого благодаря циклу, который обеспечивает последовательные вычисления без увеличения числа параметров, и это утверждение перестаёт быть верным в тот момент, когда вы просите модель что-то знать, а не что-то вычислить.

Столбцы стоимости и скорости — именно там релиз выглядит сильнее всего. При $0.15 за вход и $0.50 за выход он находится на нижней границе тарифа для reasoning-моделей, а $0.59 за задачу индексации — это четверть стоимости плотной 27B-модели в том же диапазоне оценок. Он быстр в двух отношениях, которые проявляются в агентном цикле: 9.72 секунды до первого токена ответа и 280 выходных токенов в секунду. Компенсирующая слабость — многословность: 161M выходных токенов на завершение прогона индексации против медианы 85.7M у аналогов, примерно в 1.9 раза больше вывода типичной модели его класса. При оплате по токенам это нормально. При фиксированном бюджете токенов это означает, что вы получите примерно вдвое меньше задач.

Screenshot of the Artificial Analysis model page for Inkling 2 Mini, showing it amongst the leading models in intelligence and reasonably priced for its size but very verbose, a score of 20 on the Intelligence Index against a median of 10 for its class, 161M tokens generated during the index run against a 85.7M median, pricing of $0.15 per 1M input and $0.50 per 1M output tokens, $0.59 per index task, 9.0 minutes per task, and a listed 1M-token context window.

Строки кодирования, по данным поставщика

Таблица, опубликованная Thinking Machines, — самая сильная часть её аргументации, и она целиком её собственная. Это невоспроизведённые цифры из вендорского стенда; несколько из них получены с использованием собственной агентной обвязки компании, а не нейтральной, так что воспринимайте их как заявления о чекпоинте, который обучила лаборатория.

• SWE-bench Verified — 79,2%, только bash.

• SWE-bench Pro v2, сложный уровень — 77,9%.

• SWE-bench Многоязычный — 73,7%.

• DeepSWE v1.1 — 48,2% против 42,2%, заявленных для Qwen3.8-27B.

• Terminal Bench v2.1 — 71,6%, ниже, чем 73,0 у Qwen3.8-27B; на Terminal Bench v4.0 оба показывают 5,6%.

• FrontierCode v2.0 — 15,1% против 14,9% у Qwen3.8-27B.

• Агентный поиск и инструменты — BrowseComp 79.0%, DeepSearchQA 85.3%, MCP Atlas 82.7%, каждый из показателей выше, чем у Qwen3.8-27B в той же таблице.

• Зрение и документы — MMMU Pro 74,9%, OmniDocBench v1.6 92,8%, ScreenSpot Pro 76,5% в базовом режиме и 87,7% с инструментарием Python.

• Рассуждение — HLE-Diamond 15,2%, CritPt v2 31,4%, ARC-AGI 84,5% в v1 и 49,3% в v2, LongBench v2 66,9%.

Форма этой таблицы согласуется с архитектурой, и это самое полезное в релизе. Строки, где модель выглядит сильной, — это те, которые вознаграждают настойчивость и использование инструментов на длинном горизонте: поиск, патчинг в масштабе репозитория, разбор документов. Строки, где она выглядит заурядной, — это те, что требуют одного правильного вспоминания или сложного научного вывода. Зацикливание добавляет последовательные шаги. Оно не добавляет сохранённых фактов.

Цикличность даёт рассуждения, но не факты.

Это различие — собственный тезис релиза, и компания проверяет его, а не просто утверждает. В AA-Omniscience, бенчмарке фактичности, таблица производителя показывает −8.6 для Inkling 2 Mini при доле ответов без галлюцинаций 63.4%. Отрицательный балл там означает, что модель хуже, чем отказаться отвечать: она выдаёт уверенные ошибки. Компания формулирует это так: пробел в знаниях соответствует другим моделям такого же общего размера, и модель компенсирует его хорошим поиском — именно это показывают строки BrowseComp и DeepSearchQA, и именно поэтому честная характеристика этой модели — «хороша в поиске, слаба в запоминании».

Вариант с переменным числом циклов делает этот тезис ещё нагляднее. Его временной горизонт без цепочки рассуждений — сколько времени он может выполнять задачу с надёжностью 50%, не записывая рассуждения, — растёт с 16 секунд при одном проходе до 37 секунд при трёх, а затем выходит на плато, тогда как последовательное рассуждение в задаче поиска N-Hop продолжает улучшаться вплоть до десяти проходов — вдвое больше глубины, на которой модель обучалась. Прирост сосредоточен в многошаговом поиске, математических и естественнонаучных рассуждениях и долгосрочной агентной работе. Фактологический QA без внешних источников почти не улучшается.

Результат по мониторируемости — именно та часть, которая будет волновать исследователей больше всего, потому что это возражение против моделей с циклами. Если модель выполняет больше вычислений внутри одного токена, в видимой цепочке рассуждений оказывается меньше рассуждений, и монитор цепочки рассуждений видит меньше. Thinking Machines измеряет это и обнаруживает, что на этом масштабе эффект меньше, чем опасались: рассуждение модели с переменным числом циклов при пяти проходах составляло менее половины длины по сравнению с одним проходом (в среднем 1 661 против 3 703 токенов) при неизменной длине предложений и доле словарных слов, что выглядит скорее как более прямое рассуждение, а не как менее удобочитаемое. В рамках собственной оценки скрытности LinuxArena Inkling 2 Mini с результатом 3,9% находится намного ниже показателя Qwen3.8-27B — 20,5%. Ничто из этого не является гарантией — это первое измерение на классе архитектур, для которых ни у кого раньше не было загружаемых весов, и компания прямо заявляет, что выпустила модель отчасти для того, чтобы другие могли проверить.

Сколько стоит запуск

Селф-хостинг — это заявленный режим, и арифметика проста. 20-ГБ чекпойнт на уже имеющейся у вас машине вообще не создаёт предельных затрат на токены, а собственное исследование эффективности производителя — проведённое лабораториями Hazy Research и Scaling Intelligence Стэнфорда в рамках раннего доступа, при MXFP8 и низких усилиях на рассуждение — даёт ему 0,703 единицы интеллекта на ватт на DGX Spark против 0,430 у Qwen3.6-35B-A3B и 0,159 у Gemma 4 26B-A4B. Это околовендорский результат на одном устройстве, а не измерение на парке машин, но направление вполне очевидно.

Честный аргумент против самостоятельного запуска состоит в том, что у зацикленной архитектуры примерно один день зрелости в плане обслуживания. SGLang, vLLM и остальные перечисляют поддержку, а карточка модели предупреждает её собственными словами, что поддержка runtime для looped-моделей новая и скорость варьируется. Пропускная способность, которую вы измеряете на своей машине, зависит от выбранного движка и того, насколько свежие у него ядра, и это будет меняться быстрее, чем что-либо ещё в этой модели.

Роутер здесь оправдывает своё место не тем, что обслуживает Mini — мы его не хостим. А тем, что вы строите вокруг него. Оценка непроверенной архитектуры никогда не должна быть единственным, что отделяет ваших пользователей от страницы ошибки, и способ добиться этого — вызывать модель, которой вы доверяете, на производственном пути, пока Mini работает рядом. Qwen3.8-Flash доступна на OrcaRouter по цене $0.15 за миллион входных и $0.47 за миллион выходных токенов — это цена провайдера из прайс-листа, переданная без наценки, а DSL маршрутизации и автоматическое переключение при сбоях позволяют поставить Mini за ней в тот день, когда Mini получит эндпоинт, доступный и нам. Один ключ покрывает обе стороны этого эксперимента — в этом и весь аргумент.

A generated single-column scoreboard titled 'Inkling 2 Mini — the scoreboard', with six rows reading Intelligence Index 20.1, cost per index task $0.59, output speed 280 tokens per second, first token 9.72 seconds, size on disk about 20GB, and licence Apache 2.0, above a footer stating that index, cost and speed are per Artificial Analysis and coding rows are vendor-reported and unreproduced.

Четыре вещи, за которыми стоит следить

Первое — независимое воспроизведение. У Artificial Analysis есть индекс, стоимость, скорость и многословность — измеренные, — но таблица по кодингу принадлежит лаборатории. Пока кто-то вне Thinking Machines не запустит SWE-bench Pro v2 или DeepSWE на публичных весах, 77,9% и 48,2% остаются заявлениями.

Второй вопрос — появится ли хостинговый эндпоинт помимо Tinker. 20-ГБ чекпойнт под Apache 2.0 — это ровно тот артефакт, который сторонние провайдеры быстро подхватывают, а ценовая конкуренция, которая могла бы сделать $0.59 за задачу устойчивой, начинается только с появлением второго продавца.

Третье — сам цикл. Если пилот сработает, методика переносима: три прохода по средним слоям, гейт для слияния сообщения, никаких дополнительных параметров. Каждый рецепт для малых моделей в этой области становится кандидатом на её применение, и интересный вопрос перестаёт быть тем, наберёт ли эта модель 20, и становится тем, наберёт ли следующая 24 при том же объёме памяти.

Четвёртое — это то, что запуск оставляет открытым. Зацикленные модели переносят рассуждения из видимой цепочки мыслей в прямой проход. Thinking Machines не обнаружили значимой потери возможности мониторинга при 5,4 млрд активных параметров. Никто не опубликовал такое же измерение при 50 млрд активных параметров. Именно этот вопрос становится возможным задать благодаря этому релизу, и это более веская причина интересоваться загрузкой на 20 ГБ, чем оценка.

Для тех, кто принимает решение на этой неделе, выбор предельно ясен. Если вам нужен компетентный агентный кодер, который работает офлайн на оборудовании, уже имеющемся у вас, и вы готовы изолировать его в песочнице и проверять, насколько точно он воспроизводит факты, прежде чем ему доверять, то Inkling 2 Mini — самая интересная небольшая модель, доступная прямо сейчас, а цена попытки — одна загрузка. Если вам нужен ответ, который можно показать клиенту без слоя извлечения данных за ним, то это не та модель, и 20 баллов в индексе этого не изменят.