Recursive Flint 40B-A2.5B: модель для программирования, созданная с приоритетом скорости

Число, которое решает, стоит лиRecursive Flint 40B-A2.5B вашего дискового пространства, — не 54,9%. Это 2,5. Первая модель Recursive для программирования с открытыми весами содержит 39,8 млрд параметров и активирует примерно 2,5 млрд из них на каждый записываемый токен, и почти каждое другое решение в релизе — конфигурация внимания, рецепт квантования, собственное ядро Metal, инференс-движок — обусловлено этим одним соотношением. Flint вышел 21 октября 2026 года под лицензией Apache 2.0, что делает его на момент написания статьи однодневным и помещает в окно, когда запуск — всё ещё новость, а не история. Поскольку таблица бенчмарков, которой всего сутки, — это обещание, а не измерение, мы отдельно ведём учёт эксплуатационных показателей: AI Incident Archive фиксирует, насколько заявления моделей и провайдеров подтвердились, когда они начали обслуживать реальный трафик.

Кратко для тех, кто принимает решение прямо сейчас: это разреженная модель mixture-of-experts, задуманная как самая быстрая в своей весовой категории на ноутбуке; она публикует три оценки агентного программирования — все заявлены вендором и не воспроизведены; и это первая модель компании, чья заявленная цель — автоматизировать исследования, создающие модели. Все три факта важны, и третий из них останется интересным и через год.

Что на самом деле было выпущено

Четыре репозитория, а не один. Основной RecursiveSI/flint репозиторий содержит BF16-чекпоинт, конфигурацию, токенизатор, шаблон чата и набор для обслуживания SGLang; он был создан 21 октября 2026 года в 14:20 UTC. Рядом с ним расположены три квантованных варианта, все датированы тем же днём после полудня: сборка int4 safetensors, int4 GGUF и NVFP4 GGUF. Каждый размер ниже был измерен по собственным спискам файлов репозиториев, а не взят из анонса.

• Референс BF16 — 79.59GB в 37 файлах, в 15 шардах safetensors примерно по 5.37GB каждый. Это артефакт тонкой настройки, и именно его не стоит скачивать для инференса.

• NVFP4 GGUF — 22.86GB в одном файле, самая маленькая опубликованная полная сборка для инференса.

• Int4 GGUF — 25,99 ГБ: квантование q4_1, которое больше файла NVFP4, что противоречит порядку в названиях, и это стоит знать, прежде чем выбирать по имени файла.

• Int4 safetensors — 22.58GB, для сред выполнения, которые предпочитают сегментированные веса одному GGUF.

Лицензия — Apache 2.0, а в карточке модели дополнительно уточняется, что условия хостингового API и практики работы с данными отделены от лицензии на веса — обычное разделение, изложенное прямо, а не спрятанное.

Архитектура — это аргумент о пропускной способности памяти.

На ноутбуке декодирование токена — это в основном не вычислительная задача. Это задача достаточно быстро перемещать веса из памяти в арифметические блоки, поэтому плотная модель с 40 миллиардами параметров работает медленно, каким бы хорошим ни был чип: каждый токен читает каждый вес. Ответ Flint — почти не читать их.

• Разреженность — 256 маршрутизируемых экспертов на слой MoE, при этом для каждого токена выбираются 6, плюс один всегда активный общий эксперт. Из 49 слоёв 2 — плотные, а 47 — MoE, поэтому все, кроме первых двух, выполняют условную работу.

• Активные параметры — всего 39,8 млрд, примерно 2,5 млрд активных на токен с учётом выходной головы — отсюда и обозначение «40B-A2.5B». Только активная часть тела — около 2,2 млрд.

• Внимание — 35 слоёв со скользящим окном при окне в 513 токенов (текущий токен плюс 512 предшествующих), чередующихся с 14 слоями полного внимания. Всего 32 головы запросов и 4 головы ключей-значений при размерности головы 128, поэтому KV-кэш остаётся достаточно малым, чтобы длительные сессии агента были практичными.

• Позиционное кодирование — ротационные эмбеддинги на слоях со скользящим окном и вообще никаких на слоях с полным вниманием; карточка модели указывает этот выбор, не объясняя его. QK RMSNorm по каждой голове и обучаемые стоки внимания по каждой голове выполняют ту работу по стабилизации, которую обычно разделяет позиционное кодирование.

• Контекст — документально подтверждено 262 144 токена, и карточка модели прямо указывает, что это охватывает промпт и сгенерированный вывод вместе. В анонсе рекламируется «до 512k», а затем рекомендуется оставаться в пределах 256k для программирования. Оба утверждения принадлежат одному и тому же поставщику и находятся всего в одном абзаце друг от друга.

Интересная деталь заключается в том, как была выбрана эта конфигурация. Recursive говорит, что его Eureka Machine — автоматизированный исследовательский цикл, который предлагает идеи, реализует их, тестирует и объединяет то, что работает, — начал с базовой модели на 35 млрд параметров, из которых 3 млрд активных, и провёл поиск по конфигурациям экспертов и их ширине. Получившаяся конфигурация 40B/2.5B, по формулировке самого анонса, «по прогнозам, обеспечивает лучшее сочетание скорости и производительности в программировании среди конфигураций, протестированных нашей Eureka Machine». Спрогнозировано — а не доказано в результате сравнения готовых моделей. Это нормальный способ выбрать архитектуру, когда прогоны обучения дороги, и в то же время это утверждение, которому более поздний чекпоинт мог бы незаметно противоречить.

Три партитуры и относящиеся к ним сноски

Flint набирает 54,9% на Terminal-Bench 2.1, 89,7% на SWE-bench Pro v2 и 74,2% на SWE-bench Verified. Эти цифры фигурируют в карточке модели как релизные оценки, и ни одна третья сторона не опубликовала измерений этой модели — в индексе моделей Artificial Analysis, обычного независимого арбитра для запуска вроде этого, по состоянию на 22 октября вообще нет записи о Flint. Так что всё ниже — это Recursive, измеряющая Recursive.

То, что поставщик всё же раскрывает о своей собственной методологии, — это больше, чем добровольно сообщают в большинстве постов о запуске, и это меняет то, как следует читать эти цифры:

• Terminal-Bench 2.1 — запуск с использованием harness Terminus 2 при включённом доступе в интернет, а решения, полученные путём поиска в вебе, засчитываются как неудачи. Эта последняя корректировка — намеренное затруднение, и в карточке модели отмечается, что опубликованные оценки других разработчиков могут её не применять, из-за чего сопоставимое сравнение с данными третьих сторон становится сложнее, а не проще.

• SWE-bench Pro v2 и SWE-bench Verified — запуск с mini-swe-agent и полностью без доступа к интернету, более сложный режим, чем у агентов, которые могут искать документацию по ходу выполнения задачи.

• Попытки и тайм-ауты — средний pass@1 как минимум по пяти попыткам при тайм-аутах агента до пяти часов. Усреднение по пяти попыткам — разумный протокол; пятичасовые тайм-ауты означают, что это оценки для агента, которого вы готовы оставить работать, а не для автодополнения.

• Сэмплирование — temperature 1.0, top-p 0.95, top-k 20 при каждом вычислении, а сервисный комплект применяет эти значения по умолчанию, если запрос их не указывает.

Таблица бенчмарков от вендора — это ещё и заявление о том, каких конкурентов он выбрал. Собственный график Recursive сравнивает Flint с Qwen 3.5, Qwen 3.6, Qwen 3.8, Laguna XS 21, Muse Glimmer и Gemma 4 — локальными моделями, подходящими для схожего оборудования; это честная группа сравнения для ноутбучной модели, но также и группа, подобранная так, чтобы аргумент о разреженности выглядел выигрышно. Утверждение узкое и обоснованное: Flint лидирует среди MoE-моделей с общим числом параметров менее 50 млрд в агентном программировании и соперничает с плотными моделями на 25–40 млрд, работая при этом намного быстрее. Это не утверждение о передовых моделях для программирования, и Recursive такого не делает — в анонсе прямо сказано, что Flint «может требовать больше указаний, чем более крупные закрытые модели для программирования, к которым вы привыкли».

Скорость: относительно чего на самом деле измеряется 2×

Recursive сообщает о более чем 125 токенах в секунду на M4 Pro MacBook Pro и более чем 150 токенах в секунду на 64GB NVIDIA RTX Spark при коротких контекстах, характеризуя это как до двух раз быстрее сопоставимых моделей и более чем в пять раз быстрее плотных моделей с 25–40 млрд параметров при схожих показателях в программировании. Сноска о методологии на графике скорости — это то, что стоит прочитать: среднее число токенов в секунду на протяжении сессии в 128 000 токенов, без учета prefill, при этом один конкурент измерялся на 124 тыс., а не на полной длине.

Исключение prefill — стандартная практика для бенчмаркинга decode, и здесь это по-прежнему важно, потому что именно на prefill агент для программирования тратит время, когда загружает репозиторий в контекстное окно. Число, которое измеряет только половину decode сессии на 128k, будет выставлять в выгодном свете любую модель с разреженной активацией, а весь дизайн Flint основан именно на разреженной активации. Ничто из этого не делает цифру неправильной. Это делает её цифрой decode, и её следует сравнивать с другими цифрами decode, а не с тем, сколько времени ваш агент тратит на выполнение задачи.

Рецепт квантования — наиболее переносимая часть.

Большинство статей о квантовании посвящены тому, сколько точности было потеряно. Эта же — о решении, которое пошло вразрез с общепринятым подходом.

Recursive квантовала выходной слой — lm_head — до 4 бит. Это противоречит общепринятой практике, и причина специфична для разреженных моделей: при всего 2,5 млрд активных параметров выходной слой составляет большую долю весов, читаемых для каждого отдельного токена, поэтому оставление его в 16 битах ограничивает максимально возможную скорость модели. Восстановление точности потребовало этапа офлайн-дистилляции, на котором квантованная модель обучается на собственных заранее сэмплированных ответах из coreset, который она обнаружила сама, а 16-битная модель выступает учителем — по словам Recursive, такая схема почти вдвое сократила число шагов обучения по сравнению с её базовым вариантом обучения с учётом квантования.

Опубликованный результат состоит в том, что итоговая модель NVFP4 по всему набору бенчмарков показывает результат, отличающийся от 16-битной модели не более чем на 0,7 балла. Это заявление производителя, и это как раз тот тип заявления, который легко проверить позже и дорого подделать, что делает его полезным для того, чтобы требовать от них его подтверждения. Практическое следствие — указанные выше размеры файлов: загрузка объёмом 22,86 ГБ, которая запускает модель с 39,8 млрд параметров на машине с 48 ГБ унифицированной памяти.

На Apple Silicon у этого есть второй слой. Eureka Machine от Recursive создала специализированные ядра для низкобитных проекций, операций MoE, внимания и обработки промптов, включая мегаядро Metal, которое объединяет весь прямой проход декодирования в один вызов диспетчеризации на чипах M4 и M5. Слияние прохода декодирования — это та оптимизация, которая окупается только тогда, когда вы одновременно контролируете архитектуру модели, формат квантования и ядро, — и именно в этом главный тезис этого релиза, а не в какой-либо отдельной цифре бенчмарка.

Как вы это запускаете и во что вам обходится каждый путь

Существуют две разные истории развёртывания, и они не взаимозаменяемы.

• Серверные GPU — контрольная точка BF16 поставляется с комплектом обслуживания SGLang, который рассчитан на один B300 или один H200 на реплику, предоставляет OpenAI-совместимую конечную точку на порту 30000 с именем модели flint, а также включает пример клиента для рассуждений и вызовов инструментов. Это единственный поддерживаемый путь для весов полной точности; в карточке модели прямо указано, что код моделирования Transformers пока не включён.

• Локальные машины — llama.cpp, Ollama, Unsloth, LM Studio, vLLM и SGLang все указаны как поддерживаемые, что необычно широко для модели в день запуска и составляет разницу между контрольной точкой и пригодным к использованию артефактом.

• rec — это собственный движок инференса Recursive, устанавливаемый в ~/.local/bin; он требует M4 Pro, M5 Pro или M5 Max с как минимум 48 ГБ унифицированной памяти и примерно 30 ГБ свободного места на диске и локально предоставляет API, совместимый с OpenAI. В его README утверждается, что на M4 Pro с 4-битными весами он обеспечивает пропускную способность по токенам в 1,4–2,6 раза выше, чем llama.cpp, на промптах объёмом от 1 000 до 252 000 токенов при 1 024 выходных токенах, по пять прогонов на каждую длину контекста, без учёта prefill. Он явно оптимизирован для использования в одной сессии — запустите несколько агентов одновременно, и документация отсылает вас в другое место.

Практические замечания, определяющие, пройдёт ли сессия успешно: контекстное окно совместно используется для промпта и вывода, сложным задачам нужен бюджет вывода не менее 32 768 токенов, включая рассуждения, а возвращённый reasoning_content необходимо сохранять в истории диалога, иначе многоходовое использование инструментов ухудшается. Собственная рекомендация Recursive для сложных задач — разбивать работу на меньшие подзадачи с явными инструкциями; это честный совет, который также читается как описание потолка возможностей модели.

Что действительно не доказано

Три вещи в порядке убывания степени их влияния на решение.

Первое — независимое измерение. Его нет. Не низкий балл в рейтинге и не спорный балл — сторонней оценки Flint пока не существует, а единственные цифры в обороте принадлежат поставщику и получены с учётом выбранной поставщиком конфигурации тестового стенда и его же поправки на извлечение данных из веба. Методология раскрыта достаточно подробно для аудита — большего в первый день требовать нельзя, но раскрытая методология ещё не проверенная.

Второй вопрос — выдерживает ли модель с 2,5 млрд активных параметров долгосрочную работу, для которой на самом деле и нужны кодирующие агенты. Протокол бенчмарка допускает пять попыток и тайм-ауты в пять часов — это щедрые рамки; модель, которой требуется несколько попыток и длинный поводок, может показать хороший pass@1, но при этом ощущаться ненадёжной в редакторе. Собственная оговорка Recursive о том, что ей нужно больше guidance, чем более крупным закрытым моделям, указывает на то же самое.

Третье — это сам поиск архитектуры. Конфигурация, которая, по прогнозу, окажется лучшей среди протестированных автоматизированной системой, — это гипотеза о ходе обучения, а не результат о готовой модели. Если прогноз Eureka Machine был верным, это шаблон, который скопируют другие небольшие команды. Если он был приблизительно верным, следующая контрольная точка сдвигается, и соотношение меняется.

Куда это вписывается, если ваш стек агентов лишь наполовину локальный

Причина, по которой такая модель, как Flint, важна, заключается в том, что она убирает из счёта одну строку, а не все. Локальный инференс справляется с работой, которую можно выполнить на собственной машине, и ничего не делает для работы, которую выполнить нельзя — задачи с длинным контекстом, которая не помещается, всплеска нагрузки, который перегружает один ноутбук, задачи, где более крупная модель просто лучше. В итоге большинство команд используют две системы.

OrcaRouter — это хостинговая половина этой схемы, и, чтобы чётко обозначить границу: мы не обслуживаем Flint, и ничто в этом материале не является рекламой чекпоинта, который мы хостим. Flint — это загрузка от Recursive, а не наш эндпоинт. Мы же ставим один API перед более чем 200 хостинговыми моделями по собственной прайс-листовой цене провайдерабез наценки, маршрутизируем запросы между ними по цепочке резервных переключений на основе конфигурации, и автоматически переключаемся при сбое, когда провайдер выходит из строя посреди запроса. Если вы хотите сравнить, чего стоит локальный запуск Flint, с хостинговой mixture-of-experts моделью сопоставимого размера — Qwen3.6-35B-A3B и Gemma 4 26B-A4B обе вызываются через этот один ключ — то сравнение обойдётся в один запрос, а не в развёртывание.

Разумное прочтение

Flint — это настоящий релиз с конкретным и необычным центром тяжести. Recursive выпустила не самую сильную модель для кодинга, какую могла бы; она выпустила самую быструю из тех, что могла построить, в размере, который помещается на ноутбуке, а затем опубликовала стек квантования и ядер, призванный сохранить это преимущество при соприкосновении с 4-битными весами. 54,9% на Terminal-Bench 2.1 и 89,7% на SWE-bench Pro v2 — сильные показатели для разреженной модели с 40 миллиардами параметров, и пока что это лишь цифры самого вендора.

То, что делает его заслуживающим внимания, а не просто скачивания, — это стоящий за ним метод. Команда, утверждающая, что автоматизированный исследовательский цикл выбрал архитектуру, рецепт квантования и ядра, делает заявление о процессе, а не о модели, а процессы поддаются проверке так, как не поддаются стартовые бенчмарки: следующий релиз либо выходит быстрее и лучше, либо нет. Flint — первая точка данных в этом рассуждении, выпущенная под лицензией, достаточно либеральной, чтобы каждый мог сам проверить веса.

Если у вас 48 ГБ унифицированной памяти и машина на Apple Silicon, цена выяснения — скачивание на 22,86 ГБ и полдня. Если нет, честная позиция — дождаться первой независимой оценки, потому что таблица результатов бенчмарков, которой всего один день, — это обещание, а не измерение.