NVIDIA Nemotron Labs Dory 1.0 4B против LFM2.5 2.6B Base: Одна завершена, другая — намеренно нет

NVIDIA Nemotron Labs Dory 1.0 4B и LFM2.5-2.6B-Base — обе небольшие, обе текстовые, обе доступны для скачивания в формате GGUF, и обе запускаете вы сами — и они находятся на противоположных концах пайплайна пост-тренировки. Dory поставляется полностью готовой: дообучение с учителем на курируемом NVIDIA наборе, затем обучение с подкреплением в нескольких средах с GRPO, при этом режим рассуждений постоянно включён в сервисном контуре. LFM2.5-2.6B-Base поставляется намеренно незавершённой и описана на собственной карточке как предварительно обученный чекпойнт, «рекомендуемый только для задач, требующих интенсивного дообучения». Liquid AI отдельно выпускает готовую версию этой модели как LFM2.5-2.6B, прошедшую пост-тренировку для агентных рабочих нагрузок. Так что честная формулировка — не «какая модель класса 4B лучше», потому что базовый чекпойнт и готовая модель рассуждений не конкурируют за одно и то же место в вашем стеке. Полезный вопрос — для какой половины пайплайна вы покупаете.

Что на самом деле представляет собой каждый артефакт

N​VIDIA N​emotron Labs Dory 1.0 4B — это плотная модель на 4B, опубликованная N​VIDIA на Hugging Face в четырёх квантизациях — BF16, MXFP8, NVFP4 и экспорт Q5_K_M GGUF — под лицензией OpenMDW 1.1. В её карточке сборка помечена как «GA (10/16/2026)» и описана зацикленная латентно-рекуррентная архитектура: 8-слойный входной блок, 20-слойный рекуррентный блок, применяемый переменное число раз, и 8-слойный выходной блок, с гибридным чередующимся вниманием со скользящим окном и полным вниманием. Контекст достигает 256K токенов, язык — только английский, и весь релиз был выложен без каких-либо сопроводительных анонсов от N​VIDIA. В карточке отмечается, что в пути обслуживания vLLM рассуждения всегда включены, и это утверждение в такой же мере о замысле, как и о механике: это не сырой предсказатель текста, который допишет ваш документ, а модель, настроенная думать, прежде чем ответить.

LFM2.5-2.6B-Base — это предобученный чекпоинт Liquid AI на 2,69 млрд параметров, выпущенный под собственной лицензией компании LFM (с тегом lfm1.0) и обновлённый в середине августа 2026 года. Это исходный чекпоинт, из которого выведена вся остальная линейка 2.6B. Архитектура представляет собой гибрид из 22 блоков коротких свёрток с двойным стробированием и 8 слоёв группового внимания с запросами (grouped-query attention); обучение велось примерно на 34 триллионах токенов с расширением контекста на этапе промежуточного обучения до 128K, при словаре на 128 000 токенов и 16 языках. В карточке явно обозначена аудитория: ассистенты для конкретных предметных областей, работа с конкретными языками, обучение на проприетарных данных. О поведении шаблона чата говорить не приходится, поскольку инструкционной настройки в нём нет.

Оба — «текст на входе, текст на выходе». Примерно на этом их сходство заканчивается.

Сопоставление спецификаций, бок о бок

• Параметры — Dory 1.0 4B — это плотный стек на 4B. LFM2.5-2.6B-Base — 2,69B. Разрыв меньше, чем предполагают названия, и обе модели комфортно помещаются на одном потребительском ускорителе при разумной квантизации.

• Пост-обучение — у Dory есть SFT и многосредовое RL по математике, коду, науке, следованию инструкциям, использованию инструментов и структурированному выводу. У LFM2.5-2.6B-Base этого нет — так задумано. Если вам нужна модель, которая следует инструкциям из коробки, один из этих вариантов — неверный выбор, и это не тот, у которого меньше параметров.

• Контекст — Dory достигает 256K токенов, при этом 262 144 позиции проверены в vLLM с использованием команды запуска, поставляемой NVIDIA. LFM2.5-2.6B-Base поддерживает 131 072 токена, что достигнуто за счёт расширения на этапе промежуточного обучения. Окно Dory примерно вдвое больше; сможете ли вы позволить себе заполнить его, зависит от поведения KV-кэша, описанного ниже.

• Языки — Dory поддерживает только английский, а её данные предварительного обучения охватывают 43 языка программирования. LFM2.5-2.6B-Base охватывает 16 естественных языков, включая английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский, испанский, вьетнамский, тайский, индонезийский, хинди, русский и польский. Для всего, что за пределами английского, это измерение решает само.

• Архитектура — гибрид короткой свёртки и внимания на стороне Liquid; зацикленный латентно-рекуррентный нормализованный GPT с чередующимся вниманием со скользящим окном на стороне NVIDIA. Оба — отход от обычного стека трансформеров, причём в разных направлениях.

• Поведение при вычислениях — глубина Dory — это параметр времени выполнения. Количество циклов 1, 2 или 4 позволяет обменять вычисления на точность без второго чекпоинта, и NVIDIA рекомендует два в качестве значения по умолчанию. У LFM2.5-2.6B-Base фиксированная глубина; его рычаг затрат — квантование, а в более широком семействе — спекулятивный драфтер.

• Лицензия — OpenMDW 1.1 для Dory, лицензия LFM для чекпойнта Liquid. Обе разрешают коммерческое использование; лицензия Liquid — собственная лицензия компании, а не стандартный текст с открытым исходным кодом, и с ней стоит ознакомиться, а не делать предположения.

• Поставленные форматы — Dory: BF16, MXFP8, NVFP4, GGUF. LFM2.5-2.6B-Base: веса BF16 на Hub, а сборки GGUF, ONNX и MLX доступны в других частях семейства. Экосистема Liquid здесь шире; репозиториям Dory всего несколько часов.

Тонкая настройка — это ось, которая их разделяет

Если причина, по которой вы рассматриваете LFM2.5-2.6B-Base, состоит в том, что вы собираетесь обучать на ней — будь то доменный ассистент, проприетарный корпус или язык, на котором базовая модель уже говорит, — то Dory 1.0 4B — плохая замена по причине, не имеющей отношения к качеству. Дообучение модели рассуждений, полностью прошедшей постобучение, для выполнения узкой задачи обычно сложнее, чем дообучение базового чекпоинта, потому что вы боретесь с поведением, которое установил этап RL, а не формируете чистый предиктор. Карточка Liquid рекомендует свой базовый чекпоинт для работы в конкретной предметной области и с конкретным языком именно по этой причине, а 34 триллиона токенов предобучения на 16 языках — это более широкая отправная точка, чем может предложить англоязычная модель.

Но карточка Dory молчит о тонкой настройке так, что это само по себе информативно. Она документирует конвейер обучения, публикует форматы и даёт инструкции по обслуживанию для двух движков; в ней ничего не сказано об адаптерах, поддержке LoRA или рецепте тонкой настройки. Это профиль чекпоинта, опубликованного для обслуживания, а не для обучения. Считать отсутствие доказательств доказательством было бы ошибкой, но эту асимметрию стоит назвать: одна карточка продвигает себя для тех, кто занимается тонкой настройкой, другая — для тех, кто развёртывает.

Ещё одно примечание о честности в отношении цифр. Liquid публикует полную таблицу оценок для пост-обученной LFM2.5-2.6B против Gemma 4 E2B и E4B, Qwen3.5-4B и 9B, и эта таблица не переносится на базовый чекпойнт — базовая модель, оценённая на бенчмарках следования инструкциям, измеряет нечто иное, чем пост-обученная модель, оценённая на тех же бенчмарках. NVIDIA публикует таблицу бенчмарков для Dory против Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B и Qwen3.6-35B-A3B, измеренных на собственном стенде, без независимого воспроизведения. Нет общего результата на одном стенде для Dory и ни для одного из чекпойнтов LFM, и вообще нет опубликованного прямого сравнения.

Запуск их на реальном оборудовании

История с периферийными устройствами — это то, где два подхода наиболее резко расходятся на практике, и здесь Liquid явно побеждает. Семейство LFM2.5 создано для развёртывания на устройстве — модель 2.6B instruct из этого семейства показывает по бенчмаркам 220 токенов в секунду на Apple M5 Max и 113 на Ryzen AI Max+ 395, используя менее 2,5 ГБ памяти, а заявленный показатель телефонного класса составляет около 30 токенов в секунду. В семействе есть сборки ONNX и MLX, а также спекулятивный драфтер DSpark на 328M, который, по словам компании, обеспечивает примерно в 2,6 раза более быстрое декодирование при идентичных выходных данных. Если ваша цель — ноутбук, мини-ПК или телефон, то LFM2.5-2.6B-Base находится по правильную сторону этой границы, а Dory явно не рассчитана на это.

У Dory путь обслуживания уже и новее. Поддержка vLLM рассматривается в открытом пул-реквесте, и пока он не будет объединён, карточка предлагает установить vLLM из этой ветки с флагом предкомпилированного ядра, а затем запускать обслуживание с переопределениями, задающими количество циклов и режим KV-кэша. Поддержка llama.cpp находится во втором открытом пул-реквесте, с закреплённым коммитом и инструкциями по сборке, ориентированными на нативный ARM64 macOS на Apple Silicon. Опубликованные показатели скорости NVIDIA — это ускорения квантования на DGX Spark, а не пропускная способность: 1,69× и 1,84× для MXFP8 по сравнению с BF16 в зависимости от соотношения длин ввода/вывода, 2,17× и 2,44× для NVFP4.

Противовесом — и вполне реальным — является дизайн памяти. Стандартное зацикливание хранит отдельный KV-кэш для каждого цикла, поэтому память растет с каждым добавленным проходом — что обычно и является причиной, по которой рекуррентные архитектуры неудобны для обслуживания. Dory поддерживает режим KV-кэширования последнего цикла, который сохраняет единый кэш для каждого рекуррентного слоя внимания и перезаписывает его на каждом проходе, удерживая объем памяти примерно на уровне одного цикла при любом количестве циклов. NVIDIA утверждает, что точность остается близкой к режиму с отдельным кэшем на цикл, а длины выходных данных почти не меняются. Это утверждение — самое ценное, что стоит проверить в карточке Dory, потому что если оно верно, окно в 256K становится осуществимым при более чем одном цикле, а если нет, функция эластичной глубины гораздо менее полезна, чем кажется.

Что маршрутизатор делает, а что не делает здесь

Ни одна из моделей не представлена в каталоге OrcaRouter. NVIDIA Nemotron Labs Dory 1.0 4B доступна только в виде весов, и мы нигде не можем подтвердить наличие размещённого эндпоинта, а LFM2.5-2.6B-Base — это чекпойнт для тонкой настройки, который ни одна платформа не стала бы разумно обслуживать как есть; за API должен стоять именно его дообученный собрат. В нашем каталоге также нет размещённых моделей LFM2.5, так что точная формулировка — самая скучная: в этом сравнении всё работает на вашем оборудовании.

И именно тогда слой маршрутизации перестаёт быть необязательной вспомогательной инфраструктурой и становится инструментом тестирования. Проведение эксперимента по дообучению на базовом чекпойнте и эксперимента по обслуживанию на зацикленной 4B-модели означает два локальных стека, два набора квантизаций, два набора флагов обслуживания и никакого аккуратного способа сравнить любой из них с хостируемыми моделями, которые фактически являются базовым уровнем для вашего приложения. OrcaRouter существует как раз для второй половины: один ключ API открывает доступ к хостируемым моделям, с которыми вы хотели бы сравниваться по каталожной цене провайдера с наценкой 0%, так что контрольной группе не нужны собственный SDK или собственный контракт. DSL маршрутизации позволяет разместить самостоятельно развёрнутую конечную точку и хостируемые за одним вызовом, а автоматическое переключение при сбое поддерживает жизнь долгого прогона оценки, когда локальный пул GPU занят. Он не подскажет, что лучше: дообучение базового чекпойнта Liquid или обслуживание готовой модели NVIDIA. Он убирает затраты на настройку, мешающие это выяснить.

Выбирая между ними

Берите LFM2.5-2.6B-Base, если вам нужна отправная точка, а не готовый ответ: у вас есть обучающие данные, вам нужен язык, на котором Dory не говорит, вы хотите запускать модель на Apple Silicon или NPU, или вам нужен путь спекулятивного декодирования и сборки ONNX и MLX, которые идут в составе этого семейства. Это меньший, более быстрый, более многоязычный и более интегрированный в экосистему артефакт, и он честно признаёт, что ещё не завершён.

Берите NVIDIA Nemotron Labs Dory 1.0 4B, если вам нужно готовое к развёртыванию поведение: вы хотите законченную reasoning-модель с уже встроенным обучением вызову инструментов и структурированному выводу, работаете только на английском, у вас длинный контекст, и вы готовы уже сегодня собрать vLLM или llama.cpp из ветки в обмен на регулятор вычислений, которого не даёт ни одна обычная плотная модель. Смиритесь с тем, что вы будете одним из первых людей за пределами NVIDIA, кто её запустит, что все числа в её карточке — это числа от вендора, и что утверждение о KV-кэше последнего цикла — та самая особенность, которая делает всю конструкцию практичной, — не проверено.

Сравнение, которое действительно было бы информативным, — это Dory 1.0 4B против дообученной LFM2.5-2.6B, и никто его не опубликовал. Если instruct-модель Liquid на 2.6B и 4B-модель NVIDIA с эластичной глубиной окажутся в пределах нескольких пунктов друг от друга на вашей рабочей нагрузке, то решающим фактором станет разница в памяти между 2,69B и 4B и разрыв в зрелости, а не архитектура. Именно этот эксперимент стоит провести, и провести его дешевле, чем на прошлой неделе.

Ничего из этого не гипотетично: задокументированные сбои ИИ и инциденты с агентами, стоящие за такими релизами, как этот, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, класс уверенности и флаг оспаривания.