NVIDIA Nemotron Labs Dory 1.0 4B против Qwen 3.8: открытая 4B-модель против трёхуровневой линейки Alibaba

Сравнение N​VIDIA N​emotron Labs Dory 1.0 4B с «Qwen 3.8» — это не поединок, а несовпадение, причём конкретным и поучительным образом. Qwen 3.8 — не одна модель; на открытом конце весовой линейки это Qwen3.8-27B — плотная мультимодальная модель на 27B под Apache 2.0 с окном 256K, а выше неё находятся Qwen3.8-Flash и Qwen3.8-Max, обе крупнее, обе предоставляются только через API A​libaba. Dory — это единственный 4B-чекпойнт от N​VIDIA, только текстовый, только английский, опубликованный на Hugging Face в четырёх квантизациях под лицензией OpenMDW 1.1, с карточкой, на которой стоит отметка «GA (10/16/2026)», и без какого-либо анонса. Так что настоящий вопрос не в том, может ли 4B побить 27B. Он в том, является ли 4B с эластичной глубиной, который вы размещаете у себя, более дешёвым способом достичь того уровня задач, который иначе пришлось бы арендовать у линейки Qwen3.8, — и два наиболее значимых для решения факта состоят в том, что Qwen3.8-27B имеет открытые веса, поэтому обе модели работают на вашем оборудовании, и что в собственной карточке Dory вообще нет бенчмарков против какой-либо модели Qwen3.8.

Что на самом деле сравнивается?

Начните со стороны Q​wen, потому что "Qwen 3.8" сводит воедино три разных утверждения.

Qwen3.8-27B — это открытая по весам плотная визуально-языковая модель от Alibaba под лицензией Apache 2.0: 27 млрд параметров, 64 слоя, размерность скрытого состояния 5 120 и нативное контекстное окно на 262 144 токена, которое, согласно карточке модели, расширяется в сторону миллиона. Она принимает текст, изображения и видео и возвращает текст, использует гибридную схему из Gated DeltaNet и Gated Attention в рамках 16 повторяющихся блоков и поставляется в формате Transformers с поддержкой vLLM, SGLang и TokenSpeed. Она показывает 90,3 в LiveCodeBench v6, 89,2 в GPQA Diamond, 79,5 в IFBench и 73,0 в Terminal-Bench 2.1 — и это лишь часть длинного списка результатов в агентных и визуальных задачах. Модель доступна публично с середины августа 2026 года, и её скачали уже несколько миллионов раз.

Qwen3.8-Flash и Qwen3.8-Max — это облачные уровни. Flash — оптимизированная по стоимости мультимодальная модель с контекстом в миллион токенов; Max — флагман A​libaba, тоже на миллион токенов, позиционируемый против сильнейших проприетарных моделей. Ни у одной из них нет открытых весов. Доступ к ним — через API.

N​VIDIA N​emotron Labs Dory 1.0 4B — это 4B. Плотная, зацикленная, латентно-рекуррентная модель — входной блок из 8 слоёв, рекуррентный блок из 20 слоёв, применяемый переменное число раз, выходной блок из 8 слоёв — с гибридным чередованием скользящего окна и полного внимания. Текст на входе, текст на выходе, только английский, контекст 256K. Предобучена на 6 триллионах токенов, первые ~4,5 триллиона из которых изначально в NVFP4, плюс расширение контекста на 300 миллиардов токенов, затем SFT и GRPO в нескольких средах. Не существует хостингового эндпоинта для неё, который мы могли бы подтвердить.

Один момент, который важно понять правильно, потому что он многих сбивает с толку: NVIDIA выпускает Dory в BF16, MXFP8, NVFP4 и Q5_K_M GGUF. Канонический ID репозитория — это вариант с MXFP8, но бенчмарки в карточке измерялись на BF16. MXFP8 — это квантование тех же весов, а не другая модель.

Контраст спецификации

• Параметры — Dory 1.0 4B — это плотная модель на 4B с рекуррентным блоком, применяемым повторно, поэтому эффективный объём вычислений на токен при четырёх циклах превышает количество параметров. Qwen3.8-27B — плотная модель на 27B с визуальной башней. Они не в одной весовой категории, и только одна из них помещается в развёртывание с малым объёмом памяти.

• Модальность — Qwen3.8-27B принимает не только текст, но и изображения с видео. Dory работает только с текстом. Любой сценарий, в котором есть изображение, здесь и заканчивается.

• Контекст — обе заявляют 256K. В карточке Qwen3.8-27B указаны нативные 262 144 позиции с расширением примерно до миллиона; у Dory's — до 256K, при этом 262 144 подтверждены в vLLM при поставляемой команде запуска. Qwen3.8-Flash и Max сразу достигают одного миллиона токенов.

• Лицензия — Apache 2.0 для Qwen3.8-27B, OpenMDW 1.1 для Dory. Обе подходят для коммерческого использования; Apache 2.0 — более привычный текст.

• Языки — Qwen3.8-27B многоязычна по происхождению; Dory — только английский, при этом в её смеси для предобучения присутствуют 43 языка программирования.

• Поведение при вычислениях — это единственная строка, где Dory может предложить то, чего Qwen3.8-27B структурно предложить не может. Глубина Dory — это параметр времени обслуживания: один цикл ради низкой задержки, два — как рекомендуемый по умолчанию режим NVIDIA, четыре — когда важнее точность агентных сценариев; и всё это из одного чекпоинта, с режимом KV-кэширования на последнем цикле, предназначенным удерживать память кэша примерно на уровне одного цикла независимо от количества циклов. У Qwen3.8-27B глубина фиксирована; её рычаги — квантование и аппаратное обеспечение.

• Форматы — Dory поставляет четыре варианта квантования, включая GGUF для llama.cpp. У Qwen3.8-27B есть отдельный репозиторий FP8 и очень большая производная экосистема квантований и файнтюнов — вот что дают несколько миллионов загрузок.

Вопрос о бенчмарке, который обходит собственная таблица NVIDIA

А вот и неудобная деталь. В таблице бенчмарков NVIDIA для Dory она сравнивается с Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B и Qwen3.6-35B-A3B. Используются два предыдущих поколения Qwen, а до Qwen3.8 дело не доходит. Для модели на 4B это оправданный выбор — Qwen3.8-27B почти в семь раз её больше, — но это означает, что у производителя вообще нет опубликованного очного сравнения с текущим поколением Qwen: ни в одну, ни в другую сторону. Карточка Qwen3.8-27B от Alibaba, в свою очередь, сравнивает модель с проприетарными флагманами, а не с 4B.

То, что карточка Dory всё же публикует — в сравнении с её более старыми аналогами — честно говорит о том, где зацикливание окупается. Посмотрите на три её настройки циклов в сравнении с Qwen3.5-4B и Qwen3.5-9B:

• SWE-bench Verified — 50,3 / 59,5 / 61,8 против 54,7 и 61,0. На четырёх циклах Dory номинально превосходит 9B Qwen в этой строке.

• Terminal-Bench 2.1 — 12,5 / 18,1 / 22,2 против 15 и 24. Он проигрывает обоим, включая 4B.

• τ³-bench (Банковское дело) — 11,6 / 12,89 / 14,69 против 5,03 и 7,22. Dory более чем удваивает результат 4B Qwen и примерно удваивает результат 9B.

• GPQA Diamond, без инструментов — 69.19 / 72.41 / 72.16 против 77.71 и 80.93. Проигрывает обоим.

• IFBench — 74.29 / 77.94 / 79 против 53.83 и 59. Большое преимущество в следовании инструкциям.

• AA-LCR — 63 / 71 / 73 против 64,7 и 68,4. Поиск по длинному контексту резко улучшается с циклами и в итоге выходит вперёд.

• AA-Omniscience — 10,03 / 10,08 / 10,03 против 15,02 и 18,05. Сохранённые знания почти не меняются с числом циклов, и это та проверка на вменяемость, которую проходит остальная часть таблицы.

Каждая из этих цифр — от NVIDIA, измерена на стенде NVIDIA, с раскрытым числом повторов — SciCode восемь прогонов, AA-LCR шестнадцать, несколько бенчмарков ровно один раз — а в карточке её оценки в стиле Artificial Analysis обозначены как «внутренние оценки», которые могут отличаться от официальных. Ничего из этого не воспроизведено.

Теперь положите карточку Qwen3.8-27B рядом с ней. Её заявленные 89,2 на GPQA Diamond, 79,5 на IFBench и 73,0 на Terminal-Bench 2.1 — все выше лучших показателей Dory на тех же бенчмарках, что как раз и ожидаешь от модели в семь раз крупнее с обучающим пайплайном на два поколения новее. Не существует сценария, в котором 4B обходит хорошо реализованную 27B на бенчмарке знаний или рассуждений, и Dory на это не претендует. Dory заявляет другое: что при 4B она достигает примерно агентного поведения уровня 9B, и что вы сами выбираете, сколько вычислений тратить на этом масштабе.

Развёртывание: разрыв не близок к закрытию, и дело не в качестве

Qwen3.8-27B — это обычный релиз с открытыми весами. Формат Transformers, заявленная поддержка vLLM, SGLang и TokenSpeed, FP8-собрат, а также экосистема, которая с августа произвела хорошо за тысячу квантизаций и сотни файнтюнов. Если ваш стек запускает современные модели с открытыми весами, он запустит и эту, а единственное реальное ограничение — память: 27B dense в BF16 — это не модель для слабой машины, но квантованные варианты существуют именно для этого.

Dory — полная противоположность. Поддержка vLLM рассматривается в открытом пул-реквесте; пока он не объединён, NVIDIA рекомендует устанавливать vLLM из этой ветки с флагом precompiled-kernel, а затем запускать с переопределениями, задающими количество итераций рекуррентного цикла и режим KV-кэша. Поддержка llama.cpp находится во втором открытом пул-реквесте с зафиксированным коммитом и инструкциями по сборке для ARM64 macOS. Мы не можем найти ни одного хостингового эндпоинта для Dory, и на момент написания счётчики загрузок во всех четырёх репозиториях были равны нулю. Опубликованные показатели скорости ограничиваются ускорением квантования на DGX Spark — 1,69× и 1,84× для MXFP8 по сравнению с BF16, 2,17× и 2,44× для NVFP4, в зависимости от соотношения длин входных и выходных данных — а не пропускной способностью.

На фоне этого заявленный в карточке Dory объём памяти — единственная инженерная деталь, которая могла бы оправдать неудобство. Стандартное рекуррентное зацикливание хранит отдельный KV-кэш на каждый цикл, поэтому память растёт с каждым проходом. Режим KV-кэширования последнего цикла Dory хранит один кэш на каждый слой рекуррентного внимания и перезаписывает его на каждом проходе, удерживая занимаемый объём примерно на уровне одного цикла при любом числе циклов, а точность, по словам NVIDIA, остаётся близкой к режиму с кэшем на цикл. Если это подтвердится при чьих-то независимых измерениях, модель на 4B с окном 256K и четырьмя циклами станет практичной на оборудовании, которое иначе не потянуло бы её. Никто за пределами NVIDIA это не проверял.

Где OrcaRouter на самом деле находится в этом сравнении

Это редкий случай сравнения, когда мы можем быть конкретными, ведь здесь две стороны находятся в неравных условиях. Сторона Qwen представлена в нашем каталоге: qwen/qwen3.8-27b — размещена на собственной инфраструктуре OrcaRouter, а qwen/qwen3.8-flash и qwen/qwen3.8-max доступны как хостинговые эндпоинты — и всё это через один API-ключ по прайсу провайдера с наценкой 0%. Со стороной NVIDIA всё иначе: NVIDIA Nemotron Labs Dory 1.0 4B отсутствует в каталоге и не имеет хостингового эндпоинта нигде, где мы могли бы это подтвердить.

Эта асимметрия действительно полезна, а не неудобна. Аргумент в пользу небольшой self-hosted модели — это аргумент о стоимости, а аргументу о стоимости нужна цена аренды, против которой он выступает. Три уровня Qwen3.8 имеют очень разные цены — 27B по $0.33 за миллион входных токенов и $2.40 за миллион выходных, Flash по $0.15 и $0.47, Max по $2.00 и $6.00 — поэтому честный ответ на вопрос «может ли 4B заменить это» имеет три разных ответа в зависимости от того, какой уровень вы фактически используете сегодня. Один ключ OrcaRouter открывает доступ ко всем трём, так что для оценки этого вопроса не требуется три аккаунта. Поскольку мы передаём прайс-лист провайдера без наценки, изменение цены Qwen отражается здесь в тот же день. И когда вы выбираете уровень, автоматическое переключение при сбое между провайдерами и DSL маршрутизации — который позволяет объединять модели за одним вызовом — означают, что переход с hosted Qwen на self-hosted Dory или обратно является изменением конфигурации в одном месте вызова, а не рефакторингом. Мы не предоставляем Dory; мы — дешёвый способ измерить, что она могла бы заменить.

Вердикт

Если ваша рабочая нагрузка мультимодальна, многоязычна или требует глубоких знаний — всё, где модели нужно знать, а не делать — Qwen3.8-27B является открытым по весам ответом, и сравнение не имеет смысла. Она в семь раз больше, на два поколения новее, за ней стоит большая экосистема производных моделей, она работает на движках, которые уже её поддерживают, а в её собственной карточке указаны показатели, к которым Dory и близко не подходит на GPQA или бенчмарках инструкций. Вместо этого арендуйте Flash или Max, если вы предпочли бы вообще не хостить модель на 27B.

Dory 1.0 4B — это ставка на другой оси. Она стоит трения при сборке из ветки, только если для вас верны три вещи: задача только текстовая и только на английском, она агентная, а не основанная на знаниях, и вы действительно будете использовать регулятор вычислений — запуская один цикл под нагрузкой и четыре, когда важна точность, из одной контрольной точки, без второй загрузки. Его карточка утверждает, что эта ставка окупается на τ³-Bench и следовании инструкциям при 4B, и она раскрывает достаточно о том, как были получены эти числа, чтобы вы могли должным образом их дисконтировать.

Всё решил бы тест, который никто не провёл: Dory 1.0 4B против Qwen3.8-27B на общем стенде, при одинаковом квантовании, на наборе агентных задач. Таблица NVIDIA полностью пропускает текущее поколение Qwen, а таблица Alibaba не смотрит на более лёгкий весовой класс. Пока кто-нибудь не опубликует это сравнение, корректная позиция такова: одна из этих моделей — проверенная, поддерживаемая и широко развёрнутая 27B, а другая — репозиторий на 4B, появившийся в одночасье с интересной идеей внутри. И единственный человек, который может сказать, стоит ли эта идея сборки, — это вы, на своём наборе задач.

Ничего из этого не гипотетично: задокументированные сбои ИИ и инциденты с агентами, стоящие за такими релизами, как этот, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, класс уверенности и флаг оспаривания.