NVIDIA Nemotron Labs Dory 1.0 4B против Gemma 4 12B: втрое больше параметров, но совершенно разные задачи

Очевидный способ прочитать сравнение NVIDIA Nemotron Labs Dory 1.0 4B и Gemma 4 12B — это схватка размеров: 4B против 12B, малый против среднего. Но такая рамка обесценивает сравнение, потому что эти две модели не принимают одинаковые входные данные, не придерживаются одинакового подхода к лицензированию и ускоряются неодинаково. Dory — это зацикленная сеть только для текста и только на английском, определяющая особенность которой в том, что одна загрузка обслуживает несколько вычислительных бюджетов. Gemma 4 12B — мультимодальная модель типа «любой-в-любой», которая принимает текст, изображения и аудио через единый стек без энкодера и выдаёт текст. Разрыв в количестве параметров реален, но это наименее информативное различие между ними. Вот что на самом деле отличает их друг от друга, включая те части, где эксперимент ещё никто не проводил.

Что представляет собой каждый из них, за один проход

N​VIDIA N​emotron Labs Dory 1.0 4B — это плотная модель на 4B, обученная компанией N​VIDIA и опубликованная на Hugging Face в четырёх вариантах квантизации — BF16, MXFP8, NVFP4 и Q5_K_M GGUF — под лицензией OpenMDW 1.1. В её карточке сборка помечена как «GA (10/16/2026)». Она работает с текстом на входе и выходе, только на английском, с контекстом до 256K токенов. Вся суть — в архитектуре: 20-слойный рекуррентный блок применяется переменное число раз между 8-слойным входным блоком и 8-слойным выходным блоком, так что число циклов становится параметром, задаваемым во время обслуживания, а не решением, принимаемым во время обучения. N​VIDIA рекомендует два цикла по умолчанию и четыре, когда важнее точность в агентных сценариях. О выпуске ничего не объявляли; репозитории были заполнены за одну ночь, а вендор не опубликовал никакого сопроводительного поста.

Gemma 4 12B — это плотная мультимодальная модель Google DeepMind на 11,95 млрд параметров, Apache 2.0, с контекстом 256K, 48 слоями с гибридным вниманием и скользящим окном на 1024 токена и словарём объёмом 262K. Её описывают как модель без энкодеров: фрагменты изображений и звуковые волны проецируются напрямую в пространство эмбеддингов языковой модели, а не через отдельные визуальные и аудиоэнкодеры. На входе — текст, изображения и звук; на выходе — текст. Видео обрабатывается как набор выбранных кадров, при этом в карточке модели аудио ограничено примерно 30 секундами, а видео — примерно 60 секундами при частоте около одного кадра в секунду. Она поддерживает настраиваемые режимы рассуждений и встроенную системную роль, а с середины 2026 года находится в открытом доступе и широко скачивается.

Одно уточнение, которое стоит сделать, прежде чем появятся какие-либо числа: Dory поставляется в четырёх вариантах, и тот, чей идентификатор репозитория чаще всего цитируется, — это сборка MXFP8, но бенчмарки, опубликованные N​VIDIA, были измерены на BF16. Чекпойнт MXFP8 — это квантование тех же весов, а не другая модель.

Проблема бенчмарка: эти два никогда не запускались друг против друга

Это та часть, которую сравнительная статья обычно обходит молчанием, поэтому стоит сказать об этом прямо. Для Dory 1.0 4B и Gemma 4 12B нет общего результата на одном и том же стенде. В таблице бенчмарков NVIDIA для Dory она сравнивается с Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B и Qwen3.6-35B-A3B — она берёт 26B Gemma, а не 12B, и вовсе не включает 12B. Опубликованные Google показатели для 12B получены на другом стенде, в сравнении с другим набором, в документе, опубликованном на несколько месяцев раньше и охватывающем другой набор задач.

Если поставить числа из двух карточек рядом, получится таблица, которая выглядит авторитетно и не значит ничего, потому что разница в два пункта между двумя тестовыми стендами — это не разница в два пункта между двумя моделями. Так что честная версия такова: карточка самой Dory заявляет примерно агентное поведение уровня Qwen3.5-9B при четырёх циклах, хотя сама Dory уступает каждой из собственных сравниваемых моделей на бенчмарках с упором на знания, а карточка G​emma 4 12B заявляет мультимодальный профиль с окном 256K и варианты, дообученные на инструкциях, по всей линейке G​emma 4. Не проверено, выдержит ли хоть одно из этих утверждений соприкосновение с набором задач другой модели.

Там, где они действительно пересекаются, и там, где пересечение заканчивается

Для настоящего решения важны четыре измерения, и они указывают в разные стороны.

• Модальность — G​emma 4 12B принимает на вход текст, изображения и аудио. Dory 1.0 4B — только текст. Это не тот разрыв в бенчмарках, который мог бы закрыть испытательный стенд; это возможность, которая есть у одной модели и отсутствует у другой, и если в вашей рабочей нагрузке где-либо есть скриншот, отсканированная страница или голосовой фрагмент, сравнение окончено.

• Язык — Dory поддерживает только английский. Линейка G​emma 4 многоязычна, а её карточка 12B содержит результаты многоязычной оценки и обработки речи, включая бенчмарки перевода для неанглийских языков. Любой второй язык где-либо в продакшене исключает Dory.

• Контекст — оба заявляют 256K, и это единственное место, где характеристики действительно совпадают. В карточке Dory указано, что 262 144 позиции проверены в vLLM с использованием поставляемой команды запуска; G​emma 4 12B заявляет 256K со скользящим окном в 1024 токена внутри гибридного стека внимания. Для G​emma опубликованные оценки на длинном контексте существуют; для Dory единственная строка по длинному контексту — собственная строка N​VIDIA, измеренная с исправленными ключами ответов и более старой моделью-судьёй, о чём в карточке сказано открыто.

• Вычислительное поведение — это асимметричное преимущество Dory, и оно не имеет никакого отношения к качеству. G​emma 4 12B — это обычная плотная модель: фиксированная глубина, фиксированная стоимость за токен; чтобы изменить расходы, масштабируйте оборудование или сокращайте контекст. Глубина Dory — это параметр времени выполнения. Запускайте её с одним циклом, когда ограничение — задержка, и с четырьмя, когда важна точность, без загрузки второго чекпойнта. N​VIDIA также поставляет режим KV-кэширования последнего цикла, предназначенный для удержания объёма кэша примерно на уровне размера для одного цикла независимо от количества циклов; если это подтвердится, он снимает стандартное возражение против рекуррентных архитектур. Это утверждение в карточке заслуживает независимой проверки больше всего.

• Лицензия — OpenMDW 1.1 для Dory, Apache 2.0 для G​emma 4 12B. Обе разрешают коммерческое использование. Если ваша юридическая проверка рассматривает Apache 2.0 как путь наименьшего сопротивления, G​emma начинает с преимущества, не имеющего никакого отношения к весам.

Их запуск: один — рутина, другой — сборка.

Gemma 4 12B — это стандартная загрузка в стиле семейства Llama. Она представлена в формате Transformers, работает на движках, которые у вас уже есть, а квантованные сборки — варианты QAT GGUF и w4a16 — стали общедоступны вскоре после выхода самой модели.

Dory 1.0 4B ещё не на нужном уровне, и в карточке это прямо указано. Поддержка vLLM находится «на рассмотрении» в открытом pull request; пока его не приняли, вы устанавливаете vLLM из этой ветки с флагом precompiled-kernel, а затем при запуске сервера передаёте переопределения loop-count и KV-cache. Поддержка llama.cpp находится во втором открытом pull request, а NVIDIA фиксирует конкретный коммит, а не движущийся HEAD, что является правильным решением для эталонной конфигурации, но всё равно означает сборку из исходников. Нет хостируемого эндпоинта для Dory нигде, где мы могли бы это проверить, — ни от NVIDIA, ни от кого-либо ещё, — а счётчики загрузок во всех четырёх её репозиториях на момент написания всё ещё были нулевыми. Gemma 4 12B, напротив, за последний месяц скачали намного больше миллиона раз, и вокруг неё сложилась экосистема файнтюнов и квантизаций, построенных на её основе. Для большинства команд этот разрыв в зрелости больше, чем любая разница в результатах бенчмарков у любой из этих карточек.

Сведения об аппаратном обеспечении скудны с обеих сторон. Единственные опубликованные показатели скорости Dory от NVIDIA — это ускорения за счёт квантования на DGX Spark — 1,69× и 1,84× для MXFP8 по сравнению с BF16 в зависимости от сочетания входных/выходных данных, 2,17× и 2,44× для NVFP4 — а не показатели пропускной способности. Для Gemma 4 12B на соответствующий вопрос — об объёме VRAM при заданной длине контекста — можно ответить по результатам годичных измерений сообщества, а не по характеристикам карты.

Где в дело вступает роутер, честно говоря

Ни одну из этих моделей мы не обслуживаем, и сказать об этом прямо полезнее, чем подразумевать обратное. NVIDIA Nemotron Labs Dory 1.0 4B отсутствует в каталоге OrcaRouter и нигде не имеет размещённого эндпоинта; Gemma 4 12B конкретно тоже отсутствует в каталоге, хотя её более крупные собратья google/gemma-4-26b-a4b-it и google/gemma-4-31b-it присутствуют.

Что остаётся — это практическая форма решения. Если вы выбираете между 4B, который приходится хостить самостоятельно, и 12B, который можно арендовать, то сторона с самостоятельным хостингом несёт счёт за GPU и операционную нагрузку, которых нет у арендованной стороны, и единственный способ честно оценить это — прогнать оба варианта на собственном наборе задач. OrcaRouter полезен для той половины этого эксперимента, которая размещена на хостинге: один API-ключ открывает доступ к моделям Google с открытыми весами, которые мы действительно поддерживаем, по каталожной цене провайдера с наценкой 0%, так что для сравнения не нужен второй контракт или второй SDK. Автоматическое переключение при сбое покрывает окно, когда ваш собственный пул GPU перегружен в середине бенчмарка, а DSL маршрутизации позволяет разместить self-hosted-вызов и хостинговый вызов за одним эндпоинтом, так что смена стороны — это изменение конфигурации, а не переписывание. Ничего из этого не говорит, какая модель победит. Это убирает оправдание, чтобы не выяснить.

Так какой

Если ваша задача — только текст, только английский и длинный контекст, и особенно если она агентная — вызовы инструментов, многошаговые рабочие процессы, структурированный вывод — то Dory 1.0 4B — более интересная ставка, и именно её архитектура даёт то, чего не может предложить 12B: регулятор вычислений. Идите на эту ставку с открытыми глазами, помня о разрыве в зрелости, двух неслитых pull-реквестах, полном отсутствии независимой оценки и о том, что в её собственной карточке она уступает всем сравниваемым моделям по GPQA и HLE.

Если ваша задача связана с изображением, звуком, вторым языком или сроком сдачи в продакшен в течение следующего месяца, ответ — Gemma 4 12B, и сравнение было даже не близким. Это более крупная, более дорогая и более мощная модель, за которой стоит экосистема и перед которой нет этапа сборки.

Следить нужно не за цифрой бенчмарка — а за тем, смержатся ли пул-реквесты в vLLM и llama.cpp. В тот день, когда Dory начнёт загружаться из выпущенного бинарника, а не из ветки, сторона этого сравнения, связанная с самостоятельным хостингом, перестанет быть проектом и станет изменением конфига. До тех пор честный вердикт таков: одна из этих моделей — продукт, а другая — репозиторий, появившийся за ночь, и то, какая из них вам нужна, полностью зависит от того, выпускаете вы в продакшен или тестируете.

Ничего из этого не гипотетично: задокументированные сбои ИИ и инциденты с агентами, стоящие за такими релизами, как этот, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, класс уверенности и флаг оспаривания.