ZwZ2-9B против Gemma 4 12B: одна модель, одна карточка модели — и какую из них вы действительно можете выпустить

Gemma 4 12B находится в открытом доступе с 23 мая 2026 года. К ней прилагаются карточка модели, технический отчёт, опубликованный набор для оценки, пять моделей того же семейства другого размера и количество загрузок на Hub, которое только за последний месяц превысило 79 000. ZwZ2-9B находится в открытом доступе с 16 октября 2026 года — сегодня — в виде восьми файлов в репозитории без README, без поля лицензии и без тега pipeline. Обе примерно одного размера. Обе поддерживают изображения. Обе заявляют одинаковый потолок контекста — 262 144 позиции. И они отнюдь не в одинаковой степени готовности, а это единственное сравнение, которое имеет значение, если вы решаете, куда потратить GPU.

Короткий ответ: Gemma 4 12B — это готовый продукт от Google DeepMind, чьи пределы другие люди уже пять месяцев как прощупывают. ZwZ2-9B — это чекпойнт от inclusionAI, который пока никто за пределами лаборатории не описал, включая саму лабораторию. Если вам нужно выпустить что-то в этом месяце, выбор не близок, и это не комментарий о весах. Если вы решаете, на чём прототипировать в следующем месяце, прочитайте числа ниже, а затем запустите собственный eval, потому что только одна из этих двух моделей дала вам что-то для чтения.

Два стека, измерение за измерением

• Параметры — ZwZ2-9B: 9 409 813 744 в bfloat16. Gemma 4 12B: 11,95 млрд.

• Архитектура — qwen3_5, гибрид линейного и полного внимания. Gemma: gemma4_unified, без энкодера и унифицирована по модальностям.

• Слои — 32 в ZwZ2-9B (24 с линейным вниманием, 8 с полным вниманием). 48 в Gemma 4 12B (40 со скользящим окном на 1 024 токена, 8 с полным вниманием).

• Потолок контекста — 262 144 позиции, заявленные обеими сторонами.

• Словарь — 248 320 против 262 144, при этом у Gemma зарезервированы идентификаторы токенов для изображений, аудио и видео.

• Модальности в — текст, изображение и видео для ZwZ2-9B. Текст, изображение, аудио и видео для Gemma 4 12B, в конфигурации которой присутствует аудиобашня размерностью 640.

• Лицензия — не заявлена против Apache-2.0.

• Послужной список — ноль скачиваний и два лайка против 79 565 скачиваний и 790 лайков за последний месяц.

Две из этих строк заслуживают второго взгляда, потому что они переворачивают интуицию. Первая — это расписание внимания: ZwZ2-9B — это 32-слойная модель с 8 слоями полного внимания, а Gemma 4 12B — 48-слойная модель с 8 слоями полного внимания. Обе делают ставку на то, что дорогостоящая часть внимания должна встречаться редко; они просто расходятся в том, насколько редко — один слой из четырёх против одного из шести. Вторая — это потолок контекста, где 9,4B-чекпоинт без документации и 11,95B-флагман от DeepMind останавливаются ровно на одном и том же числе 262 144 — что является совпадением целевых показателей проектирования, а не какой-либо связью между ними.

Где Gemma 4 12B не просто впереди, а в другой категории

Аудио — это первое. Модель Google принимает звук нативно, с выделенной аудиобашней и аудиотокенами в составе своего словаря. Токенизатор ZwZ2-9B также резервирует <|audio_start|>, <|audio_end|> и <|audio_pad|> — но в его конфигурации нет вообще никакой аудиоконфигурации, так что эти токены — унаследованный словарь, а не имеющаяся возможность. Если ваша рабочая нагрузка включает речь, на этом сравнение заканчивается, и стоит точно сказать, почему: не потому, что ZwZ2-9B показал худший результат, а потому, что в чекпоинте нет ничего, что могло бы обработать звуковую волну.

Документация идёт второй, и именно она даёт накопительный эффект. Gemma 4 12B поставляется с техническим отчётом (arXiv 2607.02770), опубликованным набором оценок, охватывающим всё — от рассуждений в стиле GPQA до бенчмарков для зрения, — заявленной лицензией и примечанием о том, что модель доступна в пяти размерах, так что можно выбирать между возможностями и занимаемыми ресурсами, не покидая семейство. Вокруг неё Hub показывает 83 опубликованных файнтюна, 49 квантований и 15 Spaces, построенных на её основе. Эта экосистема — не украшение. Это совокупность свидетельств о том, как модель даёт сбои, созданная людьми, которые не работают в Google, и ей нет замены.

Лицензирование — это третий фактор, и он наименее эффектный и наиболее решающий. Gemma 4 12B распространяется под Apache-2.0. ZwZ2-9B вообще не заявляет лицензию — ни открытую, ни кастомную, ничего в метаданных репозитория. При отсутствии заявления безопасное толкование состоит в том, что издатель сохранил за собой все права, и это не тот вопрос, ошибочный ответ на который вы хотите обнаружить во время закупки. Чекпойнт, который вы не можете законно использовать, не дешевле того, который можете.

Единственное место, где у ZwZ2-9B есть структурный аргумент

Дело не в качестве, которое пока никто не может измерить. Дело в том, как эта штука расходует вычислительные ресурсы, и конфиг на удивление откровенно об этом говорит.

Три четверти слоёв ZwZ2-9B — это линейное внимание: 24 из 32. Каждый слой несёт рекуррентное состояние фиксированного размера, а не кэш ключей и значений, который растёт по мере диалога. В конфигурации указан механизм: 16 голов ключей и 32 головы значений размерности 128, ядро свёртки шириной 4 и состояние, хранимое в float32 для численной стабильности. Полное внимание выполняет только каждый четвёртый слой. Gemma 4 12B делает аналогичную ставку с другим механизмом: 40 из её 48 слоёв используют скользящее окно, ограниченное 1 024 токенами. Таким образом, обе модели спроектированы так, чтобы не платить цену полного внимания на большинстве слоёв. Они различаются степенью и техникой, и без бенчмарков нет честного способа сказать, какая из них побеждает. Замысел дизайна понятен; результат не измерен.

С занимаемым объёмом всё просто. 9,41 млрд параметров против 11,95 млрд — это примерно на пятую часть меньше веса, который нужно хранить, прежде чем что-либо квантовать, а визуальная башня небольшая — 27 слоёв со скрытой размерностью 1 152, проецирующихся в 4 096, — поэтому модель уверенно помещается в тот же класс аппаратного обеспечения, на котором запускалась бы Gemma 4 12B.

The behavioural difference worth knowing is the reasoning default. ZwZ2-9B's chat template emits an empty <think></think> block unless you explicitly ask for thinking, so it answers directly out of the box. Gemma 4 12B offers thinking modes you configure. For extraction, classification or routing — the jobs where a second pass of reasoning is latency you did not want to pay for — only one of these is cheap by default.

Что ZwZ2-9B не может вам сказать и почему это определяет исход сравнения

Вы не можете знать, является ли это моделью, дообученной на инструкциях, или базовым чекпоинтом, потому что в её репозитории нет README и нет тега pipeline, а и то и другое обычно указывало бы на это. Встроенный системный промпт, указывающий на <answer> теги, — веское доказательство того, что модель обучена следовать инструкциям, но это доказательство, а не утверждение.

Вы не можете знать, на чём её обучали, сохранился ли тот рецепт тонкого восприятия, который сделал имя семейству ZwZ, или в чём она должна быть особенно хороша. Вы не можете знать её лицензию. И вы не можете знать, как она ведёт себя в пограничных случаях, потому что никто за пределами inclusionAI её не запускал.

Поставьте это рядом с Gemma 4 12B — и асимметрия здесь не вопрос степени. Одна модель появляется с техническим отчётом и восемью месяцами публичного использования; другая — с config.json и инвертированным значением thinking по умолчанию. Это повод для прототипирования, а не повод отмахнуться — недокументированные чекпойнты — это то место, где впервые появляется множество интересных работ, — но это повод честно признать, что оценивать придётся вам самому.

Правило принятия решений, которое не зависит от недостающих доказательств.

Берите Gemma 4 12B, если верно любое из следующего: вам нужен аудиовход, вам нужна лицензия, которую можно показать юристу, вам нужно уложиться с выпуском в квартал или вам нужны родственные размеры, чтобы один и тот же набор оценок переносился вверх и вниз по семейству. Все четыре пункта решены.

Воспринимайте ZwZ2-9B всерьёз, если у вас есть конкретный вопрос, на который 9,4-миллиардная гибридная vision-модель с гибридным вниманием и режимом по умолчанию без рассуждений может ответить лучше, чем та, за которую вы уже платите, и вы готовы измерить это самостоятельно. Первое, что следует проверить, — не её интеллект. А то, принимает ли она изображения, которые вы ей действительно отправляете, возвращает ли она формат, который вам действительно нужен, и делает ли это без висящей над результатом проблемы с лицензией.

И не сравнивайте их в таблице бенчмарка, потому что в таблице всего одна колонка. Можно поставить опубликованные показатели Gemma 4 12B рядом с пустой ячейкой и назвать это сравнением, но пустая ячейка — это и есть вывод. Любой, кто на этой неделе представляет вердикт о качестве ZwZ2-9B в прямом сравнении, просто выдумывает его.

Ни одного из этих чекпоинтов сегодня нет в нашем каталоге, поэтому ни один из них вы не можете вызвать через нас прямо сейчас — Gemma 4 12B — это скачивание с Hugging Face и ваш собственный стек для обслуживания, и ZwZ2-9B — тоже. А вот что мы действительно обслуживаем — так это родственную модель, которая делает сравнение с Gemma выполнимым, не меняя того, как вы что-либо оцениваете: Gemma 4 26B A4B, представитель той же семьи с архитектурой mixture-of-experts, на размещённом эндпоинте по цене $0.06 за миллион входных токенов и $0.33 за миллион выходных токенов с тем же контекстом в 262K токенов. Поскольку OrcaRouter пропускает прайс-листовые цены провайдеров без наценки — 0%, изменение цены на стороне провайдера отражается здесь в тот же день, а не при следующем обновлении каталога — а это важно, когда вы занимаетесь именно сравнением стоимости между моделью, которую хостите сами, и моделью, которую арендуете. С другой стороны этого сопоставления ближайшая размещённая замена тому, чем пытается быть ZwZ2-9B, — это qwen/qwen3-vl-8b-instruct, 8B-модель зрения и языка с контекстом 131K по цене $0.18 и $0.70, которая задокументирована, лицензирована и доступна уже сейчас.

Что бы изменило эту статью?

Карточка модели. А конкретно: лицензия, абзац о данных обучения и одна таблица оценок, составленная кем-то, кто не обучал модель. До тех пор честное резюме сравнения ZwZ2-9B и Gemma 4 12B не в том, что одна лучше. А в том, что одна существует как продукт, а другая — как список файлов, и разрыв между этими двумя вещами — самое дорогое расстояние в машинном обучении.

Именно в таких сравнениях также проявляются режимы отказов: документально зафиксированные инциденты с ИИ и сбои агентов, связанные с моделями этого класса, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, степень серьёзности, оценку достоверности и отметку о спорности.