ZwZ2-27B против ZwZ2-9B: что на самом деле дает утроение числа параметров

Ровно на одном бенчмарке в таблице inclusionAI из 25 тестов побеждает меньшая модель. Chartography — чтение значений по графикам — даёт ZwZ2-9B оценку 13,00, а ZwZ2-27B — 12,00. Обе оценки низкие. Ни одна из них не хороша. Но интересна как раз направленность, потому что эти две модели — один и тот же эксперимент в двух размерах: один рецепт обучения, один набор данных, один метод из статьи, применённые соответственно к основе Qwen3.5-9B и основе Qwen3.6-27B. Если рецепт идентичен, а старшая модель имеет втрое больше параметров, то арифметика того, где этот размер на самом деле проявляется, удивительнее, чем предполагают общие оценки, вынесенные в заголовки.

Также стоит сказать в самом начале, что обе модели появились одинаково тихо. Репозиторий ZwZ2-9B был создан в 03:42 UTC 16 октября 2026 года; репозиторий ZwZ2-27B — в 05:42 тем же утром. Обе в течение десяти дней содержали только веса и не имели документации, и обе 26 октября получили карточки моделей с полными таблицами бенчмарков. Ни одна не указывает лицензию. Ни у одной нет опубликованной статьи — в карточках до сих пор стоит заглушка PAPER_URL.

Один рецепт, два тела

Метод обучения не просто похож у этих двух моделей — это один и тот же метод, применённый к двум бэкбонам, что делает их необычно удобными для сравнения. EvidenceConnect группирует от трёх до семи связанных регионов из изображений SA-1B, генерирует вопросы с использованием привилегированных увеличенных фрагментов, фильтрует эти вопросы по межмодельному согласию и тесту с исключением одного региона, преобразует прошедшие фильтр вопросы в задачи с четырьмя вариантами ответа и обучает с помощью GRPO — без этапа дообучения с учителем. Обе модели используют примерно 20 000 обучающих примеров.

Тела различаются обычным образом:

• Масштаб — 9 млрд параметров, 32 слоя при размере скрытого слоя 4 096, против 27 млрд, 64 слоя при размере скрытого слоя 5 120.

• Внимание — 16 голов запросов и 4 головы KV при размерности 256 для 9B, против 24 голов запросов и 4 голов KV при той же размерности для 27B.

• Feed-forward — промежуточный размер 12 288 против 17 408.

• Зрение — одинаковая башня в обоих: 27 слоёв при размере скрытого слоя 1 152, проецируется в 4 096 и 5 120 соответственно.

• Контекст и словарь — идентичны в 262 144 позициях и 248 320 токенах.

• Предсказание нескольких токенов — удалено из обоих, при значении mtp_num_hidden_layers, равном 0.

• Базовые модели — Qwen3.5-9B для меньшей, Qwen3.6-27B для большей. Именно эта деталь усложняет сравнение, и следующий раздел посвящён тому, почему.

Откуда на самом деле берётся общий разрыв в 3,92 балла

Вот результат, которого я не ожидал до выполнения вычитания. Общие средние равны 60,51 для ZwZ2-27B и 56,59 для ZwZ2-9B — разрыв в 3,92 балла. А теперь посмотрите, что каждый рецепт добавил к своей собственной базовой модели; это опубликовано в тех же таблицах, той же лабораторией, на том же стенде:

• ZwZ2-27B — базовая Qwen3.6-27B при 55.52, настроенная при 60.51. Прирост 4.99.

• ZwZ2-9B — базовая модель Qwen3.5-9B с результатом 51,63, дообученная — 56,59. Прирост 4,96.

Рецепт даёт почти в точности одинаковое улучшение при обоих масштабах. Втрое больше параметров дали лишь 0,03 пункта дополнительного выигрыша от обучения. А базовые модели уже различались на 3,89 пункта ещё до того, как к какой-либо из них притронулись.

Итак, из разрыва в 3,92 балла между готовыми моделями 3,89 балла были унаследованы от контрольных точек, с которых они стартовали. Специализация не создала этот разрыв. Она сохранила его почти идеально.

Это сравнение в рамках одной лаборатории и одного испытательного стенда, поэтому вычитание правомерно в том смысле, в каком сравнения между разными поставщиками не бывают правомерны никогда — каждое из этих четырёх чисел взято из одной и той же таблицы, получено одним и тем же кодом оценки на одном и том же наборе бенчмарков. Округление достаточно грубое, поэтому 0,03 не следует воспринимать как точность; честная интерпретация — «неразличимы».

На практике это означает, что выбор между этими двумя моделями — это почти то же самое, что выбор между Qwen3.5-9B и Qwen3.6-27B, плюс фиксированная перцептивная поправка. Если бы вы не выбрали более крупную базовую модель для своей рабочей нагрузки, обучение ZwZ2 не изменит этого решения.

По доменам: размер отображается в одном месте

Средние значения скрывают структуру, а здесь структура асимметрична. Сравнивая две дообученные модели по шести доменам:

• Точное восприятие — 67,57 у 27B против 66,02 у 9B. Разрыв в 1,55 — наименьший из шести.

• Пространственное восприятие — 55,98 против 52,33. Разрыв — 3,65.

• Общее визуальное мышление — 53,71 против 49,83. Разрыв в 3,88.

• Воплощённое пространственное мышление — 55,71 против 51,11. Разрыв в 4,60.

• Понимание длинного контекста — 68,77 против 64,08. Разрыв в 4,69.

• Мультимодальные агенты — 51,81 против 42,43. Разрыв — 9,38.

Закономерность остаётся неизменной: преимущество более крупной модели примерно удваивается, когда задача переходит от просмотра изображения к действиям с ним. На восьми бенчмарках мелкозернистого восприятия — тех, для которых метод был явно разработан, — две модели отличаются не более чем на полтора пункта, причём Chartography идёт в обратном направлении.

Агентная область — это то, где 27B оправдывает занимаемый объём памяти, и большая часть этого разрыва приходится на один тест. UI-Vision набирает 66,66 для ZwZ2-27B и 45,48 для ZwZ2-9B — разрыв в 21,18 балла, больший, чем любой другой в таблице. ScreenSpot-Pro и AgentVista вносят меньший вклад: 70,59 против 66,98 и 18,18 против 14,83.

UI-Vision — это бенчмарк для привязки к интерфейсам, и результат говорит о конкретном, а не об общем: если ваша задача — читать и управлять программным интерфейсом, то 27B делает то, что 9B в основном не может. Если ваша задача — сравнивать отмеченные области на фотографии или странице документа, то 9B делает почти то же самое, используя треть весов.

Единственный тест, в котором побеждает маленькая модель, и насколько это должно учитываться

На Chartography стоит задержаться именно потому, что это исключение, подтверждающее, насколько узка специализация. Оба результата ужасны — 13,00 и 12,00 из 100 на фоне базовой модели Qwen3.6-27B с 8,00 и базовой Qwen3.5-9B с 7,00. Обучение подняло обе модели примерно на пять-шесть пунктов в задаче, которую они по-прежнему не могут надёжно выполнять, причём у 9B прирост случайно оказался на один пункт выше.

Правильный вывод не в том, что 9B лучше работает с диаграммами. Он в том, что на задаче, настолько далёкой от обучающего распределения, разница между двумя моделями — это шум, и разумное поведение — направить чтение диаграмм куда-то совсем в другое место. Модель, набирающая 12 или 13 баллов на бенчмарке по диаграммам, не обладает способностью к работе с диаграммами, между которой можно выбирать.

Та же осторожность относится и к другим низким абсолютным показателям. ZwZ2-9B в среднем показывает 42,43 в мультимодальных агентах и 18,18 в AgentVista; ZwZ2-27B — 51,81 и 18,18. Обе модели слабы в агентной работе в абсолютном выражении, и то, что более крупная из них слаба значительно меньше, не делает её сильной.

Как на самом деле выглядит объём занимаемой памяти

Разница в параметрах — это то, за что вы платите каждый день. ZwZ2-9B — это один файл safetensors с 9,41 млрд параметров, примерно 19 ГБ в bf16. ZwZ2-27B разделён на два шарда общим объёмом около 54 ГБ. Если добавить активации vision-tower и бюджет KV на 262 144 позиции, практическое распределение выглядит так:

• ZwZ2-9B — комфортно помещается на одном потребительском ускорителе с 24 ГБ в bf16, впритык, но вполне работоспособно; квантованного релиза не существует, так что вы несёте полную точность, если не проквантуете сами.

• ZwZ2-27B — карта на 80 ГБ с запасом или две карты по 40 ГБ при плотном разбиении тензорного параллелизма. Ниже этого в bf16 её не запустить.

• Поддержка serving — ни один из репозиториев не содержит рецепта для vLLM или SGLang. Оба фиксируют transformers==5.13.1 в быстром старте, и оба документированы только в режиме без рассуждений, при этом ответы заключены в теги <answer>. Ни один не указывает лицензию, что для production-развёртывания является более серьёзным препятствием, чем любой из показателей памяти.

Этот последний момент заслуживает отдельного предложения, потому что он одинаков с обеих сторон: лицензии нет — читать нечего. В карточках указывается «лицензия, прилагаемая к выпущенным весам», а к самим весам никакая лицензия не прилагается. Какой бы размер вы ни выбрали, коммерческий вопрос остаётся без ответа.

Использовать оба, а не выбирать

Таблица по доменам скорее указывает на двухуровневую схему, чем на победителя. Тонкое восприятие почти не меняется между размерами, поэтому 9B — разумный первый проход; работа с агентными интерфейсами меняется более чем на девять пунктов в среднем по домену и на двадцать один пункт на UI-Vision, так что такой трафик должен идти на 27B. Маршрутизатор, направляющий запросы по типу задачи, тратил бы большую часть своих токенов на дешёвую модель, а дорогую приберегал бы для экранов.

Ни один из размеров ZwZ2 не представлен в нашем каталоге, поэтому такая схема сегодня означает запуск двух контрольных точек на вашем собственном оборудовании и самостоятельную реализацию диспетчеризации. OrcaRouter вписывается в универсальную часть того же стека: Qwen3.8-27B и Qwen3.5-27B — обе доступны для маршрутизации здесь через один ключ по прейскурантной цене провайдера без наценки, поэтому рабочая нагрузка, которой не требуется сравнение регионов, может направляться в размещённую модель с автоматическим переключением при сбое, а специализированный трафик остаётся локальным. Это менее масштабное заявление, чем «маршрутизируйте ZwZ2 через нас», которое мы не можем предложить, — но это та часть архитектуры, которая действительно доступна сейчас.

Честное резюме звучит неброско. Две контрольные точки, тот же рецепт, то же молчание, та же отсутствующая лицензия и разрыв в производительности, который почти целиком состоит из уже существовавшего разрыва базовых моделей плюс одна настоящая специализация на верхнем сегменте для работы с интерфейсами. Если вам нужны показатели UI у 27B, вам нужны 27B и карта на 80 ГБ. Если нет, то 9B даёт результат в пределах полутора пунктов на задаче, ради улучшения которой и задумывался весь проект, и при этом помещается на оборудование, которое у вас, вероятно, уже есть.