ZwZ2-4B против ZwZ2-9B: та же глубина, вдвое больше весов, разрыв в 1,8 пункта

Очевидное предположение о модели 4B и модели 9B из одного семейства состоит в том, что меньшая из них более поверхностна. ZwZ2-4B и ZwZ2-9B — нет. Обе заявляют ровно 32 слоя трансформера. Обе используют 16 голов запросов против 4 голов ключей-значений при размерности головы 256. Обе имеют одинаковый словарь на 248 320 токенов и одинаковый предельный контекст в 262 144 позиции, и обе работают по одной и той же схеме внимания 3:1 — от линейного к полному. 9B — не более глубокая версия ZwZ2-4B, а более широкая; и как только вы это увидите, остальная часть этого сравнения — включая собственный разрыв в баллах производителя — перестанет выглядеть прямой линией.

Эти два чекпойнта также близки по времени и происхождению. ZwZ2-4B был создан 15 октября 2026 года, ZwZ2-9B — 16 октября, обе — компанией inclusionAI, обе обучены с использованием одного и того же пайплайна на одном и том же наборе данных из 20 662 вопросов с множественным выбором, и ни одна из них не была анонсирована. Они различаются базовыми моделями — Qwen3.5-4B и Qwen3.5-9B соответственно — и шириной каждого блока, которая из этого следует.

Дифф конфигурации и что он означает

Послойное сопоставление двух конфигурационных файлов выявляет одно подлинное структурное различие и несколько других, которые механически из него вытекают.

• Глубина — 32 слоя в обоих случаях, идентично

• Скрытая ширина — 2 560 у 4B против 4 096 у 9B, в 1,6 раза больше

• Ширина прямой связи — промежуточный размер 9 216 против 12 288

• Геометрия внимания — 16 голов запросов, 4 головы ключей-значений, размерность головы 256, в обоих

• График внимания — 24 линейных слоя и 8 слоёв полного внимания, в обоих

• Контекст — 262 144 позиции в обоих, M-RoPE при 11/11/10, частичный rotary 0.25

• Словарь — 248 320 токенов в обоих; связанные эмбеддинги в 4B и несвязанные в 9B

• Визуальная башня — 24 слоя при скрытой размерности 1 024 против 27 слоёв при скрытой размерности 1 152

• Предсказание нескольких токенов — ноль слоёв MTP в обоих, спекулятивная голова удалена из каждой базовой модели

• Параметры — 4,539,265,536 против 9,409,813,744, в 2,07 раза

Две из этих строк заслуживают пояснения. Несвязанные эмбеддинги в 9B означают, что входная и выходная матрицы — это отдельные копии таблицы размером 248 320 × 4 096; только это даёт примерно два миллиарда параметров, что во многом объясняет, почему соотношение параметров (2,07) превышает соотношение ширины (1,6). А визуальная башня растёт вместе с языковым стеком — 27 слоёв при скрытой размерности 1 152 против 24 при 1 024, — поэтому 9B видит изображение через более широкий энкодер, а не только через более широкий декодер.

Цифры: больший прирост, более низкий потолок

inclusionAI публикует один агрегированный показатель для каждой модели: общую точность по 25 бенчмаркам в шести доменах с равным весом. Судя по собственным данным карточки, семейство выглядит так.

• ZwZ2-4B — базовый вариант 49.41, дообученный 54.79, прирост 5.38 балла.

• ZwZ2-9B — базовый показатель 51,63, после настройки 56,59, прирост 4,96 балла.

• ZwZ2-27B — базовая версия 55,52, дообученная — 60,51, прирост 4,99 балла

Итак, 4B получает наибольший прирост и оказывается последним. 9B получает меньший прирост и финиширует на 1,80 балла выше. Оба утверждения верны, и то, какое из них важно, полностью зависит от задаваемого вопроса. Если вопрос звучит как «какой прирост даёт этот рецепт обучения», наибольший ответ — у 4B. Если вопрос — «какая модель точнее», ответ — 9B, с преимуществом в 1,80 балла, и никакая подача этого не изменит.

Все эти цифры заявлены производителем и получены на выбранном производителем наборе бенчмарков. Никто независимо не оценивал ни одного представителя этого семейства, а детализация по каждому бенчмарку содержится на рисунках, а не в тексте — SVG и PNG на каждой карточке. Разрыв в 1,80 балла — это честная сводка опубликованных данных; это не измерение, воспроизведение которого видели вы или я.

Почему выигрыш сокращается по мере роста модели

Закономерность — 5.38 при 4B, 4.96 при 9B, 4.99 при 27B — стоит воспринимать серьёзно, а не отмахиваться от неё. Рецепт обучения, который добавляет способности небольшой модели, заполняет пробел: у базовой модели не хватало ёмкости или обучающего сигнала, чтобы учитывать тонкие региональные признаки, и 20 000 тщательно отфильтрованных вопросов с множественным выбором учат её навыку, которого ей недоставало. У более крупной базовой модели этой способности уже больше, поэтому та же программа добавляет меньше. Предельная отдача от данных падает по мере улучшения базовой модели.

Это благожелательное прочтение, и именно его поддерживают цифры. Неблагожелательное прочтение состоит в том, что набор бенчмарков имеет потолок или что формат заданий с четырьмя вариантами ответа непропорционально благоприятствует маленьким моделям. Оба прочтения согласуются с опубликованными цифрами, поэтому разрыв в 1,80 балла следует рассматривать скорее как указание на направление, чем как величину.

Есть третья возможность, которая важнее для внедрения: выигрыш может быть сосредоточенным. «Улучшение на каждом бенчмарке» — таково утверждение в карточке, но среднее по 25 равновесным задачам может скрывать два крупных выигрыша и двадцать небольших. Без таблицы по отдельным бенчмаркам — а её нет в тексте — невозможно понять, равномерны ли 5,38 у 4B или сосредоточены именно в тех задачах мелкозернистого восприятия, на которые нацелен рецепт. Если выигрыш сосредоточен, малая модель — специалист, а 9B — универсал, и среднее — неподходящая статистика для выбора между ними.

27B — это контрольный эксперимент.

Третий размер позволяет проверить аргумент о семействе. ZwZ2-27Bпостроен на Qwen3.6-27B — другом базовом поколении по сравнению с двумя своими собратьями — и показывает прирост в 4,99 пункта, практически такой же, как 4,96 у 9B, и заметно ниже 5,38 у 4B. Если бы ценность рецепта сводилась только к качеству данных, следовало бы ожидать одинакового прироста по всем размерам. Вместо этого из общего ряда выбивается именно 4B. Это согласуется с объяснением через разрыв в ёмкости и противоречит версии, согласно которой обучающие данные просто равномерно превосходны.

27B также проясняет практический момент касательно релиза этого семейства. Три репозитория появились с разницей в 23 часа: сначала 4B, а 27B последним, что характерно для пакетной публикации, а не поэтапного развертывания. Датасет последовал 19 октября. Загрузки показывают, куда было направлено внимание: ноль для 4B, 147 для 9B, семь для 27B. Пока никто не выбрал фаворита, и средний размер — единственный, который кто-либо скачал.

Обслуживание: 9 ГБ против 18,8 ГБ

Арифметика здесь проста, и это сильнейший аргумент в пользу меньшей модели. Веса ZwZ2-4B — это файл BF16 размером 9,08 ГБ; веса ZwZ2-9B при той же точности составляют около 18,8 ГБ. На видеокарте с 24 ГБ 4B оставляет место для щедрого KV-кэша и батча; 9B оставляет очень мало. На видеокарте с 16 ГБ 4B помещается, а 9B без квантования не помещается вообще.

Ни одна из моделей не обслуживается хостинг-провайдером — на страницах Hugging Face для обеих не указан провайдер инференса — поэтому в обоих случаях речь идёт о самостоятельном развёртывании. Если вы выбираете между ними исходя из аппаратных требований, 9B — это совсем другой класс машины, а не чуть более крупная загрузка. В этом практический смысл соотношения параметров 2,07×, и оно определяется вашей видеокартой, а не разрывом в точности на 1,80 пункта.

Для команд, которым нужно поведение восприятия, но не хочется брать на себя проблему обслуживания, компромиссным хостинговым вариантом в каталоге является qwen/qwen3-vl-8b-instruct по цене $0.18 за миллион входных токенов и $0.70 за миллион выходных при контексте 131K. Это не та же модель, и этот материал не будет делать вид, что это так, — но это сравнение, которое действительно нужно большинству команд, и оно работает на том же ключе, что и всё остальное, что маршрутизирует OrcaRouter, с автоматическим переключением при сбое, если вышестоящий компонент деградирует.

Если вы строите многоуровневый конвейер, а не выбираете один чекпоинт, слой маршрутизации — то место, где это можно выразить: сначала отправляйте каждое изображение в дешёвую модель, а к чему-то более крупному переводите только те, у которых низкая уверенность.DSL маршрутизации объединяет модели в один вызов, поэтому эскалация — это правило в маршруте, а не вторая интеграция. Ни один чекпоинт ZwZ2 сегодня не может быть дешёвым уровнем — они не размещены на хостинге — но именно об этом паттерне эти две модели неявно спорят.

Какой из них взять?

• Берите 4B, если ваша видеокарта имеет 16 или 24 ГБ, ваша задача — визуальные доказательства с привязкой к регионам, и вы хотите наибольшее измеренное улучшение по сравнению с базовой моделью в этом семействе.

Берите 9B, если у вас есть запас памяти и вы хотите получить самую высокую точность, когда-либо опубликованную для чекпоинта ZwZ2 размером менее 27B. 1,80 пункта — это не пустяк.

Пока не берите ни один из них, если вам нужна лицензия, которую подпишет ваша юридическая служба. Ни в одном из репозиториев она не заявлена, а карточки ссылаются на файл лицензии, которого нет.

• Не выбирайте ни один из них, если вам нужна статья. У метода v2 нет публичного описания; идентификатор arXiv на обеих карточках относится к работе ZwZ первого поколения на другом базовом семействе.

По-настоящему полезный эксперимент — это не сравнение 4B с 9B на чужих 25 бенчмарках. Это прогон обеих моделей — или прогон 4B против её собственной базовой версии — на нескольких сотнях изображений из вашей реальной рабочей нагрузки и проверка того, переносится ли 5.38. Пока кто-нибудь этого не сделает, опубликованные цифры семейства описывают поведение рецепта на наборе задач, а не решение, которое вы можете принять для собственного пайплайна. 4B интересна именно потому, что у неё наибольший прирост и самые скудные доказательства.