ZwZ2-4B против Qwen3.8-27B: специалист с 4,5 млрд параметров встречает флагман Qwen с 28 млрд параметров

Предположим, ваш конвейер обработки изображений выполняет 200 000 запросов в день, а у вас есть одна карта на 16 ГБ. Это единственное ограничение исключает Qwen3.8-27B ещё до обсуждения каких-либо бенчмарков: при 28 млрд параметров только веса BF16 занимают примерно 56 ГБ, и никакое хитроумное обслуживание не позволит разместить их на 16 ГБ без квантования, которое вы не заложили в бюджет. ZwZ2-4B, с 4,54 млрд параметров и файлом весов на 9,08 ГБ, помещается. Так что честный вопрос не в том, какая модель лучше. А в том, является ли более узкая способность небольшого чекпоинта реальным ограничением для вашей нагрузки, или вы собирались заплатить за флагманскую модель, чтобы отвечать на вопросы о кадрах продуктовых фотографий.

Есть один нюанс, который делает это противостояние страннее, чем можно предположить по заголовку. Поколение Qwen 3.8 так и не выпустило модель этого размерного класса. В него входят плотная модель 27B от 5 августа 2026 года, mixture-of-experts с 2,4 трлн параметров от 8 августа и Flash-Next от 24 августа — которая, несмотря на название, представляет собой модель на 180 млрд параметров из другого семейства архитектур. Плотных моделей меньше 27B нет. Поэтому ZwZ2-4B настоящим соперником того же размера является Qwen3.5-4B — февральский чекпойнт, на основе которого он был дообучен. Qwen3.8-27B участвует в этом сравнении как верхняя граница, а не как равный соперник.

Нет такого критерия, по которому эти двое могли бы сойтись.

Начните с того, что делает большинство страниц сравнения нечестными. У Qwen3.8-27B есть опубликованные оценки и экосистема; у ZwZ2-4B есть 25 результатов бенчмарков, которые существуют только в его собственной карточке модели, получены лабораторией, обучившей его, и нигде независимо не воспроизведены. Нельзя поставить заявленный производителем результат 54.79 рядом с набором бенчмарков из другой лаборатории и вычесть одно из другого. Эти два числа были получены не на одних и тех же задачах, не при одном и том же разрешении и не в рамках одного и того же испытательного стенда.

Итак, в этом материале они не оцениваются друг против друга. В нём сравнивается, для чего создан каждый из них, во сколько обходится эксплуатация каждого и чем меньший жертвует. Там, где приводится число, указано, кем оно получено.

Разрыв, измерение за измерением

• Параметры — ZwZ2-4B: 4,539,265,536 против Qwen3.8-27B: 28B согласно его карточке

• Веса на диске — около 9,08 ГБ BF16 против приблизительно 56 ГБ BF16

• Глубина — 32 слоя против 64

• Ширина — размер скрытого слоя 2,560 против 5,120

• Форма внимания — 16 голов запросов против 4 голов KV при размерности головы 256, в обоих

• График внимания — соотношение линейного и полного 3:1 в обоих

• Контекстное окно — 262 144 позиции в обоих

• Словарный запас — 248 320 токенов в обоих

• Визуальная башня — 24 слоя при скрытой размерности 1 024 против 27 слоёв при скрытой размерности 1 152

• Лицензия — не указана для ZwZ2-4B, в отличие от Apache-2.0 для Qwen3.8-27B.

Четыре совпадающие строки — самые интересные. Обе модели наследуют один и тот же идентификатор архитектуры, qwen3_5, с одинаковой геометрией внимания и одинаковым пределом контекста. Поколение 3.8 не переработало стек; оно его масштабировало. Вот почему конфигурация 4B выглядит как уменьшенная копия 27B, а не как чужеродный объект, и именно поэтому 4B наследует особенности обслуживания 27B — слои линейного внимания делают контекст в 262K доступным при таком размере.

Единственное сопоставимое число во всём этом противостоянии

В карточке ZwZ2-4B указано, что её базовая модель набирает 49,41, а сама она — 54,79 по 25 бенчмаркам, что даёт прирост в 5,38 балла. Это сравнение двух чекпоинтов, обученных и оценённых по одной и той же процедуре, на одних и тех же задачах, одной и той же лабораторией. Это по-прежнему данные, предоставленные производителем, и выбор бенчмарков остаётся за лабораторией, но по крайней мере обе стороны вычитания сопоставимы.

Отсюда следуют две вещи. Во-первых, прирост реален лишь в том смысле, что его измерила лаборатория; никто не воспроизвёл 54,79. Во-вторых, и это полезнее, базовая модель сильна. Qwen3.5-4B набирает 7,4 млн загрузок в месяц и имеет 1 145 лайков — это широко развёрнутый чекпоинт с реальной экосистемой. Если ZwZ2-4B лучше на 5,38 балла в задачах с высокой нагрузкой на восприятие, это значимая разница по сравнению с моделью, которую люди действительно запускают. Если же он лучше на 5,38 балла на бенчмарках, выбранных так, чтобы вознаграждать именно то, для чего его обучали, прирост в продакшене будет меньше.

Метод объясняет, какое прочтение более вероятно. ZwZ2 обучали с помощью GRPO на вопросах с четырьмя вариантами ответа, составленных из фрагментов регионов SA-1B — примерно 20 000 таких вопросов — без этапа контролируемого дообучения. Каждый обучающий сигнал, который когда-либо получала модель, представлял собой выбор одного из четырёх вариантов: содержит ли регион свидетельства, необходимые для ответа на вопрос. Именно на нагрузке такого типа значение 5.38 должно сохраняться. Описание в свободной форме — это не такой тип нагрузки.

Что даёт флагман на 28B, чего не может 4.5B

Qwen3.8-27B — это универсальная визуально-языковая модель: изображения, видео, гибкое управление режимом рассуждений, лицензия Apache-2.0 и достаточный запас параметров, чтобы усвоить широкий набор данных предобучения, а не одну узкую высококачественную синтетическую программу. Её число загрузок — 7,5 млн за прошлый месяц при 18 500 лайках — тот сигнал экосистемы, который важен, когда вы выбираете базовую модель, а не специализированную. Для неё существуют адаптеры, квантования, дообученные варианты и инструменты, а для чекпоинта с нулём загрузок их нет.

Широта проявляется в режимах отказа. В карточке ZwZ2-4B перечислены галлюцинации, неверно прочитанный текст, ошибки счёта и пространственные ошибки, а также отмечено, что результаты зависят от разрешения изображения, длины контекста и формата запроса. У универсальной модели на 28B в принципе те же классы ошибок, но больше возможностей удерживать детали в более длинном контексте и нет требования, чтобы задача напоминала выбор из четырёх вариантов.

Для извлечения данных из документов, многостраничных рассуждений, видео или любого другого случая, когда ответом является абзац, а не область, 27B — более подходящий инструмент, и разница в размере не является решающим фактором — решающим фактором является цель обучения.

Арифметика затрат с реальными ценами

Здесь сравнение перестаёт быть абстрактным. На OrcaRouter qwen/qwen3.8-27b предоставляется по цене $0.33 за миллион входных токенов и $2.40 за миллион выходных, с контекстом 262K. Возьмём типичный запрос к изображению объёмом 1,500 входных токенов и 300 выходных токенов. Тысяча таких запросов на 27B обойдётся примерно в $1.22. Более лёгкая qwen/qwen3.8-flash, при $0.15 и $0.47, оказывается около $0.37 за ту же тысячу. Хостинговая 8B-модель зрения находится между ними.

У ZwZ2-4B нет цены за токен, потому что у него нет хостингового эндпоинта — на странице Hugging Face указано, что ни один провайдер его не обслуживает. Его стоимость — это стоимость вашего часа GPU, делённая на пропускную способность, и это единственный вариант в данном сравнении, который работает на одной 16-ГБ карте. В этом и заключается весь экономический аргумент в пользу меньшей модели, и он силён, если вы уже платите за оборудование.

Один структурный момент касательно маршрутизации, поскольку он влияет на то, как вы это тестируете. OrcaRouter передаёт списочные цены провайдеров без наценки (0%), поэтому, когда Qwen меняет цену модели Qwen, размещённой у провайдера, указанное выше число меняется в тот же день, а не при следующем продлении контракта. Сравнение затрат между самостоятельно размещённым чекпоинтом и моделью, размещённой у провайдера, будет честным только если сторона размещённой модели отражает сегодняшнюю списочную цену, и именно это свойство здесь описывается — а не скидка.

Где небольшая модель выигрывает даже у флагмана

Три случая, и они уже, чем обычно подразумевает маркетинг небольших моделей.

Первое — контроль развёртывания. Файл BF16 размером 9,08 ГБ можно закрепить, версионировать и доставить на периферийное устройство. Файл размером 56 ГБ — нельзя, а размещённый API не даёт ни весов, ни гарантии версии. Если ограничение вашего продукта — «модель путешествует вместе с устройством», то 27B не является кандидатом ни при какой цене.

Второй — предсказуемость затрат при больших объёмах. Инференс на собственной инфраструктуре имеет плоскую кривую затрат и не тарифицируется за токены. При 200 000 запросов изображений в день $1.22 за тысячу — это примерно $244 в день, около $7 300 в месяц, для модели 27B по прейскурантной цене. Превзойдёт ли самостоятельное размещение этот показатель, полностью зависит от загрузки, а одна недозагруженная карта часто этого не обеспечивает.

Третье — специализация на задаче. Если ваша рабочая нагрузка действительно сводится к вопросу «в каком из этих четырёх регионов находится доказательство», то ZwZ2-4B обучалась именно на такой форме с этапом фильтрации, предназначенным для удаления вопросов, на которые можно ответить без региона. Универсальная модель тратит ёмкость на всё остальное. Это тот случай, когда чекпоинт на 4,5B может превзойти модель на 28B, и единственный случай, в котором заявление вендора о 5,38 пункта означало бы то, на что надеется читатель.

Как принимать решение — в том порядке, в котором оно фактически принимается

• Если веса должны размещаться на контролируемом вами оборудовании, а само оборудование небольшое — выбирайте ZwZ2-4B, примите неоднозначность лицензии и заложите бюджет на собственную оценку.

• Если задача — множественный выбор с привязкой к области или поиск визуальных доказательств, протестируйте ZwZ2-4B в сравнении с Qwen3.5-4B на собственных данных, прежде чем смотреть на 5.38 из карточки. Воспроизведённая разница — единственное число, которое имеет значение.

• Если вам нужно видео, длинные документы, свободное описание или лицензия, которую подпишет ваша юридическая команда — берите Qwen3.8-27B и прекращайте читать.

• Если у вас нет оборудования и желания заниматься обслуживанием — выбирайте вариант с размещённым Qwen, потому что альтернатива — это проект по эксплуатации, а не выбор модели.

Неудобная часть этого противостояния заключается в том, что интересное сравнение — не то, что в заголовке. ZwZ2-4B против Qwen3.8-27B — это решение о классе развертывания, замаскированное под сравнение моделей. Настоящее прямое сопоставление — та же база, тот же размер, та же стоимость обслуживания, измеренный разрыв в 5.38 балла — это ZwZ2-4B против Qwen3.5-4B, и именно этот эксперимент стоит провести на ваших собственных изображениях, прежде чем любое из этих чисел изменит вашу архитектуру.