ZwZ2-9B тихо выпущена: что 9,4 миллиарда весов говорят вам, когда лаборатория молчит

В 03:42 UTC 16 октября 2026 года на Hugging Face появился репозиторий под названием inclusionAI/ZwZ2-9B. Через четыре минуты в него был сделан единственный коммит — «Add ZwZ2-9B model weights» — и после этого ничего. Нет README, нет поля лицензии, нет ссылки на статью, нет таблицы бенчмарков и нет записи ни в одной из десяти публичных коллекций, которые поддерживает организация inclusionAI. Сами веса — это 9 409 813 744 параметра в bfloat16, и они описывают визуально-языковую модель с гибридным вниманием, конфигурация которой строка за строкой совпадает с конфигурацией Qwen3.5-9B за вычетом одной головы предсказания. Это всё, что подтверждено. Всё остальное в этом материале помечено как предположение, потому что репозиторий без карточки модели не даёт никому права на большее.

Кстати, это нормально, и об этом стоит сказать, пока не нагромоздились оговорки. inclusionAI — лаборатория открытых весов, стоящая за семействами Ling, Ring, LLaDA и Ming, и у неё есть привычка выкладывать чекпойнты за дни или недели до появления каких-либо описаний. 13 октября — за три дня до этого — она опубликовала Ling-3.1-flash с короткой карточкой и тоже без анонса. Молчащий репозиторий — не тревожный сигнал. Это повод читать файлы, а не маркетинговые материалы.

Что на самом деле находится в репозитории

Восемь файлов, и список — это уже история. Есть .gitattributes, chat_template.jinja, config.json, generation_config.json, единственный 18,8 ГБ model.safetensors, processor_config.json, tokenizer.json и tokenizer_config.json. Нет README.md. Нет LICENSE. В репозитории ровно три тега — safetensors, qwen3_5 и region:us — что означает, что у Hub вообще нет pipeline-тега для него: он не классифицирован как image-text-to-text, text-generation или что-либо ещё. На момент написания у него ноль загрузок и два лайка.

• Всего параметров — 9,409,813,744 в 760 тензорах, bfloat16.

• Архитектура — Qwen3_5ForConditionalGeneration, тип модели qwen3_5.

• Текстовый стек — 32 слоя, размер скрытого слоя 4 096, 16 голов запросов против 4 голов KV, размерность головы 256, размер промежуточного слоя 12 288, словарь 248 320.

• Схема внимания — три слоя линейного внимания, затем один слой полного внимания, и так повторяется: 24 линейных слоя и 8 слоёв полного внимания.

• Контекст — 262 144 позиции, база вращения 10 000 000, чередующийся M-RoPE с секцией [11, 11, 10].

• Визуальная башня — глубина 27, размер скрытого слоя 1 152, размер патча 16, пространственное объединение 2, временной патч 2, проекция в 4 096.

• Лицензия — не указана. Не apache-2.0, не пользовательская лицензия, ничего.

Конфигурация — это конфигурация Qwen3.5-9B

Сравните два config.json файла, и почти каждое архитектурное значение совпадает. Размер скрытого слоя, число слоёв, количество голов, размерность головы, промежуточный размер, словарь, схема внимания 3:1 от линейного к полному, раздел M-RoPE, база вращения, потолок в 262 144 позиции, и вся визуальная башня вплоть до её 2 304 позиционных эмбеддингов идентичны Qwen3.5-9B. Существенное различие — одна строка: mtp_num_hidden_layers равна 1 в Qwen3.5-9B и 0 здесь, поэтому ZwZ2-9B не имеет головы предсказания нескольких токенов. Остальная часть различий — это сериализация: более новая transformers версия записывает поля, которые старый файл оставлял неявными, а тип модели в конфигурации зрения переименован из qwen3_5 в qwen3_5_vision.

То, что это вам говорит, узко, но реально: это не новая архитектура. Это чекпоинт на стеке Qwen3.5-9B, дообученный кем-то, с удалённой головой спекулятивного декодирования. А вот чего оно вам не говорит — так это того, каким было то дообучение. Параметры изменились; форма — нет.

Единственное место, где модель действительно говорит что-то о себе

Шаблон чата — единственный файл здесь, у которого есть точка зрения, и он отличается от Qwen3.5-9B в трёх отношениях, которые читатель может проверить примерно за минуту.

Первый — это системный промпт по умолчанию. Когда запрос приходит без системного сообщения, шаблон ZwZ2-9B внедряет его: «Разговор между Пользователем и Ассистентом. Пользователь задаёт вопрос, и Ассистент решает его… Ответы заключены в теги <answer> </answer>». В шаблоне Qwen3.5-9B такой ветки нет — он просто ничего не выводит. Встроенный системный промпт, который задаёт формат вывода, — это признак конкретного запуска обучения, а не базовой модели.

The second is the thinking default, and it is inverted. In Qwen3.5-9B the template emits an empty <think></think> block only when the caller explicitly passes enable_thinking: false, which means reasoning is on unless you turn it off. In ZwZ2-9B the condition is not defined or false — the empty block appears by default and the open <think> tag only when a caller explicitly asks for thinking. Same tags, opposite default. Qwen3.8-27B, for the record, kept the Qwen3.5 behaviour, so this is not simply inherited from a newer generation.

Третье — это учёт для многоходового рассуждения: шаблон понимает preserve_thinking флаг и умеет удалять <think> блок из хода ассистента, который уже содержит его. Ни того, ни другого нет в шаблоне Qwen3.5-9B. Токенизатор, кстати, всё ещё резервирует специальные аудиотокены — <|audio_start|>, <|audio_end|>, <|audio_pad|> — но в конфиге нигде нет аудиомодуля, так что считайте это общей лексикой токенизатора, а не возможностью.

Что подразумевает название, а что — нет

«ZwZ2» звучит как второе поколение чего-то, и есть первое поколение, на которое можно указать. ZwZ-2B, опубликованная 4 марта 2026 года, — это дообученная версия Qwen3-VL-2B-Instruct, обученная с помощью Region-to-Image Distillation и обучения с подкреплением, выпущенная вместе со статьёй Zooming without Zooming (arXiv 2602.11858) и оценочным набором ZoomBench. Лицензия Apache-2.0, есть полная карточка модели, и за семь месяцев её скачали 159 раз.

Намёк на происхождение, однако, тоньше, чем предполагает название. ZwZ-2B построена на qwen3_vl архитектуре. ZwZ2-9B построена на qwen3_5. Единственный тег, применённый inclusionAI, — это qwen3_5, и модель не входит в коллекцию ZwZ или в какую-либо другую. Перенесён ли рецепт region-to-image — это как раз тот вопрос, на который ответила бы карточка модели, а этот репозиторий — нет.

Одна ловушка, которую стоит отметить, потому что поисковые системы приведут людей в неё: существует более старое, не связанное ZwZ_32B семейство GGUF-конверсий, датированное мартом 2025 года, от третьей стороны. У него общего — только три буквы, и больше ничего. Не принимайте его за более ранний ZwZ2-9B.

Как обрабатывать недокументированный чекпоинт

Практический подход тот же, что вы применили бы к любым весам, которые приходят без карточки. Сначала получите конфиг и заголовок safetensors — это дёшево и поддаётся проверке. Убедитесь, что количество параметров и имена тензоров соответствуют тому, что обещает конфиг. Затем запустите её на фреймворке, поддерживающем эту архитектуру, и проведите оценки, которые вы уже проводите на собственном трафике, вместо того чтобы заимствовать несуществующие цифры.

Лицензия — это то, что важно для любого использования, кроме разового на выходных. Чекпойнт без поля лицензии — не то же самое, что открытый; при отсутствии явного заявления по умолчанию считается, что издатель сохранил за собой права, и этот разговор нужно провести до того, как это вообще приблизится к продакшену, а не после. Учтите также, что запускать его придётся вам самим — Hub сообщает, что модель не обслуживается ни одним провайдером, а вендор не опубликовал ни одного эндпоинта.

Именно для такой ситуации и существует автоматическое переключение при сбое. Если вы хотите проверить непроверенную контрольную точку в сравнении с текущей моделью, не ставя на неё рабочий маршрут, поставьте кандидата за тот же интерфейс, что и модели, которым вы уже доверяете, и позвольте трафику вернуться обратно, когда новая модель начнёт сбоить — один ключ API и одна конечная точка, совместимая с OpenAI, вместо второй интеграции, которую потом придётся разбирать. OrcaRouter маршрутизирует более 200 моделей именно так, передаёт прайс-листы провайдеров с наценкой 0% и не размещает ZwZ2-9B — мы не собираемся делать вид, что для неё существует запись в каталоге. Что мы можем предложить сегодня — это семейство, на котором она была построена, и семейство, которое она заменяет: линейка Qwen3.5 здесь маршрутизируется, включая qwen/qwen3.5-35b-a3b и qwen/qwen3.5-flash, а qwen/qwen3-vl-8b-instruct закрывает нишу 8B для задач зрения документированной размещённой моделью по цене $0.18 за миллион входных токенов и $0.70 за миллион выходных.

Что превратило бы это в релиз?

Три вещи, и любая из них оправдала бы переписывание этого материала. Поле лицензии, появляющееся в репозитории, превращает его из диковинки во что-то, что компания может использовать. Карточка модели с числами оценки превращает модель из архитектуры в утверждение. Или статья — наиболее вероятная форма: работа по преобразованию регионов в изображения, которая сделала первый ZwZ интересным, применённая к визуальной башне втрое большего размера.

Пока одно из них не появится, относитесь к ZwZ2-9B как к тому, чем он является согласно листингу файлов: производной Qwen3.5-9B с 9,4 миллиарда параметров и кастомизированным шаблоном чата, опубликованной лабораторией, которая пока никому не объяснила, почему. Веса реальны. История ещё не написана, и честная позиция состоит в том, что никто за пределами inclusionAI не может её написать.

Ничего из этого не гипотетично: задокументированные сбои ИИ и инциденты с агентами, стоящие за такими релизами, как этот, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, класс уверенности и флаг оспаривания.