ZwZ2-9B против MathForm-8B: один и тот же ствол, два очень разных количества правды

Две модели, опубликованные с разницей в восемь недель, из двух разных лабораторий, построенные на двух разных поколениях одного и того же семейства, — и ширина их стволов одинакова. MathForm-8B, выпущенная OpenBMB 14 августа 2026 года как дообученная версия Qwen3-8B, использует 36 слоёв при размере скрытого слоя 4 096 и размере промежуточного слоя 12 288. ZwZ2-9B, опубликованная inclusionAI 16 октября 2026 года на стеке Qwen3.5-9B, использует 32 слоя при размере скрытого слоя 4 096 и размере промежуточного слоя 12 288. Родительские поколения разные, словари на 151 936 и 248 320, совершенно разные задачи — и одинаковая геометрия ствола 4 096 × 12 288 у обеих. Разделяет их не архитектура. А то, что одна из них идёт со статьёй, датасетом, оценочным стендом и лицензией, а другая — с восемью файлами.

Краткая версия: если вы можете описать свою задачу как «превратить этот текст в Lean 4», MathForm-8B — это документированная специализированная модель с опубликованными показателями, и вам следует использовать её. Если ваша задача связана с пикселями и вам нужна универсальная визуально-языковая модель, ZwZ2-9B — это чекпоинт на 9,4 млрд параметров, который никто не охарактеризовал, и его внедрение означает, что вы станете его первым оценщиком. Самое интересное в этом сравнении — то, чему эта асимметрия учит нас в вопросе о том, насколько ценно общее наследие.

Два потомка с разницей в одно поколение

MathForm-8B — производная Qwen3-8B и открыто об этом заявляет: в её карточке указаны базовая модель, обучающий датасет, метод обучения и статья. Конфигурация — это образцовая схема Qwen3: 36 слоёв, 32 головы запросов против 8 голов ключ-значение при размерности головы 128, словарь на 151 936 токенов, потолок в 40 960 позиций, база ротационного кодирования 1 000 000 и полное внимание в каждом слое. Ничего экзотического, ничего скрытого.

ZwZ2-9B — это производная от Qwen3.5-9B, которая заявляет об этом лишь через один тег на Hub. Его конфигурация сводится к Qwen3_5ForConditionalGeneration, и все архитектурные значения совпадают с Qwen3.5-9B, кроме одного удалённого слоя многотокенного предсказания. Словарь на 248 320 токенов, потолок в 262 144 позиции, чередующийся M-RoPE и визуальный энкодер — всё унаследовано без изменений.

• Параметры — ZwZ2-9B: 9,409,813,744. MathForm-8B: 8 миллиардов, согласно его карточке.

• Родитель — Qwen3.5-9B против Qwen3-8B, поэтому обе модели наследуют разные архитектуры внимания из разных поколений Qwen.

• Внимание — 24 слоя линейного внимания плюс 8 слоёв полного внимания по сравнению с полным вниманием во всех 36 слоях.

• Геометрия ствола — размер скрытого слоя 4 096 и размер промежуточного слоя 12 288 в обоих.

• Словарь — 248 320, с идентификаторами токенов изображений и видео внутри него, против 151 936 и только текста.

• Потолок контекста — 262 144 позиции против 40 960.

• Модальности в — текст, изображение и видео против только текста.

• Опубликованные доказательства — файл конфигурации против статьи, датасет, конвейер оценки и условия Apache-2.0.

Что MathForm-8B предлагает

Карточка необычно полна, и по ней стоит пройтись, потому что дальнейшее сопоставление зависит от неё. MathForm-8B переводит математические утверждения на естественном языке в Lean 4. Она обучалась на FormalVerse — наборе данных, опубликованном OpenBMB вместе с ней, — посредством контролируемого дообучения, а затем обучения с подкреплением; при этом компиляция Lean и обратная связь по семантической согласованности служили сигналом вознаграждения. Статья — MathForm: масштабирование математической автоформализации с помощью извлечения знаний и уточнения, управляемого верификацией, arXiv 2608.14221, а репозиторий включает конвейер оценки, файлы бенчмарка и скрипты Pass@k.

Результаты сообщаются как частоты прохождения Pass@8 по двум отдельным критериям: проверка синтаксиса, означающая, что сгенерированный код на Lean действительно компилируется, и проверка согласованности, означающая, что он компилируется и утверждает то же самое, что и исходная задача. По шести бенчмаркам в карточке сообщается макро-среднее 88,06 по синтаксису и 72,37 по согласованности, что опережает другие автоформализаторы на 8B, которые она перечисляет, и опережает несколько записей на 32B в колонке синтаксиса. Это последнее сравнение — как раз тот тип утверждения, который стоит проверять, а не повторять, и в настройке есть деталь, которая делает его проверку нетривиальной: проверки компиляции требуют запущенного Kimina Lean Server, а в экспериментах использовался Lean 4.21.0. Это не тот чекпойнт, который можно оценить с помощью скрипта на Python.

Все приведённые выше числа заявлены производителем. OpenBMB провела оценку, OpenBMB её опубликовала, и репозиторий действительно включает скрипты для её воспроизведения — это больше, чем предлагает большинство лабораторий, и именно поэтому эти числа чего-то стоят, даже будучи непроверенными. В карточке также опубликованы рекомендуемые настройки генерации — temperature 0.6 и top-p 0.95, — а это та небольшая рабочая деталь, которую модель без карточки оставляет вам угадывать.

Что ZwZ2-9B предлагает

Файл config.json, файл tokenizer_config.json, шаблон чата и 18,8 ГБ весов. Нет README, нет поля лицензии, нет тега pipeline и нет датасета. Hub сообщает о нуле загрузок и двух лайках, и ни одна коллекция inclusionAI его не содержит.

Reading the files does yield real information, and it is worth doing before dismissing the checkpoint. The chat template injects a default system prompt when a request arrives without one, and it defaults to not reasoning — it emits an empty <think></think> block unless a caller explicitly asks for thinking, which is the opposite of what its Qwen3.5-9B parent does. The config carries a 27-layer vision tower and a video processor accepting up to 768 frames at 2 frames per second. The parameters are 9,409,813,744 across 760 tensors, all bfloat16.

Ничто из этого не говорит вам о том, в чём модель сильна, на каких данных она обучалась, является ли она инструкционной моделью или чем-то ещё, и на каких условиях вы можете её использовать. MathForm-8B отвечает на все четыре вопроса на своём первом экране. ZwZ2-9B нигде не отвечает ни на один из них.

Одни и те же 4 096 — это не совпадение, и это не упрощение.

Обе модели используют ствол шириной 4 096 с промежуточным размером 12 288, и причина в обоих случаях одна и та же: поколение Qwen такого размера. Qwen3-8B и Qwen3.5-9B — это разные архитектуры: полное внимание на всём протяжении против смеси линейного и полного внимания в соотношении три к одному, — но обе построены на одной и той же ширине, потому что именно такова небольшая Qwen. Наблюдение за тем, как файнтюн наследует каждую размерность своего родителя, — это самое ясное из доступных доказательств того, что файнтюны наследуют свойства родителя целиком: сильные стороны и режимы отказа, а не только форму. MathForm-8B сообщает, от какого родителя он произошёл, так что вы можете пойти и почитать о нём. ZwZ2-9B — нет, и тег на Hub — единственная ниточка назад.

Какой из них вам на самом деле нужен

Это не заменители, и пересечение близко к нулю. MathForm-8B делает одну вещь: превращает математическое утверждение на естественном языке в компилируемый Lean 4. Весь его аппарат оценки, включая требование работающего сервера Lean, построен вокруг этого. Если это ваша задача, это сильное, документированное решение под Apache-2.0 с воспроизводимым инструментарием, и показатель согласованности 72,37 — это число, которое нужно превзойти — именно согласованность, а не синтаксис, потому что формализация, которая компилируется, но означает что-то другое, — это баг, который обходится вам дороже, чем неудачная компиляция.

ZwZ2-9B — это универсальная визуально-языковая модель. Её никогда не оценивали на автоформализации, у неё, можно сказать, нет никаких соображений насчёт токенизатора Lean, и она была опубликована лабораторией, предыдущая работа которой была посвящена тонкозернистому визуальному восприятию. Не ищите оценку ZwZ2-9B в бенчмарке по Lean; нет никаких причин, чтобы она существовала.

Настоящий вопрос в том, нужен ли вам вообще специалист или универсал. Специалист лучше справляется со своей единственной задачей и бесполезен вне неё. Универсал хуже во всём конкретном и оказывается единственным вариантом, когда форма входных данных меняется. Причина, по которой это сравнение неравноценно, не в восьми неделях между ними и не в миллиарде параметров — а в том, что один из них был опубликован вместе с документацией, необходимой специалисту, а другой — как отправная точка для чужой работы.

Если вы хотите обе возможности в одном пайплайне

Есть реальный паттерн, в котором эти два режима пересекаются: универсальная модель читает неоднозначный документ, извлекает математическое утверждение, передаёт его формализатору, а верификатор решает, выдерживает ли результат проверку. Это три вызова модели с разными ролями, и именно ради того, чтобы такая схема обходилась дёшево, и существует слой маршрутизации — DSL маршрутизации OrcaRouter объединяет несколько моделей в один вызов, так что разветвление и последующий вызов — это один запрос, а не сервис оркестрации, который вам приходится поддерживать. Слияние моделей, когда панель моделей отвечает совместно, а судья выбирает сильнейший ответ, — это та же идея, применённая к одному сложному вопросу, а не к конвейеру.

Ни ZwZ2-9B, ни MathForm-8B нет в нашем каталоге, и мы не собираемся это приукрашивать: MathForm-8B можно скачать по лицензии Apache-2.0 и обслуживать из собственного экземпляра vLLM или SGLang, а ZwZ2-9B — это репозиторий, у которого вообще нет эндпоинта. Что сегодня доступно для маршрутизации со стороны компонента рассуждений этого пайплайна — это qwen/qwen3.8-27b — флагманская плотная модель текущего поколения от Qwen, Apache-2.0, с контекстом 262K токенов и потолком 1M токенов при хостинге по цене $0.33 за миллион входных токенов и $2.40 за миллион выходных токенов, передаётся по прайс-листовой цене провайдера без каких-либо наценок.

Чего стоит асимметрия

MathForm-8B — лучшая модель, о которой стоит писать, потому что есть что проверить. ZwZ2-9B — более интересный артефакт, потому что чекпойнт на 9,4B с настроенным шаблоном чата и удалённой предсказательной головой — это свидетельство того, что кто-то проделал настоящую работу, — и потому что у inclusionAI есть послужной список с именем ZwZ, из-за чего за следующим постом стоит следить.

Для тех, кто делает выбор сегодня, правило неброское. Опубликованная статья, набор данных, названная базовая модель и указанная лицензия — это не формальность. Они определяют разницу между моделью, на которую можно рассчитывать при планировании, и моделью, которую приходится реверс-инжинирить, и никакая, даже самая интересная, архитектура этот разрыв не закрывает.

Подобный результат — это также напоминание о том, что ошибки моделей уже задокументированы: инциденты ИИ и сбои агентов, связанные с моделями этого класса, собраны в архиве инцидентов ИИ OrcaRouter, где каждая запись содержит собственные источники, уровень серьёзности, степень уверенности и флаг спорности.