RepGen-4B против Qwen 3.8: семимесячный 4B-файнтюн против текущего флагмана Alibaba

Начните с факта, который делает это сопоставление странным. microsoft/UserRepGen-4B, загруженная 14 октября 2026 года без каких-либо анонсов, — это файнтюн Qwen3.5-4B — чекпоинта февраля 2026 года, на целое поколение отстающего от модели, с которой её здесь сравнивают. Qwen 3.8 — это поколение Alibaba от августа 2026 года, и среди его доступных моделей есть Qwen3.8-Max, флагман за $2,00 за миллион входных токенов и $6,00 за миллион выходных при контексте в миллион токенов, Qwen3.8-27B за $0,33 и $2,40 при 262 144 позициях, и Qwen3.8-Flash за $0,15 и $0,47. Microsoft посмотрела на это семейство и отступила на поколение назад ради базы на 4B. Затем она опубликовала таблицу, показывающую, что получившаяся модель превосходит GPT-5.5 в том единственном, что она умеет. Эта комбинация — и есть вся статья: что даёт точечный файнтюн, чего не даёт более новый флагман, и чего стоит его получить.

Во-первых, что означает название «Qwen 3.8»

Стоит уточнить это до любого сравнения, поскольку это название семейства охватывает несколько очень разных продуктов, а цены различаются более чем в тринадцать раз. Для принятия решения важны именно три обслуживаемых представителя:

• Qwen3.8-Max — флагманская модель, нативно мультимодальная для текста, изображений и видео, контекстное окно на 1 млн токенов, доступна в трёх форматах передачи данных, включая совместимый с Anthropic. Премиальный уровень — для случаев, когда корректность при решении сложных задач важнее стоимости.

• Qwen3.8-27B — открытая по весам плотная модель под лицензией Apache 2.0, контекст 262 144 токена, на входе текст, изображения и видео. В собственной карточке Alibaba приводятся такие показатели: 90,3 в LiveCodeBench v6, 89,2 в GPQA Diamond, 84,3 в OSWorld-Verified и 79,0 в QwenSWEBench — это заявленные производителем цифры, а не независимо воспроизведённые результаты.

• Qwen3.8-Flash — линейка для больших объёмов, контекст в 1 млн токенов, цена рассчитана на миллион запусков коротких задач. Также в каталоге есть датированный Qwen3.8-Max (0902) снимок по тем же тарифам, который вы закрепляете, когда нужно воспроизводимое поведение, а не постоянно меняющаяся передовая версия.

Ничего из этого не новость, и эта страница не сообщает о запуске Qwen. Этому поколению пять месяцев. Оно здесь потому, что представляет собой более новую, более крупную и лучше показавшую себя в бенчмарках сторону сравнения, и потому что интересное утверждение обретает смысл только на фоне чего-то настолько сильного.

Утверждение, сформулированное точно

В карточке модели Microsoft приводится оценка достоверности на 700 отложенных диалогах, оценённых от 1 до 10 LLM-судьёй, где каждый генератор представлений подключён к одному и тому же циклу симуляции:

• Qwen3.5-4B, нетронутый бэкбон — 3,41 при best-of-1, 4,42 при best-of-3.

• GPT-5.5, получив стандартный запрос описать пользователя — 3,90 и 4,90.

• UserRepGen-4B, после онлайн-дообучения с учителем посредством дистилляции с ретроспективным анализом — 4,95 и 6,02.

Каждое число — собственное число Microsoft, по оценке GPT-5.4 mini, и ничто из этого не воспроизводилось за пределами лаборатории. Читайте это как утверждение о направлении, а не как окончательный результат. Но направление однозначно, и дело не в количестве параметров: метод обучения поднял базовую модель на 1,54 пункта best-of-1 и попутно превзошёл передовую универсальную модель. Подразумеваемый смысл не в том, что «маленькие модели побеждают большие», а в том, что 4B-база от февраля, интенсивно дообученная на одном узком поведении, может превзойти гораздо более крупную модель, которую всего лишь попросили продемонстрировать это поведение.

Qwen3.8-Max нет в этой таблице. Предположительно, он справился бы лучше, чем GPT-5.5, потому что это более сильная универсальная модель. Ему всё равно пришлось бы угадывать поведение, поскольку ничто в его обучении не было оптимизировано под это.

Почему семимесячная база была правильным выбором

Разрыв между поколениями выглядит как ошибка, пока не разберёшься, что на самом деле нужно тонкой настройке от её базовой модели. Ей нужна модель, которая более-менее беглая, дешёвая в запуске и достаточно стабильная, чтобы LoRA ранга 64 могла её сдвинуть, не разрушив. Ей не нужно фронтирное рассуждение, потому что задача не в рассуждении — она в описании разговора, который ей передали.

Две детали в карточке подтверждают такое прочтение. Первая — потолок вывода: 1 024 токена для представления против 8 192 для диалога. Вторая — бюджет обучения (с июля по ent2026, два месяца) и тот факт, что оба более тяжёлых метода проиграли. OPSD набрал 4,46/5,60, а GRPO — 3,57/4,59; оба ниже обычного дообучения с учителем с результатом 4,64/5,68. Когда дешёвый метод обходит два дорогих метода, узким местом никогда не была способность бэкбона. Переход на флагманскую базовую модель 2026 года дал бы модель, которая обходится дороже за один проход при выполнении той же работы с тем же потолком.

У этого выбора есть своя цена, и карточка говорит о ней прямо, а не скрывает её. Поскольку визуальная башня досталась вместе с родительским чекпойнтом, модель загружается через AutoModelForImageTextToText и несёт в себе пути кода для изображений и видео, которые никогда не использует, — ввод изображений и видео в этом релизе явно не поддерживается. Вместе с беглостью вы наследуете и багаж архитектуры.

Арифметика затрат, которая идёт не так, как ожидают люди

Рефлекторно кажется, что локальный инференс дешевле. В масштабе, для которого предназначена эта модель, обычно это не так, и честный подсчёт меняет решение. Возьмите пакет из 700 диалогов — того же размера, что и собственная оценка Microsoft — при примерно 2 000 токенов промпта и 400 токенов вывода на вызов.

• С помощью Qwen3.8-27B по $0.33 и $2.40 за миллион: около $1.13 суммарных расходов на токены за всю партию.

• Через Qwen3.8-Max при $2.00 и $6.00: около $4.48.

В противовес этому, UserRepGen-4B требует загрузки объёмом 9,1 ГБ, GPU с достаточным объёмом памяти, чтобы хранить её в bfloat16, и инженерной работы по подключению класса Python. Microsoft сообщает, что её обслуживали с vLLM на оборудовании H100, A100, RTX A6000 и B200, и отмечает, что вывод на CPU требует float32 и «существенно больше памяти, чем примерно 9,1 ГБ файла весов». Если бы единственным соображением были доллары за токен, доступ по API к более сильной модели выигрывает при таком объёме — и с огромным отрывом.

А значит, настоящие причины запускать UserRepGen-4B самостоятельно — это те, которых нет в прайс-листе: разговоры, которые вы в него подаёте. В его собственной карточке сказано обрабатывать только те разговоры, на обработку которых у вас есть разрешение, сначала минимизировать идентифицирующую информацию, а также что представления не являются анонимизированными данными — описания поведения модели позволяют идентифицировать человека среди четырёх кандидатов в 51,02% случаев, что лучше, чем у исходных разговоров, которые они обобщают, — 44,22%. Компонент, который превращает разговоры в переносимые, понятные человеку профили, — это тот, который вы, возможно, захотите держать внутри своей собственной сети, независимо от того, сколько бы стоил вызов API.

Где слой маршрутизации вписывается в такой конвейер

Это чаще двухмодельная конфигурация, чем одномодельная: генератор представлений на вашем собственном оборудовании и универсальная модель, выполняющая роль ассистента, судейство или цикл оценки вокруг него. Вторая половина — это та часть, которая работает через API.

Все три обслуживаемых представителя Qwen 3.8 доступны на OrcaRouter по каталожной цене провайдера без каких-либо надбавок — $2.00 и $6.00 для Max, $0.33 и $2.40 для 27B, $0.15 и $0.47 для Flash — по одному ключу, с автоматическим переключением при сбое между провайдерами, чтобы вызов судьи в цикле оценки не падал из-за одного вышестоящего провайдера. Если вы прогоняете пакет из сотен диалогов через несколько симуляторов и судей, эта отказоустойчивость важнее, чем цена за токен, потому что запуск, который обрывается на диалоге 400, тратит впустую 399 предыдущих. DSL маршрутизации позволяет объединить ассистента и судью в один вызов, а не выстраивать цепочку из двух. Чего мы не делаем — не обслуживаем UserRepGen-4B: в нашем каталоге нет записи о ней, и ничто здесь не должно восприниматься как заявление о доступности контрольной точки Microsoft.

Решение, без оговорок

Если вам нужна универсальная модель, которая рассуждает, пишет код, читает изображения и удерживает миллион токенов, ничто в этой статье не направлено против Qwen3.8-Max — UserRepGen-4B ничего из этого не умеет, и она не вступала в сравнение с флагманом. Если вам нужен симулятор пользователя, обусловленный реальным поведением в разговоре, ни один из представителей Qwen 3.8 для этого тоже не обучался, и выбор — между небольшой локальной дообученной моделью с измеренным преимуществом и большой API-моделью, у которой его нет.

Открытый вопрос — тот же, что висит над всем релизом: статьи нет. В карточке сказано, что цитирование «ожидает подтверждения», строка о том, что репозиторий является приватным, всё ещё остаётся в разделе использования после того, как репозиторий стал публичным, и каждое число в таблице достоверности восходит к собственному оценщику одной лаборатории. Microsoft построила модель, которая превосходит самый сильный базовый вариант, против которого она тестировалась. Превосходит ли она ваш базовый вариант — на это может ответить только оценка, которую вы проведёте сами.

Дообученная модель семимесячной давности, проверенная на фоне текущего флагмана, — это также хороший повод задаться вопросом, что уже терпело неудачу раньше: задокументированные инциденты с ИИ и сбои агентов, связанные с моделями этого класса, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, степень серьёзности, оценку достоверности и отметку о спорности.