«3B активных параметров» MiniCPM-V 4.7 нет в карточке модели — я измерил их по весам

Самое часто повторяемое число о MiniCPM-V 4.7 35B-A3B нигде не напечатано в его собственной документации. Утверждение — «всего 3B активных параметров (!) — он запускается даже на iPhone» — взялось из стороннего поста от 13 октября 2026 года, а карточка модели, README репозитория и заметки о запуске от производителя вообще не приводят цифру активных параметров. Это не столько критика утверждения, сколько пробел, который стоит закрыть: чекпоинт кодирует собственный ответ. Поэтому, прежде чем что-либо ещё здесь, я вытащил индекс safetensors и заголовки всех шардов для openbmb/MiniCPM-V-4.7-35B-A3B и посчитал. Для сравнения, другая модель из того же поста — Qwen3.8-27B, выпущенная 13 августа 2026 года — это плотная 27B, и ей не нужно разрешать такую неоднозначность: каждый параметр активен на каждом токене. Интересный вопрос — выдерживает ли «3B активных» соприкосновение с весами, и ответ таков: выдерживает, но только если определять слово «активные» так, как это делает производитель, а честная цифра ближе к 4B, если посчитать части, которые невозможно не запускать.

Реестр, считанный из самой контрольной точки

В индексном файле перечислены 40 языковых слоёв, а также визуальная башня и проектор — всего 35 212 875 824 параметра в BF16, то есть 70,43 ГБ весов для скачивания. Это соответствует «35B» в названии. Вопрос MoE в том, какая доля этого задействуется на каждый токен:

• Всего сохранено — 35.21 млрд параметров, 70.43 ГБ в BF16. Каждый эксперт хранится на диске независимо от того, используется он или нет.

• Бюджет маршрутизатора — 8 экспертов, выбираемых на токен, из 256, на каждый слой MoE. Настраивается в config.json как num_experts_per_tok: 8. Каждый эксперт мал: 3,15 млн параметров.

• Путь MoE на слой — 8 экспертов (25,17 млн) + общий эксперт (3,15 млн) + гейт маршрутизатора (0,52 млн) ≈ 28,83 млн.

• Путь вычисления внимания для каждого слоя — архитектура гибридная: 30 из 40 слоёв используют линейное внимание (по 33.72M каждый), 10 — полное внимание (по 27.26M каждый). Итого ≈ 2.44B по всем 40 слоям на внимание плюс арифметику MoE, повторяется для каждого токена.

• Плюс то, что нельзя пропустить — эмбеддинги токенов 508,2 млн, LM head 508,2 млн, vision tower 522,3 млн, проектор 30,7 млн.

• Два обоснованных ответа — ~2.44B активных только на пути attention и MoE; ~4.01B, если учитывать эмбеддинги, выходную голову, визуальную башню и проектор, которые действительно задействует визуальный запрос.

Итак, «3B active» — не ошибка. Это округление 2,44 млрд вверх, и оно попадает в промежуток между двумя числами выше. Просто это не тот показатель, который опубликовала OpenBMB, и это не то же самое, что суффикс «A3B» — этот суффикс является частью названия модели, и в собственных материалах вендора он никогда не превращается в измерение.

Почему суффикс и число — это не одно и то же

Соглашения об именовании в экосистеме открытых весов подразумевают количество активных параметров: модель под названием 30B-A3B или 235B-A22B сообщает вам, что она активирует примерно столько параметров на токен. Такая импликация обычно надёжна — но это соглашение, а не контракт, и MiniCPM-V 4.7 — случай, когда ни в карточке, ни в README, ни в анонсе запуска ничто не превращает «A3B» в число, вокруг которого можно планировать память. Пока кто-нибудь не посчитает, этот суффикс — просто метка.

Приведённый выше подсчёт — это арифметика, а не вывод из этой метки. Это также причина, по которой цифры ~2,44 млрд и ~4,01 млрд различаются: учитывать ли таблицу эмбеддингов и выходную голову — это реальное решение, а не педантизм. В плотной модели эмбеддинги — небольшая часть бюджета в 27 млрд. В разреженной модели, где вычислительный путь на один токен составляет всего несколько миллиардов параметров, таблица эмбеддингов на 508 млн и LM-голова на 508 млн уже не шум — вместе они составляют около пятой части активного пути, и они хранятся в полной разрядности, тогда как эксперты квантованы.

Одно следствие стоит сформулировать прямо: соотношение хранимых и активных параметров здесь составляет примерно 8,8 к 1 при узком прочтении. Именно поэтому модель на 35B можно представлять как модель для телефона, и по той же причине она не является таковой в том смысле, в каком ею является плотная модель на 3B. Объём хранилища не уменьшается, когда маршрутизатор игнорирует эксперта.

Утверждение об iPhone — это отдельное утверждение с отдельной доказательной базой.

Все конкретные сведения о производительности на устройстве в этом релизе заявлены вендором и не воспроизведены. Конкретный показатель — 13+ токенов в секунду при примерно 3 ГБ памяти на iPhone 17 Pro Max, при этом тот же чекпойнт продемонстрирован на iPad M4. OpenBMB объясняет это тремя совместно работающими методами — Lookahead Expert Scheduling, который предсказывает кросс-слойную маршрутизацию и предзагружает экспертов, мелкозернистой послойной квантизацией и спекулятивной выборкой DSpark — и описывает результат как первую MoE-модель с открытым исходным кодом, которая плавно работает на устройстве, не теряя возможностей. В открытом доступе нет независимых измерений этой пропускной способности, нет стороннего воспроизведения и нет опубликованной детализации того, какую квантизацию подразумевает показатель в 3 ГБ.

Это важно по конкретной причине: 3 GB — это число, которое определяет, интересно ли вам это утверждение, и именно о нём мы знаем меньше всего. 35B MoE, у которого веса экспертов в основном лежат на флеш-накопителе, — не модель на 3 GB; это модель, чей резидентный рабочий набор умудряется уместиться в 3 GB, когда предсказания маршрутизации, предвыборка и кэш квантованных экспертов работают как надо. Именно в таких условиях пропускная способность в бенчмарке и пропускная способность в реальной работе расходятся — первый запрос прогревает кэш, а поведение, которое даёт вам 13 токенов в секунду в демо, — это расписание, а не свойство весов.

Рассматривайте 13 токенов в секунду как заявление о технике, а не о чекпоинте. Чекпоинт — это то, что можно проверить уже сегодня: 35,21 млрд сохранённых параметров, 8 из 256 экспертов, маршрутизируемых на каждый токен, от ~2,44 млрд до ~4,01 млрд активных в зависимости от того, что считать, Apache-2.0, квантования day-0 в GGUF, AWQ, GPTQ, int4 и FP8, а также список производителей поддерживаемых чипов, включающий Rockchip, Houmo, Intel, AMD и Arm.

Что количество активных решает, а что — нет

Количество активных параметров — это косвенный показатель вычислительной нагрузки. Оно говорит, сколько операций матричного умножения выполняется на токен, а это определяет, насколько быстро идёт декодирование, ограниченное возможностями GPU. Но оно не говорит, сколько памяти требуется для размещения модели: это определяется общим числом параметров — 70,43 ГБ весов в BF16 или примерно четверть этого при 4-битном квантовании, и это ещё без учёта KV-кэша. А в модели с контекстом 256K этот кэш тоже отнюдь не погрешность округления.

• Скорость декодирования — определяется активными параметрами (здесь ~2,44–4,01 млрд). Именно об этом утверждение про 13 токенов/с.

• Резидентная память — определяется общим числом параметров (хранится 35,21 млрд), а затем сокращается за счёт квантования и того, какой набор экспертов остаётся резидентным.

• Хранение и загрузка — определяются полным объёмом 70.43 ГБ при BF16. Разреженная маршрутизация не уменьшает объём скачивания.

• Пропускная способность, а не флопсы — на телефоне определяющим ограничением является прокачка экспертов через шину памяти; вот почему существует этот метод планирования и почему одно лишь количество активных ничего не говорит о задержке на мобильном устройстве.

Практический вывод: если у вас есть GPU с достаточным объёмом памяти, чтобы вместить квантованные веса, именно число активных параметров определяет вашу пропускную способность, и «3B active» — это хорошо. Если это из-за вас в посте появляется фраза «запускается на iPhone», то общее число — это то, что решает, осуществимо ли это, а работа вендора над планированием — та часть, которая делает общее число приемлемым. Оба прочтения одного и того же заголовка верны, и это не одно и то же прочтение.

Сравнению в том посте нужны две метки, а не одна

Формулировка, которая сделала это популярным, звучала как «локальное против дорогостоящего железа»: MiniCPM-V 4.7 35B-A3B — модель, дающая ту же возможность без стенда, против Qwen3.8-27B — модели, которая была умнее, но требовала стенда. Половина про возможности взята из собственной карточки модели Qwen, и, как и всё остальное на этой странице, она заявлена производителем. Опубликованные Qwen показатели для Qwen3.8-27B включают 90,3 на LiveCodeBench v6, 89,2 на GPQA Diamond, 84,3 на OSWorld-Verified и 79,0 на QwenSWEBench, и в нашей собственной записи каталога для неё они отмечены как необычно сильные агентные и кодинговые результаты для плотной модели на 27B. Была ли она «умнее Opus 4.6» — это утверждение из поста в соцсети, и у меня нет перед глазами независимой оценки, которая бы это окончательно подтвердила, — поэтому я не собираюсь повторять это как факт.

Структурное различие — это то, что действительно можно проверить: Qwen3.8-27B — плотная модель, поэтому все её 27 млрд параметров активны, и объём занимаемой памяти и вычислительные затраты — это одно и то же число. MiniCPM-V 4.7 35B-A3B разносит эти два числа примерно в девять раз. В этом и состоит весь архитектурный аргумент, и он реален. Просто это не то же самое, что сравнение по бенчмаркам, а пост, который сделал его знаменитым, смешал одно с другим.

Где маршрутизатор меняет решение, а где — нет

Здесь верны две вещи, и их стоит разделить, потому что они указывают в противоположных направлениях.

Первое: мы не предоставляем MiniCPM-V 4.7. Его нет в нашем каталоге. Если он вам нужен, путь — ваше собственное оборудование; именно для этого и создан этот релиз: вместе с ним опубликованы веса, квантованные версии и руководства по развёртыванию на устройстве. Хостинговый API никак не помогает запустить модель на телефоне, и было бы вводить в заблуждение утверждать обратное.

Второе — модель, с которой сравнивают эту, находится не в том положении. Qwen3.8-27B доступен через наш API, размещённый на нашей собственной инфраструктуре, по цене $0.33 за миллион входных токенов и $2.40 за миллион выходных токенов. Если вопрос, который вы на самом деле задаёте, звучит так: «заменить ли мне вызовы моего размещённого Qwen3.8-27B на локально развёрнутый MiniCPM-V 4.7», то честная версия ответа состоит в том, что перед тем как брать на себя обязательства, стоит провести эксперимент: показатель пропускной способности на устройстве не воспроизведён, а сравнение возможностей — это собственная карточка другой стороны. Именно для такой ситуации и существует failover — направьте часть трафика по новому пути, оставьте проверенный позади него и пусть плохая неделя будет стоить вам части рабочей нагрузки, а не всей нагрузки. Модель с 0% наценкой также сохраняет расчёты честными: когда поставщик меняет цену, сумма, которую вы платите, меняется в тот же день, потому что между их ценой по прайс-листу и вашим счётом нет слоя маржи.

Чего роутер не может сделать — так это заставить исчезнуть вопрос «локально или на хостинге». Его решают ваше оборудование, ваши ограничения по приватности и то, приемлема ли для вас загрузка в 70 ГБ, — а количество активных параметров, как бы вы его ни округляли, не меняет ни один из этих трёх факторов.

Что бы это уладило

Три вещи в порядке убывания полезности. Опубликованный OpenBMB показатель числа активных параметров, чтобы число, которое все повторяют, перестало быть арифметикой третьей стороны — включая мою, — а мою можно воспроизвести по заголовкам шардов, если вы с ней не согласны. Независимое измерение 13 токенов в секунду на телефоне с указанием настроек квантования, потому что зависящий от расписания показатель без указания его настроек — не спецификация. И реальная оценка, сравнивающая MiniCPM-V 4.7 35B-A3B с Qwen3.8-27B на одних и тех же задачах, поскольку сравнение, которое сделало эту модель заметной, сейчас — это график одного вендора против карточки другого вендора.

До тех пор осторожная сводка уже, чем в посте: веса реальны, разреженность реальна, загрузка составляет 70,43 ГБ, и на каждый токен модель выполняет работу, эквивалентную где-то от 2,4 до 4 миллиардов параметров, в зависимости от того, как считать части, которые нельзя обойти маршрутизацией. Это настоящий инженерный результат. Это пока не измеренный бенчмарк на телефоне, и это не победа в бенчмарке над плотной моделью на 27B.

Источники: параметры, количество экспертов, типы слоёв, длина контекста и размер загрузки были взяты напрямую из config.json и заголовков шардов safetensors модели openbmb/MiniCPM-V-4.7-35B-A3B 13 октября 2026 года. Скорость на устройстве, объём памяти, результаты бенчмарков и оценки Qwen3.8-27B заявлены производителем и не воспроизведены. Утверждения «3B активных параметров» и «умнее, чем Opus 4.6» происходят из сторонней публикации в соцсети, а не от кого-либо из производителей.

Ничто из этого не гипотетично: задокументированные сбои ИИ и инциденты с ИИ-агентами, в которых фигурирует такая цифра, как эта, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, степень серьёзности, оценку уверенности и флаг оспаривания.