MiniCPM-V 4.7 обзавелась карточкой модели: OpenBMB опубликовала бенчмарки, лицензию и заявление о работе на устройстве.

За первые шесть дней своей жизни MiniCPM-V 4.7 представлял собой папку размером 70 ГБ с тензорами bfloat16 без README — ни карточки модели, ни тега лицензии, ни таблицы бенчмарков, ничего, что говорило бы, для чего он предназначен. Это изменилось 12 октября 2026 года, когда OpenBMB закоммитил полную карточку модели в openbmb/MiniCPM-V-4.7-35B-A3B, объявил лицензию Apache-2.0, переписал README репозитория MiniCPM-o, чтобы он начинался с новой серии, и анонсировал его как релиз MLLM с открытым исходным кодом, ориентированный на устройства iOS, Android и HarmonyOS. Тот же проход по документации затронул 1B-версию, которая теперь имеет идентичную структуру карточки. Этот материал — о разнице: что карточка на самом деле утверждает, какие из этих утверждений вы можете проверить сами, и какие из них сегодня существуют лишь как пиксели в PNG, предоставленном производителем.

Что прибыло 12 октября, и что уже было там

Веса не изменились. openbmb/MiniCPM-V-4.7-1B был создан 6 октября 2026 г. в 17:40 UTC, а openbmb/MiniCPM-V-4.7-35B-A3B — 7 октября в 07:07 UTC; у обоих по-прежнему указана отметка последнего изменения — 12 октября, потому что этот последний день был потрачен на текст, а не на параметры. Журнал коммитов в репозитории 35B за 12 октября — это спринт по документации: добавить карточку модели в 16:08, обновить карточку модели в 16:15, переименовать 35BA3B в 16:23, добавить метаданные в 16:26, абсолютные URL-адреса ассетов в 16:50, четыре коммита «добавить начало работы» до 17:07, и добавить ссылку на документацию LES в 17:09. Всё, что ниже этой строки в истории, — это init. Репозиторий превратился из восемнадцати файлов и отсутствия карточки в документированный релиз с изображениями, графиками оценки, инструкциями по развёртыванию и лицензией — примерно за час.

Это важно для того, как вы читаете анонс, потому что пост о запуске — это не то же самое, что сам запуск. С чекпойнтом 12 октября ничего не изменилось. Изменилось то, что MiniCPM-V 4.7 перестал быть загрузкой без объяснений и стал продуктом, который можно оценить на бумаге.

Два варианта и почему они не являются одним и тем же релизом

В анонсе описываются две модели, и архитектурно они не связаны ниже башни зрения — одна представляет собой разреженную смесь экспертов, другая — небольшую плотную модель.

• MiniCPM-V 4.7 35B-A3B — 35,2 млрд общих параметров в виде разреженной MoE, 256 экспертов, 8 активных на токен, 40 текстовых слоёв, размер скрытого слоя 2 048, 16 голов запросов против 2 голов ключей/значений, максимальная позиция 262 144 токена, словарь 248 144.

• MiniCPM-V 4.7 1B — плотный qwen3_5_text бэкбон, 24 слоя при размере скрытого состояния 1 024, 8 голов запросов против 2 голов ключей/значений, тот же контекст на 262 144 токена, словарь 248 094, один файл safetensors размером 3,1 ГБ.

• Общая визуальная башня — minicpmv4_7_vision, 27 слоёв со скрытой размерностью 1 152, размер патча 14, размер изображения 980, вставлена в 6-й слой текстового стека.

• Сжатие — смешанный даунсэмплинг визуальных токенов с коэффициентами 4x и 16x, использующий технику раннего сжатия внутри ViT, которую OpenBMB приписывает LLaVA-UHD v4; по умолчанию используется 16x, а 4x — настройка для более тонких деталей.

• Схема внимания — повторяющийся паттерн три к одному в обоих вариантах: три linear_attention-слоя, за которыми следует один full_attention-слой, десять раз на 40 текстовых слоях модели 35B.

• Лицензия — Apache-2.0 для обоих, заявлена в метаданных карточки; это первый случай, когда хоть один из этих репозиториев вообще указал условия.

35B-A3B — это тот, с которого начинается анонс, и именно у него интересная инженерная история: вся суть в том, что разреженный MoE с 35 миллиардами хранимых параметров можно заставить плавно работать на телефоне.

Утверждение о работе на устройстве — это и есть настоящая новизна, и это проблема планирования.

Тот, кто пытался запустить MoE на смартфоне, знает этот режим отказа. Все параметры хранятся в хранилище, на каждый токен активируется лишь горстка из них, а на устройстве, где не хватает ОЗУ или пропускной способности, чтобы удерживать всех экспертов, веса подкачиваются и выгружаются. В результате декодирование идёт с такой скоростью, что разговор становится невозможным. Очевидный обходной путь — зафиксировать маршрутизатор на неизменном подмножестве экспертов для всего промпта — делает работу быстрой, но незаметно лишает модель возможностей, потому что токены больше не могут попасть к экспертам, которых модель иначе выбрала бы.

Ответ OpenBMB — это три техники, соединённые вместе, и карточка на удивление конкретно описывает, что делает каждая из них:

• Lookahead Expert Scheduling (LES) — межслойный предиктор маршрутизации предварительно загружает экспертов, которые, вероятно, понадобятся следующему слою, отдавая приоритет среди экспертов тем, кого фактически выбрал реальный роутер, и перекрывая их вычисление с загрузкой всего остального, что ещё требуется. В карточке особо отмечается, что предсказание управляет только предварительной загрузкой и планированием; вычисления по-прежнему следуют собственной маршрутизации модели на уровне токенов, а экспертов, которых предсказание пропустило, загружают и оценивают как обычно.

• Мелкозернистое послойное квантование — сокращает объём весов экспертов и трафик памяти, чтобы схема загрузки укладывалась в память и пропускную способность устройства.

• DSpark speculative sampling — интегрирует путь draft-модели в цикл вывода на устройстве, наряду с планированием и квантованием.

Главная цифра — 13+ токенов в секунду на iPhone 17 Pro Max для 35B-A3B. Это измерение вендора, на устройстве, которого мы не видели, с помощью приложения, которое мы не запускали, и это единственная цифра в этом релизе, которую стоит воспринимать особенно осторожно, пока кто-нибудь за пределами лаборатории не воспроизведёт её. Это также утверждение, на котором держится вся подача о «первой MoE с открытым исходным кодом, которая плавно работает на устройстве без ущерба для производительности», — утверждение, которое по определению трудно опровергнуть, потому что «без ущерба для производительности» измеряется относительно базовой линии, которую выбирает вендор.

Та часть карточки, которая действительно является новой информацией: список экосистем.

До 12 октября вообще не было опубликованного рецепта обслуживания. Теперь в карточке перечислены фреймворки, с которыми, как ожидается, будет работать модель, и список достаточно широк, чтобы быть полезным независимо от того, какими окажутся результаты бенчмарков:

• Инференс — SGLang, vLLM, llama.cpp и Ollama, с transformers serve для локальной конечной точки, совместимой с OpenAI, и путь OpenVINO для Intel CPU, GPU и NPU.

• Тонкая настройка — SWIFT и LLaMA-Factory, а также рецепт обучения, который OpenBMB называет Self-Replay Fine-Tuning, позиционируемый как малозатратный способ расширить возможности, одновременно ограничивая забывание.

• Квантование — GGUF, BNB, AWQ, GPTQ и FP8, с отдельными репозиториями, опубликованными для вариантов AWQ, GPTQ, int4, FP8 и GGUF модели 35B.

• Оборудование — заявлена поддержка «с первого дня» для чиповых платформ Rockchip, Houmo, Intel, AMD и Arm, а также развёртывание на iOS, Android и HarmonyOS.

• Инструментарий — сборник рецептов с руководствами по задачам для чата с одним изображением, чата с несколькими изображениями, видео, OCR, разбора PDF и визуальной привязки, а также репозиторий для развёртывания на периферийных устройствах, содержащий мобильные приложения.

• Спекулятивное декодирование — отдельные черновые чекпойнты DSpark для обеих целевых моделей: 35B и 1B.

На практике это означает, что MiniCPM-V 4.7 перешёл от «загрузчик пришлось бы писать самому» к «есть задокументированный путь как минимум в четырёх стеках сервинга». Если вы ждали карту, прежде чем потратить время на локальную пробу, ожидание закончилось; если вы ждали независимых доказательств того, что показатели на устройстве реальны, — оно не закончилось.

Что бенчмарки устанавливают, а что — нет

Раздел оценки карточки честно говорит о том, чем он является: данные предоставлены производителем, а не независимо воспроизведены. Явно приводятся два сравнительных утверждения, и оба сформулированы как сравнения, а не как абсолютные оценки. В режиме Instruct утверждается, что 35B-A3B достигает более высокого общего балла за меньшее время инференса, чем Qwen3.6 35B-A3B, — это утверждение о соотношении производительности и задержки, а не о чистом качестве. Утверждается, что вариант 1B улучшает ключевые возможности MiniCPM-V 4.6 и значительно превосходит Qwen3.5 0.8B как по общему баллу, так и по эффективности инференса.

Вот на что стоит обратить внимание. Самих чисел в тексте нет. Раздел оценки состоит из пяти связанных изображений — общего графика производительности для визуально-языковых задач модели 35B, графика по языкам, графика для 1B, графика границы «производительность–эффективность» и GIF-сравнения скорости на устройстве — а текст вокруг них передаёт повествование, а не цифры. В README нет таблицы по отдельным бенчмаркам, поэтому нет машиночитаемой оценки, которую можно было бы процитировать, и, следовательно, этой статье нечего привести в качестве числа. «Более высокий общий балл, чем у Qwen3.6 35B-A3B» — это всё, что сейчас можно утверждать на основании публичных данных.

Из этого следуют два вывода. Во-первых, MiniCPM-V 4.7 отсутствует в нейтральных сторонних рейтингах, к которым мы обычно обращаемся за аудированным сравнением, — ни индекса рассуждений, ни агентного индекса, ни независимо оценённого мультимодального балла. Во-вторых, агрегат, который строит OpenBMB, — это собственный сводный показатель вендора по выбранным им группам бенчмарков; это значит, что утверждение о «более высоком общем балле» имеет смысл ровно в той мере, в какой обоснованно взвешивание, лежащее в его основе, а это взвешивание тоже не опубликовано. Ничто из этого не делает числа неверными. Это делает их неаудированными, а это уже другое, и данное различие особенно важно именно там, где числа наиболее сильны.

Что вы можете проверить сами уже сегодня

Отбросьте маркетинг — и останется прочное, проверяемое ядро, и всё это можно прочитать из репозитория, не доверяя никому:

• Байты весов — шестнадцать шардов safetensors у модели 35B общим объёмом 70 425 903 448 байт, что соответствует контрольной точке BF16 35.2B; модель 1B — это один файл размером 3,1 ГБ.

• Архитектура — все приведённые выше структурные показатели содержатся в config.json, опубликованы открыто и соответствуют тексту карточки.

• Лицензия — Apache-2.0, указана в метаданных карточки и теперь однозначна. Для коммерческого использования это самая важная строка в релизе, и она новая.

• Квантованные варианты — репозитории AWQ, GPTQ, int4, FP8 и GGUF существуют и доступны для скачивания, так что история с развёртыванием не является теоретической на уровне весов.

• Сигналы внедрения — репозиторий 35B по состоянию на 13 октября имеет примерно 166 загрузок и 38 лайков; это шаг вперёд по сравнению с почти нулевыми показателями, которые он имел, когда был необъяснимой загрузкой, но всё ещё небольшое число для заявленного релиза на Парето-фронте.

То, что вы не можете проверить, — это утверждение, на котором держится релиз: что это первая MoE с открытым исходным кодом, работающая на телефоне без каких-либо компромиссов, со скоростью более 13 токенов в секунду. Это ещё должна подтвердить третья сторона, вооружившись iPhone и секундомером.

Где маршрутизатор уместен, а где нет

MiniCPM-V 4.7 не обслуживается через OrcaRouter. Это чекпоинт с открытыми весами, а значит, сама модель — это то, что вы размещаете у себя: на рабочей станции, на машине с GPU или на телефоне, на который нацелена эта карточка. Место, где слой маршрутизации оправдывает себя, находится по другую сторону этой схемы: там, где самостоятельно размещённая vision-модель понимает, что вышла за пределы своих возможностей, и передаёт сложный кадр чему-то более крупному. OrcaRouter ставит более 200 моделей, размещённых на хостинге, за одним ключом, пропускает цену по прайс-листу каждого провайдера с наценкой 0%, поэтому изменение цены поставщика вступает в силу в тот же день, и автоматически переключается при деградации провайдера — именно такая схема нужна гибридной конфигурации, где дешёвая локальная модель делает рутинную работу, а размещённая на хостинге модель берёт на себя случаи, которые ей не по силам.

Что посмотреть дальше

Три вещи превратили бы этот релиз из задокументированного утверждения в установленный факт. Независимое измерение 35B-модели на устройстве — кем-то с iPhone 17 Pro Max, опубликованным приложением и собственным хронометражем — окончательно подтвердило бы число, на котором держится вся презентация. Таблица с фактическими результатами по каждому бенчмарку, а не графики, позволила бы проверить утверждение о Парето относительно того базового уровня, который в нём назван. А прогон в нейтральном лидерборде поставил бы MiniCPM-V 4.7 рядом с моделями, оценёнными в условиях, которые он не выбирал. До тех пор честный вывод таков: OpenBMB выпустила настоящую, под лицензией Apache-2.0, хорошо задокументированную модель с правдоподобной и недоказанной историей эффективности, и разница между этими двумя вещами — ровно разница между карточкой и бенчмарком.