MiniCPM-V 4.7-35B-A3B-DSpark: 389M-драфт от OpenBMB обзавёлся карточкой модели, которой не было у его базовой модели

MiniCPM-V-4.7-35B-A3B-DSpark — это draft-модель с 389 223 169 параметрами. Она не отвечает на вопросы, не видит изображения и сама по себе бесполезна. Вся её задача — угадывать следующие пятнадцать токенов, чтобы MiniCPM-V-4.7-35B-A3B могла проверять целый блок за один прямой проход вместо генерации по одному токену за раз. Это спекулятивное декодирование, и OpenBMB выпустила draft для своей новой 35B визуально-языковой модели одиннадцать дней назад, публично не сказав об этом ни слова.

Что делает его достойным отдельной страницы — не сам черновик. А документация, которая к нему прилагается. У чекпоинта DSpark есть карточка модели: лицензия, таблица спецификаций, рецепт обучения и таблица длины принятия для семи категорий задач. У его родительской модели с 35 миллиардами параметров, когда она появилась, ничего этого не было. Так что впервые к релизу MiniCPM-V 4.7 привязаны реальные цифры — и это цифры о родительской модели, измеренные косвенно, с помощью файла размером 0,78 ГБ, заявленная цель которого — ускорить её.

Всё нижеследующее отделяет то, что указано в карточке, от того, что карточка не устанавливает. Приёмочные цифры — собственные данные OpenBMB, и никто за пределами лаборатории их не воспроизводил. Таблицы бенчмарков базовой модели по-прежнему не существует.

Что на самом деле представляет собой чекпоинт DSpark

Репозиторий openbmb/MiniCPM-V-4.7-35B-A3B-DSpark датируется 8 октября 2026 года. Это однофайловый чекпойнт — model.safetensors, плюс config.json и README — под лицензией Apache-2.0, с тегами для английского и китайского языков. Второй черновик, openbmb/MiniCPM-V-4.7-1B-DSpark, был создан на секунду раньше, поэтому оба были отправлены в хаб одним пакетом, а не обнаружены по отдельности.

Каждый драфт стоит перед одной целевой моделью и только перед ней. В карточке прямо сказано: этот чекпойнт «обучен для точного сопряжения с MiniCPM-V-4.7-35B-A3B и его токенизатором». Словарь принадлежит родительской модели — все 248 144 токена, — и это требование, а не оптимизация: драфтер, токены которого не отображаются взаимно однозначно на токены целевой модели, не может предложить ничего, что целевая модель могла бы принять. Это же ограничение объясняет, почему родственный драфт существует отдельно, а не один драфтер обслуживает всё семейство.

Архитектура не является уменьшенной копией родителя. Это стек внимания из пяти слоёв, скрытая ширина 2 048, 8 голов запросов против 2 голов ключей/значений, промежуточный размер 6 144 и RoPE с тета 10 000 000. Поле архитектур содержит Qwen3DSparkModel — тот же бэкбон семейства Qwen3, из которого происходит языковой стек родителя, урезанный до заглушки.

Самое интересное — то, как заглушка взаимодействует с целевой моделью. Она не читает последний слой целевой модели. Она снимает скрытые состояния с пяти промежуточных слоёв — [3, 11, 19, 27, 35] из 40 слоёв родительской модели — и проецирует их через dspark-проектор. Извлечение из середины стека, а не с конца, сделано намеренно: состояния из середины сети дешевле выравнивать, и они несут информацию, которую последний слой уже сжал в логиты следующего токена. В конфигурации также предусмотрена голова уверенности с марковской компонентой ранга 256 — это механизм из статьи DSpark, предназначенный для решения о том, какую часть предложенного блока стоит проверять.

Таблица приёмки — это карточка, а не измерение.

Вот числовые данные, которые OpenBMB опубликовала о том, насколько хорошо работает эта пара, выраженные в виде принятых токенов за шаг верификации, с естественным завершением по EOS и max_new_tokens=8192:

• Vision, MMMU — 5,098 принятых токенов за шаг.

• Зрение, MathVista — 6.126.

• Vision, рассуждение CharXiv (валидация) — 5.479.

• Зрение, OCRBench — 5.407.

• Текст, Математика — 6.687.

• Текст, Код — 7.387.

• Текст, Общий — 3.501.

Три вещи в этой таблице стоит сказать вслух. Во-первых, это данные, сообщённые самими разработчиками. Никто за пределами OpenBMB не запускал этот чекпойнт и не публиковал результат, а поскольку в репозитории зафиксирована всего одна загрузка, никто за пределами OpenBMB его вообще не запускал. Во-вторых, длина принятия — это свойство пары, а не модели: она измеряет, насколько предсказуем вывод MiniCPM-V-4.7-35B-A3B, а не насколько хорош этот вывод. Целевая модель, склонная к повторам, даёт драфтеру лёгкую победу. В-третьих, главное — это разброс: 7,387 на коде против 3,501 на общем тексте — это двукратная разница между лучшей и худшей категориями, а то, что код оказался самой лёгкой категорией, отражает низкоэнтропийную, крайне повторяющуюся структуру кода, а не какие-либо сильные стороны моделей.

Есть также чисто арифметическое прочтение, которое карточка оставляет неявным. Драфтер, предлагающий 15 токенов и получающий 5–7 принятых, всё равно продвигает несколько токенов за один прямой проход целевой модели, так что потолок здесь — большой прирост пропускной способности, но это не наивное утверждение «в 5 раз быстрее», потому что проверка блока из 15 токенов стоит дороже генерации одного токена, а за отклонённые предложения платят и их выбрасывают. Эта разница — как раз то, чему посвящена статья DSpark, и именно поэтому в конфигурации есть переключатель, позволяющий отключить адаптивную верификацию.

Что черновик случайно сообщает нам о базовой модели

MiniCPM-V 4.7 назвал свой релиз тихим выпуском — веса, без поста о запуске. Теперь это изменилось, пусть и незначительно, но реально. Родительский репозиторий по адресу openbmb/MiniCPM-V-4.7-35B-A3B был создан 7 октября 2026 года. К 12 октября он содержал полную карточку модели с README, страницу выпуска в стиле Hugging Face, список утверждений, раздел об использовании на устройствах и таблицу весов. С тех пор в репозитории появилось семейство квантования — сборки FP8, int4, AWQ, GPTQ и GGUF, каждая в своём репозитории, все обновлены 12 октября — и 27 лайков против 166 загрузок.

Итак, точная картина — это двухэтапный релиз, а не тихий. Веса появились 6 и 7 октября. Черновые контрольные точки последовали 8 октября. Документация, квантованные версии и история о работе на устройстве появились к 12 октября. OpenBMB до сих пор не выпустила ни поста в блоге, ни технического отчёта для этого семейства, и на родительской карточке по-прежнему нет таблицы бенчмарков — заявления о производительности содержатся внутри связанных изображений с диаграммами, а не в виде текста, который читатель может процитировать.

Утверждение, которое действительно присутствует в тексте, — это главное утверждение: благодаря Lookahead Expert Scheduling, послойному квантованию и «интеграции спекулятивного сэмплирования DSpark» модель 35B-A3B описывается как первая открытая MoE-модель, которая плавно работает на устройстве — со скоростью более 13 токенов в секунду на iPhone 17 Pro Max. Эта цифра заявлена производителем, не воспроизведена и никак не уточнена — нет ни формата квантования, ни сборки, ни промпта, ни метода измерения. Чекпоинт DSpark — одна из трёх техник, на которых держится это утверждение, поэтому это единственная из трёх, которую можно скачать и изучить. И именно её доказательство — одна непрочитанная строка бенчмарка на задачу.

Запустить это, если хотите.

Карточка поставляется с одним рецептом, и это команда vLLM, а не общие рассуждения. Она обслуживает целевую модель при размере тензорного параллелизма 2 с максимальной длиной модели 40 960, с FLASH_ATTN на обоих бэкендах внимания — и языковой модели, и мультимодального энкодера, с режимом визуального даунсэмплинга 4x, enable_thinking в значении false и спекулятивной конфигурацией, указывающей на чекпоинт DSpark с 15 спекулятивными токенами и отключённой адаптивной верификацией. Две детали в этой строке заслуживают отдельного внимания: --max-num-seqs 1 означает, что опубликованная конфигурация обслуживает по одной последовательности за раз, а --disable-custom-all-reduce вместе с отключённым проходом слияния all-reduce означает, что эту конфигурацию подгоняли под то, чтобы она работала, а не под максимальную скорость. Относитесь к рецепту как к отправной точке, которую удалось запустить OpenBMB, а не как к заявлению о пропускной способности.

Аппаратный бюджет — вот настоящий барьер. Целевой объём — примерно 70 ГБ весов BF16 до KV-кэша, а драфт добавляет сверху ещё около 0,78 ГБ. Заявленный минимум — два ускорителя, что выводит всё это далеко за пределы телефона, на который опирается маркетинг семейства, — развёртывание на устройстве для модели 35B-A3B означает агрессивное квантование и выгрузку, для чего и нужны наработки по LES и послойному квантованию, а ни того, ни другого нет в приведённом выше рецепте vLLM.

Эта асимметрия и определяет практический выбор для большинства команд. Для обслуживания MiniCPM-V 4.7 нужны два собственных GPU; обращение к сопоставимой облачной мультимодальной MoE не требует первоначальных затрат. Qwen3.6 35B A3B — самое близкое прямое сравнение: та же схема 35B всего / 3B активных, тот же контекст 262K, ввод изображений и видео — и он обслуживается через OrcaRouter по цене от $0.248 за миллион входных токенов и $1.485 за миллион выходных токенов в зависимости от маршрута провайдера, с автоматическим переключением при отказе, если один из этих маршрутов начнёт деградировать. MiniCPM-V 4.7 не является облачной моделью на OrcaRouter, и эта статья не собирается делать вид, что это не так; честная формулировка такова: это две альтернативы в точке принятия решения, и именно облачную можно измерить уже сегодня днём.

Что сделало бы это проверяемым?

Чекпойнт DSpark распространяется под лицензией Apache-2.0, занимает меньше гигабайта и поставляется с командой для запуска обслуживания, которую человек с двумя GPU может сегодня вставить в терминал. Это сочетание делает его самым дешёвым способом получить независимую цифру по MiniCPM-V 4.7 — не балл за бенчмарк, а нечто почти столь же полезное: воспроизведённую длину принятия. Если сторонняя сторона получит те же 5,1 на MMMU и 3,5 на обычном тексте, карточка заслуживает доверия, а история эффективности семейства получает первую внешнюю точку данных. Если длина принятия окажется существенно ниже, значит, опубликованная таблица измерялась в условиях, которые рецепт не воспроизводит, и заявление о 13 токенах в секунду наследует это сомнение.

Всё ещё отсутствует то, для чего обычно и нужна карточка модели. Нет ни оценки MMMU, ни оценки OCRBench, ни результата по пониманию документов, ни показателя grounding и ни цифры задержки для самого MiniCPM-V 4.7 — ничего, что отвечало бы на вопрос, хороша ли эта модель. Таблица draft-модели не может это заменить, а трактовать большую длину принятия как сигнал качества — это ровно та ошибка, к которой подталкивают эти числа. Предсказание в стиле ChatGPT даётся драфтеру легко и ничего не говорит о том, было ли предсказание верным.

Итак: настоящий артефакт, настоящая лицензия, один по-настоящему новый опубликованный фрагмент доказательств о модели, у которой их не было, — и разрыв в оценке, который ровно настолько же широк, каким был 7 октября. Следующий файл, который нужно обновить, — по-прежнему карточка родительской модели.