MiniCPM-V-4.7-1B-DSpark：告知なしでリリースされた213Mのドラフトモデル

MiniCPM-V-4.7-1B-DSparkは、質問に答えることのできない213,547,777パラメータのチェックポイントです。画像を読み取ることも、会話をすることもなく、単体で提供しても読む価値のあるものは何も生成しません。その役割はただ一つ、あるモデル——MiniCPM-V-4.7-1B——の前に居座り、次の15トークンを推測することです。そうすることで、スマートフォンクラスの小型視覚言語モデルが、トークンを1つずつ生成するのではなく、1回のフォワードパスでそのブロックを検証できるようになります。

このファイルは Apache-2.0 ライセンスで 0.85 GB であり、2026年10月8日 04:26 UTC に、より大きな兄弟モデルである 35B-A3B 向けのドラフトと同じバッチで Hugging Face に登場した。4日後になっても、親モデルカードでは依然として脚注扱いだ。ドラフトは1回だけ、重みテーブルの1行として、そして折りたたまれた「Speculative decoding (DSpark)」トグルの奥に現れる。それに関する OpenBMB のブログ記事はなく、テクニカルレポートもなく、プロジェクト自身の GitHub ドキュメントにも記載がない。

その沈黙こそが興味深い部分だ。なぜなら、この特定のファイルが可能にするものがあるからだ。これはMiniCPM-V 4.7ファミリーの中で、その中心的な主張——1Bのビジョンモデルがスマートフォン上で許容できる形で動作する——をOpenBMBの外の誰かが検証できる最初の成果物である。以下ではすべて、2つの山を分けたままにする。ディスク上で開けるファイルとは何か、そしてベンダーがその横に印刷した数値とは何か。

リポジトリには実際に何が含まれているのか

ファイルは4つ。それで全部だ：.gitattributes、README.md、config.json、そして単一のmodel.safetensorsが854,204,052バイトのBF16重みを保持している。リポジトリにトークナイザーは存在しない。存在する必要がないからだ——ドラフトはターゲットのものを借用し、そのconfigにある語彙は親の248,094トークンとまったく同じである。トークンがターゲットのトークンに1対1で対応しないドラフターは、ターゲットが受け入れるものを何も提案できない。したがって語彙の共有は利便性ではなく要件である。

Hub API は、このリポジトリが 2026-10-08T04:26:19Z に作成され、最終更新が 2026-10-12T14:29:57Z であると記録しており、英語と中国語でタグ付けされ、Apache-2.0 でライセンスされ、執筆時点で 3 件のいいねと 1 件のダウンロードがあります。最後の数字こそが、心に留めておくべきものです。1 ダウンロード、開始から 4 日で、携帯電話回線でも取得できるほど小さなファイルです。

アーキテクチャフィールドは示すQwen3DSparkModelをであるmodel_typeがqwen3。これは奇妙ではなく一貫している：MiniCPM-V 4.7 の言語バックボーンは Qwen3 系列に由来するため、同じファミリーから切り出された5層のスタブは予想されるものです。親の小さなコピーではないのは、スタブが親とどのように対話するかです。設定は次のものを準備します：dflash_config、projector_type: "dspark"、enable_confidence_head: true、confidence_head_alpha: 1.0、confidence_head_with_markov: true、markov_head_type: "vanilla"、およびmarkov_rank: 256。この confidence head は DSpark メソッドから持ち込まれた部分です。つまり、提案されたブロックのうちどれだけ検証する価値があるかを見積もるための仕組みであり、サービング設定が適応的検証をオフにするスイッチを公開しているまさにその理由です。

仕様、および各数値がそこにある理由

ドラフト側では、カードと設定の両方から、どちらも一致している：

• ドラフトパラメータ — 213,547,777個、すべてBF16、0.85 GBの単一ファイルチェックポイント内

• ドラフト深さ — 5層、すべてフルアテンション、隠れサイズ1,024、中間サイズ3,584、SiLU活性化

• アテンション形状 — クエリヘッド8個対キー/バリューヘッド2個、ヘッド次元256、グループ化クエリ・アテンション

• フォワードパスあたりのトークン数 — 15。設定では次のように保持されます: block_size: 15

• 位置範囲 — 256次元の回転埋め込みを備えたRoPE theta 10,000,000、およびmax_position_embeddingsは262,144に設定され、親の256Kウィンドウと一致します

• タップしたレイヤー — [3, 7, 11, 15, 19]、親の24のうち（num_target_layers: 24）

• 語彙数 — 248,094。ターゲットのトークナイザーに紐づき、半自己回帰ドラフトステップ用の専用マスクトークンを248,076に持つ

それらの行のうち2つは、ちらっと見る以上の価値がある。1つ目はタップ層だ。ドラフトは親の最終層を読むのではなく、親の深さ全体に散らばった5つの層から隠れ状態を読み取り、それらをdsparkプロジェクタを通じて投影する。中間ネットワークの状態はアラインメントしやすく、しかも最終層がすでに次トークンのロジットへと潰してしまった情報を依然として保持している。2つ目は、隠れサイズ1,024に対するヘッド次元256である。これは狭いモデルに対して意図的に広いヘッドであり、設定ではtie_word_embeddings: false — 埋め込み行列は出力投影と共有されず別々に保持されるため、パラメータ数には両方が含まれる。

要するに、ターゲットの約5分の1のサイズで、まったく異なる形状のドラフターだ。比較すると、35B-A3B の兄弟モデルのドラフトは 389,223,169 パラメータで、層[3, 11, 19, 27, 35]を利用している（40層中）。ドラフトは2つ、ターゲットごとに1つである。なぜなら、ドラフトは、それが訓練された語彙と中間表現に対してのみ有効だからだ。

受け入れ表はモデルカードであり、測定値ではない

OpenBMB がこのペアの性能について公開した数値データのすべてを、検証ステップあたりの受理トークン数として示します。測定条件は自然な EOS 終了およびmax_new_tokens=8192です。

• Vision、MMMU — 1ステップあたり3.452受理トークン

• ビジョン、MathVista — 4.333

• ビジョン、CharXiv 推論（検証） — 4.452

• 視覚、OCRBench — 4.752

• テキスト、数学 — 5.891

• テキスト、コード — 5.347

• テキスト、一般 — 3.370

ばらつきは5.891から3.370まで下がっており、最も易しいカテゴリと最も難しいカテゴリの間には約1.75倍の差がある。その順序は、これらの数値について何かを物語るという点で、驚くにはあたらない。数学は言語モデルが生成する最も規則的な表層であり、一般テキストは最も規則性が低く、ドラフターの成功率は、ターゲットの出力の品質ではなく、その予測可能性に連動している。

その表には3つの注意事項が載っているべきだが、カードはそのどれも自発的に示してはいない。

これは自己申告であり、そのリポジトリに対するダウンロードはちょうど1件しかない。OpenBMB以外の誰も、このチェックポイントについて、他の誰もが確認できる形のアクセプタンス数値を出していない。数値はベンダーのものであり、ベンダーのハーネスで、ベンダーのタスクセット上で測定されたものだ。

アクセプタンス長はペアの性質であり、モデルの性質ではない。自己反復するターゲットはドラフターに楽な勝ちを与えるので、ここでより高い数値は MiniCPM-V 4.7-1B が何かに優れている証拠にはならない。それはその出力がどれほど予測可能かについての証拠であり、別の問いと別の答えだ。

そしてそれは高速化ではない。15トークンを提案するドラフターがそのうち3.4トークンを検証できたとしても、ターゲットの順伝播1回につき依然として数トークンを進めてはいるが、15トークンのブロックを検証するコストは1トークンを生成するコストより高く、却下された提案はすべてコストを払ったうえで捨てられる。受理長を実時間の数値に変換するには検証コスト、バッチサイズ、ハードウェアが必要だが、カードはそのいずれも提供していない。カードが提供する唯一のサービングレシピは--max-num-seqs 1を設定しており、これは高速になるよう調整されたものではなく、動くように調整された構成である。

兄弟と照らし合わせて読むと、この表はより有用になる。35B-A3B のドラフトはコードで 7.387、MMMU で 5.098 を記録するのに対し、この 1B のドラフトは 5.347 と 3.452 を記録する。より小さなターゲットとより小さなドラフターの組み合わせでは、1 ステップあたりに受け入れられるトークン数が著しく少なくなる。これは、1 枚のカードでは示せず、2 枚のカードなら示せる種類のクロスファミリーな詳細である。

トレーニング、そしてデザイン全体を説明する細部

このレシピは4行で構成されている。200万の学習シーケンス、6エポック、AdamW、そしてクロスエントロピー、L1項、信頼度損失を組み合わせた目的関数だ。重要なのは、学習データがどこから来たかについての行である——応答は MiniCPM-V-4.7-1B 自身によって、視覚とテキストのプロンプトを組み合わせたものから生成された。

それは自己蒸留であり、このようなドラフターの構築コストの下限を決める。まず両方のモダリティにわたってターゲットモデルを大量に実行しなければ、ドラフターを訓練することはできない。つまり、ダウンロードできる0.85 GBの成果物は、高コストなプロセスの安価な残渣にすぎない。また、ドラフターが共有されるのではなく1対1でペアにされる理由も説明できる。ドラフターが模倣している振る舞いはこのモデルの振る舞いであり、別のターゲットの出力なら別のドラフターが訓練されるからだ。

この手法自体の論文であるarXiv 2607.05147は、OpenBMBのものではない。これは2026年7月6日に投稿された33名共著の論文で、DSparkを、並列バックボーンと軽量な逐次モジュールを組み合わせ、推定されたプレフィックス生存確率から検証長をスケジュールする投機的デコーディングフレームワークとして記述している。同論文は、DeepSeek-V4サービングシステム内への配備を報告し、MTP-1と呼ばれる本番ベースラインを採用して、同一スループットでユーザーあたりの生成が60～85パーセント高速であると主張している。それらの主張は、その論文とその配備に帰属する。公表されたもののうち、それらを1Bビジョンモデル上の5層・213Mのドラフトに結び付けるものは何もなく、上記の受理表だけが、誰かが提示した唯一の橋渡しである。

このファイルがそのサイズ以上に重要な理由

MiniCPM-V 4.7ファミリーの目玉の主張は、オンデバイス向けのものだ。1Bモデルカードには、性能対推論時間のチャート、1B instructビルドの総合性能チャート、iPhone 17 Pro Maxで撮影された未編集の画面収録、そして1Bバリアントが総合スコアと推論効率の両方でQwen3.5 0.8Bを大幅に上回るという定性的な一文が掲載されている。また、量子化ファミリー — int4、AWQ、GPTQ、GGUF、さらにFP8サポート — と、iOS、Android、HarmonyOS、Rockchip、Houmo、Intel、AMD、Armにまたがるday-0ハードウェアターゲットも列挙している。

それらはすべて、外部の数値が一切付いていないベンダー主張であり、そのうちの一つは内部的に辻褄が合っていない。カードのテキストは1Bモデルと呼んでいるのに、Hubのサイドバーはモデルサイズを2Bパラメータと報告している。DSparkチェックポイントは、それらすべてとは種類が異なる。0.85 GBで、Apache-2.0で、サービング用コマンドが付属している。つまり、コンシューマー向けGPUを持つ外部の第三者が今週それを実行し、このファミリー初の外部測定値を出せるということだ。ベンチマークスコアではなく、それとほぼ同じくらい有用なもの、すなわち再現されたアクセプタンス長である。

誰かが MMMU で 3.45、一般テキストで 3.37 に一致する結果を出せば、そのカードは信頼でき、オンデバイスの話に最初の外部データ点が付く。アクセプタンスが実質的に低ければ、その表は公開されたレシピでは再現できない条件下で測定されたことになり、推論時間あたりの性能チャートもその疑念を引き継ぐ。どちらの結果も、別のベンダーチャートより価値があり、このファミリーの中で、それを安く手に入れられる唯一の部分だ。

実行すること、そして試すためのコスト

このカードにはレシピが1つ同梱されており、それはvllm serveの呼び出しであり、曖昧な説明ではありません。読み込む対象はopenbmb/MiniCPM-V-4.7-1Bで、これを次の名前で提供します: MiniCPM-V-4.7-1B、設定する項目は--max-model-len 40960と--max-num-batched-tokens 40960、固定する項目は--attention-backend FLASH_ATTNおよび--mm-encoder-attn-backend FLASH_ATTN、マルチモーダルプロセッサのkwargとして{"downsample_mode": "4x"}を渡し、リクエストごとのマルチモーダルkwargを信頼し、投機的設定を次の内容でDSparkチェックポイントに向けます: "method": "dspark"、"num_speculative_tokens": 15、そして適応的検証は無効化されています。デフォルトのチャットテンプレートkwargではthinkingは無効のままです。

その行には、二度読み返す価値のある細部が二つある。--max-num-seqs 1は、公開されている構成が一度に一つのシーケンスを処理することを意味する。つまりこのレシピが記述しているのは、スループット構成ではなく単一ストリームのレイテンシ構成である。また、4倍の視覚ダウンサンプルモードは、親カードが謳う二つのうち安価な方だ——同じカードはディテールと引き換えに速度を得る4x/16xの混合スキームも提供しており、このレシピはそのトレードオフのうち速度を優先する側を選んでいる。

ハードウェアの想定要件は、このファミリーのマーケティングとは正反対だ。1BターゲットはBF16でおよそ2GB、さらにKVキャッシュがあり、ドラフトがその上に0.85GBを追加する。したがってこれは単一GPUで済む仕事——コンシューマー向けカード、または十分な統合メモリを備えたワークステーション——であり、スマートフォン向けの仕事ではない。親プロジェクトのドキュメントにあるオンデバイス経路は、このレシピには含まれない量子化ビルドとフレームワークを通っており、公開されているままのDSparkチェックポイントはBF16のサーバーサイド成果物である。

そこにはほとんどのチームがぶつかるギャップが残る。MiniCPM-V 4.7-1B の面白いバージョンはオンデバイスのものであり、スマホのツールチェーンを持たずに今日動かせるバージョンはサーバーサイドのものだ。今すぐ必要なのが小規模なマルチモーダル推論なら、最も近いホステッドの相当品は別のモデルだ — Qwen3 VL 8B Instruct は OrcaRouter 上で入力トークン100万あたり$0.18、出力100万あたり$0.70で、128Kのコンテキストウィンドウ、テキスト・画像・動画入力に対応し、ローカルの重みも、動かし続けるためのサービングレシピも不要だ。MiniCPM-V 4.7 は OrcaRouter 上のホステッドモデルではなく、本稿はそうでないふりをするつもりはない。正直に言えば、これは一つの仕事をこなす二つのやり方であり、今日の午後にカタログから測れるのはそのうちの一つだけだ。

DSparkのようなものがその真価を発揮するのは、未検証のモデルというケースであり、それはモデルの問題ではなくルーティングの問題だ。誰も再現できていないドラフターこそ、フォールバックできるエンドポイントの背後に置いておきたいまさにそういうコンポーネントである。1つのキーの背後で200以上のモデルを稼働させ、プロバイダーの定価を0%のマークアップでそのまま通し、ルートが劣化したときには自動フェイルオーバーを実行する——つまり、サービング実験が失敗してもコストは障害ではなくリトライで済む。そしてマークアップが一切ないため、カタログ内のどのモデルであれベンダーの価格変更は次の請求サイクルを待たずその日のうちに反映される。

これをチェック可能にするには何が必要でしょうか

3つ足りないものがあり、そのうちOpenBMBが必要なのは1つだけです。

ベンダーは何も発表していない。リポジトリにはモデルカードとライセンス、学習レシピはあるが、ブログ記事も技術レポートも、プロジェクトのGitHubドキュメントに一行もない——そのドキュメントは、モデルファミリーの最初の1週間の時点では、依然として前世代を現行世代として説明していた。チェックポイントが公開されてから4日後、親にあたる1Bのカードはそれを表の1行としてリンクしているだけで、それ以上ではない。

誰も受け入れ実績の数値を再現しておらず、ダウンロード数は1件だ。それは最も低コストで埋められるギャップであり、最も重要なものでもある。なぜなら、外部の測定が家族の物語を意味のある形で動かせる唯一の場所だからだ。

そして品質に関する疑問はまったく手つかずのままだ。このリリースのどこにも、MiniCPM-V 4.7-1B についての MMMU スコアも、OCRBench の結果も、文書理解の数値も、グラウンディングの指標も存在しない――アクセプタンス表はデコーディングについての表であり、高いアクセプタンス長を品質のシグナルとして読むことこそ、まさにそうした数値が招き寄せる誤りなのだ。

つまり、本物の成果物、寛容なライセンス、動作するサービングコマンド、そして、証拠がまったくなかったモデルに関する真に新しい証拠が1つ。次に更新する価値があるファイルは、依然として親のモデルカードです。