MiniCPM-V 4.7-35B-A3B-DSpark: Draft 389M OpenBMB Hadir dengan Card yang Tidak Pernah Didapat Model Dasarnya

MiniCPM-V-4.7-35B-A3B-DSpark adalah model draf dengan 389.223.169 parameter. Model ini tidak menjawab pertanyaan, tidak melihat gambar, dan dengan sendirinya tidak berguna. Tugasnya sepenuhnya adalah menebak lima belas token berikutnya agar MiniCPM-V-4.7-35B-A3B dapat memverifikasi satu blok penuh dalam satu forward pass alih-alih menghasilkan satu token setiap kali. Itulah decoding spekulatif, dan OpenBMB merilis draf untuk model visi-bahasa 35B barunya sebelas hari lalu tanpa mengatakan sepatah kata pun tentangnya secara publik.

Yang membuatnya layak mendapat satu halaman bukanlah drafnya. Melainkan dokumen yang menyertainya. Checkpoint DSpark memiliki kartu model: lisensi, tabel spesifikasi, resep pelatihan, dan tabel panjang penerimaan untuk tujuh kategori tugas. Model induknya yang berparameter 35 miliar tidak memiliki semua itu saat muncul. Jadi untuk pertama kalinya, ada angka nyata yang melekat pada rilis MiniCPM-V 4.7 — dan angka itu tentang model induk, diukur secara tidak langsung, oleh berkas 0,78 GB yang tujuan yang dinyatakan adalah membuatnya berjalan lebih cepat.

Semua yang di bawah ini memisahkan apa yang ada pada kartu dari apa yang tidak ditetapkan oleh kartu. Angka penerimaannya milik OpenBMB sendiri dan tidak ada seorang pun di luar lab yang telah mereproduksinya. Tabel benchmark model dasarnya masih belum ada.

Apa sebenarnya checkpoint DSpark itu

Repositori openbmb/MiniCPM-V-4.7-35B-A3B-DSpark bertanggal 8 Oktober 2026. Ini adalah checkpoint satu berkas — model.safetensors, ditambah config.json dan README — di bawah Apache-2.0, ditandai untuk bahasa Inggris dan Tionghoa. Draf kedua, openbmb/MiniCPM-V-4.7-1B-DSpark, dibuat satu detik lebih awal, sehingga keduanya dipush ke hub dalam batch yang sama alih-alih ditemukan satu per satu.

Setiap draf berada di depan satu target dan hanya target itu. Kartu itu menyatakannya dengan gamblang: checkpoint ini "dilatih untuk dipasangkan secara persis dengan MiniCPM-V-4.7-35B-A3B dan tokenizernya." Kosakatanya milik induknya, seluruh 248.144 tokennya, yang merupakan persyaratan, bukan optimisasi — drafter yang tokennya tidak memetakan satu-ke-satu ke token target tidak dapat mengusulkan apa pun yang dapat diterima target. Kendala yang sama menjadi alasan mengapa draf saudaranya ada secara terpisah, bukan satu drafter yang melayani seluruh keluarga.

Arsitekturnya bukan salinan yang lebih kecil dari induknya. Ini adalah tumpukan atensi lima lapis, lebar tersembunyi 2.048, 8 head kueri terhadap 2 head key/value, ukuran intermediate 6.144, dan RoPE dengan theta 10.000.000. Field arsitektur berbunyi Qwen3DSparkModel — backbone keluarga Qwen3 yang sama dengan asal tumpukan bahasa induknya, dipangkas menjadi stub.

Bagian yang menarik adalah bagaimana stub berbicara dengan target. Ia tidak membaca lapisan akhir target. Ia mengambil hidden state dari lima lapisan perantara — [3, 11, 19, 27, 35] dari 40 lapisan induknya — lalu memproyeksikannya melalui proyektor bertipe dspark. Menarik dari tengah tumpukan, bukan dari ujung, adalah hal yang disengaja: state jaringan tengah lebih murah untuk disejajarkan dan membawa informasi yang sudah dikompresi oleh lapisan akhir menjadi logit token berikutnya. Konfigurasi ini juga membekali sebuah confidence head dengan komponen Markov berperingkat 256, yang merupakan mekanisme dari makalah DSpark untuk menentukan berapa banyak blok yang diusulkan yang layak diverifikasi.

Tabel penerimaan adalah kartu, bukan pengukuran

Berikut adalah semua data numerik yang dipublikasikan OpenBMB tentang seberapa baik pasangan ini bekerja, dinyatakan sebagai token yang diterima per langkah verifikasi, dengan penghentian EOS alami dan max_new_tokens=8192:

• Vision, MMMU — 5.098 token yang diterima per langkah.

• Vision, MathVista — 6.126.

• Visi, penalaran CharXiv (validasi) — 5.479.

• Vision, OCRBench — 5.407.

• Teks, Matematika — 6.687.

• Teks, Kode — 7.387.

• Teks, Umum — 3.501.

Ada tiga hal tentang tabel itu yang layak dinyatakan terang-terangan. Pertama, data itu dilaporkan sendiri. Tidak ada orang di luar OpenBMB yang pernah menjalankan checkpoint ini dan memposting sebuah angka, dan dengan hanya satu unduhan yang tercatat di repositori, tidak ada orang di luar OpenBMB yang pernah menjalankannya sama sekali. Kedua, panjang penerimaan adalah properti dari pasangan, bukan dari model — ini mengukur seberapa dapat diprediksinya keluaran MiniCPM-V-4.7-35B-A3B, bukan seberapa bagus keluaran itu. Target yang mengulang dirinya sendiri memberi penyusun draf kemenangan yang mudah. Ketiga, sebarannya adalah inti persoalannya: 7,387 pada kode versus 3,501 pada teks umum adalah faktor dua antara kategori terbaik dan terburuk, dan kode menjadi yang paling mudah lebih mencerminkan permukaan kode yang berentropi rendah dan sangat repetitif daripada kekuatan apa pun pada model-model itu.

Ada juga pembacaan aritmetika sederhana yang dibiarkan implisit oleh kartu ini. Sebuah drafter yang mengusulkan 15 token dan mendapatkan 5 hingga 7 token diterima tetap memajukan beberapa token per forward pass target, jadi batas atasnya di sini adalah peningkatan throughput yang besar — tetapi itu bukan klaim naif "5× lebih cepat", karena memverifikasi blok 15 token lebih mahal daripada menghasilkan satu token, dan proposal yang ditolak tetap dibayar lalu dibuang. Kesenjangan itulah yang persis menjadi topik makalah DSpark, dan itulah sebabnya konfigurasi ini menyediakan sakelar untuk mematikan verifikasi adaptif.

Apa yang secara tidak sengaja diungkapkan draf itu kepada kita tentang model dasar

MiniCPM-V 4.7 menyebut rilisnya sebagai dikirim secara diam-diam — bobot, tanpa pos peluncuran. Itu kini telah berubah, dengan cara yang kecil tetapi nyata. Repositori induk di openbmb/MiniCPM-V-4.7-35B-A3B dibuat pada 7 Oktober 2026. Pada 12 Oktober, repositori itu sudah memuat kartu model lengkap dengan README, halaman rilis bergaya hugging-face, daftar klaim, bagian on-device, dan tabel bobot. Sejak itu repositori tersebut berkembang dengan keluarga kuantisasi — build FP8, int4, AWQ, GPTQ, dan GGUF, masing-masing di repositori sendiri, semuanya tersentuh pada 12 Oktober — dan 27 suka berbanding 166 unduhan.

Jadi gambaran yang akurat adalah rilis dua tahap, bukan rilis senyap. Bobot dirilis pada 6 dan 7 Oktober. Checkpoint draf menyusul pada 8 Oktober. Dokumentasi, versi kuantisasi, dan narasi on-device tiba pada 12 Oktober. OpenBMB masih belum menerbitkan postingan blog atau laporan teknis untuk keluarga model ini, dan masih belum ada tabel benchmark di kartu induknya — klaim performa berada di dalam gambar grafik yang ditautkan, bukan sebagai teks yang bisa dikutip pembaca.

Klaim yang memang muncul dalam teks adalah klaim utamanya: dengan Lookahead Expert Scheduling, kuantisasi per lapisan, dan "DSpark speculative sampling integration," model 35B-A3B digambarkan sebagai model MoE open-source pertama yang berjalan lancar di perangkat, pada 13 lebih token per detik di iPhone 17 Pro Max. Angka itu dilaporkan vendor, tidak direproduksi, dan tanpa kualifikasi — tidak ada format kuantisasi, build, prompt, maupun metode pengukuran. Checkpoint DSpark adalah salah satu dari tiga teknik yang menjadi landasan klaim tersebut, sehingga menjadikannya satu-satunya dari ketiganya yang dapat Anda unduh dan periksa. Teknik itu juga yang buktinya hanya berupa satu baris benchmark yang belum dibaca per tugas.

Menjalankannya, jika kamu mau

Kartu ini menyertakan satu resep dan itu adalah perintah vLLM, bukan sekadar wacana. Konfigurasi ini melayani target pada ukuran tensor-paralel 2 dengan panjang model maksimum 40.960, FLASH_ATTN pada backend atensi encoder bahasa dan encoder multimodal, mode downsample visual 4x, enable_thinking diatur ke false, dan konfigurasi spekulatif diarahkan ke checkpoint DSpark dengan 15 token spekulatif dan verifikasi adaptif dimatikan. Dua detail dalam baris itu patut dicermati sendiri: --max-num-seqs 1 berarti setup yang dipublikasikan melayani satu sekuens pada satu waktu, dan --disable-custom-all-reduce dengan pass fusi all-reduce dimatikan berarti ini adalah konfigurasi yang disetel agar berfungsi, bukan agar semaksimal mungkin cepat. Perlakukan resep ini sebagai titik awal yang berhasil dijalankan OpenBMB, bukan sebagai klaim throughput.

Selubung perangkat keras adalah hambatan sebenarnya. Targetnya kira-kira 70 GB bobot BF16 sebelum KV cache, dan draft menambahkan sekitar 0,78 GB lagi di atasnya. Dua akselerator adalah minimum yang dinyatakan, yang menempatkan ini jauh di luar ponsel yang menjadi andalan pemasaran keluarga — penerapan di perangkat untuk model 35B-A3B berarti kuantisasi agresif dan offloading, yang memang menjadi tujuan kerja LES dan kuantisasi per lapisan, dan tidak satu pun dari itu ada dalam resep vLLM di atas.

Asimetri itu adalah keputusan praktis bagi sebagian besar tim. Menjalankan MiniCPM-V 4.7 sebagai layanan membutuhkan dua GPU yang Anda miliki; memanggil MoE multimodal hosted yang sebanding tidak memerlukan biaya di muka. Qwen3.6 35B A3B adalah perbandingan langsung yang paling dekat — bentuk 35B-total, 3B-aktif yang sama, konteks 262K yang sama, input gambar dan video — dan model ini dilayani melalui OrcaRouter mulai dari $0.248 per juta token input dan $1.485 per juta token output tergantung pada rute penyedia, dengan failover otomatis jika salah satu rute tersebut menurun. MiniCPM-V 4.7 bukan model hosted di OrcaRouter dan artikel ini tidak akan berpura-pura sebaliknya; penggambaran yang jujur adalah bahwa keduanya merupakan alternatif pada titik keputusan, dan yang hosted adalah yang dapat Anda ukur sore ini.

Apa yang akan membuat ini dapat diperiksa?

Checkpoint DSpark berlisensi Apache-2.0, ukurannya di bawah satu gigabyte, dan disertai perintah serving yang bisa ditempelkan ke terminal hari ini oleh seseorang yang memiliki dua GPU. Kombinasi itu menjadikannya rute termurah untuk mendapatkan angka independen pada MiniCPM-V 4.7 — bukan skor benchmark, melainkan sesuatu yang hampir sama bergunanya: panjang penerimaan yang direproduksi. Jika pihak luar menyamai 5,1 pada MMMU dan 3,5 pada teks umum, kartu model tersebut kredibel dan narasi efisiensi keluarga model ini mendapatkan titik data eksternal pertamanya. Jika penerimaan ternyata jauh lebih rendah, tabel yang dipublikasikan diukur dalam kondisi yang tidak dapat direproduksi oleh resep tersebut, dan klaim 13 token per detik mewarisi keraguan itu.

Yang masih hilang adalah hal yang biasanya menjadi fungsi kartu model. Tidak ada skor MMMU, tidak ada skor OCRBench, tidak ada hasil pemahaman dokumen, tidak ada angka grounding, dan tidak ada angka latensi untuk MiniCPM-V 4.7 itu sendiri — tidak ada apa pun yang menjawab apakah model ini bagus. Tabel model draf tidak bisa menggantikannya, dan membaca panjang penerimaan yang tinggi sebagai sinyal kualitas justru merupakan kesalahan yang diundang oleh angka-angka itu. Prediksi yang menyerupai ChatGPT mudah bagi drafter dan tidak mengatakan apa pun tentang apakah prediksi itu benar.

Jadi: artefak nyata, lisensi nyata, satu bukti terpublikasi yang benar-benar baru tentang sebuah model yang sebelumnya tidak memiliki bukti apa pun — dan celah evaluasi yang lebarnya persis sama seperti pada 7 Oktober. File berikutnya yang perlu diperbarui masih kartu model induknya.