MiniCPM-V 4.7 Mendapatkan Kartu Model: OpenBMB Menerbitkan Tolok Ukur, Lisensi, dan Klaim On-Device

Selama enam hari pertama masa hidupnya, MiniCPM-V 4.7 hanyalah folder 70 GB berisi tensor bfloat16 tanpa README — tanpa kartu model, tanpa tag lisensi, tanpa tabel benchmark, tidak ada apa pun yang memberi tahu Anda untuk apa model itu. Hal itu berubah pada 12 Oktober 2026, ketika OpenBMB melakukan commit atas kartu model lengkap ke openbmb/MiniCPM-V-4.7-35B-A3B, mendeklarasikan lisensi Apache-2.0, menulis ulang README repositori MiniCPM-o untuk mengedepankan seri baru, dan mengumumkannya sebagai rilis MLLM sumber terbuka yang ditujukan untuk perangkat iOS, Android, dan HarmonyOS. Proses dokumentasi yang sama juga menyentuh varian 1B-nya, yang kini membawa struktur kartu yang identik. Tulisan ini membahas delta — apa yang sebenarnya diklaim oleh kartu tersebut, klaim mana di antaranya yang dapat Anda periksa sendiri, dan mana di antaranya yang saat ini hanya ada sebagai piksel di dalam PNG yang dipasok vendor.

Apa yang tiba pada 12 Oktober, dan apa yang sudah ada sebelumnya

Bobot tidak bergerak. openbmb/MiniCPM-V-4.7-1B dibuat pada 6 Oktober 2026 pukul 17:40 UTC dan openbmb/MiniCPM-V-4.7-35B-A3B pada 7 Oktober pukul 07:07 UTC; keduanya masih melaporkan stempel waktu terakhir diubah pada 12 Oktober karena hari terakhir itu dihabiskan untuk prosa, bukan parameter. Log commit pada repositori 35B untuk 12 Oktober adalah sprint dokumentasi: tambahkan kartu model pada 16:08, perbarui kartu model pada 16:15, ganti nama 35BA3B pada 16:23, tambahkan metadata pada 16:26, url aset absolut pada 16:50, empat tambahkan panduan memulai commit hingga 17:07, dan tautkan dok LES pada 17:09. Semua di bawah baris itu dalam riwayat adalah init. Repositori berubah dari delapan belas file dan tanpa kartu menjadi rilis terdokumentasi dengan gambar, bagan evaluasi, instruksi penerapan, dan lisensi, hanya dalam waktu sekitar satu jam.

Itu penting bagi cara Anda membaca pengumuman tersebut, karena pos peluncuran bukanlah hal yang sama dengan peluncuran. Tidak ada yang berubah dari checkpoint itu pada 12 Oktober. Yang berubah adalah MiniCPM-V 4.7 berhenti menjadi unggahan yang tidak dijelaskan dan menjadi produk yang dapat Anda evaluasi di atas kertas.

Dua varian, dan mengapa keduanya bukan rilisan yang sama

Pengumuman itu menjelaskan dua model, dan keduanya secara arsitektur tidak berkaitan di bawah menara visi — yang satu adalah sparse mixture-of-experts, yang lainnya adalah model padat kecil.

• MiniCPM-V 4.7 35B-A3B — 35,2 miliar parameter total sebagai MoE sparse, 256 pakar dengan 8 aktif per token, 40 lapisan teks, ukuran tersembunyi 2.048, 16 head kueri terhadap 2 head kunci/nilai, posisi maksimum 262.144 token, kosakata 248.144.

• MiniCPM-V 4.7 1B — qwen3_5_text backbone padat, 24 lapisan pada hidden size 1.024, 8 head query terhadap 2 head key/value, konteks 262.144 token yang sama, kosakata 248.094, satu file safetensors 3,1 GB.

• Menara visi bersama — minicpmv4_7_vision, 27 lapisan pada ukuran tersembunyi 1.152, ukuran patch 14, ukuran gambar 980, disisipkan pada lapisan 6 dari tumpukan teks.

• Kompresi — pengurangan sampel token visual campuran 4x dan 16x, dengan teknik kompresi awal intra-ViT yang OpenBMB kreditkan ke LLaVA-UHD v4; defaultnya adalah 16x, dan 4x adalah pengaturan detail yang lebih halus.

• Bentuk attention — pola berulang tiga-ke-satu pada kedua varian: tiga linear_attention lapisan diikuti oleh satu full_attention lapisan, sepuluh kali pada 40 lapisan teks model 35B.

• Lisensi — Apache-2.0 pada keduanya, dinyatakan di front matter kartu, yang merupakan pertama kalinya salah satu dari kedua repositori tersebut menyatakan ketentuan sama sekali.

35B-A3B adalah yang ditonjolkan dalam pengumuman, dan itulah yang memiliki kisah rekayasa menarik: inti promosinya adalah bahwa MoE sparse dengan 35 miliar parameter tersimpan dapat dibuat berjalan lancar di ponsel.

Klaim on-device adalah kebaruan sebenarnya, dan ini adalah masalah penjadwalan.

Siapa pun yang pernah mencoba menjalankan MoE di ponsel pasti tahu mode kegagalannya. Parameter total berada di penyimpanan, hanya segelintir yang aktif per token, dan pada perangkat tanpa RAM atau bandwidth untuk menampung semua expert, bobot akan di-paging masuk dan keluar. Hasilnya mendekode dengan kecepatan yang membuat percakapan mustahil. Solusi sementara yang jelas — mengunci router ke subset expert tetap untuk seluruh prompt — membuatnya cepat tetapi diam-diam menghilangkan kemampuan, karena token tidak lagi dapat menjangkau expert yang seharusnya dipilih oleh model.

Jawaban OpenBMB adalah tiga teknik yang digabungkan menjadi satu, dan kartu tersebut sangat spesifik tentang apa yang dilakukan masing-masing:

• Lookahead Expert Scheduling (LES) — prediktor perutean lintas lapisan memuat lebih awal para expert yang kemungkinan dibutuhkan oleh lapisan berikutnya, memprioritaskan di antara para expert yang benar-benar dipilih oleh router sesungguhnya dan menumpang-tindihkan komputasi mereka dengan beban dari apa pun yang masih diperlukan. Kartu ini dengan cermat menyatakan bahwa prediksi hanya menggerakkan prefetch dan penjadwalan; komputasi tetap mengikuti perutean tingkat token milik model itu sendiri, dan para expert yang terlewat oleh prediksi tetap dimuat dan dievaluasi seperti biasa.

• Kuantisasi per lapisan berbutir halus — memperkecil jejak bobot pakar dan lalu lintas memori sehingga pola pemuatan cocok dengan memori dan bandwidth pada perangkat.

• DSpark sampling spekulatif — mengintegrasikan jalur model draf ke dalam loop inferensi perangkat, bersama dengan penjadwalan dan kuantisasi.

Angka utamanya adalah 13+ token per detik pada iPhone 17 Pro Max untuk 35B-A3B. Itu adalah pengukuran vendor, pada perangkat yang belum pernah kami lihat, menggunakan aplikasi yang belum pernah kami jalankan, dan itu adalah satu-satunya angka dalam rilis ini yang paling layak untuk tidak dipegang terlalu kuat sampai seseorang di luar lab mereproduksinya. Itu juga klaim yang menjadi sandaran seluruh kerangka "MoE open-source pertama yang berjalan lancar di perangkat tanpa mengorbankan performa" — klaim yang secara definisi sulit difalsifikasi, karena "tanpa mengorbankan performa" diukur terhadap baseline yang dipilih vendor.

Bagian dari kartu yang benar-benar merupakan informasi baru: daftar ekosistem

Sebelum 12 Oktober, sama sekali belum ada resep penyajian yang diterbitkan. Kartu itu kini mencantumkan kerangka kerja yang diharapkan dapat digunakan oleh model, dan daftarnya cukup luas untuk tetap berguna terlepas dari bagaimana hasil tolok ukurnya:

• Inferensi — SGLang, vLLM, llama.cpp dan Ollama, dengan transformers serve path untuk endpoint lokal yang kompatibel dengan OpenAI dan path OpenVINO untuk Intel CPU, GPU dan NPU.

• Fine-tuning — SWIFT dan LLaMA-Factory, plus resep pelatihan yang oleh OpenBMB disebut Self-Replay Fine-Tuning, diposisikan sebagai cara berbiaya rendah untuk memperluas kemampuan sekaligus membatasi lupa.

• Kuantisasi — GGUF, BNB, AWQ, GPTQ, dan FP8, dengan repositori terpisah yang dipublikasikan untuk varian AWQ, GPTQ, int4, FP8, dan GGUF dari model 35B.

• Perangkat Keras — dukungan day-0 diklaim untuk platform chip Rockchip, Houmo, Intel, AMD, dan Arm, bersama dengan penerapan iOS, Android, dan HarmonyOS.

• Perkakas — buku resep berisi panduan tugas untuk obrolan satu gambar, obrolan multi-gambar, video, OCR, penguraian PDF, dan visual grounding, serta repositori penerapan edge yang menampung aplikasi ponsel.

• Dekode spekulatif — checkpoint draf DSpark terpisah untuk target 35B dan 1B.

Efek praktisnya adalah MiniCPM-V 4.7 berpindah dari "Anda harus menulis loader-nya sendiri" ke "ada jalur yang terdokumentasi di setidaknya empat stack serving." Jika Anda menunggu kartu itu sebelum meluangkan waktu untuk uji coba lokal, penantian itu sudah berakhir; jika Anda menunggu bukti independen bahwa angka di perangkat itu nyata, belum.

Apa yang ditetapkan dan tidak ditetapkan oleh tolok ukur

Bagian evaluasi kartu ini jujur tentang keadaannya: dilaporkan oleh vendor, bukan direproduksi secara independen. Dua klaim perbandingan dibuat secara eksplisit, dan keduanya dinyatakan sebagai perbandingan, bukan skor absolut. Dalam mode Instruct, 35B-A3B diklaim mencapai skor keseluruhan yang lebih tinggi dengan waktu inferensi yang lebih singkat daripada Qwen3.6 35B-A3B — klaim kinerja versus latensi, bukan klaim kualitas mentah. Varian 1B diklaim meningkatkan kemampuan inti MiniCPM-V 4.6 dan secara substansial mengungguli Qwen3.5 0.8B baik pada skor keseluruhan maupun efisiensi inferensi.

Inilah bagian yang layak disorot. Angka sebenarnya tidak ada dalam teks. Bagian evaluasi terdiri atas lima gambar yang ditautkan — bagan performa keseluruhan untuk tugas vision-language model 35B, bagan bahasa, bagan 1B, plot frontier performa-efisiensi, dan GIF perbandingan kecepatan di perangkat — dan teks di sekitar gambar-gambar itu yang membawa narasinya, bukan angka-angkanya. Tidak ada tabel per-benchmark di README, jadi tidak ada skor yang dapat dibaca mesin untuk dikutip, dan akibatnya tidak ada apa pun yang bisa dikutip artikel ini sebagai angka. "Skor keseluruhan yang lebih tinggi daripada Qwen3.6 35B-A3B" adalah sepresisi yang bisa diberikan catatan publik saat ini.

Ada dua konsekuensi. Pertama, MiniCPM-V 4.7 tidak memiliki entri pada papan peringkat pihak ketiga netral yang biasanya kami tuju untuk perbandingan yang diaudit — tidak ada indeks penalaran, tidak ada indeks agentik, tidak ada skor multimodal yang dinilai secara independen. Kedua, agregat yang sedang disusun OpenBMB adalah komposit milik vendor itu sendiri di seluruh kelompok tolok ukur yang dipilihnya, yang berarti klaim "skor keseluruhan lebih tinggi" hanya bermakna sejauh pembobotan di baliknya, dan pembobotan itu juga tidak dipublikasikan. Tak satu pun dari ini membuat angka-angkanya salah. Ini membuatnya tidak diaudit, yang merupakan hal yang berbeda, dan perbedaan itu paling penting justru di titik angka-angkanya paling kuat.

Apa yang dapat Anda verifikasi sendiri, hari ini

Singkirkan pemasarannya, dan ada inti yang solid serta dapat diperiksa, semuanya dapat dibaca dari repositori tanpa perlu mempercayai siapa pun:

• Bita bobot — enam belas shard safetensors pada model 35B dengan total 70.425.903.448 bita, konsisten dengan checkpoint BF16 35,2B; model 1B adalah satu berkas berukuran 3,1 GB.

• Arsitektur — setiap angka struktural di atas ada di config.json, diterbitkan secara terbuka, dan sesuai dengan prosa kartu.

• Lisensi — Apache-2.0, dideklarasikan di front matter kartu dan kini tidak ambigu lagi. Untuk penggunaan komersial, ini adalah baris terpenting dalam rilis ini, dan ini baru.

• Varian terkuantitasi — Repositori AWQ, GPTQ, int4, FP8, dan GGUF sudah tersedia dan dapat diunduh, sehingga skenario penerapannya bukan sekadar teori pada tataran bobot.

• Sinyal adopsi — repositori 35B berada di kisaran 166 unduhan dan 38 suka per 13 Oktober, naik dari angka mendekati nol yang dimilikinya ketika masih berupa unggahan yang tidak dijelaskan, tetapi tetap saja angka yang kecil untuk rilis yang diklaim berada di garis depan Pareto.

Yang tidak dapat Anda verifikasi adalah klaim yang menjadi inti peluncuran ini: bahwa ini adalah MoE sumber terbuka pertama yang berjalan di ponsel tanpa mengorbankan apa pun, pada 13 lebih token per detik. Itu menunggu pihak ketiga dengan iPhone dan stopwatch.

Di mana router cocok, dan di mana tidak

MiniCPM-V 4.7 tidak dilayani oleh OrcaRouter. Ini adalah checkpoint dengan bobot terbuka, yang berarti model itu sendiri adalah sesuatu yang Anda host — di workstation, di kotak GPU, atau di ponsel yang menjadi sasaran model tersebut. Tempat lapisan routing membuktikan nilainya ada di sisi lain dari pengaturan itu: titik ketika model visi yang di-host sendiri memutuskan bahwa kemampuannya sudah tidak memadai dan menyerahkan frame yang sulit kepada sesuatu yang lebih besar. OrcaRouter menempatkan lebih dari 200 model yang di-host di balik satu kunci, meneruskan harga daftar setiap penyedia tanpa markup 0% sehingga perubahan harga vendor langsung berlaku pada hari yang sama, dan otomatis melakukan failover saat penyedia menurun kinerjanya — itulah bentuk yang dibutuhkan oleh pengaturan hibrida, dengan model lokal yang murah mengerjakan pekerjaan rutin dan model yang di-host menyerap kasus-kasus yang tidak dapat ditanganinya.

Tontonan Berikutnya

Tiga hal akan mengubah rilis ini dari klaim yang terdokumentasi menjadi fakta yang mapan. Pengukuran independen di perangkat untuk model 35B — seseorang dengan iPhone 17 Pro Max, aplikasi yang telah dipublikasikan, dan pengukuran waktunya sendiri — akan memastikan angka yang menjadi tumpuan seluruh promosi ini. Tabel per benchmark dengan skor aktual, bukan grafik, akan memungkinkan klaim Pareto diperiksa terhadap baseline yang disebutkannya. Dan pengujian pada papan peringkat netral akan menempatkan MiniCPM-V 4.7 bersanding dengan model-model yang dievaluasi dalam kondisi yang tidak ia pilih. Sampai saat itu, ringkasan jujurnya adalah bahwa OpenBMB merilis model nyata, berlisensi Apache-2.0, terdokumentasi dengan baik, dengan kisah efisiensi yang kredibel namun belum terbukti, dan perbedaan antara kedua hal itu persis sama dengan perbedaan antara kartu dan benchmark.