MiniCPM-V 4.7 vs Moondream 3.1 9B A2B: Sepekan Sebelum Salah Satunya Kehilangan API-nya

On 13 November 2026, Moondream Cloud shuts down. That is thirty days after Moondream announced it was joining Prime Intellect, and it is the single most decision-relevant fact in any comparison between Moondream 3.1 9B A2B and MiniCPM-V 4.7 today. One of these models is a hosted service that is about to stop being hosted. The other was never a hosted service to begin with: OpenBMB published MiniCPM-V 4.7 as open weights on 6 and 7 October 2026, added the model card and an Apache-2.0 licence on 12 October, and left serving to you.

That asymmetry inverts the usual comparison. On a spec sheet, Moondream 3.1 9B A2B is a 9-billion-parameter sparse model with about 2 billion active, built around structured perception primitives, and MiniCPM-V 4.7 35B-A3B is a 35.2-billion-parameter mixture of experts with roughly 3 billion active, built around reading images, documents and video in a 262,144-token context. On a procurement sheet, one has a published per-token price for another seven days and the other has no price at all. Both facts are true at once, and which one you weight depends on whether you are prototyping or operating.

Untuk apa sebenarnya setiap model

Moondream 3.1 9B A2B shipped on 7 July 2026. According to the vendor's own model page it is a sparse mixture of experts — eight experts with top-2 routing plus one shared expert, 9.0B total and 2.0B active per token — with a 32,768-token context and a deliberate restriction: one image per call, text out, no native video and no multi-image reasoning. What it does instead of prose is answer in structure. Its native skills are query, caption, point, detect and segment, and the point and detect outputs are coordinates, which is why the benchmark table is full of detection F1 rather than caption scores.

MiniCPM-V 4.7 adalah taruhan yang berlawanan. Model ini menerima satu gambar, banyak gambar, dan video, menampung seperempat juta token konteks, serta menjawab dalam bahasa. Angka-angka terbitan OpenBMB adalah angka pemahaman: 80,2 pada MMMU, 91,2 pada OCRBench, 75,6 pada penalaran CharXiv, 68,9 pada LongVideoBench, 86,5 pada MathVerse. Tidak ada primitif point, detect, atau segment di kartu model. Jika Anda ingin kotak di sekitar kucing, Anda memintanya dengan kata-kata dan mengurai kata-katanya.

• Konteks — 32.768 token pada Moondream 3.1 9B A2B dibandingkan dengan 262.144 pada MiniCPM-V 4.7 35B-A3B.

• Input — satu gambar per panggilan untuk Moondream, dibandingkan dengan satu gambar, banyak gambar, dan video untuk MiniCPM.

• Bentuk keluaran — kueri terstruktur, keterangan, titik, hasil deteksi dan segmentasi untuk Moondream, dibandingkan dengan teks bebas untuk MiniCPM.

• Lisensi — {{1}}Moondream Model License 1.0{{/1}} mengizinkan penggunaan komersial, hosting mandiri, dan fine-tuning, serta membatasi penyediaan inferensi Moondream serbaguna sebagai layanan yang dihosting; {{2}}MiniCPM-V 4.7{{/2}} berlisensi Apache-2.0 tanpa klausul semacam itu.

• Bobot di disk — checkpoint sparse 9B untuk Moondream, dibandingkan dengan sekitar 70 GB bobot BF16 yang tersebar di 16 shard untuk MiniCPM-V 4.7 35B-A3B, atau 3,1 GB untuk saudara 1B-nya.

Tebing 13 November, dan apa yang sebenarnya berubah

Akuisisi itu diumumkan oleh Prime Intellect pada 13 Oktober 2026 dan oleh Moondream sehari kemudian. Bobot terbuka tetap terbuka di bawah lisensi yang sama, hosting mandiri melalui Photon tetap gratis, dan Moondream tetap menjadi merek untuk model multimodal kecil di dalam Prime. Yang ditutup adalah cloud terkelola: inferensi dan fine-tuning Lens keduanya berakhir pada 13 November, dengan kredit yang belum terpakai dikembalikan dan pelanggan diarahkan ke platform perusahaan pengakuisisi.

For a team that built against the hosted endpoint, that is a migration with a date on it. The weights do not disappear, but the operational shape does: no per-token bill, no managed scaling, no vendor-side latency guarantee. The published cloud price list puts Moondream 3.1 9B A2B at 0.30 dollars per million input tokens and 1.00 dollar per million output tokens on the real-time tier, half that in batch, which was cheap enough that self-hosting rarely pencilled out for low volume. After 13 November the comparison is not price against price; it is a GPU you own against a model you call.

MiniCPM-V 4.7 tidak pernah memiliki lapisan terkelola itu. Satu-satunya jalur penyajian pihak pertama adalah API ModelBest milik OpenBMB sendiri, yang digunakan oleh build pemantau kucing esp32-eye untuk pemeriksaan identitas 35B-nya, dan sisanya adalah vLLM, SGLang, llama.cpp, atau Ollama di perangkat keras yang Anda sediakan. Itu lebih banyak kerja di awal dan lebih sedikit terpapar kalender korporat orang lain. Mengingat tiga puluh hari terakhir, sifat kedua itu bernilai.

Tolok ukur yang tidak pernah terpenuhi

There is no shared benchmark between these two models, and the two tables measure different competences. Moondream's numbers are its own, measured with its own Photon engine on a single H100 at batch 16, and the tasks are detection and counting: 81.46 on COCO, 93.94 on ODinW-13, 74.61 on Dense200, 90.35 on CountBench, 88.68 on PixMo-Count, 87.1 on RefCOCO-M. Its document numbers — 88.6 DocVQA, 86.01 ChartQA — are respectable and well below its detection scores. Its maths is simply absent: the release notes report no GSM8K or other arithmetic benchmark at all, so there is no maths number to compare and no evidence either way.

Angka-angka MiniCPM adalah milik OpenBMB, diterbitkan sebagai poin-poin prosa dan gambar grafik di halaman model vendor, tanpa tabel numerik dan tanpa reproduksi independen. Kekuatannya adalah kebalikan dari Moondream: 91.2 OCRBench, 75.6 penalaran CharXiv, 68.9 LongVideoBench, 80.2 MMMU. Ia tidak menerbitkan F1 deteksi, skor penghitungan, maupun hasil matting atau segmentasi, karena ia tidak melakukan hal-hal itu secara native.

Satu-satunya tempat keduanya dapat dibandingkan adalah OCR, dan bahkan di sana pun harness-nya berbeda. Moondream melaporkan 88.6 pada DocVQA, skor tanya jawab dokumen; MiniCPM melaporkan 91.2 pada OCRBench, skor pengenalan teks. Itu bukan tes yang sama dan tidak semestinya dikurangkan. Siapa pun yang menaruhnya dalam satu kolom sedang menghasilkan angka yang tidak berarti apa-apa.

Di mana masing-masing rusak

Batasan Moondream yang terdokumentasi bersifat spesifik dan berguna: teks lebih kecil dari sekitar sepuluh piksel, objek lebih kecil dari sekitar dua belas piksel, lebih dari lima puluh instance dalam satu frame, dan tidak ada video native. Itu adalah batas-batas primitif persepsi, dan itu jujur. Jika gambar Anda adalah foto produk, foto rak, citra udara, atau adegan ramai, itu menjelaskan mode kegagalan Anda sebelum Anda mencapainya.

Batasan MiniCPM-V 4.7 kurang didokumentasikan secara rinci, dan itu sendiri merupakan sebuah temuan. Kartu model mengklaim inferensi di perangkat pada 13 token atau lebih per detik di iPhone 17 Pro Max dengan penggunaan memori sekitar 3 GB, angka yang bergantung pada Lookahead Expert Scheduling, kuantisasi per lapisan, dan decoding spekulatif DSpark yang semuanya bekerja bersama, dan yang belum direproduksi oleh pihak ketiga mana pun. Build esp32-eye, deployment publik paling rinci, menemukan bahwa varian saudara 1B tidak andal dalam membedakan empat kucing yang mirip dan memindahkan identitas ke 35B. Itu adalah hasil negatif yang berguna: varian kecil adalah detektor keberadaan, bukan pengenal yang terperinci.

Ada juga asimetri perangkat keras. Moondream 3.1 adalah model sparse 9B yang berjalan dengan nyaman pada satu GPU modern melalui Photon, dan mesinnya adalah alasan vendor dapat mengklaim 34 permintaan per detik pada batch 16. MiniCPM-V 4.7 35B-A3B membutuhkan VRAM yang besar atau mekanisme streaming-expert yang dibuat OpenBMB untuk ponsel, dan saudara 1B-nya hampir tidak membutuhkan apa pun. Memilih di antara keduanya berdasarkan perangkat keras sebenarnya adalah memilih antara satu model berukuran menengah dan satu keluarga dua ukuran.

Jika Anda mengimplementasikan minggu ini

Pohon keputusannya singkat. Jika tugas Anda adalah "menemukan, menghitung, atau membuat garis luar objek dan mengembalikan koordinat", Moondream 3.1 9B A2B adalah alat yang lebih langsung, dan tanggal 13 November hanya mengubah tempat Anda menjalankannya: di-self-host melalui Photon, di bawah lisensi yang melarang menjual kembali inferensi Moondream untuk tujuan umum. Jika tugas Anda adalah "baca dokumen ini, dasbor ini, atau video ini dan beri tahu saya apa isinya", MiniCPM-V 4.7 35B-A3B lebih cocok, dan itu sejak awal merupakan keputusan self-hosting.

Jika Anda tidak ingin berkomitmen pada keduanya, jalur pragmatisnya adalah model serbaguna terkelola untuk pekerjaan pembacaan sambil Anda mengevaluasi bobot terbuka pada data Anda sendiri. Di sinilah sebuah router berguna: OrcaRouter menyediakan lebih dari 200 model di balik satu kunci dengan markup 0% dari harga daftar penyedia, dengan failover otomatis, sehingga sebuah pipeline tidak terikat pada keberlangsungan satu upstream saja. Baik Moondream 3.1 9B A2B maupun MiniCPM-V 4.7 tidak ada dalam katalog tersebut saat ini, jadi ini adalah saran tentang arsitektur di sekitarnya, bukan klaim bahwa kami menyediakan salah satu model tersebut.

Apa yang ditunjukkan bulan lalu adalah bahwa ketersediaan model kini menjadi soal rantai pasok. Sebuah model bisa sangat baik, open-weight, dan terdokumentasi dengan baik, tetapi tetap kehilangan endpoint terkelolanya dengan pemberitahuan tiga puluh hari karena perusahaan yang membangunnya diakuisisi. Tim yang menangani hal itu dengan baik adalah tim yang kodenya memiliki base URL di file konfigurasi dan opsi kedua di belakangnya.

Ringkasan yang adil adalah bahwa ini bukan pengganti. Moondream 3.1 9B A2B adalah komponen persepsi dengan hitungan waktu yang berjalan pada versi hosted-nya; MiniCPM-V 4.7 adalah model pembacaan dengan dua ukuran dan tanpa versi hosted yang bisa hilang. Pilih pekerjaannya dulu, lalu pilih modelnya, lalu periksa apakah hal yang Anda pilih masih akan menjawab Jumat depan.