MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni: Sembilan Belas Bulan Kemudian, Salah Satunya Masih Mendengarmu

Letakkan MiniCPM-V 4.7 35B-A3B di samping Qwen2.5-Omni pada lembar spesifikasi dan model yang lebih baru menang hampir di setiap baris. Model ini memiliki konteks delapan kali lebih besar, arsitektur sparse yang mengaktifkan seperdua belas parameternya per token, dan satu dekade perkakas inferensi yang belum ada saat model lama dirilis. Lalu Anda sampai ke baris audio, dan MiniCPM-V 4.7 35B-A3B sama sekali tidak punya apa pun di sana. Qwen2.5-Omni, yang dirilis pada akhir Maret 2025, menerima audio dan mengalirkan kembali ucapan alami sebagai keluaran; MiniCPM-V 4.7, yang bobotnya muncul pada Oktober 2026, menerima teks, gambar, dan video serta mengembalikan teks. Sembilan belas bulan kemajuan pada pasangan khusus ini tidak menghasilkan model omni yang lebih baik. Yang dihasilkan adalah model visi yang lebih baik yang tidak melakukan hal yang menjadi inti perancangan model lama.

Pembingkaian itu bukanlah celaan terhadap salah satu dari keduanya. Itulah keseluruhan bentuk perbandingannya, dan itulah sebabnya pembaca yang membutuhkan suara dan pembaca yang perlu membaca seribu halaman hasil pindai seharusnya berakhir dengan jawaban yang berbeda. Soal sumber: angka-angka Qwen2.5-Omni berasal dari pihak vendor, dari Maret 2025, kini berusia sembilan belas bulan dan sebagian tervalidasi oleh penerapan yang luas. Angka-angka MiniCPM-V 4.7 35B-A3B adalah milik OpenBMB, dipublikasikan di kartu model pada 12 Oktober 2026 — kartu pertamanya, sepuluh hari setelah bobotnya pertama kali muncul — dan tak satu pun darinya telah direproduksi di luar laboratorium.

Apa sebenarnya model lama itu

Qwen2.5-Omni adalah model omni-modal end-to-end pertama dalam lini tersebut, dan kerangka vendor saat itu eksplisit: itu adalah jawaban untuk masalah "kebun binatang spesialis", di mana transkripsi, penglihatan, dan suara masing-masing memerlukan model terpisah dan lapisan perekat terpisah. Model 7B menerima teks, gambar, audio, dan video sebagai input dan membalas dalam teks atau dalam ucapan alami streaming, dengan dua suara tetap, Chelsie dan Ethan. Model ini mengklaim hasil terbaik (state-of-the-art) pada tolok ukur fusi OmniBench mengungguli Gemini-1.5-Pro, dan skor kualitas pembangkitan ucapan 4,51 yang digambarkan vendor sebagai tingkat manusia.

Rekayasa itu terbukti kokoh karena dirancang untuk keterbatasan tersebut, bukan untuk menghindarinya. Thinker-Talker membagi pekerjaan menjadi dua: transformer Thinker menggabungkan encoder audio dan gambar serta menghasilkan semantik dan teks, sementara Talker menyalurkan token ucapan secara streaming dari hidden state Thinker dan berbagi seluruh riwayat percakapan. RoPE multimodal yang selaras waktu menyisipkan posisi video dan audio secara bergantian sehingga kedua aliran tetap sinkron, dan streaming berbasis blok memungkinkan encoder melakukan pekerjaan persepsi sementara model bahasa menangani sekuens panjang — itulah yang membuat balasan lisan berlatensi rendah mungkin terjadi.

Batasan-batasan itu sama nyatanya, dan batasan itu adalah memori, bukan konteks. Tabel milik vendor sendiri memperkirakan inferensi BF16 dengan FlashAttention-2 memerlukan sekitar 31 GB memori GPU untuk video 15 detik, 42 GB untuk 30 detik, dan 60 GB untuk satu menit penuh, dibandingkan dengan jendela konteks 32.768 token. Satu menit video pada model 7B, di salah satu GPU tunggal terbesar yang dapat Anda sewa, adalah angka yang perlu terus diperhatikan — itulah angka yang segala hal setelahnya dibangun untuk menghancurkannya.

Apa yang dilakukan model baru sebagai gantinya

MiniCPM-V 4.7 35B-A3B mengambil arah yang sama sekali berbeda. Ini adalah MoE pertama OpenBMB dalam seri MiniCPM-V: 256 pakar dengan 8 pakar aktif per token di 40 lapisan, jendela konteks 262.144 token, dan kosakata 248.144 token, yang berarti sekitar 3B parameter aktif dari total 35,2B. Visi diproses melalui modul SigLIP2 dengan kompresi awal intra-ViT LLaVA-UHD v4 dan mode kompresi token campuran 4x/16x yang dapat dipilih — 16x secara bawaan, 4x saat detail halus sepadan dengan token yang dibutuhkan. Model ini menangani gambar tunggal, kumpulan multi-gambar, dan video. Model ini menjawab dalam bentuk teks.

Klaim utama kartu tersebut adalah bahwa ini adalah model MoE open-source pertama dengan inferensi di perangkat yang lossless dan mulus, yang dicapai melalui Lookahead Expert Scheduling, kuantisasi per lapisan berbutir halus, dan pengambilan sampel spekulatif melalui draf DSpark yang terpisah, dengan 13+ token per detik yang dilaporkan pada iPhone 17 Pro Max. Angka itu dilaporkan vendor, belum direproduksi, dan tanpa kualifikasi — tidak ada format kuantisasi, tidak ada build, tidak ada prompt, tidak ada metode pengukuran. Kartu tersebut juga mengklaim skor keseluruhan mode Instruct yang lebih tinggi daripada Qwen3.6 35B-A3B dalam waktu inferensi yang lebih singkat, dan klaim itu ditampilkan di dalam gambar grafik, bukan tabel, sehingga tidak dapat dikutip sebagai angka dan tidak boleh diperlakukan sebagai angka.

Tujuh dimensi, kedua sisi

• Modalitas masukan — Qwen2.5-Omni menerima teks, gambar, audio, dan video; MiniCPM-V 4.7 35B-A3B menerima teks, gambar, dan video, tanpa jalur audio sama sekali.

• Keluaran — teks ditambah ucapan alami streaming dalam dua suara tetap, dibandingkan dengan teks saja.

• Konteks — 32.768 token dibandingkan 262.144, peningkatan delapan kali lipat.

• Parameter — angka 7B yang dipakai vendor untuk menamai model ini, dibandingkan dengan total 35,2B dengan 3B aktif di sisi MiniCPM. Repositori itu sendiri mencantumkan 11B parameter untuk checkpoint tersebut, karena angka 7B menghitung model bahasa dan tidak menghitung encoder visi dan audio yang berada di sampingnya — pengingat yang berguna bahwa "7B" di sini adalah nama sekaligus ukuran.

• Jejak memori — tabel milik vendor sendiri menunjukkan sekitar 31 GB untuk video 15 detik dan 60 GB untuk satu menit; MiniCPM-V 4.7 sekitar 70 GB bobot BF16 sebelum ada KV cache, itulah sebabnya build terkuantisasi dan narasi on-device-nya memikul begitu banyak bagian dari kartu ini.

• Lisensi — Apache-2.0 pada keduanya, yang merupakan satu-satunya poin di mana keduanya sepakat tanpa syarat.

• Perkakas deployment — sembilan belas bulan kuantisasi komunitas dan perkakas untuk dukungan SGLang, vLLM, llama.cpp, Ollama, dan OpenVINO, build GGUF/BNB/AWQ/GPTQ/FP8, serta aplikasi iOS, Android, dan HarmonyOS.

• Evaluasi publik — posisi OmniBench berusia sembilan belas bulan sebesar 0,561 yang telah banyak dikutip, dibandingkan dengan kartu yang sama sekali tidak memiliki tabel evaluasi yang dapat dikutip.

Lubang audio adalah keseluruhan keputusannya

Jika pipeline Anda membutuhkan model yang bisa mendengar sesuatu, perbandingan ini selesai di paragraf pertama. Qwen2.5-Omni adalah satu-satunya dari keduanya yang menerima audio, satu-satunya yang berbicara, dan satu-satunya dengan tumpukan teknologi ucapan yang mapan — Thinker-Talker, TMRoPE, streaming blok demi blok, dua suara tetap — di belakangnya. Ini juga satu-satunya dari keduanya yang telah diterapkan siapa pun dalam skala besar, dan sembilan belas bulan kuantisasi serta perkakas komunitas lebih bernilai daripada lembar spesifikasi ketika Anda berusaha memasukkan model ke dalam aplikasi pada kuartal ini.

Apa yang ditawarkan MiniCPM-V 4.7 sebagai gantinya adalah memori yang jauh lebih panjang dan profil komputasi per token yang jauh lebih murah untuk dokumen visual yang panjang. Jendela 262K dan 3B parameter aktif adalah instrumen yang benar-benar berbeda dari jendela 32K pada model padat 7B — dan untuk beban kerja yang berupa ribuan gambar halaman, tangkapan layar, atau transkrip video panjang, bentuk model yang lebih baru adalah yang tepat. Hanya saja, ia tidak bisa menjadi model yang menjawab telepon.

Itulah pertukarannya, dinyatakan dengan gamblang: jangkauan versus keluasan. Model lama mencakup lebih banyak makna. Model baru mencakup lebih banyak halaman.

Dua jejak bukti yang sangat berbeda

Di sini asimetrinya berjalan ke arah sebaliknya, dan ada baiknya bersikap tepat soal itu.

Angka-angka Qwen2.5-Omni sudah cukup lama sehingga sebagian telah tervalidasi melalui penggunaan. Model berusia sembilan belas bulan dengan posisi tolok ukur yang banyak dikutip, satu dekade kuantisasi hilir, dan basis terpasang yang besar bukanlah kuantitas yang terbukti dalam pengertian formal apa pun, tetapi klaim-klaimnya sudah lama memiliki waktu untuk dibantah dan belum terbantahkan. Angka-angka memorinya secara khusus diterbitkan sebagai batasan rekayasa, bukan sebagai pemasaran, dan angka-angka itu berperilaku seperti batasan rekayasa.

Angka-angka MiniCPM-V 4.7 sudah dua minggu dan nol verifikasi eksternal. Model itu hadir tanpa dokumentasi pada 6 Oktober, dan kartu model, lisensi, serta bagian klaimnya baru muncul pada 12 Oktober. Masih belum ada tabel evaluasi, belum ada laporan teknis, dan belum ada pihak ketiga yang menerbitkan hasil. Satu-satunya tempat dengan angka terbitan yang nyata adalah checkpoint draf DSpark yang terpisah, yang angka accepted-tokens-per-step-nya milik OpenBMB sendiri dan yang belum diterbitkan lab tersebut untuk model induknya.

Jadi, sikap yang benar terhadap model baru adalah: anggap arsitekturnya sudah diketahui (ada di file konfigurasi), anggap distribusinya nyata (bobotnya tersedia dalam enam format), dan anggap setiap angka kinerja sebagai klaim yang menunggu pendapat kedua. Bagian terakhir itu bukan kondisi permanen. Itu hanya keadaan per 13 Oktober.

Menjalankan salah satunya, dan untuk apa router itu

Kedua hal ini adalah file yang Anda layani sendiri. Baik MiniCPM-V 4.7 35B-A3B maupun Qwen2.5-Omni tidak ada dalam katalog terhosting OrcaRouter, dan tidak ada apa pun di sini yang boleh dibaca sebagai klaim bahwa kami merutekannya — MiniCPM-V 4.7 adalah checkpoint berusia dua minggu yang memerlukan dua akselerator untuk dijalankan tanpa kuantisasi, dan Qwen2.5-Omni adalah model berbobot terbuka tahun 2025 yang rumah praktisnya adalah instans vLLM yang Anda operasikan.

Di sinilah sebuah router membuktikan kegunaannya: di sisi lain dari garis tersebut. Sebagian besar tim yang menjalankan model visi yang dihosting sendiri tetap membutuhkan model hosted untuk kasus-kasus yang tidak dapat ditangani model lokal — penalaran jangka panjang, penggunaan alat, dan input audio yang tidak diterima MiniCPM-V 4.7. OrcaRouter menempatkan lebih dari 200 model hosted di balik satu kunci, meneruskan harga daftar setiap penyedia tanpa markup dari kami, dan melakukan failover secara otomatis ketika penyedia mengalami penurunan kinerja, yang berarti menambahkan model kedua itu hanyalah perubahan routing dan bukan kontrak kedua. Bentuk hosted yang paling mendekati model MiniCPM adalah Qwen3.6 35B A3B — total 35B, 3B aktif, konteks 262K, input teks-gambar-video — dengan harga $0,25 per juta token input dan $1,48 per juta token output, yang merupakan tolok ukur yang wajar untuk seberapa besar penghematan yang sebenarnya Anda dapatkan dari self-hosting.

Yang mana, dan kapan

Pilih Qwen2.5-Omni jika Anda sama sekali membutuhkan audio atau ucapan, jika Anda menginginkan model yang sudah memiliki sembilan belas bulan penerapan, atau jika 32K token dan batas 60 GB untuk video berdurasi satu menit masuk ke dalam anggaran Anda. Keterbatasannya sudah diketahui dan terdokumentasi, yang justru menjadi keunggulan saat Anda sedang merilis produk.

Ambil MiniCPM-V 4.7 35B-A3B jika masalah Anda adalah konteks visual yang panjang dan keluaran teks, jika Anda menginginkan lisensi permisif, dan jika Anda bersedia menjadi pengadopsi awal — karena itulah peran yang akan Anda ambil. Belum ada pihak ketiga yang menjalankannya, klaim on-device belum direproduksi, dan tolok ukurnya belum ada. Sebagai gantinya, Anda mendapatkan model multi-runtime yang terdokumentasi dan dapat dikuantifikasi dengan jendela 262K dan narasi efisiensi yang masuk akal, dan Anda bisa menjadi orang yang menemukan apakah narasi itu bertahan.

Apa yang akan mengubah jawabannya: tabel benchmark dari OpenBMB, atau panjang acceptance yang direproduksi dari draf DSpark — tetap merupakan rute termurah menuju angka eksternal pada keluarga ini. Yang tidak akan mengubah jawabannya adalah waktu tambahan. Sembilan belas bulan tidak memberi MiniCPM-V 4.7 kemampuan untuk mendengar, dan tidak ada apa pun di peta jalan yang menunjukkan hal itu akan datang.