Ming-3.0-audio-flash vs MiniCPM-V 4.7: Model yang Mendengar dan Model yang Muat di Kantong Anda

Jika Anda memilih antara Ming-3.0-audio-flash dan MiniCPM-V 4.7 35B-A3B, keputusannya tidak tipis pada dimensi apa pun yang biasanya Anda pertimbangkan, karena keduanya tidak bersaing untuk slot yang sama. Yang satu adalah campuran pakar audio-bahasa dengan 126 miliar parameter — 6,5 miliar aktif — yang diunggah inclusionAI pada 3 September 2026 dan didokumentasikan enam minggu kemudian, serta membutuhkan delapan GPU 80 GB dalam konfigurasi referensinya. Yang lainnya adalah model visi-bahasa sparse dengan 35,2 miliar parameter yang dirilis OpenBMB di Hugging Face pada malam 6 Oktober 2026 tanpa kartu model sama sekali, lalu OpenBMB menerbitkan kartunya pada 12 Oktober, dan model ini mengklaim dapat mendekode lebih dari 13 token per detik di iPhone 17 Pro Max menggunakan sekitar 3 GB memori. Yang satu mendengarkan dan berada di rak. Yang lain melihat dan muat di telapak tangan. Yang membuat keduanya layak ditempatkan di halaman yang sama adalah keduanya dirilis secara senyap oleh laboratorium Tiongkok dalam enam minggu yang sama, keduanya berbobot terbuka, dan keduanya sedang dievaluasi oleh tim yang memiliki tepat satu slot dalam arsitektur mereka. Kegagalan AI dan insiden deployment yang terdokumentasi di balik perbandingan seperti ini dikumpulkan dalam OrcaRouter AI Incident Archive di mana setiap entri mencantumkan sumbernya sendiri, tingkat keparahan, tingkat keyakinan, dan penanda sengketa.

Aturan keputusannya di depan, lalu bukti untuk itu. Jika inputnya berupa suara — panggilan, rapat, dialek, musik, sulih suara hasil generasi yang perlu Anda verifikasi — hanya salah satu dari model ini yang bisa memulai. Jika inputnya berupa gambar, dokumen, bagan, tangkapan layar, atau frame video, hanya model lainnya yang bisa. Tumpang tindihnya adalah pipeline yang menangani keduanya, dan dalam pipeline itu keduanya merupakan dua tahap, bukan dua kandidat. Setiap angka di bawah ini dilaporkan oleh vendor: milik inclusionAI dari gambar evaluasinya sendiri, milik OpenBMB dari kartu yang diterbitkan pada 12 Oktober, dan keduanya belum direproduksi oleh pihak ketiga.

Apa yang masing-masing enggan lakukan

Cara tercepat untuk melihat perbedaannya adalah dengan mendaftar hal-hal yang tidak akan diterima masing-masing model, karena daftar spesifikasi ditulis untuk menyembunyikan hal ini.

• Ming-3.0-audio-flash tidak akan melihat apa pun. Inputnya adalah instruksi audio dan teks; tidak ada encoder gambar di repositori, tidak ada menara visi dalam konfigurasi, dan tidak ada jalur video karena unggah ulang 15 Oktober menghapus varian video-bahasa dan token patch-nya. Jika sebuah frame penting, model ini buta terhadapnya.

• MiniCPM-V 4.7 35B-A3B tidak akan mendengarkan apa pun. Model ini diberi tag image-text-to-text, prosesornya menangani gambar dan frame video, dan tidak ada audio tower, tidak ada jalur ASR, dan tidak ada head T​TS di mana pun dalam 70,4 GB bobotnya. File WAV bukanlah input yang memiliki representasi di dalamnya.

• Ming-3.0-audio-flash tidak akan menghasilkan gambar, hasil edit, atau aset 3D. Keluaran opsionalnya di luar teks adalah ucapan, melalui modul Talker dengan suara bawaan dan suara referensi.

• MiniCPM-V 4.7 35B-A3B tidak akan berbicara. Ia membaca halaman dan menjawab dalam teks. Untuk suara, Anda perlu menambahkan sintesiser terpisah, yang merupakan keputusan produk berbeda.

Itulah keseluruhan bentuk perbandingannya. Segala hal lainnya — konteks, sparsitas, lisensi, perangkat keras — bersifat sekunder dibandingkan fakta bahwa himpunan modalitasnya tidak saling beririsan.

Dua cara yang sangat berbeda untuk bersifat jarang

Kedua model adalah rancangan mixture-of-experts, dan kata itu menyembunyikan pertaruhan rekayasa yang saling bertolak belakang.

Ming-3.0-audio-flash bersifat sparse karena ukurannya yang sangat besar: 42 lapisan, ukuran tersembunyi 2.560, 512 expert dengan 8 dipilih per token, total 126B dan 6,5B aktif, ditambah encoder audio bergaya Whisper dengan 32 lapisan dan lebar 1.280 dengan 128 bin mel. Sparsitas ini memberi throughput pada model yang jika tidak demikian akan tidak dapat dilatih dan tidak dapat dilayani. Namun tidak membuatnya kecil. Dua puluh lima shard bfloat16 ditambah sepasang Talker dan VAE mencapai sekitar 259 GB di disk, dan profil penyajian 128K dari vendor adalah paralelisme tensor di delapan H800 80 GB.

MiniCPM-V 4.7 35B-A3B bersifat sparse karena alasan yang sebaliknya: 35,2 miliar parameter tersimpan yang dirutekan 8-dari-256 per token, melintasi 40 lebih lapisan teks dengan pola attention tiga-linier-ke-satu-penuh, di balik menara visi 27 lapisan pada hidden size 1.152 yang disisipkan pada lapisan ke-6 tumpukan teks. Klaim yang melekat pada desain itu bukanlah throughput pada kluster, melainkan kelayakan di ponsel. Lookahead Expert Scheduling dari OpenBMB memprediksi pakar mana yang akan dibutuhkan lapisan berikutnya, melakukan prefetch, dan menumpang-tindihkan pemuatan dengan komputasi — jenis trik yang hanya Anda ciptakan ketika hambatan utamanya adalah bandwidth memori pada perangkat genggam, bukan FLOP di pusat data.

• Total parameter — Ming-3.0-audio-flash 126B; MiniCPM-V 4.7 35B-A3B 35,2B.

• Parameter aktif — 6,5B dibandingkan dengan sekitar 3B (8 dari 256 ahli ditambah satu ahli bersama).

• Konteks — 131.072 token dibandingkan 262.144.

• Bobot di disk — sekitar 259 GB dibandingkan 70,4 GB di 16 pecahan.

• Perangkat keras referensi — delapan H800 80 GB dibandingkan dengan iPhone 17 Pro Max pada 13+ token per detik dan sekitar 3 GB.

• Lisensi — MIT versus Apache-2.0, keduanya dicantumkan dalam kartu masing-masing.

Di mana karya berbahasa Mandarin sebenarnya berbeda

Kedua model dikembangkan oleh laboratorium Tiongkok dan keduanya paling kuat dalam bahasa Tionghoa, tetapi mereka unggul dalam hal yang berbeda, dan tabel dari vendor membuatnya luar biasa jelas.

Ming-3.0-audio-flash paling kuat tepat di area yang membuat pemrosesan ucapan menjadi sulit. Pada gambar evaluasinya sendiri, model ini melaporkan rata-rata ASR bahasa Mandarin dengan tingkat kesalahan 3.45 dan rata-rata dialek 9.40 — Kanton 4.09, Shanghai 11.15, Hokkien 12.84, Hubei 9.46, Hunan 8.76 — dibandingkan dengan referensi Gemini 3.8 Flash sebesar 48.41 pada rata-rata dialek. Gambar yang sama menunjukkan model ini kalah pada diarisasi pembicara (AMI 25.29 versus 11.16 untuk MiMo-V2.6 Pro) dan pada penalaran audio panjang (skor Chain 12.31 versus 34.54 untuk Qwen3.8-Omni Flash). Jadi pembacaan yang jujur adalah: sangat baik dalam transkripsi beraksen, biasa saja dalam menentukan siapa yang berbicara dan apa maksud rekaman.

MiniCPM-V 4.7 35B-A3B paling kuat pada teks Mandarin visual yang padat: OCRBench 91.20, OCRBench_v2 68.47, OmniDocBench v1.6 94.24, CCOCR 81.14, MMMU 80.22, MathVista 88.00, CharXiv reasoning 75.60, TextVQA 84.99 — semuanya dari grafik OpenBMB sendiri, semuanya belum direproduksi, dan beberapa baris ditandai sebagai mengalahkan model kelas 35B Q​wen dan G​emma dengan selisih tipis. Mekanismenya adalah downsampling token campuran 4x/16x pada menara visi: 16x menggabungkan token demi kecepatan, 4x mempertahankan empat kali lebih banyak untuk detail halus, dan pengaturan ini harus diteruskan ke processor maupun generate() atau keduanya akan tidak konsisten.

Oleh karena itu, tumpang tindih dalam kemampuan bahasa Mandarin sempit tetapi nyata: dokumen Mandarin yang dipindai dengan catatan suara terlampir merupakan masalah dua model, dan tidak ada satu pun model yang menangani separuh lainnya.

Berapa biayanya untuk menerapkan salah satunya ke produksi

Ini bukan angka-angka yang dapat dibandingkan, dan berpura-pura sebaliknya adalah kegagalan yang lazim dalam tulisan semacam ini.

Ming-3.0-audio-flash memakan satu node. Delapan H800 80 GB adalah profil vendor untuk konteks 128K; alternatif SGLang yang sudah tervalidasi menggunakan empat GPU dan hanya mengembalikan teks. Saudaranya, Ming-3.0-audio-tiny, dengan total 9,3B parameter dan 2,7B aktif, muat di satu kartu besar, tetapi angka-angka yang dipublikasikan secara konsisten lebih buruk pada tabel yang sama — Chain audio panjang 10,56 versus 12,31, LongAudioSpan 35,45 versus 41,12, URO-Bench-Pro 54,15 versus 81,92 — jadi ini produk yang berbeda, bukan versi yang lebih murah.

MiniCPM-V 4.7 35B-A3B hanya membutuhkan sebuah ponsel, satu GPU, atau tidak sama sekali jika pengguna Anda membawa perangkatnya sendiri. Model ini memiliki ekosistem aktif yang tidak dimiliki Ming: varian GGUF, FP8, int4, GPTQ, dan AWQ yang terbit dalam hitungan hari, model draf speculative-decoding DSpark, dukungan di llama.cpp dan Ollama serta vLLM dan SGLang, 76.000 unduhan dan lebih dari seribu suka di repositori utama. Apa pun kenyataannya, ini adalah model yang sudah dijalankan orang lain.

Perbedaan dalam adopsi itu adalah fakta yang paling relevan untuk pengambilan keputusan dalam artikel ini dan sama sekali tidak ada hubungannya dengan kualitas. Model dengan 76.000 unduhan memiliki komunitas yang sudah pernah mengalami bug Anda. Model dengan 22 unduhan hanya memiliki repositori dan kartu.

Lalu di mana mereka bertemu?

Dalam tepat satu arsitektur: sebuah aplikasi yang harus bisa mendengar sekaligus melihat. Kasus yang jelas adalah pipeline dukungan atau kepatuhan — panggilan rekaman dalam bahasa Mandarin dengan penutur dialek, ditambah formulir hasil pindai yang diunggah pemanggil, dan ringkasan yang harus menghubungkan keduanya. Ming mentranskripsikan dan menjawab pertanyaan tentang audio; MiniCPM membaca formulir dan mengekstrak kolom. Tidak satu pun dapat mengerjakan separuh bagian milik yang lain, dan penghubung di antara keduanya adalah teks.

Penggabungan itu adalah bagian yang paling sering diremehkan oleh banyak tim. Dua checkpoint berbobot terbuka berarti dua tinjauan lisensi, dua cerita penerapan, dua mode kegagalan, dan satu panggilan model lagi untuk memutuskan dokumen mana ditempatkan di mana. Jalur Ming adalah Transformers dengan trust_remote_code=True dan batas bawah memori dalam ratusan gigabyte; jalur MiniCPM adalah file terkuantisasi di laptop. Kontras operasional antara dua bagian dari pipeline yang sama lebih besar daripada kontras antara sebagian besar model yang bersaing.

Lapisan perutean, dan batasannya

OrcaRouter tidak menghosting satu pun dari kedua checkpoint tersebut. Keduanya adalah bobot terbuka yang Anda jalankan sendiri, tidak satu pun ada dalam katalog kami, dan tidak ada kalimat di sini yang boleh dibaca sebagai tawaran endpoint. Yang dijangkau router adalah jaringan penghubungnya: pengklasifikasi yang memutuskan apakah aset masuk berupa audio atau gambar dan mengirimkannya ke node yang tepat, prompt yang membingkai ekstraksi, perangkum yang menggabungkan kedua keluaran menjadi satu laporan.

Itu adalah panggilan teks biasa, dan alasan untuk menempatkannya di balik satu API untuk lebih dari 200 model dengan markup 0% sederhana — harga daftar penyedia diteruskan apa adanya, sehingga penurunan harga vendor langsung berlaku di sisi kami pada hari yang sama, satu kunci alih-alih tiga kontrak. DSL perutean adalah bagian yang cocok untuk masalah khusus ini: pipeline dengan cabang untuk audio dan cabang untuk gambar adalah masalah perutean sebelum menjadi masalah model, dan failover otomatis menjaga dispatcher tetap hidup saat model klasifikasi tersendat, yang merupakan satu-satunya panggilan dalam rantai yang tidak boleh Anda hilangkan.

Batasannya sama sederhananya. Routing tidak membuat checkpoint 259 GB menjadi ter-hosting, dan tidak mengubah model visi seukuran ponsel menjadi sistem ASR.

Versi singkatnya

Ming-3.0-audio-flash adalah model yang lebih ambisius dan yang kurang bisa digunakan saat ini: pengenalan ucapan bahasa Mandarin dialek yang lebih baik daripada apa pun dengan angka yang dipublikasikan di kelasnya, tanpa verifikasi independen, tanpa integrasi serving yang sudah di-merge, dan kebutuhan perangkat keras yang membuatnya di luar jangkauan siapa pun yang tidak memiliki node GPU. MiniCPM-V 4.7 35B-A3B adalah produk yang lebih matang: kartu model, kuantisasi, dukungan framework, cerita on-device yang benar-benar baru, dan komunitas. Ia juga merupakan model visi, yang berarti ia tidak dapat melakukan hal yang menjadi alasan keberadaan model lainnya.

Pilih berdasarkan modalitas dan perbandingannya hanya memakan waktu tiga puluh detik. Pilih berdasarkan ambisi dan Anda akan menghabiskan sebulan untuk menemukan bahwa yang ambisius hanya punya 22 unduhan.