
Ming-3.0-audio-flash vs Ming-3.0-audio-tiny: Tiga Belas Kali Parameter, Dua Setengah Kali Pekerjaan
- OrcaBARUOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 per 1 juta token · 185 tok/s
- tencentBARUTencent: Hy4 Flash2026-11-16$0.02 / $0.07 per 1 juta token · 228 tok/s
- GoogleBARUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1 juta token · 89 tok/s
- AnthropicBARUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1 juta token · 98 tok/s
- orcaBARUOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1 juta token · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1 juta token · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 per 1 juta token · 79 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 per 1 juta token · 94 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1 juta token · 118 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1 juta token · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Kecerdasan
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1 juta token · 199 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Kecerdasan
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1 juta token · 113 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Kecerdasan
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 per 1 juta token · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Kecerdasan
Ming-3.0-audio-flash dan Ming-3.0-audio-tinytiba di Hugging Face dengan selisih empat menit pada 3 September 2026 — tiny pada 11:45 UTC, flash pada 11:49 — dan sejak itu keduanya sering tertukar. Pagi ini kebingungan itu menjadi harfiah. Repositori flash diedit pada 08:26 UTC dengan commit berjudul "Update Flash BBA score to 99.8% and add the overall #1 leaderboard result"; repositori tiny diedit dua menit delapan detik kemudian dengan commit berjudul "Update shared Flash BBA score to 99.8%…", membawa kalimat yang sama dan PNG papan peringkat yang sama. Model tiny tidak memiliki entri Artificial Analysis sendiri, jadi jika Anda pernah melihat angka 99.8% yang dikaitkan dengan Ming-3.0-audio-tiny, angka itu milik saudara besarnya dan tersebar lewat copy-paste.
Itu perlu dikatakan lebih dulu karena hal itu menjadi kerangka bagi semua hal lainnya. Ini bukan dua pesaing. Ini adalah satu desain dalam dua skala, yang berbagi tokenizer, jendela konteks, lisensi, dan jalur kode penyajian, serta berbeda dalam beberapa bilangan bulat di dalam config.json. Pertanyaan yang menarik bukanlah mana yang menang — flash menang pada setiap angka kualitas yang dipublikasikan — melainkan bilangan bulat mana yang sebenarnya Anda bayar, dan apa yang benar-benar lebih unggul dari model yang lebih kecil.
Apa yang sebenarnya dimiliki bersama oleh kedua repositori tersebut
Mulailah dengan bagian-bagian yang identik, karena jumlahnya lebih banyak daripada yang Anda perkirakan dari kesenjangan parameter 13.5×.
• Nama arsitektur — keduanya mendeklarasikan model_type: bailing_moe_v3_audio, jalur kode Transformers kustom yang sama.
• Tokenizer — keduanya menggunakan kosakata 157.184 token, dengan placeholder audio pada indeks 157.168. Prompt yang ditulis untuk salah satu dapat dimuat pada yang lain.
• Jendela konteks — keduanya mendeklarasikan max_position_embeddings: 131072, dengan theta RoPE yang sama sebesar 6.000.000 dan tanpa penskalaan yang diterapkan.
• Lebar routing — keduanya mengaktifkan 8 pakar per token. Inilah angka yang membuat keduanya sama sekali dapat dibandingkan.
• Masukan dan keluaran — masukan berupa audio ditambah instruksi teks; keluaran berupa teks, atau teks dengan ucapan tersintesis melalui Talker opsional.
• Lisensi — MIT pada keduanya, dengan berkas penafian hukum yang sama.
• Kode — README model kecil itu memberi tahu Anda untuk git clone repositori GitHub model flash. Ada satu implementasi, satu set skrip contoh, satu panduan suara.
Karena kodenya dibagikan, kedua checkpoint tersebut dapat langsung dipertukarkan pada tingkat API. Beralih dari satu ke yang lain hanyalah perubahan nama model, yang justru merupakan sifat yang membuat pipeline dua tingkat murah untuk dibangun dan juga sifat yang membuatnya mudah untuk menerbitkan skor model yang salah.

Empat bilangan bulat yang tidak dimiliki bersama
Semua yang berbeda ada di text_config, dan hanya ada empat angka yang penting.
• Lapisan — flash 42, tiny 24.
• Ahli — flash 512, tiny 128.
• Lebar pakar — flash moe_intermediate_size 768, tiny 512.
• Ukuran tersembunyi — flash 2.560, tiny 1.536.
Kalikan angka-angka itu dan Anda mendapatkan angka utama yang dikutip kartu: 126B parameter total dengan 6,5B aktif untuk flash, 9,3B total dengan 2,7B aktif untuk tiny. Di disk, perbedaannya adalah 259,33 GB bobot bfloat16 dalam 25 shard versus 20,7 GB dalam dua.
Sekarang lihat rasionya, bukan angka absolutnya, karena inilah bagian yang disembunyikan oleh lembar spesifikasi. Total parameter berbeda 13,5×. Bobot di disk berbeda 12,5×. Tetapi parameter aktif hanya berbeda 2,4×. Model flash menyimpan pustaka pakar yang jauh lebih besar dan menggunakan jumlah pakar yang serupa; model tiny memiliki pustaka yang lebih kecil dan menggunakan jumlah yang serupa. Jadi flash tidak tiga belas kali lebih mahal per token daripada tiny — lebih dekat ke dua setengah kali, dengan jejak memori tiga belas kali lebih besar yang sebagian besar menganggur. Itulah trade-off sparse-MoE klasik, dan itu berarti biaya nyata memilih flash adalah kapasitas, bukan throughput: Anda membeli pustaka yang lebih besar, dan Anda harus menjaga seluruh pustaka tetap residen apakah klip tertentu meminjam darinya atau tidak.

Satu konsekuensi mengejutkan banyak orang. Kedua model menyatakan jendela 131,072 token yang sama, dan mudah tergoda untuk menyimpulkan bahwa keduanya menangani audio yang sama. Ternyata tidak. Konteks adalah batas, bukan kemampuan, dan angka dari vendor sendiri di bagian berikutnya menunjukkan dengan tepat di mana pemahaman model yang lebih kecil tidak lagi memadai jauh sebelum jendela itu penuh.
Apa yang dikatakan tabel milik vendor sendiri
Gambar evaluasi pada kedua kartu dihasilkan oleh inclusionAI dan menyajikan kedua model secara berdampingan. Ini adalah angka dari vendor, belum diaudit, dan pemilihan tugasnya dilakukan oleh vendor; ini tetap merupakan satu-satunya perbandingan per tugas yang ada, karena Artificial Analysis hanya menilai flash.
• Skor rantai audio panjang — flash 12.31, tiny 10.56.
• LongAudioSpan — flash 41,12, tiny 35,45.
• URO-Bench-Pro — flash 81,92, tiny 54,15.
• VoiceBench — flash 86,74, tiny 74,29.
Dua hal perlu ditekankan. Pertama, soal urutan: si tiny kalah pada semuanya, jadi tidak seorang pun seharusnya memilihnya dengan mengharapkan paritas. Kedua, dan kurang kentara: selisihnya jauh lebih besar pada benchmark penalaran audio (URO-Bench-Pro, turun 27,8 poin, dan VoiceBench, turun 12,5) daripada pada benchmark audio panjang (turun 1,75 dan 5,67). Apa pun yang diperoleh dari expert dan layer tambahan, yang terutama diperoleh adalah kemampuan bernalar atas apa yang didengar, bukan daya tahan mentah atas rekaman panjang.
Dan angka audio panjang milik flash itu sendiri lemah secara absolut — skor rantai 12,31 dari skala benchmark tersebut, apa pun skalanya, dibandingkan dengan 34,54 untuk Qwen3.8-Omni Flash dan 49,63 untuk Gemini 3.8 Flash pada kartu yang sama. Jadi pembacaan jujur atas pasangan ini bukanlah "flash bagus, tiny buruk". Melainkan bahwa tidak ada checkpoint yang merupakan model rekaman panjang, dan yang tiny justru lebih lemah lagi pada semua hal yang diukur oleh benchmark audio pendek.
Garis perangkat keras ditentukan oleh byte, bukan oleh parameter
Di sinilah pilihan biasanya terjadi dengan sendirinya, dan kedua README itu luar biasa spesifik tentang profil yang mereka validasi.
• Ming-3.0-audio-flash — profil penyajian 128K referensi pada paralelisme tensor 4 di seluruh H800 80 GB; audio panjang dapat menyebabkan OOM pada konfigurasi tersebut, dengan fallback 8-GPU yang didokumentasikan; SGLang tervalidasi pada empat GPU untuk keluaran teks; SGLang-Omni pada --thinker.tp_size 2 di sepasang kartu.
• Ming-3.0-audio-tiny — vLLM-Omni dengan Thinker pada satu GPU untuk teks dan ASR, atau Thinker pada GPU 0 dan Talker pada GPU 1 untuk ucapan; SGLang tervalidasi pada satu GPU untuk teks; SGLang-Omni pada satu kartu dengan --talker.gpu 0.
Bacalah baris-baris itu sebagai keputusan infrastruktur, bukan sebagai spesifikasi. Flash membutuhkan node multi-GPU dan alasan untuk menempatinya. Tiny cukup membutuhkan satu kartu, dan jika Anda hanya ingin transkripsi atau tanya jawab audio, ia hanya perlu satu kartu tanpa Talker sama sekali — tanpa tahap sintesis suara, tanpa proses kedua, tanpa pemilihan suara. Perbedaan praktis antara keduanya bukanlah empat kali jumlah GPU; melainkan apakah hal yang Anda deploy muat di mesin yang sudah Anda miliki.
Ada efek orde kedua yang muncul dalam operasi. Checkpoint 25 shard sebesar 259 GB harus ditarik ke setiap node yang menyajikannya, diberi versi, dan dijaga tetap hangat; profil fallback delapan GPU berarti rencana kapasitas Anda harus menoleransi model yang kadang-kadang membutuhkan dua kali jumlah kartu untuk trafik yang sama. Checkpoint dua shard sebesar 20,7 GB muat dalam lapisan image container, mulai dalam hitungan detik, dan dapat diskalakan dengan menambah replika. Untuk perkakas internal yang bersifat bursty, perbedaan itu mendominasi setiap angka kualitas dalam artikel ini.

Pipeline dua tingkat yang menjadi tujuan pembuatan kedua checkpoint ini
Inilah kasus penggunaan yang sebenarnya dilayani oleh pasangan ini, dan ini adalah kasus yang tidak dijelaskan oleh kartu model mana pun: jalankan model tiny pada semuanya, dan model flash hanya pada apa yang bertahan.
Satu proses awal yang murah dengan Ming-3.0-audio-tiny dapat menjawab "apakah ada ucapan di berkas ini", "bahasa apa itu", "berapa banyak pembicara", "apakah audionya cukup bersih untuk layak ditranskripsikan" — dan itu bisa dilakukan pada satu kartu dengan laju apa pun yang mampu dipertahankan kartu tersebut. Hanya klip yang memerlukan penalaran, penanganan dialek, atau transkripsi yang cermat yang kemudian dikirim ke Ming-3.0-audio-flash. Karena tokenizer, format prompt, dan kode penyajiannya dibagi bersama, panggilan kedua adalah permintaan yang sama dengan nama model yang berbeda; tidak ada pengodean ulang, tidak ada penulisan ulang prompt, dan tidak ada integrasi kedua yang harus dipelihara.
Ekonomi adalah intinya. Jika seperlima audio Anda sulit, model flash hanya melihat seperlima volume, dan Anda dapat menyesuaikan ukuran node-nya untuk fraksi tersebut, bukan untuk puncaknya. Jika hampir semua audio Anda sulit, cascade tidak memberikan manfaat apa pun dan Anda sebaiknya menjalankan flash saja — yang merupakan hal berguna untuk dipelajari dari sepekan triase model kecil sebelum Anda berkomitmen pada empat H800s.
Pola yang sama muncul satu lapisan di atasnya, dalam panggilan teks di sekitar model audio: pengklasifikasi yang menentukan tingkat mana sebuah klip termasuk, ekstraksi terstruktur dari transkrip, ringkasan yang ditulis setelahnya. Itu adalah completion chat biasa, dan OrcaRouter merutekannya ke lebih dari 200 model di balik satu kunci dengan markup 0%, dengan failover otomatis — sehingga pengklasifikasi yang menggerbangi tingkat audio mahal Anda tidak menjadi komponen yang menjatuhkan pipeline. DSL perutean adalah bagian yang membuat keputusan tingkat dapat dinyatakan sebagai konfigurasi, bukan kode: kirim klip pendek yang bersih ke satu jalur, klip panjang atau beraksen ke jalur lain, dan biarkan model fallback menutup celah saat penyedia mengalami penurunan kualitas. Kami tidak menyediakan checkpoint Ming mana pun; keduanya adalah unduhan yang Anda jalankan sendiri.
Cara menyelesaikannya dengan audio Anda sendiri
Kedua checkpoint adalah MIT, keduanya mengikuti jalur kode yang sama, dan keduanya cukup kecil dalam kasus kecil untuk diuji tanpa percakapan pengadaan. Itu membuat pengukuran selama satu sore lebih informatif daripada angka-angka di atas.
Ambil dua ratus klip dari trafik Anda sendiri, dengan bobot condong ke kasus-kasus sulit — ucapan beraksen, pembicara yang saling tumpang tindih, kebisingan latar, rekaman panjang yang benar-benar Anda miliki. Jalankan kedua model dengan prompt yang sama, lalu nilai tiga hal: akurasi transkripsi pada klip yang Anda miliki data acuannya, apakah label bahasanya benar, dan seberapa sering keluarannya tidak dapat digunakan, bukan hanya sekadar salah. Kemudian jalankan kaskade dan ukur berapa banyak klip yang ditangani model tiny dengan cukup baik sehingga model flash tidak pernah diperlukan.
Angka terakhir itu satu-satunya yang menentukan infrastruktur. Jika hasilnya tinggi, Anda memiliki deployment satu GPU dengan model besar di belakangnya untuk menangani tail. Jika hasilnya rendah, Anda telah mengetahui bahwa beban kerja Anda adalah beban kerja yang memang dirancang untuk model flash, dan tiny adalah eksperimen yang berguna, bukan sebuah tier. Jawaban mana pun murah. Menebak dari jumlah parameter tidak, karena 13,5× pada kartu dan 2,4× dalam anggaran komputasi mengarah ke perangkat keras yang sama sekali berbeda, dan hanya rekaman Anda yang dapat memberi tahu mana yang sedang Anda beli.
