Ming-3.0-asr-tiny vs Granite Speech 5.0 470M TurboCTC: 19× Parameter, Tanpa Throughput Sama Sekali

Letakkan Ming-3.0-asr-tiny dan Granite Speech 5.0 470M TurboCTC di halaman yang sama dan angka pertama yang menonjol adalah rasio parameter: 8,87 miliar berbanding 470 juta, kira-kira sembilan belas banding satu. Yang kedua adalah bahwa model kecil itulah yang dibuat untuk kecepatan dengan selisih yang sangat besar, dan yang ketiga adalah bahwa ini bukan kontradiksi. Granite Speech 5.0 470M TurboCTC tidak memiliki decoder untuk dijalankan — ia adalah encoder yang mengeluarkan karakter lalu berhenti. Ming-3.0-asr-tiny memiliki decoder mixture-of-experts 24 lapis yang menulis satu token sekaligus dan dapat diberi tahu terlebih dahulu nama-nama mana yang akan disebut. Yang satu adalah mesin throughput untuk audio bahasa Inggris. Yang lain adalah mesin konteks untuk audio bahasa Mandarin. IBM merilis Granite Speech 5.0 470M TurboCTC pada 25 Agustus 2026 dengan postingan blog, laporan teknis, dan entri papan peringkat Open ASR; inclusionAI meletakkan bobot Ming-3.0-asr-tiny di Hugging Face pada 14 Oktober 2026 tanpa pengumuman sama sekali.Setiap angka Granite yang digunakan di sini berasal dari kartu model Granite Speech 5.0 470M TurboCTC, yang memuat tabel Open ASR, sweep kebisingan, dan pernyataan bahasa tunggal.Kegagalan AI dan insiden agen yang terdokumentasi di balik rilis seperti ini dikumpulkan dalam Arsip Insiden AI OrcaRouter di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, tingkat keyakinan, dan penanda sengketa.

Tidak ada model yang terdapat dalam katalog OrcaRouter, dan tidak satu pun muncul dalam evaluasi model lainnya, sehingga tidak ada perbandingan langsung antarvendor yang dapat dikutip. Semua yang berikut ini diambil dari konfigurasi dan grafik yang diterbitkan masing-masing model sendiri, dengan label sebagaimana adanya.

Percabangan arsitektural, dinyatakan secara gamblang

Granite Speech 5.0 470M TurboCTC adalah model encoder-saja, dan IBM menyatakan bahwa ini merupakan pemutusan yang disengaja dari masa lalunya sendiri. Model Granite Speech sebelumnya terdiri atas encoder akustik, proyektor, dan model bahasa Granite dengan adaptor LoRA—yang berarti, model-model itu adalah model bahasa yang mengenakan mikrofon. Generasi 5.0 sepenuhnya menghilangkan model bahasa dan mengoptimalkan objektif CTC pada kepala BPE 16.384 unit. Enam belas blok conformer, 1.024 dimensi tersembunyi, delapan kepala atensi, atensi blok atas 128 frame, pengondisian diri pada blok kedelapan, dan kernel konvolusi selebar 7.

Subsampling adalah bagian yang menghasilkan kecepatan. Audio datang sebagai log-mel plus delta pada 100 frame per detik dalam 320 dimensi. Tiga tahap pengurangan 2× — pertama reshape yang menumpuk frame berurutan, lalu konvolusi strided di dalam dua blok conformer pertama — membawa itu menjadi 12,5 token keluaran per detik. Blog IBM secara eksplisit menyatakan bahwa ini adalah perubahan dari encoder sebelumnya, yang mengeluarkan 50 karakter per detik: empat kali lebih sedikit langkah keluaran per detik audio, dan tanpa loop autoregresif yang memutuskan masing-masingnya.

Ming-3.0-asr-tiny mengambil arah sebaliknya pada setiap sumbu yang penting di sini. Dekoderinya adalah 24 lapisan mixture-of-experts dengan 128 pakar, delapan dirutekan per token, satu pakar bersama dan satu lapisan pertama padat, bergantian tiga lapisan K​imi Delta Attention dengan satu lapisan Gated MLA. Ia menulis token secara autoregresif. Ia juga membawa encoder berbentuk Whisper dengan 32 lapisan dan 1.280 dimensi — bentuk Whisper large-v3, dengan repositori menyertakan modeling_whisper_encoder.py dan pemberitahuan MIT O​penAI dalam file terpisah. Ming mempertahankan model bahasa dan menjadikannya bagian yang mahal.

Dari mana angka-angka itu sebenarnya berasal

Ini adalah bagian yang menentukan seberapa besar bobot yang layak diberikan pada klaim masing-masing model, dan kedua rilis tersebut tidak sebanding dalam hal jenis.

• Granite Speech 5.0 470M TurboCTC — WER agregat 5,00% di seluruh set bentuk pendek bahasa Inggris publik pada papan peringkat Open ASR, per 25 Agustus 2026, dengan 1,93% pada LibriSpeech test-clean dan 3,59% pada test-other. Varian nonkomersialnya mencetak 4,85%. Throughput melebihi 12.600 RTFx pada satu H200 dengan inferensi batch. Ada laporan teknis di arXiv dan posting blog Hugging Face, serta hasilnya dikirimkan ke papan peringkat publik yang mencantumkannya.

• Ming-3.0-asr-tiny — CER rata-rata 3,55 pada set publik Tionghoa, WER rata-rata 3,99 pada set publik Inggris, 8,42 pada lima belas set dialek, 1,67 pada lima domain internal, dan 4,36 pada agregat ASR berkonteks. Semuanya tersedia sebagai gambar PNG di kartu model. Tidak ada laporan teknis, tidak ada pengiriman ke papan peringkat, dan tidak ada skrip evaluasi di repositori.

That blog post is worth opening for the same reason the model card is: it is the trail Ming does not have. IBM published a dated article, a technical report and a leaderboard entry, and the throughput claim in the article can be checked against the batch configuration it describes.

Asimetri itu bukanlah celaan terhadap angka-angka Ming; itu adalah pernyataan tentang apa yang dapat Anda periksa. Siapa pun dapat menjalankan ulang angka {{1}}Granite's Open ASR{{/1}} dari data publik dalam waktu satu sore. Menjalankan ulang angka Ming memerlukan rekonstruksi set pengujiannya, termasuk lima domain internal yang komposisinya tidak dipublikasikan.

Satu asimetri lagi, dan kali ini arahnya berlawanan: kedua model tidak berbagi satu pun set evaluasi. Grafik Granite hanya berbahasa Inggris, mencakup LibriSpeech, AMI, Earnings-22, GigaSpeech, SPGISpeech, TED-LIUM, dan VoxPopuli. Rata-rata bahasa Inggris Ming menggunakan LibriSpeech, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English, dan VoxPopuli — tumpang tindih pada dua dari lima, dengan agregasi yang berbeda. Pembaca yang ingin tahu "mana yang lebih akurat dalam bahasa Inggris" tidak akan mendapatkan jawaban dari kedua vendor, karena tidak ada yang mengajukan pertanyaan itu.

Kecepatan berarti dua hal yang berbeda di sini

RTFx 12.600 milik IBM adalah angka throughput batch: audio dialirkan melalui GPU secara massal, lebih dari tiga setengah jam ucapan per detik komputasi. Angka itu tepat untuk mentranskripsikan arsip, dan nyaris tidak berarti untuk mikrofon langsung. IBM memang menyediakan streaming — demo WebGPU di browser, chunkwise attention, dan jalur MLX untuk Apple Silicon — tetapi angka utama tersebut menggambarkan kasus batch.

Ming sama sekali tidak memublikasikan RTFx. Yang dipublikasikannya adalah ukuran: bobot BF16 sebesar 17,7 GB dan dekoder autoregresif dengan 128 pakar. Loop token demi token adalah model biayanya. Setiap detik audio tambahan berarti lebih banyak langkah dekoder, dan setiap langkah dekoder menyentuh keputusan perutean di antara 128 pakar. Itulah alasan struktural mengapa model encoder-only yang 19× lebih kecil adalah model yang memiliki klaim throughput, dan hal itu tidak perlu benchmark untuk menjadi benar.

Konsekuensi praktisnya adalah bahwa keduanya tidak bersaing untuk deployment yang sama. Granite Speech 5.0 470M TurboCTC dirancang untuk berjalan di laptop, ponsel, atau satu H200 yang memproses arsip podcast. Ming-3.0-asr-tiny membutuhkan GPU CUDA, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 dan trust_remote_code=True, serta adapter SGLang terpisah yang dipatok ke commit tertentu jika Anda ingin menyajikannya. Salah satunya adalah daftar dependensi yang dapat Anda masukkan ke dalam produk.

Kemampuan yang Granite korbankan untuk sampai ke sana

Desain encoder-only menghadirkan kecepatan dan ukuran, dan IBM terbuka soal konsekuensinya. Blognya menyatakan bahwa model 5.0 mengorbankan kemampuan yang dimiliki versi ber-LM, dengan menyebut terjemahan ucapan dan keyword biasing. Yang kedua itulah yang menarik, karena keyword biasing justru adalah apa yang disebut Ming sebagai Context ASR dan dijadikan fitur andalannya.

Ming menerima daftar hotword atau giliran dialog sebelumnya sebagai bagian dari prompt transkripsi, dan contoh dari vendor itu sendiri instruktif: sebuah klip audio di mana judul film 同囚 muncul sebagai 同球 pada jalur biasa dan benar setelah topik serta daftar hotword disediakan. Kartu tersebut dengan cermat menyatakan bahwa hotword adalah petunjuk, bukan jaminan, yang merupakan perumusan jujur — bias menggeser probabilitas, bukan memaksakan keluaran.

Granite Speech 5.0 470M TurboCTC tidak memiliki padanan. Tidak ada prompt, tidak ada kolom konteks, tidak ada daftar nama yang bisa diberikan, karena tidak ada model bahasa yang bisa dikondisikan. Jika audio Anda padat dengan nama produk, nama obat, atau nama belakang dari basis data pelanggan, model hanya punya satu alat: apa pun yang telah dipelajarinya selama pelatihan. Jawaban IBM untuk kelas masalah tersebut adalah notebook untuk fine-tuning pada data Anda sendiri, yang merupakan alur kerja berbeda dengan biaya berbeda.

Cakupan bahasa berjalan dengan cara yang sama. Granite adalah bahasa Inggris, dinyatakan sebagai satu-satunya bahasa yang didukung, dilatih pada sekitar 60.000 jam audio bahasa Inggris dalam sepuluh hari di delapan H100s. Ming adalah bahasa Tionghoa dan Inggris dengan lima belas set uji dialek regional Tiongkok termasuk Kanton, Minnan, dan Shanghai, serta rata-rata dialek 8,42 yang menurut grafiknya sendiri berada di depan setiap baseline terbuka yang dicantumkannya.

Memilih di antara mereka

Jika audio Anda berbahasa Inggris dan masalah Anda adalah volume — rekaman panggilan, arsip, transkrip rapat, apa pun yang biaya per jamnya lebih penting daripada akurasi sekecil apa pun — Granite Speech 5.0 470M TurboCTC adalah titik awal yang lebih masuk akal, dan fakta bahwa model ini berjalan terkuantisasi melalui runtime C++ native tanpa Python merupakan keuntungan deployment yang tidak bisa diimbangi oleh cakupan dialek Tionghoa sebanyak apa pun.

Jika audio Anda berbahasa Mandarin atau dialek regional, atau jika masalah akurasinya adalah kata benda khusus yang dapat Anda daftarkan sebelumnya, Ming-3.0-asr-tiny adalah satu-satunya dari keduanya yang mengatasinya, dan ia melakukannya dengan arsitektur yang memang dibangun untuk itu, bukan fine-tune yang sekadar ditempelkan. Model ini juga baru berusia lima hari dengan 35 unduhan, yang berarti Anda akan menjadi salah satu orang pertama yang menemukan bagaimana model ini gagal.

Ada kasus ketiga yang layak disebutkan: Anda menginginkan keduanya, dan Anda ingin tahu mana yang unggul pada traffic Anda sendiri. Itulah masalah routing yang dirancang untuk diatasi OrcaRouter. Tidak satu pun dari model ini di-host di sana — Ming-3.0-asr-tiny dan Granite Speech 5.0 470M TurboCTC keduanya merupakan bobot terbuka yang di-host sendiri — tetapi endpoint yang sama yang melayani model hosted Anda dapat melayani jalur ASR kandidat, dengan failover otomatis sehingga permintaan yang gagal beralih kembali ke incumbent alih-alih terlihat oleh pengguna, dan satu kunci di 200+ model sehingga perbandingan tidak memerlukan kontrak kedua.

Apa yang belum ditunjukkan oleh kedua vendor kepada Anda

Kedua model belum dinilai oleh pihak independen mana pun. Angka Granite setidaknya berada di papan peringkat publik yang juga menjadi tempat tim lain mengirimkan hasil, sehingga angka itu dapat diperdebatkan; angka Ming berada dalam empat PNG yang masih diedit pada sore hari saat dipublikasikan. Tidak ada kartu yang mendokumentasikan stempel waktu tingkat kata atau diarisasi pembicara, jadi pipeline apa pun yang membutuhkan penetapan waktu berada di luar cakupan keduanya — kartu Granite menjelaskan output transkripsi biasa, dan catatan penggunaan Ming menyatakan secara eksplisit bahwa outputnya adalah teks transkripsi tanpa stempel waktu tingkat kata atau diarisasi pembicara.

Perbandingan yang benar-benar dapat menyelesaikan masalah ini tidak dapat dijalankan oleh vendor mana pun. Perbandingan itu memerlukan satu korpus, satu pasangan bahasa, satu skrip penilaian, dan kedua model pada GPU yang sama. Sampai ada yang mempublikasikannya, satu-satunya pernyataan yang dapat dipertahankan adalah pernyataan yang sudah ditegaskan oleh arsitekturnya: model mixture-of-experts autoregresif yang sembilan belas kali lebih besar tidak bersaing dengan model CTC encoder-only dalam hal throughput, dan model CTC encoder-only tidak dapat diberi tahu kata apa yang diharapkan.