Ming-3.0-asr-tiny vs Moonshine 250M: Satu Model Tidak Pernah Berhenti Mendengarkan, yang Lain Tidak Pernah Mulai Sampai Anda Selesai

Ada masalah penamaan yang perlu dibereskan sebelum hal lain, karena ini mengubah apa yang sebenarnya dibandingkan. Moonshine merilis tiga checkpoint — Tiny pada 34M, Small pada 123M, dan Medium pada 245M — dan Moonshine 250M adalah singkatan yang dipakai komunitas untuk model teratas dari jajaran itu, yaitu checkpoint yang nama repositorinya moonshine-streaming-medium dan indeks safetensors-nya sebenarnya berjumlah 265.898.112 parameter. Tidak ada file di mana pun dalam organisasi Moonshine yang bernama 250M. Model itu adalah pengenal streaming bahasa Inggris dengan encoder jendela geser dan decoder autoregresif, dibuat untuk laptop atau ponsel, dirilis pada Januari 2026 dengan lisensi MIT. Ming-3.0-asr-tiny adalah pengenal bahasa Tionghoa dan Inggris dengan 8,87 miliar parameter yang bobotnya muncul di Hugging Face pada 14 Oktober 2026 tanpa pengumuman, dibangun di sekitar encoder berbentuk Whisper dan decoder mixture-of-experts dengan 128 pakar, serta dirancang untuk membaca seluruh klip sekaligus. Keduanya bukan pesaing di pasar yang sama. Keduanya adalah dua jawaban berbeda atas pertanyaan kapan sebuah pengenal diizinkan berbicara. Checkpoint yang dalam tulisan ini disebut Moonshine 250M didokumentasikan di kartu model Moonshine Streaming Medium, tempat indeks safetensors mencantumkan 265.898.112 parameter dibandingkan dengan label 245M pada kartu tersebut. Kegagalan AI dan insiden agen yang terdokumentasi di balik rilis seperti ini dikumpulkan dalam OrcaRouter AI Incident Archive tempat setiap entri membawa sumbernya sendiri, tingkat keparahan, tingkat keyakinan, dan penanda status diperdebatkan.

Pertanyaan itu adalah kerangka yang berguna, dan pertanyaan itu menghasilkan keputusan yang lebih jernih daripada yang dihasilkan tabel akurasi. Moonshine 250M mengeluarkan kata-kata saat audio masih tiba, pada sekitar 0,1 hingga 1 TOPS. Ming-3.0-asr-tiny tidak mengeluarkan apa pun sampai Anda memberinya file lengkap, lalu ia mengeluarkan transkrip tanpa stempel waktu sama sekali.

Apa yang sebenarnya dirancang untuk dilakukan masing-masing

Arsitektur Moonshine adalah inversi yang disengaja dari kompromi streaming yang biasa. Encoder-nya adalah transformer jendela geser dengan atensi lokal terbatas dan tanpa penyematan posisi sama sekali — kartu menyebutnya ergodik — dengan jendela (16, 4) pada dua lapisan pertama dan dua lapisan terakhir serta (16, 0) pada lapisan-lapisan perantara, yang menghasilkan sekitar 80 milidetik lookahead. Informasi posisi disuntikkan oleh adapter setelah encoder, yang mengumpan ke decoder kausal standar dengan RoPE. Frontend audio berjalan pada 50 Hz menggunakan operasi domain waktu sederhana alih-alih mel spectrogram.

Decoder bersifat autoregresif, dan Moonshine menjelaskan apa konsekuensinya: latensi keluaran penuh tumbuh seiring panjang transkrip bahkan ketika waktu-ke-token-pertama rendah. Itulah keterbatasan jujur dari desain ini, dan itulah satu kalimat yang perlu diingat saat membandingkan klaim streaming. Streaming berarti kata-kata pertama muncul dengan cepat; bukan berarti kata terakhir muncul secara proporsional dengan cepat.

Ming tidak melakukan streaming, dan kartunya menyatakan hal itu: contoh yang disertakan tidak menerima input streaming. Audio panjang dapat dipecah menjadi potongan melalui argumen terhadap konteks 8,192 posisi, tetapi memecah file tidak sama dengan mengonsumsi feed langsung, dan kolom format output dalam konfigurasi diatur ke plain. Yang dilakukan Ming sebagai gantinya adalah membawa konteks. Ia menerima hotword atau giliran dialog sebelumnya sebagai bagian dari prompt transkripsi, dan dievaluasi pada lima belas set uji dialek Tiongkok — Hunan, Minnan, Kanton, Chuanyu, Shanghai, Anhui, Timur Laut, Henan, Hubei, Jiangsu, Hakka, Shaanxi, Shandong, Tianjin, Yunnan. Moonshine hanya berbahasa Inggris dan tidak memiliki semua ini.

Dua jumlah parameter tersebut, dan mengapa keduanya berbeda

Detail yang layak diperhatikan, karena inilah hal yang diam-diam merusak tabel perbandingan: kartu Moonshine sendiri mencantumkan Medium dengan 245M parameter, 14 lapisan encoder dan 14 lapisan decoder, encoder berdimensi 768, dan decoder berdimensi 640. Indeks safetensors dalam repositori yang sama melaporkan 265.898.112. Selisihnya sekitar 21 juta, kira-kira delapan setengah persen, dan itu bukan kesalahan pembulatan — itu adalah perbedaan antara menghitung backbone dan menghitung semua yang disertakan bersamanya.

Ming memiliki masalah yang sama dalam ukuran lebih besar. Indeksnya melaporkan 8,865,800,992 parameter; grafiknya memberi label pada model 8.6B-A2B, singkatan untuk total 8,6 miliar dengan sekitar 2 miliar aktif per token. Label tersebut sekitar 270 juta di bawah indeks.

• Total parameter — Ming-3.0-asr-tiny 8.87B (indeks) versus Moonshine 250M 266M (indeks); label vendor menyebut 8.6B dan 245M.

• Aktif per token — sekitar 2B untuk Ming, karena 8 dari 128 pakar dirutekan per langkah. Semua 266M untuk Moonshine, yang bersifat dense.

• Encoder — 32 lapisan, 1.280 dimensi, 20 head, 128 bin mel, berbentuk Whisper, versus transformer jendela geser ergodik 14 lapisan pada 768 dimensi di atas frontend 50 Hz.

• Decoder — 24 lapisan, 128 pakar, autoregresif; versus 14 lapisan, padat, autoregresif.

• Model latensi — seluruh klip masuk, transkrip keluar, tanpa streaming; dibandingkan dengan lookahead ~80 ms dan token pertama saat audio masih diterima.

• Keluaran — teks transkripsi biasa, tanpa stempel waktu, tanpa diarisasi; versus teks transkripsi dari dekoder autoregresif yang juga tidak memiliki jalur stempel waktu di kartu.

• Bahasa — Tionghoa dan Inggris ditambah 15 set tes dialek Tionghoa; dibandingkan dengan hanya bahasa Inggris.

• Lisensi — MIT untuk keduanya, dengan header Apache-2.0 yang disertakan tetap dipertahankan di repositori Ming.

Akurasi, dengan catatan bahwa keduanya tidak pernah diuji pada audio yang sama.

Kartu Moonshine melaporkan WER rata-rata 6,65 pada delapan kumpulan data bahasa Inggris untuk Medium: 10,68 pada AMI, 11,90 pada Earnings-22, 9,46 pada GigaSpeech, 2,08 pada LibriSpeech test-clean, 5,00 pada test-other, 2,58 pada SPGISpeech, 2,99 pada TED-LIUM dan 8,54 pada VoxPopuli. Dilatih dengan sekitar 300.000 jam ucapan.

Ming melaporkan WER rata-rata 3,99 pada set publik bahasa Inggrisnya — LibriSpeech clean dan other, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English, dan VoxPopuli — serta CER rata-rata 3,55 pada set bahasa Mandarinnya. Dilatih pada jumlah data yang tidak diungkapkan.

Godaan adalah menempatkan 3.99 di samping 6.65 dan menyatakan Ming lebih akurat dalam bahasa Inggris. Jangan. Dua dari lima set bahasa Inggris berbeda, agregasinya berbeda, kartu Moonshine tidak menerbitkan rincian per set yang dapat dipetakan dengan rapi ke lima set Ming, dan tidak ada vendor yang menjalankan milik vendor lain. Pada satu set yang keduanya laporkan — VoxPopuli — Ming sama sekali tidak menerbitkan angka bahasa Inggris per set dalam prosanya, hanya rata-ratanya, jadi bahkan satu-satunya tumpang tindih itu pun tidak dapat dibandingkan dari kartu-kartunya. Setiap angka di sini dilaporkan vendor dan tidak direproduksi.

Apa yang dapat dikatakan tanpa kumpulan uji bersama bersifat struktural. Moonshine adalah model padat 266 juta parameter yang dilatih pada 300.000 jam bahasa Inggris. Ming adalah model mixture-of-experts 8,87 miliar parameter dengan sekitar 2 miliar parameter aktif, dilatih pada data yang tidak dijelaskannya, dievaluasi pada bahasa Mandarin dan Inggris dengan komponen dialek yang besar. Model dengan parameter aktif tujuh belas kali lipat dan prior model bahasa seharusnya lebih akurat pada audio bahasa Inggris yang sulit, dan akan mengejutkan jika tidak demikian. Itu adalah ekspektasi dari arsitektur, bukan pengukuran.

Di mana realitas penerapan berbeda

Ming memerlukan mesin Linux dengan GPU CUDA, Python 3.12, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2, dan trust_remote_code=True untuk memuat kode pemodelan miliknya sendiri. Bobotnya sekitar 17,7 GB dalam BF16 di dua shard. Ada jalur penyajian SGLang, yang dipatok ke commit adaptor tertentu, yang menjadi sinyal bahwa vendor mengharapkan ini berjalan di belakang API, bukan di desktop.

Moonshine 250M menargetkan memori di bawah 1 GB dan sekitar 0,1 hingga 1 TOPS. Model ini berjalan melalui framework Moonshine Voice untuk perangkat edge dan melalui Transformers, dan kartu tersebut menyatakan secara gamblang bahwa jalur Transformers belum mengimplementasikan streaming yang sepenuhnya efisien — jalur itu bergantung pada dukungan sliding-window dari flash-attention. Jika Anda menginginkan perilaku streaming yang dijanjikan arsitektur tersebut, jalur framework-lah yang mewujudkannya.

Repositori adalah tempat lini checkpoint benar-benar terlihat: dua puluh empat tag di keluarga Tiny, Small, dan Medium, plus framework yang menurut kartu harus Anda gunakan jika ingin streaming sungguhan. Itu adalah kisah pemeliharaan yang belum dimiliki Ming, dan itu adalah separuh praktis dari pilihan tersebut.

Itulah keseluruhan perbandingannya dalam dua kalimat: satu model dirancang untuk dilupakan di dalam sebuah perangkat, dan model lainnya dirancang untuk disajikan dari GPU dengan daftar kata pemicu yang terlampir.

Apa yang sebenarnya harus dilakukan oleh tim yang mengutamakan Tiongkok

Jika produk Anda adalah takarir langsung atau perintah suara dalam bahasa Inggris, Moonshine 250M melakukan pekerjaan yang sama sekali tidak bisa dilakukan Ming, dan selisih akurasi — apa pun nantinya — kemungkinan besar tidak akan lebih penting daripada fakta bahwa Ming tidak dapat memproses aliran langsung. Streaming bukanlah fitur yang Anda tambahkan belakangan ke arsitektur yang membaca klip utuh; itu adalah properti dari encoder.

Jika produk Anda adalah ucapan berbahasa Tionghoa, atau dialek daerah, atau pipeline batch yang transkripnya dihasilkan setelah fakta dan nama menjadi penting, Ming adalah satu-satunya dari keduanya yang menjawab masalah itu, dan usianya baru lima hari dengan jumlah unduhan di kisaran puluhan. Rekomendasi jujurnya adalah uji banding pada audio Anda sendiri, dinilai berdasarkan recall entitas bernama, bukan tingkat kesalahan karakter, karena itulah sumbu yang dirancang untuk Ming.

Bagi tim yang menjalankan uji banding tersebut, masalah operasionalnya bukanlah modelnya, melainkan infrastruktur penghubungnya: dua tumpukan, dua kumpulan dependensi, dua kumpulan kredensial, dan tidak ada cara untuk membandingkannya pada lalu lintas yang sama tanpa membangun harness. OrcaRouter tidak menghosting salah satu model itu — Ming-3.0-asr-tiny dan Moonshine 250M adalah bobot terbuka yang di-hosting sendiri — tetapi ia menempatkan lebih dari 200 model ter-hosting di balik satu kunci API dengan failover otomatis, sehingga baseline ter-hosting yang Anda nilai dapat berada tepat di samping kandidat self-hosted Anda tanpa kontrak kedua. Harga daftar penyedia diteruskan dengan markup 0%, yang merupakan angka penting ketika Anda membandingkan biaya per jam audio alih-alih biaya per token.

Pertanyaan terbuka yang layak diperhatikan

Kartu Ming menyatakan bahwa hotword hanyalah petunjuk, bukan jaminan, dan bahwa keluarannya berupa teks tanpa stempel waktu tingkat kata atau diarisasi pembicara. Kartu Moonshine menyatakan bahwa dekodernya dapat berhalusinasi kata dan mengulang frasa pada segmen pendek atau bising. Keduanya jujur tentang mode kegagalan, yang lebih dari yang mampu dilakukan sebagian besar kartu, dan keduanya menggambarkan kompromi mendasar yang sama dari dua ujung yang berlawanan: dekoder autoregresif yang menghasilkan teks lancar kadang-kadang menghasilkan teks lancar yang tidak diucapkan.

Yang akan menyelesaikan perbandingan ini bukanlah tolok ukur, melainkan kasus penggunaan. Jalankan keduanya pada dua puluh menit audio milik Anda sendiri yang sama — separuhnya live, separuhnya batch, separuhnya bahasa Inggris, separuhnya bukan — dan keputusannya sama sekali tidak lagi tentang jumlah parameter. Sampai saat itu, deskripsi yang tepat untuk pertandingan ini adalah bahwa satu model dibangun untuk mendengarkan secara terus-menerus dan model lainnya dibangun untuk membaca dengan cermat, dan nama pada model yang lebih kecil hanyalah singkatan pemasaran untuk checkpoint yang sebenarnya memiliki 266 juta parameter.