Granite Speech 5.0 2B: Model ASR Baru IBM Telah Berada di Hugging Face Selama Dua Minggu Sebelum IBM Mengumumkannya

Repositori untuk Granite Speech 5.0 2B dibuat pada 7 Oktober 2026. Bobotnya di-commit pada malam yang sama, dengan pesan commit yang hanya berbunyi "Upload granite-speech-5.0-2b checkpoint." Kartu model kemudian tetap berada di sana selama tiga belas hari sambil diedit secara terbuka — grafik benchmark ditambahkan pada tanggal 13, tanggal rilis dan hasil papan peringkat resmi dicantumkan pada tanggal 19, berkas tanda tangan model pada tanggal 20 — sebelum IBM menerbitkan pos blog yang benar-benar mengumumkannya, pada 21 Oktober 2026. Pos blog itu baru berumur satu hari saat saya menulis ini, dan itu masih satu-satunya hal yang dikatakan IBM tentang model tersebut di mana pun: tidak ada siaran pers, tidak ada halaman pengumuman ibm.com, dan tidak ada apa pun di situs produk Granite selain halaman arahan generik. Kegagalan AI dan insiden agen yang terdokumentasi di balik rilis seperti ini dikumpulkan di OrcaRouter AI Incident Archive tempat setiap entri mencantumkan sumbernya sendiri, tingkat keparahan, tingkat keyakinan, dan tanda diperdebatkan.

Jadi deskripsi yang jujur bukanlah "tanpa pengumuman" dan juga bukan "diluncurkan dengan gegap gempita". Ini adalah model yang selama dua minggu dapat diunduh secara diam-diam, yang kartunya ditulis secara terbuka, dan yang pengumumannya baru keluar sehari sebelum artikel ini. Bagian berikut memisahkan hal-hal yang dapat diperiksa dari hal-hal yang masih sekadar klaim IBM.

Apa yang sebenarnya ada di dalam checkpoint

Granite Speech 5.0 2B adalah model bahasa-ucapan: encoder akustik Conformer yang mengumpankan model bahasa kecil melalui proyektor. Model ini merupakan penerus langsung granite-speech-4.1-2b, yang dirilis pada 29 April 2026 dengan jumlah parameter yang sama dan lisensi Apache 2.0 yang sama.

• Ukuran dan format — 2B parameter, safetensors BF16, Apache 2.0, tanpa pembatasan akses di repositori.

• Encoder — 16 blok Conformer yang dilatih dengan CTC dan dua kepala klasifikasi: 348 keluaran karakter (256 entri ASCII pertama, ditambah himpunan Katakana fonetis 92 karakter untuk bahasa Jepang) dan 100.353 keluaran BPE yang diambil dari tokenizer Granite 4.0. Ukuran tersembunyi 1.024, 8 kepala atensi berukuran 128, kernel konvolusi 15, atensi blok empat detik.

• Projector — transformer kueri jendela dua lapis atas blok berisi lima belas embedding akustik berdimensi 1.024, dengan tiga kueri yang dapat dilatih per blok dan lapis. Ini melakukan downsampling 5× di atas 2× encoder, sehingga model bahasa melihat embedding 10 Hz alih-alih frame 100 Hz.

• Model bahasa — checkpoint perantara dari granite-4.0-1b-base, diperluas ke 16k posisi dengan YaRN, dengan adaptor LoRA yang dilatih bersama proyektor.

• Pelatihan — sekitar 390.000 jam audio publik dan sintetis, total 40 hari pada 8 NVIDIA H100 (26 hari pelatihan encoder, 14 hari pelatihan proyektor) di klaster Blue Vela milik IBM.

• Bahasa — Inggris, Prancis, Jerman, Spanyol, Portugis, dan Jepang untuk transkripsi; terjemahan ke dan dari bahasa Inggris untuk keenam bahasa tersebut, ditambah bahasa Inggris ke Italia dan bahasa Inggris ke Mandarin.

390,000 jam adalah angka yang paling penting bagi kemampuan utama model ini. Kartu model merincinya, dan blok tunggal terbesar bukanlah ucapan bacaan bersih: LibriHeavy menyediakan 45,600 jam audio tanpa tanda baca dan 45,800 jam lainnya audio bertanda baca, VoxPopuli Granary menambahkan 24,000 ditambah 23,900 yang bertanda baca, lalu ada 59,900 jam dari apa yang disebut IBM sebagai ASR kontekstual — korpus yang sama dipotong ulang dengan konteks segmen sebelumnya yang berisik ditambahkan di depan prompt. Sebanyak 7,100 dan 16,500 jam lainnya adalah ASR berbias kata kunci dalam kelompok bahasa Eropa dan Jepang. Campuran itulah sebabnya peningkatan utamanya adalah tanda baca, kapitalisasi, ketahanan, dan pembiasan kata kunci, bukan tingkat kesalahan kata mentah pada bahasa Inggris bersih.

Angka 5,06%, dan tulisan kecil di bawahnya

Klaim utama IBM adalah tingkat kesalahan kata bahasa Inggris rata-rata 5,06% pada sembilan set pengujian bentuk pendek publik dari Open ASR Leaderboard, yang menurut IBM menempatkannya di peringkat #2 di antara model ASR open-weight teratas. Kartu model menerbitkan angka yang sama dengan label berbeda — "hasil resmi per 20 Oktober 2026" — sementara blog pengumuman menyebut proses yang mendasarinya "tidak resmi, per 15 Oktober 2026." Kedua deskripsi itu terpaut lima hari dan satu kata sifat, dan tidak ada pihak di luar IBM yang mereproduksi salah satunya.

Bagan perbandingan yang tercantum pada kartu itu layak dibaca dengan cermat, karena aturan pemilihannya memainkan peran besar. Bagan ini menampilkan sepuluh model open-weight teratas berdasarkan rata-rata WER, satu per organisasi, dengan Granite Speech 5.0 2B di posisi kedua:

• #1 Qwen3-ASR-1.7B-hf — WER rata-rata 4,94%.

• #2 Granite Speech 5.0 2B — 5,06%.

• #3 cohere-transcribe-03-2026 — 5,21%.

• #4 Hojo-ASR-V1 dan #5 higgs-audio-v3-stt — masing-masing 5,22%.

• #6 thewhisper-large-v3-turbo — 5,24%. Perhatikan bahwa ini adalah checkpoint komunitas yang meminjam nama Whisper, bukan whisper-large-v3-turbo milik O​penAI, yang memperoleh skor 7,83% pada papan peringkat yang sama. Keduanya sering tertukar, dan kebingungan ini membuat perbandingan mana pun yang sedang Anda baca tampak lebih baik.

• #7 canary-qwen-2.5b — 5,38%; #8 ARK-ASR-0,6B — 5,44%; #9 MOSS-Transcribe-Diarize — 5,54%; #10 Voxtral-Small-24B-2507 — 5,81%.

Ada dua hal yang mengikuti. Pertama, selisih dengan pemimpin adalah 0,12 poin persentase, yang pada sembilan set uji berada di dalam noise yang didapat dari konfigurasi decoding yang berbeda — ini adalah seri untuk peringkat pertama, yang digambarkan sebagai peringkat kedua. Kedua, rentang dari #2 hingga #6 adalah 0,18 poin. Apa pun yang membedakan model-model ini pada bahasa Inggris yang bersih, itu bukan akurasi. Pitch sesungguhnya IBM pasti ada di tempat lain, dan memang demikian.

Ketika penguatannya cukup besar untuk berpengaruh: noise dan jarak

Papan peringkat FFASR mengukur ucapan yang bising dan bergema — kondisi near-field, SNR tinggi, SNR sedang, dan SNR rendah yang dirata-ratakan bersama. Inilah evaluasi di mana generasi 5.0 terpisah dari generasi 4.1 dengan selisih yang bisa Anda rasakan, dan ini adalah angka paling berguna dalam rilis ini.

• Granite Speech 5.0 2B — 14,80% rata-rata WER, peringkat #4 dari 42 model di papan peringkat (hasil per 18 Oktober 2026).

• granite-speech-4.1-2b-nar — 15,16%, #6.

• granite-speech-4.1-2b — 16,35%, #9.

• Sebagai pembanding: whisper-large-v3 berada di 18,02% pada papan peringkat yang sama, dan nvidia/parakeet-tdt-0.6b-v2 di 17,66%.

Itu adalah peningkatan 1,55 poin dibandingkan pendahulu langsungnya pada audio jarak jauh dan bising — sekitar pengurangan relatif 9,5% dalam kesalahan — sementara rata-rata bahasa Inggris bersih bergerak dari 5,33% menjadi 5,06%, sekitar 5% secara relatif. Dengan kata lain, peningkatannya sekitar dua kali lebih besar pada kondisi tempat orang benar-benar menerapkan transkripsi: ruang konferensi, pusat panggilan, mikrofon laptop, mikrofon tablet yang jauh. Jika tumpukan ASR Anda sudah baik pada audio studio tetapi ambruk di ruang rapat, rilis ini ditujukan untuk Anda.

Tanda baca diperbaiki; kapitalisasi tidak.

Satu-satunya tabel numerik di kartu tersebut membandingkan 5.0 dengan 4.1 pada tingkat kesalahan tanda baca (PER, lebih rendah lebih baik) dan F1 kapitalisasi (lebih tinggi lebih baik), yang dihitung pada pasangan kata yang disejajarkan dengan Levenshtein, bukan pada seluruh kalimat. Perhatikan arah setiap baris, karena gambaran keseluruhannya tidak seragam.

• LScln — PER 25,70 → 23,20; Cap-F1 89,71 → 90,16.

• LSoth — PER 22.27 → 21.22; Cap-F1 91.26 → 91.65.

• VoxPopuli — PER 24.86 → 23.70, tetapi Cap-F1 95.35 → 95.07.

• Laba-22 — PER 22,87 → 21,64, tetapi Cap-F1 95,19 → 94,98.

• CV-EN — PER 9.13 → 9.18 (sedikit lebih buruk); Cap-F1 96.75 → 96.96.

• CV-DE — PER 3.66 → 3.65; Cap-F1 99.50 → 99.51 (Bahasa Jerman mengapitalisasi kata benda, itulah sebabnya baris ini hampir sempurna).

• CV-ES — PER 11,61 → 11,46, Cap-F1 95,68 → 95,62.

• CV-FR — PER 11.00 → 11.43 (lebih buruk); Cap-F1 97.25 → 97.20.

• CV-PT — PER 7,86 → 7,53; Cap-F1 98,51 → 98,48.

Tanda baca bergerak ke arah yang benar pada tujuh dari sembilan set; kapitalisasi bergerak ke arah yang salah pada lima dari sembilan, antara 0,03 dan 0,28 poin. Ringkasan IBM adalah "akurasi transkripsi yang lebih tinggi" dan "tanda baca serta kapitalisasi," yang dapat dipertahankan secara agregat dan sedikit berlebihan pada detailnya. Pembacaan praktisnya: perkirakan lebih sedikit koma yang hilang, jangan berharap model tiba-tiba benar dalam hal nama diri dan awal kalimat.

Dua fitur yang mengubah pekerjaan integrasi

Kemampuan yang paling mungkin memengaruhi penerapan nyata sama sekali tidak diukur dalam tolok ukur pada kartu tersebut, karena kemampuan itu merupakan fitur kendali, bukan fitur akurasi.

Pemberian petunjuk ID bahasa. Anda dapat menambahkan "Ucapannya dalam bahasa Jerman. Transkripsikan persis; jangan terjemahkan." di awal, dan model akan mentranskripsikan bahasa Jerman alih-alih menerjemahkannya ke bahasa Inggris. Ini penting karena model ucapan yang menerjemahkan secara otomatis tidak dapat digunakan untuk, misalnya, arsip dukungan berbahasa Jerman — Anda akan mendapat transkrip bahasa Inggris dan kehilangan kata-kata aslinya. Petunjuk ini juga berfungsi jika ditulis dalam bahasa target, yang merupakan kasus lebih realistis untuk pipeline multibahasa.

Bias kata kunci hingga 2.000 istilah. Batas pendahulunya tidak dinyatakan sebagai angka pasti di kartu 4.1, tetapi 5.0 menaikkan daftar yang didukung menjadi dua ribu istilah, sesuai prompt, di seluruh ASR dan terjemahan ucapan. Untuk nama produk, nama obat, ID tiket, atau daftar SKU milik pelanggan, ini adalah perbedaan antara transkrip yang dapat digunakan dan yang perlu dikoreksi. Kartu tersebut melaporkan F1 bias kata kunci sebagai bagan dengan dan tanpa penerapan bias, tetapi tidak ada nilai numerik dalam teks, jadi anggap besarnya peningkatan sebagai belum terkuantifikasi.

Ada juga detail desain keselamatan yang perlu diketahui: jika model menerima prompt yang cacat atau tidak lazim, IBM mengatakan model mengabaikan prompt tersebut dan beralih ke transkripsi biasa. Itu adalah batasan yang disengaja terhadap seberapa besar audio dapat memengaruhi sistem, dan IBM merekomendasikan untuk memadukan model dengan Granite Guardian untuk deteksi risiko di lingkungan produksi.

Menjalankannya

Granite Speech 5.0 2B didukung secara native di transformers>=4.52.1 melalui AutoModelForSpeechSeq2Seq dan AutoProcessor. Kartu ini juga mendokumentasikan vLLM, llama.cpp, dan mlx-audio, yang lebih penting daripada kedengarannya: ini adalah model yang dapat Anda jalankan di laptop, bukan hanya di balik klaster GPU.

• Panjang segmen — transkripsikan dalam potongan hingga sekitar dua menit dan pisahkan rekaman yang lebih panjang dengan VAD. Konteks YaRN 16k bukanlah lisensi untuk menyuapinya dengan audio selama satu jam; akurasi menurun jauh sebelum konteksnya mencapai batas.

• llama.cpp — kartu tersebut merekomendasikan Q8_0 dan menyatakan bahwa kuantisasi bit yang lebih rendah kehilangan akurasi pada audio yang lebih panjang dari sekitar satu menit. Itu adalah peringatan yang luar biasa spesifik dan layak ditanggapi secara harfiah.

• mlx-audio — 0.5.9 atau lebih baru, ditambah jinja2, yang diperlukan mlx-audio untuk templat obrolan tetapi tidak dipasang sendiri oleh mlx-audio.

• Prompt bersifat spesifik untuk tugas dan penting — "transkripsikan ucapan dengan tanda baca dan kapitalisasi yang tepat" adalah mode yang berbeda dari prompt transkrip mentah, dan mode berbias kata kunci memakai akhiran "Keywords: …".

Apa yang belum dapat diketahui

Ada tiga hal yang perlu dinyatakan secara terang-terangan, karena liputan di sekitarnya tidak akan melakukannya.

Pertama, tidak ada evaluasi independen. Setiap angka di atas berasal dari proses eval IBM sendiri atau dari pengiriman papan peringkat yang dilakukan IBM. Grafik FFASR menyebut “hasil resmi,” yang berarti pengiriman tersebut ada di papan, bukan bahwa pihak ketiga menjalankan model. Belum ada yang menerbitkan reproduksi, tulisan mode kegagalan, atau perbandingan langsung pada audio yang tidak dipilih IBM.

Kedua, tidak ada endpoint yang dihosting. Kartu model menyatakan secara langsung bahwa model tersebut "tidak di-deploy oleh Inference Provider mana pun," dan saya juga tidak dapat menemukannya di katalog OrcaRouter — daftar 209 model itu tidak berisi checkpoint Granite Speech dari generasi mana pun. Saat ini pilihan Anda adalah bobotnya, atau tidak sama sekali. Itu normal untuk model yang berusia dua hari dan akan berubah; rencanakan untuk self-hosting sementara itu.

Ketiga, lisensinya berbeda di seluruh keluarga dengan cara yang mudah membuat orang keliru. Model 2B menggunakan Apache 2.0 tanpa batasan komersial. Model TurboCTC kecil tersedia dalam dua varian, satu Apache 2.0 dan satu nonkomersial — penamaannya tidak membuat mana yang mana menjadi jelas sekilas.

Apa dampaknya bagi pipeline ucapan

Arsitektur realistis untuk penerapan Granite Speech 5.0 2B pada akhir 2026 adalah encoder-decoder yang dihosting sendiri untuk mentranskripsikan audio, dan panggilan model bahasa terpisah yang melakukan apa pun berikutnya: merangkum panggilan, mengekstrak field, mengklasifikasikan intent, membersihkan transkrip terhadap skema. Tahap kedua itu adalah pembuatan teks biasa, dan itulah bagian yang diuntungkan karena tidak dikunci ke satu vendor — transkrip dikirim ke satu endpoint yang kompatibel dengan O​penAI yang dapat menjangkau 200+ model dengan harga daftar penyedia tanpa tambahan markup, sehingga mengganti model pembersih cukup berupa perubahan konfigurasi, bukan pembangunan ulang, dan gangguan penyedia akan failover alih-alih ikut menjatuhkan pipeline.

Untuk tahap speech itu sendiri, keputusan minggu ini lebih sempit daripada yang disiratkan oleh bagan benchmark. Granite Speech 5.0 2B adalah model ASR bahasa Inggris open-weights tiga teratas yang kredibel, peningkatan jelas atas pendahulunya sendiri tepat pada kondisi yang membuat ASR gagal di produksi, dan model yang benar-benar multibahasa dengan terjemahan serta kontrol kata kunci yang tidak ditawarkan sebagian besar pesaing pada ukuran ini. Model ini juga baru berusia dua hari, di-benchmark oleh vendor, dan belum direproduksi. Jalankan pada audio tersulit Anda sendiri sebelum Anda percaya 5.06%.