Nemotron 3.5 Transcribe vs NVIDIA Parakeet TDT 0.6B: Incumbent 626.000 Unduhan Bertemu Penggantinya

Lebih dari 626.000 unduhan di Hugging Face merupakan milik NVIDIA Parakeet TDT 0.6B, transduser 600 juta parameter yang telah menjadi pengenal bahasa Inggris yang di-host sendiri secara default sejak muncul pada Agustus 2025. Hampir tidak ada yang menjalankannya sendirian: penerapan standarnya adalah Parakeet untuk kata-kata, diarisator terpisah untuk pembicara, dan langkah penggabungan untuk menyatukan kedua keluaran di batas segmen. Nemotron 3.5 Transcribe, yang diterbitkan sebagai bobot terbuka pada 28 Oktober 2026, adalah tawaran NVIDIA untuk menghapus lapisan perantara itu — satu checkpoint yang mentranskripsikan, memisahkan hingga delapan suara dan memberi stempel waktu pada mereka, dalam empat puluh bahasa, tanpa kaskade. Model ini juga empat puluh tiga kali lebih lambat per detik-GPU dan sekitar dua puluh lima kali lebih besar di penyimpanan disk, yang merupakan bagian yang tidak dijadikan pembuka dalam pengumuman.

Hal yang menarik tentang perbandingan ini adalah kedua model tersebut berasal dari perusahaan yang sama. Ini bukanlah penantang yang datang dari luar untuk menggusur pemain lama; ini adalah NVIDIA yang menjual kepada Anda produk kedua yang jauh lebih berat untuk mengerjakan separuh pekerjaan yang memang tidak pernah dirancang untuk produk pertamanya.

Dua arsitektur, dua teori tentang pekerjaan

Parakeet TDT 0.6B v3 adalah encoder FastConformer yang memberi masukan ke dekoder transduser token-dan-durasi. Model TDT memprediksi token sekaligus durasi pada setiap langkah, yang memungkinkannya melewati frame dan berjalan jauh lebih cepat daripada waktu nyata; itulah alasan utama model ini cepat. Model ini mencakup 25 bahasa Eropa dengan deteksi bahasa otomatis, memiliki stempel waktu tingkat kata secara bawaan, dan dirilis di bawah CC-BY-4.0, yang kurang lebih merupakan lisensi paling bebas ikatan. Model ini tidak memiliki representasi penutur sama sekali — bukan yang lemah, tidak ada sama sekali.

Nemotron 3.5 Transcribe adalah model bahasa yang diperkaya ucapan: sebuah encoder ucapan, model Nemotron 3 Diarization yang dibekukan yang menyuntikkan fitur aktivitas pembicara melalui Parallel Expert Encoder, serta decoder mixture-of-experts Mamba–Transformer hibrida dengan sekitar 4 miliar dari 30 miliar parameternya aktif per token. Model ini tidak mengklasifikasikan frame. Model ini menghasilkan teks, dan karena itulah model ini dapat diberi tahu cara menghasilkan teks tersebut.

• Parameter — total sekitar 30B, kira-kira 4B aktif per token dibanding 600M.

• Dekoding — generasi autoregresif vs transduser token-dan-durasi, non-autoregresif.

• Lisensi — OpenMDW-1.1 vs CC-BY-4.0.

• Bahasa — 40 ditranskripsikan, 31 diterjemahkan ke atau dari bahasa Inggris vs 25 bahasa Eropa dengan deteksi otomatis.

• Pembicara — hingga 8, dengan atribusi, dalam 13 bahasa vs tidak ada.

• Stempel waktu — penyelarasan CTC pasca-dekode, waktu tingkat kata yang dikaitkan dengan pembicara vs waktu tingkat kata native.

Throughput — RTFx 462 pada Open ASR Leaderboard vs RTFx 3,333.

• Panjang audio dan streaming — 1 jam per file, hanya rekaman vs rekaman, dengan saudara streaming 0.6B yang menangani audio langsung secara terpisah.

Angka akurasi berubah tergantung pada siapa yang menjadi tuan rumah

Pada rata-rata short-form bahasa Inggris di Hugging Face Open ASR Leaderboard, Parakeet TDT 0.6B v3 berada di 6,34% dan Nemotron 3.5 Transcribe di 5,33%. Itu adalah selisih satu poin pada papan peringkat publik yang sama, yang merupakan perbandingan lebih layak dibandingkan sebagian besar dalam seri ini — harness yang sama, set uji yang sama, pengajuan dari kedua vendor sendiri. Namun itu tetap bukan gambaran utuh, karena kedua entri dinilai pada waktu yang berbeda dan rata-rata papan peringkat didominasi oleh ucapan baca yang bersih.

Artificial Analysis menyampaikan cerita yang sangat berbeda, dan penting untuk memahami alasannya. Di papan tersebut, entri Parakeet berada di 4,5%, jauh lebih tinggi daripada yang disarankan rata-rata Open ASR-nya, sementara Nemotron 3.5 Transcribe berada di 3,4%. Angka 4,5% itu milik konfigurasi endpoint yang dihosting, bukan checkpoint di hardware Anda sendiri, dan pilihan batching serta decoding dari deployer menggeser angka tersebut hampir satu poin. Membandingkan skor Parakeet yang dihosting dengan yang dihosting sendiri adalah kesalahan paling umum dalam liputan minggu ini, dan hal itu juga berlaku sebaliknya: klaim peluncuran NVIDIA sebesar 2,8% untuk Nemotron adalah angka submission, dan 3,4% saat ini di papan adalah hasil pengukurannya.

Gambaran independen yang ditinjau manusia bahkan lebih sempit lagi. Pada set bahasa Inggris Perit, Parakeet TDT 0.6B v3 berada pada 2,13% WER, peringkat 14 dari 22, dengan 54% klip ditranskripsikan dengan sempurna. GPT Transcribe dan MAI Transcribe 2 berada pada 1,76% di peringkat enam dan tujuh. Checkpoint 30B Nemotron 3.5 Transcribe sama sekali tidak ada di papan peringkat itu; model nemotron-3.5-asr-streaming-0.6b yang ada di sana berada pada 3,35%, peringkat 21 — model berbeda untuk tugas berbeda, dan sering kali dikira sebagai model yang dibahas dalam artikel ini.

Apa yang sebenarnya dihapus oleh penggantian itu

Cascade yang dijalankan pengguna Parakeet saat ini memiliki tiga bagian dan tiga mode kegagalan. Pengenal menghasilkan teks dengan pewaktuan kata. Diarizer menghasilkan giliran pembicara. Penggabungan menetapkan giliran ke kata, dan melakukannya dengan heuristik tumpang tindih yang salah tepat di titik yang penting — ketika dua orang berbicara pada saat yang sama. Angka yang dilaporkan NVIDIA sendiri untuk pengganti model tunggal diarahkan langsung pada kegagalan itu: tingkat kesalahan diarisasi 18,26% di 21 bahasa pada tolok ukur David AI, terbaik dari 14 sistem; WER min-permutasi terkonskatenasi 32,4% pada VoiceArena, terbaik dari 14, dengan peringkat kedua adalah cascade Multitalker Parakeet plus Nemotron 3 Diarization pada 34,2%; dan 8,32% kata rujukan yang terlewat pada ucapan bahasa Inggris yang tumpang tindih dibandingkan median sekitar 31%.

Itu adalah angka vendor pada harness milik vendor dan belum direproduksi secara independen. Namun perhatikan apa yang menjadi peringkat kedua: kaskade milik NVIDIA sendiri, yang dibangun dari model dalam judul perbandingan ini. Perusahaan itu menerbitkan tolok ukur yang menunjukkan produk barunya mengalahkan produk lamanya plus diarizer. Itu adalah bukti yang luar biasa langsung, dan itu juga jenis bukti yang paling mungkin dihasilkan oleh vendor dan paling kecil kemungkinannya untuk diterbitkan jika hasilnya sebaliknya.

Hal kedua yang dihilangkan oleh pengganti adalah penanganan bahasa. Parakeet mencakup 25 bahasa Eropa; Nemotron mencakup 40 bahasa untuk transkripsi dan 31 untuk penerjemahan ke atau dari bahasa Inggris, dengan atribusi pembicara dalam 13 bahasa. Jika antrean Anda berhenti di UE, perbedaan itu bersifat akademis. Jika mencakup bahasa Arab, Mandarin, Hindi, atau Jepang, Parakeet tidak pernah menjadi opsi dan perbandingannya adalah antara Nemotron dan sesuatu yang sama sekali lain.

Berapa biaya yang harus Anda keluarkan untuk menggantinya

Pertama, throughput. Angka 3.333 RTFx Parakeet versus 462 milik Nemotron adalah selisih 7,2× pada harness papan peringkat yang sama—selisih yang lebih kecil daripada yang tersirat oleh rasio parameter, karena MoE hanya mengaktifkan sekitar 4 miliar dari 30 miliar bobotnya per token, tetapi tetap merupakan selisih yang nyata. Klaim NVIDIA yang lebih lantang, hingga 2.238 detik audio per detik pada satu RTX PRO 6000 Blackwell, mengasumsikan checkpoint NVFP4 ditambah model draf DFlash2 dan diukur pada klip berdurasi 30 detik dengan konkurensi tinggi. Kedua angka itu tidak salah; keduanya mengukur konfigurasi yang berbeda, dan rencana kapasitas yang dibangun berdasarkan angka yang lebih besar akan mengecewakan Anda pada rapat berdurasi satu jam.

Jejak memori, kedua. Parakeet TDT 0.6B muat dalam beberapa gigabita dan berjalan dengan nyaman di GPU kelas menengah, dan build terkuantisasinya berjalan di CPU. Nemotron 3.5 Transcribe berukuran puluhan gigabita dalam BF16 dan membutuhkan vLLM dengan plugin NeMo Speech atau SGLang-Omni pada akselerator pusat data. Tidak ada versi dari ini di mana model 30B menggantikan model 0.6B pada perangkat keras yang sama.

Kematangan, ketiga. Parakeet telah memiliki satu tahun deployment, seribu jawaban forum, dan toolchain yang berfungsi di NeMo, Transformers, serta runtime C++. Nemotron 3.5 Transcribe baru seumur sehari. Dukungan GGUF dan NeMo-Speech.cpp-nya disebutkan akan segera hadir; build lokal terkuantisasinya belum dirilis. Jika pipeline Anda perlu membosankan, itu adalah alasan untuk menunggu satu kuartal alih-alih alasan untuk menolak model ini.

Di mana petahana masih menang secara mutlak

Yang interaktif, sebagai contoh. Decoding transduser Parakeet mengembalikan kata seiring audio tiba, dan timestamp aslinya merupakan properti decoder, bukan langkah penyelarasan pasca-proses. Nemotron 3.5 Transcribe secara eksplisit dibuat untuk audio rekaman — posting Hugging Face milik NVIDIA sendiri menyatakan demikian — dan ada model streaming 0.6B terpisah untuk sesi langsung. Jika produk Anda adalah takarir langsung, tidak ada satu pun model dalam judul ini yang merupakan jawaban yang tepat; model streaming serumpunlah yang tepat, dan itu adalah perbandingan yang berbeda.

Apa pun yang on-premise dalam skala kecil, untuk dua orang. Sebuah klinik dengan satu kartu workstation, firma hukum dengan arsip dan petugas kepatuhan, kelompok riset dengan hibah satu GPU: Parakeet pada 0,6B adalah deployment yang realistis, sedangkan Nemotron pada 30B tidak. Selisih akurasi sekitar satu poin pada bahasa Inggris yang bersih tidak sepadan dengan biaya perangkat kerasnya.

Apa pun yang hanya berbahasa Inggris tanpa persyaratan penutur, untuk tiga. Yang sebagian besar merupakan pekerjaan transkripsi. Ringkasan jujurnya adalah bahwa mayoritas dari 626.000 unduhan Parakeet adalah untuk pekerjaan yang tidak ditingkatkan oleh pembaruan tersebut.

Menjaga pipeline tetap berjalan saat separuhnya adalah perangkat keras Anda sendiri

Menghosting sendiri pengenal suara memperkenalkan mode kegagalan yang tidak dimiliki API terkelola: kartu Anda, driver Anda, jendela pemeliharaan Anda. Itulah tepatnya argumen untuk mempertahankan separuh pipeline lainnya — perangkum, pengklasifikasi, ekstraktor yang mengubah transkrip menjadi catatan terstruktur — di endpoint yang memiliki redundansi bawaan. OrcaRouter menjalankan 200+ model teks dan multimodal di balik satu kunci, dengan failover otomatis di seluruh penyedia ketika upstream mengalami degradasi, harga daftar penyedia diteruskan dengan markup 0%, dan DSL perutean yang memungkinkan Anda mengarahkan risalah rapat dan catatan panggilan ke model berbeda tanpa menduplikasi integrasi. Nemotron 3.5 Transcribe dan Parakeet TDT 0.6B keduanya di luar katalog tersebut — kami tidak menyediakan speech-to-text — tetapi lapisan yang membaca output mereka tidak harus gagal ketika GPU gagal.

Keputusan peningkatan

Ganti Parakeet dengan Nemotron 3.5 Transcribe jika kaskade itulah yang merugikan Anda: jika Anda memelihara diarizer dan langkah penggabungan, jika rapat Anda memiliki lebih dari dua suara, jika audio Anda bukan audio Eropa, atau jika kata-kata "overlapping speech" muncul di tiket dukungan Anda. Dalam hal itu, checkpoint 30B bukanlah kemewahan, melainkan penghapusan dua komponen yang bergerak beserta anggaran kesalahannya, dan biaya throughput adalah biaya throughput — satu kartu tetap memproses audio jauh lebih banyak daripada yang dapat dihasilkan tim yang padat rapat.

Pertahankan Parakeet jika audio Anda berbahasa Inggris atau Eropa, penuturnya diketahui atau tidak relevan, perangkat keras Anda berupa workstation, dan pipeline Anda berfungsi. Model baru tidak membuat model lama menjadi usang; model ini mencakup kasus-kasus yang memang tidak pernah dirancang untuk model lama. Dan terus pantau papan independen, karena setiap angka dalam artikel ini yang mendukung Nemotron 3.5 Transcribe dalam hal diarisasi adalah milik NVIDIA sendiri, dan opini kedua belum diterbitkan.