Grok Voice Transcribe 2.0 vs NVIDIA Parakeet TDT 0.6B: Dua Papan Peringkat, Satu Perbandingan yang Menyesatkan

NVIDIA Parakeet TDT 0.6B adalah transduser FastConformer-TDT berparameter 600 juta yang dirilis pada 14 Agustus 2025 di bawah CC-BY-4.0, dan selama lebih dari setahun telah menjadi rekomendasi default bagi siapa pun yang ingin menjalankan transkripsi sendiri. Grok Voice Transcribe 2.0 adalah model speech-to-text terkelola milik SpaceXAI, dirilis pada 18 September 2026, dengan harga $0,10 per jam audio untuk batch dan $0,20 per jam untuk streaming, dengan tingkat word error rate akhir 2,7% pada papan peringkat streaming Artificial Analysis. Jika Anda mencari perbandingan antara keduanya, Anda akan menemukan Parakeet dikutip pada WER 13,7% dan Grok Voice Transcribe 2.0 pada 2,7%, yang membuat model terkelola tampak lima kali lebih akurat dan benar-benar menyesatkan untuk dibaca. Kedua angka itu berasal dari indeks Artificial Analysis yang berbeda, dibangun di atas kumpulan data yang berbeda, diterbitkan berselang bertahun-tahun, dan salah satunya telah digantikan oleh pengukuran yang lebih baru dari vendor itu sendiri. Perbandingan yang sebenarnya lebih menarik, dan ini tentang apa yang bisa Anda dapatkan dari 600 megabita bobot yang tidak bisa diberikan oleh API.

Angka 13,7%, dan mengapa Anda tidak boleh menggunakannya

Laporan State of AI Kuartal 3 2025 dari Artificial Analysis menempatkan NVIDIA Parakeet TDT di peringkat ketiga pada indeks AA-WER miliknya dengan 13,7%, di belakang Chirp 2 milik Google pada 11,6% dan Canary Qwen milik NVIDIA sendiri pada 13,2%. Indeks itu adalah rata-rata tertimbang berdasarkan durasi audio dari sekitar dua jam masing-masing VoxPopuli, Earnings-22, dan AMI-SDM — ucapan dunia nyata dengan aksen yang beragam, kosakata domain, dan kondisi kanal yang sulit, itulah sebabnya setiap angka di dalamnya tinggi. WER 13,7% pada AMI-SDM, yaitu audio rapat jarak jauh yang direkam di ruangan bergema, bukanlah hasil yang buruk; itu adalah uji yang sulit.

Indeks itu tidak lagi ada dalam bentuk tersebut. Artificial Analysis membangunnya ulang sebagai AA-WER v2, dengan bobot AA-AgentTalk 50% serta VoxPopuli-Cleaned-AA dan Earnings22-Cleaned-AA masing-masing 25%, sekitar delapan jam audio, dan pembersihan serta pembobotan ulang itu menggeser angka setiap model secara signifikan. Pada papan non-streaming saat ini, Parakeet TDT 0.6B V3 berada di angka satu digit rendah — rentang yang sama dengan para pemimpin open-weight lainnya — bukan di angka yang mendekati 13,7%, dan puncak papan kini turun ke sekitar 2%. Siapa pun yang masih mengutip 13,7% untuk Parakeet sedang mengutip pengukuran yang sudah tidak digunakan lagi, dan jika mereka membandingkannya dengan angka streaming 2026, mereka juga membandingkan lintas dua papan yang berbeda.

Yang secara jujur dapat disandingkan justru lebih sempit. Evaluasi NVIDIA sendiri di Open ASR Leaderboard — set standar publik berbahasa Inggris bentuk pendek, dijalankan melalui perkakas papan tersebut — melaporkan WER rata-rata 6,32% untuk Parakeet TDT 0.6B V3 dengan RTFx 3.332,74, dan rata-rata 6,05% untuk v2 yang hanya berbahasa Inggris. Angka 2,7% dari Grok Voice Transcribe 2.0 adalah angka transkrip akhir pada papan streaming, diukur setelah akhir ucapan, pada audio percakapan bahasa Inggris yang diberi bobot agen. Set berbeda, papan berbeda, mode berbeda. Model terkelola sangat mungkin lebih akurat pada audio yang digunakan bersama oleh kedua papan; besarnya keunggulan itu bukan 5×, dan belum ada yang menerbitkan pengukuran yang dapat memutuskannya.

Seperti apa bentuk kedua model itu sebenarnya

Perbedaan arsitektural menjelaskan sebagian besar perbedaan praktisnya. Parakeet TDT 0.6B adalah encoder FastConformer dengan dekoder transduser token-dan-durasi — model ini memprediksi token sekaligus berapa banyak frame yang harus dilanjutkan, yang memungkinkannya melewati alih-alih mengeluarkan blank, dan itulah sumber utama efisiensinya. Model ini hadir dengan deteksi bahasa otomatis untuk 25 bahasa Eropa, stempel waktu tingkat kata dan segmen, tanda baca dan kapitalisasi, serta mampu menangani audio panjang — hingga 24 menit dengan atensi penuh, atau sekitar tiga jam dengan atensi lokal. Model ini dilayani melalui NeMo 2.2, memiliki jalur MLX untuk Apple Silicon, dan tersedia build ONNX INT8 yang berjalan di CPU biasa.

Grok Voice Transcribe 2.0 adalah layanan terkelola, jadi perbandingannya adalah antara model dan produk. Apa saja yang termasuk dalam produk tersebut pada harga daftarnya:

• Streaming — Grok Voice Transcribe 2.0 native melalui WebSocket, parsial pertama pada 0,49 detik vs pendekatan chunked atau buffered Parakeet TDT 0.6B, tanpa antarmuka transkrip parsial kelas satu

• Pembobotan istilah kunci — hingga 100 istilah kunci per permintaan vs bukan fitur Parakeet

• Diarisasi — termasuk dalam harga yang diminta vs sistem terpisah yang Anda tambahkan sendiri

• Saluran — hingga delapan saluran audio dalam satu permintaan vs satu aliran per proses

• Normalisasi teks invers — disertakan di 25 bahasa vs hanya tanda baca dan kapitalisasi

• Penerapan — endpoint terkelola di us-east-1 vs bobot yang Anda unduh, jalankan, dan operasikan di mana saja

• Lisensi — ketentuan API komersial vs CC-BY-4.0 dengan atribusi

• Ukuran model — tidak diungkapkan vs sekitar 600 juta parameter, kira-kira 2,4 GB dalam fp32 atau 1,2 GB dalam fp16

Baris terakhir itulah yang menentukan banyak penerapan. Parakeet TDT 0.6B muat dalam beberapa gigabita, berjalan cukup baik di CPU laptop melalui jalur INT8 ONNX, dan dengan nyaman muat di GPU konsumen mana pun. Itu bukan versi yang lebih kecil dari apa yang dilakukan API — ini adalah kemampuan yang berbeda, karena inilah perbedaan antara fitur transkripsi yang bekerja offline, di perangkat, tanpa jaringan dan tanpa biaya per jam, dengan fitur yang tidak.

Aritmetika biaya yang tidak dijalankan dengan benar oleh siapa pun

Perbandingan yang dipublikasikan adalah "$0.10 per jam versus gratis," dan itu salah di kedua arah — API bukan satu-satunya hal yang Anda bayar, dan bobot bukan satu-satunya hal yang Anda hemat.

• Transkripsi batch — Grok Voice Transcribe 2.0 dengan $0,10 per jam audio, sekitar $1,67 per 1.000 menit dibandingkan Parakeet TDT 0.6B tanpa biaya lisensi ditambah waktu GPU atau CPU

• Streaming — $0,20 per jam audio, sekitar $3,33 per 1.000 menit dibandingkan dengan self-hosted, di mana batasannya adalah plafon konkurensi Anda sendiri, bukan tarif yang dipublikasikan

Batas layanan — 10 permintaan per detik dan 100 sesi streaming bersamaan per tim vs apa pun yang diizinkan oleh perangkat keras Anda, tanpa batas laju dan tanpa batas konkurensi

• Biaya yang tidak ada di kedua lembar — tidak ada engineering, tidak ada serving stack, tidak ada autoscaling vs rotasi on-call, logika retry, pembaruan model, dan GPU yang Anda jaga tetap hangat untuk puncak

Pada volume kecil, sisi terkelola hampir selalu lebih murah, karena biaya tetap jalur self-hosted adalah satu orang. Pada volume besar yang stabil, sisi self-hosted menang secara meyakinkan, dan titik peralihannya merupakan fungsi dari utilisasi, bukan volume audio: GPU yang terus Anda sibukkan sangat murah per jam audio, sedangkan GPU yang Anda biarkan tetap hangat untuk trafik puncak tidak demikian. Tim yang memproses 20.000 jam sebulan membayar $2.000 untuk jalur batch terkelola dan sekitar satu bulan-GPU kelas menengah ditambah waktu engineering untuk jalur self-hosted, yang jelas bukan angka yang berdekatan.

Alasan perhitungan aritmetikanya dijalankan dengan buruk adalah bahwa sisi self-hosted biasanya dibandingkan pada angka nol, dan sisi terkelola biasanya dibandingkan pada harga daftar. Keduanya bukan angka nyata. Yang nyata adalah bahwa 3,332 RTFx milik Parakeet TDT 0.6B — angka NVIDIA, dijalankan secara batch, pada perangkat keras pusat data, dan angka yang harus diperlakukan sebagai batas atas, bukan janji — berarti satu GPU sederhana dapat memproses lebih banyak audio daripada yang dihasilkan sebagian besar organisasi.

Ketika Parakeet bukan lagi jawaban yang tepat

Tiga hal yang mendorong sebuah tim meninggalkan model terbuka dan beralih ke model terkelola, dan tak satu pun dari ketiganya adalah akurasi.

Yang pertama adalah pembobotan istilah kunci. Jika transkrip Anda penuh dengan nama produk, nama keluarga, simbol ticker, atau jargon domain, model tanpa mekanisme pembobotan akan salah mengenalinya tanpa solusi selain fine-tuning. Grok Voice Transcribe 2.0 menerima hingga 100 istilah kunci per permintaan. Parakeet TDT 0.6B tidak memiliki fitur tersebut. Untuk pusat kontak, layanan kesehatan, dan pekerjaan hukum, satu celah itu saja sudah cukup untuk menggugurkan model ini, terlepas dari apa pun yang dikatakan papan peringkat.

Yang kedua adalah diarisasi. Parakeet memberi Anda kata-kata beserta stempel waktu; model ini tidak memberi tahu Anda siapa yang mengucapkannya. Transkripsi multi-pembicara berarti menjalankan model diarisasi terpisah dan menyelaraskan outputnya, yang merupakan sebuah proyek, bukan sekadar opsi konfigurasi. Model terkelola mengembalikan teks dengan atribusi pembicara dalam permintaan yang sama.

Yang ketiga adalah antarmuka streaming itu sendiri. Parakeet cukup cepat sehingga orang membangun sistem real-time di atasnya — memotong audio menjadi potongan, menjalankan model pada setiap potongan, menyambung keluaran — tetapi perilaku transkrip parsial, deteksi akhir giliran, dan semantik komitmen semuanya adalah hal yang Anda tulis dan pelihara. Grok Voice Transcribe 2.0 mengembalikan parsial pertama 0,49 detik setelah Anda berhenti berbicara, sebagai fitur produk.

Ada juga detail lisensi yang kadang-kadang mengejutkan tim: Parakeet TDT 0.6B V3 adalah CC-BY-4.0, yang mengizinkan penggunaan komersial tetapi mewajibkan atribusi, dan beberapa model ucapan NVIDIA sejak itu beralih ke Open Model License milik vendor tersebut. Jika atribusi menjadi masalah bagi produk Anda, bacalah kartu untuk checkpoint tertentu alih-alih mengasumsikan ketentuan keluarga model tersebut berlaku.

Mengapa API biasanya tetap menang, dan kapan seharusnya tidak

Pola selama setahun terakhir konsisten: tim memulai dengan model terbuka seperti Parakeet TDT 0.6B karena gratis dan dapat dikontrol, merilis fitur tersebut, lalu menyadari bahwa biaya berkelanjutannya bukan GPU melainkan pemeliharaan, dan bermigrasi ke endpoint terkelola. Migrasi sebaliknya juga terjadi, biasanya ketika volume melewati ambang batas di mana biaya per jam mulai terasa seperti sewa untuk sesuatu yang sebenarnya bisa dimiliki.

Kedua arah mahal untuk dijalankan jika model terhubung langsung ke dalam aplikasi Anda, dan itulah argumen untuk menjaga call site tetap membosankan. OrcaRouter mengekspos 200+ model di balik satu kunci yang kompatibel dengan OpenAI dengan failover otomatis antar penyedia dan markup 0% atas harga daftar penyedia, sehingga deployment yang di-hosting sendiri dan yang dikelola dapat berada di balik antarmuka yang sama dan ditukar hanya dengan sebuah string model. Hal itu lebih penting daripada biasanya dalam teknologi suara, di mana papan peringkat berganti pemimpin setiap beberapa minggu dan layanan terkelola satu region berarti gangguan satu region — jalur failover-lah yang mencegah fitur transkripsi menjadi gangguan transkripsi.

Bagi tim yang menginginkan throughput dari model terbuka tanpa serving stack, itulah juga bentuk keputusannya: benchmark Parakeet TDT 0.6B pada audio Anda sendiri, benchmark Grok Voice Transcribe 2.0 pada audio yang sama, dan biarkan yang menang mempertahankan trafik sementara Anda berhenti memedulikan logo vendor mana yang ada padanya.

Jika Anda ingin versi satu barisnya: Parakeet TDT 0.6B masih merupakan jawaban terbaik untuk "transkripsikan apa pun, di mana pun, tanpa biaya per jam, di perangkat keras yang sudah saya miliki," dan Grok Voice Transcribe 2.0 adalah jawaban untuk "transkripsikan secara akurat dengan label pembicara dan kosakata saya sendiri, tanpa menjalankan apa pun." Angka 13,7% yang membuat kesenjangan itu terlihat sangat besar adalah pengukuran yang sudah tidak digunakan lagi, dan kesenjangan yang sebenarnya — antara satu hingga tiga poin WER pada audio yang tumpang tindih — cukup kecil sehingga pertanyaan operasionallah yang harus memutuskannya.