Nemotron 3.5 Transcribe vs Grok Voice Transcribe 2.0: Bobot Terbuka di GPU Anda, atau $0,20 per Jam

Grok Voice Transcribe 2.0 menagih $0.20 untuk setiap jam audio yang Anda alirkan melaluinya, dan $0.10 untuk setiap jam yang Anda proses secara batch. Nemotron 3.5 Transcribe tidak menagih apa pun per jam dan meminta Anda memiliki GPU yang mampu menampung sekitar 34 miliar parameter. Jika hanya membaca kalimat itu, perbandingannya tampak seperti perang harga antara meteran dan mesin, dengan meteran jelas kalah. Meteran itu tidak kalah: pada satu papan tolok ukur tempat kedua model muncul, model bermeteran lebih akurat, dan model terbuka tidak cukup dekat untuk membantah hal itu.

Keduanya dirilis dengan selang enam minggu — Grok Voice Transcribe 2.0 pada 2026-09-18, Nemotron 3.5 Transcribe pada 2026-10-28 — dan keduanya dibuat untuk pekerjaan yang berbeda. Yang satu adalah API terkelola dengan WebSocket yang mengembalikan kata-kata saat seseorang masih berbicara. Yang lain adalah checkpoint yang Anda unduh, muat, lalu arahkan ke rekaman yang sudah selesai. Latensi, jumlah bahasa, label pembicara, struktur biaya, dan bahkan ketentuan hukum semuanya berasal dari satu perbedaan itu, itulah sebabnya pertanyaan yang menarik bukanlah mana yang mentranskripsikan lebih baik.

Apa masing-masingnya, dalam enam baris

Kontras bentuknya cukup mencolok sehingga daftar spesifikasi terdengar seperti kesalahan kategori, dan itulah intinya.

• Penerapan — API REST dan WebSocket yang dihosting di infrastruktur milik xAI sendiri versus bobot terbuka di bawah OpenMDW-1.1 yang Anda layani sendiri di vLLM, SGLang-Omni, atau NeMo Speech.

• Ukuran — xAI tidak memublikasikan jumlah parameter, dibandingkan dengan total 34B dengan sekitar 4,3B aktif, termasuk encoder audio, yang menggunakan tulang punggung mixture-of-experts Mamba dan Transformer Nemotron 3.5 Lightning 30B-A3B.

• Audio masuk — file hingga 500MB dalam dua belas format kontainer ditambah tiga pengodean mentah, dengan 2-8 kanal melalui mode multikanal, versus rekaman hingga satu jam pada PCM mono 16kHz dalam konteks 65.536 token.

• Jalur real-time — streaming dengan hasil sementara kira-kira setiap 500 md, endpointing yang default-nya 400 md, deteksi giliran pintar, dan endpoint batch terpisah, dibandingkan dengan tanpa streaming sama sekali; model membaca file yang sudah selesai dan mengembalikan transkrip.

• Cakupan bahasa — 37 bahasa yang disebutkan dalam dokumentasi xAI dan dijelaskan di sana sebagai 38+, dibandingkan dengan 40 bahasa yang ditranskripsikan dan 31 pasangan terjemahan ke atau dari bahasa Inggris pada kartu NVIDIA.

• Label pembicara — flag diarisasi yang menambahkan bilangan bulat pembicara ke setiap kata, tersedia pada batch dan streaming, dibandingkan dengan encoder diarisasi terpadu yang menghasilkan transkrip beratribusi pembicara dalam satu proses untuk hingga 8 pembicara dalam 13 bahasa.

• Harga — $0.10 per jam audio dalam mode batch dan $0.20 per jam audio dalam mode streaming, dibandingkan dengan tidak adanya tarif per jam yang dipublikasikan, karena NVIDIA menjual bobot dan Anda menyediakan komputasi.

Satu papan tempat mereka bertemu, dan papan itu tidak rusak dengan cara yang Anda duga.

Artificial Analysis menjalankan papan peringkat speech-to-text dengan dua jalur: jalur batch untuk file yang sudah selesai dan jalur streaming untuk model yang mengeluarkan hasil parsial. Nemotron 3.5 Transcribe hanya memenuhi syarat untuk jalur pertama. Di sana, Grok Voice Transcribe 2.0 berada pada 2,3% AA-WER, kelima dari sekitar enam puluh model, sedangkan model NVIDIA disebut sebesar 2,80% dalam materi peluncuran dan tercatat 3,4% pada tabel langsung dalam beberapa hari setelah rilis. Sebut saja 2,8% atau 3,4%; apa pun itu, model yang di-hosting memenangi satu-satunya skala yang sama-sama mereka miliki, dengan selisih antara setengah poin dan satu poin penuh.

Hasil itu tidak terlalu merugikan seperti yang terlihat pada awalnya, karena kedua model tidak berada di papan skor untuk alasan yang sama. Klaim NVIDIA adalah bahwa Nemotron 3.5 Transcribe merupakan model ucapan berbobot terbuka terbaik, dan pada papan yang lebih sempit itu memang benar: perbandingan yang dimenangkannya adalah terhadap checkpoint lain yang dapat diunduh, di mana 2,8% adalah angka yang harus dikalahkan. Grok Voice Transcribe 2.0 bersifat proprietary dan bersaing di jalur yang berbeda. Membandingkan keduanya secara langsung menghasilkan judul — "model ter-hosting mengalahkan model terbuka dengan selisih 0,5 poin" — yang mengukur campuran tolok ukur, bukan keputusan produk.

Jalur streaming adalah tempat asimetri menjadi struktural, bukan statistik. Grok Voice Transcribe 2.0 memegang posisi teratas di jalur streaming dengan WER akhir 2,7%, dikeluarkan 0,49 detik setelah akhir ucapan, dan 3,4% pada hasil parsial pertamanya pada latensi yang sama, peringkat pertama dari sekitar tiga puluh dua model streaming. Nemotron 3.5 Transcribe tidak memiliki entri, karena tidak dapat melakukan streaming. Model ini adalah model file-in, transcript-out, dan tidak ada jalur streaming berchunk yang didokumentasikan untuknya. Siapa pun yang membandingkan keduanya dari segi akurasi sambil merencanakan penerapan live-caption sedang membandingkan model yang tidak dapat mereka gunakan.

Kedua papan peringkat membawa label peringatan yang layak diulang. AA-WER bergerak hampir satu poin penuh untuk model yang sama di berbagai endpoint serving, sehingga selisih 0,5 poin di atas kira-kira selebar derau pengukuran — nyata dalam arah, lemah sebagai vonis. Dan angka frasa pendek multibahasa 6,8% milik xAI sendiri, turun dari 20,6% pada versi 1.0, diambil dari set internal yang dibangun dari lalu lintas produksi, bukan korpus yang dirilis. Itu klaim vendor tentang set vendor, dan tidak muncul sama sekali di Artificial Analysis.

Streaming adalah batas yang tidak bisa dilewati model terbuka

Bagi agen pusat panggilan, takarir langsung, asisten rapat, atau bot suara, keputusan sudah ditentukan sebelum akurasi dipertimbangkan. Grok Voice Transcribe 2.0 menerima frame audio biner mentah melalui WebSocket — pcm, mulaw, alaw, atau opus — mengembalikan hasil sementara sekitar dua kali per detik, dan memberikan sinyal akhir giliran melalui endpointing dan deteksi giliran cerdas. Itulah mekanisme yang membuat transkrip terasa langsung, dan itulah alasan Atlassian's Loom memindahkan pustaka videonya ke model tersebut saat peluncuran.

Nemotron 3.5 Transcribe memang dirancang dengan bentuk yang berlawanan. Model ini membaca audio hingga satu jam dalam satu lintasan dan mengembalikan transkrip lengkap, dengan stempel waktu per kata yang dihasilkan oleh adaptor CTC ringan setelah generasi, bukan selama generasi. Desain itu mengorbankan latensi untuk semua hal yang singkat dan interaktif demi mendapatkan akurasi pada rekaman panjang yang berantakan. NVIDIA memiliki pengenal ucapan streaming yang terpisah dan jauh lebih kecil dalam lini produknya — Nemotron Speech Streaming EN 0.6B — tetapi itu model berbeda dengan cakupan berbeda, bukan mode streaming dari checkpoint ini. Membeli model 30B dengan harapan menambahkan streaming belakangan berarti dua kali salah membeli.

Empat puluh bahasa berbanding tiga puluh tujuh, dan hitungan yang bergeser

Di atas kertas, selisihnya tiga bahasa. Dalam praktiknya, itu bergantung pada halaman mana yang Anda baca. Dokumentasi speech-to-text xAI mencantumkan 37 bahasa bernama — dari Arab dan Bosnia hingga Urdu dan Vietnam, dengan varian regional untuk Spanyol, Portugis, dan Arab — dan menyebut totalnya sebagai 38+. Cakupan yang diterbitkan sekitar peluncuran September menyebutkan 25. Dokumentasi adalah sumber yang lebih mutakhir dan lebih spesifik, tetapi jumlah bahasa yang berubah sebanyak tiga belas antara pos peluncuran dan halaman dokumentasi adalah jumlah yang perlu diverifikasi dengan audio Anda sendiri, bukan langsung diadopsi.

Kartu NVIDIA lebih terperinci dan, untuk kali ini, lebih konservatif: 40 bahasa dengan tabel tanda centang per bahasa, dan 13 di antaranya ditandai untuk transkripsi multi-pembicara. Yang penting untuk atribusi pembicara adalah kumpulan yang lebih sempit daripada 40 bahasa itu — Arab, Mandarin, Inggris, Prancis, Jerman, Hindi, Italia, Jepang, Korea, Portugis, Rusia, Spanyol, dan Thai. Jika arsip Anda dalam bahasa Polandia atau Turki, Nemotron 3.5 Transcribe akan mentranskripsikannya dengan baik dan tidak akan memberi tahu Anda siapa mengatakan apa, yang merupakan kemampuan yang mungkin Anda beli.

Penerjemahan adalah kolom khusus Nemotron di sini. Model ini menerjemahkan ke dan dari bahasa Inggris di 31 pasangan dalam proses yang sama dengan transkripsi, yang tidak ditawarkan Grok Voice Transcribe 2.0; API xAI mengembalikan teks dalam bahasa yang diucapkan. Jika pekerjaannya adalah notulen rapat bilingual, itu adalah fitur yang tidak dapat direproduksi oleh rekayasa prompt apa pun di sisi Grok.

Label pembicara: encoder gabungan versus boolean

Inilah satu dimensi di mana keduanya lebih mirip daripada yang disiratkan oleh pemasaran, dan di mana jawaban jujurnya adalah bahwa keduanya melakukannya.

• Nemotron 3.5 Transcribe — model Nemotron 3 Diarization yang dibekukan memasukkan representasi aktivitas penutur ke dalam encoder ASR, sehingga model bahasa melihat siapa yang berbicara sebagai bagian dari inputnya. Outputnya membawa tag penutur dan segmen mentah, hingga 8 penutur, serta timestamp tingkat kata. Prosesnya satu kali jalan tanpa layanan kedua di tengahnya.

• Grok Voice Transcribe 2.0 — setel diarize=true dan setiap kata kembali dengan field speaker berupa bilangan bulat, baik pada batch maupun streaming. Mode multichannel bahkan lebih jauh: hingga 8 kanal ditranskripsikan secara independen dan dikembalikan dengan indeks kanal, yang memberikan atribusi tepat ketika sumber Anda adalah rekaman multichannel, bukan rekaman campuran.

Perbedaan praktisnya adalah cakupan, bukan keberadaan. Flag Grok berfungsi di semua bahasa yang didukung API-nya; jalur terpadu NVIDIA dilatih untuk 13 bahasa. Dan multikanal adalah keunggulan nyata di ruangan tempat hal itu berlaku — ruang rapat dengan satu mikrofon per kursi tidak memerlukan diarizer untuk menebak. Berkas mono campuran dari lantai konferensi memerlukannya, dan di sana kesenjangan kualitas antara encoder terpadu dan flag yang di-host adalah sesuatu yang hanya audio Anda sendiri dapat menentukan.

Aritmetika pada seribu jam per bulan

Harga adalah titik ketika kedua model benar-benar berbeda, dan ada baiknya menghitung totalnya daripada sekadar bertukar anekdot tentang tagihan GPU.

Pada 1.000 jam audio per bulan, Grok Voice Transcribe 2.0 berbiaya $100 dalam mode batch atau $200 secara streaming — $1.200 atau $2.400 per tahun, tanpa perangkat keras, tanpa jendela pemeliharaan, dan tanpa cold start. Nemotron 3.5 Transcribe berbiaya sebesar biaya GPU-nya. Halaman riset NVIDIA mengklaim bahwa checkpoint NVFP4 dengan model draf DFlash2 mentranskripsikan 2.238 detik audio per detik pada satu RTX PRO 6000 Blackwell, yang bahkan setelah dikurangi satu orde besaran menempatkan 1.000 jam audio dalam beberapa jam-GPU per bulan. Komputasi bukanlah kendala; kepemilikanlah kendalanya.

Titik impas terhadap tarif streaming — kartu workstation seharga $8.000 kembali modal setelah 40 bulan dengan 1.000 jam streaming, atau 80 bulan terhadap tarif batch.

• Pada 10.000 jam sebulan — kartu yang sama mencapai titik impas dalam empat bulan dibandingkan dengan streaming, dan tarif per jamnya turun menjadi sekitar 2 sen.

• GPU cloud sewaan — H100 dengan harga sekitar $2 per jam mengalahkan harga daftar kedua model begitu klaim throughput vendor berlaku bahkan pada sebagian kecil dari angka yang dinyatakan; biaya tetapnya menjadi waktu engineering, penyimpanan, dan fakta bahwa Anda kini menjalankan server model.

Titik impas karena itu sama sekali bukan soal akurasi transkripsi. Ini soal volume dan soal apakah audio diizinkan keluar dari jaringan Anda. Di bawah beberapa ribu jam per bulan, tarif hosted lebih murah daripada biaya rekayasa. Di atas itu, atau di balik tembok kepatuhan, bobot model yang menang dan perbandingannya berbalik.

Di mana OrcaRouter cocok, dan di mana tidak

Tidak satu pun dari transkriber ini ada dalam katalog OrcaRouter saat ini; model yang kami layani adalah model teks dan visi, dan tidak ada apa pun di sini yang boleh dibaca sebagai endpoint untuk salah satu dari keduanya. Yang dihasilkan oleh pipeline transkripsi adalah tumpukan besar teks yang kemudian perlu diringkas, ekstraksi entitas, penyamaran data, klasifikasi, dan pencarian. Panggilan-panggilan itulah tempat satu kunci yang kompatibel dengan OpenAI untuk 200+ model membuktikan nilainya: harga daftar penyedia diteruskan tanpa markup 0%, sehingga pemotongan harga vendor berlaku pada hari yang sama, failover otomatis ketika salah satu upstream menurun kinerjanya, dan DSL routing yang dapat mengirim pekerjaan klasifikasi murah ke model kecil sambil menahan peringkasan yang mahal di model frontier. Jika Anda melakukan self-host Nemotron 3.5 Transcribe, GPU adalah transkriber Anda; routing adalah apa yang terjadi pada transkrip setelahnya.

Mana yang harus dipilih

Keputusan ini tentang clock pada audio, bukan kartu model.

Audio langsung, agen suara, takarir, perutean panggilan — Grok Voice Transcribe 2.0, tanpa banyak perdebatan. Streaming bersifat native, latensi di bawah setengah detik hingga transkrip akhir, dan endpoint batch menggunakan model yang sama untuk pengisian ulang semalam.

• Rekaman yang sudah selesai dengan banyak penutur, dalam bahasa selain Inggris — Nemotron 3.5 Transcribe, asalkan Anda memiliki GPU dan jalur penutur 13 bahasa mencakup audio Anda. Inilah kasus yang model ini dirancang untuknya, dan di mana 40 bahasa serta diarisasi satu lintasan mengalahkan selisih akurasi 0,5 poin.

• Arsip bilingual — Nemotron 3.5 Transcribe, karena pasangan terjemahan disertakan dalam proses yang sama dan Grok tidak menerjemahkan.

• Volume kecil, tanpa GPU, hanya bahasa Inggris — Grok Voice Transcribe 2.0 dalam mode batch dengan $0.10 per jam. Seribu jam biaya seratus dolar; tak ada kebebasan lisensi open-weight sebesar apa pun yang bisa mengimbangi pembelian kartu Blackwell hanya untuk menghemat itu.

Jawaban keempat yang menggoda — men-deploy Nemotron sekarang dan menambahkan streaming nanti — tidak ada. Model yang dikirim NVIDIA sengaja dibuat offline, dan lini streaming yang dijual bersamanya adalah pengenal bahasa Inggris 0,6B, bukan mode dari model ini. Pilih dulu bentuk yang Anda butuhkan; argumen papan peringkat bisa menunggu, karena selisih setengah poin AA-WER sudah jauh berada di dalam rentang variasi model yang sama ketika berpindah host.