Nemotron 3.5 Transcribe Menggantikan Pipeline Lima Model. Build Terbuka Itu Masih Memiliki Celah.

Panggilan rapat dewan selama 45 menit dengan enam pembicara biasanya memerlukan lima komponen yang bergerak: deteksi aktivitas suara, model ASR, diarizer, forced aligner, dan model bahasa untuk merapikan keluaran mentah menjadi sesuatu yang mudah dibaca manusia. NVIDIA Nemotron 3.5 Transcribe, yang dirilis pada 28 Oktober 2026 di bawah lisensi OpenMDW-1.1, adalah upaya NVIDIA untuk meringkas tumpukan itu menjadi satu forward pass. Yang membuat rilis ini layak dibaca ulang bukanlah peringkasannya itu sendiri. Melainkan daftar hal yang belum dapat dilakukan oleh jalur penyajian open-source tersebut.

Checkpoint ini adalah model bahasa yang diperkaya dengan kemampuan ucapan, bukan model ASR yang diberi tambahan sekadar tempelan. Dari 34 miliar parameternya, sebagian besar merupakan Nemotron 3.5 Lightning 30B-A3B tulang punggung hybrid Mamba–Transformer mixture-of-experts; sekitar 4,3 miliar parameter aktif per token, termasuk sekitar 800 juta dari encoder audio. Nama repositori masih tertulis 30B-A4B, yang menghitung decoder dan bukan sistem rakitan. Matriks dukungan NVIDIA sendiri, tabel benchmark, dan lisensi semuanya ada di kartu model, dan kartu itu adalah dokumen paling berguna dalam rilis ini.

Lima pekerjaan, satu pos pemeriksaan

Inti gagasannya adalah bahwa prompt memilih transkrip. NVIDIA melatih lima gaya keluaran ke dalam bobot yang sama, dan pemanggil memilih salah satunya dengan instruksi bahasa alami alih-alih model terpisah atau skrip pascapemrosesan:

• Verbatim — ketidaklancaran, awal yang keliru, dan pengulangan tetap dipertahankan, untuk catatan hukum dan kepatuhan.

• Bentuk tertulis — tanda baca dan kapitalisasi yang dirapikan, untuk subtitel dan notulen yang mudah dibaca.

• Konteksual — daftar entitas yang disediakan dalam prompt mengarahkan ejaan nama, produk, dan jargon.

• Diatribusikan kepada pembicara — setiap segmen membawa tag pembicara, yang dihasilkan dalam proses ASR.

• Rich — gaya serba-lengkap yang membawa label pembicara, tanda baca, kapitalisasi, dan pemformatan sekaligus.

Selain transkripsi, checkpoint yang sama melakukan terjemahan ucapan dua arah antara bahasa Inggris dan 31 bahasa, identifikasi bahasa lisan, dan pemahaman audio — menjawab pertanyaan dan mengikuti instruksi lisan berdasarkan rekaman. Checkpoint ini menangani rekaman hingga satu jam dalam konteks 65.536 token, menggunakan potongan dekode internal 30 detik yang merupakan detail rekayasa, bukan batas rekaman. Stempel waktu kata berasal dari adaptor CTC ringan setelah dekode.

Dari mana label pembicara sebenarnya berasal

Klaim "satu model melakukan segalanya" sebagian besar runtuh pada diarisasi, karena identitas pembicara adalah masalah pengelompokan (clustering) dan transkripsi adalah masalah urutan (sequence), dan keduanya biasanya diselesaikan secara terpisah. Jawaban NVIDIA adalah encoder pakar paralel: model Nemotron 3 Diarization yang dibekukan (frozen) menghasilkan representasi aktivitas pembicara yang disuntikkan ke dalam output encoder wicara, sehingga tulang punggung (backbone) bahasa melihat siapa yang berbicara saat ia memutuskan apa yang dikatakan. LLM itu sendiri tidak dilatih ulang untuk tugas tersebut.

Desain itulah sebabnya perusahaan dapat mengklaim satu kali proses (single pass) alih-alih kaskade. NVIDIA melaporkan rata-rata concatenated minimum-permutation word error rate sebesar 15,80 pada set evaluasi multi-pembicaranya, dibandingkan dengan 16,83 untuk kaskade ASR-plus-diarizer khusus terbaik, dan menyebut hasil tersebut sebagai speech LLM pertama yang mengalahkan jenis sistem itu pada transkripsi dengan atribusi pembicara dan ucapan yang tumpang tindih. Itu adalah angka dari vendor yang berasal dari set evaluasi buatan vendor, dan belum ada laboratorium netral yang mereproduksinya. Anggap arahnya masuk akal dan selisihnya masih sementara.

Angka-angka itu, dengan label yang terlampir.

Kartu NVIDIA melaporkan rata-rata word error rate sebesar 4,71% pada sembilan set uji English Open ASR Leaderboard bahasa Inggris publik. Sebaran di balik rata-rata itu lebar dan perlu diketahui sebelum Anda mengutipnya: LibriSpeech test-clean berada di 1,09% dan SPGISpeech di 1,91%, sedangkan AMI berada di 7,81% dan URGENT24 di 11,00%. Papan multibahasa rata-rata 4,62% pada tujuh bahasa, dengan bahasa Jerman di 2,81% dan Hindi di 9,15% pada metrik out-of-vocabulary-nya sendiri.

Liputan pers tentang peluncuran juga mengutip 5,33% untuk papan bahasa Inggris. Itu adalah agregat yang berbeda atas komposisi set yang berbeda, bukan koreksi, dan keduanya jangan pernah ditempatkan dalam baris yang sama. Angka 4,71% pada kartu adalah angka yang harus dikutip jika Anda mengutip kartu tersebut.

Klaim contextual-prompting adalah hal paling konkret dalam rilis ini. Pada ContextASR-Bench, WER keseluruhan turun dari 3,33% tanpa daftar entitas menjadi 1,71% dengan daftar entitas yang terperinci; WER entitas bernama turun dari 12,21% menjadi 2,20%, dan tingkat false-negative entitas bernama dari 14,99% menjadi 1,32%. Itu adalah mekanisme nyata yang dapat diperiksa — berikan nama produk Anda kepada model dan model berhenti menebak-nebaknya — meskipun skor absolutnya berasal dari harness NVIDIA.

Gambaran independen itu kurang memberi kesan positif dan lebih berguna. Artificial Analysis mencantumkan Nemotron 3.5 Transcribe pada 3,4% dalam tabel AA-WER v2 non-streaming miliknya, berada seri di sekitar peringkat 20 hingga 23, sementara FAQ-nya sendiri mendeskripsikan model tersebut pada 2,8%. Kedua angka itu berasal dari papan yang sama di halaman yang sama. Selisihnya merupakan perbedaan target pengukuran — endpoint, kuantisasi, atau irisan evaluasi — dan kira-kira selebar noise yang telah ditunjukkan indeks ini di berbagai konfigurasi penyajian. Pada saat penulisan, papan tersebut juga mencantumkan harga hosted sebesar $2,00 per 1.000 menit audio, yang berarti sekitar $0,12 per jam.

Klaim throughput adalah hal yang akan diperhatikan tim operasi: 2.238 detik audio diproses per detik pada satu GPU RTX PRO 6000 Blackwell, menggunakan checkpoint NVFP4 dan model draft DFlash2. Peringatan NVIDIA sendiri adalah bahwa stack serving yang dioptimalkan tidak ada dalam rilis open-source, dan integrasi pengembangan yang disertakan diperkirakan akan berjalan sekitar dua kali lebih lambat. Bagi dua angka tersebut sebelum Anda merencanakan kapasitas.

Di mana build terbuka berhenti

Inilah bagian yang dilewatkan oleh liputan peluncuran. Checkpoint ini mumpuni; integrasi di sekitarnya tidak merata, dan kartu model menyatakannya secara gamblang.

• Tidak ada streaming — “Ini adalah model offline,” demikian dinyatakan kartu tersebut, dan menambahkan bahwa pemotongan audio internal tidak menjadikannya layanan streaming real-time. Setiap detik rekaman harus sudah ada sebelum decoding dimulai.

• Integrasi SGLang-Omni hanya untuk transkripsi — layanan ini menyediakan transkripsi seluruh berkas, tetapi menurut kartunya, tidak mencakup stempel waktu kata, output dengan atribusi penutur, terjemahan, atau speculative decoding. Jalur vLLM mendukung perekaman stempel waktu. Runtime yang Anda pilih menentukan fitur yang Anda dapatkan.

• Timestamp dan DFlash2 saling eksklusif — timestamp tidak tersedia saat model draf speculative-decoding sedang digunakan. Cepat atau selaras, tidak keduanya, dalam konfigurasi yang dirilis.

• Pemahaman audio hanya dalam bahasa Inggris — penalaran, mengikuti instruksi lisan, dan menjawab pertanyaan audio "mungkin tidak berfungsi secara andal dalam bahasa lain," kartu itu memperingatkan, meskipun transkripsi mencakup 40.

• Ia bisa gagal berhenti — kartu tersebut merekomendasikan guardrail pembersihan karena model kadang-kadang dapat mengulang tanpa berhenti. Itu adalah persyaratan operasional, bukan catatan kaki.

• Satu jam adalah batas praktis yang mutlak — performa di luar 65.536 token atau rekaman satu jam "tidak dijamin dapat digeneralisasi." Untuk deposisi sepanjang hari, Anda memecah file dan mencocokkan pembicara sendiri.

Atribusi pembicara juga lebih terbatas daripada angka utama 40 bahasa: 13 dari 40 bahasa ditandai untuk keluaran multispeaker pada matriks NVIDIA, dan campuran pelatihan mencakup hingga delapan pembicara. Jika rapat Anda dalam bahasa Turki atau Vietnam, Anda dapat mentranskripsikannya dengan baik namun tetap tidak mendapatkan label.

Penerapan dan berapa biayanya

Bobot model gratis untuk penggunaan komersial maupun non-komersial di bawah OpenMDW-1.1, diterbitkan dalam format BF16, FP8, NVFP4, dan GGUF, dengan konfigurasi referensi pada satu H100 80 GB serta dukungan di seluruh varian Ampere, Hopper, Blackwell, dan Lovelace. Tersedia pula kontainer NIM bagi tim yang lebih memilih untuk tidak merakit sendiri tumpukan layanan (serving stack), dan NeMo Speech untuk fine-tuning — NVIDIA melaporkan bahwa model tersebut diadaptasi pada 17 tugas dengan waktu 0,5 hingga 2,3 jam-GPU per tugas pada satu GPU, angka yang membuat adaptasi domain menjadi masuk akal secara praktis, bukan sekadar teoretis.

Hitungan ekonominya terbagi dengan rapi. Dalam mode hosted, daftar Artificial Analysis sebesar $2,00 per 1.000 menit adalah sekitar $0,12 per jam audio — lebih murah daripada sebagian besar transkripsi terkelola dan kira-kira sepertiga dari tagihan STT cloud pada umumnya. Dalam mode self-hosted, biaya marginalnya adalah waktu GPU: dengan throughput 2.238-ke-1 dari vendor, seribu jam audio kurang dari setengah jam komputasi pada kartu yang tepat, jadi pertanyaannya bukan lagi harga melainkan apakah Anda memiliki atau menyewa perangkat kerasnya, dan apakah audio itu diizinkan keluar dari jaringan Anda. Kedua jalur itu sah; keduanya tidak berdekatan angkanya di spreadsheet.

Separuh pekerjaan yang tidak dilakukan checkpoint

Transkripsi menghasilkan teks, dan teks adalah tempat sebagian besar biaya hilir berada: meringkas panggilan, mengekstrak item tindakan, menyamarkan data pribadi, menerjemahkan keluaran bahasa Inggris untuk kantor regional, dan memeriksa bahwa label pembicara tetap utuh setelah serah terima. Itu adalah beban kerja model teks biasa, dan tidak perlu berjalan di mesin yang sama dengan ASR.

Di sinilah router membuktikan perannya. OrcaRouter menempatkan panggilan hilir tersebut di balik satu kunci dengan markup 0% — harga daftar penyedia diteruskan apa adanya, sehingga perubahan harga vendor berlaku pada hari yang sama — dengan failover otomatis saat salah satu penyedia mengalami penurunan dan DSL perutean yang dapat mengirim peringkasan, penyamaran, dan terjemahan ke model berbeda dalam satu alur kerja. Untuk memperjelas: NVIDIA Nemotron 3.5 Transcribe tidak ada dalam katalog OrcaRouter, dan tidak ada apa pun di sini yang menyiratkan sebaliknya. Yang kami rutekan adalah lapisan teks setelah transkrip tersedia, yaitu lapisan yang paling sering diabaikan tim saat menganggarkan pipeline transkripsi.

Jika Anda mengevaluasi model itu sendiri, jalan yang jujur adalah endpoint yang dihosting terlebih dahulu, lalu perangkat keras Anda sendiri. Angka pada kartu itu sendiri berbeda lebih dari satu poin antara pengukuran vendor dan independen, dan satu-satunya audio yang memutuskannya adalah milik Anda.

Apa yang akan mengubah rekomendasi?

Ada tiga hal yang layak dicermati sepanjang kuartal mendatang. Pertama, apakah stack penyajian sumber terbuka berhasil menyusul jalur NIM yang dioptimalkan — sampai itu terjadi, throughput yang diiklankan hanyalah angka khusus hosted dan rilis terbukanya kira-kira setengah dari itu. Kedua, apakah ada pihak di luar NVIDIA yang mereproduksi 15.80 cpWER dan peningkatan entitas bernama enam kali lipat; keduanya merupakan klaim kuat yang saat ini bergantung pada harness satu laboratorium. Ketiga, apakah pemahaman audio meluas melampaui bahasa Inggris, karena kemampuan itu — mengajukan pertanyaan tentang rekaman alih-alih sekadar mentranskripsinya — adalah bagian yang tidak ditawarkan oleh checkpoint terbuka pesaing mana pun pada ukuran ini.

Untuk saat ini, penilaian praktisnya sempit dan tidak mentereng. Jika Anda memerlukan transkripsi multibahasa berdurasi satu jam dengan label pembicara dan dapat menerima alur kerja batch, checkpoint ini adalah opsi terbuka terkuat yang tersedia dan mekanisme contextual prompting-nya benar-benar menjadi pembeda. Jika Anda memerlukan takarir langsung, agen streaming, atau penyelarasan tingkat kata bersama dekode tercepat yang mungkin, rilis ini belum mencakup kebutuhan Anda, dan produk yang mampu melakukannya masih menjadi pilihan yang harus dihubungi.