Nemotron 3.5 Transcribe vervangt een pipeline van vijf modellen. De open build heeft nog steeds leemtes.

Een 45 minuten durende boardcall met zes sprekers vereiste vroeger vijf losse componenten: spraakactiviteitsdetectie, een ASR-model, een diarisator, een forced aligner en een taalmodel om de ruwe output op te schonen tot iets wat een mens zou lezen. NVIDIA Nemotron 3.5 Transcribe, uitgebracht op 28 oktober 2026 onder de OpenMDW-1.1-licentie, is de poging van NVIDIA om die stack in één enkele forward pass samen te vouwen. Wat de release een tweede lezing waard maakt, is niet het samenvoegen zelf. Het is de lijst met dingen die het open-source-servingpad nog niet doet.

Het checkpoint is een met spraak uitgebreid taalmodel, geen ASR-model met extra's eraan vastgeschroefd. Zijn 34 miljard parameters bestaan grotendeels uit een Nemotron 3.5 Lightning 30B-A3B hybride Mamba–Transformer mixture-of-experts-backbone; ongeveer 4,3 miljard daarvan zijn actief per token, waaronder ruwweg 800 miljoen van de audio-encoder. De repositorynaam luidt nog steeds 30B-A4B, wat de decoder telt en niet het samengestelde systeem. NVIDIA's eigen supportmatrix, benchmarktabellen en de licentie staan allemaal op de modelkaart, en die kaart is het nuttigste document in de release.

Vijf klussen, één controlepunt

Het verkoopargument is dat een prompt de transcriptie bepaalt. NVIDIA traint vijf uitvoerstijlen in dezelfde gewichten, en de aanroeper kiest er één met instructies in natuurlijke taal, niet met een afzonderlijk model of een nabewerkingsscript:

• Letterlijk — onvloeiendheden, valse starts en herhalingen blijven bewaard, voor juridische en compliance-registraties.

• Schrijfvorm — opgeschoonde interpunctie en hoofdlettergebruik, voor ondertiteling en leesbare notulen.

• Contextueel — een entiteitslijst die in de prompt wordt meegegeven, bepaalt de spelling van namen, producten en jargon.

• Aan een spreker toegewezen — elk segment draagt een sprekerlabel, gegenereerd tijdens de ASR-pass.

• Rich — de 'kitchen-sink'-stijl die sprekerlabels, interpunctie, hoofdlettergebruik en opmaak samen meeneemt.

Naast transcriptie voert hetzelfde checkpoint spraakvertaling uit in beide richtingen tussen Engels en 31 talen, identificatie van gesproken taal en audiobegrip — vraagbeantwoording en het volgen van gesproken instructies op basis van de opname. Het verwerkt opnames tot één uur binnen een context van 65,536 tokens, met interne decodeerchunks van 30 seconden die een technisch detail zijn en geen opnamelimiet. Woordtijdstempels komen na het decoderen uit een lichtgewicht CTC-adapter.

Waar de sprekerlabels eigenlijk van komen

De meeste claims dat "één model alles doet", vallen uiteen bij sprekerdiarisatie, omdat sprekeridentiteit een clusteringprobleem is en transcriptie een sequentieprobleem, en de twee meestal afzonderlijk worden opgelost. NVIDIA's antwoord is een parallelle expert-encoder: een bevroren Nemotron 3 Diarization-model produceert representaties van sprekeractiviteit die in de uitvoer van de spraakencoder worden geïnjecteerd, zodat de taalbackbone ziet wie er spreekt terwijl hij beslist wat er is gezegd. Het LLM zelf wordt niet voor de taak opnieuw getraind.

Dat ontwerp is de reden dat het bedrijf kan stellen dat het om een enkele doorgang gaat en niet om een cascade. NVIDIA meldt een gemiddeld geconcateneerd minimum-permutatie-woordfoutpercentage van 15,80 op zijn evaluatieset met meerdere sprekers, tegenover 16,83 voor de beste gespecialiseerde ASR-plus-diarizer-cascade, en beschrijft het resultaat als het eerste spraak-LLM dat dat soort systeem verslaat bij aan sprekers toegewezen transcriptie met overlappende spraak. Dat zijn cijfers van de leverancier uit een door de leverancier opgezette evaluatieset, en nog geen enkel onafhankelijk laboratorium heeft ze gereproduceerd. Beschouw de richting als plausibel en de marge als voorlopig.

De cijfers, met de bijbehorende labels

De kaart van NVIDIA meldt een gemiddeld woordfoutpercentage van 4,71% over de negen openbare Engelse testsets van de Open ASR Leaderboard. De spreiding onder dat gemiddelde is groot en de moeite waard om te kennen voordat je het citeert: LibriSpeech test-clean zit op 1,09% en SPGISpeech op 1,91%, terwijl AMI op 7,81% uitkomt en URGENT24 op 11,00%. Op het meertalige leaderboard is het gemiddelde 4,62% over zeven talen, met Duits op 2,81% en Hindi op 9,15% op zijn eigen out-of-vocabulary-metriek.

In de persberichtgeving over de lancering is ook 5,33% genoemd voor de Engelse board. Dat is een ander aggregaat over een andere samenstelling van de set, geen correctie, en de twee mogen nooit in dezelfde rij worden geplaatst. Het 4,71% van de kaart is het getal dat u moet citeren als u de kaart citeert.

De claim over contextueel prompten is het meest concrete element in de release. Op ContextASR-Bench gaat de totale WER van 3,33% zonder entiteitenlijst naar 1,71% met een fijnmazige lijst; de WER voor benoemde entiteiten daalt van 12,21% naar 2,20%, en de fout-negatiefratio voor benoemde entiteiten van 14,99% naar 1,32%. Dat is een echt, controleerbaar mechanisme — geef het model je productnamen en het stopt met raden naar die namen — zelfs als de absolute scores uit NVIDIA's testharnas komen.

Het onafhankelijke beeld is minder flatterend en nuttiger. Artificial Analysis vermeldt Nemotron 3.5 Transcribe met 3,4% in zijn niet-streaming AA-WER v2-tabel, gedeeld rond de 20e tot 23e plaats, terwijl de eigen FAQ het model op 2,8% beschrijft. Beide cijfers horen bij dezelfde ranglijst op dezelfde pagina. Het verschil is een verschil in meetdoel — endpoint, kwantisatie of evaluatieslice — en het is ongeveer zo groot als de ruis die deze index bij verschillende serverconfiguraties heeft laten zien. Op het moment van schrijven vermeldt de ranglijst ook een gehoste prijs van $2,00 per 1.000 minuten audio, wat neerkomt op ongeveer $0,12 per uur.

De doorvoerclaim is degene waar operationele teams zich op zullen richten: 2,238 seconden audio verwerkt per seconde op een enkele RTX PRO 6000 Blackwell GPU, met behulp van de NVFP4-checkpoint en het DFlash2-conceptmodel. Het eigen voorbehoud van NVIDIA is dat de geoptimaliseerde serving-stack niet in de open-source-release zit, en de meegeleverde ontwikkelingsintegratie zal naar verwachting ongeveer twee keer langzamer lopen. Halveer het getal voordat u capaciteit plant.

Waar de open build stopt

Dit is het deel dat de lanceerberichtgeving overslaat. De checkpoint is capabel; de integraties eromheen zijn wisselend, en de modelkaart zegt dat onomwonden.

• Geen streaming — "Dit is een offline model," stelt de kaart, en voegt eraan toe dat interne audiochunking het geen realtime-streamingdienst maakt. Elke seconde van de opname moet bestaan voordat de decodering begint.

• De SGLang-Omni-integratie is alleen voor transcriptie — ze biedt transcriptie van volledige bestanden, maar bevat volgens de kaart geen woordtijdstempels, uitvoer met sprekerattributie, vertaling of speculatieve decoding. Het vLLM-pad ondersteunt wel het vastleggen van tijdstempels. Welke runtime je kiest, bepaalt welke functies je krijgt.

• Tijdstempels en DFlash2 sluiten elkaar uit — tijdstempels zijn niet beschikbaar wanneer het conceptmodel voor speculatief decoderen in gebruik is. Snel of uitgelijnd, niet beide, in de meegeleverde configuratie.

• Audio-analyse is alleen in het Engels — redeneren, gesproken instructies opvolgen en audio-vragen beantwoorden “werken mogelijk niet betrouwbaar in andere talen,” waarschuwt de kaart, ook al omvat transcriptie 40 talen.

• Het kan gebeuren dat het niet stopt — de kaart beveelt een opschoonbeveiliging aan omdat het model soms in een lus kan blijven zonder te beëindigen. Dat is een operationele vereiste, geen voetnoot.

• Een uur is een harde praktische limiet — prestaties bij meer dan 65.536 tokens of een opname van een uur "zijn niet gegarandeerd te generaliseren." Voor een getuigenverhoor van een hele dag splitst u het bestand en stemt u de sprekers zelf op elkaar af.

Sprekerattributie is ook beperkter dan de 40-talenkop suggereert: 13 van de 40 talen zijn in de matrix van NVIDIA gemarkeerd voor uitvoer met meerdere sprekers, en de trainingsmengsels omvatten tot acht sprekers. Als je vergadering in het Turks of Vietnamees is, kun je die goed transcriberen en toch geen labels krijgen.

Implementatie en wat het kost

De gewichten zijn gratis voor commercieel en niet-commercieel gebruik onder OpenMDW-1.1, gepubliceerd in BF16, FP8, NVFP4 en GGUF, met een referentieconfiguratie op één H100 80 GB en ondersteuning voor Ampere-, Hopper-, Blackwell- en Lovelace-onderdelen. Er is ook een NIM-container voor teams die de serving-stack liever niet zelf samenstellen, en NeMo Speech voor fine-tuning — NVIDIA meldt dat het model voor 17 taken is aangepast bij 0,5 tot 2,3 GPU-uur per taak op één GPU, wat precies het soort getal is dat domeinaanpassing haalbaar maakt in plaats van theoretisch.

De economie valt helder in twee scenario’s uiteen. Bij hosting komt de vermelding van Artificial Analysis van $2,00 per 1.000 minuten neer op ongeveer $0,12 per audiouur — goedkoper dan de meeste managed transcriptiediensten en ruwweg een derde van wat een typische cloud-STT-factuur kost. Bij self-hosting zijn de marginale kosten GPU-tijd: bij de door de leverancier genoemde verhouding van 2.238 tegen 1 is duizend uur audio minder dan een half uur rekenwerk op de juiste kaart, dus de vraag is niet langer prijs, maar of je de hardware bezit of huurt, en of de audio je netwerk mag verlaten. Beide routes zijn legitiem; op een spreadsheet liggen ze niet dicht bij elkaar.

De helft van de taak die het checkpoint niet doet

Transcriptie levert tekst op, en tekst is waar het grootste deel van de downstreamkosten ligt: het samenvatten van het gesprek, het extraheren van actiepunten, het redigeren van persoonsgegevens, het vertalen van de Engelse output voor een regionaal kantoor en het controleren of de sprekerlabels de overdracht hebben overleefd. Dat zijn gewone taken voor tekstmodellen, en die hoeven niet op dezelfde machine te draaien als de ASR.

Daar komt een router in het spel. OrcaRouter plaatst die downstream-aanroepen achter één sleutel met 0% marge — de lijstprijs van de provider wordt één-op-één doorgegeven, zodat een prijswijziging van een leverancier dezelfde dag doorwerkt — met automatische failover wanneer een provider verslechtert en een routing-DSL die samenvatting, redactie en vertaling naar verschillende modellen kan sturen binnen één workflow. Om expliciet te zijn: NVIDIA Nemotron 3.5 Transcribe staat niet in de catalogus van OrcaRouter, en niets hier suggereert anders. Wat wij routeren is de tekstlaag nadat het transcript bestaat, de laag die de meeste teams onderschatten wanneer ze een transcriptiepijplijn budgetteren.

Als je het model zelf beoordeelt, is de eerlijke route eerst een gehost endpoint en daarna je eigen hardware. De cijfers van de kaart zelf verschillen meer dan een punt tussen leverancier en onafhankelijke metingen, en de enige audio die uitsluitsel geeft, is die van jou.

Wat zou de aanbeveling veranderen?

Drie dingen zijn het komende kwartaal het volgen waard. Ten eerste of de open-source servingstack de geoptimaliseerde NIM-route inhaalt — totdat dat gebeurt, is de geadverteerde doorvoer een cijfer dat alleen voor de gehoste versie geldt, en de open release ligt ongeveer op de helft daarvan. Ten tweede of iemand buiten NVIDIA de 15,80 cpWER en de zesvoudige verbetering bij named entities reproduceert; beide zijn sterke claims die momenteel op de testopstelling van één lab rusten. Ten derde of het begrijpen van audio zich uitbreidt tot buiten het Engels, omdat die mogelijkheid — vragen stellen over een opname in plaats van ze alleen te transcriberen — het onderdeel is dat geen enkel concurrerend open checkpoint op deze grootte biedt.

Voorlopig is het praktische oordeel beperkt en weinig glamoureus. Als je spreker-gelabelde transcriptie van een uur in meerdere talen nodig hebt en een batchworkflow kunt accepteren, is dit checkpoint de sterkste beschikbare open optie, en het mechanisme voor contextuele prompting is echt onderscheidend. Als je live ondertiteling, een streamingagent of woordniveau-alignment naast de snelst mogelijke decodering nodig hebt, dekt deze release je nog niet, en de producten die dat wel doen, zijn nog steeds de aangewezen opties.