Nemotron 3.5 Transcribe vs Whisper Large v3 Turbo: 40× de voetafdruk voor één WER-punt

Als je transcriptietaak een map met mono-interviewclips van drie minuten is en de machine die je hebt een workstation-kaart van 24 GB is, is de vergelijking tussen Nemotron 3.5 Transcribe en Whisper Large v3 Turbo al beslist voordat nauwkeurigheid om de hoek komt kijken. Het nieuwe model van NVIDIA is een spraaksysteem met 34 miljard parameters dat gevalideerd werd op een accelerator van 80 GB. De turbo-variant van OpenAI is een model met 809 miljoen parameters dat in 0,8 GB int8-gewichten past en op een CPU draait. Ze worden deze week vergeleken omdat hun foutpercentages ongeveer binnen één punt van elkaar liggen, en dat is het minst nuttige feit over dit koppel.

Nemotron 3.5 Transcribe is op 2026-10-28 uitgekomen als open weights onder de OpenMDW-1.1-licentie, die commercieel gebruik toestaat. Whisper Large v3 Turbo stamt uit 2024-10-01 en heeft een MIT-licentie; het is geen nieuws, het is de baseline waarmee elk nieuw spraakmodel wordt gemeten. De vraag die dit artikel beantwoordt, is niet welk model beter scoort — beide leveranciers zouden graag willen dat je het zo leest — maar welk model je daadwerkelijk kunt draaien, tegen welke kosten, op de audio die je hebt.

Wat elk model daadwerkelijk is

Het verschil in architectuur is geen generatiekloof. Het is een categorieverschil, en het verklaart bijna elke daaruit voortvloeiende afweging.

• Architectuur — een hybride Mamba–Transformer mixture-of-experts-LLM met een spraakencoder en een bevroren diarization-encoder van 99M die erin is vastgebouwd, in totaal ongeveer 34B met 4,3B actief per token, versus een encoder–decoder die is gedistilleerd uit large-v3, met een decoder die van 32 lagen is teruggebracht naar 4.

• Audiovenster — opnames tot één uur worden in één keer verwerkt, versus een vast venster van 30 seconden met gesegmenteerde long-form-decodering voor alles wat langer is.

• Sprekerlabels — ingebouwd in de uitvoer, tot 8 sprekers, in 13 talen, versus helemaal geen; Whisper heeft geen spreker-token in zijn vocabulaire, dus een aparte diarizer is verplicht.

• Timing op woordniveau — een lichtgewicht CTC-adapter lijnt het voltooide transcript uit met de audio, versus alleen timestamp-tokens op segmentniveau, waarbij timing op woordniveau geforceerde uitlijning vereist.

• Taaldekking — 40 talen getranscribeerd, 31 vertaald naar of uit het Engels, 13 met sprekerattributie, tegenover 99 talen getranscribeerd en zonder vertaling.

• Gewichten op schijf — ongeveer 68GB in BF16 onder OpenMDW-1.1, tegenover 1,6GB bij fp16, 0,81GB int8, onder MIT.

De nauwkeurigheidscijfers kloppen niet met elkaar, en dat is nu juist het punt.

Artificial Analysis beheert de enige publieke index waar beide modellen op dezelfde schaal voorkomen, en de cijfers verdienen een zorgvuldige lezing, omdat ze onderling van elkaar afwijken. In de leaderboardtabel staat Whisper Large v3 Turbo vermeld op 4,6% AA-WER bij één endpoint voor snelle inferentie en op 5,5% bij een tweede. Nemotron 3.5 Transcribe staat vermeld op 3,4% voor een gehost endpoint. NVIDIA's eigen aankondiging noemt 2,80% AA-WER, gedeeld eerste onder open-weightmodellen, en het tekstgedeelte van hetzelfde leaderboard herhaalt 2,8%, terwijl de tabel 3,4% vermeldt — een discrepantie binnen één pagina, nog voordat iemand begint met het vergelijken van leveranciers.

Als je de tabel letterlijk neemt, is Nemotron 3.5 Transcribe ongeveer 1,2 punten beter. Merk nu op dat de twee eigen vermeldingen van Whisper Large v3 Turbo 0,9 punten van elkaar verschillen bij het identieke model. Het grootste deel van de schijnbare kloof tussen deze twee systemen is endpointconfiguratie — batching, decoderingsinstellingen, audiovoorbewerking — niet architectuur. Iedereen die één WER-verschil als oordeel aanhaalt, haalt een getal aan dat met bijna dezelfde hoeveelheid verschuift wanneer je van host verandert.

De Open ASR Leaderboard vertelt een verhaal dat groter klinkt. Het Engelse gemiddelde voor korte fragmenten van Whisper Large v3 Turbo ligt daar rond 7.8%, terwijl NVIDIA op de onderzoekspagina 4.71% rapporteert voor zijn model over negen testsets, en een gemiddelde Engelse WER van 5.33% in het bijbehorende Hugging Face-bericht. Dat zijn verschillende testmengsels met verschillende normalisatie, dus het verschil van drie punten is hooguit indicatief. Belangrijker is wat niet bestaat: een rechtstreekse vergelijking van de leverancier met Whisper Large v3 Turbo. NVIDIA vergelijkt zijn model met cascadesystemen voor diarisatie en met andere open-weight spraakmodellen, niet met het turbo-checkpoint dat de meeste teams vandaag draaien. Elk "verslaat Whisper"-cijfer in omloop is een afleiding over benchmarks heen, het onze inbegrepen.

De capaciteitskloof die Whisper niet kan dichten

Afgezien van de promptgestuurde output is het wezenlijke verschil dat Nemotron 3.5 Transcribe in één doorgang transcripties met sprekerattributie produceert. Sprekertags komen van de bevroren diarization-encoder die in de audiokenmerken is gefuseerd, het antwoord bevat ruwe sprekerseymenten naast de getagde transcriptie, en het model labelt ze als <spk:0> tot en met <spk:7>. Voor een podcast met twee personen is dit een handig extraatje. Voor een disciplinaire hoorzitting van 60 minuten, een bezoek aan een arts of een verkoopgesprek met meerdere partijen is het het product.

Whisper Large v3 Turbo kan een spreker überhaupt niet uitdrukken. De transcripten waarmee het is getraind, bevatten nooit sprekerlabels, en de invoer wordt gemixt naar mono 16kHz, waardoor de enige fysieke aanwijzing die mogelijk bewaard was gebleven, verloren gaat. Als je het vraagt labels te produceren, krijg je tekst die er correct uitziet en geen enkele basis heeft in de audio. De standaardoplossing is WhisperX: geforceerde alignment voor woordtiming plus een apart gehost diarizatiemodel, samengevoegd aan segmentgrenzen. Het werkt, het wordt op grote schaal ingezet, en het bestaat uit drie bewegende onderdelen waar Nemotron 3.5 Transcribe er één is.

Hetzelfde structurele voordeel geldt voor lange audio. Een uur in één enkele doorgang is beter dan het aan elkaar stikken van vensters van 30 seconden, en het stikken van vensters heeft een bekend faalmechanisme: decoderen zonder tijdstempel-tokens laat woorden vallen bij bijna elke grens — een gemeten lezing van 20 minuten verloor op die manier ongeveer 3% van zijn woorden. De CTC-adapter van Nemotron 3.5 Transcribe bestaat juist om die categorie fouten te vermijden, hoewel je moet weten dat woordtijdstempels geen deel uitmaakten van de eerste vLLM-ondersteuning.

Voor de taken waarvoor het is gebouwd, zijn de door NVIDIA gerapporteerde cijfers sterk en door de leverancier opgegeven: 18,26% DER over 21 talen op de David AI diarization benchmark, beschreven als beste van 14 systemen; 32,4% cpWER op VoiceArena, ook beste van 14. Contextuele entiteitenlijsten, meegegeven in de prompt, worden toegeschreven aan een zesvoudige vermindering van fouten bij benoemde entiteiten op ContextASR-Bench. Niets hiervan is nog onafhankelijk gerepliceerd, en het is allemaal een bewering over een model dat één dag oud is.

Waar Whisper Large v3 Turbo nog steeds onbetwist wint

Taalbreedte is het eerste antwoord, en het is minder saai dan het klinkt. Whisper Large v3 Turbo dekt 99 talen. Nemotron 3.5 Transcribe dekt er 40 voor transcriptie, 31 voor vertaling en 13 voor sprekerattributie. Als je wachtrij Kazachs, Tamil, Swahili of Welsh bevat, stopt de vergelijking daar: het turbo-model transcribeert ze, en het nieuwere, grotere model claimt dat niet.

Het tweede antwoord is frictie bij deployment. Whisper Large v3 Turbo draait onder whisper.cpp, faster-whisper en MLX, op CPU, op een laptop, op een Jetson. Nemotron 3.5 Transcribe vereist vLLM 0.32.0 plus de NeMo Speech-plugin, of SGLang-Omni 0.2.0, op een 80GB H100 in BF16, een L40S in FP8, of een RTX 5090 in NVFP4. Dat zijn geen vergelijkbare operationele verplichtingen.

Het derde is dat de prijs van turbo een gepubliceerd, saai uurtarief is. Gehoste endpoints rekenen ongeveer $0,04 per audio-uur met een minimum van tien seconden, en het draait op ongeveer 250× realtime op een snel endpoint. Duizend uur audio kost ongeveer $40. Nemotron 3.5 Transcribe heeft geen bekendgemaakte lijstprijs voor de volledige checkpoint, en de gehoste endpoints die het aanbieden publiceren geen tarieven per minuut.

Controleer welke Nemotron 3.5 je benchmarkt.

De meest voorkomende fout in de berichtgeving van deze week is dat het verkeerde model wordt vergeleken. Een groot deel van de gepubliceerde "Nemotron 3.5"-vergelijkingen evalueert in werkelijkheid nvidia/nemotron-3.5-asr-streaming-0.6b — een cache-aware streamingmodel van 0,6B uit een eerdere release, met zijn eigen cijfers en zijn eigen zwakke punten. Als een tabel chunks van 80 ms tot 1120 ms vermeldt, wordt Nemotron 3.5 Transcribe niet getest. Dat is belangrijk omdat het streamingmodel in vergelijkingen uit de praktijk verliest van Whisper Large v3 Turbo op ruwe nauwkeurigheid (3,35% tegenover 2,55% op één meertalige ranglijst) en zwaar verliest op woorduitlijning, terwijl het model dat hier wordt besproken een ander, niet-streamend 34B-systeem is.

De tweede valkuil is serving. Het eenvoudige pad, SGLang-Omni 0.2.0, levert je een werkend endpoint zonder NeMo — en zonder tijdstempels, sprekerlabels of vertaling. Het volledige pad, vLLM 0.32.0 met de NeMo Speech-plug-in, levert alle drie, maar tijdstempels op woordniveau kwamen als follow-up binnen, niet in de eerste PR. Drie deployment-recepten die "Nemotron 3.5 Transcribe" heten, kunnen zich daardoor als drie verschillende producten gedragen. Als sprekerattributie de reden is dat je overstapt, verifieer dat pad dan voordat je er engineeringtijd in steekt.

Wat het kost om het te runnen, eerlijk gezegd

De vergelijking met gehoste diensten is bijna triviaal: Whisper Large v3 Turbo kost ongeveer $0,04 per audio-uur, oftewel ~$40 per duizend uur, zonder hardware in eigendom. Nemotron 3.5 Transcribe wordt nog niet op die manier verkocht, dus een team dat het wil, rekent met de kosten van een GPU, niet met een factuur.

De eigen doorvoerclaim van NVIDIA is de rekenkundige ondergrens: 2.238 seconden audio per seconde GPU-tijd, NVFP4 met de DFlash2-drafter op een RTX PRO 6000 Blackwell, wat neerkomt op ongeveer 100 uur audio in minder dan drie minuten. Bij ruwweg $2 per GPU-uur on-demand betekent dat een ondergrens van ruim onder een cent per audiouur — bij volledige batching, wat niet is hoe een productiewachtrij zich gedraagt. Behandel het als het plafond van wat de hardware kan, niet als een snelheid die je zult halen.

Dat betekent dat de echte vergelijking niet gaat tussen Whisper Large v3 Turbo en Nemotron 3.5 Transcribe. Ze gaat tussen Nemotron 3.5 Transcribe en Whisper Large v3 Turbo plus een diarisatiemodel, een forced aligner, code voor het samenvoegen van segmenten en de afstemming per taal die dat samenspel vereist. Als je WhisperX al in productie draait, heb je het grootste deel van die kosten al betaald, en is het argument om over te stappen zwakker dan de WER-kloof suggereert. Als je dat niet hebt gebouwd, concurreert het 30B-model met een pijplijn waarvoor je anders personeel zou moeten inzetten.

Een praktische opmerking voor iedereen die tijdens een migratie beide draait: het houden van twee transcriptiebackends achter één OpenAI-compatibel endpoint maakt de overstap een configuratiewijziging, niet een tweede leverancierscontract. Dat is de laag die OrcaRouter beoogt te bieden — één sleutel en één endpoint bij de providers die het routeert, met de lijstprijs van de provider doorgegeven met 0% markup en automatische failover tussen beide. Het verandert niet welk model beter is. Het verandert wat het kost om dat uit te vinden, en wat het kost om het daarover fout te hebben.

Wie moet welke kiezen

• Vergaderingen, juridische, klinische of contactcenteropnames met meerdere sprekers en een audit trail — Nemotron 3.5 Transcribe. Sprekerattributie en woordtimings in één doorgang is de mogelijkheid die je anders zelf zou moeten samenstellen, en het venster van een uur maakt de chunking-logica volledig overbodig.

• Grootschalige mono-audio, brede taaldekking, implementatie op laptop of CPU, voorspelbare facturering per uur — Whisper Large v3 Turbo. Met 809M parameters en $0,04 per uur is het de goedkoopste juiste keuze voor een zeer groot deel van het echte verkeer, en het is al twee jaar in de praktijk getest.

• Gemengde workloads — laat turbo alles verwerken en stuur alleen de audio die sprekers, jargonlijsten of vertaling nodig heeft naar het grotere model. De selectieregel is audio-eigenschappen, niet modelprestige: aantal sprekers, aanwezigheid van een domeinglossary en opnamelengte.

Vragen die je jezelf moet stellen voordat je migreert

Kan Nemotron 3.5 Transcribe draaien op één GPU van 24 GB?

Niet comfortabel. NVIDIA heeft BF16 gevalideerd op een 80GB H100, FP8 op een L40S en het NVFP4-checkpoint op een RTX 5090, een kaart van 32GB. Een apparaat van 24GB zit onder elke gevalideerde configuratie, en de audiotoren wordt naar elke tensor-parallelle rank gekopieerd, dus multi-GPU-sharding redt een kleine enkele kaart niet.

Ondersteunt Whisper Large v3 Turbo sprekerlabels of vertaling?

Geen van beide. De turbo-variant is alleen op transcriptie getraind, dus het uitvoeren van een vertaaltaak levert onbruikbaar resultaat op — voor vertaling is de volledige large-v3-checkpoint nodig. Sprekerlabels vereisen een aparte diarizer zoals pyannote, en het koppelen van de spreekbeurten daarvan aan de grove segmenttijdstempels van Whisper is het onderdeel van de pijplijn dat het langst duurt om goed te krijgen.

Is de parameterkloof zichtbaar als latentie?

Niet per minuut audio, nee. Whisper Large v3 Turbo levert een venster van 30 seconden in ruim minder dan een seconde op een snel gehost eindpunt, en Nemotron 3.5 Transcribe verwerkt een bestand van een uur in één enkele doorgang met een doorvoersnelheid die NVIDIA beschrijft als duizenden audioseconden per GPU-seconde. Het zichtbare verschil ligt elders: turbo heeft geen streamingmodus, en Nemotron 3.5 Transcribe ook niet, dus live-ondertiteling valt voor beide buiten bereik.

Welke is beter voor niet-Engelstalige audio?

Geen van beide antwoorden is veilig. Whisper Large v3 Turbo ondersteunt 99 talen, met een kwaliteit die sterk per taal verschilt, en Nemotron 3.5 Transcribe ondersteunt er 40, met door de leverancier gemelde meertalige resultaten en een adaptatierecept — NVIDIA meldt dat een buiten de training gehouden medisch domein verbetert van 22,44% naar 12,17% WER na fine-tuning op één GPU gedurende een paar uur. Er is nog geen onafhankelijke meertalige vergelijking, dus voor elke taal buiten het Engels is de verantwoorde keuze een blindtest met je eigen audio.

Wat zou deze uitspraak veranderen?

Drie dingen, in volgorde van waarschijnlijkheid. Tijdstempels op woordniveau die in de transcriptie-API van vLLM terechtkomen, zouden het volledige servingpad de standaardoptie maken en de kloof tussen de drie deploymentrecepten verkleinen. Gekwantiseerde checkpoints die breed beschikbaar komen, zouden de hardwareondergrens verlagen van een 80GB-kaart richting consumentenapparaten. En een echt onafhankelijke meertalige head-to-head-vergelijking met Whisper Large v3 Turbo zou giswerk vervangen door meting.

Tot een van die dingen er is, komt de beslissing niet in de buurt van een tiende WER-punt. Het is een kwestie van je audio: als er meer dan één stem in zit en je moet weten welke stem wat zei, is Nemotron 3.5 Transcribe het eerste open model dat dat in één doorgang doet, zonder een pipeline erachter. Als dat niet het geval is, doet een een jaar geleden uitgebracht 809M-model nog steeds de klus voor veertig dollar per duizend uur, en het 34B-model is een grote hoeveelheid hardware om te kopen voor een getal dat verandert wanneer je van host wisselt.