Nemotron 3.5 Transcribe vs Whisper Large v3 Turbo: 40× fotavtrycket för en WER-punkt

Om ditt transkriberingsjobb är en mapp med treminuters monointervjuklipp och maskinen du har är ett 24 GB arbetsstationsgrafikkort, är jämförelsen mellan Nemotron 3.5 Transcribe och Whisper Large v3 Turbo avgjord innan noggrannheten ens kommer in i bilden. NVIDIAs nya modell är ett system för tal med 34 miljarder parametrar som validerades på en 80 GB accelerator. OpenAIs turbo-variant är en modell med 809 miljoner parametrar som får plats i 0,8 GB int8-vikter och körs på en CPU. De jämförs den här veckan eftersom deras felfrekvenser låg inom ungefär en procentenhet från varandra, och det är det minst användbara faktumet i den här jämförelsen.

Nemotron 3.5 Transcribe släpptes 2026-10-28 med öppna vikter under OpenMDW-1.1-licensen, som tillåter kommersiell användning. Whisper Large v3 Turbo är från 2024-10-01 och är MIT-licensierad; det är inte nyheter, det är baslinjen som varje ny talmodell mäts mot. Frågan som den här artikeln besvarar är inte vilken som får bättre resultat – båda leverantörerna skulle vilja att du läser det så – utan vilken du faktiskt kan köra, till vilket pris, på det ljud du har.

Vad varje modell faktiskt är

Arkitekturskillnaden är inte en generationsklyfta. Det är en kategorskillnad, och den förklarar nästan varje nedströms avvägning.

Arkitektur — en hybrid Mamba–Transformer mixture-of-experts-LLM med en talencoder och en fryst 99M-diariseringsencoder inbyggd, ungefär 34B totalt med 4,3B aktiva per token, jämfört med en encoder–decoder destillerad från large-v3 med sin dekoder nedskuren från 32 lager till 4.

• Ljudfönster – inspelningar på upp till en timme bearbetas i ett enda pass, jämfört med ett fast fönster på 30 sekunder med chunkad långformsavkodning för allt som är längre.

• Talaretiketter – inbyggda i utdata, upp till 8 talare, på 13 språk, jämfört med inga alls; Whisper har ingen talartoken i sitt vokabulär, så en separat diariserare är obligatorisk.

• Ordvis tidsangivelse — en lättvikts-CTC-adapter alignerar den färdiga transkriptionen mot ljudet, jämfört med enbart tidsstämpeltoken på segmentnivå, där ordtidsangivelse kräver tvingad alignering.

• Språktäckning — 40 språk transkriberade, 31 översatta till eller från engelska, 13 med talarattribution, jämfört med 99 språk transkriberade och ingen översättning.

• Vikter på disk — cirka 68 GB i BF16 under OpenMDW-1.1, jämfört med 1,6 GB i fp16, 0,81 GB int8, under MIT.

Noggrannhetssiffrorna stämmer inte överens, och det är själva poängen.

Artificial Analysis driver det enda offentliga indexet där båda modellerna förekommer på samma skala, och siffrorna är värda att läsa noggrant eftersom de inte stämmer överens med varandra. I tabellen på resultattavlan listas Whisper Large v3 Turbo med 4,6 % AA-WER på en slutpunkt för snabb inferens och 5,5 % på en andra. Nemotron 3.5 Transcribe listas med 3,4 % för en hostad slutpunkt. NVIDIAs eget tillkännagivande anger 2,80 % AA-WER, delad förstaplats bland modeller med öppna vikter, och textdelen på samma resultattavla upprepar 2,8 % medan dess tabell visar 3,4 % – en avvikelse på en enda sida, innan någon börjar jämföra leverantörer.

Ta tabellen bokstavligt, och Nemotron 3.5 Transcribe är ungefär 1,2 punkter bättre. Lägg nu märke till att Whisper Large v3 Turbo:s två egna poster skiljer sig med 0,9 punkter för samma modell. Större delen av den skenbara skillnaden mellan dessa två system är slutpunktskonfiguration – batchning, avkodningsinställningar, ljudförbehandling – inte arkitektur. Den som citerar en enskild WER-skillnad som en dom citerar ett tal som rör sig med nästan lika mycket när man byter värd.

Open ASR Leaderboard ger ett intryck av en större skillnad. Whisper Large v3 Turbos genomsnitt för engelska kortformat ligger runt 7,8 % där, medan NVIDIA rapporterar 4,71 % för sin modell över nio testset på forskningssidan och 5,33 % genomsnittlig engelsk WER i det tillhörande Hugging Face-inlägget. Det är olika testblandningar med olika normalisering, så gapet på tre procentenheter är i bästa fall riktningsvisande. Det som betyder mer är det som inte finns: en direkt jämförelse från leverantören mot Whisper Large v3 Turbo. NVIDIA jämför sin modell med kaskadiserade diariseringssystem och med andra öppna talmodeller, inte med turbo-checkpointen som de flesta team kör i dag. Varje siffra för ”slår Whisper” som cirkulerar är en slutledning över benchmarks, inklusive våra.

Kompetensgapet som Whisper inte kan överbrygga

Om vi bortser från de promptstyrda utdata är den avgörande skillnaden att Nemotron 3.5 Transcribe producerar transkriptioner med talarattribuering i ett enda steg. Talartaggarna kommer från den frysta diariseringskodaren som är sammansmält med ljuddragen, svaret innehåller råa talarsegment tillsammans med den taggade transkriptionen, och modellen märker dem som <spk:0> till <spk:7>. För en podcast med två personer är detta en bekvämlighet. För en 60 minuter lång disciplinär förhandling, ett läkarbesök eller ett säljsamtal med flera parter är det produkten.

Whisper Large v3 Turbo kan över huvud taget inte återge en talare. Dess träningstranskriptioner innehöll aldrig talaretiketter, och dess indata mixas ner till mono 16 kHz, vilket förstör den enda fysiska ledtråd som möjligen hade kunnat överleva. Att begära att den ska producera etiketter ger text som ser rätt ut men som inte har någon grund i ljudet. Den vanliga lösningen är WhisperX: tvingad alignering för ordtidsättning plus en separat hostad diariseringsmodell, sammanfogade vid segmentgränser. Det fungerar, det används brett, och det är tre rörliga delar där Nemotron 3.5 Transcribe är en.

Samma strukturella fördel gäller för långt ljud. En timme i ett enda pass är bättre än att sammanfoga 30-sekundersfönster, och sammanfogning av fönster har ett känt fel läge: avkodning utan tidsstämpeltokens tappar ord vid nästan varje gräns – ett uppmätt 20-minutersföredrag förlorade ungefär 3 % av sina ord på det sättet. Nemotron 3.5 Transcribes CTC-adapter finns just för att undvika den typen av fel, men observera att ordtidsstämplar inte ingick i det initiala vLLM-stödet.

På de uppgifter som den byggdes för är {{1}}NVIDIAs rapporterade siffror starka och leverantörsrapporterade{{/1}}: {{2}}18,26 % DER över 21 språk på David AI-diariseringsbenchmarken, beskriven som bäst av 14 system; 32,4 % cpWER på VoiceArena, också bäst av 14{{/2}}. Kontextuella entitetslistor, som anges i prompten, tillskrivs en {{3}}sexfaldig minskning av namngivna entitetsfel på ContextASR-Bench{{/3}}. Inget av detta har ännu en oberoende replikering, och allt är ett påstående om en modell som är en dag gammal.

Där Whisper Large v3 Turbo fortfarande vinner stort

Språkbredd är det första svaret, och det är mindre tråkigt än det låter. Whisper Large v3 Turbo täcker 99 språk. Nemotron 3.5 Transcribe täcker 40 för transkribering, 31 för översättning och 13 för talarattribution. Om din kö innehåller kazakiska, tamilska, swahili eller walesiska slutar jämförelsen där: turbomodellen transkriberar dem, och den nyare och större modellen påstår sig inte göra det.

Det andra svaret är driftsättningsfriktion. Whisper Large v3 Turbo körs under whisper.cpp, faster-whisper och MLX, på CPU, på en bärbar dator, på en Jetson. Nemotron 3.5 Transcribe kräver vLLM 0.32.0 plus NeMo Speech-plugin, eller SGLang-Omni 0.2.0, på en 80GB H100 i BF16, en L40S i FP8, eller en RTX 5090 i NVFP4. Det är inte jämförbara operativa åtaganden.

Det tredje är att turbos pris är en publicerad, tråkig timtaxa. Hostade slutpunkter debiterar cirka 0,04 dollar per ljudtimme med ett minimum på tio sekunder, och den körs i ungefär 250 gånger realtid på en snabb slutpunkt. Tusen timmar ljud kostar cirka 40 dollar. Nemotron 3.5 Transcribe har inget offentliggjort listpris för den fullständiga checkpointen, och de hostade slutpunkter som erbjuder den publicerar inte minutpriser.

Kontrollera vilken Nemotron 3.5 du benchmarkar

Det vanligaste felet i den här veckans rapportering är att jämföra fel modell. En stor del av de publicerade jämförelserna av "Nemotron 3.5" utvärderar faktiskt nvidia/nemotron-3.5-asr-streaming-0.6b – en 0.6B cache-medveten strömmande modell från en tidigare utgåva, med sina egna siffror och sina egna svagheter. Om en tabell nämner chunkar på 80 ms till 1120 ms testar den inte Nemotron 3.5 Transcribe. Det spelar roll eftersom den strömmande modellen förlorar mot Whisper Large v3 Turbo i rå noggrannhet i verkliga jämförelser (3,35 % mot 2,55 % på en flerspråkig topplista) och förlorar kraftigt på ordalignering, medan modellen som behandlas här är ett annat, icke-strömmande 34B-system.

Den andra fällan är serveringen. Den enkla vägen, SGLang-Omni 0.2.0, ger dig en fungerande endpoint utan NeMo – och utan tidsstämplar, talaretiketter eller översättning. Den fullständiga vägen, vLLM 0.32.0 med NeMo Speech-tillägget, ger dig alla tre, men tidsstämplar på ordnivå kom som en uppföljning snarare än i den första PR:en. Tre driftsättningsrecept som kallas ”Nemotron 3.5 Transcribe” kan därför bete sig som tre olika produkter. Om talarattribution är anledningen till att du byter, verifiera den vägen innan du binder upp utvecklingstid till den.

Vad det kostar att driva, helt ärligt

Jämförelsen med den hostade lösningen är nästan trivial: Whisper Large v3 Turbo kostar ungefär $0,04 per ljudtimme, vilket är ~$40 per tusen timmar, utan någon hårdvara att äga. Nemotron 3.5 Transcribe säljs inte på det sättet ännu, så ett team som vill ha det prissätter en GPU, inte en faktura.

NVIDIAs eget påstående om genomströmning anger golvet för beräkningen: 2 238 sekunder ljud per sekund GPU-tid, NVFP4 med DFlash2-draftern på ett RTX PRO 6000 Blackwell, vilket motsvarar cirka 100 timmar ljud på under tre minuter. Med cirka 2 dollar per GPU-timme on-demand innebär det ett golv klart under en cent per ljudtimme – vid full batchning, vilket inte är så en produktionskö fungerar. Se det som taket för vad hårdvaran kan göra, inte som en takt du kommer att uppnå.

Vilket betyder att den verkliga jämförelsen inte är Whisper Large v3 Turbo mot Nemotron 3.5 Transcribe. Den är Nemotron 3.5 Transcribe mot Whisper Large v3 Turbo plus en diariseringsmodell, en tvingad aligner, kod för segmentsammanslagning och den språkspecifika justering som limmet kräver. Om du redan kör WhisperX i produktion har du betalat större delen av den kostnaden, och argumentet för att byta är svagare än WER-skillnaden antyder. Om du inte har byggt det konkurrerar 30B-modellen med en pipeline som du annars skulle behöva bemanna.

En praktisk notering för den som kör båda under en migrering: att hålla två transkriptionsbackends bakom en OpenAI-kompatibel endpointDet är det lager som OrcaRouter finns för att leverera — en nyckel och en endpoint över de leverantörer den routar, med leverantörens listpris vidarebefordrat med 0 % påslag och automatisk failover mellan dem. Det ändrar inte vilken modell som är bättre. Det ändrar vad det kostar att få veta, och vad det kostar att ha fel om det.

Vem ska välja vilken

• Inspelningar från möten, juridiska ärenden, kliniska sammanhang eller kontaktcenter med flera talare och ett revisionsspår — Nemotron 3.5 Transcribe. Talarattribuering och ordtidsstämplar i en enda pass är den funktionalitet du annars skulle behöva sammanställa själv, och fönstret på en timme eliminerar chunkningslogiken helt.

• Mono-ljud med hög volym, brett språkstöd, driftsättning på bärbar dator eller CPU, förutsägbar timdebitering – Whisper Large v3 Turbo. Med 809M parametrar och $0,04 i timmen är det det billigaste korrekta svaret för en mycket stor del av den verkliga trafiken, och det är två år beprövat i skarpt läge.

• Blandade arbetsbelastningar — kör turbo på allt och routa endast det ljud som behöver talare, jargonglistor eller översättning till den större modellen. Urvalsregeln är ljudegenskaper, inte modellprestige: antal talare, förekomst av en domänordlista och inspelningslängd.

Frågor värda att ställa innan du migrerar

Kan Nemotron 3.5 Transcribe köras på ett enda 24 GB-grafikkort?

Inte med god marginal. NVIDIA har validerat BF16 på ett H100 med 80 GB, FP8 på ett L40S och NVFP4-checkpointen på ett RTX 5090, vilket är ett 32 GB-kort. En enhet på 24 GB ligger under alla validerade konfigurationer, och audiotornet kopieras till varje tensor-parallell rang, så multi-GPU-sharding räddar inte ett litet enskilt kort.

Hanterar Whisper Large v3 Turbo talaretiketter eller översättning?

Ingetdera. Turbovarianten tränades endast på transkription, så att skicka en översättningsuppgift ger oanvändbart resultat – översättning kräver den fullständiga large-v3-checkpointen. Talaretiketter kräver en separat diariserare, till exempel pyannote, och att sammanfoga dess turer med Whispers grova segmentstidsstämplar är den del av pipelinen som tar längst tid att få rätt.

Är parametergapet synligt som latens?

Inte per minut ljud, nej. Whisper Large v3 Turbo returnerar ett 30-sekundersfönster på väl under en sekund på en snabb hostad endpoint, och Nemotron 3.5 Transcribe bearbetar en timmes fil i en enda genomkörning med en genomströmning som NVIDIA beskriver som tusentals ljudsekunder per GPU-sekund. Den synliga skillnaden ligger någon annanstans: turbo har inget streamingläge och det har inte Nemotron 3.5 Transcribe heller, så realtidsundertextning är inte aktuellt för någon av dem.

Vilken är bättre för icke-engelskt ljud?

Inget av svaren är säkert. Whisper Large v3 Turbo täcker 99 språk med en kvalitet som varierar kraftigt mellan språk, och Nemotron 3.5 Transcribe täcker 40 med leverantörsrapporterade flerspråkiga resultat och en anpassningsmetod – NVIDIA rapporterar att en undanhållen medicinsk domän förbättras från 22,44 % till 12,17 % WER efter finjustering på en GPU i några timmar. Det finns ännu ingen oberoende flerspråkig direkt jämförelse, så för alla språk utanför engelska är det ansvarsfulla valet ett blindtest på din egen ljudinspelning.

Vad skulle ändra denna dom?

Tre saker, i sannolikhetsordning. Tidsstämplar på ordnivå som införs i vLLM:s transkriptions-API skulle göra den fullständiga serveringsvägen till standard och minska gapet mellan de tre driftsättningsrecepten. Kvantiserade checkpoints som levereras brett skulle flytta hårdvarugolvet nedåt från ett 80 GB-kort mot konsumentenheter. Och en verkligt oberoende flerspråkig direktjämförelse mot Whisper Large v3 Turbo skulle ersätta inferens med mätning.

Tills ett av dem lanseras är beslutet inte nära en tiondels WER-poäng. Det är en fråga om din ljudfil: om den innehåller mer än en röst och du behöver veta vilken röst som sade vad, är Nemotron 3.5 Transcribe den första öppna modellen som gör det i ett svep utan en pipeline bakom sig. Om den inte gör det, klarar en 809M-modell som släpptes för ett år sedan fortfarande jobbet för fyrtio dollar per tusen timmar, och 34B-modellen är en stor mängd hårdvara att köpa för en siffra som ändras när du byter värd.