Nemotron 3.5 Transcribe mot NVIDIA Parakeet TDT 0.6B: den nuvarande modellen med 626 000 nedladdningar möter sin ersättare

Mer än 626 000 nedladdningar på Hugging Face tillhör NVIDIA Parakeet TDT 0.6B, den 600 miljoner parametrar stora transducern som har varit standardvalet för självhostad engelsk igenkänning sedan den dök upp i augusti 2025. Nästan ingen av dem kör den ensam: den standardmässiga driftsättningen är Parakeet för orden, en separat diariserare för talarna och ett sammanfogningssteg för att sammanfoga de två utdataflödena vid segmentgränserna. Nemotron 3.5 Transcribe, publicerad som öppna vikter den 28 oktober 2026, är NVIDIAs erbjudande att radera det mittersta lagret – en enda checkpoint som transkriberar, separerar upp till åtta röster och tidsstämplar dem, på fyrtio språk, utan kaskad. Den är dessutom fyrtiotre gånger långsammare per GPU-sekund och ungefär tjugofem gånger större på disk, vilket är den del som tillkännagivandet inte börjar med.

Det intressanta med den här jämförelsen är att båda modellerna tillhör samma företag. Det här är inte en utmanare som kommer utifrån för att ersätta en etablerad aktör; det är NVIDIA som säljer en andra, betydligt tyngre produkt till dig för att utföra den halva av jobbet som dess första produkt aldrig byggdes för.

Två arkitekturer, två teorier om jobbet

Parakeet TDT 0.6B v3 är en FastConformer-kodare som matar en token-och-varaktighets-transducer-dekodare. En TDT-modell förutsäger både en token och en varaktighet per steg, vilket gör att den kan hoppa över ramar och ligga långt före realtiden; det är hela anledningen till att den är snabb. Den täcker 25 europeiska språk med automatisk språkidentifiering, har inbyggda tidsstämplar på ordnivå och släpps under CC-BY-4.0, vilket är ungefär så obelastat som en licens kan bli. Den har ingen talarrepresentation överhuvudtaget – inte en svag sådan, ingen alls.

Nemotron 3.5 Transcribe är en talförstärkt språkmodell: en talenkoder, en fryst Nemotron 3 Diarization-modell som injicerar talaraktivitetsdrag via en Parallel Expert Encoder, samt en hybrid Mamba–Transformer-mixture-of-experts-dekoder med ungefär 4 miljarder av sina 30 miljarder parametrar aktiva per token. Den klassificerar inte ramar. Den genererar text, vilket är varför man kan instruera den om hur den ska generera texten.

• Parametrar – cirka 30B totalt, ungefär 4B aktiva per token jämfört med 600M.

• Avkodning — autoregressiv generering kontra token-and-duration-transducer, icke-autoregressiv.

• Licens — OpenMDW-1.1 vs CC-BY-4.0.

• Språk — 40 transkriberade, 31 översatta till eller från engelska jämfört med 25 europeiska språk med automatisk igenkänning.

• Talare – upp till 8, med attribuering, på 13 språk jämfört med inga.

• Tidsstämplar — CTC-alignering efter avkodning, talartilldelad kontra inbyggd ordnivåtiming.

• Genomströmning — RTFx 462 på Open ASR Leaderboard jämfört med RTFx 3 333.

• Ljudlängd och streaming – 1 timme per fil, endast inspelat vs inspelat, med ett 0.6B streaming-syskon som hanterar live-ljud separat.

Noggrannhetssiffrorna varierar beroende på vem som är värd.

På Hugging Face Open ASR Leaderboards genomsnitt för engelska kortformat ligger Parakeet TDT 0.6B v3 på 6,34 % och Nemotron 3.5 Transcribe på 5,33 %. Det är en skillnad på en procentenhet på samma offentliga leaderboard, vilket är en mer respektabel jämförelse än de flesta i den här serien – samma testramverk, samma testuppsättningar, båda leverantörernas egna inlämningar. Det är fortfarande inte hela bilden, eftersom de två bidragen poängsattes vid olika tidpunkter och leaderboardens medelvärde domineras av rent uppläst tal.

Artificial Analysis ger en helt annan bild, och det är värt att förstå varför. På den listan ligger Parakeet-posten på 4,5 %, klart före vad dess Open ASR-genomsnitt skulle antyda, medan Nemotron 3.5 Transcribe ligger på 3,4 %. De 4,5 % hör till konfigurationen för en värdbaserad slutpunkt, inte till checkpointen på din egen hårdvara, och den som driftsätter kan flytta siffran med nästan en procentenhet genom sina val av batchning och avkodning. Att jämföra ett värdbaserat Parakeet-resultat med ett självhostat är det enskilt vanligaste felet i veckans rapportering, och det fungerar åt andra hållet också: NVIDIAs lanseringspåstående om 2,8 % för Nemotron är en inlämnad siffra, och listans nuvarande 3,4 % är mätningen.

Den oberoende, mänskligt granskade bilden är ännu snävare. På Perits engelska set ligger Parakeet TDT 0.6B v3 på 2,13 % WER, plats 14 av 22, där 54 % av klippen transkriberas perfekt. GPT Transcribe och MAI Transcribe 2 ligger på 1,76 % på plats sex och sju. Nemotron 3.5 Transcribes 30B-checkpoint finns inte alls med på den listan; modellen nemotron-3.5-asr-streaming-0.6b som finns där ligger på 3,35 %, plats 21 – en annan modell för ett annat jobb, och ofta förväxlad med den som den här artikeln handlar om.

Vad ersättningen faktiskt raderar

Den kaskad som Parakeet-användare kör i dag har tre delar och tre felmoder. Igenkännaren producerar text med ordtidsangivelser. Diariseraren producerar talarturer. Sammanslagningen tilldelar turer till ord, och den gör det med överlappsheuristiker som är fel just där det spelar roll – när två personer talar samtidigt. NVIDIAs egna rapporterade siffror för ersättningen med en enda modell riktar sig direkt mot den felmoden: 18,26 % diariseringsfelkvot över 21 språk på David AI-benchmarken, bäst av 14 system; 32,4 % sammansatt min-permutation-WER på VoiceArena, bäst av 14, där tvåan var en Multitalker Parakeet plus Nemotron 3 Diarization-kaskad på 34,2 %; och 8,32 % av referensorden droppade vid överlappande engelskt tal mot ett medianvärde på ungefär 31 %.

Det är leverantörssiffror på en leverantörs testrigg och de har inte reproducerats oberoende. Men notera vad tvåan är: NVIDIA:s egen kaskad, byggd från modellen i den här jämförelsens titel. Företaget publicerar ett benchmark där dess nya produkt slår dess gamla produkt plus en diariserare. Det är ovanligt direkt bevis, och det är också den typ av bevis som en leverantör har bäst förutsättningar att ta fram och minst benägen att publicera om det hade gått åt andra hållet.

Det andra som ersättaren tar bort är språkhanteringen. Parakeet täcker 25 europeiska språk; Nemotron täcker 40 för transkription och 31 för översättning till eller från engelska, med talarattribuering för 13. Om din kö stannar vid EU är skillnaden akademisk. Om den omfattar arabiska, mandarin, hindi eller japanska var Parakeet aldrig ett alternativ, och jämförelsen står mellan Nemotron och något helt annat.

Vad det kostar dig att ersätta den

Genomströmning först. Parakeets 3 333 RTFx mot Nemotrons 462 är en skillnad på 7,2× i samma leaderboard-utvärderingsramverk – en mindre skillnad än parameterkvoten antyder, eftersom MoE bara aktiverar cirka 4 miljarder av sina 30 miljarder vikter per token, men fortfarande en verklig sådan. NVIDIAs mer högljudda påstående, upp till 2 238 sekunder ljud per sekund på ett RTX PRO 6000 Blackwell, förutsätter NVFP4-checkpointen plus en DFlash2-draftmodell och mättes på 30-sekundersklipp vid hög samtidighet. Inget av talen är fel; de mäter olika konfigurationer, och en kapacitetsplan som bygger på det större talet kommer att göra dig besviken vid timslånga möten.

Fotavtryck, för det andra. Parakeet TDT 0.6B får plats i ett par gigabyte och körs med god marginal på ett mellanklassgrafikkort, och dess kvantiserade versioner körs på processorer. Nemotron 3.5 Transcribe är på tiotals gigabyte i BF16 och kräver vLLM med NeMo Speech-plugin eller SGLang-Omni på en datacenteraccelerator. Det finns ingen variant av detta där 30B-modellen ersätter 0.6B-modellen på samma hårdvara.

Mognad, för det tredje. Parakeet har ett års driftsättningar, tusen forumsvar och en fungerande verktygskedja i NeMo, Transformers och en C++-runtime. Nemotron 3.5 Transcribe har en dag. Dess stöd för GGUF och NeMo-Speech.cpp beskrivs som kommande; dess kvantiserade lokala byggen har ännu inte släppts. Om din pipeline behöver vara tråkig är det en anledning att vänta ett kvartal snarare än en anledning att förkasta modellen.

Där den sittande aktören fortfarande vinner klart

Allt interaktivt, till exempel. Parakeets transduceravkodning returnerar ord allt eftersom ljudet anländer, och dess inbyggda tidsstämplar är en egenskap hos avkodaren snarare än ett efterhandssteg för alignering. Nemotron 3.5 Transcribe är uttryckligen byggd för inspelat ljud – NVIDIAs eget inlägg på Hugging Face säger det – och det finns en separat 0.6B-strömningsmodell för livesessioner. Om din produkt är liveundertexter är ingen av modellerna i den här rubriken rätt svar; den strömmande syskonmodellen är det, och det är en annan jämförelse.

Allt on-premise i liten skala, för två. En klinik med ett arbetsstationskort, en advokatbyrå med ett arkiv och en compliance-ansvarig, en forskargrupp med ett enda GPU-bidrag: Parakeet på 0,6B är en realistisk driftsättning och Nemotron på 30B är det inte. Noggrannhetsskillnaden på ungefär en punkt på ren engelska betalar inte för hårdvaran.

Allt som endast är på engelska utan krav på talare, för tre. Vilket är det mesta transkriberingsarbetet. Den ärliga sammanfattningen är att majoriteten av Parakeets 626 000 nedladdningar gäller jobb som uppgraderingen inte förbättrar.

Att hålla pipelinen igång när hälften av den är din egen hårdvara

Att självhosta igenkännaren inför ett felläge som hanterade API:er inte har: ditt kort, din drivrutin, ditt underhållsfönster. Det är just argumentet för att hålla den andra halvan av pipelinen – sammanfattaren, klassificeraren, extraktorn som omvandlar ett transkript till strukturerade poster – på en slutpunkt med inbyggd redundans. OrcaRouter kör 200+ text- och multimodala modeller bakom en enda nyckel, med automatisk failover mellan leverantörer när en uppströmstjänst försämras, leverantörernas listpriser som vidarebefordras med 0 % påslag, och en routing-DSL som låter dig styra mötesprotokoll och samtalsanteckningar till olika modeller utan att duplicera integrationer. Nemotron 3.5 Transcribe och Parakeet TDT 0.6B ligger båda utanför den katalogen – vi erbjuder inte tal-till-text – men lagret som läser deras utdata behöver inte fallera när en GPU fallerar.

Uppgraderingsbeslutet

Byt ut Parakeet mot Nemotron 3.5 Transcribe om det är kaskaden som ställer till problem för dig: om du underhåller en diariserare och ett sammanslagningssteg, om dina möten har fler än två röster, om ditt ljud inte är europeiskt, eller om orden "överlappande tal" förekommer i dina supportärenden. I så fall är 30B-checkpointen inte en lyx, utan att ta bort två rörliga delar och deras felbudget, och genomströmningskostnaden är en genomströmningskostnad — ett kort bearbetar fortfarande betydligt mer ljud än ett mötestungt team kan generera.

Behåll Parakeet om ditt ljud är engelskt eller europeiskt, dina talare är kända eller irrelevanta, din hårdvara är en arbetsstation och din pipeline fungerar. Den nya modellen gör inte den gamla föråldrad; den täcker de fall som den gamla aldrig var designad för. Och fortsätt att bevaka de oberoende resultattavlorna, eftersom varje siffra i den här artikeln som talar för Nemotron 3.5 Transcribe när det gäller diarisering är NVIDIAs egen, och en andra åsikt har ännu inte publicerats.