Nemotron 3.5 Transcribe vs Grok Voice Transcribe 2.0: open gewichten op je GPU, of $0,20 per uur

Grok Voice Transcribe 2.0 rekent $0,20 voor elk uur audio dat je erdoor streamt, en $0,10 voor elk uur dat je in batch verwerkt. Nemotron 3.5 Transcribe rekent niets per uur en vraagt je een GPU te bezitten die ongeveer 34 miljard parameters kan bevatten. Lees alleen die zin en de vergelijking ziet eruit als een prijzenoorlog tussen een meter en een machine, waarbij de meter duidelijk verliest. Hij verliest niet: op het enige benchmarkboard waar beide modellen voorkomen, is het model met de meter nauwkeuriger, en het open model zit niet dicht genoeg in de buurt om dat te weerleggen.

De twee werden zes weken na elkaar uitgebracht — Grok Voice Transcribe 2.0 op 2026-09-18, Nemotron 3.5 Transcribe op 2026-10-28 — en ze waren voor verschillende taken gebouwd. De ene is een gehoste API met een WebSocket die woorden teruggeeft terwijl iemand nog spreekt. De andere is een checkpoint dat je downloadt, laadt en op een afgeronde opname richt. Latentie, aantal talen, sprekerlabels, kostenstructuur en zelfs de juridische voorwaarden volgen allemaal uit dat ene verschil, en daarom is de interessante vraag niet welke van de twee beter transcribeert.

Wat elk van hen is, in zes regels

De vormcontrast is zo sterk dat een specificatielijst klinkt als een categoriefout, en dat is precies de bedoeling.

• Uitrol — een gehoste REST- en WebSocket-API op xAI's eigen infrastructuur versus open gewichten onder OpenMDW-1.1 die je zelf serveert op vLLM, SGLang-Omni of NeMo Speech.

• Grootte — xAI publiceert geen parameteraantal, tegenover een totaal van 34B met ongeveer 4,3B actief, inclusief de audio-encoder, op een Nemotron 3.5 Lightning 30B-A3B Mamba- en Transformer-mixture-of-experts-backbone.

• Audio-invoer — bestanden tot 500 MB in twaalf containerformaten plus drie raw-coderingen, met 2-8 kanalen via multikanaalmodus, tegenover opnames van maximaal één uur in 16kHz mono-PCM binnen een context van 65.536 tokens.

• Realtime-pad — streaming met interimresultaten ongeveer elke 500 ms, endpointing die standaard op 400 ms staat, slimme turn-detection en een apart batch-endpoint, versus helemaal geen streaming; het model leest een voltooid bestand en retourneert een transcript.

• Taaldekking — 37 talen genoemd in de documentatie van xAI en daar beschreven als 38+, tegenover 40 talen die worden getranscribeerd en 31 vertaalparen van of naar het Engels op de NVIDIA-kaart.

• Sprekerlabels — een diarisatieflag die aan elk woord een sprekerinteger toevoegt, beschikbaar voor batch en streaming, versus een gefuseerde diarisatie-encoder die in één pass transcripties met sprekerattributie produceert voor tot 8 sprekers in 13 talen.

• Prijs — $0,10 per audiouur in batch en $0,20 per audiouur bij streaming, tegenover geen gepubliceerd tarief per uur, omdat NVIDIA gewichten verkoopt en jij de rekenkracht levert.

Het enige board waar ze elkaar ontmoeten, en het breekt niet op de manier die je verwacht.

Artificial Analysis onderhoudt een spraak-naar-tekst-leaderboard met twee banen: een batchbaan voor voltooide bestanden en een streamingbaan voor modellen die partiële resultaten genereren. Nemotron 3.5 Transcribe komt alleen in aanmerking voor de eerste. Daar staat Grok Voice Transcribe 2.0 op 2,3% AA-WER, vijfde van ongeveer zestig modellen, terwijl het model van NVIDIA in het lanceermateriaal wordt vermeld met 2,80% en op de live tabel in de dagen na de release 3,4% laat zien. Noem het 2,8% of 3,4%; hoe dan ook wint het gehoste model op de enige schaal die beide modellen delen, met tussen een halve punt en een heel punt.

Dat resultaat is minder schadelijk dan het op het eerste gezicht lijkt, omdat de twee modellen niet om dezelfde reden op het bord staan. NVIDIA's claim is dat Nemotron 3.5 Transcribe het beste open-weight spraakmodel is, en op dat smallere bord is dat ook zo: de vergelijking die het wint, is tegen andere downloadbare checkpoints, waar 2,8% het te verslaan getal is. Grok Voice Transcribe 2.0 is propriëtair en speelt in een andere categorie. De twee tegen elkaar uitspelen levert een kop op — "gehost model verslaat open model met 0,5 punt" — die een mix van benchmarks meet, niet een productbeslissing.

De streamingcategorie is waar de asymmetrie structureel wordt eerder dan statistisch. Grok Voice Transcribe 2.0 houdt de toppositie in de streamingcategorie met 2,7% definitieve WER, 0,49 seconden na het einde van de spraak geproduceerd, en 3,4% op zijn eerste gedeeltelijke resultaat bij dezelfde latentie, als eerste van ongeveer tweeëndertig streamingmodellen. Nemotron 3.5 Transcribe heeft geen vermelding, omdat het niet kan streamen. Het is een model dat een bestand als invoer neemt en een transcript als uitvoer geeft, en er is geen gedocumenteerd chunked-streamingpad voor. Wie de twee vergelijkt op nauwkeurigheid terwijl hij een implementatie voor live-ondertiteling plant, vergelijkt een model dat hij niet kan gebruiken.

Beide scoreborden dragen een waarschuwing die het herhalen waard is. AA-WER verschuift bij hetzelfde model met bijna een vol punt tussen verschillende serving-eindpunten, dus het gat van 0,5 punt hierboven is ongeveer de breedte van de meetruis — in richting echt, als oordeel zwak. En xAI's eigen cijfer van 6,8% voor meertalige korte zinnen, gedaald van 20,6% in versie 1.0, komt uit een interne set die is opgebouwd uit productieverkeer, niet uit een vrijgegeven corpus. Het is een leveranciersclaim over een leveranciersset, en het staat helemaal niet op Artificial Analysis.

Streaming is de grens die het open model niet kan overschrijden.

Voor een callcenteragent, live ondertiteling, een vergaderingassistent of een spraakbot is de beslissing al genomen voordat er überhaupt naar nauwkeurigheid wordt gekeken. Grok Voice Transcribe 2.0 accepteert onbewerkte binaire audiodelen via een WebSocket — pcm, mulaw, alaw of opus — geeft ongeveer twee keer per seconde voorlopige resultaten terug en biedt signalen voor beurtbeëindiging via endpointing en slimme beurtdetectie. Dat zijn de mechanismen die een transcript live laten aanvoelen, en dat is de reden waarom Loom van Atlassian bij de lancering zijn videobibliotheek naar het model heeft verplaatst.

Nemotron 3.5 Transcribe heeft bewust de tegengestelde vorm. Het leest in één doorgang tot een uur audio en retourneert een volledige transcriptie, waarbij woordtijdstempels na de generatie worden geproduceerd door een lichtgewicht CTC-adapter, niet tijdens de generatie. Dat ontwerp levert nauwkeurigheid op lange, rommelige opnamen, maar kost latentie op alles wat kort en interactief is. NVIDIA heeft een aparte, veel kleinere streaming-spraakherkenner in zijn gamma — Nemotron Speech Streaming EN 0.6B — maar dat is een ander model met een andere dekking, geen streamingmodus van dit checkpoint. Het 30B-model kopen in de verwachting streaming later toe te voegen, is twee keer het verkeerde product kopen.

Veertig talen tegen zevenendertig, en een telling die verschoof

Op papier is de discrepantie drie talen. In de praktijk hangt het ervan af welke pagina je leest. xAI's documentatie voor spraak-na-tekst vermeldt 37 genoemde talen — van Arabisch en Bosnisch tot Urdu en Vietnamees, met regionale varianten voor Spaans, Portugees en Arabisch — en beschrijft het totaal als 38+. De dekking die rond de lancering in september werd gepubliceerd, vermeldde 25. De documentatie is de actuelere en specifiekere bron, maar een aantal talen dat met dertien verschilt tussen een bericht over de lancering en een documentatiepagina, is een aantal dat je aan je eigen audio moet verifiëren in plaats van het over te nemen.

De kaart van NVIDIA is fijnmaziger en voor de verandering eens conservatiever: 40 talen met een vinkjestabel per taal, en 13 daarvan gemarkeerd voor transcriptie met meerdere sprekers. De talen die van belang zijn voor sprekertoewijzing vormen een smallere set dan de 40 — Arabisch, Mandarijn, Engels, Frans, Duits, Hindi, Italiaans, Japans, Koreaans, Portugees, Russisch, Spaans en Thai. Als je archief in het Pools of Turks is, zal Nemotron 3.5 Transcribe het goed transcriberen en je niet vertellen wie wat zei — precies de functie die je waarschijnlijk wilde kopen.

Vertaling is hier een kolom die alleen Nemotron biedt. Het model vertaalt naar en uit het Engels over 31 taalparen in dezelfde doorgang waarin het transcribeert, wat Grok Voice Transcribe 2.0 niet biedt; de API van xAI retourneert tekst in de taal die gesproken wordt. Als het om tweetalige vergadernotulen gaat, is dat een functie die geen prompt engineering aan de Grok-kant kan nabootsen.

Sprekerlabels: een gefuseerde encoder versus een boolean

Dit is de enige dimensie waarop de twee dichter bij elkaar liggen dan de marketing suggereert, en waarop het eerlijke antwoord is dat ze het allebei doen.

• Nemotron 3.5 Transcribe — een bevroren Nemotron 3 Diarization-model voedt representaties van sprekeractiviteit aan de ASR-encoder, zodat het taalmodel als deel van zijn invoer ziet wie er spreekt. De uitvoer bevat sprekerlabels en ruwe segmenten, tot 8 sprekers, en tijdstempels op woordniveau. Het is één pass zonder een tweede service daartussen.

• Grok Voice Transcribe 2.0 — stel diarize=true in en elk woord komt terug met een geheel getal als sprekerveld, zowel bij batch als bij streaming. De multichannelmodus gaat nog verder: tot 8 kanalen worden onafhankelijk getranscribeerd en met een kanaalindex teruggegeven, wat exacte attributie is wanneer je bron een multichannelopname is en geen gemengde opname.

Het praktische verschil is dekking, niet bestaan. De flag van Grok werkt voor de talen die zijn API ondersteunt; het fused pad van NVIDIA is voor 13 talen getraind. En meerkanaals is een echt voordeel in de ruimtes waar het van toepassing is — een bestuurskamer met één microfoon per stoel heeft geen diarizer nodig om te raden. Een gemengd monobestand vanaf een conferentievloer wel, en daar is het kwaliteitsverschil tussen een fused encoder en een gehoste flag iets dat alleen je eigen audio kan beslechten.

Het rekenwerk bij duizend uur per maand

Prijs is het punt waarop de twee modellen echt uiteenlopen, en het is de moeite waard om de rekensom te maken in plaats van anekdotes over GPU-rekeningen uit te wisselen.

Bij 1.000 audio-uren per maand kost Grok Voice Transcribe 2.0 $100 in batchmodus of $200 bij streaming — $1.200 of $2.400 per jaar, zonder hardware, zonder onderhoudsvenster en zonder koudstart. Nemotron 3.5 Transcribe kost wat de GPU kost. De onderzoekspagina van NVIDIA stelt dat de NVFP4-checkpoint met het DFlash2-draftmodel 2.238 seconden audio per seconde transcribeert op één RTX PRO 6000 Blackwell, wat zelfs met een factor tien neerwaarts gecorrigeerd nog betekent dat 1.000 uur audio binnen een paar GPU-uren per maand past. Rekenkracht is niet de beperking; eigendom wel.

• Break-even ten opzichte van het streamingtarief — een workstationkaart van $8.000 verdient zichzelf terug na 40 maanden van 1.000 streaminguren, of 80 maanden tegen het batchtarief.

• Bij 10.000 uur per maand — verdient dezelfde kaart zich binnen vier maanden terug ten opzichte van streaming, en het tarief per uur daalt naar ongeveer 2 cent.

• Gehuurde cloud-GPU — een H100 voor ongeveer $2 per uur overtreft de lijstprijzen van beide modellen zodra de doorvoerclaim van de leverancier standhoudt bij zelfs maar een fractie van de vermelde waarde; de vaste kosten worden dan engineeringtijd, opslag en de omstandigheid dat je nu een modelserver draait.

Het break-evenpunt gaat dus helemaal niet over transcriptienauwkeurigheid. Het draait om volume en om de vraag of het audiomateriaal uw netwerk mag verlaten. Onder een paar duizend uur per maand is het tarief van de gehoste oplossing goedkoper dan de engineering. Daarboven, of achter een compliance-muur, winnen de modelgewichten en kantelt de vergelijking.

Waar OrcaRouter past, en waar niet

Geen van deze twee transcriptiemodellen staat vandaag in de catalogus van OrcaRouter; de modellen die we aanbieden zijn tekst- en vision-modellen, en niets hier mag worden gelezen als een endpoint voor een van beide. Wat een transcriptiepijplijn wel oplevert, is een grote berg tekst die daarna samengevat, geëxtraheerd, geredigeerd, geclassificeerd en doorzocht moet worden. Die calls zijn waar een enkele OpenAI-compatibele sleutel voor 200+ modellen zijn geld waard is: de lijstprijs van de provider doorgegeven zonder markup, zodat een prijsverlaging van een leverancier dezelfde dag doorkomt, automatische failover wanneer een upstream degradeert, en een routing-DSL die goedkope classificatietaken naar een klein model kan sturen terwijl de dure samenvatting op een frontier-model blijft. Als je Nemotron 3.5 Transcribe zelf host, is de GPU je transcriber; routing is wat er daarna met het transcript gebeurt.

Welke moet je kiezen?

De beslissing gaat over de klok op de audio, niet over de modelkaart.

• Live audio, spraakagenten, ondertitels, gespreksroutering — Grok Voice Transcribe 2.0, zonder veel discussie. Streaming is native, de latentie tot een definitieve transcriptie is minder dan een halve seconde, en het batch-endpoint gebruikt hetzelfde model voor de nachtelijke backfill.

• Voltooide opnames met meerdere sprekers, in talen buiten het Engels — Nemotron 3.5 Transcribe, mits je de GPU hebt en het pad voor sprekers in 13 talen je audio dekt. Dit is het geval waarvoor het model is gebouwd, en waar 40 talen en diarisatie in één doorgang een nauwkeurigheidsverschil van 0,5 punt verslaan.

• Tweetalige archieven — Nemotron 3.5 Transcribe, omdat de vertaalparen in dezelfde verwerking worden meegeleverd en Grok niet vertaalt.

• Klein volume, geen GPU, alleen Engels — Grok Voice Transcribe 2.0 in batchmodus voor $0,10 per uur. Duizend uur kost honderd dollar; geen enkele vorm van open-weight-licentievrijheid compenseert de aankoop van een Blackwell-kaart om dat te besparen.

Het verleidelijke vierde antwoord — Nemotron nu inzetten en streaming later toevoegen — bestaat niet. Het model dat NVIDIA heeft uitgebracht, is bewust offline, en de streaminglijn die erbij wordt verkocht is een 0,6B Engels herkenningsmodel, geen modus van dit model. Kies eerst de vorm die je nodig hebt; het leaderboardargument kan wachten, want een half punt AA-WER valt ruim binnen de spreiding die hetzelfde model vertoont wanneer het op andere hosts draait.