Nemotron 3.5 Transcribe vs Grok Voice Transcribe 2.0: Öppna vikter på din GPU, eller $0,20 i timmen

Grok Voice Transcribe 2.0 fakturerar 0,20 USD för varje timme ljud som du strömmar genom den, och 0,10 USD för varje timme som du batchbearbetar. Nemotron 3.5 Transcribe fakturerar ingenting per timme och kräver att du äger en GPU som kan rymma cirka 34 miljarder parametrar. Läser man bara den meningen ser jämförelsen ut som ett priskrig mellan en mätare och en maskin, där mätaren uppenbart förlorar. Den förlorar inte: på den enda benchmarktabellen där båda modellerna finns med är den avgiftsbelagda mer träffsäker, och den öppna är inte nära nog för att man ska kunna invända mot det.

De två lanserades sex veckor efter varandra – Grok Voice Transcribe 2.0 den 2026-09-18, Nemotron 3.5 Transcribe den 2026-10-28 – och de byggdes för olika uppgifter. Den ena är ett hostat API med en WebSocket som returnerar ord medan en person fortfarande talar. Den andra är en checkpoint som du laddar ner, laddar in och riktar mot en färdig inspelning. Latens, antal språk, talaretiketter, kostnadsstruktur och till och med de juridiska villkoren följer alla av den enda skillnaden, vilket är varför den intressanta frågan inte är vilken av dem som transkriberar bättre.

Vad var och en är, på sex rader

Formkontrasten är så skarp att en specifikationslista framstår som ett kategorifel, vilket är poängen.

• Driftsättning – ett hostat REST- och WebSocket-API på xAI:s egen infrastruktur kontra öppna vikter under OpenMDW-1.1 som du själv serverar på vLLM, SGLang-Omni eller NeMo Speech.

• Storlek — xAI publicerar inget parameterantal jämfört med 34B totalt med ungefär 4,3B aktiva, inklusive ljudkodaren, på en Nemotron 3.5 Lightning 30B-A3B Mamba- och Transformer-mixture-of-experts-stomme.

• Ljudingång — filer på upp till 500 MB i tolv containerformat plus tre råa kodningar, med 2–8 kanaler via flerkanalsläge, jämfört med inspelningar på upp till en timme vid 16 kHz mono PCM inom en kontext på 65 536 token.

• Realtidsväg — strömning med preliminära resultat ungefär var 500:e ms, endpointing som standard på 400 ms, smart turskiftesdetektering och en separat batchslutpunkt, jämfört med ingen strömning alls; modellen läser en färdig fil och returnerar en transkription.

• Språktäckning – 37 språk som namnges i xAI:s dokumentation och där beskrivs som 38+, jämfört med 40 språk som transkriberas och 31 översättningspar till eller från engelska på NVIDIA-kortet.

• Talaretiketter – en diarize-flagga som lägger till ett talarheltal för varje ord, tillgänglig i batch och streaming, jämfört med en sammansmält diariseringskodare som producerar talartillskrivna transkript i en enda körning för upp till 8 talare på 13 språk.

• Pris — 0,10 USD per ljudtimme i batch och 0,20 USD per ljudtimme vid streaming, jämfört med ingen publicerad timtaxa, eftersom NVIDIA säljer vikterna och du levererar beräkningskraften.

Den enda styrelsen där de möts, och den går inte sönder på det sätt du förväntar dig.

Artificial Analysis driver en tal-till-text-topplista med två spår: ett batchspår för färdiga filer och ett streamingspår för modeller som sänder dellresultat. Nemotron 3.5 Transcribe kvalar endast till det första. Där ligger Grok Voice Transcribe 2.0 på 2,3 % AA-WER, på femteplats bland ungefär sextio modeller, medan NVIDIA:s modell anges som 2,80 % i lanseringsmaterialet och står på 3,4 % i den aktuella tabellen under dagarna efter lanseringen. Kalla det 2,8 % eller 3,4 %; hur som helst vinner den värdbaserade modellen den enda skalan som båda har gemensamt, med mellan en halv och en hel procentenhet.

Det resultatet är mindre skadligt än det först ser ut, eftersom de två modellerna inte är med på listan av samma skäl. NVIDIA:s påstående är att Nemotron 3.5 Transcribe är den bästa talmodellen med öppna vikter, och på den snävare listan är den det: jämförelsen den vinner är mot andra nedladdningsbara checkpoints, där 2,8 % är siffran att slå. Grok Voice Transcribe 2.0 är proprietär och konkurrerar i en annan kategori. Att ställa de två mot varandra ger en rubrik – "hostad modell slår öppen modell med 0,5 poäng" – som mäter en blandning av benchmarks, inte ett produktbeslut.

Det är inom streamingkategorin som asymmetrin blir strukturell snarare än statistisk. Grok Voice Transcribe 2.0 toppar streaminglistan med 2,7 % slutlig WER, ett transkript som levereras 0,49 sekunder efter talets slut, och 3,4 % på sitt första partiella resultat vid samma latens – etta bland omkring trettiotvå streamingmodeller. Nemotron 3.5 Transcribe har ingen post, eftersom den inte kan streama. Det är en modell som tar in en fil och producerar ett transkript, och ingen chunkad streamingväg är dokumenterad för den. Den som jämför de två med avseende på noggrannhet inför en driftsättning av liveundertexter jämför en modell som inte går att använda.

Båda resultattavlorna bär en varningsetikett som är värd att upprepas. AA-WER varierar med nästan en hel punkt för samma modell mellan olika serving-slutpunkter, så gapet på 0,5 punkter ovan är ungefär mätbrusets storlek — reellt i riktning, svagt som utlåtande. Och xAI:s egen siffra på 6,8 % för flerspråkiga kortfraser, ned från 20,6 % i version 1.0, är hämtad från en intern uppsättning som byggts på produktionstrafik, inte från en publicerad korpus. Det är ett leverantörspåstående om en leverantörs uppsättning, och den förekommer inte alls på Artificial Analysis.

Streaming är gränsen som den öppna modellen inte kan överskrida

För en callcenteragent, en direkttext, en mötesassistent eller en röstbot är beslutet redan fattat innan noggrannheten ens beaktas. Grok Voice Transcribe 2.0 tar emot råa binära ljudramar via en WebSocket – pcm, mulaw, alaw eller opus – returnerar delresultat ungefär två gånger per sekund och tillhandahåller signaler för turens slut via ändpunktsdetektering och smart turdetektering. Det är mekaniken som får en transkription att kännas live, och det är anledningen till att Atlassians Loom flyttade sitt videobibliotek till modellen vid lanseringen.

Nemotron 3.5 Transcribe har avsiktligt motsatt form. Den läser upp till en timme ljud i en enda genomgång och returnerar en fullständig transkription, med ordtidsstämplar som produceras av en lättvikts-CTC-adapter efter genereringen snarare än under den. Den konstruktionen köper noggrannhet på långa, röriga inspelningar och kostar latens på allt kort och interaktivt. NVIDIA har en separat, betydligt mindre strömmande taligenkännare i sitt sortiment – Nemotron Speech Streaming EN 0.6B – men det är en annan modell med annan täckning, inte ett strömmande läge för denna checkpoint. Att köpa 30B-modellen i förhoppning att montera strömning senare är att köpa fel sak två gånger.

Fyrtio språk mot trettiosju, och en räkning som ändrades

På pappret är gapet tre språk. I praktiken beror det på vilken sida man läser. xAI:s dokumentation för tal-till-text anger 37 namngivna språk – från arabiska och bosniska till urdu och vietnamesiska, med regionala varianter för spanska, portugisiska och arabiska – och beskriver det totala antalet som 38+. Täckningen som publicerades i samband med lanseringen i september angav 25. Dokumentationen är den mer aktuella källan och den mer specifika, men ett språkantal som skiljer sig med tretton mellan ett lanseringsinlägg och en dokumentationssida är ett antal man bör verifiera mot sin egen ljuddata i stället för att anta.

NVIDIA:s kort är mer detaljerat och, för en gångs skull, mer konservativt: 40 språk med en tabell med kryss per språk, och 13 av dem markerade för transkription med flera talare. De som har betydelse för talarattribution är en snävare uppsättning än de 40 — arabiska, mandarin, engelska, franska, tyska, hindi, italienska, japanska, koreanska, portugisiska, ryska, spanska och thai. Om ditt arkiv är på polska eller turkiska kommer Nemotron 3.5 Transcribe att transkribera det väl och inte säga vem som sagt vad, vilket är den förmåga du förmodligen var ute efter att köpa.

Översättning är en Nemotron-exklusiv kolumn här. Modellen översätter till och från engelska över 31 språkpar i samma pass som den transkriberar, vilket Grok Voice Transcribe 2.0 inte erbjuder; xAI:s API returnerar text på det språk som talas. Om uppdraget är tvåspråkiga mötesprotokoll är det en funktion som ingen promptteknik på Grok-sidan kan återskapa.

Talaretiketter: en fusionerad encoder mot en boolesk

Detta är den enda dimensionen där de två ligger närmare varandra än marknadsföringen antyder, och där det ärliga svaret är att båda gör det.

• Nemotron 3.5 Transcribe — en fryst Nemotron 3 Diarization-modell matar representationer av talaraktivitet till ASR-kodaren, så språkmodellen ser vem som talar som en del av sin indata. Utdata innehåller talartaggar och råsegment, upp till 8 talare, samt tidsstämplar på ordnivå. Det är ett enda genomlopp utan en andra tjänst inblandad.

• Grok Voice Transcribe 2.0 — ställ in diarize=true och varje ord kommer tillbaka med ett heltalsfält för talare, både vid batch och streaming. Multikanalsläget går längre: upp till 8 kanaler transkriberas oberoende av varandra och returneras med ett kanalindex, vilket ger exakt attribuering när källan är en multikanalsinspelning snarare än en mixad sådan.

Den praktiska skillnaden är täckning, inte existens. Groks flagga fungerar för de språk som dess API stöder; NVIDIAs fusionerade bana är tränad för 13 språk. Och flerkanalighet är en verklig fördel i de rum där den tillämpas – ett styrelserum med en mikrofon per plats behöver inte en diariserare som gissar. En mixad monofil från en konferensanläggning behöver det, och där är kvalitetsgapet mellan en fusionerad kodare och en hostad flagga något som bara ditt eget ljud kan avgöra.

Aritmetiken vid tusen timmar i månaden

Det är i priset som de två modellerna verkligen skiljer sig åt, och det är värt att räkna ihop siffrorna i stället för att utbyta anekdoter om GPU-räkningar.

Vid 1 000 ljudtimmar per månad kostar Grok Voice Transcribe 2.0 100 USD i batchläge eller 200 USD vid streaming – 1 200 eller 2 400 USD per år, utan hårdvara, utan underhållsfönster och utan kallstart. Nemotron 3.5 Transcribe kostar vad GPU:n kostar. NVIDIAs forskningssida uppger att NVFP4-checkpointen med DFlash2-utkastmodellen transkriberar 2 238 sekunder ljud per sekund på ett enda RTX PRO 6000 Blackwell, vilket även om man räknar ned det med en faktor tio ändå innebär att 1 000 timmar ljud får plats på några GPU-timmar per månad. Beräkningskraft är inte begränsningen; ägandet är det.

• Brytpunkt mot strömningstaxan – ett arbetsstationskort för 8 000 USD betalar sig självt efter 40 månader med 1 000 strömningstimmar, eller 80 månader mot batchtaxan.

• Vid 10 000 timmar i månaden — samma kort går break-even på fyra månader jämfört med streaming, och timpriset sjunker till ungefär 2 cent.

• Hyrda moln-GPU: ett H100 för ungefär 2 dollar i timmen slår båda modellernas listpriser i samma stund som leverantörens påstående om genomströmning håller även vid bara en bråkdel av den angivna siffran; den fasta kostnaden blir utvecklingstid, lagring och det faktum att du nu kör en modellserver.

Brytpunkten handlar därför inte alls om transkriberingsnoggrannhet. Den handlar om volym och om huruvida ljudet får lämna ditt nätverk. Under några tusen timmar i månaden är den hostade taxan billigare än ingenjörsarbetet. Över den nivån, eller bakom en regelefterlevnadsbarriär, vinner vikterna och jämförelsen slår om.

Var OrcaRouter passar in, och var det inte passar

Ingen av dessa transkriberare finns i OrcaRouters katalog i dag; modellerna vi erbjuder är text- och visionsmodeller, och inget här bör tolkas som en endpoint för någon av dem. Det en transkriberingspipeline faktiskt genererar är en stor hög med text som sedan kräver sammanfattning, entitetsextrahering, avidentifiering, klassificering och sökning. Det är i de anropen som en enda OpenAI-kompatibel nyckel över 200+ modeller gör nytta: leverantörens listpris vidarebefordras med 0 % påslag, så en prisnedsättning från en leverantör slår igenom samma dag, automatisk failover när en uppström försämras, och ett routing-DSL som kan skicka billigt klassificeringsarbete till en liten modell medan den dyra sammanfattningen hålls kvar på en frontier-modell. Om du själv hostar Nemotron 3.5 Transcribe är GPU:n din transkriberare; routing är det som händer med transkriptionen efteråt.

Vilken ska man välja?

Beslutet gäller klockan på ljudet, inte modellkortet.

• Live-ljud, röstagenter, undertexter, samtalsdirigering — Grok Voice Transcribe 2.0, utan större diskussion. Strömning är inbyggd, latensen är under en halv sekund till en färdig transkription, och batch-endpointen använder samma modell för den nattliga efterfyllningen.

• Färdiga inspelningar med flera talare, på språk utanför engelska — Nemotron 3.5 Transcribe, förutsatt att du har GPU:n och att talarsökvägen för 13 språk täcker ditt ljud. Det är det här fallet modellen byggdes för, och där 40 språk och enkelpass-diarisering slår en noggrannhetsskillnad på 0,5 punkter.

• Tvåspråkiga arkiv — Nemotron 3.5 Transcribe, eftersom översättningsparen levereras i samma pass och Grok inte översätter.

• Liten volym, ingen GPU, endast engelska – Grok Voice Transcribe 2.0 i batchläge för $0,10 i timmen. Tusen timmar kostar hundra dollar; ingen grad av licensfrihet för öppna vikter uppväger att köpa ett Blackwell-kort för att spara in det.

Det frestande fjärde svaret – distribuera Nemotron nu och lägg till streaming senare – finns inte. Modellen som NVIDIA levererade är avsiktligt offline, och den streaminglinje den säljer vid sidan av är en 0,6B engelsk igenkännare, inte ett läge i den här. Välj formen du behöver först; topplisteargumentet kan vänta, eftersom en halv poäng AA-WER ligger väl inom intervallet som samma modell rör sig inom när den byter värd.