Nemotron 3.5 Transcribe vs. Grok Voice Transcribe 2.0: Offene Gewichte auf Ihrer GPU oder 0,20 US-Dollar pro Stunde

Grok Voice Transcribe 2.0 berechnet 0,20 US-Dollar für jede Stunde Audio, die du darüber streamst, und 0,10 US-Dollar für jede Stunde, die du im Batch verarbeitest. Nemotron 3.5 Transcribe berechnet nichts pro Stunde und verlangt von dir, eine GPU zu besitzen, die etwa 34 Milliarden Parameter fassen kann. Liest man nur diesen Satz, wirkt der Vergleich wie ein Preiskampf zwischen einem Zähler und einer Maschine, bei dem der Zähler offensichtlich verliert. Er verliert nicht: Auf der einzigen Benchmark-Übersicht, auf der beide Modelle erscheinen, ist das nach Stunden abgerechnete Modell genauer, und das offene Modell ist nicht nah genug dran, um das infrage zu stellen.

Die beiden wurden sechs Wochen auseinander veröffentlicht – Grok Voice Transcribe 2.0 am 2026-09-18, Nemotron 3.5 Transcribe am 2026-10-28 – und sie wurden für unterschiedliche Aufgaben gebaut. Das eine ist eine gehostete API mit einem WebSocket, die Wörter zurückgibt, während eine Person noch spricht. Das andere ist ein Checkpoint, den man herunterlädt, lädt und auf eine fertige Aufnahme richtet. Latenz, Anzahl der Sprachen, Sprecherkennzeichnung, Kostenstruktur und sogar die rechtlichen Bedingungen folgen alle aus diesem einen Unterschied, weshalb die interessante Frage nicht ist, welches besser transkribiert.

Was jedes einzelne ist, in sechs Zeilen

Der Formkontrast ist so stark, dass eine Spezifikationsliste wie ein Kategorienfehler wirkt – und genau das ist der Punkt.

• Bereitstellung — eine gehostete REST- und WebSocket-API auf xAIs eigener Infrastruktur gegenüber offenen Gewichten unter OpenMDW-1.1, die Sie selbst auf vLLM, SGLang-Omni oder NeMo Speech betreiben.

• Größe — xAI veröffentlicht keine Parameteranzahl, im Vergleich zu 34 Mrd. insgesamt mit rund 4,3 Mrd. aktiven, einschließlich des Audio-Encoders, auf einem Backbone aus Nemotron 3.5 Lightning 30B-A3B Mamba und Transformer-Mixture-of-Experts.

• Audio-Eingang — Dateien bis 500 MB in zwölf Containerformaten plus drei Rohkodierungen, mit 2–8 Kanälen über den Mehrkanalmodus, gegenüber Aufnahmen bis zu einer Stunde bei 16 kHz Mono-PCM innerhalb eines 65.536-Token-Kontexts.

• Echtzeit-Pfad – Streaming mit Zwischenergebnissen etwa alle 500 ms, Endpointing standardmäßig bei 400 ms, intelligente Turn-Erkennung und ein separater Batch-Endpunkt, gegenüber gar keinem Streaming; das Modell liest eine fertige Datei und gibt ein Transkript zurück.

• Sprachabdeckung — 37 Sprachen, die in xAIs Dokumentation genannt und dort als 38+ beschrieben werden, gegenüber 40 transkribierten Sprachen und 31 Übersetzungspaaren nach oder aus dem Englischen auf der NVIDIA-Karte.

• Sprecherbezeichnungen — ein Diarisierungs-Flag, das jedem Wort eine Ganzzahl für den Sprecher hinzufügt, verfügbar für Batch und Streaming, im Vergleich zu einem fusionierten Diarisierungsencoder, der in einem Durchgang Transkripte mit Sprecherzuordnung für bis zu 8 Sprecher in 13 Sprachen erzeugt.

Preis — $0.10 pro Audio-Stunde im Batch-Betrieb und $0.20 pro Audio-Stunde im Streaming, im Vergleich zu keinem veröffentlichten Stundensatz, da NVIDIA die Modellgewichte verkauft und Sie die Rechenleistung bereitstellen.

Das eine Board, an dem sie sich treffen – und es bricht nicht so, wie man es erwartet.

Artificial Analysis betreibt ein Speech-to-Text-Leaderboard mit zwei Spuren: einer Batch-Spur für fertige Dateien und einer Streaming-Spur für Modelle, die Teilresultate ausgeben. Nemotron 3.5 Transcribe qualifiziert sich nur für die erste. Dort liegt Grok Voice Transcribe 2.0 bei 2,3 % AA-WER, an fünfter Stelle von rund sechzig Modellen, während NVIDIAs Modell im Launch-Material mit 2,80 % angegeben wird und in den Tagen nach der Veröffentlichung 3,4 % in der Live-Tabelle aufweist. Nennen wir es 2,8 % oder 3,4 %; so oder so gewinnt das gehostete Modell die einzige Skala, die beide gemeinsam haben, um zwischen einem halben und einem ganzen Punkt.

Dieses Ergebnis ist weniger schädlich, als es zunächst aussieht, denn die beiden Modelle stehen aus unterschiedlichen Gründen auf dem Leaderboard. NVIDIAs Behauptung ist, dass Nemotron 3.5 Transcribe das beste Open-Weight-Sprachmodell ist, und auf diesem engeren Leaderboard ist es das: Der Vergleich, den es gewinnt, richtet sich gegen andere herunterladbare Checkpoints, wo 2,8 % die zu schlagende Zahl ist. Grok Voice Transcribe 2.0 ist proprietär und tritt in einer anderen Kategorie an. Zitiert man die beiden gegeneinander, entsteht eine Schlagzeile – „gehostetes Modell schlägt offenes Modell um 0,5 Punkte“ –, die eine Benchmark-Mischung misst, nicht eine Produktentscheidung.

Im Streaming-Bereich wird die Asymmetrie strukturell statt statistisch. Grok Voice Transcribe 2.0 hält die Spitzenposition im Streaming mit 2,7 % finaler WER, ausgegeben 0,49 Sekunden nach Ende der Sprache, und 3,4 % bei seinem ersten Teiltranskript bei derselben Latenz – als erstes von rund 32 Streaming-Modellen. Nemotron 3.5 Transcribe hat keinen Eintrag, weil es nicht streamen kann. Es ist ein File-in-/Transcript-out-Modell, und für es ist kein chunked-Streaming-Pfad dokumentiert. Wer die beiden hinsichtlich Genauigkeit vergleicht und dabei einen Live-Untertitelungs-Einsatz plant, vergleicht ein Modell, das er nicht nutzen kann.

Beide Boards tragen einen Warnhinweis, den man durchaus wiederholen sollte. AA-WER verschiebt sich für dasselbe Modell über verschiedene Serving-Endpunkte um fast einen vollen Punkt, sodass die obige 0,5-Punkte-Lücke ungefähr der Breite des Messrauschens entspricht – in der Richtung real, als Urteil schwach. Und xAIs eigener Wert von 6,8 % für mehrsprachige Kurzphrasen, gesunken von 20,6 % in Version 1.0, stammt aus einem internen Set, das aus Produktions-Traffic aufgebaut wurde, nicht aus einem veröffentlichten Korpus. Es ist eine Anbieterbehauptung über ein Anbieter-Set, und sie erscheint bei Artificial Analysis überhaupt nicht.

Streaming ist die Grenze, die das offene Modell nicht überschreiten kann

Für einen Call-Center-Agenten, einen Live-Untertitel, einen Meeting-Assistenten oder einen Voicebot ist die Entscheidung gefallen, bevor die Genauigkeit überhaupt berücksichtigt wird. Grok Voice Transcribe 2.0 nimmt rohe binäre Audioframes über einen WebSocket entgegen – pcm, mulaw, alaw oder opus –, liefert etwa zweimal pro Sekunde Zwischenergebnisse und stellt Turn-End-Signale durch Endpointing und Smart-Turn-Erkennung bereit. Das sind die Mechanismen, die ein Transkript live wirken lassen, und der Grund, warum Atlassians Loom seine Videobibliothek zum Launch auf das Modell umgestellt hat.

Nemotron 3.5 Transcribe hat bewusst die entgegengesetzte Ausrichtung. Es verarbeitet bis zu einer Stunde Audio in einem Durchgang und liefert ein vollständiges Transkript zurück, wobei die Wort-Zeitstempel von einem leichtgewichtigen CTC-Adapter nach der Generierung erzeugt werden statt währenddessen. Dieses Design erkauft sich Genauigkeit bei langen, unordentlichen Aufnahmen und kostet Latenz bei allem, was kurz und interaktiv ist. NVIDIA hat mit Nemotron Speech Streaming EN 0.6B einen separaten, deutlich kleineren Streaming-Spracherkenner im Programm – aber das ist ein anderes Modell mit anderer Abdeckung, kein Streaming-Modus dieses Checkpoints. Wer das 30B-Modell kauft und erwartet, später Streaming nachrüsten zu können, kauft zweimal das falsche Ding.

Vierzig Sprachen gegen siebenunddreißig – und eine Zahl, die sich verschob.

Auf dem Papier beträgt die Lücke drei Sprachen. In der Praxis kommt es darauf an, welche Seite man liest. Die Speech-to-Text-Dokumentation von xAI listet 37 namentlich genannte Sprachen auf – von Arabisch und Bosnisch bis Urdu und Vietnamesisch, mit regionalen Varianten für Spanisch, Portugiesisch und Arabisch – und gibt die Gesamtzahl mit 38+ an. Die rund um den September-Launch veröffentlichten Angaben zur Abdeckung nannten 25. Die Dokumentation ist die aktuellere Quelle und die genauere, aber eine Sprachzahl, die sich zwischen einem Launch-Beitrag und einer Docs-Seite um dreizehn ändert, ist eine Zahl, die man anhand des eigenen Audiomaterials überprüfen und nicht einfach übernehmen sollte.

NVIDIAs Karte ist granularer und, ausnahmsweise, konservativer: 40 Sprachen mit einer sprachspezifischen Häkchen-Tabelle, und 13 davon sind für Multisprecher-Transkription gekennzeichnet. Die für die Sprecherzuordnung relevanten sind eine engere Auswahl als die 40 – Arabisch, Mandarin, Englisch, Französisch, Deutsch, Hindi, Italienisch, Japanisch, Koreanisch, Portugiesisch, Russisch, Spanisch und Thai. Wenn Ihr Archiv auf Polnisch oder Türkisch ist, wird Nemotron 3.5 Transcribe es gut transkribieren und Ihnen nicht sagen, wer was gesagt hat – genau die Funktion, die Sie wahrscheinlich erwerben wollten.

Die Übersetzung ist hier eine reine Nemotron-Spalte. Das Modell übersetzt in 31 Sprachpaaren in und aus dem Englischen im selben Durchgang, in dem es transkribiert, was Grok Voice Transcribe 2.0 nicht bietet; die API von xAI gibt Text in der gesprochenen Sprache zurück. Wenn es um zweisprachige Besprechungsprotokolle geht, ist das eine Funktion, die sich durch kein Prompt-Engineering auf der Grok-Seite reproduzieren lässt.

Sprecherbezeichnungen: ein fusionierter Encoder gegen einen booleschen Wert

Dies ist die eine Dimension, in der die beiden näher beieinanderliegen, als das Marketing suggeriert, und in der die ehrliche Antwort lautet, dass beide es tun.

• Nemotron 3.5 Transcribe — ein eingefrorenes Nemotron-3-Diarisierungsmodell speist Sprecheraktivitäts-Repräsentationen in den ASR-Encoder ein, sodass das Sprachmodell im Rahmen seiner Eingabe sieht, wer spricht. Die Ausgabe enthält Sprecher-Tags und Rohsegmente, bis zu 8 Sprecher und Zeitstempel auf Wortebene. Es ist ein einziger Durchlauf ohne einen zweiten Dienst dazwischen.

• Grok Voice Transcribe 2.0 — mit diarize=true kommt jedes Wort mit einem ganzzahligen Sprecherfeld zurück, sowohl im Batch- als auch im Streaming-Betrieb. Der Multichannel-Modus geht noch weiter: Bis zu 8 Kanäle werden unabhängig voneinander transkribiert und mit einem Kanalindex zurückgegeben — das ist exakte Zuordnung, wenn Ihre Quelle eine Mehrkanalaufnahme und keine gemischte Aufnahme ist.

Der praktische Unterschied liegt im Umfang, nicht in der Existenz. Groks Flag funktioniert in allen Sprachen, die seine API unterstützt; NVIDIAs fusionierter Pfad ist auf 13 trainiert. Und Mehrkanaligkeit ist in den Räumen, in denen sie zum Tragen kommt, ein echter Vorteil – ein Sitzungsraum mit einem Mikrofon pro Platz braucht keinen Diarisierer, der raten muss. Eine gemischte Mono-Datei von einer Konferenzfläche schon, und dort ist die Qualitätslücke zwischen einem fusionierten Encoder und einem gehosteten Flag etwas, das nur Ihr eigenes Audio klären kann.

Die Rechnung bei tausend Stunden pro Monat

Beim Preis unterscheiden sich die beiden Modelle wirklich, und es lohnt sich, die Rechnung zu machen, statt Anekdoten über GPU-Kosten auszutauschen.

Bei 1.000 Audio-Stunden pro Monat kostet Grok Voice Transcribe 2.0 100 US-Dollar im Batch-Modus oder 200 US-Dollar im Streaming – 1.200 bzw. 2.400 US-Dollar pro Jahr, ohne Hardware, ohne Wartungsfenster und ohne Kaltstart. Nemotron 3.5 Transcribe kostet so viel, wie die GPU kostet. Die Forschungsseite von NVIDIA behauptet, dass der NVFP4-Checkpoint mit dem DFlash2-Draft-Modell auf einer einzelnen RTX PRO 6000 Blackwell 2.238 Sekunden Audio pro Sekunde transkribiert; selbst um eine Größenordnung nach unten korrigiert, bringt das 1.000 Stunden Audio in wenige GPU-Stunden pro Monat unter. Rechenleistung ist nicht die Einschränkung; der Besitz ist es.

• Break-even gegenüber dem Streaming-Tarif – eine Workstation-Karte für 8.000 US-Dollar amortisiert sich nach 40 Monaten bei 1.000 Streaming-Stunden, bzw. nach 80 Monaten gegenüber dem Batch-Tarif.

• Bei 10.000 Stunden pro Monat amortisiert sich dieselbe Karte im Vergleich zum Streaming in vier Monaten, und der Preis pro Stunde sinkt auf etwa 2 Cent.

• Gemietete Cloud-GPU — eine H100 für rund 2 US-Dollar pro Stunde unterbietet die Listenpreise beider Modelle, sobald die Durchsatzangabe des Anbieters auch nur zu einem Bruchteil der genannten Zahl zutrifft; die Fixkosten werden dann zu Engineering-Zeit, Speicher und der Tatsache, dass man nun einen Modellserver betreibt.

Der Break-even-Punkt hat also überhaupt nichts mit der Transkriptionsgenauigkeit zu tun. Er hängt vom Volumen ab und davon, ob das Audio Ihr Netzwerk verlassen darf. Unter einigen tausend Stunden pro Monat ist der Tarif für gehostete Dienste günstiger als der technische Aufwand. Darüber hinaus, oder hinter einer Compliance-Hürde, gewinnen die Gewichte und der Vergleich kippt.

Wo OrcaRouter passt – und wo nicht

Keiner dieser Transkriptoren steht heute im Katalog von OrcaRouter; die Modelle, die wir anbieten, sind Text- und Vision-Modelle, und nichts hier sollte als Endpunkt für einen der beiden gelesen werden. Was eine Transkriptions-Pipeline erzeugt, ist ein großer Haufen Text, der dann zusammengefasst, auf Entitäten geprüft, redigiert, klassifiziert und durchsucht werden muss. Diese Aufrufe sind der Punkt, an dem ein einziger OpenAI-kompatibler Schlüssel über 200+ Modelle sich bezahlt macht: der Listenpreis des Anbieters wird zu 0 % Aufschlag durchgereicht, sodass eine Preissenkung eines Anbieters am selben Tag ankommt, automatisches Failover, wenn ein Upstream degradiert, und eine Routing-DSL, die günstige Klassifizierungsarbeit an ein kleines Modell schicken kann, während die teure Zusammenfassung auf einem Frontier-Modell bleibt. Wenn Sie Nemotron 3.5 Transcribe selbst hosten, ist die GPU Ihr Transkriptor; das Routing ist das, was danach mit dem Transkript passiert.

Welches soll man wählen?

Die Entscheidung betrifft den Takt auf dem Audio, nicht die Modellkarte.

• Live-Audio, Voice-Agents, Untertitel, Anrufweiterleitung – Grok Voice Transcribe 2.0, ohne lange Debatte. Streaming ist nativ, die Latenz bis zum finalen Transkript liegt unter einer halben Sekunde, und der Batch-Endpunkt nutzt dasselbe Modell für das nächtliche Backfill.

• Fertige Aufnahmen mit mehreren Sprechenden in anderen Sprachen als Englisch – Nemotron 3.5 Transcribe, sofern Sie die GPU haben und der Sprecherpfad für 13 Sprachen Ihr Audio abdeckt. Genau dafür wurde das Modell entwickelt, und hier schlagen 40 Sprachen und Ein-Pass-Diarisierung eine Genauigkeitslücke von 0,5 Punkten.

• Zweisprachige Archive — Nemotron 3.5 Transcribe, weil die Übersetzungspaare im selben Durchgang mitgeliefert werden und Grok nicht übersetzt.

• Geringes Volumen, keine GPU, nur Englisch — Grok Voice Transcribe 2.0 im Batch-Modus für 0,10 $ pro Stunde. Tausend Stunden kosten hundert Dollar; keine noch so große Freiheit einer Open-Weight-Lizenz wiegt den Kauf einer Blackwell-Karte auf, um das einzusparen.

Die verlockende vierte Antwort – Nemotron jetzt einzusetzen und Streaming später hinzuzufügen – gibt es nicht. Das Modell, das NVIDIA ausgeliefert hat, ist bewusst offline, und die Streaming-Linie, die es daneben verkauft, ist ein 0,6B-Englisch-Erkenner, kein Modus dieses Modells. Wähle zuerst die Form, die du brauchst; das Leaderboard-Argument kann warten, denn ein halber Punkt AA-WER liegt gut innerhalb der Bandbreite, um die sich dasselbe Modell bewegt, wenn es den Host wechselt.