Nemotron 3.5 Transcribe vs. NVIDIA Parakeet TDT 0.6B: Der Platzhirsch mit 626.000 Downloads trifft auf seinen Nachfolger

Mehr als 626.000 Downloads auf Hugging Face entfallen auf NVIDIA Parakeet TDT 0.6B, den 600-Millionen-Parameter-Transducer, der seit August 2025 das Standardmodell für selbst gehostete englische Spracherkennung ist. Kaum eine dieser Installationen betreibt ihn allein: Die Standardbereitstellung besteht aus Parakeet für die Wörter, einem separaten Diarisierer für die Sprecher und einem Zusammenführungsschritt, der die beiden Ausgaben an Segmentgrenzen zusammenfügt. Nemotron 3.5 Transcribe, am 28. Oktober 2026 als offene Gewichte veröffentlicht, ist NVIDIAs Angebot, diese Zwischenschicht zu streichen — ein einziger Checkpoint, der in vierzig Sprachen transkribiert, bis zu acht Stimmen trennt und sie mit Zeitstempeln versieht, ohne Kaskade. Es ist außerdem pro GPU-Sekunde dreiundvierzigmal langsamer und auf der Festplatte etwa fünfundzwanzigmal größer, was die Ankündigung nicht an erster Stelle nennt.

Das Interessante an diesem Vergleich ist, dass beide Modelle zum selben Unternehmen gehören. Hier kommt kein Challenger von außen, um einen Platzhirsch zu verdrängen; hier verkauft NVIDIA Ihnen ein zweites, deutlich schwereres Produkt, das die Hälfte der Aufgabe übernimmt, für die sein erstes Produkt nie gebaut wurde.

Zwei Architekturen, zwei Theorien der Aufgabe

Parakeet TDT 0.6B v3 ist ein FastConformer-Encoder, der einen Token-and-Duration-Transducer-Decoder speist. Ein TDT-Modell sagt pro Schritt sowohl ein Token als auch eine Dauer voraus, wodurch es Frames überspringen und deutlich schneller als Echtzeit laufen kann; genau deshalb ist es schnell. Es deckt 25 europäische Sprachen mit automatischer Sprachidentifikation ab, bringt native Zeitstempel auf Wortebene mit und wird unter CC-BY-4.0 vertrieben – was in etwa so frei von Einschränkungen ist, wie eine Lizenz nur sein kann. Es besitzt keinerlei Sprecherrepräsentation – nicht einmal eine schwache, überhaupt keine.

Nemotron 3.5 Transcribe ist ein spracherweitertes Sprachmodell: ein Speech-Encoder, ein eingefrorenes Nemotron 3 Diarization-Modell, das Sprecheraktivitätsmerkmale über einen Parallel Expert Encoder einspeist, und ein hybrider Mamba-Transformer-Mixture-of-Experts-Decoder, bei dem pro Token etwa 4 Milliarden seiner rund 30 Milliarden Parameter aktiv sind. Es klassifiziert keine Frames. Es erzeugt Text, weshalb man ihm vorgeben kann, wie er ihn erzeugen soll.

• Parameter — insgesamt etwa 30B, pro Token rund 4B aktiv gegenüber 600M.

• Dekodierung – autoregressive Generierung vs. Token-and-Duration-Transducer, nicht-autoregressiv.

• Lizenz — OpenMDW-1.1 vs. CC-BY-4.0.

• Sprachen — 40 transkribiert, 31 ins Englische oder aus dem Englischen übersetzt vs. 25 europäische Sprachen mit automatischer Erkennung.

• Sprecher — bis zu 8, mit Sprecherzuordnung, in 13 Sprachen vs. keine.

• Zeitstempel — CTC-Alignment nach dem Decoding, mit Sprecherzuordnung vs. native Timing auf Wortebene.

• Durchsatz — RTFx 462 auf dem Open ASR Leaderboard im Vergleich zu RTFx 3.333.

• Audiolänge und Streaming — 1 Stunde pro Datei, nur aufgezeichnet vs. aufgezeichnet, wobei ein 0.6B-Streaming-Geschwistermodell Live-Audio separat verarbeitet.

Die Genauigkeitszahlen verschieben sich je nachdem, wer hostet.

Auf dem englischen Kurzform-Durchschnitt des Hugging Face Open ASR Leaderboards liegt Parakeet TDT 0.6B v3 bei 6,34 % und Nemotron 3.5 Transcribe bei 5,33 %. Das ist eine Lücke von einem Punkt auf derselben öffentlichen Rangliste, was ein respektvollerer Vergleich ist als die meisten in dieser Reihe – dieselbe Testumgebung, dieselben Testsets, die Einreichungen beider Anbieter selbst. Das ist jedoch noch nicht die ganze Geschichte, denn die beiden Einträge wurden zu unterschiedlichen Zeitpunkten bewertet, und der Mittelwert der Rangliste wird von sauberer vorgelesener Sprache dominiert.

Artificial Analysis erzählt eine ganz andere Geschichte, und es lohnt sich zu verstehen, warum. In dieser Rangliste steht der Parakeet-Eintrag bei 4,5 % und damit deutlich vor dem, was sein Open-ASR-Durchschnitt vermuten ließe, während Nemotron 3.5 Transcribe bei 3,4 % liegt. Die 4,5 % gehören zur Konfiguration eines gehosteten Endpunkts, nicht zum Checkpoint auf Ihrer eigenen Hardware, und die Batching- und Decoding-Entscheidungen des Betreibers verschieben die Zahl um fast einen Prozentpunkt. Der Vergleich eines gehosteten Parakeet-Werts mit einem selbst gehosteten ist der häufigste Fehler in der dieswöchigen Berichterstattung, und er gilt auch in die andere Richtung: NVIDIAs Startangabe von 2,8 % für Nemotron ist ein eingereichter Wert, und die aktuellen 3,4 % der Rangliste sind die Messung.

Das unabhängige, von Menschen geprüfte Bild ist noch enger. Im englischen Set von Perit landet Parakeet TDT 0.6B v3 bei 2,13 % WER, Rang 14 von 22, wobei 54 % der Clips perfekt transkribiert werden. GPT Transcribe und MAI Transcribe 2 liegen bei 1,76 % auf Rang sechs und sieben. Der 30B-Checkpoint von Nemotron 3.5 Transcribe steht überhaupt nicht auf dieser Liste; das Modell nemotron-3.5-asr-streaming-0.6b, das darauf steht, landet bei 3,35 %, Rang 21 – ein anderes Modell für eine andere Aufgabe, das häufig mit dem verwechselt wird, um das es in diesem Artikel geht.

Was die Ersetzung tatsächlich löscht

Die Kaskade, die Parakeet-Nutzer heute einsetzen, hat drei Komponenten und drei Fehlermodi. Die Erkennungskomponente erzeugt Text mit Wort-Zeitangaben. Die Diarisierungskomponente erzeugt Sprecher-Turns. Die Zusammenführung ordnet Turns Wörtern zu, und zwar mithilfe von Überlappungsheuristiken, die genau dort falsch sind, wo es darauf ankommt – wenn zwei Personen gleichzeitig sprechen. Die von NVIDIA selbst gemeldeten Zahlen für den Ersatz durch ein einzelnes Modell zielen direkt auf diesen Fehlermodus ab: 18,26 % Diarisierungsfehlerrate über 21 Sprachen im David-AI-Benchmark, Bestwert unter 14 Systemen; 32,4 % verkettete Min-Permutation-WER auf VoiceArena, Bestwert unter 14, wobei der Zweitplatzierte eine Kaskade aus Multitalker Parakeet plus Nemotron 3 Diarization mit 34,2 % war; und 8,32 % der Referenzwörter, die bei überlappender englischer Sprache ausgelassen wurden, gegenüber einem Median von rund 31 %.

Das sind Herstellerzahlen auf einem herstellereigenen Testaufbau, und sie wurden nicht unabhängig reproduziert. Aber beachten Sie, wer den zweiten Platz belegt: NVIDIAs eigene Kaskade, aufgebaut aus dem Modell im Titel dieses Vergleichs. Das Unternehmen veröffentlicht einen Benchmark, in dem sein neues Produkt sein altes Produkt plus einen Diarisierer schlägt. Das ist ungewöhnlich direkter Beleg, und es ist zugleich die Art von Beleg, die ein Hersteller am besten erzeugen kann und am wenigsten veröffentlichen würde, wenn es anders ausgegangen wäre.

Das Zweite, das die Ersatzlösung streicht, ist die Sprachunterstützung. Parakeet deckt 25 europäische Sprachen ab; Nemotron deckt 40 Sprachen für die Transkription und 31 für die Übersetzung nach oder aus dem Englischen ab, mit Sprecherzuordnung bei 13 Sprachen. Wenn sich Ihre Warteschlange auf die EU beschränkt, ist dieser Unterschied rein akademisch. Wenn sie Arabisch, Mandarin, Hindi oder Japanisch umfasst, war Parakeet nie eine Option, und der Vergleich läuft zwischen Nemotron und etwas völlig anderem.

Was es Sie kostet, es zu ersetzen

Durchsatz an erster Stelle. Parakeets 3.333 RTFx gegenüber Nemotrons 462 bedeuten auf demselben Leaderboard-Harness einen 7,2-fachen Unterschied – eine kleinere Lücke, als das Parameterverhältnis vermuten lässt, weil das MoE pro Token nur etwa 4 Milliarden seiner 30 Milliarden Gewichte aktiviert, aber dennoch eine echte. NVIDIAs lautere Behauptung, bis zu 2.238 Sekunden Audio pro Sekunde auf einer RTX PRO 6000 Blackwell, setzt den NVFP4-Checkpoint plus ein DFlash2-Draftmodell voraus und wurde bei hoher Parallelität an 30-Sekunden-Clips gemessen. Keine der beiden Zahlen ist falsch; sie messen unterschiedliche Konfigurationen, und ein Kapazitätsplan, der auf der größeren Zahl basiert, wird Sie bei einstündigen Meetings enttäuschen.

Speicherbedarf, zweitens. Parakeet TDT 0.6B passt in ein paar Gigabyte und läuft problemlos auf einer Mittelklasse-GPU, und seine quantisierten Builds laufen auf CPUs. Nemotron 3.5 Transcribe umfasst mehrere Dutzend Gigabyte in BF16 und benötigt vLLM mit dem NeMo-Speech-Plugin oder SGLang-Omni auf einem Rechenzentrumsbeschleuniger. Es gibt keine Variante, in der das 30B-Modell das 0.6B-Modell auf derselben Hardware verdrängt.

Reife, drittens. Parakeet hat ein Jahr an Deployments, tausend Forenantworten und eine funktionierende Toolchain in NeMo, Transformers und einer C++-Runtime. Nemotron 3.5 Transcribe hat einen Tag. Seine GGUF- und NeMo-Speech.cpp-Unterstützung wird als „demnächst verfügbar“ beschrieben; seine quantisierten lokalen Builds wurden noch nicht veröffentlicht. Wenn Ihre Pipeline langweilig sein muss, ist das ein Grund, ein Quartal zu warten, statt ein Grund, das Modell abzulehnen.

Wo der Amtsinhaber noch immer eindeutig gewinnt

Allein schon alles Interaktive. Die Transducer-Dekodierung von Parakeet liefert Wörter, sobald das Audio eintrifft, und seine nativen Zeitstempel sind eine Eigenschaft des Decoders und kein nachgelagerter Alignment-Schritt. Nemotron 3.5 Transcribe ist ausdrücklich für aufgezeichnetes Audio gebaut – so steht es in NVIDIAs eigenem Hugging-Face-Beitrag –, und für Live-Sitzungen gibt es ein separates 0.6B-Streaming-Modell. Wenn es bei Ihrem Produkt um Live-Untertitel geht, ist keines der Modelle aus dieser Überschrift die richtige Antwort; das Streaming-Pendant ist es, und dieser Vergleich sieht anders aus.

Alles On-Premise im kleinen Maßstab, für zwei. Eine Klinik mit einer Workstation-Karte, eine Anwaltskanzlei mit einem Archiv und einem Compliance-Beauftragten, eine Forschungsgruppe mit einem einzigen GPU-Stipendium: Parakeet mit 0,6B ist ein realistisches Deployment, Nemotron mit 30B nicht. Der Genauigkeitsunterschied von etwa einem Punkt bei sauberem Englisch rechtfertigt die Hardware nicht.

Alles nur auf Englisch ohne Sprecheranforderung, für drei. Was den Großteil der Transkriptionsarbeit ausmacht. Die ehrliche Zusammenfassung ist, dass die Mehrheit von Parakeets 626.000 Downloads für Aufgaben ist, die das Upgrade nicht verbessert.

Die Pipeline am Laufen halten, wenn die Hälfte davon eigene Hardware ist

Das Self-Hosting der Spracherkennung bringt einen Ausfallmodus mit sich, den verwaltete APIs nicht haben: Ihre Grafikkarte, Ihr Treiber, Ihr Wartungsfenster. Genau das ist das Argument dafür, die andere Hälfte der Pipeline — den Summarizer, den Klassifikator, den Extraktor, der ein Transkript in strukturierte Datensätze umwandelt — auf einem Endpunkt mit integrierter Redundanz zu halten. OrcaRouter betreibt 200+ Text- und multimodale Modelle hinter einem einzigen Schlüssel, mit automatischem Failover über Anbieter hinweg, wenn ein Upstream-Dienst beeinträchtigt ist, Anbieter-Listenpreisen, die ohne Aufschlag (0 %) durchgereicht werden, und einer Routing-DSL, mit der Sie Meetingprotokolle und Anrufnotizen ohne doppelte Integrationen an verschiedene Modelle leiten können. Nemotron 3.5 Transcribe und Parakeet TDT 0.6B sind beide nicht in diesem Katalog — wir bieten kein Speech-to-Text an — aber die Schicht, die ihre Ausgabe liest, muss nicht ausfallen, wenn eine GPU ausfällt.

Die Upgrade-Entscheidung

Ersetzen Sie Parakeet durch Nemotron 3.5 Transcribe, wenn die Kaskade Ihr Problem ist: wenn Sie einen Diarisierer und einen Zusammenführungsschritt pflegen, wenn Ihre Meetings mehr als zwei Stimmen haben, wenn Ihr Audio nicht europäisch ist oder wenn die Worte „overlapping speech“ in Ihren Support-Tickets auftauchen. In diesem Fall ist der 30B-Checkpoint kein Luxus, sondern die Beseitigung zweier beweglicher Teile und ihres Fehlerbudgets, und die Durchsatzkosten sind Durchsatzkosten – eine Karte verarbeitet immer noch weit mehr Audio, als ein Team mit vielen Meetings erzeugen kann.

Behalten Sie Parakeet, wenn Ihr Audio englisch oder europäisch ist, Ihre Sprecher bekannt oder irrelevant sind, Ihre Hardware ein Workstation-Rechner ist und Ihre Pipeline funktioniert. Das neue Modell macht das alte nicht obsolet; es deckt die Fälle ab, für die das alte nie ausgelegt war. Und behalten Sie die unabhängigen Boards im Auge, denn jede Zahl in diesem Artikel, die bei der Diarisierung für Nemotron 3.5 Transcribe spricht, stammt von NVIDIA selbst, und eine zweite Meinung wurde noch nicht veröffentlicht.