VibeVoice-ASR-Streaming-7B vs Gemini 3.5 Transcribe Live: Eine Woche, zwei Arten von Streaming-Sprache-zu-Text

Die letzte Augustwoche und die ersten Septembertage 2026 brachten zwei Streaming-Spracherkennungssysteme hervor, die wie Rivalen wirken und in Wirklichkeit unterschiedliche Antworten auf dieselbe Frage sind. Am 26. August stellte Google Gemini 3.5 Transcribe Live als öffentliche Vorschau bereit: einen gehosteten, geschlossenen Speech-to-Text-Endpunkt, der 0,40 Sekunden nachdem ein Sprecher aufgehört hat zu sprechen, ein fertiges Transkript liefert, gestützt auf eine von Artificial Analysis gemessene Streaming-Wortfehlerrate von 4,0 % und vollständiges Launch-Material. Am 2. September lud Microsoft Research VibeVoice-ASR-Streaming-7B unter dem Namensraum microsoft auf Hugging Face hoch: unter MIT-Lizenz veröffentlichte offene Gewichte, keine Pressemitteilung, keine Launch-Seite und eine Modellkarte, die in lesbarem Text überhaupt keine Wortfehlerrate und keine Latenzzahl ausweist. Beide akzeptieren Audio, solange es noch eintrifft. Das ist nahezu das Einzige, was sie gemeinsam haben.

Die Beweislage auf beiden Seiten ist nicht symmetrisch, daher ist dieser Vergleich als das geschrieben, was wir bisher wissen. Gemini 3.5 Transcribe Live ist ein Google-Produkt mit veröffentlichten Token-Preisen und Messungen von Drittanbietern, und diese sind unten gekennzeichnet. VibeVoice-ASR-Streaming-7B ist ein Checkpoint, bei dem jede Behauptung direkt aus dem Repository selbst abgelesen wird: aus den Konfigurationsdateien, der Modellkarte und der Streaming-Dokumentation von Microsoft im VibeVoice-GitHub-Repository. Nichts auf der Microsoft-Seite wurde bisher unabhängig benchmarkt, und wir weisen an jeder Stelle darauf hin, an der eine Zahl sonst den Anschein erwecken würde, etwas zu leisten.

Der Release-Pfad: ein API-Start und ein stiller Upload.

Google hat Gemini 3.5 Transcribe Live auf die übliche Weise veröffentlicht. Das Modell steht zusammen mit seinem Schwestermodell Gemini 3.5 Transcribe (dem Pfad der Interactions-API für vorab aufgezeichnete Audiodaten) unter dem Gemini-Audio-Banner. Die Preise stehen auf der Modellseite, und unabhängige Ranglisten haben den Live-Endpunkt innerhalb weniger Tage aufgenommen – daher stammen die 4,0 % Streaming-WER und die Endlatenz von 0,40 Sekunden. Es gibt eine kostenlose Stufe, mit dem üblichen Vorbehalt, dass Inhalte aus der kostenlosen Stufe zur Verbesserung von Google-Produkten verwendet werden können.

Microsofts Streaming-Veröffentlichung hatte keinerlei solche Mechanismen. Das Hugging-Face-Repository microsoft/VibeVoice-ASR-Streaming-7B wurde am 2. September 2026 um 15:46 UTC erstellt und drei Minuten später zuletzt geändert; es enthält acht Safetensors-Shards, einen Tokenizer und eine Preprocessor-Konfiguration unter einer MIT-Lizenz. Der formelle Beleg ist eine Nachrichtenprotokollzeile vom 3. September im Repository microsoft/VibeVoice, die „ein einheitliches Streaming-ASR-Modell ankündigt, das kontinuierlich transkribiert, wer was gesagt hat, sobald Sprache eintrifft, mit Unterstützung für benutzerdefinierte Hotwords und 10 Sprachen“, mit Links zu einer Demo unter aka.ms/vibeasr und einem technischen Bericht zum Streaming. Als wir einen Tag nach dem Hochladen nachsahen, hatte der Checkpoint immer noch null Downloads, und kein gehosteter Inferenzanbieter listet ihn. Die Modellkarte sagt mehr aus als die Ankündigung, und das Repository ist die Quelle fast aller folgenden Informationen.

Die Spezifikationen im Vergleich

• Was es ist — VibeVoice-ASR-Streaming-7B: Open-Weight-Streaming-ASR, selbst gehostet vs. Gemini 3.5 Transcribe Live: gehostete Streaming-API, geschlossene Gewichte.

• Streaming-Form — liefert Text in Blöcken von etwa 2,9 Sekunden mit rund 0,5 Sekunden Vorausschau (abgeleitet aus der Checkpoint-Konfiguration), im Vergleich zu einer bidirektionalen WebSocket-Sitzung mit kontinuierlichen Teiltranskripten und einem Endergebnis, das 0,40 Sekunden nach Ende der Sprecheräußerung vorliegt.

Genauigkeit im Druck — kein WER- oder Latenzwert als Text veröffentlicht, gegenüber 4,0 % Streaming-WER und 2,6 % beim vorab aufgezeichneten Modell, laut Artificial Analysis.

• Sprecher — beansprucht Streaming-Zuordnung, wer was gesagt hat, unverifiziert vs. keine Sprecher-Diarisierung am Live-Endpunkt (verfügbar im Modell für vorab aufgezeichnete Inhalte, bis zu drei Sprecher).

Sprachen — 10 (en, zh, es, pt, de, ja, ko, fr, ru, it) vs. automatische Erkennung bei über 85 mit Umschaltung mitten im Stream.

• Sitzungslänge — nur durch Ihre GPU und Ihren Speicher begrenzt, im Gegensatz zu einer festen 10-Minuten-Obergrenze pro Live-Sitzung.

Kosten — 0 $ für die Gewichte, etwa 18 GB bf16 für das Selbsthosten, gegenüber etwa 0,54 $ pro Audio-Stunde bei Live, sobald die Textausgabe-Tokens mitgezählt werden.

Was „Streaming“ auf jeder Seite bedeutet

Das Wort verbirgt einen echten Designunterschied, und es lohnt sich, präzise zu sein, weil die beiden Systeme nicht einmal versuchen, denselben Rhythmus zu erzeugen. Microsofts Preprocessor-Konfiguration macht den VibeVoice-Rhythmus konkret: Das Audio kommt mit 24 kHz an und wird 3.200-fach in einen Tokenstrom komprimiert – bei etwa 7,5 Frames pro Sekunde. Dann legt die Konfiguration einen Chunk aus 22 Frames und einen Lookahead von 4 Frames fest – also etwa 2,9 Sekunden Audio pro Chunk, mit ungefähr einer halben Sekunde an zukünftigem Audio zur Absicherung. Das Modell gibt Text einmal pro aufgelösten Chunk aus, und der Kontext früherer Chunks bleibt über den KV-Cache erhalten, sodass eine lange Sitzung nicht von Grund auf neu berechnet werden muss. Das praktische Transkript wächst in Schritten von ungefähr drei Sekunden.

Googles Live-Endpunkt ist für eine schnellere, interaktivere Schleife ausgelegt: Audio wird in 16- oder 24-kHz-PCM-Blöcken über einen WebSocket gestreamt, während der Sprecher spricht, kommen kontinuierlich Teiltranskripte zurück, und ein endgültiges formatiertes Transkript trifft 0,40 Sekunden nach dem Ende der Sprache ein – diese Zahl stammt aus den Messungen von Artificial Analysis und wird von Google zitiert. Die Nachteile sind die Sitzungsbegrenzung (zehn Minuten Audio, danach muss sich Ihre Anwendung neu verbinden und die Teile zusammenfügen) und die fehlenden Zusatzfunktionen: keine Sprecherdiarisierung und keine Wortzeitmarken auf dem Live-Pfad, beides ist beim vorab aufgezeichneten Gemini 3.5 Transcribe vorhanden. Die ehrliche Zusammenfassung lautet also: Googles Streaming-Modell ist pro Äußerung schneller, während Microsofts Streaming-Checkpoint pro Block langsamer ist, aber die Sprecherzuordnung enthält, die Googles Live-Pfad weglässt, bei einer Sitzungslänge, die Google nicht anbietet.

Genauigkeit: gemessen, im Vergleich zu einem leeren Bereich.

Die größte Lücke in diesem Vergleich ist eine Lücke in der Evidenz, nicht unbedingt in der Qualität. Artificial Analysis ermittelte für Gemini 3.5 Transcribe Live eine durchschnittliche Wortfehlerrate von 4,0 % im Streaming-Modus und 2,6 % beim Nicht-Streaming-Modell, das bei seiner Markteinführung Platz fünf auf der WER-Bestenliste von Artificial Analysis belegte. Für den mehrsprachigen FLEURS-Datensatz gibt Google separat 5,50 % für Streaming und 5,04 % für Nicht-Streaming an. Man sollte diese Zahlen so lesen, wie sie gekennzeichnet sind: Artificial Analysis ist zwar unabhängig von Google, aber die Zahlen einer erst einen Tag alten API sind noch vorläufig, und der Streaming-Aufschlag gegenüber dem Batch-Modell – 4,0 % gegenüber 2,6 % – ist der übliche Preis für die Echtzeit-Bereitstellung.

VibeVoice-ASR-Streaming-7B hat nirgendwo eine vergleichbare Kennzahl. Die Modellkarte enthält eine Evaluationsgrafik als Bild, und der technische Bericht von Microsoft ist ein PDF, aber keiner der beiden bietet eine reine Textangabe für Streaming-WER oder Latenz, die zitiert oder unabhängig geprüft werden könnte. Der einzige numerische Anker in der gesamten Familie ist die Modellkarte des Batch-Modells VibeVoice-ASR, die einen vom Anbieter durchgeführten durchschnittlichen WER von 7,77 % über acht englische Testdatensätze und 2,20 % auf LibriSpeech clean angibt – Werte für das Nicht-Streaming-Modell, nicht für dieses hier, und Streaming-Modelle tauschen typischerweise ein wenig Genauigkeit gegen den Latenzvorteil ein. Bis jemand den Streaming-Checkpoint durch eine öffentliche Testumgebung laufen lässt, ist die faire Aussage, dass eine Seite dieses Vergleichs gemessen wurde und die andere nicht.

Kosten: eine nach Verbrauch abgerechnete API gegenüber einer GPU, die du bereits eingeplant hast

Google bepreist Gemini 3.5 Transcribe Live tokenbasiert und rechnet Audio mit 25 Token pro Sekunde ab. Bei den veröffentlichten Live-Preisen – 3,50 $ pro 1 Million Audio-Token und 21 $ pro 1 Million Textausgabe-Token – kostet eine gemischte Audio-Stunde rund 0,54 $, also etwa 9 $ pro 1.000 Audio-Minuten; das Modell für vorab aufgezeichnete Audiodaten ist mit rund 0,30 $ pro Stunde sogar noch günstiger. Stille ist nur dann kostenlos, wenn Ihr Client sie nicht streamt: Neuverbindungen, dupliziertes Audio und Protokollierung erhöhen die abgerechneten Token auf der tatsächlichen Rechnung ebenfalls.

Microsofts Checkpoint wird stattdessen in GPU-Stunden abgerechnet. Allein die bf16-Gewichte umfassen etwa 18 GB, noch bevor ein KV-Cache hinzukommt; die dokumentierten Pfade sind die Python-Demos im Repository microsoft/VibeVoice und ein vLLM-Plugin, das WebSocket- und OpenAI-kompatible Endpunkte bereitstellt, und es gibt keinen gehosteten Preis, da noch kein Anbieter das Modell hostet – es ist nicht so auf Azure AI Foundry verfügbar, wie das Batch-VibeVoice-ASR es seit März ist. Selbsthosting eines Speech-LLM der 7B-Klasse bedeutet, eine GPU der 24-GB-Klasse und eigene Betriebszeit einzuplanen; im Gegenzug erhält man unbegrenzte Sitzungslängen und Gewichte, die einem gehören. Die beiden Modelle schließen sich nicht gegenseitig aus, was der Punkt des letzten Abschnitts ist.

Die Wahl günstig halten

Welche Sie wählen, hängt davon ab, ob Sie eine Nummer oder einen Code benötigen. Entscheiden Sie sich für Gemini 3.5 Transcribe Live, wenn Sie eine Transkription wünschen, die heute funktioniert, mit veröffentlichter Genauigkeit und ohne eine GPU betreiben zu müssen — und wenn Ihr Audio nicht auf zehn Sprachen beschränkt ist oder Sie bereit sind, die Sprecherkennzeichnung selbst aufzubauen, weil der Live-Endpunkt sie nicht bietet. Wählen Sie VibeVoice-ASR-Streaming-7B, wenn Sie selbst hosten, wenn unbegrenzte Sitzungslänge oder die behauptete sprecherattribuierte Streaming-Ausgabe wichtig ist, und wenn Sie bereit sind, Ihr eigenes Evaluierungs-Gate zu betreiben, weil es keine Benchmark gibt, auf die Sie sich stützen können.

Keine der beiden Entscheidungen muss endgültig sein, und genau hier verdient eine Routing-Ebene ihren Platz – für die Modelle rund um das Transkript, nicht für die Transkription selbst. OrcaRouter routet heute keine Sprach-zu-Text-Verarbeitung, und keines der Modelle auf dieser Seite befindet sich in seinem Katalog; was es tut, ist eine einzige API für die 200+ Sprachmodelle bereitzustellen, die ein Live-Transkript verarbeiten – den Zusammenfasser, den Aktionspunkte-Extraktor, den Planer des Sprachagenten – zu Listenpreisen der Anbieter, ohne Aufschlag durchgereicht, mit automatischem Failover über Anbieter hinweg. Eine Preissenkung eines Anbieters für ein beliebiges Modell in diesem Stack ist am selben Tag wirksam, da Listenpreise durchgereicht und nicht aufgeschlagen werden. Der Transkriptionsschritt bleibt dort, wo Sie ihn platziert haben; der Stack, der auf das Transkript einwirkt, ist genau die Ebene, auf der ein einzelner Schlüssel und eine Fallback-Route einen eine Woche alten, nicht benchmarkten Checkpoint von einer Wette in eine testbare Option verwandeln.