GPT-Live-1 vs. NVIDIA Nemotron VoiceChat 11B: Eine Minutenabrechnung oder eine 80-GB-GPU

Die Wahl zwischen GPT-Live-1 und NVIDIA Nemotron VoiceChat 11B ist keine Wahl zwischen zwei Sprachmodellen. Sie ist eine Wahl zwischen zwei Geschäftsmodellen, die Sprachmodelle als Kostüm tragen. GPT-Live-1 ist eine gehostete API, die OpenAI am 10. September 2026 für Entwickler zugänglich gemacht hat, abgerechnet mit 0,05 US-Dollar pro Minute Audio, ohne dass Hardware von Ihnen beteiligt ist. NVIDIA Nemotron VoiceChat 11B — veröffentlicht als NVIDIA-NemotronLabs-VoiceChat-11B, mit einem auf den 21. Juli 2026 datierten NGC-Container und einem Hugging-Face-Checkpoint daneben — ist ein Open-Weights-Voll-Duplex-Sprachmodell mit 11 Milliarden Parametern, das nicht auf weniger als einer 80-GB-GPU läuft. Eines davon kostet Sie Geld pro Gesprächsminute; das andere kostet Sie Geld, ganz gleich, ob jemand anruft oder nicht.

Der Break-even ist einfacher, als die Verkaufspräsentationen der Anbieter nahelegen.

Beginnen wir mit der einen Zahl, auf die sich beide Seiten einigen. GPT-Live-1 kostet bei 0,05 $ pro Minute 3,00 $ für eine Stunde mit durchgehend offener Leitung. Das ist der Preis für eine immer aktive Sprachkonversation.

Nun wollen wir die Alternative durchrechnen. Nemotron VoiceChat 11B benötigt eine GPU mit mindestens 80 GB VRAM – eine A100, H100, H200, B100, B200 oder eine Karte der RTX-6000-Klasse, unter Linux. Eine davon auf dem freien Markt zu mieten, kostet im niedrigen einstelligen Dollarbereich pro Stunde, und der Besitz einer solchen amortisiert sich auf einen ähnlichen Betrag, sobald man die Auslastung berücksichtigt. Eine einzige ständig aktive Sprachleitung ist also ungefähr ein Nullsummenspiel: Die gemietete GPU kostet etwa so viel wie die API – und zwar bevor man dafür bezahlt hat, dass überhaupt etwas darauf läuft.

Das ist der falsche Vergleich, und es ist genau der, bei dem die meisten Build-vs.-Buy-Artikel stehen bleiben. Der richtige Vergleich erfolgt pro GPU, nicht pro Zeile, und er hängt von einer Zahl ab, die NVIDIA nicht veröffentlicht hat.

• GPT-Live-1 auf einem Tier-1-Konto — 25 gleichzeitige Sitzungen, was 1,25 $ pro Minute oder 75 $ pro Stunde entspricht, wenn alle 25 Leitungen aktiv sind

• Nemotron VoiceChat 11B auf einer 80-GB-GPU — so viele gleichzeitige Sitzungen, wie ein hybrides Mamba/Transformer-Modell mit 11B in 80 GB unterbringt, zu ungefähr den Mietkosten der Karte

Ein 11B-Modell auf einem 80-GB-Beschleuniger bedeutet viel Spielraum, und 80 GB sind eine Anforderung, die in der Praxis eine Menge Batching-Kapazität erkauft. Wenn eine Karte auch nur sechs gleichzeitige Konversationen stemmt, ist Self-Hosting unter Volllast deutlich günstiger als die API. Wenn sie eineinhalb stemmt, dann nicht. Solange niemand die Gleichzeitigkeit mit echtem Verkehr benchmarkt, ist die ehrliche Einschätzung, dass die Gewinnschwelle bei Volumen wahrscheinlich zugunsten von Self-Hosting ausfällt und dass keiner der Anbieter Ihnen die Zahl geliefert hat, um das zu belegen.

Wo das offene Modell wirklich besser ist, nicht nur billiger

Der Latenzvergleich verdient mehr Sorgfalt als der Preisvergleich, weil auf dieser Achse das offene Modell die bessere Evidenz hat.

• Latenz beim Sprecherwechsel — Nemotron VoiceChat 11B gibt 448 ms für flüssigen Sprecherwechsel auf Full-Duplex-Bench 1.0 an, mit einer Interrupt-and-Yield-Latenz von 480 ms und einer Übernahmerate von 1,00 bei Nutzerunterbrechungen. Der Wert von GPT-Live-1 liegt bei 0,8 Sekunden, ein Rückgang von 1,4, wie OpenAI berichtet.

Liest man diese beiden Zahlen nebeneinander zusammen mit der angegebenen Quellenangabe, kehrt sich das Bild um. NVIDIAs Zahlen stammen aus einer veröffentlichten, öffentlich spezifizierten Benchmark-Suite. Die von OpenAI stammen von OpenAI selbst, das sein neues Modell mit seiner eigenen vorherigen Generation vergleicht, und wurden nicht unabhängig reproduziert. Nach den verfügbaren Belegen ist das Open-Weight-Modell messbar schneller bei dem, was einen Voice-Agent menschlich wirken lässt, und das gehostete Modell ist nur laut seinen eigenen Pressematerialien schneller.

NVIDIA beansprucht außerdem eine Premiere: Nemotron VoiceChat 11B wird als das erste offene Vollduplex-Modell beschrieben, das Echtzeit-Tool-Aufrufe während eines Gesprächs unterstützt, indem es einen separaten Ausgabekanal und vordefinierte Wartephrasen nutzt, damit der Agent weiterreden kann, während er auf eine externe API wartet. Zur Modellkarte gehören drei Audiobeispiele, die Sie einladen, genau darauf zu achten – natürlicher Sprecherwechsel, beschrieben mit etwa 450 ms Antwortzeit, Barge-in, bei dem das Modell sofort nachgibt, und Tools, die live mitten im Gespräch aufgerufen werden. Diese Beispiele stammen vom Anbieter und stützen den 448-ms-Wert, statt ihn unabhängig zu prüfen, doch sie sind zumindest hörbare Belege, die an einen herunterladbaren Checkpoint geknüpft sind, statt bloß eine Zahl in einem Launch-Post. Das ist dasselbe architektonische Problem, das GPT-Live-1 mit Delegation löst – hier anders beantwortet: Das offene Modell hält selbst die Verbindung; das gehostete Modell übergibt die Aufgabe an ein separates Reasoning-Modell und lässt die Sprachschicht das Gespräch am Leben halten.

Die Ähnlichkeiten sind ebenso lehrreich wie die Unterschiede. Beide arbeiten im Vollduplex-Verfahren, das heißt, beide hören zu, während sie sprechen, anstatt sich abzuwechseln. Beide unterstützen Unterbrechungen und Barge-in. Beide wurden mit Sprache in einem Umfang trainiert, der die älteren kaskadierten ASR-dann-LLM-dann-TTS-Pipelines wie drei separate, zusammengeschraubte Produkte aussehen lässt — NVIDIAs Checkpoint umfasste rund 550.000 Stunden Sprache.

Was du aufgibst, und es ist nicht nur Geld

Das Erste, was man beim offenen Modell aufgibt, ist die Stimme. Der veröffentlichte Checkpoint verwendet eine einzige feste Stimme namens Aria und unterstützt weder Voice-Cloning noch eine Stimmbibliothek. GPT-Live-1 bringt zwölf Stimmen mit, die unterschiedliche Akzente, Dialekte und Sprachen abdecken, und Ope​nAI hat sie speziell für dieses Modell neu gemastert. Wenn die Stimme Ihres Produkts Teil seiner Identität ist oder wenn Sie mit einem einzigen Deployment mehrere Märkte mit unterschiedlich klingenden Agenten bedienen müssen, ist dies für sich genommen nahezu ein Ausschlusskriterium – und es ist die Einschränkung, die in einem Spezifikationsvergleich am wenigsten sichtbar ist, weil sie wie eine Funktionsanzahl und nicht wie eine Produktentscheidung wirkt.

Das Zweite, worauf du verzichtest, ist die Obergrenze beim Kontext. Das Modell hat ein trainingszeitliches Äußerungslimit von etwa 142 Sekunden und eine praktische Einschränkung dahingehend, dass es nicht mehr als ungefähr zwei Minuten Audiokontext vorhalten kann. Ein Telefonat, das zwanzig Minuten dauert, ist für diesen Checkpoint kein durchgehender Kontext; es ist eine Abfolge von Segmenten, die das umgebende System verwalten muss. Gehostete Modelle übernehmen diesen Verwaltungsaufwand in der Regel für dich.

Der dritte Punkt ist, was Sie damit tun dürfen. Die Modellkarte von Hugging Face trägt die Lizenz openmdw-1.1, während einige Medienberichte über das Release es als nur für Forschungszwecke beschrieben und die NGC-Container-Seite die Komponenten als bereit für kommerzielle oder nichtkommerzielle Nutzung darstellt. Drei Quellen, drei unterschiedliche Lesarten, und nur der Lizenztext ist maßgeblich. Diese Diskrepanz ist genau die Art von Problem, die bei einer rechtlichen Prüfung drei Wochen vor der Markteinführung auftaucht. Klären Sie sie, bevor Sie entwickeln, nicht danach.

Der vierte Punkt ist der Betrieb. Eine 80-GB-GPU ist kein Kostenposten, den man an einem ruhigen Sonntag einfach abschalten kann: Selbst bei null Traffic zahlen Sie für die Karte, und Sie verantworten die Skalierungskurve, die Treiber-Upgrades, die Kapazitätsplanung und die Rufbereitschaft für einen Echtzeit-Audiopfad, bei dem eine abgebrochene Verbindung ein verlorener Kunde ist. Es gibt auch kein gehostetes Fallback, auf das man sich stützen könnte, während man das aufbaut – die Zeile „Inference Provider“ auf der Hugging-Face-Karte sagt klar, dass das Modell von keinem Inference-Provider bereitgestellt wird, es gibt also keine pay-per-minute-Version dieses Checkpoints, gegen die man prototypen könnte. Entweder Sie hosten es selbst, oder Sie nutzen es nicht. Diese Arbeit ist im Minutenvergleich unsichtbar und im Einstellungsplan sehr sichtbar.

Das Hybrid, das die meisten Teams tatsächlich in Betracht ziehen sollten

Die Betrachtungsweise, die diese Entscheidung handhabbar macht, ist, dass die beiden Modelle nicht binär sein müssen. Ein Voice-Agent hat typischerweise eine Voice-Schicht und eine Reasoning-Schicht, und die Reasoning-Schicht ist der Bereich, in dem die Flexibilität liegt.

GPT-Live-1 ist von Grund auf so konzipiert. Seine Sprachschicht hält die Konversation am Laufen, während das Denken über die Responses API an ein gewöhnliches Textmodell delegiert wird — Ope​nAIs eigenes veröffentlichtes WebRTC-Beispiel verdrahtet dieses Backend mit GPT-5.6 Terra. Diese Hälfte deines Stacks ist ein normaler API-Aufruf, pro Token abgerechnet, mit echter Anbieterwahl. GPT-5.6 Terra wird über OrcaRouter zu 2,00 $ pro Million Input-Tokens und 12,00 $ pro Million Output bereitgestellt, mit einem Kontext von 1 Mio. Tokens und sowohl /v1/chat/completions als auch /v1/responses verfügbar, Seite an Seite mit rund 190 weiteren Modellen, die über einen einzigen Schlüssel erreichbar sind.

Das ist für ein Self-Hosting-Projekt speziell deshalb wichtig, weil es das Risikoprofil verändert. Wenn du Nemotron VoiceChat 11B aufsetzt und es deinem Traffic nicht standhält, sind die GPU-Kosten für die Sprachhälfte versunken — aber die Reasoning-Hälfte kann verschoben, per Failover übernommen oder zwischen einem günstigen Modell für Routine-Turns und einem starken für Eskalationen aufgeteilt werden, ohne den Audio-Pfad überhaupt anzufassen. Automatisches Failover über Upstream-Anbieter hinweg ist der Unterschied zwischen einem schlechten Nachmittag und einem schlechten Quartal, wenn eine Single-Source-Abhängigkeit ausfällt.

Halte klar fest, was wo verfügbar ist und was nicht: Weder GPT-Live-1 noch Nemotron VoiceChat 11B wird von OrcaRouter bereitgestellt. Beide stammen aus ihrer jeweils eigenen Quelle – im einen Fall der Live-Sessions-Endpunkt von OpenAI, im anderen Ihre eigene GPU. Die Routing-Hebelwirkung ist dem Audio vollständig nachgelagert.

Auf welches aufbauen?

• Wählen Sie GPT-Live-1, wenn Sie in diesem Quartal ausliefern möchten, wenn Sie mehr als eine Stimme benötigen, wenn Ihre Gespräche regelmäßig länger als zwei Minuten mit durchgehendem Kontext dauern oder wenn das Volumen noch nicht hoch genug ist, um eine GPU zu rechtfertigen, die auch im Leerlauf abgerechnet wird.

• Wählen Sie NVIDIA Nemotron VoiceChat 11B, wenn Sie bereits 80-GB-GPUs betreiben, wenn Sie Sprecherwechsel in unter 500 ms auf Basis von Belegen statt von Behauptungen benötigen, wenn das Audio aus Gründen der Datenresidenz in Ihrer eigenen Infrastruktur bleiben muss oder wenn Sie ein Anrufvolumen haben, bei dem die minutengenaue Abrechnung der API der größte Posten auf der Rechnung ist.

• Prototyp auf der API erstellen und den Checkpoint benchmarken. Die Entscheidung hängt von einer unveröffentlichten Zahl ab – gleichzeitige Sitzungen pro 80-GB-Karte –, und der einzige Weg, sie zu erhalten, besteht darin, sie an Ihrem eigenen Traffic-Muster zu messen. Das ist eine Woche Arbeit, und es ist der Unterschied zwischen einer belastbaren Infrastrukturentscheidung und einer als solche getarnten Vermutung.