GPT-Live-1 vs NVIDIA Nemotron VoiceChat 11B: En räkning per minut eller ett 80 GB-grafikkort

Valet mellan GPT-Live-1 och NVIDIA Nemotron VoiceChat 11B är inte ett val mellan två röstmodeller. Det är ett val mellan två affärsmodeller utklädda till röstmodeller. GPT-Live-1 är ett hostat API som Ope​nAI öppnade för utvecklaråtkomst den 10 september 2026, fakturerat med $0,05 per ljudminut utan inblandning av någon hårdvara från din sida. NVIDIA Nemotron VoiceChat 11B – publicerad som NVIDIA-NemotronLabs-VoiceChat-11B, med en NGC-container daterad den 21 juli 2026 och en Hugging Face-checkpoint bredvid – är en full-duplex talspråksmodell med öppna vikter och 11 miljarder parametrar som inte går att köra på något mindre än en GPU med 80 GB. En av dessa kostar dig pengar per samtalsminut; den andra kostar dig pengar oavsett om någon ringer eller inte.

Break-even är enklare än vad leverantörernas presentationer antyder.

Börja med det enda talet som båda sidor är överens om. GPT-Live-1 till $0.05 i minuten är $3.00 för en timme av oavbruten öppen linje. Det är priset för ett alltid påslaget röstsamtal.

Nu ska vi prissätta alternativet. Nemotron VoiceChat 11B kräver en GPU med minst 80 GB VRAM – ett A100-, H100-, H200-, B100-, B200- eller RTX 6000-klassat kort, på Linux. Att hyra ett sådant på den öppna marknaden ligger på några enstaka dollar i timmen, och att äga ett skrivs av till en liknande summa när man räknar in utnyttjandegraden. Så en enda ständigt påslagen röstlinje går ungefär jämnt upp: den hyrda GPU:n kostar ungefär vad API:et kostar, innan man har betalat för något som ska köras på den.

Det är fel jämförelse, och det är den som de flesta build-vs-buy-texter stannar vid. Den rätta jämförelsen är per GPU, inte per rad, och den hänger på en siffra som NVIDIA inte har publicerat.

• GPT-Live-1 på ett Tier 1-konto — 25 samtidiga sessioner, vilket är 1,25 USD per minut, eller 75 USD i timmen, när alla 25 linjer är aktiva

• Nemotron VoiceChat 11B på en 80 GB GPU — oavsett hur många samtidiga sessioner en 11B hybrid Mamba/Transformer-modell får plats med i 80 GB, till ungefär hyrkostnaden för kortet

En 11B-modell på en 80 GB-accelerator är en hel del marginal, och 80 GB är ett krav som i praktiken köper en avsevärd batchkapacitet. Om ett kort klarar till och med sex samtidiga konversationer är egen hosting dramatiskt billigare än API:et vid full belastning. Om det klarar en och en halv är det inte det. Tills någon benchmarkar samtidighet på verklig trafik är den ärliga hållningen att break-even sannolikt talar för egen hosting vid volym och att ingen av leverantörerna har gett dig siffran som bevisar det.

Där den öppna modellen är genuint bättre, inte bara billigare

Latensjämförelsen förtjänar mer omsorg än prisjämförelsen, eftersom den öppna modellen har bättre belägg på denna axel.

• Turväxlingslatens — Nemotron VoiceChat 11B rapporterar 448 ms för smidig turväxling på Full-Duplex-Bench 1.0, med 480 ms latens för avbrott och överlämning samt en övertagandefrekvens vid användaravbrott på 1,00. GPT-Live-1:s siffra är 0,8 sekunder, ned från 1,4, rapporterat av OpenAI.

Läs de två siffrorna bredvid varandra med källhänvisningen intill, och bilden inverteras. NVIDIA:s siffror kommer från en publicerad, offentligt specificerad benchmarksvit. OpenAI:s kommer från OpenAI, där den nya modellen jämförs med den egna tidigare generationen, och har inte oberoende reproducerats. Utifrån den tillgängliga evidensen är modellen med öppna vikter mätbart snabbare på det som får en röstagent att kännas mänsklig, och den hostade modellen är snabbare endast enligt sitt eget pressmaterial.

NVIDIA hävdar också en första: Nemotron VoiceChat 11B beskrivs som den första öppna full-duplexmodellen som stöder verktygsanrop i realtid under samtal, med hjälp av en separat utkanal och förinställda väntefraser så att agenten kan fortsätta prata medan den väntar på ett externt API. Modellkortet levereras med tre ljudexempel som inbjuder dig att lyssna efter exakt det — naturlig turtagning beskriven som ungefär 450 ms svarstid, barge-in där modellen ger vika omedelbart, och verktyg som anropas live mitt i samtalet. Dessa exempel är leverantörens egna, och de bekräftar siffran 448 ms snarare än att oberoende testa den, men de är åtminstone hörbara bevis kopplade till en nedladdningsbar checkpoint snarare än en siffra i ett lanseringsinlägg. Det är samma arkitektoniska problem som GPT-Live-1 löser med delegering, besvarat på ett annat sätt — den öppna modellen håller linjen själv; den hostade modellen överlämnar uppgiften till en separat resonemangsmodell och låter röstlagret hålla samtalet vid liv.

Likheterna är lika lärorika som skillnaderna. Båda kör full duplex, vilket innebär att båda lyssnar medan de talar i stället för att turas om. Båda stöder avbrott och barge-in. Båda tränades på tal i en skala som får de äldre kaskadkopplade ASR-then-LLM-then-TTS-pipelinerna att framstå som tre separata produkter som skruvats ihop — NVIDIAs checkpoint såg ungefär 550 000 timmar tal.

Vad du ger upp, och det är inte bara pengar

Det första du ger upp med den öppna modellen är rösten. Den släppta checkpointen använder en enda fast röst, som heter Aria, och stöder inte röstkloning eller ett röstbibliotek. GPT-Live-1 levereras med tolv röster som spänner över olika accenter, dialekter och språk, och OpenAI har remastrat dem specifikt för den här modellen. Om din produkts röst är en del av dess identitet, eller om du behöver betjäna flera marknader med agenter som låter olika från en och samma driftsättning, är detta nästan diskvalificerande i sig — och det är den begränsning som är minst synlig i en specifikationsjämförelse, eftersom den ser ut som en funktionsräkning snarare än ett produktbeslut.

Det andra du ger upp är taket för kontext. Modellen har en träningsvillkorad yttrandegräns på omkring 142 sekunder och en praktisk begränsning när det gäller att hålla mer än ungefär två minuters ljudkontext. Ett telefonsamtal som varar i tjugo minuter är inte en enda kontinuerlig kontext för denna checkpoint; det är en sekvens av segment som det omgivande systemet måste hantera. Hostade modeller sköter vanligtvis den bokföringen åt dig.

Den tredje är vad du får göra med den. Hugging Face-modellkortet bär licensen openmdw-1.1, medan viss bevakning av lanseringen beskrev den som endast för forskningsbruk och NGC-containerens sida framställer komponenterna som redo för kommersiell eller icke-kommersiell användning. Tre källor, tre olika tolkningar, och bara licenstexten styr. Den diskrepansen är precis en sådan sak som dyker upp i en juridisk granskning tre veckor före lansering. Lös den innan du bygger, inte efter.

Det fjärde är drift. En GPU på 80 GB är inte en budgetpost som du kan stänga av en lugn söndag: även vid noll trafik betalar du för kortet, och du äger skalningskurvan, drivrutinsuppgraderingarna, kapacitetsplaneringen och jourrotationen för en ljudväg i realtid där en tappad anslutning är en förlorad kund. Det finns heller ingen hostad fallback att förlita dig på medan du kommer dit — raden för inferensleverantör i Hugging Face-modellkortet säger klart att modellen inte är driftsatt av någon inferensleverantör, så det finns ingen version av denna checkpoint med betalning per minut att prototypa mot. Antingen self-hostar du den, eller så använder du den inte. Det arbetet är osynligt i jämförelsen per minut och mycket synligt i en rekryteringsplan.

Hybriden som de flesta team faktiskt borde överväga

Det synsätt som gör detta beslut hanterbart är att de två modellerna inte behöver utgöra en binär uppdelning. En röstagent har vanligtvis ett röstlager och ett resonemangslager, och det är i resonemangslagret som flexibiliteten finns.

GPT-Live-1 är byggt på det här sättet av design. Dess röstlager håller konversationen levande medan tänkandet delegeras via Responses API till en vanlig textmodell — Ope​nAIs eget publicerade WebRTC-exempel kopplar den backend till GPT-5.6 Terra. Den halvan av din stack är ett vanligt API-anrop, prissatt per token, med ett verkligt val av leverantörer. GPT-5.6 Terra serveras via OrcaRouter för $2.00 per miljon indatatokens och $12.00 per miljon utdatatokens, med en kontext på 1M tokens och både /v1/chat/completions och /v1/responses exponerade, sida vid sida med ungefär 190 andra modeller som nås med en enda nyckel.

Det spelar särskilt stor roll för ett självhostningsprojekt eftersom det förändrar riskprofilen. Om du sätter upp Nemotron VoiceChat 11B och den inte klarar din trafik är rösthalvan en sjunken GPU-kostnad – men resonemangshalvan kan flyttas, redundansväxlas eller delas mellan en billig modell för rutinmässiga turer och en stark modell för eskaleringar utan att röra ljudvägen över huvud taget. Automatisk redundansväxling mellan uppströmsleverantörer är skillnaden mellan en dålig eftermiddag och ett dåligt kvartal när ett beroende av en enda källa går ner.

Notera tydligt vad som är och inte är tillgängligt var: varken GPT-Live-1 eller Nemotron VoiceChat 11B serveras av OrcaRouter. Båda kommer från sitt eget ursprung — Ope​nAI:s Live Sessions-slutpunkt i det ena fallet, din egen GPU i det andra. Hävstången för routing ligger helt nedströms ljudet.

Vilken ska man bygga vidare på?

• Välj GPT-Live-1 om du vill leverera det här kvartalet, om du behöver mer än en röst, om dina konversationer rutinmässigt pågår längre än två minuter av kontinuerlig kontext, eller om volymen ännu inte är tillräckligt hög för att motivera en GPU som kostar pengar när den är inaktiv.

• Välj NVIDIA Nemotron VoiceChat 11B om du redan kör 80 GB GPU:er, om du behöver turtagning under 500 ms baserat på bevis snarare än påståenden, om du behöver att ljudet stannar inom din egen infrastruktur av datalokaliseringsskäl, eller om du har en samtalsvolym där API:ns minutmätare är den största posten på fakturan.

• Bygg en prototyp mot API:et och benchmarka checkpointen. Beslutet hänger på en opublicerad siffra — samtidiga sessioner per 80 GB-kort — och det enda sättet att få den är att mäta den mot din egen trafikprofil. Det är en veckas arbete, och det är skillnaden mellan ett försvarbart infrastrukturbeslut och en gissning förklädd till ett sådant.