
GPT-6.2 Behouden redenering: pas de prefix aan, betaal dubbel
- OrcaNIEUWOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 per 1 mln tokens · 186 tok/s
- openaiNIEUWOpenAI: GPT-6.2 Astra2026-11-17$8.00 / $40.00 per 1 mln tokens · 86 tok/s
- openaiNIEUWOpenAI: GPT-6.2 Sol2026-11-17$2.00 / $10.00 per 1 mln tokens · 151 tok/s
- tencentNIEUWTencent: Hy4 Flash2026-11-16$0.02 / $0.07 per 1 mln tokens · 192 tok/s
- AlibabaNIEUWQwen: Qwen4 Max2026-11-16$1.50 / $4.50 per 1 mln tokens · 86 tok/s
- GoogleNIEUWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1 mln tokens · 705 tok/s
- AnthropicNIEUWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1 mln tokens · 246 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1 mln tokens · 97 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1 mln tokens · 138 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 per 1 mln tokens · 85 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 per 1 mln tokens · 122 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1 mln tokens · 102 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1 mln tokens · 70 tok/s
- openaiOpenAI: GPT-6.1 Terra2026-10-26$1.00 / $5.00 per 1 mln tokens · 35 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 mln tokens · 89 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 mln tokens · 38 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Intelligentie
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1 mln tokens · 231 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Intelligentie
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1 mln tokens · 101 tok/s
Op 17 november 2026 bracht OpenAI GPT-6.2 Astra en GPT-6.2 Sol uit met een wijziging aan de Responses API die niets met modelkwaliteit te maken heeft en alles met hoeveel je ervoor betaalt. Vanaf deze twee modellen is een reasoning-item gebonden aan de gespreksgeschiedenis die eraan voorafgaat. Bewerk je iets eerder in het transcript — een toolresultaat inkorten, een ontwikkelaarsbericht herschrijven, een samenvatting in de plaats stellen van drie oude beurten — dan laat de API de reasoning-items die daarop volgden vallen, als voorzorgsmaatregel. Het model moet dan werk overdoen dat het al had gedaan. Er is geen fout, geen waarschuwing op het moment van het verzoek en geen afzonderlijke factuurregel. Er is een iets slechter antwoord en een grotere factuur, en de twee zijn moeilijk met elkaar in verband te brengen.
Dit is geen deprecatie die je kunt inplannen. Het is een gedrag dat vandaag al live is voor iedereen die gpt-6.2-astra of gpt-6.2-sol aanroept, en het zal elk team bereiken dat upgradet. Daarom verdient het om gelezen te worden als een migratie-item in plaats van als een voetnoot in een changelog.
Wat is er eigenlijk veranderd aan de Responses API?
Eerdere modellen behielden hun redeneeritems na een prefixbewerking. Je kon een ontwikkelaarsbericht tussen beurten herschrijven, of de eerste tien uitwisselingen vervangen door een samenvatting, en de redenering die het model had geproduceerd bleef in de context staan. Dat was vergevingsgezind op precies de manier waarop agentcode slordig is: wat je ook stuurde, het model kreeg de vruchten van zijn eerdere denkwerk.
Bij het nieuwe gedrag inspecteert de API de geschiedenis en verwijdert deze dat item wanneer ze detecteert dat het prefix vóór een redeneeritem is gewijzigd. OpenAI's eigen documentatie beschrijft de consequentie in duidelijke bewoordingen — het model "moet mogelijk een deel van de redenering opnieuw doen," wat "het tokengebruik, de kosten en de latentie kan verhogen," en de antwoordkwaliteit kan afnemen "als het model de verloren redenering niet kan herstellen."
De vier triggers die OpenAI noemt, zijn het onthouden waard, omdat drie ervan eruitzien als nette code in plaats van als een gedragswijziging:
• Eerdere invoeritems bewerken — een toolresultaat inkorten, een beurt verwijderen of een blok geschiedenis vervangen door een samenvatting.
• Gereedschap wijzigen — een tooldefinitie toevoegen, verwijderen of opnieuw ordenen tijdens een gesprek.
• text.format wijzigen — halverwege een sessie het uitvoerschema verwisselen.
• reasoning.effort wijzigen — de instelling lager zetten voor een goedkope vervolgbeurt, de meest voorkomende kostenoptimalisatie in een agent-loop.
Let op wat niet op de lijst staat. Nieuwe inhoud na een redeneeritem toevoegen is prima. Hele items verwijderen is prima. De regel is directioneel: de API kijkt vanaf elk redeneeritem terug, en alles wat ervoor is verplaatst, maakt het ongeldig.
Een prefixbewerking bestaat uit vier gewone codewijzigingen.
Elk van die vier triggers is iets wat een bekwame engineer bewust doet. Dat is het probleem. Een prefix-edit is geen fout die je één keer maakt; het is een ontwerppatroon dat je overneemt omdat het in elk ander opzicht correct is.
Het geval van contextafkapping is het duidelijkst. Een langdurig draaiende agent vult zijn venster, dus je laat de oudste beurten vallen of vat ze samen. Dat is goede hygiëne, het bespaart invoertokens, en op GPT-6 Sol was het gratis. Op GPT-6.2 wist het de redenering die na die beurten kwam, en het model begint de volgende stap met de wetenschap dat het vergeten is waarom het de tool koos die het koos.
De kwestie met de effort-dial is erger, omdat dit een kostenbeheersing is die zich omkeert. De natuurlijke optimalisatie — routinematige beurten op laag uitvoeren en opschalen naar hoog wanneer het werk moeilijk wordt — is een wijziging van reasoning.effort tussen verzoeken. Op GPT-6.2 laat die bewerking het redeneren vallen, waardoor de dure escalatie het dure redeneerwerk vanaf nul opnieuw moet afleiden. Je hebt voor hoog betaald en je kreeg hoog dat koud begint, wat iets anders en duurders is.
Wat een weggevallen redeneeritem kost
Er is geen gepubliceerde prijs voor een geschrapt reasoning-item, dus de eerlijke manier om de omvang ervan te bepalen is te kijken naar wat reasoning überhaupt kost. Artificial Analysis meet de hele suite, en de tokenaantallen per taak komen het dichtst in de buurt van een publieke meting van hoeveel denkwerk een frontiermodel verricht bij moeilijk werk.
Op Intelligence Index v5.0.1 bij maximale inspanning genereert GPT-6.2 Sol 60,9M outputtokens om de suite van negen evaluaties te voltooien, tegen gewogen kosten van $1,01 per indextaak en 9,3 minuten per taak. GPT-6.2 Astra genereert 65,8M outputtokens voor dezelfde suite en factureert $4,00 per indextaak tegen $40 per miljoen outputtokens. Die totalen zijn de ondergrens van wat een volledige evaluatie kost, en elk van die tokens is tegen het volledige outputtarief gekocht. Door leveranciers gerapporteerde cijfers wijzen dezelfde kant op — OpenAI zegt dat GPT-6.2 Astra 22% minder outputtokens gebruikt dan GPT-6 Astra op zijn interne GDPval v2-benchmark — maar dat is een vergelijking tussen modellen, geen meting van wat een weggelaten item weer toevoegt.
Het mechanisme is hier wat telt, niet de exacte vermenigvuldiger. Een redeneeritem dat opnieuw moet worden gegenereerd, zijn outputtokens waarvoor je al hebt betaald, een tweede keer geproduceerd. In een agentlus die twintig beurten over één taak draait, kost het verliezen van redenering bij beurt zes je niet één beurt aan denkwerk; het kost je de herleiding plus alle verslechterde beslissingen die uit de dunnere context voortkwamen. Beide zijn onzichtbaar in een log per verzoek.

De alleen-toevoegende herschrijving, in vijf zetten
OpenAI's richtlijn is om te stoppen met het bewerken van de prefix en er in plaats daarvan aan te gaan toevoegen. Dat is makkelijk gezegd, en het verandert vijf afzonderlijke call sites, dus hier staan ze bij elkaar, met de exacte veldnamen.
• Redeneerinspanning — wijzig reasoning.effort niet tussen verzoeken. Voeg in plaats daarvan een configuration_update-item toe aan input, met de nieuwe effort. De gedocumenteerde vorm is {"type": "configuration_update", "reasoning": {"effort": "high"}}, geplaatst vóór het volgende gebruikersbericht. De instelling blijft van kracht totdat een andere update deze overschrijft, en je kunt reasoning.effort en text.format in hetzelfde item wijzigen.
• Uitvoerschema — hetzelfde item, dezelfde behandeling. Wijzig text.format via een configuration_update in plaats van door het verzoek te bewerken. Als u slechts één van de twee bijwerkt, blijft de andere waar die was, wat een subtiele manier is om een onverwacht schema te krijgen.
• Tools — voeg tools toe met een additional_tools-item dat onder de developer-rol wordt verzonden, met een tools-array, en dat op zijn oorspronkelijke positie opnieuw wordt afgespeeld. Behoud bestaande definities in hun oorspronkelijke volgorde en gebruik tool_choice met allowed_tools om te beperken welke tools het model mag aanroepen.
• Instructies — plaats herbruikbare tekst in het eerste developerbericht binnen input, niet in het veld top-level instructions. Om dit te wijzigen, voeg je een nieuw developerbericht toe. Op GPT-6.2 en later wordt het veld top-level instructions na input toegevoegd, dus het bewerken ervan is zelf een prefixwijziging.
• Compaction — Met OpenAI's eigen compaction, ofwel de /responses/compact-endpoint of context_management, overleeft reasoning de prefixwijziging. Laat instructions weg bij het aanroepen van /responses/compact. Plaats bij aangepaste compaction het gecompacteerde item aan het einde van de context. Let op de valkuil: zowel automatische truncatie als /responses/compact weigeren geschiedenissen die configuration_update-items bevatten, dus een sessie die het nieuwe patroon gebruikt, kan niet via het oude pad worden gecompacteerd.
Als je handmatig compacteert met een compaction_trigger-item, voeg dan na de compactie een nieuwe configuration_update toe en herhaal elke instelling die je hebt gewijzigd. Niets wordt voor jou over de grens heen overgedragen.
Het detecteren voordat je factuur dat doet
De reden dat deze gedragswijziging gevaarlijk is, is dat ze stilletjes faalt. De API retourneert 200. Het antwoord ziet er normaal uit. Wat je nodig hebt, is een manier om de daling te zien, en OpenAI levert die: stel prompt_cache_options.comparison_response_id in op een eerdere response-ID en lees vervolgens de diagnostische reden en het aantal gecachte tokens. Het veld input_transformations somt op welke reasoning-items zijn verwijderd en waarom, en een prefix_mismatch-reden komt via id overeen met een reasoning-item in de output van de eerdere response.
Twee eerlijke beperkingen aan die diagnose. Het rapporteert het eerste verschil zo goed mogelijk, en het kan niet verifiëren of het model daadwerkelijk de redenering heeft hergebruikt die het behield. Behandel het dus als een rookmelder, niet als een meter — het vertelt je dat er een terugval is gebeurd, niet wat die heeft gekost.
De andere helft van de instrumentatie is de cache, en hier komen het tokenverhaal en het kostenverhaal samen. Prompt-caching vergelijkt verzoeken vanaf het begin, dus een prefixbewerking laat niet alleen reasoning-items vallen; ze beëindigt ook het hergebruik van de cache vanaf het punt van de bewerking. Alles daarna wordt gefactureerd tegen het tarief voor niet-gecachte invoer. Op GPT-6.2 Sol is dat $2,00 per miljoen in plaats van $0,10 — een twintigvoudig verschil op het getroffen bereik. Op GPT-6.2 Astra is dat $8,00 in plaats van $0,40, dezelfde twintigvoudige verhouding op een kaart die vier keer groter is.
Dat is het getal om in de gaten te houden, en het is precies het getal dat een launchpost nooit in de titel zal zetten: de cachemiss is de rekening, en het weggevallen redeneervermogen is de kwaliteitsregressie, en beide komen voort uit dezelfde wijziging. Tokens voor het veld met instructies op topniveau op GPT-6.2 en later worden precies daarom tegen het tarief voor niet-gecachete invoer gefactureerd — het veld valt buiten de gecachete prefix.

Wat dit betekent voor een 6.1 Sol-implementatie
Niets hiervan pleit tegen overstappen. GPT-6.1 Sol scoort 55 op Intelligence Index v5.0.1 bij maximale inspanning en GPT-6.2 Sol scoort 57, tegen $1,27 per indextaak versus $1,01 en 24,9 minuten per taak versus 9,3 — een sneller, goedkoper en iets slimmer model op een ongewijzigde tariefkaart van $2 voor invoer, $0,10 voor gecachte invoer en $10 voor uitvoer. De upgrade is reëel. Wat is veranderd, is dat de upgrade nu een correctheidsvoorwaarde heeft, en die voorwaarde is dat je gespreksafhandeling append-only is.
De goedkoopste manier om dat te beantwoorden is een factuurvergelijking in plaats van een scorevergelijking: stuur een klein deel van het liveverkeer naar gpt-6.2-sol met je bestaande append-only-instrumentatie ingeschakeld, en lees na een dag het aandeel gecachte tokens op beide armen. OrcaRouter levert openai/gpt-6.1-sol tegen de lijstprijs van de leverancier, zonder iets extra's erbovenop, en de cacheboekhouding per verzoek komt mee in het usage-blok, dus voor de 6.1-kant van dat grootboek is geen apart contract nodig om die te lezen. Failover zorgt ervoor dat het kleine deel geen incident wordt: elk verzoek dat de nieuwe route niet kan bedienen, valt door naar het model dat al antwoordt. Het deel hiervan dat ronduit gezegd moet worden, is dat GPT-6.2 Sol hier nog niet in de catalogus staat, dus de 6.2-arm wordt rechtstreeks tegen OpenAI aangeroepen, terwijl de 6.1-arm tegen ons wordt aangeroepen.
Waar je nu op moet letten, is specifieker dan het klinkt. Het gedrag is gedocumenteerd, het migratiepad is gedocumenteerd en de diagnostiek bestaat. Wat nog niet bestaat, is een openbare meting van wat een weggevallen redeneeritem kost in outputtokens bij een echte taak met een lange horizon, en totdat iemand er een publiceert, is elke schatting van de schade een model van het mechanisme in plaats van een aflezing van een meter. Als je agents op grote schaal draait, ben je beter gepositioneerd om dat getal te produceren dan welke benchmark dan ook — en je zult het produceren of je nu wilt of niet, en dat is het argument om nu te instrumenteren.

Vergeleken in dit artikel3
Herkend uit dit artikel · Benchmarks: Artificial Analysis · dagelijks bijgewerkt
