Een gegenereerde titelkaart met de tekst 'GPT-6.2 Preserved Reasoning: Edit the Prefix, Pay Twice', met een ondertitel over reasoning-items die gebonden zijn aan de gespreksgeschiedenis ervoor, boven drie genummerde rijen: dat de binding begint met GPT-6.2 Astra en GPT-6.2 Sol; dat vier gewone prefixbewerkingen de items laten vallen; en dat de getroffen span $2,00 per miljoen invoertokens factureert in plaats van $0,10.
Guides & Insights

GPT-6.2 Behouden redenering: pas de prefix aan, betaal dubbel

Auteur

Elias Hawthorne

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Op 17 november 2026 bracht O​penAI GPT-6.2 Astra en GPT-6.2 Sol uit met een wijziging aan de Responses API die niets met modelkwaliteit te maken heeft en alles met hoeveel je ervoor betaalt. Vanaf deze twee modellen is een reasoning-item gebonden aan de gespreksgeschiedenis die eraan voorafgaat. Bewerk je iets eerder in het transcript — een toolresultaat inkorten, een ontwikkelaarsbericht herschrijven, een samenvatting in de plaats stellen van drie oude beurten — dan laat de API de reasoning-items die daarop volgden vallen, als voorzorgsmaatregel. Het model moet dan werk overdoen dat het al had gedaan. Er is geen fout, geen waarschuwing op het moment van het verzoek en geen afzonderlijke factuurregel. Er is een iets slechter antwoord en een grotere factuur, en de twee zijn moeilijk met elkaar in verband te brengen.

Dit is geen deprecatie die je kunt inplannen. Het is een gedrag dat vandaag al live is voor iedereen die gpt-6.2-astra of gpt-6.2-sol aanroept, en het zal elk team bereiken dat upgradet. Daarom verdient het om gelezen te worden als een migratie-item in plaats van als een voetnoot in een changelog.

Wat is er eigenlijk veranderd aan de Responses API?

Eerdere modellen behielden hun redeneeritems na een prefixbewerking. Je kon een ontwikkelaarsbericht tussen beurten herschrijven, of de eerste tien uitwisselingen vervangen door een samenvatting, en de redenering die het model had geproduceerd bleef in de context staan. Dat was vergevingsgezind op precies de manier waarop agentcode slordig is: wat je ook stuurde, het model kreeg de vruchten van zijn eerdere denkwerk.

Bij het nieuwe gedrag inspecteert de API de geschiedenis en verwijdert deze dat item wanneer ze detecteert dat het prefix vóór een redeneeritem is gewijzigd. OpenAI's eigen documentatie beschrijft de consequentie in duidelijke bewoordingen — het model "moet mogelijk een deel van de redenering opnieuw doen," wat "het tokengebruik, de kosten en de latentie kan verhogen," en de antwoordkwaliteit kan afnemen "als het model de verloren redenering niet kan herstellen."

De vier triggers die OpenAI noemt, zijn het onthouden waard, omdat drie ervan eruitzien als nette code in plaats van als een gedragswijziging:

• Eerdere invoeritems bewerken — een toolresultaat inkorten, een beurt verwijderen of een blok geschiedenis vervangen door een samenvatting.

• Gereedschap wijzigen — een tooldefinitie toevoegen, verwijderen of opnieuw ordenen tijdens een gesprek.

• text.format wijzigen — halverwege een sessie het uitvoerschema verwisselen.

• reasoning.effort wijzigen — de instelling lager zetten voor een goedkope vervolgbeurt, de meest voorkomende kostenoptimalisatie in een agent-loop.

Let op wat niet op de lijst staat. Nieuwe inhoud na een redeneeritem toevoegen is prima. Hele items verwijderen is prima. De regel is directioneel: de API kijkt vanaf elk redeneeritem terug, en alles wat ervoor is verplaatst, maakt het ongeldig.

Een prefixbewerking bestaat uit vier gewone codewijzigingen.

Elk van die vier triggers is iets wat een bekwame engineer bewust doet. Dat is het probleem. Een prefix-edit is geen fout die je één keer maakt; het is een ontwerppatroon dat je overneemt omdat het in elk ander opzicht correct is.

Het geval van contextafkapping is het duidelijkst. Een langdurig draaiende agent vult zijn venster, dus je laat de oudste beurten vallen of vat ze samen. Dat is goede hygiëne, het bespaart invoertokens, en op GPT-6 Sol was het gratis. Op GPT-6.2 wist het de redenering die na die beurten kwam, en het model begint de volgende stap met de wetenschap dat het vergeten is waarom het de tool koos die het koos.

De kwestie met de effort-dial is erger, omdat dit een kostenbeheersing is die zich omkeert. De natuurlijke optimalisatie — routinematige beurten op laag uitvoeren en opschalen naar hoog wanneer het werk moeilijk wordt — is een wijziging van reasoning.effort tussen verzoeken. Op GPT-6.2 laat die bewerking het redeneren vallen, waardoor de dure escalatie het dure redeneerwerk vanaf nul opnieuw moet afleiden. Je hebt voor hoog betaald en je kreeg hoog dat koud begint, wat iets anders en duurders is.

Wat een weggevallen redeneeritem kost

Er is geen gepubliceerde prijs voor een geschrapt reasoning-item, dus de eerlijke manier om de omvang ervan te bepalen is te kijken naar wat reasoning überhaupt kost. Artificial Analysis meet de hele suite, en de tokenaantallen per taak komen het dichtst in de buurt van een publieke meting van hoeveel denkwerk een frontiermodel verricht bij moeilijk werk.

Op Intelligence Index v5.0.1 bij maximale inspanning genereert GPT-6.2 Sol 60,9M outputtokens om de suite van negen evaluaties te voltooien, tegen gewogen kosten van $1,01 per indextaak en 9,3 minuten per taak. GPT-6.2 Astra genereert 65,8M outputtokens voor dezelfde suite en factureert $4,00 per indextaak tegen $40 per miljoen outputtokens. Die totalen zijn de ondergrens van wat een volledige evaluatie kost, en elk van die tokens is tegen het volledige outputtarief gekocht. Door leveranciers gerapporteerde cijfers wijzen dezelfde kant op — O​penAI zegt dat GPT-6.2 Astra 22% minder outputtokens gebruikt dan GPT-6 Astra op zijn interne GDPval v2-benchmark — maar dat is een vergelijking tussen modellen, geen meting van wat een weggelaten item weer toevoegt.

Het mechanisme is hier wat telt, niet de exacte vermenigvuldiger. Een redeneeritem dat opnieuw moet worden gegenereerd, zijn outputtokens waarvoor je al hebt betaald, een tweede keer geproduceerd. In een agentlus die twintig beurten over één taak draait, kost het verliezen van redenering bij beurt zes je niet één beurt aan denkwerk; het kost je de herleiding plus alle verslechterde beslissingen die uit de dunnere context voortkwamen. Beide zijn onzichtbaar in een log per verzoek.

A generated single-column scoreboard with six rows. Cached input $0.10 per million tokens; uncached input $2.00 per million tokens; cost ratio on the affected span 20x; documented triggers 4; reasoning after a prefix edit: dropped; diagnostic field comparison_response_id. A footer line attributes the behaviour to OpenAI's preserved-reasoning guide and the cache rates to the GPT-6.2 Sol model page, 17 November 2026.

De alleen-toevoegende herschrijving, in vijf zetten

O​penAI's richtlijn is om te stoppen met het bewerken van de prefix en er in plaats daarvan aan te gaan toevoegen. Dat is makkelijk gezegd, en het verandert vijf afzonderlijke call sites, dus hier staan ze bij elkaar, met de exacte veldnamen.

• Redeneerinspanning — wijzig reasoning.effort niet tussen verzoeken. Voeg in plaats daarvan een configuration_update-item toe aan input, met de nieuwe effort. De gedocumenteerde vorm is {"type": "configuration_update", "reasoning": {"effort": "high"}}, geplaatst vóór het volgende gebruikersbericht. De instelling blijft van kracht totdat een andere update deze overschrijft, en je kunt reasoning.effort en text.format in hetzelfde item wijzigen.

• Uitvoerschema — hetzelfde item, dezelfde behandeling. Wijzig text.format via een configuration_update in plaats van door het verzoek te bewerken. Als u slechts één van de twee bijwerkt, blijft de andere waar die was, wat een subtiele manier is om een onverwacht schema te krijgen.

• Tools — voeg tools toe met een additional_tools-item dat onder de developer-rol wordt verzonden, met een tools-array, en dat op zijn oorspronkelijke positie opnieuw wordt afgespeeld. Behoud bestaande definities in hun oorspronkelijke volgorde en gebruik tool_choice met allowed_tools om te beperken welke tools het model mag aanroepen.

• Instructies — plaats herbruikbare tekst in het eerste developerbericht binnen input, niet in het veld top-level instructions. Om dit te wijzigen, voeg je een nieuw developerbericht toe. Op GPT-6.2 en later wordt het veld top-level instructions na input toegevoegd, dus het bewerken ervan is zelf een prefixwijziging.

• Compaction — Met O​penAI's eigen compaction, ofwel de /responses/compact-endpoint of context_management, overleeft reasoning de prefixwijziging. Laat instructions weg bij het aanroepen van /responses/compact. Plaats bij aangepaste compaction het gecompacteerde item aan het einde van de context. Let op de valkuil: zowel automatische truncatie als /responses/compact weigeren geschiedenissen die configuration_update-items bevatten, dus een sessie die het nieuwe patroon gebruikt, kan niet via het oude pad worden gecompacteerd.

Als je handmatig compacteert met een compaction_trigger-item, voeg dan na de compactie een nieuwe configuration_update toe en herhaal elke instelling die je hebt gewijzigd. Niets wordt voor jou over de grens heen overgedragen.

Het detecteren voordat je factuur dat doet

De reden dat deze gedragswijziging gevaarlijk is, is dat ze stilletjes faalt. De API retourneert 200. Het antwoord ziet er normaal uit. Wat je nodig hebt, is een manier om de daling te zien, en OpenAI levert die: stel prompt_cache_options.comparison_response_id in op een eerdere response-ID en lees vervolgens de diagnostische reden en het aantal gecachte tokens. Het veld input_transformations somt op welke reasoning-items zijn verwijderd en waarom, en een prefix_mismatch-reden komt via id overeen met een reasoning-item in de output van de eerdere response.

Twee eerlijke beperkingen aan die diagnose. Het rapporteert het eerste verschil zo goed mogelijk, en het kan niet verifiëren of het model daadwerkelijk de redenering heeft hergebruikt die het behield. Behandel het dus als een rookmelder, niet als een meter — het vertelt je dat er een terugval is gebeurd, niet wat die heeft gekost.

De andere helft van de instrumentatie is de cache, en hier komen het tokenverhaal en het kostenverhaal samen. Prompt-caching vergelijkt verzoeken vanaf het begin, dus een prefixbewerking laat niet alleen reasoning-items vallen; ze beëindigt ook het hergebruik van de cache vanaf het punt van de bewerking. Alles daarna wordt gefactureerd tegen het tarief voor niet-gecachte invoer. Op GPT-6.2 Sol is dat $2,00 per miljoen in plaats van $0,10 — een twintigvoudig verschil op het getroffen bereik. Op GPT-6.2 Astra is dat $8,00 in plaats van $0,40, dezelfde twintigvoudige verhouding op een kaart die vier keer groter is.

Dat is het getal om in de gaten te houden, en het is precies het getal dat een launchpost nooit in de titel zal zetten: de cachemiss is de rekening, en het weggevallen redeneervermogen is de kwaliteitsregressie, en beide komen voort uit dezelfde wijziging. Tokens voor het veld met instructies op topniveau op GPT-6.2 en later worden precies daarom tegen het tarief voor niet-gecachete invoer gefactureerd — het veld valt buiten de gecachete prefix.

Screenshot of the Artificial Analysis page for GPT-6.2 Sol, showing an Intelligence Index of 57 at max effort, a weighted cost of $1.01 per index task, 9.3 minutes per task, 72 output tokens per second and 60.9M output tokens used across the nine-evaluation suite.

Wat dit betekent voor een 6.1 Sol-implementatie

Niets hiervan pleit tegen overstappen. GPT-6.1 Sol scoort 55 op Intelligence Index v5.0.1 bij maximale inspanning en GPT-6.2 Sol scoort 57, tegen $1,27 per indextaak versus $1,01 en 24,9 minuten per taak versus 9,3 — een sneller, goedkoper en iets slimmer model op een ongewijzigde tariefkaart van $2 voor invoer, $0,10 voor gecachte invoer en $10 voor uitvoer. De upgrade is reëel. Wat is veranderd, is dat de upgrade nu een correctheidsvoorwaarde heeft, en die voorwaarde is dat je gespreksafhandeling append-only is.

De goedkoopste manier om dat te beantwoorden is een factuurvergelijking in plaats van een scorevergelijking: stuur een klein deel van het liveverkeer naar gpt-6.2-sol met je bestaande append-only-instrumentatie ingeschakeld, en lees na een dag het aandeel gecachte tokens op beide armen. OrcaRouter levert openai/gpt-6.1-sol tegen de lijstprijs van de leverancier, zonder iets extra's erbovenop, en de cacheboekhouding per verzoek komt mee in het usage-blok, dus voor de 6.1-kant van dat grootboek is geen apart contract nodig om die te lezen. Failover zorgt ervoor dat het kleine deel geen incident wordt: elk verzoek dat de nieuwe route niet kan bedienen, valt door naar het model dat al antwoordt. Het deel hiervan dat ronduit gezegd moet worden, is dat GPT-6.2 Sol hier nog niet in de catalogus staat, dus de 6.2-arm wordt rechtstreeks tegen OpenAI aangeroepen, terwijl de 6.1-arm tegen ons wordt aangeroepen.

Waar je nu op moet letten, is specifieker dan het klinkt. Het gedrag is gedocumenteerd, het migratiepad is gedocumenteerd en de diagnostiek bestaat. Wat nog niet bestaat, is een openbare meting van wat een weggevallen redeneeritem kost in outputtokens bij een echte taak met een lange horizon, en totdat iemand er een publiceert, is elke schatting van de schade een model van het mechanisme in plaats van een aflezing van een meter. Als je agents op grote schaal draait, ben je beter gepositioneerd om dat getal te produceren dan welke benchmark dan ook — en je zult het produceren of je nu wilt of niet, en dat is het argument om nu te instrumenteren.

Screenshot of OpenAI's preserved-reasoning guide, showing the section on configuration_update and additional_tools items, the list of changes that cause reasoning items to be dropped, and the append-only guidance for changing effort, tools and output schema mid-conversation.

Vergeleken in dit artikel3

Herkend uit dit artikel · Benchmarks: Artificial Analysis · dagelijks bijgewerkt