En genererad titelskärm med texten "GPT-6.2 Bevarat resonemang: Redigera prefixet, betala dubbelt", med undertext om att resonemangsposter binds till konversationshistoriken framför dem, ovanför tre numrerade rader: att bindningen börjar med GPT-6.2 Astra och GPT-6.2 Sol; att fyra vanliga prefixredigeringar tar bort posterna; och att det påverkade intervallet debiteras $2.00 per miljon indatatoken i stället för $0.10.
Guides & Insights

GPT-6.2 Bevarat resonemang: Ändra prefixet, betala dubbelt

Författare

Elias Hawthorne

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Den 17 november 2026 lanserade OpenAI GPT-6.2 Astra och GPT-6.2 Solmed en ändring i Responses API som inte har något med modellkvalitet att göra utan allt att göra med hur mycket du betalar för den. Från och med dessa två modeller är ett resonemangsobjekt knutet till konversationshistoriken framför sig. Redigera något tidigare i transkriptet – förkorta ett verktygsresultat, skriv om ett utvecklarmeddelande, ersätt tre gamla turer med en sammanfattning – så tar API:t bort de resonemangsobjekt som följde, som en skyddsåtgärd. Modellen måste då göra om arbete som den redan hade utfört. Det finns inget fel, ingen varning vid förfrågan och ingen kostnadsrad. Det blir ett något sämre svar och en större faktura, och det är svårt att koppla ihop de två.

Det här är inte en utfasning du kan schemalägga. Det är ett beteende som redan är aktivt för alla som anropar gpt-6.2-astra eller gpt-6.2-sol i dag, och det kommer att nå varje team som uppgraderar, vilket är anledningen till att det förtjänar att läsas som en migreringspunkt snarare än en fotnot i en ändringslogg.

Vad ändrades egentligen i Responses API?

Tidigare modeller behöll sina resonemangsposter över en prefixredigering. Du kunde skriva om ett utvecklarmeddelande mellan turerna, eller ersätta de första tio utbytena med en sammanfattning, och resonemanget som modellen hade producerat skulle stanna kvar i kontexten. Det var förlåtande på precis det sätt som agentkod är slarvig: vad du än skickade fick modellen nytta av sitt tidigare tänkande.

Med det nya beteendet inspekterar API:et historiken, och när det upptäcker att prefixet framför ett resonemangsobjekt har ändrats tar det bort objektet. O​penAI:s egen dokumentation beskriver konsekvensen i klartext – modellen "kan behöva göra om en del resonemang", vilket "kan öka tokenanvändning, kostnad och latens", och svarskvaliteten kan försämras "om modellen inte kan återhämta det förlorade resonemanget."

De fyra utlösare som OpenAI listar är värda att memorera, eftersom tre av dem ser ut som städad kod snarare än som en beteendeförändring:

• Redigera tidigare indataobjekt — trimma ett verktygsresultat, ta bort en tur eller ersätta ett historikblock med en sammanfattning.

• Ändra verktyg — lägga till, ta bort eller ändra ordning på en verktygsdefinition mitt i en konversation.

• Ändrar text.format — byter ut ett utdataschema mitt i en session.

• Ändra reasoning.effort – skruva ner för en billig uppföljningsrunda, vilket är den enskilt vanligaste kostnadsoptimeringen i en agentloop.

Notera vad som inte finns på listan. Att lägga till nytt innehåll efter ett resonemangsobjekt är okej. Att ta bort hela objekt är okej. Regeln är riktad: API:et tittar bakåt från varje resonemangsobjekt, och allt som har flyttats framför det ogiltigförklarar det.

En prefixredigering är fyra vanliga kodändringar

Var och en av dessa fyra utlösare är något en kompetent ingenjör gör med avsikt. Det är problemet. En prefixredigering är inte ett misstag man gör en gång; det är ett designmönster man anammar eftersom det är korrekt i alla andra avseenden.

Fallet med kontexttrunkering är det tydligaste. En långkörande agent fyller sitt fönster, så du tar bort de äldsta turerna eller sammanfattar dem. Det är god hygien, det sparar indatatokens, och på GPT-6 Sol var det gratis. På GPT-6.2 raderar det resonemanget som kom efter de turerna, och modellen börjar nästa steg med att ha glömt varför den valde det verktyg den valde.

Effort-rattens fall är värre, eftersom det är en kostnadskontroll som inverterar. Den naturliga optimeringen – att köra rutinvändor på låg nivå och eskalera till hög när arbetet blir svårt – är en ändring av reasoning.effort mellan förfrågningar. På GPT-6.2 tappar den ändringen resonemanget, så den dyra eskaleringen härleder det dyra resonemanget på nytt från scratch. Du betalade för hög nivå och fick hög nivå som startar kallt, vilket är en annan och dyrare sak.

Vad ett utelämnat resonemangsobjekt kostar

Det finns inget publicerat pris för ett borttaget resonemangsobjekt, så det ärliga sättet att uppskatta det är att titta på vad resonemang kostar från första början. Artificial Analysis mäter hela sviten, och tokenantalet per uppgift är det närmaste man kommer en offentlig mätning av hur mycket tänkande en frontiermodell ägnar sig åt vid svårt arbete.

På Intelligence Index v5.0.1 vid maximal ansträngning genererar GPT-6.2 Sol 60,9 miljoner output-tokens för att slutföra sviten med nio utvärderingar, mot en viktad kostnad på 1,01 USD per indexuppgift och 9,3 minuter per uppgift. GPT-6.2 Astra genererar 65,8 miljoner output-tokens för samma svit och debiterar 4,00 USD per indexuppgift vid 40 USD per miljon output-tokens. Dessa summor är golvet för vad en fullständig utvärdering kostar, och var och en av dessa tokens köptes till den fulla output-taxan. Leverantörsrapporterade siffror pekar i samma riktning – OpenAI säger att GPT-6.2 Astra använder 22 % färre output-tokens än GPT-6 Astra på sitt interna GDPval v2-riktmärke – men det är en jämförelse mellan modeller, inte en mätning av vad ett borttaget objekt lägger tillbaka.

Mekanismen är det som spelar roll här, inte den exakta multiplikatorn. Ett resonemangsobjekt som måste återskapas är utdatatoken som du redan har betalat för, producerade en andra gång. I en agentloop som kör tjugo turer över en uppgift kostar förlorat resonemang vid tur sex dig inte en turs tänkande; det kostar dig återhärledningen plus de försämrade beslut som följde av den tunnare kontexten. Båda är osynliga i en logg per begäran.

A generated single-column scoreboard with six rows. Cached input $0.10 per million tokens; uncached input $2.00 per million tokens; cost ratio on the affected span 20x; documented triggers 4; reasoning after a prefix edit: dropped; diagnostic field comparison_response_id. A footer line attributes the behaviour to OpenAI's preserved-reasoning guide and the cache rates to the GPT-6.2 Sol model page, 17 November 2026.

Omskrivningen med enbart tillägg, i fem steg

OpenAI:s vägledning är att sluta redigera prefixet och börja lägga till i slutet av det. Det är lätt att säga, och det ändrar fem separata anropsplatser, så här är de tillsammans, med de exakta fältnamnen.

• Resonemangsansträngning — ändra inte reasoning.effort mellan förfrågningar. Lägg i stället till ett configuration_update-objekt i input som anger den nya ansträngningen. Den dokumenterade formen är {"type": "configuration_update", "reasoning": {"effort": "high"}}, placerad före nästa användarmeddelande. Inställningen består tills en annan uppdatering åsidosätter den, och du kan ändra reasoning.effort och text.format i samma objekt.

• Utdataschema — samma objekt, samma behandling. Ändra text.format via en configuration_update i stället för att redigera begäran. Om du bara uppdaterar en av de två lämnas den andra kvar där den var, vilket är ett subtilt sätt att få ett oväntat schema.

• Verktyg — lägg till verktyg med ett additional_tools-objekt som skickas under utvecklarrollen, med en tools-array, och som spelas upp igen på sin ursprungliga plats. Behåll befintliga definitioner i deras ursprungliga ordning och använd tool_choice med allowed_tools för att begränsa vad modellen får anropa.

• Instruktioner — lägg återanvändbar text i det första utvecklarmeddelandet i indata, inte i fältet för övergripande instruktioner. För att ändra den, lägg till ett nytt utvecklarmeddelande. I GPT-6.2 och senare läggs fältet för övergripande instruktioner till efter indata, så att redigera det är i sig en prefixändring.

• Kompaktering — med O​penAIs egen kompaktering, antingen /responses/compact-endpointen eller context_management, överlever resonemanget prefixändringen. Utelämna instructions när du anropar /responses/compact. Med anpassad kompaktering placerar du det kompakterade objektet i slutet av kontexten. Observera fallgropen: både automatisk trunkering och /responses/compact avvisar historiker som innehåller configuration_update-objekt, så en session som använder det nya mönstret kan inte kompakteras via den gamla vägen.

Om du komprimerar manuellt med ett compaction_trigger-objekt, lägg till en ny configuration_update efter komprimeringen och upprepa varje inställning du ändrade. Ingenting följer med över gränsen åt dig.

Upptäcker det innan din faktura gör det

Anledningen till att den här beteendeändringen är farlig är att den misslyckas tyst. API:et returnerar 200. Svaret ser normalt ut. Det du behöver är ett sätt att se bortfallet, och OpenAI tillhandahåller ett: ställ in prompt_cache_options.comparison_response_id till ett tidigare svars-ID och läs sedan den diagnostiska orsaken och antalet cachade token. Fältet input_transformations listar vilka reasoning-poster som togs bort och varför, och en prefix_mismatch-orsak matchar via id mot en reasoning-post i det tidigare svarets utdata.

Två ärliga begränsningar med den diagnostiken. Den rapporterar den första skillnaden så gott det går, och den kan inte verifiera om modellen faktiskt återanvände resonemanget den behöll. Så behandla den som en brandvarnare, inte en mätare – den säger att ett bortfall har skett, inte vad det kostade.

Den andra hälften av instrumenteringen är cachen, och det är här tokenberättelsen och kostnadsberättelsen möts. Promptcachelagring matchar förfrågningar från början, så en prefixredigering tar inte bara bort resonemangsobjekt; den avslutar återanvändningen av cachen från redigeringspunkten och framåt. Allt efter den punkten debiteras enligt den ocachade indataxan. På GPT-6.2 Sol är det 2,00 USD per miljon i stället för 0,10 USD – en tjugofaldig skillnad på det berörda spannet. På GPT-6.2 Astra är det 8,00 USD i stället för 0,40 USD, vilket är samma tjugofaldiga förhållande på ett kort fyra gånger större.

Det är siffran att hålla koll på, och det är den som ett lanseringsinlägg aldrig kommer att sätta som rubrik: cachemissen är kostnaden, och det bortfallna resonemanget är kvalitetsregressionen, och båda kommer från samma redigering. Tokens för fältet för instruktioner på översta nivån på GPT-6.2 och senare debiteras till den icke-cachade indata-taxan av just den anledningen – fältet ligger utanför det cachade prefixet.

Screenshot of the Artificial Analysis page for GPT-6.2 Sol, showing an Intelligence Index of 57 at max effort, a weighted cost of $1.01 per index task, 9.3 minutes per task, 72 output tokens per second and 60.9M output tokens used across the nine-evaluation suite.

Vad innebär detta för en 6.1 Sol-driftsättning?

Inget av detta talar emot att byta. GPT-6.1 Sol får 55 poäng på Intelligence Index v5.0.1 vid högsta ansträngningsnivå och GPT-6.2 Sol får 57, till $1,27 per indexuppgift mot $1,01 och 24,9 minuter per uppgift mot 9,3 – en snabbare, billigare och något smartare modell på en oförändrad taxa på $2 för indata, $0,10 för cachad indata och $10 för utdata. Uppgraderingen är verklig. Det som har ändrats är att uppgraderingen nu har en förutsättning för korrekthet, och förutsättningen är att din konversationshantering är append-only.

Det billigaste sättet att besvara det är en fakturajämförelse snarare än en poängjämförelse: skicka en liten del av live-trafiken till gpt-6.2-sol med din befintliga append-only-instrumentering påslagen och läs andelen cachade tokens på båda armarna efter en dag. OrcaRouter tillhandahåller openai/gpt-6.1-sol till leverantörens listpris utan något påslag, och cache-redovisningen per begäran kommer igenom i usage-blocket, så 6.1-sidan av den liggaren behöver inget separat avtal för att läsas. Failover är det som hindrar den lilla delen från att bli en incident: varje begäran som den nya rutten inte kan hantera faller tillbaka på modellen som redan svarar. Det som måste sägas rakt ut här är att GPT-6.2 Sol ännu inte finns i katalogen här, så 6.2-armen anropas direkt mot OpenAI medan 6.1-armen anropas mot oss.

Det som är värt att hålla koll på härnäst är snävare än det låter. Beteendet är dokumenterat, migreringsvägen är dokumenterad och diagnostiken finns. Det som ännu inte finns är en offentlig mätning av vad ett bortfallet resonemangsobjekt kostar i utdatatoken på en verklig långhorisontuppgift, och tills någon publicerar en sådan är varje uppskattning av skadan en modell av mekanismen snarare än en avläsning från en mätare. Om du kör agenter i stor skala har du bättre förutsättningar att ta fram den siffran än något benchmark har — och du kommer att ta fram den vare sig du vill eller inte, vilket är argumentet för att instrumentera nu.

Screenshot of OpenAI's preserved-reasoning guide, showing the section on configuration_update and additional_tools items, the list of changes that cause reasoning items to be dropped, and the append-only guidance for changing effort, tools and output schema mid-conversation.

Jämförda i den här artikeln3

Identifierat från den här artikeln · Benchmarks: Artificial Analysis · uppdateras dagligen