Una card di titolo generata che recita 'GPT-6.2 Preserved Reasoning: Edit the Prefix, Pay Twice', con un sottotitolo sul fatto che gli elementi di ragionamento sono vincolati alla cronologia della conversazione che li precede, sopra tre righe numerate: che il vincolo inizia con GPT-6.2 Astra e GPT-6.2 Sol; che quattro normali modifiche al prefisso eliminano gli elementi; e che l'intervallo interessato viene fatturato a $2.00 per milione di token di input invece di $0.10.
Guides & Insights

GPT-6.2 Ragionamento preservato: modifica il prefisso, paghi il doppio

Autore

Elias Hawthorne

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Il 17 novembre 2026, OpenAI ha rilasciato GPT-6.2 Astra e GPT-6.2 Sol con una modifica all'API Responses che non ha nulla a che vedere con la qualità del modello e tutto a che vedere con quanto si paga per usarla. A partire da questi due modelli, un elemento di ragionamento è vincolato alla cronologia della conversazione che lo precede. Modifica qualsiasi cosa precedente nella trascrizione — accorcia il risultato di uno strumento, riscrivi un messaggio dello sviluppatore, sostituisci tre vecchi turni con un riassunto — e l'API elimina gli elementi di ragionamento che seguivano, come misura di sicurezza. Il modello deve quindi rifare un lavoro che aveva già svolto. Non c'è alcun errore, nessun avviso al momento della richiesta e nessuna voce in fattura. C'è una risposta leggermente peggiore e una fattura più alta, ed è difficile collegare le due cose.

Non è una deprecazione che puoi pianificare. È un comportamento già attivo per chiunque chiami oggi gpt-6.2-astra o gpt-6.2-sol, e raggiungerà ogni team che esegue l'aggiornamento, per questo merita di essere letto come voce di migrazione anziché come nota a piè di pagina in un changelog.

Che cosa è realmente cambiato nella Responses API

I modelli precedenti conservavano i propri elementi di ragionamento attraverso una modifica del prefisso. Potevi riscrivere un messaggio dello sviluppatore tra un turno e l'altro, oppure sostituire i primi dieci scambi con un riepilogo, e il ragionamento prodotto dal modello restava nel contesto. Era indulgente esattamente nel modo in cui il codice agente è trascurato: qualunque cosa inviassi, il modello beneficiava del proprio pensiero precedente.

Con il nuovo comportamento l'API ispeziona la cronologia e, quando rileva che il prefisso davanti a un elemento di ragionamento è cambiato, rimuove tale elemento. La documentazione di O​penAI descrive la conseguenza in termini semplici: il modello "potrebbe dover rifare parte del ragionamento", il che "può aumentare l'uso dei token, i costi e la latenza", e la qualità delle risposte può peggiorare "se il modello non riesce a recuperare il ragionamento perso".

Vale la pena imparare a memoria i quattro trigger elencati da OpenAI, perché tre di essi sembrano più codice ordinato che un cambiamento di comportamento:

• Modifica di elementi di input precedenti — ridurre il risultato di uno strumento, eliminare un turno o sostituire un blocco di cronologia con un riepilogo.

• Cambiare strumenti — aggiungere, rimuovere o riordinare la definizione di uno strumento nel corso della conversazione.

• Modifica di text.format — sostituire uno schema di output nel bel mezzo di una sessione.

• Modificare reasoning.effort — abbassare la manopola per un turno di follow-up economico, che è la singola ottimizzazione dei costi più comune in un ciclo di agente.

Nota ciò che non è nell'elenco. Aggiungere nuovo contenuto dopo un elemento di ragionamento va bene. Eliminare interi elementi va bene. La regola è direzionale: l'API guarda all'indietro da ciascun elemento di ragionamento, e qualsiasi cosa si sia spostata davanti ad esso lo invalida.

Una modifica di prefisso è quattro modifiche ordinarie al codice

Ognuno di quei quattro trigger è qualcosa che un ingegnere competente fa di proposito. È questo il problema. Una modifica al prefisso non è un errore che si commette una volta sola; è un pattern di progettazione che si adotta perché è corretto sotto ogni altro aspetto.

Il caso del troncamento del contesto è il più chiaro. Un agente a esecuzione prolungata riempie la sua finestra, quindi scarti i turni più vecchi o li riassumi. È una buona pratica, risparmia token di input e su GPT-6 Sol non costava nulla. Su GPT-6.2 elimina il ragionamento che è venuto dopo quei turni, e il modello inizia il passo successivo avendo dimenticato perché ha scelto lo strumento che ha scelto.

Il caso del selettore dello sforzo è peggiore, perché è un controllo dei costi che si inverte. L’ottimizzazione naturale — eseguire i turni di routine a basso sforzo e passare ad alto quando il lavoro si fa difficile — è una modifica a reasoning.effort tra una richiesta e l’altra. Su GPT-6.2 quella modifica fa cadere il ragionamento, quindi l’escalation costosa rielabora da zero il ragionamento costoso. Hai pagato per alto e hai ottenuto alto che parte da freddo, che è una cosa diversa e più costosa.

Quanto costa un elemento di ragionamento perso

Non esiste un prezzo pubblicato per un elemento di reasoning eliminato, quindi il modo onesto di dimensionarlo è guardare a quanto costa il reasoning in primo luogo. Artificial Analysis misura l'intera suite, e i conteggi di token per attività sono la cosa più vicina a una misurazione pubblica di quanto pensiero svolge un modello di frontiera su lavoro difficile.

Su Intelligence Index v5.0.1 alla massima intensità, GPT-6.2 Sol genera 60,9M token di output per completare la suite di nove valutazioni, con un costo ponderato di $1,01 per task dell'indice e 9,3 minuti per task. GPT-6.2 Astra genera 65,8M token di output per la stessa suite e addebita $4,00 per task dell'indice a $40 per milione di token di output. Questi totali sono il limite inferiore di quanto costa una valutazione completa, e ognuno di quei token è stato acquistato alla tariffa piena per l'output. Le cifre riportate dai fornitori vanno nella stessa direzione — OpenAI afferma che GPT-6.2 Astra utilizza il 22% in meno di token di output rispetto a GPT-6 Astra sul suo benchmark interno GDPval v2 — ma si tratta di un confronto tra modelli, non di una misura di quanto un elemento eliminato aggiunga quando viene reinserito.

Il meccanismo è ciò che conta qui, non il moltiplicatore esatto. Un elemento di ragionamento che deve essere rigenerato consiste nei token di output che hai già pagato, prodotti una seconda volta. In un ciclo dell’agente che esegue venti turni su un’unica attività, perdere il ragionamento al sesto turno non ti costa il pensiero di un solo turno; ti costa la ri-derivazione più tutte le decisioni degradate che sono seguite a un contesto più limitato. Entrambe le cose sono invisibili in un log per richiesta.

A generated single-column scoreboard with six rows. Cached input $0.10 per million tokens; uncached input $2.00 per million tokens; cost ratio on the affected span 20x; documented triggers 4; reasoning after a prefix edit: dropped; diagnostic field comparison_response_id. A footer line attributes the behaviour to OpenAI's preserved-reasoning guide and the cache rates to the GPT-6.2 Sol model page, 17 November 2026.

La riscrittura append-only, in cinque mosse

La guida di O​penAI è di smettere di modificare il prefisso e iniziare ad accodare a esso. È facile a dirsi e comporta la modifica di cinque punti di chiamata separati, quindi eccoli insieme, con i nomi esatti dei campi.

• Sforzo di ragionamento — non modificare reasoning.effort tra le richieste. Aggiungi invece un elemento configuration_update a input, che riporta il nuovo livello di sforzo. La forma documentata è {"type": "configuration_update", "reasoning": {"effort": "high"}}, inserita prima del messaggio utente successivo. L'impostazione persiste finché un altro aggiornamento non la sovrascrive, e puoi modificare reasoning.effort e text.format nello stesso elemento.

• Schema di output — stesso elemento, stesso trattamento. Modifica text.format tramite un configuration_update anziché modificando la richiesta. Aggiornare solo uno dei due lascia l'altro dov'era, un modo subdolo per ottenere uno schema inaspettato.

• Strumenti — aggiungi strumenti con un elemento additional_tools inviato sotto il ruolo developer, che porta un array tools, riprodotto nella sua posizione originale. Mantieni le definizioni esistenti nel loro ordine originale e usa tool_choice con allowed_tools per limitare ciò che il modello può chiamare.

• Istruzioni — inserisci il testo riutilizzabile nel primo messaggio developer all'interno di input, non nel campo instructions di primo livello. Per modificarlo, aggiungi un nuovo messaggio developer. Su GPT-6.2 e versioni successive, il campo instructions di primo livello viene aggiunto dopo input, quindi modificarlo costituisce di per sé una modifica del prefisso.

• Compattazione — con la compattazione proprietaria di O​penAI, ovvero l'endpoint /responses/compact o context_management, il reasoning sopravvive al cambio di prefisso. Ometti le istruzioni quando chiami /responses/compact. Con la compattazione personalizzata, inserisci l'elemento compattato alla fine del contesto. Nota il lato critico: la troncatura automatica e /responses/compact rifiutano entrambe le cronologie che contengono elementi configuration_update, quindi una sessione che usa il nuovo pattern non può essere compattata dal vecchio percorso.

Se esegui la compattazione manualmente con un elemento compaction_trigger, aggiungi un nuovo configuration_update dopo la compattazione e ripeti ogni impostazione che hai modificato. Nulla viene trasferito oltre il confine per te.

Rilevarlo prima che lo faccia la tua fattura

Il motivo per cui questo cambiamento di comportamento è pericoloso è che fallisce in silenzio. L'API restituisce 200. La risposta sembra normale. Ciò di cui hai bisogno è un modo per vedere la perdita, e O​penAI ne fornisce uno: imposta prompt_cache_options.comparison_response_id su un ID di risposta precedente, poi leggi il motivo diagnostico e il conteggio dei token in cache. Il campo input_transformations elenca quali elementi di ragionamento sono stati rimossi e perché, e un motivo prefix_mismatch corrisponde tramite id a un elemento di ragionamento nell'output della risposta precedente.

Due limiti onesti su quella diagnostica. Riporta la prima differenza su base best-effort e non può verificare se il modello abbia effettivamente riutilizzato il ragionamento che ha mantenuto. Quindi trattala come un rilevatore di fumo, non come un misuratore: ti dice che si è verificata una perdita, non quanto è costata.

L'altra metà della strumentazione è la cache, ed è qui che la storia dei token incontra quella dei costi. La cache dei prompt confronta le richieste dall'inizio, quindi una modifica al prefisso non elimina solo gli elementi di ragionamento; interrompe il riutilizzo della cache dal punto della modifica in poi. Tutto ciò che segue quel punto viene fatturato alla tariffa dell'input non in cache. Su GPT-6.2 Sol sono $2,00 per milione di token invece di $0,10 — una differenza di venti volte sull'intervallo interessato. Su GPT-6.2 Astra sono $8,00 invece di $0,40, lo stesso rapporto di venti volte su una scheda quattro volte più grande.

È questo il numero da tenere d'occhio, ed è quello che un post di lancio non metterà mai in titolo: il cache miss è il costo in fattura, e il ragionamento perso è la regressione di qualità, ed entrambi derivano dalla stessa modifica. I token per il campo instructions di primo livello su GPT-6.2 e versioni successive vengono fatturati alla tariffa degli input non in cache proprio per questo motivo — il campo resta fuori dal prefisso in cache.

Screenshot of the Artificial Analysis page for GPT-6.2 Sol, showing an Intelligence Index of 57 at max effort, a weighted cost of $1.01 per index task, 9.3 minutes per task, 72 output tokens per second and 60.9M output tokens used across the nine-evaluation suite.

Dove questo lascia un deployment di Sol 6.1

Niente di tutto ciò depone contro il passaggio. GPT-6.1 Sol ottiene 55 su Intelligence Index v5.0.1 con sforzo massimo, mentre GPT-6.2 Sol ottiene 57, a 1,27 $ per attività dell'indice contro 1,01 $ e 24,9 minuti per attività contro 9,3: un modello più veloce, più economico e leggermente più intelligente, con un listino invariato di 2 $ per input, 0,10 $ per la cache e 10 $ per output. L'aggiornamento è reale. Ciò che è cambiato è che ora l'aggiornamento ha una precondizione di correttezza, e la precondizione è che la gestione delle conversazioni sia di tipo append-only.

Il modo più economico per rispondere è un confronto di fatture piuttosto che un confronto di punteggi: inviare una piccola porzione di traffico reale a gpt-6.2-sol con la strumentazione append-only esistente attivata, e leggere la quota di token in cache su entrambi i rami dopo un giorno. OrcaRouter serve openai/gpt-6.1-sol al prezzo di listino del fornitore senza alcun sovrapprezzo, e la contabilità della cache per richiesta arriva nel blocco usage, quindi il lato 6.1 di quel registro non richiede un contratto separato per essere letto. Il failover è ciò che impedisce che la piccola porzione diventi un incidente: qualsiasi richiesta che la nuova rotta non può servire ricade sul modello che già risponde. La parte di questo che va detta chiaramente è che GPT-6.2 Sol non è ancora nel catalogo qui, quindi il ramo 6.2 viene chiamato direttamente contro OpenAI mentre il ramo 6.1 viene chiamato contro di noi.

Quello a cui prestare attenzione in seguito è più ristretto di quanto non sembri. Il comportamento è documentato, il percorso di migrazione è documentato e le diagnostiche esistono. Ciò che non esiste ancora è una misurazione pubblica di quanto costa, in token di output, un elemento di ragionamento scartato su un compito reale a lungo orizzonte, e finché qualcuno non ne pubblica una, ogni stima del danno è un modello del meccanismo anziché una lettura su uno strumento di misura. Se esegui agenti su larga scala, sei in una posizione migliore per produrre quel numero rispetto a qualsiasi benchmark — e lo produrrai che tu lo voglia o no, ed è questo l'argomento a favore di strumentare già ora.

Screenshot of OpenAI's preserved-reasoning guide, showing the section on configuration_update and additional_tools items, the list of changes that cause reasoning items to be dropped, and the append-only guidance for changing effort, tools and output schema mid-conversation.

Confrontati in questo articolo3

Rilevato da questo articolo · Benchmark: Artificial Analysis · aggiornato ogni giorno