Una scala prezzi a tre colonne per GPT-6.2 Astra: Standard a $8,00 input e $40,00 output per milione di token con streaming e nessuna finestra scontata; una finestra di 2h al 30% sotto Standard, con $5,60 input, $0,28 in cache e $28,00 output senza streaming; e una finestra di 8h al 40% sotto Standard, con $4,80 input, $0,24 in cache e $24,00 output, con una nota a piè di pagina che la indica come obiettivo e non come garanzia. Il logo OrcaRouter si trova nell'angolo in basso a destra.
Guides & Insights

GPT-6.2 Astra Background Mode: sconto del 40%, pagato in tempo di orologio

Autore

jinhao.song

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

La via più economica di OpenAI per GPT-6.2 Astra non cambia il prezzo del modello. Cambia il momento in cui sei disposto a ricevere la risposta. Invia la stessa richiesta tramite l'API Responses con background impostato su true e background_options.completion_window impostato su 8h, e i token di GPT-6.2 Astra che hanno un prezzo di listino di $8 per l'input e $40 per l'output per milione vengono fatturati a $4,80 e $24. Su GPT-6.2 Sol la tariffa da $2 e $10 diventa $1,40 e $7. Stessi pesi, stesso ragionamento, stessa finestra di contesto. GPT-6.2 Sol, il più economico dei due, riceve lo stesso identico trattamento: $1,40 e $7 nella finestra di otto ore contro $2 e $10 a Standard. Quello che cambia è la tua posizione in coda.

Quell'offerta è stata rilasciata il 17 novembre 2026, nella stessa finestra di changelog dei due modelli stessi, ed è facile interpretarla erroneamente come un taglio di prezzo. Non lo è. Un taglio di prezzo segue il modello ovunque venga chiamato. Una finestra di completamento è un flag su un solo endpoint, e ogni proprietà che la rende preziosa per lo scheduler di OpenAI è una proprietà che devi accettare: nessuno streaming, nessuna condivisione della cache con il traffico normale e un budget di rate limit che ora condividi con la Batch API.

Il motivo per cui merita più di una riga in un changelog è che lo sconto è insolitamente profondo per un livello che mantiene piena la qualità del modello. Batch è scontato del 50% da anni, ma Batch accetta solo richieste che puoi inviare come file e dimenticare. Questo è uno sconto del 40% per una conversazione live con un agente, con turni di follow-up e output degli strumenti, purché la conversazione possa tollerare una coda. Per molti carichi di lavoro di produzione questa è la differenza tra una questione di sostenibilità economica e una questione di architettura.

Che cos'è la finestra, in termini di API

La modalità background di per sé non è una novità: è il modo in cui la Responses API esegue una richiesta lunga in modo asincrono. Si imposta background su true, si riceve subito un ID di risposta e si raccoglie il risultato in un secondo momento tramite un webhook su response.completed oppure eseguendo il polling dell'endpoint di recupero finché lo stato indica queued o in_progress. La modalità background è sempre servita a non mantenere una connessione aperta per un'esecuzione di un agente di venti minuti.

La novità è che la coda in background ora prevede livelli con prezzi. background_options.completion_window accetta soonest, 2h o 8h. Soonest è il valore predefinito e non comporta sconti; è il caso "genera un report mentre qualcuno è in attesa". 2h è il 30% in meno rispetto a Standard e 8h è il 40% in meno, e la documentazione specifica che il conteggio del tempo target inizia quando l'API accetta la richiesta iniziale e si applica a quella risposta.

«Targets completion within the selected window» è la frase da leggere due volte. È un obiettivo di pianificazione, non una garanzia e non un ritardo fisso, e l'indicazione fornita dalle API stesse è che gli orari di avvio dipendono dalla pianificazione. Una richiesta nella finestra di otto ore non viene trattenuta per otto ore e poi eseguita; viene eseguita quando la capacità lo consente e, se termina in quattro minuti, la ottieni in quattro minuti. Quello a cui hai rinunciato è il diritto di lamentarti quando non accade.

La scala in dollari

Entrambi i modelli coperti dalla finestra, con prezzi per ciascun livello, per milione di token, usando le tariffe Standard pubblicate da OpenAI come riferimento:

• GPT-6.2 Astra, Standard — 8 $ input, 0,40 $ input in cache, 40 $ output

• GPT-6.2 Astra, finestra di 2 ore — $5.60 input, $0.28 in cache, $28 output

• GPT-6.2 Astra, finestra di 8 h — $4,80 input, $0,24 in cache, $24 output

• GPT-6.2 Sol, Standard — 2 $ input, 0,10 $ cached, 10 $ output

• GPT-6.2 Sol, finestra di 2 ore — $1,60 input, $0,08 in cache, $8 output

• GPT-6.2 Sol, finestra di 8h — $1.40 input, $0.06 cache, $7 output

• Per dare un'idea della scala, lo stesso modello all'estremità più veloce: la modalità Fast raddoppia la tariffa Standard a $16 e $80; Ultrafast è 3× lo Standard a $24 e $120 fino al 28 febbraio 2027 e 6× a $48 e $240 dal 1° marzo 2027

Three stacked bars showing what a 40% window does to a $4.00 Artificial Analysis task on GPT-6.2 Astra: $4.00 at Standard, about $2.80 in the 2h window and about $2.40 in the 8h window, beside a card breaking the $4.00 into $1.19 of cache reads, $1.10 of cache writes, $1.64 of output and $0.07 of uncached input. The OrcaRouter logo sits in the bottom-right corner.

Quelle sono tariffe per token, e le tariffe per token non corrispondono a quanto costa un'attività. Il costo ponderato di Artificial Analysis per un'attività completata dell'Intelligence Index su GPT-6.2 Astra ammonta a $4,00 in Standard, sul suo indice v5.0.1 misurato con il massimo impegno. Se lo sconto sulla finestra si applicasse uniformemente alle categorie di quella fattura, la stessa attività costerebbe $2,80 nella finestra di due ore e $2,40 in quella di otto ore. Su diecimila attività, sarebbero $28.000 e $24.000 invece di $40.000.

Quel "se" ha un peso reale. La documentazione di OpenAI descrive lo sconto come applicabile alle tariffe per token del modello su ogni richiesta idonea, comprese quelle successive, e la sua pagina dei prezzi ripete la stessa formulazione. Nessuna delle due pagine suddivide lo sconto per categoria di token, e una fattura a token per questo modello non è composta principalmente da input grezzo: nella misurazione di Artificial Analysis, 1,19 $ dei 4,00 $ erano letture dalla cache, 1,10 $ erano scritture nella cache e solo 0,065 $ erano input non in cache, con 1,64 $ in output. Le scritture nella cache hanno una tariffa propria — 10 $ per milione per la cache da 30 minuti e 20 $ per quella da 12 ore — quindi un carico di lavoro dominato dalla scrittura di prompt di grandi dimensioni nella cache potrebbe non scendere esattamente del 40%. Considera il 40% come la forma dello sconto e misura la tua fattura invece di dare per scontato il moltiplicatore.

Quattro condizioni che erediti

Lo sconto non è disponibile per ogni richiesta, e le esclusioni sono il punto in cui le implementazioni di solito sbagliano.

• Solo elaborazione Standard. Le finestre scontate richiedono che service_tier sia impostato su default. Se lo lasci su auto, la richiesta è idonea solo quando l'API seleziona Standard per caso, il che significa che il tuo sconto diventa un testa o croce che non puoi prevedere in anticipo.

• Nessuno streaming. Lo streaming funziona solo con soonest. Per 2h e 8h devi omettere stream oppure impostarlo a false, e non puoi eseguire lo streaming di una risposta in un secondo momento se non è stata creata con lo streaming.

• Un unico limite di frequenza condiviso. Le richieste nelle finestre di due ore e di otto ore condividono il limite di frequenza Batch/Background con i job dell'API Batch, e i token di input vengono conteggiati al momento dell'invio. Un esperimento che invia un documento da un milione di token nel background di otto ore non si limita ad attendere; consuma il margine che i tuoi job Batch stavano usando.

• I follow-up devono corrispondere. L'esecuzione di un agente è una catena e lo sconto sopravvive alla catena solo se ogni follow-up ripete la finestra, il continuation_id, il modello, il progetto e l'impostazione del background. Riutilizza l'ID di continuazione e anche il follow-up diventa idoneo a una priorità di coda più elevata. Se cambi anche uno solo di questi elementi, il turno successivo è una richiesta Standard.

A 2x2 grid of cards headed 'Four things the window takes with it': Standard processing only with the Flex tier gone, no streaming so you receive the finished response rather than tokens, a rate limit shared with Batch jobs where input tokens count at submission, and a split prompt cache whose window-written entries are invisible to Standard requests. The OrcaRouter logo sits in the bottom-right corner.

C'è una quinta condizione nascosta nelle regole della cache, ed è quella con la coda più lunga. Le richieste standard al di fuori delle finestre scontate non possono riutilizzare le voci della cache del prompt create da richieste in background di due ore o otto ore, anche quando il prompt è identico, e vale anche il contrario. Se metà del tuo traffico passa in una finestra e l'altra metà su richiesta, hai silenziosamente diviso in due la cache del prompt e stai pagando per scrivere due volte lo stesso prefisso. Lo sconto su un lato di quella divisione è compensato da una scrittura in cache sull'altro, e il modello con una scrittura in cache da 10 $ per milione è esattamente quello sbagliato da dividere.

Il costo che non è sulla fattura

Lo sconto acquista token con il tempo, e il tempo non è limitato dalla finestra. Si consideri la revisione notturna dei documenti che la documentazione stessa usa come esempio: una richiesta da otto ore, una chiamata a uno strumento e un follow-up che riporta indietro il documento recuperato. Entrambe le risposte si qualificano per il 40%, e il target riparte per la seconda. Nel migliore dei casi l'intera esecuzione è conclusa prima di colazione. Nel peggiore dei casi ciascuna delle due risposte impiega quasi il proprio target completo, il che porta il limite massimo end-to-end a circa sedici ore anziché otto.

Questa aritmetica non scala bene per agenti di lunga durata. Un flusso di lavoro di dodici turni che fa passare ogni turno attraverso la finestra di otto ore ha un tetto di quattro giorni, e la pianificazione reale si colloca da qualche parte tra il caso migliore e quel tetto, senza alcuna distribuzione pubblicata. Il modo onesto di implementarlo è decidere per flusso di lavoro, non per chiamata: una pipeline il cui output viene consumato la mattina successiva è una scelta naturale, mentre una sessione interattiva no, indipendentemente da quanti token farebbe risparmiare. La finestra è un'offerta per capacità a basso costo, e le offerte vengono soddisfatte quando c'è capacità da riempire.

Il punto debole di Flex di cui nessuno parla

Prima di queste finestre, il modo per ottenere uno sconto su questa famiglia di modelli era service_tier: flex: 50% in meno rispetto a Standard, con priorità inferiore. Flex esiste ancora sui modelli più vecchi — GPT-6 Astra è indicato a $5 e $25 nella tabella Flex rispetto a $10 e $50 in Standard — ma la guida di riferimento di OpenAI afferma chiaramente che, a partire da GPT-6.2 Astra e Sol, i nuovi modelli vengono lanciati senza l'elaborazione Flex, e che per il lavoro di lunga durata si dovrebbero usare finestre di completamento scontate con l'elaborazione Standard.

Leggi i due numeri affiancati e la direzione di marcia è visibile. Nella generazione precedente, un chiamante paziente poteva ottenere uno sconto del 50%. In questa, il livello più profondo è al 40% e richiede di impostare il lavoro come background. Il sostituto non è un miglioramento netto rispetto alla vecchia opzione; è un'opzione più ristretta con uno sconto inferiore, e arriva legato a una struttura di richiesta — asincrona, non in streaming, con un singolo ID di risposta — che non tutte le integrazioni possono adottare.

Batch va ancora più in profondità, ed è lo strumento sbagliato per metà di questo.

L'API Batch resta scontata del 50% con un tempo di elaborazione di 24 ore e, solo sul prezzo, batte qualsiasi finestra in background. La distinzione è strutturale, non una questione di grado. Batch accetta un file JSONL di richieste indipendenti e restituisce un file di risultati; il flusso di lavoro non ha memoria tra una riga e l'altra. La modalità background è per una risposta alla volta, con lo stato della conversazione trasportato tramite previous_response_id e una catena di chiamate agli strumenti che l'applicazione deve eseguire nel mezzo.

Quindi la decisione non è «quale costa meno» ma «il mio carico di lavoro ha una via di mezzo». Cinquemila chiamate di classificazione indipendenti appartengono a Batch e lo hanno sempre fatto. Un'esecuzione di agente che legge un documento, chiama una funzione e poi scrive un report non può essere espressa affatto come batch — la sua seconda richiesta non esiste finché la prima non ritorna. È questo il divario che le finestre colmano, ed è reale: il 40% è il primo sconto che OpenAI ha offerto per il lavoro con stato e a più turni.

La nota a piè di pagina sull'archiviazione con conseguenze sul piano della conformità

La modalità in background memorizza temporaneamente i dati della risposta anche quando store è false o il progetto utilizza Zero Data Retention, perché l'API necessita dei dati per eseguire la richiesta e rendere il risultato recuperabile. È crittografato a riposo per ogni finestra, inclusa soonest, e la raccomandazione è di salvare personalmente l'input originale e l'output completo della risposta finché è ancora possibile recuperarlo. Non è indicata alcuna durata (TTL) per quella memorizzazione temporanea.

Per un team che ha scelto Zero Data Retention per un carico di lavoro regolamentato, "memorizzati temporaneamente" è una frase che deve arrivare a chi ha approvato la revisione della gestione dei dati, e deve arrivare prima che venga messo in coda il primo job da otto ore, non dopo. Lo sconto non modifica il livello di conformità dell'endpoint; cambia però per quanto tempo una richiesta e il suo output restano in uno stato che non puoi vedere.

Che cosa aggiunge e che cosa non aggiunge il routing qui

Una cosa su cui vale la pena essere precisi, perché è facile sbagliarsi quando viene annunciato uno sconto: questa è una funzionalità di pianificazione, non un prezzo di listino. OrcaRouter trasmette il prezzo di listino del provider con 0% di ricarico, ed è per questo che un vero taglio di prezzo di OpenAI compare sul nostro lato lo stesso giorno — ma una finestra di completamento è un flag sull'endpoint di OpenAI stesso, e non viaggia con il modello. Chiamare GPT-6.2 Astra tramite un router non riproduce il 40%, e nessun router può farlo, perché è lo scheduler a concedere lo sconto.

Restano quindi le due cose per cui il routing è davvero utile in questa forma di deployment. La prima è la scelta del modello: dei quattro modelli coperti dalle finestre — GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra e GPT-6 Luna — la fascia economica è già nel nostro catalogo con GPT-6 Luna e GPT-6.1 Sol a prezzo di listino, quindi la decisione sul tiering e quella sul provider restano su un'unica chiave invece che su due contratti. La seconda è proteggere le chiamate che non possono attendere. Un sistema che colloca i propri job notturni in una finestra di otto ore ha reso più importante, non meno, il proprio percorso sensibile alla latenza, e il failover automatico su quel percorso è ciò che impedisce a un singolo incidente del provider di trasformare una chiamata da cinque secondi in un'interruzione del servizio. La coda e il failover sono complementari: investi la pazienza dove ne disponi, così puoi permetterti di essere intollerante ovunque altrove.

OpenAI's developer documentation page for Responses API background mode, showing the background flag set to true, the background_options object with its completion_window values of soonest, 2h and 8h, and the notes on polling or webhook notification of the completed response.

La regola empirica

Se una risposta viene consumata da una persona che la sta guardando, qui non si applica nulla: usa prima possibile, trasmettila in streaming e paga Standard. Se una risposta viene consumata da un job pianificato, da un report che arriva prima di una riunione mattutina o da una pipeline la cui fase successiva viene eseguita stasera, la finestra di otto ore è uno sconto del 40% sui token a piena qualità e l'unica vera domanda è se la tua integrazione può vivere senza streaming e con una cache dei prompt separata. La finestra di due ore al 30% è la scomoda via di mezzo — abbastanza consistente da valere un cambio di architettura solo se il lavoro è realmente vincolato a una scadenza di due ore, cosa che la maggior parte del lavoro di tipo batch non è.

Il numero da tenere d'occhio non è la percentuale di sconto, ma la quota del vostro traffico che già attende. I team che eseguono agenti durante la notte ottengono il 40% di sconto su una fattura che avrebbero comunque pagato. Ai team che li eseguono in modalità interattiva viene offerto uno sconto che non possono usare, su un modello che non vende più il livello Flex al 50% che un tempo era la loro soluzione di ripiego. Quel secondo gruppo dovrebbe leggere la pagina dei prezzi prima della pagina dell'architettura, perché il 17 novembre il modo più economico per chiamare GPT-6.2 Astra ha smesso di essere un livello da selezionare ed è diventato una pianificazione da accettare.

Confrontati in questo articolo1

Rilevato da questo articolo · Benchmark: Artificial Analysis · aggiornato ogni giorno