Eine dreispaltige Preisstaffel für GPT-6.2 Astra: Standard zu 8,00 $ Eingabe und 40,00 $ Ausgabe pro Million Tokens mit Streaming und ohne Rabattfenster, ein 2-h-Fenster 30 % unter Standard mit 5,60 $ Eingabe, 0,28 $ gecacht und 28,00 $ Ausgabe ohne Streaming sowie ein 8-h-Fenster 40 % unter Standard mit 4,80 $ Eingabe, 0,24 $ gecacht und 24,00 $ Ausgabe, in der Fußzeile als Zielvorgabe statt Garantie ausgewiesen. Das OrcaRouter-Logo befindet sich in der unteren rechten Ecke.
Guides & Insights

GPT-6.2 Astra Hintergrundmodus: 40 % Rabatt, Abrechnung nach Wanduhrzeit

Autor

jinhao.song

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

OpenAIs günstigster Weg zu GPT-6.2 Astra ändert nicht den Preis des Modells. Er ändert, wann du bereit bist, die Antwort zu erhalten. Schicke dieselbe Anfrage über die Responses API mit background auf true gesetzt und background_options.completion_window auf 8h gesetzt, und die GPT-6.2-Astra-Tokens, die mit 8 $ für Input und 40 $ für Output pro Million gelistet sind, werden mit 4,80 $ und 24 $ abgerechnet. Bei GPT-6.2 Sol wird aus der 2-$- und 10-$-Karte 1,40 $ und 7 $. Gleiche Gewichte, gleiches Reasoning, gleiches Kontextfenster. GPT-6.2 Sol, das günstigere der beiden, erhält die identische Behandlung: 1,40 $ und 7 $ im Acht-Stunden-Fenster gegenüber 2 $ und 10 $ im Standard. Geändert hat sich dein Platz in einer Warteschlange.

Dieser Trade-off wurde am 17. November 2026 veröffentlicht, im selben Changelog-Fenster wie die beiden Modelle selbst, und er lässt sich leicht als Preissenkung missverstehen. Das ist er nicht. Eine Preissenkung folgt dem Modell, wo immer es aufgerufen wird. Ein Completion-Fenster ist ein Flag an einem Endpoint, und jede Eigenschaft, die es für OpenAIs Scheduler wertvoll macht, ist eine Eigenschaft, die Sie akzeptieren müssen: kein Streaming, kein Cache-Sharing mit normalem Traffic und ein Rate-Limit-Budget, das Sie sich jetzt mit der Batch-API teilen.

Der Grund, warum es mehr als eine Zeile im Changelog verdient, ist, dass der Rabatt für eine Stufe, die die volle Modellqualität beibehält, ungewöhnlich hoch ist. Batch ist seit Jahren 50 % günstiger, aber Batch nimmt nur Anfragen an, die man als Datei einreichen und vergessen kann. Hier gibt es 40 % Rabatt auf eine Live-Agenten-Konversation mit Folgerunden und Tool-Ausgaben, solange die Konversation eine Warteschlange tolerieren kann. Für viele Produktions-Workloads ist das der Unterschied zwischen einer Frage der Bezahlbarkeit und einer Architekturfrage.

Was das Fenster in API-Begriffen ist

Der Background-Modus selbst ist nicht neu: Er ist die Art der Responses API, eine lange Anfrage asynchron auszuführen. Du setzt background auf true, bekommst sofort eine Response-ID zurück und holst das Ergebnis später über einen Webhook auf response.completed ab oder indem du den Retrieve-Endpoint abfragst, während der Status queued oder in_progress lautet. Beim Background-Modus ging es schon immer darum, keine Verbindung für einen zwanzigminütigen Agent-Lauf offen zu halten.

Das Neue ist, dass die Hintergrund-Warteschlange jetzt Stufen mit Preisen hat. background_options.completion_window akzeptiert soonest, 2h oder 8h. Soonest ist der Standard und gewährt keinen Rabatt; es ist der Fall „einen Bericht erstellen, während jemand wartet“. 2h liegt 30 % unter Standard und 8h liegt 40 % darunter, und die Dokumentation stellt ausdrücklich klar, dass die Zielzeit beginnt, wenn die API die ursprüngliche Anfrage annimmt, und für diese Antwort gilt.

„Strebt eine Fertigstellung innerhalb des ausgewählten Zeitfensters an“ ist der Satz, den man zweimal lesen sollte. Es ist ein Planungsziel, keine Garantie und keine feste Verzögerung, und der Rat der API selbst lautet, dass Startzeiten von der Planung abhängen. Eine Anfrage im Acht-Stunden-Zeitfenster wird nicht acht Stunden zurückgehalten und dann ausgeführt; sie wird ausgeführt, sobald Kapazität verfügbar ist, und wenn sie in vier Minuten fertig ist, erhalten Sie sie in vier Minuten. Was Sie aufgegeben haben, ist das Recht, sich zu beschweren, wenn es nicht so kommt.

Die Leiter in Dollar

Beide vom Fenster abgedeckten Modelle, bepreist je Tarifstufe pro Million Tokens, mit OpenAIs veröffentlichten Standardtarifen als Basis:

• GPT-6.2 Astra, Standard — 8 $ Eingabe, 0,40 $ zwischengespeicherte Eingabe, 40 $ Ausgabe

• GPT-6.2 Astra, 2-Stunden-Fenster — 5,60 $ Eingabe, 0,28 $ zwischengespeichert, 28 $ Ausgabe

• GPT-6.2 Astra, 8-Stunden-Fenster — 4,80 $ Eingabe, 0,24 $ Cache, 24 $ Ausgabe

• GPT-6.2 Sol, Standard — 2 $ Eingabe, 0,10 $ zwischengespeichert, 10 $ Ausgabe

• GPT-6.2 Sol, 2-Stunden-Fenster — $1,60 Eingabe, $0,08 Cache, $8 Ausgabe

• GPT-6.2 Sol, 8-Stunden-Fenster — 1,40 $ Eingabe, 0,06 $ Cache, 7 $ Ausgabe

• Zum Vergleich: Beim selben Modell am schnellen Ende verdoppelt der Fast-Modus den Standardtarif auf $16 und $80; Ultrafast entspricht 3× Standard zu $24 und $120 bis 28. Februar 2027 und 6× zu $48 und $240 ab 1. März 2027

Three stacked bars showing what a 40% window does to a $4.00 Artificial Analysis task on GPT-6.2 Astra: $4.00 at Standard, about $2.80 in the 2h window and about $2.40 in the 8h window, beside a card breaking the $4.00 into $1.19 of cache reads, $1.10 of cache writes, $1.64 of output and $0.07 of uncached input. The OrcaRouter logo sits in the bottom-right corner.

Das sind Tokenpreise, und Tokenpreise sind nicht das, was eine Aufgabe kostet. Die gewichtete Abrechnung von Artificial Analysis für eine abgeschlossene Intelligence-Index-Aufgabe auf GPT-6.2 Astra beläuft sich im Standard-Tarif auf 4,00 $, auf seinem v5.0.1-Index, gemessen bei maximalem Aufwand. Wenn der Fensterrabatt einheitlich auf die Kategorien in dieser Abrechnung angewendet würde, würde dieselbe Aufgabe im Zweistundenfenster 2,80 $ und im Achtstundenfenster 2,40 $ kosten. Über zehntausend Aufgaben hinweg sind das 28.000 $ und 24.000 $ statt 40.000 $.

Dieses „if“ leistet echte Arbeit. Die Dokumentation von OpenAI beschreibt den Rabatt als auf die Token-Preise des Modells bei jeder berechtigten Anfrage anzuwenden, einschließlich Folgeanfragen, und die Preisseite wiederholt dieselbe Formulierung. Keine der beiden Seiten schlüsselt den Rabatt nach Token-Kategorie auf, und eine Token-Rechnung für dieses Modell besteht nicht überwiegend aus rohem Input: Bei der Messung von Artificial Analysis entfielen von den 4,00 $ 1,19 $ auf Cache-Lesevorgänge, 1,10 $ auf Cache-Schreibvorgänge und nur 0,065 $ auf nicht gecachten Input, bei 1,64 $ für Output. Cache-Schreibvorgänge werden zu ihrem eigenen Tarif berechnet — 10 $ pro Million für den 30-Minuten-Cache und 20 $ für den 12-Stunden-Cache —, sodass eine Arbeitslast, die überwiegend darin besteht, große Prompts in den Cache zu schreiben, möglicherweise nicht um genau 40 % sinkt. Betrachten Sie die 40 % als die Form des Rabatts und messen Sie Ihre eigene Rechnung, statt den Multiplikator anzunehmen.

Vier Erkrankungen, die Sie erben

Der Rabatt ist nicht bei jeder Anfrage verfügbar, und bei den Ausnahmen gehen Implementierungen normalerweise schief.

• Nur Standardverarbeitung. Vergünstigte Zeitfenster erfordern, dass service_tier auf default gesetzt ist. Wenn Sie es auf auto belassen, qualifiziert sich die Anfrage nur, wenn die API zufällig Standard auswählt – das heißt, Ihr Rabatt wird zum Münzwurf, den Sie nicht im Voraus einsehen können.

• Kein Streaming. Streaming funktioniert nur mit soonest. Für 2h und 8h müssen Sie stream weglassen oder auf false setzen, und eine Antwort kann später nicht gestreamt werden, wenn sie nicht mit Streaming erstellt wurde.

• Ein gemeinsames Ratenlimit. Anfragen in den Zwei-Stunden- und Acht-Stunden-Fenstern teilen sich das Batch-/Background-Ratenlimit mit Batch-API-Jobs, und Eingabe-Token werden bei der Einreichung gezählt. Ein Experiment, das ein Dokument mit einer Million Token in den Acht-Stunden-Hintergrund schickt, wartet nicht nur; es verbraucht den Spielraum, den Ihre Batch-Jobs genutzt haben.

• Folgeanfragen müssen übereinstimmen. Ein Agentenlauf ist eine Kette, und der Rabatt bleibt nur dann über die Kette hinweg erhalten, wenn jede Folgeanfrage das Fenster, die continuation_id, das Modell, das Projekt und die Hintergrundeinstellung wiederholt. Wenn Sie die continuation_id wiederverwenden, wird die Folgeanfrage außerdem für eine höhere Warteschlangenpriorität berücksichtigt. Ändern Sie eines dieser Elemente, ist der nächste Turn eine Standardanfrage.

A 2x2 grid of cards headed 'Four things the window takes with it': Standard processing only with the Flex tier gone, no streaming so you receive the finished response rather than tokens, a rate limit shared with Batch jobs where input tokens count at submission, and a split prompt cache whose window-written entries are invisible to Standard requests. The OrcaRouter logo sits in the bottom-right corner.

Es gibt eine fünfte Bedingung, die in den Cache-Regeln verborgen ist, und sie ist die mit dem längsten Rattenschwanz. Standardanfragen außerhalb der rabattierten Zeitfenster können keine Prompt-Cache-Einträge wiederverwenden, die von zweistündigen oder achtstündigen Hintergrundanfragen erstellt wurden, selbst wenn der Prompt identisch ist – und umgekehrt gilt dasselbe. Wenn die Hälfte Ihres Traffics in einem Zeitfenster läuft und die andere Hälfte bedarfsgesteuert, haben Sie Ihren Prompt-Cache still und leise in zwei Teile geteilt und zahlen dafür, dasselbe Präfix zweimal zu schreiben. Der Rabatt auf der einen Seite dieser Teilung wird durch einen Cache-Schreibvorgang auf der anderen Seite ausgeglichen, und das Modell mit $10 pro Million für Cache-Schreibvorgänge ist genau das falsche, um geteilt zu werden.

Die Kosten, die nicht auf der Rechnung stehen

Der Rabatt erkauft Tokens mit Zeit, und die Zeit ist nicht durch das Fenster begrenzt. Man betrachte die nächtliche Dokumentenprüfung, die die Dokumentation selbst als Beispiel verwendet: eine achtstündige Anfrage, ein Tool-Aufruf und eine Folgeanfrage, die das abgerufene Dokument zurückliefert. Beide Antworten kommen für die 40 % infrage, und für die zweite wird das Ziel neu gestartet. Im besten Fall ist der gesamte Lauf vor dem Frühstück abgeschlossen. Im schlimmsten Fall dauert jede der beiden Antworten nahezu ihre volle Zielvorgabe, wodurch die Ende-zu-Ende-Obergrenze eher sechzehn Stunden als acht beträgt.

Diese Rechnung skaliert schlecht für lang laufende Agenten. Ein Workflow mit zwölf Runden, der jede Runde durch das Achtstundenfenster schickt, hat eine Obergrenze von vier Tagen, und die tatsächliche Zeitplanung liegt irgendwo zwischen dem Bestfall und dieser Obergrenze, ohne veröffentlichte Verteilung. Der ehrliche Weg, es einzusetzen, ist, pro Workflow und nicht pro Aufruf zu entscheiden: Eine Pipeline, deren Ausgabe am nächsten Morgen genutzt wird, passt gut, eine interaktive Sitzung hingegen nicht, egal wie viele Tokens sie einsparen würde. Das Fenster ist ein Gebot für günstige Kapazität, und Gebote werden dann erfüllt, wenn Kapazität zum Auffüllen vorhanden ist.

Das Flex-Loch, das niemand erwähnt

Vor diesen Fenstern führte der Weg zu einem Rabatt auf diese Modellfamilie über service_tier: flex: 50 % unter Standard, bei niedrigerer Priorität. Flex gibt es bei den älteren Modellen noch – GPT-6 Astra ist in der Flex-Tabelle mit 5 $ und 25 $ aufgeführt, gegenüber 10 $ und 50 $ bei Standard – doch OpenAIs Hintergrundleitfaden stellt unmissverständlich klar, dass neue Modelle ab GPT-6.2 Astra und Sol ohne Flex-Verarbeitung eingeführt werden und dass langlaufende Arbeiten stattdessen vergünstigte Completion-Fenster mit Standard-Verarbeitung nutzen sollten.

Liest man die beiden Zahlen nebeneinander, ist die Richtung der Entwicklung erkennbar. Bei der vorherigen Generation konnte ein geduldiger Aufrufer 50 % Rabatt bekommen. Bei dieser liegt die tiefste Stufe bei 40 %, und sie setzt voraus, dass man die Arbeit als Hintergrund einordnet. Der Ersatz ist keine reine Verbesserung der alten Option; er ist eine engere Option mit geringerem Rabatt und kommt in einer Anfrageform – asynchron, nicht streamend, eine einzige Antwort-ID –, die nicht jede Integration übernehmen kann.

Batch geht noch tiefer und ist für die Hälfte davon das falsche Werkzeug.

Die Batch-API bleibt um 50 % reduziert und bietet eine Bearbeitungszeit von 24 Stunden; allein beim Preis schlägt sie jedes Background-Fenster. Der Unterschied ist struktureller Art und nicht nur graduell. Batch nimmt eine JSONL-Datei mit unabhängigen Anfragen entgegen und gibt eine Datei mit Ergebnissen zurück; der Workflow hat kein Gedächtnis zwischen den Zeilen. Der Background-Modus ist für jeweils eine Antwort gedacht, wobei der Konversationsstatus weitergeführt wird über previous_response_id und eine Kette von Tool-Aufrufen, die die Anwendung dazwischen ausführen muss.

Die Entscheidung lautet also nicht „Was ist günstiger“, sondern „Hat meine Workload einen Mittelweg“. Fünftausend unabhängige Klassifizierungsaufrufe gehören zu Batch und gehörten schon immer dorthin. Ein einzelner Agentenlauf, der ein Dokument liest, eine Funktion aufruft und dann einen Bericht schreibt, lässt sich überhaupt nicht als Batch ausdrücken – seine zweite Anfrage existiert erst, wenn die erste zurückkehrt. Das ist die Lücke, die die Fenster füllen, und sie ist real: Die 40 % sind der erste Rabatt, den OpenAI für zustandsbehaftete Multi-Turn-Arbeit anbietet.

Die Speicher-Fußnote mit Compliance-Konsequenzen

Der Hintergrundmodus speichert Antwortdaten vorübergehend, selbst wenn store false ist oder das Projekt Zero Data Retention verwendet, weil die API die Daten benötigt, um die Anfrage auszuführen und das Ergebnis abrufbar zu machen. Die Daten werden im Ruhezustand für jedes Zeitfenster verschlüsselt, einschließlich soonest. Es wird empfohlen, die ursprüngliche Eingabe und die vollständige Antwortausgabe selbst zu speichern, solange Sie sie noch abrufen können. Für diesen temporären Speicher ist keine festgelegte Time-to-Live angegeben.

Für ein Team, das Zero Data Retention für eine regulierte Workload gewählt hat, ist „vorübergehend gespeichert“ ein Satz, der zu der Person gehen muss, die die Datenhaltungsprüfung freigegeben hat, und zwar bevor der erste Achtstunden-Job in die Warteschlange gestellt wird, nicht danach. Der Rabatt ändert nichts an der Compliance-Position des Endpunkts; er ändert jedoch, wie lange eine Anfrage und ihre Ausgabe in einem Zustand verbleiben, den Sie nicht einsehen können.

Was Routing hier hinzufügt und was nicht

Eine Sache, bei der man präzise sein sollte, weil es bei der Ankündigung eines Rabatts leicht zu Missverständnissen kommt: Dies ist eine Scheduling-Funktion, kein Listenpreis. OrcaRouter gibt den Listenpreis des Anbieters mit 0 % Aufschlag weiter, weshalb eine echte OpenAI-Preissenkung bei uns noch am selben Tag sichtbar wird – aber ein Completion-Fenster ist ein Flag am OpenAI-eigenen Endpoint und reist nicht mit dem Modell. Der Aufruf von GPT-6.2 Astra über einen Router reproduziert die 40 % nicht, und kein Router kann das, weil der Rabatt vom Scheduler gewährt wird.

Damit bleiben die zwei Dinge übrig, für die Routing in dieser Art von Bereitstellung tatsächlich gut ist. Das erste ist die Modellwahl: Von den vier Modellen, die die Zeitfenster abdecken — GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra und GPT-6 Luna —, ist das günstige Ende bereits in unserem Katalog mit GPT-6 Luna und GPT-6.1 Sol zum Listenpreis, sodass die Einstufungsentscheidung und die Anbieterentscheidung bei einem Schlüssel statt bei zwei Verträgen bleiben. Das zweite ist der Schutz der Aufrufe, die nicht warten können. Ein System, das seine Nachtjobs in ein Acht-Stunden-Fenster legt, hat seinen latenzempfindlichen Pfad wichtiger gemacht, nicht weniger wichtig, und automatisches Failover auf diesem Pfad ist es, was verhindert, dass ein einzelner Anbieter-Zwischenfall aus einem Fünf-Sekunden-Aufruf einen Ausfall macht. Warteschlange und Failover ergänzen sich: Man setzt die Geduld dort ein, wo man sie hat, sodass man es sich leisten kann, überall sonst intolerant zu sein.

OpenAI's developer documentation page for Responses API background mode, showing the background flag set to true, the background_options object with its completion_window values of soonest, 2h and 8h, and the notes on polling or webhook notification of the completed response.

Die Faustregel

Wird eine Antwort von einem Menschen verbraucht, der gerade zusieht, gilt hier nichts davon: Verwende schnellstmöglich, streame sie und zahle Standard. Wird eine Antwort von einem geplanten Job verbraucht, von einem Bericht, der vor einem Morgenmeeting eintrifft, oder von einer Pipeline, deren nächste Stufe heute Nacht läuft, dann bedeutet das Acht-Stunden-Fenster einen Rabatt von 40 % auf Token in voller Qualität, und die einzige wirklich relevante Frage ist, ob deine Integration ohne Streaming und mit einem geteilten Prompt-Cache auskommen kann. Das Zwei-Stunden-Fenster mit 30 % ist der unangenehme Mittelweg – tief genug, um einen Architekturwechsel wert zu sein, aber nur, wenn die Arbeit tatsächlich auf zwei Stunden deadline-begrenzt ist, was bei den meisten Batch-Arbeiten nicht der Fall ist.

Die Zahl, auf die man achten sollte, ist nicht der Rabattprozentsatz, sondern der Anteil Ihres Traffics, der bereits wartet. Teams, die Agenten über Nacht laufen lassen, bekommen 40 % Rabatt auf eine Rechnung, die sie ohnehin bezahlt hätten. Teams, die sie interaktiv ausführen, wird ein Rabatt angeboten, den sie nicht nutzen können, für ein Modell, das die 50%-Flex-Stufe nicht mehr anbietet, die früher ihre Ausweichlösung war. Diese zweite Gruppe sollte die Preisseite vor der Architekturseite lesen, denn am 17. November hörte die günstigste Art, GPT-6.2 Astra aufzurufen, auf, eine Stufe zu sein, die man auswählt, und wurde zu einem Zeitplan, den man akzeptiert.

In diesem Artikel verglichen1

Aus diesem Artikel erkannt · Benchmarks: Artificial Analysis · täglich aktualisiert