Eine generierte Titelkarte mit der Aufschrift „GPT-6.2 Bewahrtes Reasoning: Präfix bearbeiten, doppelt zahlen“, mit dem Untertitel, dass Reasoning-Elemente an die unmittelbar davorliegende Gesprächshistorie gebunden sind, über drei nummerierten Zeilen: dass die Bindung mit GPT-6.2 Astra und GPT-6.2 Sol beginnt; dass vier gewöhnliche Präfix-Bearbeitungen die Elemente entfernen; und dass der betroffene Bereich $2.00 pro Million Eingabe-Token statt $0.10 berechnet.
Guides & Insights

GPT-6.2 Bewahrtes Reasoning: Präfix bearbeiten, doppelt zahlen

Autor

Elias Hawthorne

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Am 17. November 2026 lieferte O​penAI GPT-6.2 Astra und GPT-6.2 Sol mit einer Änderung an der Responses API aus, die nichts mit der Modellqualität zu tun hat, sondern ausschließlich damit, wie viel Sie dafür bezahlen. Ab diesen beiden Modellen ist ein Reasoning-Item an die davor liegende Konversationshistorie gebunden. Ändern Sie irgendetwas weiter oben im Transkript – kürzen Sie ein Tool-Ergebnis, schreiben Sie eine Developer-Nachricht um, tauschen Sie eine Zusammenfassung gegen drei alte Turns aus – und die API verwirft die nachfolgenden Reasoning-Items als Schutzmaßnahme. Das Modell muss dann bereits erledigte Arbeit erneut ausführen. Es gibt keinen Fehler, keine Warnung zum Zeitpunkt der Anfrage und keine Rechnungsposition. Es gibt eine etwas schlechtere Antwort und eine höhere Rechnung, und die beiden lassen sich schwer miteinander in Verbindung bringen.

Dies ist keine Deprecation, die sich planen lässt. Es ist ein Verhalten, das bereits heute für alle aktiv ist, die gpt-6.2-astra oder gpt-6.2-sol aufrufen, und es wird jedes Team erreichen, das ein Upgrade durchführt, weshalb es als Migrationseintrag und nicht als Fußnote in einem Changelog gelesen werden sollte.

Was hat sich in der Responses API tatsächlich geändert?

Frühere Modelle behielten ihre Reasoning-Elemente über eine Präfixänderung hinweg. Man konnte eine Entwicklernachricht zwischen den Turns umschreiben oder die ersten zehn Austausche durch eine Zusammenfassung ersetzen, und das Reasoning, das das Modell erzeugt hatte, blieb im Kontext. Das war auf genau die Weise verzeihend, in der Agent-Code nachlässig ist: Was auch immer man sendete, das Modell profitierte von seinem früheren Denken.

Nach dem neuen Verhalten prüft die API den Verlauf, und wenn sie erkennt, dass sich das Präfix vor einem Reasoning-Element geändert hat, entfernt sie dieses Element. OpenAIs eigene Dokumentation beschreibt die Konsequenz in klaren Worten – das Modell „muss möglicherweise einen Teil seiner Schlussfolgerungen erneut durchführen“, was „den Token-Verbrauch, die Kosten und die Latenz erhöhen kann“, und die Antwortqualität kann sinken, „wenn das Modell die verlorenen Schlussfolgerungen nicht wiederherstellen kann“.

Die vier von OpenAI aufgeführten Auslöser sollte man sich einprägen, denn drei davon sehen eher wie aufgeräumter Code als wie eine Verhaltensänderung aus:

• Frühere Eingabeelemente bearbeiten — ein Tool-Ergebnis kürzen, eine Runde löschen oder einen Verlaufsblock durch eine Zusammenfassung ersetzen.

• Werkzeuge ändern — Hinzufügen, Entfernen oder Neuanordnen einer Werkzeugdefinition mitten in einer Konversation.

• text.format ändern — das Ausgabeschema mitten in einer Sitzung wechseln.

• reasoning.effort ändern — den Regler für einen günstigen Folgeturn herunterdrehen, was die häufigste Kostenoptimierung in einem Agent-Loop ist.

Beachten Sie, was nicht auf der Liste steht. Das Anhängen neuer Inhalte nach einem Reasoning-Element ist in Ordnung. Das Löschen ganzer Elemente ist in Ordnung. Die Regel ist gerichtet: Die API blickt von jedem Reasoning-Element aus rückwärts, und alles, was davor verschoben wurde, macht es ungültig.

Ein Prefix-Edit ist vier gewöhnliche Codeänderungen.

Jeder dieser vier Auslöser ist etwas, das ein kompetenter Ingenieur absichtlich tut. Das ist das Problem. Eine Präfix-Änderung ist kein Fehler, den man einmal macht; es ist ein Entwurfsmuster, das man übernimmt, weil es in jeder anderen Hinsicht korrekt ist.

Der Fall mit der Kontextkürzung ist am klarsten. Ein lang laufender Agent füllt sein Fenster, also verwirft man die ältesten Turns oder fasst sie zusammen. Das ist gute Hygiene, spart Eingabe-Tokens und war auf GPT-6 Sol kostenlos. Auf GPT-6.2 löscht es das Reasoning, das nach diesen Turns kam, und das Modell beginnt den nächsten Schritt, ohne zu wissen, warum es das Tool gewählt hat, das es gewählt hat.

Der Fall mit dem Aufwandsregler ist schlimmer, weil es sich um eine Kostenkontrolle handelt, die sich umkehrt. Die naheliegende Optimierung – Routine-Turns mit niedrigem Aufwand laufen zu lassen und bei schwieriger Arbeit auf hoch zu eskalieren – ist eine Änderung von reasoning.effort zwischen Anfragen. Bei GPT-6.2 verwirft diese Änderung das Reasoning, sodass die teure Eskalation das teure Reasoning von Grund auf neu herleitet. Man hat für hoch bezahlt und bekommt hoch mit Kaltstart, was etwas anderes und Teureres ist.

Was ein verworfenes Reasoning-Element kostet

Für einen verworfenen Reasoning-Eintrag gibt es keinen veröffentlichten Preis; um ihn seriös zu bemessen, muss man daher betrachten, was Reasoning überhaupt kostet. Artificial Analysis misst die gesamte Suite, und die Token-Zahlen pro Aufgabe kommen einer öffentlichen Messung davon, wie viel Denkleistung ein Frontier-Modell bei schwierigen Aufgaben erbringt, am nächsten.

Auf dem Intelligence Index v5.0.1 bei maximalem Aufwand erzeugt GPT-6.2 Sol 60,9 Mio. Ausgabetokens, um die Suite aus neun Evaluierungen abzuschließen, bei gewichteten Kosten von 1,01 US-Dollar pro Index-Aufgabe und 9,3 Minuten pro Aufgabe. GPT-6.2 Astra erzeugt 65,8 Mio. Ausgabetokens für dieselbe Suite und berechnet 4,00 US-Dollar pro Index-Aufgabe bei 40 US-Dollar pro Million Ausgabetokens. Diese Summen sind die Untergrenze dessen, was eine vollständige Evaluierung kostet, und jedes dieser Tokens wurde zum vollen Ausgabetarif gekauft. Von Anbietern gemeldete Zahlen weisen in dieselbe Richtung – OpenAI sagt, dass GPT-6.2 Astra auf seinem internen Benchmark GDPval v2 22 % weniger Ausgabetokens als GPT-6 Astra verwendet –, aber das ist ein Vergleich zwischen Modellen, keine Messung dessen, was ein gestrichener Punkt wieder hinzufügt.

Hier zählt der Mechanismus, nicht der genaue Multiplikator. Ein Reasoning-Element, das neu generiert werden muss, sind Output-Tokens, die Sie bereits bezahlt haben und die ein zweites Mal erzeugt werden. In einer Agentenschleife, die über eine Aufgabe hinweg zwanzig Turns läuft, kostet der Verlust des Reasonings in Turn sechs nicht eine Turn-Ladung Denkarbeit; er kostet die erneute Herleitung plus all die verschlechterten Entscheidungen, die aus dem dünneren Kontext folgten. Beides ist in einem Log pro Anfrage unsichtbar.

A generated single-column scoreboard with six rows. Cached input $0.10 per million tokens; uncached input $2.00 per million tokens; cost ratio on the affected span 20x; documented triggers 4; reasoning after a prefix edit: dropped; diagnostic field comparison_response_id. A footer line attributes the behaviour to OpenAI's preserved-reasoning guide and the cache rates to the GPT-6.2 Sol model page, 17 November 2026.

Der Append-only-Rewrite in fünf Schritten

Die Empfehlung von O​penAI lautet, das Präfix nicht mehr zu bearbeiten und stattdessen mit dem Anhängen daran zu beginnen. Das ist leicht gesagt, und es ändert fünf separate Aufrufstellen, deshalb stehen sie hier zusammen, mit den exakten Feldnamen.

• Reasoning-Aufwand — Ändern Sie reasoning.effort nicht zwischen Anfragen. Fügen Sie stattdessen ein configuration_update-Element an input an, das den neuen Aufwand enthält. Die dokumentierte Form ist {"type": "configuration_update", "reasoning": {"effort": "high"}}, platziert vor der nächsten Benutzernachricht. Die Einstellung bleibt bestehen, bis eine weitere Aktualisierung sie überschreibt, und Sie können reasoning.effort und text.format im selben Element ändern.

• Ausgabeschema — gleicher Eintrag, gleiche Behandlung. Ändern Sie text.format über ein configuration_update und nicht durch Bearbeiten der Anfrage. Wenn Sie nur eines von beiden aktualisieren, bleibt das andere dort, wo es war – ein subtiler Weg, ein unerwartetes Schema zu erhalten.

• Tools — Fügen Sie Tools mit einem additional_tools-Eintrag hinzu, der unter der Entwicklerrolle gesendet wird, ein tools-Array enthält und an seiner ursprünglichen Position erneut wiedergegeben wird. Behalten Sie bestehende Definitionen in ihrer ursprünglichen Reihenfolge bei und verwenden Sie tool_choice mit allowed_tools, um einzuschränken, welche Tools das Modell aufrufen darf.

• Anweisungen — wiederverwendbaren Text in die erste Developer-Nachricht innerhalb von input einfügen, nicht in das Feld „instructions“ auf oberster Ebene. Um ihn zu ändern, eine neue Developer-Nachricht anhängen. Ab GPT-6.2 und später wird das Feld „instructions“ auf oberster Ebene nach input angehängt, daher ist das Bearbeiten selbst eine Präfixänderung.

• Kompaktierung — bei der O​penAI-eigenen Kompaktierung, entweder dem /responses/compact-Endpunkt oder context_management, bleibt das Reasoning trotz der Präfixänderung erhalten. Lassen Sie instructions beim Aufruf von /responses/compact weg. Bei benutzerdefinierter Kompaktierung platzieren Sie das komprimierte Element am Ende des Kontexts. Beachten Sie den Haken: Automatische Kürzung und /responses/compact lehnen beide Verläufe ab, die configuration_update-Elemente enthalten, sodass eine Sitzung, die das neue Muster verwendet, nicht über den alten Pfad komprimiert werden kann.

Wenn du manuell mit einem compaction_trigger-Element kompaktierst, füge nach der Kompaktierung ein frisches configuration_update hinzu und nenne jede Einstellung erneut, die du geändert hast. Für dich wird nichts über die Grenze hinweg übernommen.

Es erkennen, bevor Ihre Rechnung es tut

Der Grund, warum diese Verhaltensänderung gefährlich ist, ist, dass sie still fehlschlägt. Die API gibt 200 zurück. Die Antwort sieht normal aus. Was Sie brauchen, ist eine Möglichkeit, den Rückgang zu sehen, und O​penAI liefert eine: Setzen Sie prompt_cache_options.comparison_response_id auf eine frühere Antwort-ID und lesen Sie dann den diagnostischen Grund und die Anzahl der zwischengespeicherten Token. Das Feld input_transformations listet auf, welche Reasoning-Elemente entfernt wurden und warum, und ein prefix_mismatch-Grund stimmt per id mit einem Reasoning-Element in der Ausgabe der früheren Antwort überein.

Zwei ehrliche Einschränkungen dieses Diagnosewerkzeugs. Es meldet die erste Abweichung auf Best-Effort-Basis, und es kann nicht überprüfen, ob das Modell die beibehaltene Begründung tatsächlich wiederverwendet hat. Behandle es also als Rauchmelder, nicht als Messgerät – es sagt dir, dass ein Abfall stattgefunden hat, nicht was er gekostet hat.

Die andere Hälfte der Instrumentierung ist der Cache, und hier treffen sich die Token- und die Kostengeschichte. Prompt-Caching gleicht Anfragen von Beginn an ab, sodass eine Präfixänderung nicht nur Reasoning-Elemente verwirft; sie beendet die Cache-Wiederverwendung ab dem Punkt der Änderung. Alles danach wird zum Satz für ungecachte Eingaben abgerechnet. Bei GPT-6.2 Sol sind das $2.00 pro Million statt $0.10 — ein zwanzigfacher Unterschied für den betroffenen Abschnitt. Bei GPT-6.2 Astra sind es $8.00 statt $0.40, was demselben zwanzigfachen Verhältnis auf einer viermal größeren Karte entspricht.

Das ist die Zahl, auf die man achten muss, und sie ist diejenige, die ein Launch-Post nie zur Schlagzeile machen wird: Der Cache-Miss ist die Rechnung, und das verworfene Reasoning ist die Qualitätsregression, und beides stammt aus derselben Änderung. Tokens für das Feld für Anweisungen auf oberster Ebene werden bei GPT-6.2 und später genau aus diesem Grund zum Tarif für nicht gecachte Eingaben abgerechnet — das Feld liegt außerhalb des gecachten Präfixes.

Screenshot of the Artificial Analysis page for GPT-6.2 Sol, showing an Intelligence Index of 57 at max effort, a weighted cost of $1.01 per index task, 9.3 minutes per task, 72 output tokens per second and 60.9M output tokens used across the nine-evaluation suite.

Was das für eine 6.1-Sol-Bereitstellung bedeutet

Nichts davon spricht gegen einen Umstieg. GPT-6.1 Sol erzielt 55 Punkte auf dem Intelligence Index v5.0.1 bei maximalem Aufwand, und GPT-6.2 Sol erzielt 57 – zu 1,27 $ pro Index-Aufgabe gegenüber 1,01 $ und 24,9 Minuten pro Aufgabe gegenüber 9,3 – ein schnelleres, günstigeres, etwas intelligenteres Modell bei unveränderter Preisliste von 2 $ für Eingaben, 0,10 $ für gecachte Eingaben und 10 $ für Ausgaben. Das Upgrade ist real. Was sich geändert hat, ist, dass das Upgrade jetzt eine Korrektheitsvoraussetzung hat, und die Voraussetzung ist, dass Ihre Behandlung von Konversationen ausschließlich anhängend erfolgt (append-only).

Am günstigsten lässt sich das mit einem Abrechnungsvergleich statt einem Score-Vergleich beantworten: Schicken Sie einen Bruchteil des Live-Traffics an gpt-6.2-sol, während Ihre bestehende Append-only-Instrumentierung eingeschaltet ist, und lesen Sie nach einem Tag den Cache-Token-Anteil in beiden Armen ab. OrcaRouter stellt openai/gpt-6.1-sol zum Listenpreis des Anbieters bereit, ohne Aufschlag, und die Cache-Abrechnung pro Anfrage wird im Usage-Block ausgewiesen, sodass die 6.1-Seite dieses Ledgers keinen separaten Vertrag zum Auslesen braucht. Failover sorgt dafür, dass aus dem Bruchteil kein Vorfall wird: Jede Anfrage, die die neue Route nicht bedienen kann, fällt auf das Modell zurück, das bereits antwortet. Die eine Hälfte, die man klar sagen muss, ist, dass GPT-6.2 Sol hier noch nicht im Katalog ist, sodass der 6.2-Zweig direkt gegen OpenAI läuft, während der 6.1-Zweig gegen uns läuft.

Was als Nächstes zu beobachten ist, ist enger gefasst, als es klingt. Das Verhalten ist dokumentiert, der Migrationspfad ist dokumentiert, und die Diagnosemöglichkeiten existieren. Was es noch nicht gibt, ist eine öffentliche Messung dessen, was ein verworfenes Reasoning-Element bei einer echten Long-Horizon-Aufgabe an Ausgabe-Tokens kostet, und bis jemand eine solche veröffentlicht, ist jede Schätzung des Schadens ein Modell des Mechanismus statt ein Messwert vom Messgerät. Wenn Sie Agenten in großem Umfang betreiben, sind Sie besser in der Lage, diese Zahl zu liefern, als es irgendein Benchmark ist – und Sie werden sie liefern, ob Sie wollen oder nicht, was das Argument dafür ist, jetzt zu instrumentieren.

Screenshot of OpenAI's preserved-reasoning guide, showing the section on configuration_update and additional_tools items, the list of changes that cause reasoning items to be dropped, and the append-only guidance for changing effort, tools and output schema mid-conversation.

In diesem Artikel verglichen3

Aus diesem Artikel erkannt · Benchmarks: Artificial Analysis · täglich aktualisiert