Une carte de titre générée portant « GPT-6.2 Preserved Reasoning: Edit the Prefix, Pay Twice », sous-titrée sur le fait que les éléments de raisonnement sont liés à l'historique de conversation qui les précède, au-dessus de trois lignes numérotées : que la liaison commence avec GPT-6.2 Astra et GPT-6.2 Sol ; que quatre modifications ordinaires du préfixe font disparaître les éléments ; et que l'intervalle concerné est facturé 2,00 $ par million de jetons d'entrée au lieu de 0,10 $.
Guides & Insights

GPT-6.2 Raisonnement préservé : modifiez le préfixe, payez deux fois

Auteur

Elias Hawthorne

Date de publication

Derniers modèles · 20Voir tous les modèles →
Benchmarks : Artificial Analysis · mis à jour quotidiennement
Retour à tous les articles

Le 17 novembre 2026, OpenAI a livré GPT-6.2 Astra et GPT-6.2 Sol avec une modification de l’API Responses qui n’a rien à voir avec la qualité du modèle et tout à voir avec le montant que vous payez pour elle. À partir de ces deux modèles, un élément de raisonnement est lié à l’historique de conversation qui le précède. Modifiez quoi que ce soit en amont dans la transcription — raccourcissez un résultat d’outil, réécrivez un message de développeur, remplacez trois anciens tours par un résumé — et l’API supprime les éléments de raisonnement qui suivaient, par mesure de protection. Le modèle doit alors refaire un travail qu’il avait déjà effectué. Il n’y a ni erreur, ni avertissement au moment de la requête, ni ligne de facturation. Il y a une réponse légèrement moins bonne et une facture plus élevée, et les deux sont difficiles à relier.

Ce n’est pas une dépréciation que vous pouvez planifier. C’est un comportement déjà actif pour quiconque appelle gpt-6.2-astra ou gpt-6.2-sol aujourd’hui, et il touchera chaque équipe qui effectue une mise à niveau, c’est pourquoi il mérite d’être lu comme un point de migration plutôt que comme une note de bas de page dans un journal des modifications.

Qu’est-ce qui a réellement changé dans l’API Responses

Les modèles précédents conservaient leurs éléments de raisonnement lors d’une modification du préfixe. Vous pouviez réécrire un message de développeur entre les tours, ou remplacer les dix premiers échanges par un résumé, et le raisonnement produit par le modèle restait dans le contexte. C’était tolérant, exactement de la manière dont le code d’agent est négligent : quoi que vous ayez envoyé, le modèle bénéficiait de sa réflexion antérieure.

Avec le nouveau comportement, l’API inspecte l’historique et, lorsqu’elle détecte que le préfixe situé devant un élément de raisonnement a changé, elle supprime cet élément. La documentation d’O​penAI décrit elle-même la conséquence en termes simples — le modèle « peut devoir refaire une partie du raisonnement », ce qui « peut augmenter la consommation de tokens, le coût et la latence », et la qualité des réponses peut diminuer « si le modèle ne parvient pas à récupérer le raisonnement perdu ».

Les quatre déclencheurs qu’O​penAI énumère méritent d’être mémorisés, car trois d’entre eux ressemblent à du code bien rangé plutôt qu’à un changement de comportement :

• Modification des éléments d’entrée antérieurs — raccourcir le résultat d’un outil, supprimer un tour ou remplacer un bloc d’historique par un résumé.

• Changer d’outils — ajouter, supprimer ou réordonner une définition d’outil en cours de conversation.

• Modification de text.format — remplacer un schéma de sortie en cours de session.

• Modification de reasoning.effort — baisser le curseur pour un tour de suivi peu coûteux, ce qui est l'optimisation de coûts la plus courante dans une boucle d'agent.

Notez ce qui ne figure pas dans la liste. Ajouter du nouveau contenu après un élément de raisonnement est acceptable. Supprimer des éléments entiers est acceptable. La règle est directionnelle : l’API regarde en arrière à partir de chaque élément de raisonnement, et tout ce qui a été déplacé devant lui l’invalide.

Une modification de préfixe correspond à quatre modifications de code ordinaires

Chacun de ces quatre déclencheurs est quelque chose qu’un ingénieur compétent fait délibérément. C’est là le problème. Une modification de préfixe n’est pas une erreur que l’on commet une fois ; c’est un schéma de conception que l’on adopte parce qu’il est correct à tous les autres égards.

Le cas de la troncature du contexte est le plus clair. Un agent de longue durée remplit sa fenêtre, vous supprimez donc les tours les plus anciens ou vous les résumez. C'est une bonne hygiène, cela économise des tokens d'entrée et, sur GPT-6 Sol, c'était gratuit. Sur GPT-6.2, cela supprime le raisonnement qui a suivi ces tours, et le modèle commence l'étape suivante en ayant oublié pourquoi il a choisi l'outil qu'il a choisi.

Le cas du sélecteur d’effort est pire, car il s’agit d’un contrôle des coûts qui s’inverse. L’optimisation naturelle — exécuter les tours de routine en low et passer en high lorsque le travail devient difficile — consiste à modifier reasoning.effort entre les requêtes. Sur GPT-6.2, cette modification supprime le raisonnement, de sorte que l’escalade coûteuse redérive de zéro le raisonnement coûteux. Vous avez payé pour high et vous avez obtenu high en démarrant à froid, ce qui est une chose différente et plus coûteuse.

Ce que coûte un élément de raisonnement abandonné

Il n’existe pas de prix publié pour un élément de raisonnement abandonné, donc la manière honnête de l’évaluer est de regarder ce que coûte le raisonnement à la base. Artificial Analysis mesure l’ensemble de la suite, et les nombres de tokens par tâche sont ce qui se rapproche le plus d’une mesure publique de la quantité de réflexion qu’un modèle de pointe fournit sur un travail difficile.

Sur l'Intelligence Index v5.0.1 en effort maximal, GPT-6.2 Sol génère 60,9 M de tokens de sortie pour accomplir la suite de neuf évaluations, pour un coût pondéré de 1,01 $ par tâche de l'indice et de 9,3 minutes par tâche. GPT-6.2 Astra génère 65,8 M de tokens de sortie pour la même suite et facture 4,00 $ par tâche de l'indice, à 40 $ le million de tokens de sortie. Ces totaux constituent le plancher de ce que coûte une évaluation complète, et chacun de ces tokens a été payé au tarif de sortie plein. Les chiffres rapportés par les fournisseurs vont dans le même sens — OpenAI indique que GPT-6.2 Astra utilise 22 % de tokens de sortie en moins que GPT-6 Astra sur son benchmark interne GDPval v2 — mais il s'agit d'une comparaison entre modèles, et non d'une mesure de ce qu'un élément retiré ajoute en retour.

Le mécanisme importe ici, pas le multiplicateur exact. Un élément de raisonnement qui doit être régénéré, ce sont des tokens de sortie que vous avez déjà payés, produits une seconde fois. Dans une boucle d’agent qui exécute vingt tours sur une tâche, perdre le raisonnement au sixième tour ne vous coûte pas la réflexion d’un tour ; cela vous coûte la re-dérivation, plus les décisions dégradées qui ont pu s’ensuivre à cause du contexte appauvri. Les deux sont invisibles dans un journal par requête.

A generated single-column scoreboard with six rows. Cached input $0.10 per million tokens; uncached input $2.00 per million tokens; cost ratio on the affected span 20x; documented triggers 4; reasoning after a prefix edit: dropped; diagnostic field comparison_response_id. A footer line attributes the behaviour to OpenAI's preserved-reasoning guide and the cache rates to the GPT-6.2 Sol model page, 17 November 2026.

La réécriture en ajout seul, en cinq étapes

La recommandation d'OpenAI est d'arrêter de modifier le préfixe et de commencer à y ajouter du contenu. C'est facile à dire, et cela touche cinq sites d'appel distincts ; les voici donc réunis, avec les noms de champs exacts.

• Effort de raisonnement — ne modifiez pas reasoning.effort entre les requêtes. Ajoutez plutôt à input un élément configuration_update, portant le nouvel effort. La forme documentée est {"type": "configuration_update", "reasoning": {"effort": "high"}}, placée avant le message utilisateur suivant. Le paramètre persiste jusqu’à ce qu’une autre mise à jour le remplace, et vous pouvez modifier reasoning.effort et text.format dans le même élément.

• Schéma de sortie — même élément, même traitement. Modifiez text.format via un configuration_update plutôt qu’en modifiant la requête. Mettre à jour un seul des deux laisse l’autre à sa place, ce qui est une façon subtile d’obtenir un schéma inattendu.

• Outils — ajoutez des outils avec un élément additional_tools envoyé sous le rôle developer, contenant un tableau tools, rejoué dans sa position d'origine. Conservez les définitions existantes dans leur ordre d'origine et utilisez tool_choice avec allowed_tools pour restreindre ce que le modèle peut appeler.

• Instructions — placez le texte réutilisable dans le premier message développeur contenu dans input, et non dans le champ instructions de niveau supérieur. Pour le modifier, ajoutez un nouveau message développeur. Sur GPT-6.2 et versions ultérieures, le champ instructions de niveau supérieur est ajouté après input, donc le modifier est en soi un changement de préfixe.

• Compactage — avec le compactage natif d’O​penAI, que ce soit via le point de terminaison /responses/compact ou context_management, le raisonnement survit au changement de préfixe. Omettez le paramètre instructions lors de l’appel à /responses/compact. Avec le compactage personnalisé, placez l’élément compacté à la fin du contexte. Attention au piège : la troncature automatique et /responses/compact rejettent tous deux les historiques contenant des éléments configuration_update, donc une session qui utilise le nouveau schéma ne peut pas être compactée par l’ancien chemin.

Si vous compactez manuellement avec un élément compaction_trigger, ajoutez un nouveau configuration_update après la compaction et redonnez chaque paramètre que vous avez modifié. Rien ne traverse la frontière pour vous.

Le détecter avant que votre facture ne le fasse

La raison pour laquelle cette modification de comportement est dangereuse, c’est qu’elle échoue silencieusement. L’API renvoie 200. La réponse semble normale. Ce qu’il vous faut, c’est un moyen de constater la baisse, et O​penAI en fournit un : définissez prompt_cache_options.comparison_response_id sur l’ID d’une réponse antérieure, puis lisez la raison du diagnostic et le nombre de tokens mis en cache. Le champ input_transformations indique quels éléments de raisonnement ont été supprimés et pourquoi, et une raison prefix_mismatch correspond, par son id, à un élément de raisonnement dans la sortie de la réponse antérieure.

Deux limites honnêtes à ce diagnostic. Il signale la première différence autant que possible, et il ne peut pas vérifier si le modèle a réellement réutilisé le raisonnement qu’il a conservé. Considérez-le donc comme un détecteur de fumée, pas comme un compteur : il vous dit qu’une chute s’est produite, pas ce qu’elle a coûté.

L’autre moitié de l’instrumentation est le cache, et c’est là que le volet des tokens et celui des coûts se rejoignent. La mise en cache des prompts met en correspondance les requêtes depuis le début, si bien qu’une modification de préfixe ne se contente pas de supprimer des éléments de raisonnement ; elle met fin à la réutilisation du cache à partir du point de modification. Tout ce qui suit ce point est facturé au tarif des entrées non mises en cache. Sur GPT-6.2 Sol, cela représente 2,00 $ par million au lieu de 0,10 $ — une différence d’un facteur vingt sur le segment concerné. Sur GPT-6.2 Astra, c’est 8,00 $ au lieu de 0,40 $, soit le même ratio de vingt sur une carte quatre fois plus grande.

C’est le chiffre à surveiller, et c’est celui qu’un article de lancement ne mettra jamais en titre : l’échec de cache, c’est la facture, et le raisonnement abandonné, c’est la régression de qualité, et les deux proviennent de la même modification. Les tokens du champ d’instructions de premier niveau sur GPT-6.2 et versions ultérieures sont facturés au tarif des entrées non mises en cache pour exactement cette raison — le champ se situe en dehors du préfixe mis en cache.

Screenshot of the Artificial Analysis page for GPT-6.2 Sol, showing an Intelligence Index of 57 at max effort, a weighted cost of $1.01 per index task, 9.3 minutes per task, 72 output tokens per second and 60.9M output tokens used across the nine-evaluation suite.

Ce que cela implique pour un déploiement de Sol 6.1

Rien de tout cela ne plaide contre le passage. GPT-6.1 Sol obtient 55 sur Intelligence Index v5.0.1 à effort maximal et GPT-6.2 Sol obtient 57, à 1,27 $ par tâche d’indice contre 1,01 $ et 24,9 minutes par tâche contre 9,3 — un modèle plus rapide, moins cher et légèrement plus intelligent sur une grille tarifaire inchangée de 2 $ en entrée, 0,10 $ en cache et 10 $ en sortie. La mise à niveau est réelle. Ce qui a changé, c’est que la mise à niveau a désormais une condition préalable d’exactitude, et cette condition préalable est que la gestion de vos conversations soit en ajout uniquement.

La façon la moins coûteuse de répondre à cela est une comparaison de factures plutôt qu’une comparaison de scores : envoyez une petite fraction du trafic réel vers gpt-6.2-sol avec votre instrumentation existante en mode append-only activée, et lisez la part de tokens mis en cache sur les deux branches après une journée. OrcaRouter sert openai/gpt-6.1-sol au prix catalogue du fournisseur, sans rien ajouter par-dessus, et la comptabilisation du cache par requête apparaît dans le bloc d’utilisation, donc le côté 6.1 de ce registre n’a pas besoin d’un contrat séparé pour être lu. Le basculement automatique est ce qui évite que la petite fraction ne devienne un incident : toute requête que la nouvelle route ne peut pas servir retombe sur le modèle qui répond déjà. La partie de cela qu’il faut dire clairement, c’est que GPT-6.2 Sol n’est pas encore au catalogue ici, donc la branche 6.2 est appelée directement auprès d’OpenAI tandis que la branche 6.1 est appelée chez nous.

Ce qu'il faut surveiller ensuite est plus étroit que cela n'en a l'air. Le comportement est documenté, le parcours de migration est documenté et les diagnostics existent. Ce qui n'existe pas encore, c'est une mesure publique de ce que coûte, en jetons de sortie, un élément de raisonnement abandonné sur une tâche réelle à long horizon ; et tant que personne n'en publie une, toute estimation des dégâts est un modèle du mécanisme plutôt qu'un relevé sur un compteur. Si vous exploitez des agents à grande échelle, vous êtes mieux placé que n'importe quel benchmark pour produire ce chiffre — et vous le produirez que vous le vouliez ou non, ce qui plaide pour instrumenter dès maintenant.

Screenshot of OpenAI's preserved-reasoning guide, showing the section on configuration_update and additional_tools items, the list of changes that cause reasoning items to be dropped, and the append-only guidance for changing effort, tools and output schema mid-conversation.

Comparés dans cet article3

Détecté à partir de cet article · Benchmarks : Artificial Analysis · mis à jour quotidiennement