Сгенерированная титульная карточка с надписью «GPT-6.2 Preserved Reasoning: Edit the Prefix, Pay Twice» и подзаголовком о том, что элементы рассуждений привязаны к предшествующей им истории диалога, над тремя пронумерованными строками: что привязка начинается с GPT-6.2 Astra и GPT-6.2 Sol; что четыре обычные правки префикса отбрасывают эти элементы; и что затронутый диапазон тарифицируется по $2.00 за миллион входных токенов вместо $0.10.
Guides & Insights

GPT-6.2, сохранённое рассуждение: измени префикс — заплати дважды

Автор

Elias Hawthorne

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

17 ноября 2026 года O​penAI выпустила GPT-6.2 Astra и GPT-6.2 Sol с изменением в Responses API, которое не имеет никакого отношения к качеству модели и целиком связано с тем, сколько вы за это платите. Начиная с этих двух моделей, элемент рассуждения привязан к предшествующей ему истории диалога. Отредактируйте что-либо ранее в транскрипте — сократите результат инструмента, перепишите сообщение разработчика, замените три старых хода на сводку — и API в качестве меры предосторожности отбрасывает элементы рассуждения, которые шли после этого. Затем модели приходится повторять работу, которую она уже выполнила. Нет ни ошибки, ни предупреждения во время запроса, ни отдельной строки в счёте. Есть немного худший ответ и более крупный счёт, и связать эти два факта трудно.

Это не устаревание, которое можно запланировать. Это поведение уже действует для всех, кто сегодня вызывает gpt-6.2-astra или gpt-6.2-sol, и оно затронет каждую команду, которая выполнит обновление, — поэтому его следует воспринимать как пункт миграции, а не как сноску в журнале изменений.

Что на самом деле изменилось в Responses API

Ранние модели сохраняли свои элементы рассуждений при редактировании префикса. Можно было переписать сообщение разработчика между ходами или заменить первые десять обменов на краткое изложение, и рассуждения, которые модель уже создала, оставались в контексте. Это было снисходительно ровно в том же смысле, в каком агентский код бывает небрежен: что бы вы ни отправили, модель получала преимущество от своих прежних размышлений.

При новом поведении API проверяет историю и, обнаружив, что префикс перед элементом рассуждения изменился, удаляет этот элемент. Собственная документация O​penAI описывает последствие прямо — модель «может быть вынуждена заново выполнить часть рассуждений», что «может увеличить расход токенов, стоимость и задержку», а качество ответа может снизиться, «если модель не сможет восстановить утраченные рассуждения».

Четыре триггера, которые перечисляет O​penAI, стоит запомнить, потому что три из них выглядят как аккуратный код, а не как изменение поведения:

• Редактирование более ранних элементов ввода — обрезка результата инструмента, удаление хода или замена блока истории сводкой.

• Смена инструментов — добавление, удаление или изменение порядка определения инструмента посреди диалога.

• Изменение text.format — переключение схемы вывода в середине сеанса.

• Изменение reasoning.effort — уменьшение значения ради дешёвого последующего шага, что является самой распространённой оптимизацией затрат в цикле агента.

Обратите внимание на то, чего нет в списке. Добавление нового содержимого после элемента рассуждения допустимо. Удаление целых элементов допустимо. Правило имеет направленный характер: API просматривает назад от каждого элемента рассуждения, и всё, что переместилось перед ним, делает его недействительным.

Изменение префикса — это четыре обычных изменения кода

Каждый из этих четырёх триггеров — это то, что компетентный инженер делает намеренно. В этом и проблема. Правка префикса — это не ошибка, которую совершаешь один раз; это шаблон проектирования, который перенимаешь, потому что во всех остальных отношениях он корректен.

Случай с усечением контекста — самый очевидный. Долго работающий агент заполняет своё окно, поэтому вы отбрасываете самые старые ходы или суммируете их. Это хорошая практика: она экономит входные токены, а на GPT-6 Sol это было бесплатно. На GPT-6.2 это удаляет рассуждения, шедшие после этих ходов, и модель начинает следующий шаг, забыв, почему выбрала тот инструмент, который выбрала.

Случай с регулятором усилий хуже, потому что это механизм контроля затрат, который инвертируется. Естественная оптимизация — выполнять рутинные шаги на низком уровне и повышать до высокого, когда задача усложняется — это изменение reasoning.effort между запросами. В GPT-6.2 эта правка сбрасывает рассуждение, поэтому дорогое повышение заново выводит дорогое рассуждение с нуля. Вы заплатили за высокий уровень и получили высокий, но с холодного старта, а это другое и более дорогое.

Во что обходится пропущенный элемент рассуждения

Опубликованной цены на исключённый элемент рассуждений нет, поэтому честный способ оценить его — сначала посмотреть, сколько стоит само рассуждение. Artificial Analysis измеряет весь набор тестов, а количество токенов на задачу — это самое близкое к публичному измерению того, сколько размышлений передовая модель выполняет на сложной работе.

В Intelligence Index v5.0.1 при максимальном уровне усилий GPT-6.2 Sol генерирует 60,9 млн выходных токенов для завершения набора из девяти оценок при взвешенной стоимости $1,01 за задачу индекса и 9,3 минуты на задачу. GPT-6.2 Astra генерирует 65,8 млн выходных токенов для того же набора и обходится в $4,00 за задачу индекса при $40 за миллион выходных токенов. Эти показатели — нижняя граница стоимости полной оценки, и каждый из этих токенов был оплачен по полному тарифу за выходные токены. Цифры, сообщаемые поставщиками, указывают в том же направлении — OpenAI заявляет, что GPT-6.2 Astra использует на 22% меньше выходных токенов, чем GPT-6 Astra, на своем внутреннем бенчмарке GDPval v2 — но это сравнение между моделями, а не измерение того, сколько добавляет обратно исключенный пункт.

Здесь важен сам механизм, а не точный множитель. Элемент рассуждения, который приходится генерировать заново, — это выходные токены, за которые вы уже заплатили и которые создаются во второй раз. В агентном цикле, который выполняется двадцать ходов над одной задачей, потеря рассуждений на шестом ходу обходится вам не в один ход размышлений, а в повторный вывод плюс все ухудшенные решения, ставшие следствием более скудного контекста. Ни то, ни другое не видно в журнале отдельных запросов.

A generated single-column scoreboard with six rows. Cached input $0.10 per million tokens; uncached input $2.00 per million tokens; cost ratio on the affected span 20x; documented triggers 4; reasoning after a prefix edit: dropped; diagnostic field comparison_response_id. A footer line attributes the behaviour to OpenAI's preserved-reasoning guide and the cache rates to the GPT-6.2 Sol model page, 17 November 2026.

Переписывание в режиме «только добавление», в пяти шагах

Рекомендация O​penAI — перестать редактировать префикс и начать дописывать в его конец. Легко сказать, но это затрагивает пять отдельных мест вызова, поэтому вот они все вместе, с точными именами полей.

• Уровень рассуждений — не изменяйте reasoning.effort между запросами. Вместо этого добавьте в input элемент configuration_update, содержащий новый уровень. Задокументированный формат: {"type": "configuration_update", "reasoning": {"effort": "high"}}, размещённый перед следующим сообщением пользователя. Параметр сохраняется, пока его не переопределит другое обновление, и вы можете изменить reasoning.effort и text.format в одном и том же элементе.

• Схема вывода — тот же элемент, та же обработка. Изменяйте text.format через configuration_update, а не путём редактирования запроса. Если обновить только одно из двух, второе останется на прежнем месте — это скрытый способ получить неожиданную схему.

• Инструменты — добавляйте инструменты с помощью элемента additional_tools, отправляемого под ролью developer и содержащего массив tools, воспроизводимого в исходной позиции. Сохраняйте существующие определения в их исходном порядке и используйте tool_choice с allowed_tools, чтобы ограничить, что модель может вызывать.

• Инструкции — размещайте повторно используемый текст в первом сообщении разработчика внутри input, а не в поле instructions верхнего уровня. Чтобы изменить его, добавьте новое сообщение разработчика. В GPT-6.2 и более поздних версиях поле instructions верхнего уровня добавляется после input, поэтому его редактирование само по себе является изменением префикса.

• Компактизация — при собственной компактизации OpenAI, будь то эндпоинт /responses/compact или context_management, reasoning сохраняется при изменении префикса. При вызове /responses/compact не указывайте instructions. При пользовательской компактизации помещайте сжатый элемент в конец контекста. Обратите внимание на подводный камень: автоматическое усечение и /responses/compact оба отклоняют истории, содержащие элементы configuration_update, поэтому сеанс, использующий новый шаблон, нельзя компактизировать старым путём.

Если вы выполняете компакцию вручную с помощью элемента compaction_trigger, добавьте новый configuration_update после компакции и повторно укажите каждую изменённую настройку. Через эту границу для вас ничего не переносится.

Выявляйте это раньше, чем это сделает ваш счёт

Опасность этого изменения поведения заключается в том, что оно незаметно даёт сбой. API возвращает 200. Ответ выглядит нормально. Вам нужен способ увидеть просадку, и OpenAI его предоставляет: установите для prompt_cache_options.comparison_response_id идентификатор более раннего ответа, затем прочитайте диагностическую причину и число кэшированных токенов. Поле input_transformations перечисляет, какие элементы рассуждений были удалены и почему, а причина prefix_mismatch сопоставляется по id с элементом рассуждений в выводе более раннего ответа.

Две честные оговорки об этой диагностике. Она сообщает о первом различии по мере возможности и не может проверить, действительно ли модель использовала сохранённые рассуждения. Поэтому воспринимайте её как дымовой извещатель, а не как измерительный прибор: она говорит, что произошла потеря, но не во что это обошлось.

Вторая половина инструментария — это кэш, и именно здесь история токенов и история затрат сходятся. Кэширование промптов сопоставляет запросы с начала, поэтому правка префикса не просто отбрасывает элементы рассуждений; она прекращает повторное использование кэша начиная с точки правки. Всё после этой точки тарифицируется по ставке для некэшированного ввода. В GPT-6.2 Sol это $2.00 за миллион вместо $0.10 — двадцатикратная разница на затронутом участке. В GPT-6.2 Astra это $8.00 вместо $0.40 — то же двадцатикратное соотношение на карточке в четыре раза большего размера.

Вот за каким числом стоит следить, и именно его в анонсе запуска никогда не вынесут в заголовок: промах кэша — это счёт к оплате, а потерянные рассуждения — это регрессия качества, и то и другое — результат одной и той же правки. Токены для поля инструкций верхнего уровня в GPT-6.2 и более поздних версиях тарифицируются по ставке для некэшированных входных данных именно по этой причине — это поле находится вне кэшированного префикса.

Screenshot of the Artificial Analysis page for GPT-6.2 Sol, showing an Intelligence Index of 57 at max effort, a weighted cost of $1.01 per index task, 9.3 minutes per task, 72 output tokens per second and 60.9M output tokens used across the nine-evaluation suite.

Что это означает для развертывания Sol 6.1

Ничто из этого не говорит против перехода. GPT-6.1 Sol набирает 55 баллов по Intelligence Index v5.0.1 при максимальном усилии, а GPT-6.2 Sol — 57 баллов, при $1,27 за задачу индекса против $1,01 и 24,9 минуты на задачу против 9,3 — более быстрая, более дешёвая и чуть более умная модель при неизменной тарифной сетке: $2 за вход, $0,10 за кэширование и $10 за выход. Обновление реально. Что изменилось, так это то, что теперь у обновления есть предварительное условие корректности, и это условие — обработка вашего диалога должна быть append-only.

Самый дешёвый способ ответить на это — сравнить счета, а не оценки: направьте небольшую долю живого трафика в gpt-6.2-sol, включив вашу существующую инструментацию с записью только в конец, и через день посмотрите долю кэшированных токенов на обоих плечах. OrcaRouter предоставляет openai/gpt-6.1-sol по прейскурантной цене поставщика без каких-либо надбавок, а учёт кэша по каждому запросу приходит в блоке usage, поэтому для стороны 6.1 этого учёта не нужен отдельный договор, чтобы его прочитать. Переключение при сбое — это то, что не даёт этой небольшой доле превратиться в инцидент: любой запрос, который новый маршрут не может обслужить, перенаправляется модели, которая уже отвечает. Половину этого нужно сказать прямо: GPT-6.2 Sol пока нет в здешнем каталоге, поэтому плечо 6.2 запрашивается напрямую в OpenAI, а плечо 6.1 — у нас.

Тема, за которой стоит следить дальше, уже, чем кажется. Поведение задокументировано, путь миграции задокументирован, диагностика существует. Чего пока нет — публичного замера того, во сколько выходных токенов обходится потерянный элемент рассуждения на реальной задаче с длинным горизонтом; и пока кто-нибудь не опубликует такой замер, любая оценка ущерба остаётся моделью механизма, а не показанием прибора. Если вы запускаете агентов в большом объёме, у вас больше возможностей получить это число, чем у любого бенчмарка — и вы получите его, хотите вы того или нет, и это аргумент в пользу того, чтобы инструментировать уже сейчас.

Screenshot of OpenAI's preserved-reasoning guide, showing the section on configuration_update and additional_tools items, the list of changes that cause reasoning items to be dropped, and the append-only guidance for changing effort, tools and output schema mid-conversation.

Сравнение в этой статье3

Определено по этой статье · Бенчмарки: Artificial Analysis · обновляется ежедневно