
GPT-6.2 보존 추론: 프리픽스를 수정하면 두 번 지불
- OrcaNEWOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 100만 토큰당 · 186 tok/s
- openaiNEWOpenAI: GPT-6.2 Astra2026-11-17$8.00 / $40.00 100만 토큰당 · 86 tok/s
- openaiNEWOpenAI: GPT-6.2 Sol2026-11-17$2.00 / $10.00 100만 토큰당 · 151 tok/s
- tencentNEWTencent: Hy4 Flash2026-11-16$0.02 / $0.07 100만 토큰당 · 192 tok/s
- AlibabaNEWQwen: Qwen4 Max2026-11-16$1.50 / $4.50 100만 토큰당 · 86 tok/s
- GoogleNEWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 100만 토큰당 · 705 tok/s
- AnthropicNEWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 100만 토큰당 · 246 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 100만 토큰당 · 97 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 100만 토큰당 · 138 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 100만 토큰당 · 85 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 100만 토큰당 · 122 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 100만 토큰당 · 102 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 100만 토큰당 · 70 tok/s
- openaiOpenAI: GPT-6.1 Terra2026-10-26$1.00 / $5.00 100만 토큰당 · 35 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 89 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 38 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447지능
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 100만 토큰당 · 231 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929지능
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 100만 토큰당 · 101 tok/s
2026년 11월 17일, OpenAI는 GPT-6.2 Astra와 GPT-6.2 Sol을 출시했습니다. 이번 출시에는 Responses API에 대한 변경이 포함되었는데, 그 변경은 모델 품질과는 전혀 관계가 없고 비용을 얼마나 지불하는지와 전적으로 관련이 있습니다. 이 두 모델부터 추론 항목은 그 앞에 있는 대화 기록에 묶입니다. 대화 기록에서 더 앞선 내용을 편집하면 — 도구 결과를 줄이거나, 개발자 메시지를 다시 쓰거나, 오래된 세 턴 대신 요약을 넣으면 — API는 안전장치로서 그 뒤에 이어진 추론 항목을 삭제합니다. 그러면 모델은 이미 했던 작업을 다시 해야 합니다. 요청 시점에는 오류도, 경고도, 청구 항목도 없습니다. 답변은 약간 더 나빠지고 청구서는 더 커지는데, 이 둘을 연결하기는 어렵습니다.
이것은 일정을 잡을 수 있는 지원 중단이 아닙니다. 오늘 gpt-6.2-astra 또는 gpt-6.2-sol을 호출하는 누구에게나 이미 적용 중인 동작이며, 업그레이드하는 모든 팀에까지 미칠 것입니다. 그래서 이것은 변경 로그의 각주가 아니라 마이그레이션 항목으로 읽어야 합니다.
Responses API에서 실제로 무엇이 바뀌었나요?
이전 모델들은 접두사 편집이 있어도 {{1}}추론 항목{{/1}}을 유지했습니다. 턴 사이에 개발자 메시지를 다시 쓰거나 처음 열 번의 교환을 요약으로 바꿔도, 모델이 생성한 추론은 컨텍스트에 남아 있었습니다. 그건 에이전트 코드가 부주의한 바로 그 방식으로 관대했습니다: 무엇을 보내든 모델은 이전 사고의 이점을 누렸습니다.
새로운 동작 방식에서는 API가 기록을 검사하고, 추론 항목 앞의 접두사가 변경된 것을 감지하면 해당 항목을 제거합니다. OpenAI의 자체 문서는 그 결과를 명확하게 설명합니다 — 모델이 "일부 추론을 다시 해야 할 수 있으며", 이는 "토큰 사용량, 비용, 지연 시간을 증가시킬 수 있고", "모델이 손실된 추론을 복구할 수 없으면" 답변 품질이 저하될 수 있습니다.
OpenAI가 나열한 네 가지 트리거는 기억해 둘 만합니다. 그중 세 가지는 동작 변경이라기보다 깔끔한 코드처럼 보이기 때문입니다:
• 이전 입력 항목 편집 — 도구 결과를 다듬거나, 턴을 삭제하거나, 기록 블록을 요약으로 대체하는 것.
• 도구 변경 — 대화 중간에 도구 정의를 추가, 제거 또는 재정렬하기.
• text.format 변경 — 세션 도중에 출력 스키마를 교체하는 경우.
• reasoning.effort 변경 — 저렴한 후속 턴을 위해 다이얼을 낮추는 것으로, 에이전트 루프에서 가장 흔한 단일 비용 최적화입니다.
목록에 없는 것에 주목하세요. 추론 항목 뒤에 새 콘텐츠를 추가하는 것은 괜찮습니다. 항목 전체를 삭제하는 것도 괜찮습니다. 이 규칙은 방향성을 가집니다. API는 각 추론 항목에서 뒤쪽을 바라보며, 그 앞으로 이동한 것은 무엇이든 해당 항목을 무효화합니다.
프리픽스 편집은 네 가지 일반적인 코드 변경입니다.
저 네 가지 트리거는 모두 유능한 엔지니어가 의도적으로 하는 일입니다. 바로 그것이 문제입니다. 접두사 편집은 한 번쯤 저지르는 실수가 아니라, 다른 모든 측면에서 올바르기 때문에 채택하는 설계 패턴입니다.
컨텍스트 잘라내기 사례가 가장 명확하다. 오래 실행되는 에이전트는 윈도가 가득 차므로, 가장 오래된 턴들을 버리거나 요약한다. 이는 좋은 위생 관리이고 입력 토큰을 절약해 주며, GPT-6 Sol에서는 무료였다. GPT-6.2에서는 그 턴들 이후에 나온 추론을 삭제하고, 모델은 왜 그 도구를 선택했는지 잊은 채 다음 단계를 시작한다.
effort 다이얼 사례는 더 나쁩니다. 왜냐하면 비용 통제가 역전되기 때문입니다. 자연스러운 최적화, 즉 일상적인 턴은 low로 실행하고 작업이 어려워지면 high로 에스컬레이션하는 것은 요청 간 reasoning.effort 변경입니다. GPT-6.2에서는 그 편집이 추론을 삭제하므로, 비싼 에스컬레이션이 비싼 추론을 처음부터 다시 도출합니다. high에 비용을 지불했지만 cold에서 시작하는 high를 얻은 것이며, 이는 다르고 더 비싼 것입니다.
누락된 추론 항목이 초래하는 비용
탈락한 추론 항목에 대해 공개된 가격은 없으므로, 그 규모를 정직하게 가늠하는 방법은 애초에 추론에 비용이 얼마나 드는지를 살펴보는 것이다. Artificial Analysis는 전체 스위트를 측정하며, 작업별 토큰 수는 프런티어 모델이 어려운 작업에서 얼마나 많은 사고를 하는지에 대한 공개 측정치에 가장 가까운 것이다.
Intelligence Index v5.0.1에서 최대 노력 설정으로 GPT-6.2 Sol은 아홉 가지 평가 모음을 완료하는 데 6,090만 개의 출력 토큰을 생성하며, 이는 인덱스 작업당 가중 비용 $1.01, 작업당 9.3분에 해당합니다. GPT-6.2 Astra는 같은 평가 모음에 6,580만 개의 출력 토큰을 생성하고, 백만 출력 토큰당 $40 기준으로 인덱스 작업당 $4.00을 청구합니다. 이 총계는 전체 평가 비용의 최저치이며, 그 토큰 하나하나가 전액 출력 요율로 구매되었습니다. 벤더가 보고한 수치도 같은 방향을 가리킵니다 — OpenAI는 GPT-6.2 Astra가 내부 GDPval v2 벤치마크에서 GPT-6 Astra보다 출력 토큰을 22% 더 적게 사용한다고 말합니다 — 하지만 그것은 모델 간 비교일 뿐, 빠진 항목이 다시 추가로 발생시키는 비용을 측정한 것은 아닙니다.
여기서 중요한 것은 정확한 배수가 아니라 메커니즘입니다. 재생성해야 하는 추론 항목은 이미 비용을 지불한 출력 토큰을 두 번째로 생성하는 것입니다. 하나의 작업을 두고 20턴을 실행하는 에이전트 루프에서 6번째 턴에 추론을 잃는 것은 한 턴 분량의 사고 비용이 아니라, 재도출 비용에 더해 더 얇아진 컨텍스트에서 이어진 저하된 결정들의 비용까지 치르게 합니다. 둘 다 요청별 로그에서는 보이지 않습니다.

append-only 재작성, 다섯 단계로
OpenAI의 지침은 접두사 편집을 중단하고 접두사에 덧붙이기 시작하라는 것입니다. 말은 쉽지만 서로 다른 다섯 개의 호출 지점을 변경해야 하므로, 정확한 필드 이름과 함께 여기에 모아 두겠습니다.
• 추론 강도 — 요청 간에 reasoning.effort를 변경하지 마세요. 대신 input에 새 effort를 담은 configuration_update 항목을 추가하세요. 문서화된 형식은 {"type": "configuration_update", "reasoning": {"effort": "high"}}이며, 다음 사용자 메시지 앞에 배치합니다. 이 설정은 다른 업데이트가 덮어쓸 때까지 유지되며, 동일한 항목에서 reasoning.effort와 text.format을 함께 변경할 수 있습니다.
• 출력 스키마 — 동일한 항목, 동일한 처리입니다. 요청을 편집하는 대신 configuration_update를 통해 text.format을 변경하세요. 둘 중 하나만 업데이트하면 다른 하나는 그대로 남아, 예기치 않은 스키마를 얻게 되는 미묘한 원인이 됩니다.
• 도구 — developer 역할 아래에 전송되는 additional_tools 항목에 tools 배열을 담아 도구를 추가하며, 원래 위치에서 재생됩니다. 기존 정의는 원래 순서를 그대로 유지하고, tool_choice와 allowed_tools를 사용하여 모델이 호출할 수 있는 대상을 제한하세요.
• 지침 — 재사용할 텍스트는 최상위 지침 필드가 아니라 input 내부의 첫 번째 개발자 메시지에 넣으세요. 이를 변경하려면 새 개발자 메시지를 추가하세요. GPT-6.2 이상에서는 최상위 지침 필드가 input 뒤에 추가되므로, 이를 편집하는 것 자체가 접두사 변경입니다.
• 압축 — OpenAI 자체 압축, 즉 /responses/compact 엔드포인트 또는 context_management를 사용하면 추론은 접두사 변경 후에도 유지됩니다. /responses/compact를 호출할 때는 instructions를 생략하세요. 사용자 지정 압축을 사용하는 경우 압축된 항목을 컨텍스트 끝에 두세요. 주의할 점: 자동 잘림과 /responses/compact는 모두 configuration_update 항목이 포함된 기록을 거부하므로, 새 패턴을 사용하는 세션은 이전 경로로 압축할 수 없습니다.
compaction_trigger 항목으로 수동으로 컴팩션하는 경우, 컴팩션 후에 새로운 configuration_update를 추가하고 변경한 모든 설정을 다시 명시하세요. 경계를 넘어 자동으로 이어지는 것은 없습니다.
청구서보다 먼저 감지합니다
이 동작 변경이 위험한 이유는 조용히 실패한다는 점입니다. API는 200을 반환합니다. 응답은 정상처럼 보입니다. 필요한 것은 이 누락을 확인할 방법이며, OpenAI가 이를 제공합니다: prompt_cache_options.comparison_response_id를 이전 응답 ID로 설정한 다음, 진단 사유와 캐시된 토큰 수를 읽으세요. input_transformations 필드는 어떤 reasoning 항목이 제거되었는지와 그 이유를 나열하며, prefix_mismatch 사유는 id를 기준으로 이전 응답 출력의 reasoning 항목과 일치합니다.
그 진단에는 두 가지 솔직한 한계가 있습니다. 이는 가능한 범위 내에서 첫 번째 차이를 보고하지만, 모델이 실제로 보존한 추론을 재사용했는지는 검증할 수 없습니다. 그러니 이것을 계량기가 아니라 연기 탐지기로 취급하세요 — 어떤 하락이 발생했다는 것은 알려주지만, 그 비용이 얼마였는지는 알려주지 않습니다.
계측의 나머지 절반은 캐시이며, 바로 여기서 토큰 이야기와 비용 이야기가 만난다. 프롬프트 캐싱은 요청을 처음부터 일치시키므로, 접두사를 편집하면 추론 항목만 사라지는 것이 아니라 편집 지점부터 캐시 재사용이 끝난다. 그 지점 이후의 모든 것은 캐시되지 않은 입력 요율로 청구된다. GPT-6.2 Sol에서는 백만 개당 $0.10 대신 $2.00이며, 이는 영향을 받는 구간에서 20배 차이다. GPT-6.2 Astra에서는 $0.40 대신 $8.00이며, 이는 네 배 더 큰 카드에서 동일한 20배 비율이다.
바로 주목해야 할 숫자이며, 출시 글이 결코 헤드라인으로 내세우지 않을 숫자이기도 합니다. 캐시 미스는 비용이고, 누락된 추론은 품질 회귀이며, 둘 다 같은 편집에서 비롯됩니다. GPT-6.2 이상에서 최상위 지침 필드의 토큰이 비캐시 입력 요율로 청구되는 것은 바로 이 때문입니다 — 해당 필드가 캐시된 접두사 밖에 있기 때문입니다.

이로 인해 6.1 Sol 배포가 놓이게 되는 상황
이 중 어느 것도 이전하는 데 반대하는 근거가 되지 않습니다. GPT-6.1 Sol은 최대 노력에서 Intelligence Index v5.0.1 점수 55점을, GPT-6.2 Sol은 57점을 기록하며, 지수 작업당 비용은 $1.27 대 $1.01, 작업당 시간은 24.9분 대 9.3분입니다. 즉, 입력 $2, 캐시 $0.10, 출력 $10의 변경되지 않은 요율표에서 더 빠르고 더 저렴하며 약간 더 똑똑한 모델입니다. 업그레이드는 실제입니다. 달라진 점은 이제 업그레이드에 정확성 전제 조건이 생겼고, 그 전제 조건은 대화 처리가 추가 전용(append-only)이어야 한다는 것입니다.
그 질문에 답하는 가장 저렴한 방법은 점수 비교가 아니라 청구서 비교입니다: 기존의 append-only 계측을 켠 상태로 라이브 트래픽의 극히 일부를 gpt-6.2-sol로 보내고, 하루 뒤 두 갈래 모두에서 캐시된 토큰 비중을 읽으세요. OrcaRouter는 openai/gpt-6.1-sol을 벤더의 정가로 아무것도 더 얹지 않고 제공하며, 요청별 캐시 회계는 usage 블록을 통해 전달되므로 그 원장의 6.1 쪽은 별도 계약 없이 읽을 수 있습니다. 페일오버는 그 일부 트래픽이 장애로 번지지 않게 해줍니다: 새 경로가 처리할 수 없는 요청은 이미 응답 중인 모델로 넘어갑니다. 이 중 분명히 말해야 하는 절반은 GPT-6.2 Sol이 아직 이곳 카탈로그에 없어서, 6.2 쪽은 OpenAI에 직접 호출되는 반면 6.1 쪽은 우리 쪽으로 호출된다는 점입니다.
다음에 지켜봐야 할 범위는 들리는 것보다 좁다. 동작은 문서화되어 있고, 마이그레이션 경로도 문서화되어 있으며, 진단 기능도 존재한다. 아직 존재하지 않는 것은 실제 장기 지평 과제에서 누락된 추론 항목이 출력 토큰으로 얼마의 비용을 초래하는지에 대한 공개된 측정치이며, 누군가 그것을 발표하기 전까지 피해에 대한 모든 추정은 계측기에서 읽어낸 값이라기보다 메커니즘에 대한 모델일 뿐이다. 에이전트를 대량으로 운영하고 있다면, 어떤 벤치마크보다도 그 수치를 산출하기에 더 유리한 위치에 있다 — 그리고 원하든 원하지 않든 그 수치를 산출하게 될 것이며, 이것이 지금 계측을 도입해야 하는 이유다.

이 글에서 비교한 모델3
이 글에서 자동 인식 · 벤치마크: Artificial Analysis · 매일 업데이트
