
GPT-6.2 Penalaran yang Dipertahankan: Ubah Prefiksnya, Bayar Dua Kali
- OrcaBARUOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 per 1 juta token · 186 tok/s
- openaiBARUOpenAI: GPT-6.2 Astra2026-11-17$8.00 / $40.00 per 1 juta token · 86 tok/s
- openaiBARUOpenAI: GPT-6.2 Sol2026-11-17$2.00 / $10.00 per 1 juta token · 151 tok/s
- tencentBARUTencent: Hy4 Flash2026-11-16$0.02 / $0.07 per 1 juta token · 192 tok/s
- AlibabaBARUQwen: Qwen4 Max2026-11-16$1.50 / $4.50 per 1 juta token · 86 tok/s
- GoogleBARUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1 juta token · 705 tok/s
- AnthropicBARUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1 juta token · 246 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1 juta token · 97 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1 juta token · 138 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 per 1 juta token · 85 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 per 1 juta token · 122 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1 juta token · 102 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1 juta token · 70 tok/s
- openaiOpenAI: GPT-6.1 Terra2026-10-26$1.00 / $5.00 per 1 juta token · 35 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 89 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 38 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Kecerdasan
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1 juta token · 231 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Kecerdasan
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1 juta token · 101 tok/s
Pada 17 November 2026, OpenAI merilis GPT-6.2 Astra dan GPT-6.2 Sol dengan perubahan pada Responses API yang sama sekali tidak berkaitan dengan kualitas model, melainkan sepenuhnya dengan berapa besar biaya yang Anda keluarkan untuknya. Mulai dari kedua model ini, sebuah item penalaran terikat pada riwayat percakapan di depannya. Ubah apa pun yang lebih awal dalam transkrip — persingkat hasil alat, tulis ulang pesan developer, ganti tiga giliran lama dengan sebuah ringkasan — dan API akan membuang item penalaran yang mengikutinya, sebagai tindakan pengamanan. Model kemudian harus mengulang pekerjaan yang sudah dilakukannya. Tidak ada error, tidak ada peringatan saat permintaan, dan tidak ada item tagihan. Hasilnya jawaban yang sedikit lebih buruk dan tagihan yang lebih besar, dan keduanya sulit dihubungkan.
Ini bukan deprecation yang bisa Anda jadwalkan. Ini adalah perilaku yang sudah aktif bagi siapa pun yang memanggil gpt-6.2-astra atau gpt-6.2-sol hari ini, dan akan menjangkau setiap tim yang melakukan upgrade, itulah sebabnya ini layak dibaca sebagai item migrasi alih-alih catatan kaki dalam changelog.
Apa yang sebenarnya berubah di Responses API
Model-model sebelumnya mempertahankan item penalaran mereka di sepanjang penyuntingan prefiks. Anda dapat menulis ulang pesan developer antargiliran, atau mengganti sepuluh pertukaran pertama dengan ringkasan, dan penalaran yang telah dihasilkan model akan tetap berada dalam konteks. Itu bersikap pemaaf dengan cara yang sama persis seperti kode agen bersikap ceroboh: apa pun yang Anda kirim, model tetap mendapat manfaat dari pemikirannya sebelumnya.
Dengan perilaku baru, API memeriksa riwayat, dan ketika mendeteksi bahwa prefiks di depan item penalaran telah berubah, API menghapus item tersebut. Dokumentasi OpenAI sendiri menjelaskan konsekuensinya secara gamblang — model "mungkin perlu mengulang sebagian penalaran," yang "dapat meningkatkan penggunaan token, biaya, dan latensi," dan kualitas jawaban dapat menurun "jika model tidak dapat memulihkan penalaran yang hilang."
Empat pemicu yang OpenAI cantumkan layak dihafal, karena tiga di antaranya tampak seperti kode yang rapi alih-alih seperti perubahan perilaku:
• Mengedit item masukan sebelumnya — memangkas hasil alat, menghapus satu giliran, atau mengganti blok riwayat dengan ringkasan.
• Mengubah alat — menambahkan, menghapus, atau mengurutkan ulang definisi alat di tengah percakapan.
• Mengubah text.format — menukar skema keluaran di tengah sesi.
• Mengubah reasoning.effort — menurunkan setelan untuk giliran lanjutan yang murah, yang merupakan optimasi biaya paling umum dalam loop agen.
Perhatikan apa yang tidak ada dalam daftar. Menambahkan konten baru setelah item penalaran tidak masalah. Menghapus seluruh item juga tidak masalah. Aturannya bersifat terarah: API melihat ke belakang dari setiap item penalaran, dan apa pun yang berpindah ke depannya akan membatalkannya.
Edit prefiks adalah empat perubahan kode biasa.
Masing-masing dari keempat pemicu itu adalah sesuatu yang sengaja dilakukan oleh seorang insinyur yang kompeten. Itulah masalahnya. Pengeditan prefiks bukanlah kesalahan yang Anda lakukan sekali saja; itu adalah pola desain yang Anda adopsi karena benar dalam segala hal lainnya.
Kasus pemotongan konteks adalah yang paling jelas. Agen yang berjalan lama memenuhi jendelanya, jadi Anda membuang giliran-giliran tertua atau merangkumnya. Itu kebersihan yang baik, menghemat token masukan, dan pada GPT-6 Sol itu gratis. Pada GPT-6.2, hal itu menghapus penalaran yang muncul setelah giliran-giliran tersebut, dan model memulai langkah berikutnya setelah lupa mengapa ia memilih alat yang dipilihnya.
Kasus dial effort lebih buruk, karena ini adalah kontrol biaya yang berbalik. Optimasi alaminya — menjalankan giliran rutin pada low dan meningkat ke high saat pekerjaan menjadi sulit — adalah perubahan pada reasoning.effort antarpermintaan. Pada GPT-6.2, edit itu membuang reasoning, sehingga eskalasi yang mahal menghitung ulang reasoning yang mahal dari awal. Anda membayar untuk high dan mendapatkan high yang mulai dari kondisi dingin, yang merupakan hal berbeda dan lebih mahal.
Berapa biaya item penalaran yang terlewat
Tidak ada harga yang dipublikasikan untuk item penalaran yang dihapus, jadi cara jujur untuk memperkirakannya adalah dengan melihat berapa biaya penalaran itu sejak awal. Artificial Analysis mengukur seluruh rangkaian, dan jumlah token per tugas adalah hal yang paling mendekati pengukuran publik atas seberapa banyak “berpikir” yang dilakukan model frontier dalam pekerjaan sulit.
Pada Intelligence Index v5.0.1 dengan upaya maksimal, GPT-6.2 Sol menghasilkan 60,9 juta token keluaran untuk menyelesaikan rangkaian sembilan evaluasi, dengan biaya tertimbang $1,01 per tugas indeks dan 9,3 menit per tugas. GPT-6.2 Astra menghasilkan 65,8 juta token keluaran untuk rangkaian yang sama dan membebankan biaya $4,00 per tugas indeks dengan tarif $40 per juta token keluaran. Total tersebut adalah batas bawah dari biaya evaluasi penuh, dan setiap token tersebut dibeli pada tarif keluaran penuh. Angka yang dilaporkan vendor mengarah pada hal yang sama — OpenAI mengatakan GPT-6.2 Astra menggunakan 22% lebih sedikit token keluaran daripada GPT-6 Astra pada tolok ukur internal GDPval v2 — tetapi itu adalah perbandingan antara model, bukan pengukuran tentang apa yang ditambahkan kembali oleh item yang dihilangkan.
Mekanismenya yang penting di sini, bukan pengali persisnya. Item penalaran yang harus dibuat ulang adalah token output yang sudah Anda bayar, diproduksi untuk kedua kalinya. Dalam loop agen yang menjalankan dua puluh giliran untuk satu tugas, kehilangan penalaran pada giliran keenam bukan berarti Anda kehilangan pemikiran senilai satu giliran; Anda menanggung derivasi ulang ditambah keputusan yang memburuk akibat konteks yang lebih tipis. Keduanya tidak terlihat dalam log per permintaan.

Penulisan ulang append-only, dalam lima langkah
Panduan OpenAI adalah berhenti mengedit prefiks dan mulai menambahkan ke dalamnya. Itu mudah dikatakan dan mengubah lima lokasi pemanggilan terpisah, jadi berikut semuanya bersama-sama, dengan nama field yang tepat.
• Upaya penalaran — jangan ubah reasoning.effort di antara permintaan. Sebagai gantinya, tambahkan item configuration_update ke input, yang membawa upaya baru. Bentuk yang didokumentasikan adalah {"type": "configuration_update", "reasoning": {"effort": "high"}}, ditempatkan sebelum pesan pengguna berikutnya. Pengaturan tersebut tetap berlaku hingga pembaruan lain menimpanya, dan Anda dapat mengubah reasoning.effort dan text.format dalam item yang sama.
• Skema output — item yang sama, perlakuan yang sama. Ubah text.format melalui configuration_update, bukan dengan mengedit permintaan. Memperbarui hanya salah satu dari keduanya akan membiarkan yang lain tetap seperti semula, yang merupakan cara halus untuk mendapatkan skema yang tidak terduga.
• Alat — tambahkan alat dengan item additional_tools yang dikirim di bawah peran developer, membawa array tools, dan diputar ulang pada posisi aslinya. Pertahankan definisi yang sudah ada dalam urutan aslinya, dan gunakan tool_choice dengan allowed_tools untuk membatasi apa yang boleh dipanggil oleh model.
• Instruksi — letakkan teks yang dapat digunakan ulang di pesan developer pertama di dalam input, bukan di bidang instructions tingkat atas. Untuk mengubahnya, tambahkan pesan developer baru. Pada GPT-6.2 dan versi setelahnya, bidang instructions tingkat atas ditambahkan setelah input, jadi mengeditnya sendiri merupakan perubahan prefiks.
• Pemadatan — dengan pemadatan bawaan OpenAI, baik endpoint /responses/compact maupun context_management, reasoning tetap bertahan setelah perubahan prefiks. Hilangkan instructions saat memanggil /responses/compact. Dengan pemadatan kustom, letakkan item yang dipadatkan di akhir konteks. Perhatikan batasan tajamnya: pemotongan otomatis dan /responses/compact keduanya menolak riwayat yang berisi item configuration_update, sehingga sesi yang menggunakan pola baru tidak dapat dipadatkan melalui jalur lama.
Jika Anda memadatkan secara manual dengan item compaction_trigger, tambahkan configuration_update baru setelah pemadatan dan nyatakan ulang setiap pengaturan yang Anda ubah. Tidak ada yang terbawa melintasi batas untuk Anda.
Mendeteksinya sebelum tagihan Anda melakukannya
Alasan perubahan perilaku ini berbahaya adalah karena kegagalannya terjadi secara diam-diam. API mengembalikan 200. Responsnya tampak normal. Yang Anda butuhkan adalah cara untuk melihat penurunan tersebut, dan OpenAI menyediakan satu: atur prompt_cache_options.comparison_response_id ke ID respons sebelumnya, lalu baca alasan diagnostik dan jumlah token yang di-cache. Kolom input_transformations mencantumkan item penalaran mana yang dihapus dan alasannya, dan alasan prefix_mismatch cocok berdasarkan id dengan item penalaran dalam output respons sebelumnya.
Dua batasan jujur pada diagnostik itu. Diagnostik ini melaporkan perbedaan pertama berdasarkan upaya terbaiknya, dan tidak dapat memverifikasi apakah model benar-benar menggunakan kembali penalaran yang dipertahankannya. Jadi anggap ini sebagai detektor asap, bukan meteran — ini memberi tahu Anda bahwa telah terjadi penurunan, bukan berapa besar kerugiannya.
Separuh lainnya dari instrumentasi adalah cache, dan di sinilah cerita token dan cerita biaya bertemu. Caching prompt mencocokkan permintaan dari awal, sehingga edit prefiks tidak hanya menghilangkan item penalaran; itu mengakhiri penggunaan ulang cache dari titik edit dan seterusnya. Semua yang setelah titik itu ditagih pada tarif input tanpa cache. Pada GPT-6.2 Sol, tarifnya $2.00 per juta alih-alih $0.10 — perbedaan dua puluh kali lipat pada rentang yang terdampak. Pada GPT-6.2 Astra, tarifnya $8.00 alih-alih $0.40, yang merupakan rasio dua puluh kali lipat yang sama pada kartu empat kali lebih besar.
Itulah angka yang perlu diperhatikan, dan itulah yang tidak akan pernah dijadikan judul utama dalam pos peluncuran: cache miss adalah tagihannya, dan penalaran yang hilang adalah regresi kualitasnya, dan keduanya berasal dari suntingan yang sama. Token untuk bidang instruksi tingkat atas pada GPT-6.2 dan versi setelahnya ditagih dengan tarif input tanpa cache justru karena alasan ini — bidang tersebut berada di luar prefiks yang di-cache.

Posisi deployment Sol 6.1 setelah ini
Semua ini tidak menjadi alasan untuk tidak beralih. GPT-6.1 Sol mencetak 55 pada Intelligence Index v5.0.1 dengan upaya maksimal dan GPT-6.2 Sol mencetak 57, dengan $1,27 per tugas indeks dibandingkan $1,01 dan 24,9 menit per tugas dibandingkan 9,3 — model yang lebih cepat, lebih murah, dan sedikit lebih cerdas dengan daftar tarif yang tidak berubah: $2 input, $0,10 cached, dan $10 output. Peningkatan ini nyata. Yang berubah adalah bahwa peningkatan ini kini memiliki prasyarat kebenaran, dan prasyaratnya adalah penanganan percakapan Anda bersifat append-only.
Cara termurah untuk menjawabnya adalah perbandingan tagihan, bukan perbandingan skor: kirim potongan kecil lalu lintas live ke gpt-6.2-sol dengan instrumentasi append-only yang sudah ada diaktifkan, lalu baca porsi token yang di-cache di kedua cabang setelah sehari. OrcaRouter menyajikan openai/gpt-6.1-sol dengan harga daftar vendor tanpa tambahan apa pun, dan akuntansi cache per permintaan muncul di blok usage, jadi sisi 6.1 dari catatan itu tidak perlu kontrak terpisah untuk membacanya. Failover-lah yang mencegah potongan kecil itu menjadi insiden: permintaan apa pun yang tidak dapat dilayani rute baru akan diteruskan ke model yang sudah menjawab. Bagian dari ini yang harus dikatakan terus terang adalah bahwa GPT-6.2 Sol belum ada di katalog di sini, jadi cabang 6.2 dipanggil langsung ke OpenAI sementara cabang 6.1 dipanggil ke kami.
Apa yang perlu diperhatikan selanjutnya lebih sempit daripada kedengarannya. Perilakunya terdokumentasi, jalur migrasinya terdokumentasi, dan diagnostiknya sudah ada. Yang belum ada adalah pengukuran publik tentang berapa biaya item penalaran yang dijatuhkan dalam token keluaran pada tugas berhorizon panjang yang nyata, dan sampai seseorang menerbitkannya, setiap estimasi kerusakan adalah model dari mekanisme, bukan pembacaan dari meter. Jika Anda menjalankan agen dalam volume besar, Anda lebih berposisi untuk menghasilkan angka itu daripada benchmark mana pun — dan Anda akan menghasilkannya entah Anda mau atau tidak, dan itulah argumen untuk melakukan instrumentasi sekarang.

Dibandingkan dalam artikel ini3
Terdeteksi dari artikel ini · Benchmark: Artificial Analysis · diperbarui setiap hari
