Kartu judul yang dihasilkan bertuliskan 'GPT-6.2 Preserved Reasoning: Edit the Prefix, Pay Twice', dengan subjudul seputar item penalaran yang terikat pada riwayat percakapan di hadapannya, di atas tiga baris bernomor: bahwa pengikatan dimulai dengan GPT-6.2 Astra dan GPT-6.2 Sol; bahwa empat penyuntingan awalan biasa menggugurkan item tersebut; dan bahwa rentang yang terdampak menagih $2.00 per juta token masukan alih-alih $0.10.
Guides & Insights

GPT-6.2 Penalaran yang Dipertahankan: Ubah Prefiksnya, Bayar Dua Kali

Penulis

Elias Hawthorne

Tanggal Terbit

Model terbaru · 20Lihat semua model →
Benchmark: Artificial Analysis · diperbarui setiap hari
Kembali ke semua artikel

Pada 17 November 2026, OpenAI merilis GPT-6.2 Astra dan GPT-6.2 Sol dengan perubahan pada Responses API yang sama sekali tidak berkaitan dengan kualitas model, melainkan sepenuhnya dengan berapa besar biaya yang Anda keluarkan untuknya. Mulai dari kedua model ini, sebuah item penalaran terikat pada riwayat percakapan di depannya. Ubah apa pun yang lebih awal dalam transkrip — persingkat hasil alat, tulis ulang pesan developer, ganti tiga giliran lama dengan sebuah ringkasan — dan API akan membuang item penalaran yang mengikutinya, sebagai tindakan pengamanan. Model kemudian harus mengulang pekerjaan yang sudah dilakukannya. Tidak ada error, tidak ada peringatan saat permintaan, dan tidak ada item tagihan. Hasilnya jawaban yang sedikit lebih buruk dan tagihan yang lebih besar, dan keduanya sulit dihubungkan.

Ini bukan deprecation yang bisa Anda jadwalkan. Ini adalah perilaku yang sudah aktif bagi siapa pun yang memanggil gpt-6.2-astra atau gpt-6.2-sol hari ini, dan akan menjangkau setiap tim yang melakukan upgrade, itulah sebabnya ini layak dibaca sebagai item migrasi alih-alih catatan kaki dalam changelog.

Apa yang sebenarnya berubah di Responses API

Model-model sebelumnya mempertahankan item penalaran mereka di sepanjang penyuntingan prefiks. Anda dapat menulis ulang pesan developer antargiliran, atau mengganti sepuluh pertukaran pertama dengan ringkasan, dan penalaran yang telah dihasilkan model akan tetap berada dalam konteks. Itu bersikap pemaaf dengan cara yang sama persis seperti kode agen bersikap ceroboh: apa pun yang Anda kirim, model tetap mendapat manfaat dari pemikirannya sebelumnya.

Dengan perilaku baru, API memeriksa riwayat, dan ketika mendeteksi bahwa prefiks di depan item penalaran telah berubah, API menghapus item tersebut. Dokumentasi O​penAI sendiri menjelaskan konsekuensinya secara gamblang — model "mungkin perlu mengulang sebagian penalaran," yang "dapat meningkatkan penggunaan token, biaya, dan latensi," dan kualitas jawaban dapat menurun "jika model tidak dapat memulihkan penalaran yang hilang."

Empat pemicu yang O​penAI cantumkan layak dihafal, karena tiga di antaranya tampak seperti kode yang rapi alih-alih seperti perubahan perilaku:

• Mengedit item masukan sebelumnya — memangkas hasil alat, menghapus satu giliran, atau mengganti blok riwayat dengan ringkasan.

• Mengubah alat — menambahkan, menghapus, atau mengurutkan ulang definisi alat di tengah percakapan.

• Mengubah text.format — menukar skema keluaran di tengah sesi.

• Mengubah reasoning.effort — menurunkan setelan untuk giliran lanjutan yang murah, yang merupakan optimasi biaya paling umum dalam loop agen.

Perhatikan apa yang tidak ada dalam daftar. Menambahkan konten baru setelah item penalaran tidak masalah. Menghapus seluruh item juga tidak masalah. Aturannya bersifat terarah: API melihat ke belakang dari setiap item penalaran, dan apa pun yang berpindah ke depannya akan membatalkannya.

Edit prefiks adalah empat perubahan kode biasa.

Masing-masing dari keempat pemicu itu adalah sesuatu yang sengaja dilakukan oleh seorang insinyur yang kompeten. Itulah masalahnya. Pengeditan prefiks bukanlah kesalahan yang Anda lakukan sekali saja; itu adalah pola desain yang Anda adopsi karena benar dalam segala hal lainnya.

Kasus pemotongan konteks adalah yang paling jelas. Agen yang berjalan lama memenuhi jendelanya, jadi Anda membuang giliran-giliran tertua atau merangkumnya. Itu kebersihan yang baik, menghemat token masukan, dan pada GPT-6 Sol itu gratis. Pada GPT-6.2, hal itu menghapus penalaran yang muncul setelah giliran-giliran tersebut, dan model memulai langkah berikutnya setelah lupa mengapa ia memilih alat yang dipilihnya.

Kasus dial effort lebih buruk, karena ini adalah kontrol biaya yang berbalik. Optimasi alaminya — menjalankan giliran rutin pada low dan meningkat ke high saat pekerjaan menjadi sulit — adalah perubahan pada reasoning.effort antarpermintaan. Pada GPT-6.2, edit itu membuang reasoning, sehingga eskalasi yang mahal menghitung ulang reasoning yang mahal dari awal. Anda membayar untuk high dan mendapatkan high yang mulai dari kondisi dingin, yang merupakan hal berbeda dan lebih mahal.

Berapa biaya item penalaran yang terlewat

Tidak ada harga yang dipublikasikan untuk item penalaran yang dihapus, jadi cara jujur untuk memperkirakannya adalah dengan melihat berapa biaya penalaran itu sejak awal. Artificial Analysis mengukur seluruh rangkaian, dan jumlah token per tugas adalah hal yang paling mendekati pengukuran publik atas seberapa banyak “berpikir” yang dilakukan model frontier dalam pekerjaan sulit.

Pada Intelligence Index v5.0.1 dengan upaya maksimal, GPT-6.2 Sol menghasilkan 60,9 juta token keluaran untuk menyelesaikan rangkaian sembilan evaluasi, dengan biaya tertimbang $1,01 per tugas indeks dan 9,3 menit per tugas. GPT-6.2 Astra menghasilkan 65,8 juta token keluaran untuk rangkaian yang sama dan membebankan biaya $4,00 per tugas indeks dengan tarif $40 per juta token keluaran. Total tersebut adalah batas bawah dari biaya evaluasi penuh, dan setiap token tersebut dibeli pada tarif keluaran penuh. Angka yang dilaporkan vendor mengarah pada hal yang sama — OpenAI mengatakan GPT-6.2 Astra menggunakan 22% lebih sedikit token keluaran daripada GPT-6 Astra pada tolok ukur internal GDPval v2 — tetapi itu adalah perbandingan antara model, bukan pengukuran tentang apa yang ditambahkan kembali oleh item yang dihilangkan.

Mekanismenya yang penting di sini, bukan pengali persisnya. Item penalaran yang harus dibuat ulang adalah token output yang sudah Anda bayar, diproduksi untuk kedua kalinya. Dalam loop agen yang menjalankan dua puluh giliran untuk satu tugas, kehilangan penalaran pada giliran keenam bukan berarti Anda kehilangan pemikiran senilai satu giliran; Anda menanggung derivasi ulang ditambah keputusan yang memburuk akibat konteks yang lebih tipis. Keduanya tidak terlihat dalam log per permintaan.

A generated single-column scoreboard with six rows. Cached input $0.10 per million tokens; uncached input $2.00 per million tokens; cost ratio on the affected span 20x; documented triggers 4; reasoning after a prefix edit: dropped; diagnostic field comparison_response_id. A footer line attributes the behaviour to OpenAI's preserved-reasoning guide and the cache rates to the GPT-6.2 Sol model page, 17 November 2026.

Penulisan ulang append-only, dalam lima langkah

Panduan OpenAI adalah berhenti mengedit prefiks dan mulai menambahkan ke dalamnya. Itu mudah dikatakan dan mengubah lima lokasi pemanggilan terpisah, jadi berikut semuanya bersama-sama, dengan nama field yang tepat.

• Upaya penalaran — jangan ubah reasoning.effort di antara permintaan. Sebagai gantinya, tambahkan item configuration_update ke input, yang membawa upaya baru. Bentuk yang didokumentasikan adalah {"type": "configuration_update", "reasoning": {"effort": "high"}}, ditempatkan sebelum pesan pengguna berikutnya. Pengaturan tersebut tetap berlaku hingga pembaruan lain menimpanya, dan Anda dapat mengubah reasoning.effort dan text.format dalam item yang sama.

• Skema output — item yang sama, perlakuan yang sama. Ubah text.format melalui configuration_update, bukan dengan mengedit permintaan. Memperbarui hanya salah satu dari keduanya akan membiarkan yang lain tetap seperti semula, yang merupakan cara halus untuk mendapatkan skema yang tidak terduga.

• Alat — tambahkan alat dengan item additional_tools yang dikirim di bawah peran developer, membawa array tools, dan diputar ulang pada posisi aslinya. Pertahankan definisi yang sudah ada dalam urutan aslinya, dan gunakan tool_choice dengan allowed_tools untuk membatasi apa yang boleh dipanggil oleh model.

• Instruksi — letakkan teks yang dapat digunakan ulang di pesan developer pertama di dalam input, bukan di bidang instructions tingkat atas. Untuk mengubahnya, tambahkan pesan developer baru. Pada GPT-6.2 dan versi setelahnya, bidang instructions tingkat atas ditambahkan setelah input, jadi mengeditnya sendiri merupakan perubahan prefiks.

• Pemadatan — dengan pemadatan bawaan OpenAI, baik endpoint /responses/compact maupun context_management, reasoning tetap bertahan setelah perubahan prefiks. Hilangkan instructions saat memanggil /responses/compact. Dengan pemadatan kustom, letakkan item yang dipadatkan di akhir konteks. Perhatikan batasan tajamnya: pemotongan otomatis dan /responses/compact keduanya menolak riwayat yang berisi item configuration_update, sehingga sesi yang menggunakan pola baru tidak dapat dipadatkan melalui jalur lama.

Jika Anda memadatkan secara manual dengan item compaction_trigger, tambahkan configuration_update baru setelah pemadatan dan nyatakan ulang setiap pengaturan yang Anda ubah. Tidak ada yang terbawa melintasi batas untuk Anda.

Mendeteksinya sebelum tagihan Anda melakukannya

Alasan perubahan perilaku ini berbahaya adalah karena kegagalannya terjadi secara diam-diam. API mengembalikan 200. Responsnya tampak normal. Yang Anda butuhkan adalah cara untuk melihat penurunan tersebut, dan O​penAI menyediakan satu: atur prompt_cache_options.comparison_response_id ke ID respons sebelumnya, lalu baca alasan diagnostik dan jumlah token yang di-cache. Kolom input_transformations mencantumkan item penalaran mana yang dihapus dan alasannya, dan alasan prefix_mismatch cocok berdasarkan id dengan item penalaran dalam output respons sebelumnya.

Dua batasan jujur pada diagnostik itu. Diagnostik ini melaporkan perbedaan pertama berdasarkan upaya terbaiknya, dan tidak dapat memverifikasi apakah model benar-benar menggunakan kembali penalaran yang dipertahankannya. Jadi anggap ini sebagai detektor asap, bukan meteran — ini memberi tahu Anda bahwa telah terjadi penurunan, bukan berapa besar kerugiannya.

Separuh lainnya dari instrumentasi adalah cache, dan di sinilah cerita token dan cerita biaya bertemu. Caching prompt mencocokkan permintaan dari awal, sehingga edit prefiks tidak hanya menghilangkan item penalaran; itu mengakhiri penggunaan ulang cache dari titik edit dan seterusnya. Semua yang setelah titik itu ditagih pada tarif input tanpa cache. Pada GPT-6.2 Sol, tarifnya $2.00 per juta alih-alih $0.10 — perbedaan dua puluh kali lipat pada rentang yang terdampak. Pada GPT-6.2 Astra, tarifnya $8.00 alih-alih $0.40, yang merupakan rasio dua puluh kali lipat yang sama pada kartu empat kali lebih besar.

Itulah angka yang perlu diperhatikan, dan itulah yang tidak akan pernah dijadikan judul utama dalam pos peluncuran: cache miss adalah tagihannya, dan penalaran yang hilang adalah regresi kualitasnya, dan keduanya berasal dari suntingan yang sama. Token untuk bidang instruksi tingkat atas pada GPT-6.2 dan versi setelahnya ditagih dengan tarif input tanpa cache justru karena alasan ini — bidang tersebut berada di luar prefiks yang di-cache.

Screenshot of the Artificial Analysis page for GPT-6.2 Sol, showing an Intelligence Index of 57 at max effort, a weighted cost of $1.01 per index task, 9.3 minutes per task, 72 output tokens per second and 60.9M output tokens used across the nine-evaluation suite.

Posisi deployment Sol 6.1 setelah ini

Semua ini tidak menjadi alasan untuk tidak beralih. GPT-6.1 Sol mencetak 55 pada Intelligence Index v5.0.1 dengan upaya maksimal dan GPT-6.2 Sol mencetak 57, dengan $1,27 per tugas indeks dibandingkan $1,01 dan 24,9 menit per tugas dibandingkan 9,3 — model yang lebih cepat, lebih murah, dan sedikit lebih cerdas dengan daftar tarif yang tidak berubah: $2 input, $0,10 cached, dan $10 output. Peningkatan ini nyata. Yang berubah adalah bahwa peningkatan ini kini memiliki prasyarat kebenaran, dan prasyaratnya adalah penanganan percakapan Anda bersifat append-only.

Cara termurah untuk menjawabnya adalah perbandingan tagihan, bukan perbandingan skor: kirim potongan kecil lalu lintas live ke gpt-6.2-sol dengan instrumentasi append-only yang sudah ada diaktifkan, lalu baca porsi token yang di-cache di kedua cabang setelah sehari. OrcaRouter menyajikan openai/gpt-6.1-sol dengan harga daftar vendor tanpa tambahan apa pun, dan akuntansi cache per permintaan muncul di blok usage, jadi sisi 6.1 dari catatan itu tidak perlu kontrak terpisah untuk membacanya. Failover-lah yang mencegah potongan kecil itu menjadi insiden: permintaan apa pun yang tidak dapat dilayani rute baru akan diteruskan ke model yang sudah menjawab. Bagian dari ini yang harus dikatakan terus terang adalah bahwa GPT-6.2 Sol belum ada di katalog di sini, jadi cabang 6.2 dipanggil langsung ke O​penAI sementara cabang 6.1 dipanggil ke kami.

Apa yang perlu diperhatikan selanjutnya lebih sempit daripada kedengarannya. Perilakunya terdokumentasi, jalur migrasinya terdokumentasi, dan diagnostiknya sudah ada. Yang belum ada adalah pengukuran publik tentang berapa biaya item penalaran yang dijatuhkan dalam token keluaran pada tugas berhorizon panjang yang nyata, dan sampai seseorang menerbitkannya, setiap estimasi kerusakan adalah model dari mekanisme, bukan pembacaan dari meter. Jika Anda menjalankan agen dalam volume besar, Anda lebih berposisi untuk menghasilkan angka itu daripada benchmark mana pun — dan Anda akan menghasilkannya entah Anda mau atau tidak, dan itulah argumen untuk melakukan instrumentasi sekarang.

Screenshot of OpenAI's preserved-reasoning guide, showing the section on configuration_update and additional_tools items, the list of changes that cause reasoning items to be dropped, and the append-only guidance for changing effort, tools and output schema mid-conversation.

Dibandingkan dalam artikel ini3

Terdeteksi dari artikel ini · Benchmark: Artificial Analysis · diperbarui setiap hari