Tangga harga tiga kolom untuk GPT-6.2 Astra: Standard seharga $8.00 input dan $40.00 output per juta token dengan streaming dan tanpa jendela diskon; jendela 2 jam pada 30% di bawah Standard, yaitu $5.60 input, $0.28 cached, dan $28.00 output tanpa streaming; serta jendela 8 jam pada 40% di bawah Standard, yaitu $4.80 input, $0.24 cached, dan $24.00 output; dicantumkan di footer sebagai target, bukan jaminan. Logo OrcaRouter berada di sudut kanan bawah.
Guides & Insights

GPT-6.2 Astra Mode Latar Belakang: Diskon 40%, Dibayar Berdasarkan Waktu Aktual

Penulis

jinhao.song

Tanggal Terbit

Model terbaru · 20Lihat semua model →
Benchmark: Artificial Analysis · diperbarui setiap hari
Kembali ke semua artikel

Rute termurah OpenAI ke GPT-6.2 Astra tidak mengubah harga model. Yang berubah adalah kapan Anda bersedia menerima jawabannya. Kirim permintaan yang sama melalui Responses API dengan background diatur ke true dan background_options.completion_window diatur ke 8h, dan token GPT-6.2 Astra yang terdaftar seharga $8 untuk input dan $40 untuk output per juta akan ditagih sebesar $4.80 dan $24. Pada GPT-6.2 Sol, kartu $2 dan $10 menjadi $1.40 dan $7. Bobot yang sama, penalaran yang sama, jendela konteks yang sama. GPT-6.2 Sol, yang lebih murah dari keduanya, mendapat perlakuan identik: $1.40 dan $7 dalam jendela delapan jam versus $2 dan $10 pada Standard. Yang berubah adalah posisi Anda dalam antrean.

Kesepakatan itu dirilis pada 17 November 2026, dalam jendela changelog yang sama dengan kedua model itu sendiri, dan mudah disalahartikan sebagai pemotongan harga. Itu bukan pemotongan harga. Pemotongan harga mengikuti model ke mana pun model itu dipanggil. Jendela penyelesaian (completion window) adalah flag pada satu endpoint, dan setiap properti yang membuatnya bernilai bagi penjadwal OpenAI adalah properti yang harus Anda terima: tanpa streaming, tanpa berbagi cache dengan lalu lintas normal, dan anggaran batas laju yang kini Anda bagi dengan Batch API.

Alasan ini layak mendapat lebih dari sekadar satu baris di changelog adalah karena diskonnya luar biasa besar untuk tier yang tetap mempertahankan kualitas model penuh. Batch sudah diskon 50% selama bertahun-tahun, tetapi Batch hanya menerima permintaan yang dapat Anda kirim sebagai file dan lupakan. Ini diskon 40% untuk percakapan agen langsung, dengan giliran lanjutan dan output alat, selama percakapan dapat menoleransi antrean. Bagi banyak beban kerja produksi, itu adalah perbedaan antara pertanyaan keterjangkauan dan pertanyaan arsitektur.

Apa itu window, dalam istilah API

Mode background sendiri bukanlah hal baru: itu adalah cara Responses API menjalankan permintaan panjang secara asinkron. Anda menetapkan background ke true, langsung menerima ID respons kembali, lalu mengambil hasilnya nanti melalui webhook pada response.completed atau dengan melakukan polling ke endpoint retrieve selama statusnya terbaca queued atau in_progress. Mode background memang selalu bertujuan agar tidak menahan koneksi tetap terbuka selama proses agent berjalan dua puluh menit.

Bagian barunya adalah bahwa antrean latar belakang kini memiliki tingkatan dengan harga. background_options.completion_window menerima soonest, 2h atau 8h. Soonest adalah default dan tidak memberikan diskon; ini adalah kasus "menghasilkan laporan saat seseorang menunggu". 2h adalah 30% di bawah Standard dan 8h adalah 40% di bawahnya, dan dokumentasinya menjelaskan secara spesifik bahwa penghitung waktu target dimulai saat API menerima permintaan awal dan berlaku untuk respons tersebut.

“Menargetkan penyelesaian dalam jendela yang dipilih” adalah frasa yang perlu dibaca dua kali. Itu adalah target penjadwalan, bukan jaminan dan bukan penundaan tetap, dan saran dari API itu sendiri adalah bahwa waktu mulai bergantung pada penjadwalan. Permintaan dalam jendela delapan jam tidak ditahan selama delapan jam lalu dijalankan; permintaan dijalankan saat kapasitas memungkinkan dan, jika selesai dalam empat menit, Anda mendapatkannya dalam empat menit. Yang Anda serahkan adalah hak untuk mengeluh ketika hal itu tidak terjadi.

Tangga dalam dolar

Kedua model yang dicakup jendela ini, dengan harga di setiap tingkatan, per juta token, menggunakan tarif Standard yang diterbitkan OpenAI sebagai acuan:

• GPT-6.2 Astra, Standard — $8 input, $0.40 input cache, $40 output

• GPT-6.2 Astra, jendela 2 jam — $5,60 input, $0,28 di-cache, $28 output

• GPT-6.2 Astra, jendela 8 jam — $4.80 masukan, $0.24 di-cache, $24 keluaran

GPT-6.2 Sol, Standard — input $2, cache $0,10, output $10

• GPT-6.2 Sol, jendela 2 jam — input $1,60, di-cache $0,08, output $8

• GPT-6.2 Sol, jendela 8 jam — $1,40 input, $0,06 di-cache, $7 output

• Sebagai gambaran, model yang sama di opsi tercepat — mode Fast menggandakan tarif Standard menjadi $16 dan $80; Ultrafast adalah 3× Standard pada $24 dan $120 hingga 28 Februari 2027 dan 6× pada $48 dan $240 mulai 1 Maret 2027

Three stacked bars showing what a 40% window does to a $4.00 Artificial Analysis task on GPT-6.2 Astra: $4.00 at Standard, about $2.80 in the 2h window and about $2.40 in the 8h window, beside a card breaking the $4.00 into $1.19 of cache reads, $1.10 of cache writes, $1.64 of output and $0.07 of uncached input. The OrcaRouter logo sits in the bottom-right corner.

Itu adalah tarif token, dan tarif token bukanlah biaya sebuah tugas. Tagihan tertimbang Artificial Analysis untuk satu tugas Intelligence Index yang telah selesai pada GPT-6.2 Astra menjadi $4,00 pada Standard, pada indeks v5.0.1 miliknya yang diukur pada upaya maksimum. Jika diskon jendela waktu berlaku secara seragam di seluruh kategori dalam tagihan itu, tugas yang sama akan menjadi $2,80 dalam jendela dua jam dan $2,40 dalam jendela delapan jam. Untuk sepuluh ribu tugas, itu berarti $28.000 dan $24.000, bukan $40.000.

Kata “if” itu benar-benar berperan penting. Dokumentasi OpenAI menjelaskan bahwa diskon tersebut berlaku pada tarif token model untuk setiap permintaan yang memenuhi syarat, termasuk permintaan lanjutan, dan halaman harganya mengulang frasa yang sama. Tidak ada halaman yang merinci diskon berdasarkan kategori token, dan tagihan token pada model ini tidak sebagian besar berupa input mentah: dalam pengukuran Artificial Analysis, $1,19 dari $4,00 adalah pembacaan cache, $1,10 adalah penulisan cache, dan hanya $0,065 adalah input tanpa cache, dengan $1,64 untuk output. Penulisan cache dikenakan tarif tersendiri — $10 per juta untuk cache 30 menit dan $20 untuk cache 12 jam — sehingga beban kerja yang didominasi oleh penulisan prompt besar ke cache mungkin tidak turun tepat 40%. Anggap 40% sebagai bentuk diskonnya dan ukur tagihan Anda sendiri alih-alih mengasumsikan pengalinya.

Empat kondisi yang Anda warisi

Diskon tidak tersedia pada setiap permintaan, dan pengecualian inilah yang biasanya menjadi titik kesalahan dalam implementasi.

• Hanya pemrosesan Standar. Jendela diskon memerlukan service_tier diatur ke default. Jika Anda membiarkannya pada auto, permintaan hanya memenuhi syarat ketika API kebetulan memilih Standard, yang berarti diskon Anda menjadi untung-untungan yang tidak dapat Anda lihat sebelumnya.

• Tidak ada streaming. Streaming hanya berfungsi dengan soonest. Untuk 2h dan 8h, Anda harus menghilangkan stream atau menyetelnya ke false, dan Anda tidak dapat melakukan streaming respons nanti jika respons tersebut tidak dibuat dengan streaming.

• Satu batas laju bersama. Permintaan dalam jendela dua jam dan delapan jam berbagi batas laju Batch/Background dengan pekerjaan Batch API, dan token masukan dihitung saat pengiriman. Eksperimen yang mengirim dokumen sejuta token ke background delapan jam tidak hanya menunggu; ia memakan kapasitas cadangan yang selama ini digunakan oleh pekerjaan Batch Anda.

• Permintaan lanjutan harus cocok. Satu proses agen adalah sebuah rangkaian, dan diskon tetap berlaku sepanjang rangkaian hanya jika setiap permintaan lanjutan mengulangi jendela waktu, continuation_id, model, proyek, dan pengaturan latar belakang. Gunakan kembali ID kelanjutan dan permintaan lanjutan juga menjadi layak untuk prioritas antrean yang lebih tinggi. Ubah salah satu dari itu dan giliran berikutnya menjadi permintaan Standard.

A 2x2 grid of cards headed 'Four things the window takes with it': Standard processing only with the Flex tier gone, no streaming so you receive the finished response rather than tokens, a rate limit shared with Batch jobs where input tokens count at submission, and a split prompt cache whose window-written entries are invisible to Standard requests. The OrcaRouter logo sits in the bottom-right corner.

Ada kondisi kelima yang tersembunyi dalam aturan cache, dan itulah yang memiliki ekor terpanjang. Permintaan standar di luar jendela diskon tidak dapat menggunakan kembali entri cache prompt yang dibuat oleh permintaan latar belakang dua jam atau delapan jam, bahkan ketika prompt-nya identik, dan sebaliknya juga berlaku. Jika separuh lalu lintas Anda berjalan dalam jendela dan separuh berjalan sesuai permintaan, Anda diam-diam membagi cache prompt Anda menjadi dua dan membayar untuk menulis prefiks yang sama dua kali. Diskon di satu sisi pemisahan itu diimbangi oleh penulisan cache di sisi lain, dan model dengan biaya penulisan cache $10 per juta justru merupakan model yang paling salah untuk dipisah.

Biaya yang tidak ada di faktur

Diskon tersebut membeli token dengan waktu, dan waktu tidak dibatasi oleh jendela. Pertimbangkan tinjauan dokumen semalam yang digunakan dokumentasi itu sendiri sebagai contoh: satu permintaan selama delapan jam, satu panggilan alat, dan satu tindak lanjut yang membawa dokumen yang diambil kembali. Kedua respons memenuhi syarat untuk diskon 40%, dan target dimulai ulang untuk respons kedua. Dalam kasus terbaik, seluruh proses selesai sebelum sarapan. Dalam kasus terburuk, masing-masing dari dua respons memakan waktu mendekati target penuhnya, sehingga batas maksimum ujung-ke-ujung menjadi sekitar enam belas jam, bukan delapan.

Aritmetika itu tidak berskala baik untuk agen berdurasi panjang. Alur kerja dua belas putaran yang mengirim setiap putaran melalui jendela delapan jam memiliki batas atas empat hari, dan penjadwalan nyata berada di suatu titik antara kasus terbaik dan batas atas itu tanpa distribusi yang diterbitkan. Cara jujur untuk menerapkannya adalah memutuskan per alur kerja, bukan per panggilan: pipeline yang outputnya dikonsumsi pagi berikutnya adalah kecocokan alami, sedangkan sesi interaktif bukan, tidak peduli berapa banyak token yang akan dihemat. Jendela itu adalah penawaran untuk kapasitas murah, dan penawaran terpenuhi ketika ada kapasitas untuk diisi.

Celah Flex yang tidak disebutkan siapa pun

Sebelum hadirnya jendela-jendela ini, cara untuk membeli diskon pada keluarga model ini adalah service_tier: flex: 50% lebih murah daripada Standard, dengan prioritas lebih rendah. Flex masih tersedia pada model-model lama — GPT-6 Astra tercantum seharga $5 dan $25 di tabel Flex, dibandingkan $10 dan $50 pada Standard — tetapi panduan background OpenAI menyatakan secara gamblang bahwa mulai dari GPT-6.2 Astra dan Sol, model-model baru diluncurkan tanpa pemrosesan Flex, dan bahwa pekerjaan berdurasi panjang sebaiknya menggunakan jendela penyelesaian yang didiskon dengan pemrosesan Standard.

Baca kedua angka itu secara berdampingan dan arah pergerakannya terlihat jelas. Pada generasi sebelumnya, pemanggil yang sabar bisa membeli dengan diskon 50%. Pada generasi ini, tier terdalam adalah 40%, dan mengharuskan Anda membingkai pekerjaan sebagai latar belakang. Penggantinya bukan peningkatan langsung atas opsi lama; ini opsi yang lebih sempit dengan diskon lebih kecil, dan datang melekat pada bentuk permintaan — asinkron, non-streaming, ID respons tunggal — yang tidak dapat diadopsi oleh setiap integrasi.

Batch tetap melangkah lebih dalam, dan merupakan alat yang salah untuk separuh dari ini.

Batch API tetap diskon 50% dengan waktu proses 24 jam, dan hanya dari sisi harga, layanan ini mengalahkan setiap jendela background. Perbedaannya bersifat struktural, bukan soal derajat. Batch menerima file JSONL berisi permintaan independen dan mengembalikan file hasil; alur kerjanya tidak memiliki memori antarbaris. Mode background adalah untuk satu respons pada satu waktu, dengan status percakapan diteruskan melalui previous_response_id dan rangkaian panggilan alat yang harus dijalankan aplikasi di antaranya.

Jadi keputusannya bukan "mana yang lebih murah" melainkan "apakah beban kerja saya punya jalan tengah". Lima ribu panggilan klasifikasi independen memang tempatnya di Batch, dan selalu begitu. Satu proses agen yang membaca dokumen, memanggil fungsi, lalu menulis laporan sama sekali tidak dapat dinyatakan sebagai batch — permintaan keduanya belum ada sampai permintaan pertama kembali. Itulah celah yang diisi oleh jendela-jendela tersebut, dan itu nyata: 40% adalah diskon pertama yang ditawarkan OpenAI untuk pekerjaan stateful dan multi-turn.

Catatan kaki penyimpanan dengan konsekuensi kepatuhan

Mode latar belakang menyimpan data respons untuk sementara bahkan ketika store bernilai false atau proyek menggunakan Zero Data Retention, karena API memerlukan data tersebut untuk menjalankan permintaan dan membuat hasilnya dapat diambil. Data dienkripsi saat disimpan untuk setiap jendela termasuk soonest, dan panduannya adalah menyimpan sendiri input asli dan output respons lengkap selama Anda masih dapat mengambilnya. Tidak ada time-to-live yang dinyatakan untuk penyimpanan sementara tersebut.

Bagi tim yang memilih Zero Data Retention untuk beban kerja teregulasi, "disimpan sementara" adalah kalimat yang perlu disampaikan kepada siapa pun yang menyetujui tinjauan penanganan data, dan itu perlu disampaikan sebelum pekerjaan delapan jam pertama dimasukkan ke antrean, bukan sesudahnya. Diskon tidak mengubah postur kepatuhan endpoint; yang berubah adalah berapa lama permintaan dan outputnya berada dalam keadaan yang tidak dapat Anda lihat.

Apa yang ditambahkan dan tidak ditambahkan oleh routing di sini

Satu hal yang perlu diperjelas, karena mudah keliru saat diskon diumumkan: ini adalah fitur penjadwalan, bukan harga daftar. OrcaRouter meneruskan harga daftar penyedia dengan markup 0%, itulah sebabnya penurunan harga OpenAI yang asli muncul di sisi kami pada hari yang sama — tetapi jendela penyelesaian adalah penanda pada endpoint milik OpenAI sendiri, dan itu tidak ikut berpindah bersama model. Memanggil GPT-6.2 Astra melalui router tidak mereproduksi 40% itu, dan tidak ada router yang bisa, karena diskon itu adalah hak pemberian penjadwal.

Hal itu menyisakan dua hal yang benar-benar berguna dari routing dalam bentuk penerapan ini. Yang pertama adalah pilihan model: dari empat model yang dicakup jendela waktu — GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra, dan GPT-6 Luna — ujung murahnya sudah ada di katalog kami dengan GPT-6 Luna dan GPT-6.1 Sol dengan harga daftar, sehingga keputusan tiering dan keputusan penyedia tetap berada pada satu kunci, bukan dua kontrak. Yang kedua adalah melindungi panggilan yang tidak bisa menunggu. Sistem yang menempatkan pekerjaan semalamannya dalam jendela delapan jam telah membuat jalur yang sensitif terhadap latensi menjadi lebih penting, bukan lebih rendah, dan failover otomatis pada jalur itu adalah yang mencegah satu insiden penyedia mengubah panggilan lima detik menjadi gangguan layanan. Antrean dan failover saling melengkapi: Anda menghabiskan kesabaran di tempat Anda memilikinya, sehingga Anda mampu bersikap tidak toleran di tempat lain.

OpenAI's developer documentation page for Responses API background mode, showing the background flag set to true, the background_options object with its completion_window values of soonest, 2h and 8h, and the notes on polling or webhook notification of the completed response.

Aturan praktis

Jika respons dikonsumsi oleh manusia yang sedang menonton, tidak ada yang berlaku di sini: gunakan secepatnya, stream saja, dan bayar Standard. Jika respons dikonsumsi oleh tugas terjadwal, laporan yang tiba sebelum rapat pagi, atau pipeline yang tahap berikutnya berjalan malam ini, jendela delapan jam adalah diskon 40% untuk token kualitas penuh dan satu-satunya pertanyaan nyata adalah apakah integrasi Anda dapat berjalan tanpa streaming dan dengan cache prompt terpisah. Jendela dua jam pada 30% adalah jalan tengah yang canggung — cukup dalam untuk layak mengubah arsitektur hanya jika pekerjaan tersebut benar-benar dibatasi tenggat dua jam, yang mana sebagian besar pekerjaan berbentuk batch tidak demikian.

Angka yang perlu diperhatikan bukanlah persentase diskon, melainkan porsi traffic Anda yang sudah menunggu. Tim yang menjalankan agen sepanjang malam mendapatkan diskon 40% untuk tagihan yang tetap akan mereka bayar. Tim yang menjalankannya secara interaktif ditawari diskon yang tidak dapat mereka gunakan, pada model yang tidak lagi menjual tier Flex 50% yang dulu menjadi fallback mereka. Kelompok kedua itu sebaiknya membaca halaman harga sebelum halaman arsitektur, karena pada 17 November cara termurah untuk memanggil GPT-6.2 Astra berhenti menjadi tier yang Anda pilih dan menjadi jadwal yang Anda terima.

Dibandingkan dalam artikel ini1

Terdeteksi dari artikel ini · Benchmark: Artificial Analysis · diperbarui setiap hari