Jendela 1M-Token Milik Step 5 Preview Baru Saja Meninggalkan API Milik StepFun Sendiri

Step 5 Preview tidak lagi menjadi model satu vendor pada 16 Oktober 2026. Akun resmi StepFun mengonfirmasi hari itu bahwa model unggulannya dengan 1 juta token kini aktif di host inferensi pihak ketiga, yang merupakan pertama kalinya model ini dapat dijangkau oleh pengembang yang tidak menginginkan akun StepFun, saldo StepFun, dan kartu tarif StepFun dalam mata uang kedua. Itulah keseluruhan nilai berita dari pengumuman tersebut dan layak dinyatakan secara gamblang, karena pengumuman itu sendiri tidak membawa spesifikasi baru, tidak ada perubahan harga, dan tidak ada tolok ukur. Yang dibawanya adalah perubahan distribusi. StepFun merilis Step 5 Preview pada 20 September 2026; yang terjadi pada 16 Oktober adalah model tersebut mulai muncul di tempat lain selain rumahnya. Kesenjangan antara apa yang diukur oleh papan skor dan apa yang dihadapi oleh penerapan itulah alasan catatan ini penting: kegagalan AI yang terdokumentasi dan insiden agen pada model di kelas ini dikumpulkan di Arsip Insiden AI OrcaRouter di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, tingkat keyakinan, dan tanda sengketa.

Perubahan distribusi mudah diremehkan, dan justru itulah yang menggerakkan pengadaan. Model yang hanya tersedia dari satu vendor adalah satu titik kegagalan, satu set batas laju, dan satu set endpoint regional, dan jawaban jujur untuk "apa yang terjadi jika vendor itu mengalami hari yang buruk" adalah "produk Anda mengalami hari yang buruk." Model yang tersedia dari beberapa host independen adalah masalah perutean, dan masalah perutean punya solusinya. Jebakannya adalah tidak semua hal tentang Step 5 Preview ikut berpindah bersama bobot ke host baru, dan hal yang tidak ikut berpindah adalah angka yang paling mungkin menentukan tagihan Anda.

Apa yang sebenarnya dikatakan StepFun, dan apa yang tidak diungkapkannya

Pengumuman itu pada intinya hanya sepanjang satu kalimat: model tersebut sudah aktif di platform inferensi pihak ketiga, dan jendela konteks 1 juta token adalah fitur yang ditekankan. Pengumuman itu tidak menyebutkan harga di platform-platform tersebut, tidak berkomitmen bahwa jendela konteks akan dilayani pada panjang penuh, dan tidak mengatakan apa pun tentang apakah diskon cache prompt mengikuti model itu saat melintasi batas. Ketiga hal yang tidak disebutkan itu adalah tiga pertanyaan yang harus diajukan sebuah tim sebelum memindahkan pipeline, dan itu bukanlah sekadar mempersoalkan hal-hal kecil — masing-masing memiliki jawaban salah yang masuk akal.

Model yang didistribusikan adalah model yang sama yang didokumentasikan StepFun pada September, dan angka-angka yang didokumentasikan tidak berubah. Dari halaman model StepFun sendiri:

• ID Model — step-5-preview, dengan "Preview" menjadi bagian dari pengenal, bukan akhiran yang ditambahkan artikel ini

• Jendela konteks dan input maksimum — masing-masing 1 juta token, sesuai tabel spesifikasi StepFun

• Output maksimum — 64k token, dengan max_tokens didokumentasikan sebagai default tanpa batas sehingga model memilih titik berhentinya sendiri kecuali Anda menetapkannya

• Masukan — teks, gambar, dan video; gambar sebagai URL atau Base64 dalam format JPG, PNG, WebP, atau GIF statis hingga 60 per permintaan, video dalam format MP4, QuickTime, atau Matroska

• Output — hanya teks, dengan streaming, pemanggilan alat, output terstruktur JSON Schema dan upaya penalaran pada rendah, sedang, atau tinggi

• Arsitektur — model sparse mixture-of-experts dengan total 600 miliar parameter dan 27 miliar parameter aktif per token, menurut materi peluncuran StepFun dan salinan kartu model yang memuatnya; halaman dokumentasi StepFun sendiri tidak mencantumkan jumlah parameter

• Harga di platform StepFun sendiri — $1,00 per juta token masukan, $0,10 per juta token masukan cache-hit dan $2,70 per juta token keluaran

Tidak ada dari itu yang baru. Itu adalah baseline yang didistribusikan oleh pengumuman Oktober, dan layak dinyatakan kembali karena host pihak ketiga bebas menyajikan kuantisasi yang berbeda, jendela efektif yang lebih pendek, atau pengaturan cache yang berbeda, dan tidak ada dari pilihan-pilihan itu yang muncul dalam postingan peluncuran.

Mengapa jendela 1M adalah bagian yang dijual

Konteks 1 juta token adalah alasan model ini punya cerita distribusi sama sekali. StepFun membangun Step 5 Preview di sekitar kerja agentik berhorizon panjang, dan jendela itulah yang memungkinkan prompt berskala repositori atau berskala kumpulan dokumen dalam satu panggilan, bukan melalui lapisan pengambilan yang harus Anda bangun dan rawat. Di papan independen, Artificial Analysis memberi Step 5 Preview skor 44 pada Intelligence Index dan menghitung biaya sekitar $0,71 per tugas indeks yang diselesaikan — angka yang memasukkan verbositas ke dalam harga sehingga kurang menguntungkan dibandingkan kartu tarif. Pembacaan kecepatan keluaran di halaman yang sama telah berubah antar pengambilan, dari 88,1 menjadi 99,8 token keluaran per detik, yang itu sendiri menjadi pengingat bahwa throughput yang dihosting adalah properti host sama seperti properti model.

Poin terakhir itulah yang membuat pengumuman itu relevan. Model sparse berparameter 600 miliar dengan 27 miliar parameter aktif mahal untuk dilayani pada konteks satu juta token, karena KV cache untuk prompt panjang merupakan biaya memori nyata per permintaan bersamaan. Siapa pun yang melayaninya telah mengambil keputusan tentang berapa banyak dari jendela itu yang akan dipenuhi, berapa banyak permintaan yang dijalankan sekaligus, dan apakah akan mengkuantisasi tumpukan atensi agar lebih banyak permintaan muat di satu kartu. Checkpoint FP8 milik StepFun sendiri berukuran 650 GB di disk dan checkpoint BF16-nya 1.215 GB; host yang menjalankan salah satunya menjalankan mesin yang berbeda dari yang dijalankan StepFun, dan throughput yang dikutip vendor untuk klaster miliknya sendiri bukanlah janji tentang klaster milik orang lain.

Angka yang tidak berpindah: diskon cache

Kartu tarif Step 5 Preview memiliki diskon 95% untuk input yang di-cache, yang menurunkan token baca ulang dari $1,00 per juta menjadi $0,10. Untuk permintaan satu giliran, ini tidak relevan. Untuk beban kerja yang sebenarnya menjadi target penjualan model ini — loop agen yang mengirim ulang prompt sistem, skema alat, dan peta repositori yang sama pada setiap giliran — itu adalah komponen dominan dalam tagihan, dan itulah alasan tarif efektif Step 5 Preview pada sesi panjang jauh dari harga labelnya.

Caching prompt adalah detail implementasi dari stack penyajian, bukan properti dari bobot. Apakah host tertentu menyediakannya, bagaimana host mengidentifikasi cache hit, berapa lama sebuah prefiks tetap hangat, dan berapa biaya yang dikenakan untuk pembacaan tersebut semuanya adalah keputusan host. StepFun mendokumentasikan caching di platform StepFun. Pengumuman bahwa sebuah model tersedia di tempat lain tidak memberi tahu Anda apa pun tentang hal itu, dan inilah baris spesifik yang perlu dibaca di halaman harga host baru sebelum menganggap bahwa perhitungan ekonomi yang Anda modelkan pada kartu harga StepFun masih berlaku. Host yang mengenakan harga input penuh pada setiap giliran bisa beberapa kali lebih mahal daripada StepFun untuk beban kerja yang sama, sementara di halaman tampak lebih murah per juta token.

Distribusi pekan peluncuran StepFun sendiri tergolong luar biasa luas untuk sebuah model unggulan dari lab Tiongkok, dan kedatangannya bertahap alih-alih sekaligus: model tersebut muncul di alat-alat coding pihak ketiga dengan uji coba gratis selama sepekan pada awal Oktober, dan hosting API pihak ketiga yang diumumkan pada 16 Oktober adalah langkah yang lebih belakangan dan lebih umum. Baca keduanya bersama-sama, dan polanya adalah sebuah lab yang ingin modelnya berada di hadapan para developer di mana pun mereka sudah berada, alih-alih menggiring mereka ke konsolnya sendiri. Itu strategi yang koheren dan juga strategi dengan biaya yang jelas: setiap host tambahan adalah tempat lain di mana batas kemampuan model menjadi implementasi pihak lain.

Tiga pertanyaan yang layak diajukan kepada host baru

Respons yang berguna terhadap pengumuman ini bukanlah beralih, melainkan memeriksa. Inilah tiga hal yang menentukan apakah endpoint baru merupakan produk yang sama.

• Kuantisasi — tanyakan checkpoint mana yang sedang dilayani. StepFun menerbitkan FP8, BF16 dan, sejak 14 Oktober, build NVFP4 pada 394 GB, dan ketiganya tidak dapat dipertukarkan dalam hal kualitas atau jejak memori. Host yang menjalankan NVFP4 di Blackwell menjalankan tumpukan pakar empat-bit dengan attention dan gerbang perutean yang ditahan; apakah itu mengurangi akurasi pada tugas Anda adalah pertanyaan yang hanya dijawab oleh evaluasi Anda sendiri.

Konteks efektif — tanyakan apakah 1M token dilayani untuk setiap pemanggil atau dibatasi per tier. Melayani prompt sejuta token memiliki biaya konkurensi yang muncul sebagai batas laju sebelum muncul sebagai harga, dan penyedia yang mengiklankan jendela konteks itu sambil membatasi konkurensi sebenarnya mengiklankan dokumen model, bukan layanannya.

• Semantik cache — tanyakan berapa biaya prefiks yang berulang. Inilah butir yang menentukan ekonomi sesi panjang, dan inilah butir yang paling mungkin dihilangkan.

Uji coba terhadap prompt yang sama pada kedua endpoint, yang diukur dalam dolar per tugas yang selesai alih-alih dolar per juta token, menjawab ketiganya sekaligus dan hanya memerlukan waktu satu sore.

Bagaimana posisi model setelah ini

Step 5 Preview adalah model sparse mixture-of-experts dengan 600 miliar parameter dan jendela satu juta token, input teks, gambar, dan video, batas output 64k, kartu tarif $1,00 / $2,70, serta diskon cache 95% di platform StepFun sendiri, dengan skor 44 pada satu-satunya indeks independen yang mencakupnya. Dirilis 20 September 2026. Per 16 Oktober, model ini juga dapat diakses, dalam bentuk tertentu dan dengan harga tertentu, dari setidaknya satu host yang bukan StepFun.

Perlu dikatakan secara gamblang bahwa Step 5 Preview tidak ada dalam katalog aktif OrcaRouter, jadi tempat untuk memanggilnya tetap API milik vendor itu sendiri atau host pihak ketiga — dan jika Anda sedang mengevaluasinya, celah itulah argumen untuk menjaga sisa stack Anda pada satu endpoint. Satu API yang mencakup lebih dari 200 model dengan harga daftar penyedia tanpa markup adalah yang memungkinkan eksperimen dua minggu pada model baru tetap menjadi eksperimen: fallback Anda adalah aturan routing, bukan integrasi kedua, failover otomatis berarti endpoint yang tidak dikenal tidak dapat menjatuhkan jalur produksi Anda bersamanya, dan karena pass-through menggunakan harga penyedia itu sendiri, perubahan tarif vendor sampai ke tagihan Anda pada hari perubahan itu berlaku, bukan pada siklus kontrak berikutnya. Model yang Anda uji adalah risikonya; perpipaan di sekitarnya tidak seharusnya menjadi risiko kedua.

Hal berikutnya yang perlu diperhatikan bukanlah host lain. Ini adalah host pertama yang mempublikasikan throughput-nya sendiri, ketentuan cache-nya, dan kuantisasinya di halaman yang sama, sehingga perbandingan tidak lagi menjadi tebakan tentang berapa biaya jendela 1M-token ketika pihak selain StepFun yang membayar GPU-nya.