pplx-decider-flash vs pplx-decider: 4B Lebih Murah Sampai Anda Mengajukan Tiga Pertanyaan

Di daftar harga, pplx-decider-flash-v1.2 berbiaya setengah dari pplx-decider-v1.2: $0,01 per juta token masukan versus $0,02. Menurut aturan penagihan, diskon itu hanya bertahan untuk tepat satu pertanyaan. Ajukan dua pertanyaan pada state yang sama dan kedua model berbiaya sama. Ajukan tiga dan model 4B justru menjadi yang lebih mahal, karena Flash menagih state itu lagi untuk setiap pertanyaan sementara 27B menagihnya sekali. Model yang lebih murah hanya lebih murah jika Anda mengajukannya satu pertanyaan kecil dalam satu waktu.

Inversi itulah bagian yang berguna dari perbandingan ini. Sisanya adalah kompromi ukuran yang sudah lazim: checkpoint 4B yang unggul dalam latensi dan memori melawan model 26 miliar parameter yang unggul dalam akurasi, dengan keduanya dijual di bawah lisensi Apache-2.0 yang sama dan konteks default 262.144 token yang sama.

Dua checkpoint, satu rilis, tugas yang berbeda

Perplexity menerbitkan keduanya pada 15 Oktober 2026, model besar pukul 07.40 UTC dan Flash pukul 16.57. Keduanya berbagi desain: backbone Qwen, head pembacaan 255-arah alih-alih head model bahasa, lapisan full-attention nonkausal, dan suhu kalibrasi tersimpan. Keduanya tidak berbagi backbone. pplx-decider-v1.2 dibangun di atas Qwen3.8-27B dan hadir dengan ukuran sekitar 52 GiB dalam BF16. pplx-decider-flash-v1.2 dibangun di atas Qwen3.5-4B dan hadir dengan ukuran sekitar 9 GiB.

Penamaannya lebih longgar daripada angkanya. Model besar dijual sebagai 27B, tetapi kartu modelnya sendiri menyebutkan 26B dalam BF16. Flash dijual sebagai 4B dalam dokumentasi API, sementara tajuk kartunya menyebutkan 5B dalam BF16 dan tulang punggungnya adalah model 4B. Tidak ada dari kedua ketidaksesuaian itu yang mengubah keputusan deployment; keduanya layak diketahui sebelum Anda menyebutkan jumlah parameter dalam rencana kapasitas.

Daftar harga, sebelum tanda bintang

• Harga input — pplx-decider-flash-v1.2 sebesar $0.01 per juta token vs pplx-decider-v1.2 sebesar $0.02.

• Harga output — gratis pada keduanya, tanpa biaya per permintaan. Setiap pertanyaan dihitung sebagai satu token output hanya untuk keperluan pencatatan.

• Batas laju — 4.000.000 token per menit dan 240.000.000 per jam, dengan batas atas 10 permintaan per detik yang dibagi bersama oleh kedua model di tingkat organisasi.

• Alias — pplx-decider-flash-latest dan pplx-decider-latest sama-sama berpindah ke versi terbaru, sehingga ambang yang disetel untuk satu versi bisa secara diam-diam bertemu versi lain.

Tanda bintangnya tidak disembunyikan. Dokumentasi Perplexity menyatakan secara gamblang bahwa Flash dirancang untuk satu pertanyaan per permintaan, bahwa mengirim beberapa pertanyaan menghasilkan jawaban independen tanpa saling keterkaitan, dan bahwa state ditagih lagi untuk masing-masing pertanyaan. Dokumentasi itu bahkan menguraikan contohnya: tiga pertanyaan pada state 10.000 token memakan sekitar 30.000 token input.

Di mana pertanyaan kedua menghapus diskon

Bentuk umumnya sederhana. Untuk state dengan s token dan q pertanyaan, biaya Flash adalah q × s × $0.01 per juta dan biaya 27B adalah s × $0.02 per juta. Tagihan Flash melampaui model besar pada pertanyaan ketiga.

• Satu pertanyaan, status 10.000 token — Flash $0.0001 vs 27B $0.0002. Flash menang setengahnya.

• Dua pertanyaan, keadaan yang sama — Flash $0.0002 vs 27B $0.0002. Imbang, bukan diskon.

• Tiga pertanyaan — Flash $0.0003 vs 27B $0.0002. 4B 50% lebih mahal.

• Lima pertanyaan — Flash $0.0005 vs 27B $0.0002. 4B dua setengah kali lipat harganya.

Dalam nilai absolut, ini hanyalah pecahan sen, sehingga aturan ini mudah terlewatkan dan mudah terakumulasi pada volume besar. Sebuah gate yang menjalankan sejuta permintaan berisi tiga pertanyaan terhadap state 10.000 token memakan biaya sekitar $300 di Flash dan $200 di 27B. Model yang tampak 50% lebih murah ternyata 50% lebih mahal pada beban kerja yang biasanya justru dapat dioptimalkan dengan batching.

Dokumentasi Perplexity menyatakan bahwa model yang lebih besar "biasanya lebih murah daripada Flash" untuk tiga pertanyaan atau lebih. Titik persilangan tepatnya adalah dua. Jika pertanyaan Anda benar-benar terkait — faset "pilih semua yang berlaku" dari satu keputusan — jalur gabungan juga merupakan jalur yang akurat. Jika pertanyaan tersebut merupakan skor kandidat yang independen, dokumentasi menyarankan untuk memisahkannya menjadi permintaan terpisah, yang membuat tagihan Flash naik lebih jauh sementara tagihan 27B tidak berubah.

Kesenjangan akurasi, kategori demi kategori

Kedua model dinilai pada Decision Index 0.3, komposit buatan Perplexity sendiri. Angka utamanya adalah 60,05 untuk Flash dengan satu pertanyaan per permintaan versus 68,09 untuk 27B dengan permintaan gabungan. Pemecahan per kategori, yang membandingkan uji gabungan dengan uji gabungan, menunjukkan dari mana kesenjangan 9,2 poin pada uji gabungan berasal.

• Pengetahuan — 42,0 vs 56,3. Selisih 14,3 poin, dan inilah yang seharusnya menentukan sebagian besar penerapan. Jika pertanyaannya menuntut pengetahuan tentang sesuatu alih-alih penilaian terhadap sesuatu, 4B bukanlah penggantinya.

• Bahasa — 63,3 vs 72,8.

• Retrieval — 64,8 vs 68,4. Selisih paling sempit, yaitu 3,6 poin. Menilai apakah suatu bagian teks mendukung sebuah klaim adalah tugas yang memang dirancang untuk Flash, dan angka-angka itu mencerminkannya.

• Alat — 76.7 vs 84.4. Kedua model paling kuat di sini secara absolut, yang cocok dengan kasus penggunaan perutean.

• Seni — 46,8 vs 56,2.

• Visi — 72,53 vs 77,43 pada Indeks Keputusan Visi, selisih 4,9 poin yang lebih kecil daripada selisih teks dan membuat Flash lebih kompetitif pada gambar dibandingkan pada prosa.

Peringatan yang jelas berlaku untuk setiap angka di atas: benchmark tersebut milik vendor, dan belum ada pihak ketiga yang mereproduksinya. Kartu 27B menyatakan bahwa pekerjaan pelatihan mencakup split pelatihan resmi dari beberapa tugas Decision Index, yang didekontaminasi terhadap set pengujian; itu adalah praktik yang dinyatakan, bukan yang diaudit. Perlakukan profil kategori sebagai hipotesis tentang di mana setiap model unggul — pengetahuan dan seni untuk 27B, retrieval dan tools untuk keduanya — bukan sebagai hasil yang terukur.

Asimetri permintaan bersama

Mengelompokkan pertanyaan membantu model besar dan merugikan model kecil, dan angka Perplexity sendiri menunjukkan hal itu.

• pplx-decider-v1.2 — 68,09 gabungan vs 67,75 satu per permintaan. Pengelompokan menambah 0,34 poin.

• pplx-decider-flash-v1.2 — 58,88 gabungan vs 60,05 per permintaan. Pengelompokan memakan 1,17 poin.

Dokumentasi menjelaskan mekanismenya: 4B kehilangan akurasi ketika menjawab beberapa pertanyaan sekaligus, itulah sebabnya satu pertanyaan per permintaan menjadi default yang direkomendasikan. Yang ditambahkan oleh angka-angka tersebut adalah bahwa kerugiannya cukup besar untuk muncul dalam skor keseluruhan, bukan hanya dalam kasus ekstrem. Model ini dipasarkan berdasarkan kecepatan single-pass dan terukur lebih baik tanpa single-pass. Jika Anda tetap mengelompokkan untuk mengejar throughput, Anda membayar kecepatan itu dua kali — sekali dalam token dan sekali dalam akurasi.

Kalibrasi: lebih dekat daripada yang disiratkan oleh kesenjangan akurasi

Kedua kartu mempublikasikan kalibrasi secara jujur, yang cukup langka sehingga layak dicatat.

• Suhu tersimpan — 1.554 pada Flash vs 1.382 pada 27B.

• Akurasi set pengembangan — 88,8% pada 1.497 pertanyaan untuk Flash vs 91,3% untuk 27B.

• Kesalahan kalibrasi yang diharapkan setelah suhu — 0.021 untuk Flash vs 0.014 untuk 27B.

• Skor Brier — 0.163 vs 0.134.

Flash kurang akurat dan kalibrasinya kurang baik, seperti yang diharapkan pada ukuran sepertujuh, tetapi selisih kalibrasinya adalah 0,007 ECE — cukup kecil sehingga ambang yang disetel pada 27B sering kali dapat ditransfer. Kartu 27B juga secara terus terang menyatakan bahwa data keputusan yang disisihkan masih agak terlalu percaya diri, dengan ECE sekitar 0,05, jadi tidak satu pun model merupakan pengganti untuk menyesuaikan ambang pada data Anda sendiri. Dokumentasi Perplexity mengatakan persis hal itu: benchmark keduanya pada data berlabel dengan ambang yang Anda maksudkan dan pertahankan Flash hanya jika memenuhi target akurasi Anda.

Self-hosting: 9 GiB dibanding 52 GiB

Keduanya Apache-2.0, jadi harga versi hosted hanyalah kemudahan, bukan penguncian. Perbedaan perangkat keras adalah pembeda paling tajam di antara keduanya.

• Bobot — sekitar 9 GiB BF16 untuk Flash vs sekitar 52 GiB untuk 27B, ditambah memori kerja pada keduanya.

• Perangkat Keras — Flash muat di kartu konsumen 16 GB; yang 27B membutuhkan akselerator serius atau pemisahan multi-GPU.

• Serving — keduanya tidak dapat langsung dipasang ke server kausal standar tanpa perubahan. Lapisan full-attention berjalan secara nonkausal, dan prompt yang ditulis untuk v1.1 tidak dapat langsung digunakan.

• Konteks — 262.144 token pada keduanya secara default, dengan pelatihan yang hanya divalidasi hingga sekitar 32.000 dan kartu tersebut memperingatkan bahwa input yang lebih panjang kurang teruji.

Self-hosting Flash adalah satu-satunya versi perbandingan ini di mana 4B menang tanpa syarat. Satu kartu 16 GB, lisensi permisif, dan tanpa tagihan per token benar-benar produk yang berbeda dari checkpoint 52 GiB yang membutuhkan tim serving.

Aturan keputusan yang dapat Anda terapkan

• Satu pertanyaan per state, volume tinggi — Flash. Keunggulan harganya nyata dan penurunan akurasinya terkonsentrasi pada tugas-tugas pengetahuan yang bisa Anda alihkan ke tempat lain.

• Dua pertanyaan atau lebih per state — 27B. Pada dua pertanyaan, harganya imbang; mulai dari tiga, lebih murah, dan lebih akurat dalam mode gabungan; selisihnya melebar dengan setiap pertanyaan tambahan.

• Penilaian yang berat pada pengetahuan atau rubrik — 27B. Defisit 14,3 poin dalam pengetahuan bukanlah sesuatu yang bisa ditutup oleh prompt yang lebih baik.

• Gating pengambilan dan pemilihan alat — Flash dapat dipertahankan. Kesenjangan di sana adalah 3,6 dan 7,7 poin, dan beban kerjanya persis seperti yang menjadi tujuan pembuatan model ini.

• Penerapan di perangkat atau GPU tunggal — Flash, tanpa alternatif nyata dalam pasangan ini.

• Vision — keduanya bisa, dengan 27B unggul 4,9 poin; jika Anda sudah menjalankan 27B untuk teks, memisahkan vision ke Flash hanya memberi sedikit manfaat.

Ke sisi mana pun Anda berada dalam pemisahan itu, decider adalah bagian pipeline yang murah. Generasi yang dikendalikannya adalah tempat uang mengalir, dan itulah lapisan yang layak dioptimalkan. OrcaRouter menempatkan lebih dari 200 model di balik satu kunci tanpa markup atas harga daftar penyedia, sehingga penurunan harga dari hulu langsung berlaku pada hari yang sama, dan failover otomatis menangani kasus ketika gerbang mengirim permintaan ke model yang tengah menurun performanya. DSL routing menyusun model-model yang kami sediakan; tidak ada satu pun checkpoint pplx-decider di antaranya, jadi pemisahan Flash-versus-27B harus berada di kode Anda sendiri. Decider yang dihosting dalam katalog kami adalah Jev dari TypeSafe, dengan nama jev-1.13 dan jev-1.14.

Tes itu belum diterbitkan oleh kedua vendor tersebut.

Semua di atas adalah keputusan yang dibuat berdasarkan dokumentasi vendor. Uji yang akan menyelesaikannya membosankan dan spesifik: ambil seribu permintaan nyata, beri label, dan jalankan kedua model pada ambang yang Anda maksudkan dengan satu pertanyaan dan dengan tiga. Catat akurasi, kesalahan kalibrasi, dan total token yang ditagih. Prediksi dari angka-angka yang dipublikasikan adalah bahwa Flash menang pada beban kerja satu pertanyaan dalam hal biaya dan kalah pada yang tiga pertanyaan baik dalam hal biaya maupun akurasi. Jika itu berlaku, pilihannya adalah properti dari bentuk permintaan Anda, bukan anggaran Anda — dan tim yang mengukurnya akan memilih dengan benar, sementara semua orang yang membaca daftar harga memilih model yang 50% lebih murah di atas kertas dan 50% lebih mahal di produksi.