pplx-decider-flash: Hakim 4B Senyap Perplexity, Dibaca dari Repo

Perplexity mengunggah pplx-decider-flash-v1.2 ke Hugging Face pada 16:57 UTC, 15 Oktober 2026, sekitar sembilan jam setelah mengunggah pplx-decider-v1.2, model keputusan besar yang oleh pemasaran disebut 27B dan oleh kartu model disebut 26B. Kami tidak dapat menemukan posting peluncuran di blog perusahaan. Yang menyusul adalah utas dari akun pengembang di X, sebuah bagian dalam dokumentasi API Decisions, dan konversi GGUF tiga hari kemudian. Itu seluruh catatan publiknya, dan itu cukup untuk mendeskripsikan model secara tepat tetapi tidak cukup untuk memberi tahu Anda apakah model itu bagus pada data Anda.

Berikut ini memisahkan tiga hal yang biasanya dicampuradukkan orang: apa yang dibuktikan repositori, apa yang dinyatakan dokumentasi vendor, dan apa yang belum diverifikasi oleh siapa pun di luar Perplexity. Kategori terakhir lebih besar daripada dua kategori pertama.

Apa yang sebenarnya dikirim, dan pada hari apa

Lini masa repositori ini tidak ambigu. Perplexity membuat pplx-decider-v1-27b pada 1 Oktober 2026, pplx-decider-v1.1-27b pada 5 Oktober, kedua checkpoint v1.2 pada 15 Oktober, dan pplx-decider-flash-gguf-v1.2 pada 18 Oktober. Checkpoint Flash adalah unggahan kedua hari itu, yang merupakan bentuk biasa dari rilis berpasangan: yang unggulan lebih dulu, saudara kecil hasil distilasi di belakangnya agar keduanya muncul dalam pengumuman yang sama.

Urutan itu penting bagi pembingkaian. Ini bukan model bocor atau repositori nyasar yang lolos sebelum dokumennya beres. Ini adalah rilis terkoordinasi dengan jejak publik yang sengaja dibuat ringan — utas pengembang alih-alih esai peluncuran, dokumentasi alih-alih pusat benchmark. API Hugging Face melaporkan 4.667 unduhan pada checkpoint dasar dan 9.428 pada konversi GGUF per 4 November, serta 63 suka. Jumlah unduhan di Hugging Face adalah sinyal lemah: yang dihitung adalah permintaan, bukan pengguna unik, dan lalu lintas mirror membuatnya membengkak. Angka itu konsisten dengan audiens open-weights yang nyata tetapi moderat, bukan dengan perilisan viral.

Apa yang dikatakan repositori kepada Anda

Kartu model ini luar biasa teknis untuk rilis vendor, dan sebagian besar dari apa yang dapat diketahui berasal darinya.

• Backbone — Qwen3.5-4B, dengan head readout BF16 terpisah berbentuk [255, 2560] alih-alih head model bahasa kosakata penuh. Ini adalah checkpoint keputusan, bukan model chat dengan pembungkus klasifikasi.

• Ukuran — 25 file dengan total sekitar 9 GiB dalam BF16, yang Anda perlukan untuk menyimpan bobot; memori kerja berada di atasnya.

• Jumlah parameter — dokumentasi API menyebut 4B, header kartu model menyebut 5B dalam BF16, dan salah satu indeks pihak ketiga mencantumkan 4,5B. Backbone-nya adalah model 4B. Anggap "kelas 4B" sebagai deskripsi yang jujur dan jangan mengutip satu angka pun seolah-olah itu hasil pengukuran.

• Attention — lapisan full-attention berjalan secara nonkausal di seluruh permintaan, sedangkan lapisan linear-attention tetap kausal. Inilah detail yang perlu Anda waspadai: stack serving kausal standar akan menghasilkan angka yang berbeda, dan prompt yang ditulis untuk v1.1 tidak berlaku.

• Posisi readout — head aktif pada setiap <|fim_suffix|> penanda, bukan pada token akhir, sehingga satu forward pass dapat menilai beberapa pertanyaan terhadap satu state.

• Konteks — max_length secara default bernilai 262.144 token, sesuai dengan backbone. Pelatihan menggunakan sekuens hingga sekitar 32.000 token, dan kartu tersebut secara eksplisit menyatakan bahwa input yang lebih panjang didukung tetapi kurang tervalidasi.

• Gambar — dibatasi hingga 1,6 megapiksel (1.638.400 piksel), minimum 65.536 piksel, dengan gambar 1,6 MP mengonsumsi sekitar 1.600 posisi.

• Kalibrasi — suhu tersimpan sebesar 1,554. Pada set pengembangan berisi 1.497 pertanyaan, kartu ini melaporkan akurasi 88,8%, expected calibration error 0,021, dan Brier score 0,163; tanpa suhu tersebut, error naik menjadi 0,057. Vendor yang mempublikasikan angka kalibrasinya sendiri sekaligus biaya jika mengabaikannya sedang memberi tahu Anda sesuatu yang nyata tentang penggunaan yang dimaksudkan.

Satu baris di card tidak bertahan saat berhadapan dengan API. Baris itu menyatakan bahwa repositori bersifat privat dan memerlukan token dengan akses. API Hugging Face mengembalikan gated: false dan private: false, dan bobotnya diunduh tanpa permintaan akses. Satu baris usang di card adalah hal kecil, tetapi itulah jenis hal kecil yang memberi tahu Anda bahwa card tersebut ditulis sebelum publikasi dan tidak dibaca ulang setelahnya.

Apa yang ditambahkan oleh dokumentasi API

Harga adalah titik awal argumen Flash. Di Decisions API, pplx-decider-flash-v1.2 berbiaya $0,01 per juta token masukan. Token keluaran gratis dan tidak ada biaya per permintaan, karena tidak ada token keluaran dalam pengertian biasa — model mengembalikan probabilitas dan skor yang diharapkan, dan dokumentasi menghitung setiap pertanyaan sebagai satu token keluaran untuk akuntansi.

Halaman yang sama menetapkan batas operasional:

• Alias — pplx-decider-flash-latest mengikuti versi terbaru, sehingga ambang batas yang Anda sesuaikan minggu lalu bisa diam-diam mengarah ke model yang berbeda setelah pembaruan. Sematkan id berversi pada apa pun yang penting.

• Batas laju — 4.000.000 token per menit dan 240.000.000 per jam, dengan batas maksimum 10 permintaan per detik yang dibagi bersama di antara kedua model pengambilan keputusan pada tingkat organisasi.

• Jenis pertanyaan — noul mengembalikan P(ya) dari 0 hingga 1, choice mengembalikan probabilitas untuk hingga 255 opsi, dan score mengembalikan distribusi atas tingkat rubrik.

• Kuota pertanyaan — dokumentasi menyarankan satu pertanyaan per permintaan. Itu bukan catatan gaya; itu perbedaan antara harga yang Anda dikutip dan harga yang Anda bayar.

Aturan penagihan yang membalik rekomendasi

Model 27B menjawab setiap pertanyaan dalam sebuah permintaan dalam satu proses terkelompok dan menagih state satu kali. Flash menjawab setiap pertanyaan secara independen, tanpa melihat pertanyaan lainnya, dan menagih state lagi untuk setiap pertanyaan. Dokumentasi memberikan contoh yang telah dikerjakan: tiga pertanyaan terhadap state 10.000 token menghabiskan sekitar 30.000 token input pada Flash.

Mari kita hitung. Satu pertanyaan pada state 10.000 token berbiaya $0.0001 di Flash dan $0.0002 di 27B. Dua pertanyaan berbiaya $0.0002 di Flash dan $0.0002 di model yang lebih besar — imbang. Tiga pertanyaan berbiaya $0.0003 di Flash dan $0.0002 di 27B. Titik persilangannya adalah dua pertanyaan per state. Dokumentasi Perplexity sendiri menyatakan bahwa model yang lebih besar "biasanya berbiaya lebih rendah daripada Flash" pada tiga pertanyaan atau lebih; titik tepatnya adalah satu pertanyaan lebih awal, dan hal ini berlaku pada harga daftar mana pun di mana Flash tepat setengah dari tarif 27B.

Ini adalah hal paling berguna dalam rilis ini, dan mudah terlewat karena judul utamanya adalah diskon 50%. Model 4B dengan harga setengah lebih murah hanya selama Anda memberi tahu satu hal pada satu waktu.

Angka yang harus dicurigai

Perplexity melaporkan skor Decision Index 0.3 untuk kedua model. Flash memperoleh skor 60.05 dengan satu pertanyaan per permintaan dan 58.88 dengan permintaan gabungan; model 27B memperoleh skor 68.09 gabungan dan 67.75 satu-per-permintaan. Pada Vision Decision Index, Flash adalah 72.53 berbanding 77.43.

Rincian per kategori lebih informatif daripada angka utamanya, karena menunjukkan di mana 4B mulai tertinggal. Untuk angka joint-run Flash dibandingkan angka joint-run 27B:

• Pengetahuan — 42,0 vs 56,3. Ini adalah kesenjangan terlebar, 14,3 poin, dan yang menentukan apakah model mampu menangani pengetahuan dunia terbuka sama sekali.

• Bahasa — 63,3 vs 72,8.

• Pengambilan — 64,8 vs 68,4. Celah paling sempit sebesar 3,6 poin, yang cocok dengan tugas yang dimaksud: menilai apakah suatu petikan menjawab pertanyaan adalah tugas yang lebih ringan daripada mengetahui jawabannya.

• Alat — 76,7 vs 84,4.

• Seni — 46,8 vs 56,2.

• Keseluruhan — 58,88 vs 68,09.

Setiap angka tersebut berasal dari tolok ukur yang dikelola Perplexity. Kartu 27B — guru dalam distilasi ini — luar biasa blak-blakan tentang sisi pelatihan: menurutnya, sebagian pekerjaan membawa model “ke dalam domain” untuk beberapa tugas Decision Index dengan menyertakan split pelatihan resmi yang disertakan oleh beberapa tolok ukur, dengan split tersebut “didekontaminasi terhadap set uji” agar perbandingan tetap adil. Itu adalah posisi yang lebih berhati-hati daripada yang tersirat dalam liputan seputar peluncuran, dan itu tetap membuat papan skor berada di tangan vendor. Belum ada pihak ketiga yang mengaudit disiplin split ini, dan belum ada yang mereproduksi angka-angka tersebut.

Ada keanehan yang lebih kecil dalam angka milik vendor sendiri yang bertentangan dengan pemasaran. Flash mencetak skor lebih tinggi saat menjawab satu pertanyaan dalam satu waktu — 60,05 versus 58,88. Pengelompokan merugikan 4B secara keseluruhan meskipun membantu pada tugas select-all-that-apply yang terkait erat, yang persis seperti yang dikatakan dokumentasi. Model ini dijual berdasarkan kecepatan permintaan gabungan dan diukur lebih baik tanpanya.

Apa yang belum dapat diketahui

Celah-celahnya spesifik, dan itulah sebabnya ini adalah tulisan tentang apa yang kita ketahui, bukan sebuah ulasan.

• Tidak ada tolok ukur independen. Tidak ada pihak di luar Perplexity yang menerbitkan reproduksi Decision Index atau perbandingan langsung pada harness netral.

• Tidak ada tingkat layanan latensi. Satu-satunya angka kecepatan yang diterbitkan vendor adalah tes dokumentasi tertanggal 19 Oktober, di mana sekitar 248.000 token masukan memerlukan 16 detik pada Flash dibandingkan 53 detik pada 27B. Itu merupakan pengukuran dari sisi vendor tanpa menyebutkan perangkat keras atau persentil.

• Tidak ada evaluasi multibahasa. Kartu dan dokumen menjelaskan teks dan gambar; keduanya tidak melaporkan akurasi di luar bahasa Inggris.

• Tidak ada volume data pelatihan yang dipublikasikan. Kartu model menyebutkan bahwa Flash didistilasi dari 27B berdasarkan permintaan pelatihan model yang lebih besar, dengan model siswa mempelajari distribusi probabilitas lengkap dari model guru, bukan hanya jawabannya, dan bahwa beberapa proses pelatihan digabungkan melalui rata-rata bobot. Tidak disebutkan berapa banyak data yang terlibat, dari mana asalnya, atau di mana batas waktunya berada.

• Tidak ada analisis kesalahan yang dipublikasikan. Untuk model yang keluarannya berupa probabilitas yang akan Anda beri ambang batas, tidak ada rincian tentang di mana model tersebut gagal — berdasarkan jenis pertanyaan, jumlah opsi, bahasa, atau konten gambar.

Di mana model seperti ini berada dalam sebuah stack

Penting untuk memperjelas kegunaan Flash, karena namanya menimbulkan ekspektasi yang keliru. Flash tidak menulis apa pun. Anda memberinya state — teks, JSON, gambar — dan satu atau beberapa pertanyaan bertipe, lalu ia mengembalikan probabilitas atau distribusi yang menjadi dasar penerapan ambang batas di kode Anda. Arsitektur yang wajar adalah gerbang murah di depan sesuatu yang mahal: klasifikasikan permintaan, putuskan apakah perlu mengambil data, pilih alat, lalu hasilkan.

Gerbang tersebut tidak menggantikan lapisan generasi, dan di sinilah perutean menjadi penting. OrcaRouter mengekspos lebih dari 200 model generasi di balik satu kunci API tanpa markup pada harga daftar penyedia, sehingga penurunan harga dari vendor upstream mana pun berlaku pada hari yang sama alih-alih menunggu spreadsheet reseller. Jika gerbang salah mengklasifikasikan, failover otomatis menjaga permintaan agar tidak mati di hop berikutnya. Yang tidak kami lakukan adalah menghosting pplx-decider-flash: model itu tidak ada dalam katalog kami, dan cara jujur untuk menjalankannya saat ini adalah API milik vendor itu sendiri atau bobot Apache-2.0 di GPU Anda sendiri.

Perhitungan untuk self-hosting masuk akal jika Anda sudah memiliki perangkat kerasnya. Bobot BF16 sekitar 9 GiB muat di kartu konsumen 16 GB, dan liputan mengenai rilis tersebut mengulang klaim dari CEO Perplexity bahwa Flash berjalan pada Mac M4 dengan memori 16 GB. Tidak ada angka throughput yang dipublikasikan untuk mendukungnya, dan attention nonkausal berarti Anda tidak bisa begitu saja memasukkannya ke server inferensi kausal standar dan berharap mendapat skor kartu tersebut.

Apa yang akan mengubah penilaian ini?

Empat hal, dalam urutan kegunaan. Reproduksi netral Decision Index 0.3 yang mengonfirmasi 60.05 atau menjelaskan selisihnya. Distribusi latensi yang dipublikasikan dari API, bukan satu uji dokumentasi. Bukti tentang input multibahasa, karena classifier 4B adalah jenis model yang akan diarahkan tim ke lalu lintas non-Inggris tanpa memeriksa. Dan postingan teknis pihak pertama yang menjelaskan data pelatihan di balik distilasi tersebut.

Sampai saat itu, posisi yang dapat dipertahankan bersifat sempit dan berguna: pplx-decider-flash-v1.2 adalah model keputusan kelas 4B yang nyata, dapat diunduh, berlisensi Apache-2.0, dengan harga yang dipublikasikan, suhu kalibrasi yang didokumentasikan, dan aturan penagihan yang membuatnya lebih mahal daripada model saudara besarnya begitu Anda memproses pertanyaan secara batch. Segala hal di luar itu adalah papan skor Perplexity sendiri, dan Anda sebaiknya memperlakukannya sebagai hipotesis untuk diuji pada data berlabel Anda, bukan sebagai hasil.