pplx-decider-flash: Perplexitys tysta 4B-domare, läst från repot

Perplexity laddade upp pplx-decider-flash-v1.2 till Hugging Face kl. 16:57 UTC den 15 oktober 2026, ungefär nio timmar efter att man laddade upp pplx-decider-v1.2, den stora beslutsmodellen som marknadsföringen kallar 27B och modellkortet kallar 26B. Vi hittade inget lanseringsinlägg på företagets blogg. Det som följde var en tråd från utvecklarkontot på X, ett avsnitt i dokumentationen för Decisions API och en GGUF-konvertering tre dagar senare. Det är hela det offentliga underlaget, och det räcker för att beskriva modellen exakt men inte för att avgöra om den är bra på dina data.

Det som följer skiljer på de tre saker som människor vanligtvis blandar ihop: vad repositoriet bevisar, vad leverantörens dokumentation anger, och vad ingen utanför Perplexity har verifierat. Den sista kategorin är större än de två första.

Vad som faktiskt levererades, och vilken dag

Repots tidslinje är entydig. Perplexity skapade pplx-decider-v1-27b den 1 oktober 2026, pplx-decider-v1.1-27b den 5 oktober, båda v1.2-checkpunkterna den 15 oktober, och pplx-decider-flash-gguf-v1.2 den 18 oktober. Flash-checkpunkten var den andra uppladdningen den dagen, vilket är den vanliga formen för en parad lansering: flaggskeppet först, den destillerade lilla syskonmodellen bakom det så att båda landar under samma tillkännagivande.

Den ordningen har betydelse för inramningen. Det här är inte en läckt modell eller ett vilsekommet repo som slapp ut före sitt pappersarbete. Det är en samordnad lansering med ett avsiktligt litet offentligt fotavtryck – en utvecklartråd snarare än en lanseringsessä, dokumentation snarare än ett benchmarkhubb. Hugging Face API rapporterar 4 667 nedladdningar för bascheckpointen och 9 428 för GGUF-konverteringen per den 4 november, samt 63 gilla-markeringar. Nedladdningssiffror på Hugging Face är en svag signal: de räknar förfrågningar, inte unika användare, och spegeltrafik blåser upp dem. De är förenliga med en verklig men blygsam publik för öppna vikter, inte med ett viralt släpp.

Vad repositoriet berättar för dig

Modellkortet är ovanligt tekniskt för att vara en leverantörsrelease, och det mesta som går att veta kommer från det.

• Backbone — Qwen3.5-4B, med ett separat BF16-readout-huvud med formen [255, 2560] i stället för ett fullvokabulärt språkmodellshuvud. Detta är en beslutskontrollpunkt, inte en chattmodell med en klassificeringswrapper.

• Storlek — 25 filer med en total storlek på ungefär 9 GiB i BF16, vilket är vad du behöver för att hålla vikterna; arbetsminnet ligger ovanpå det.

• Parameterantal — API-dokumentationen anger 4B, modellkortets rubrik anger 5B i BF16, och ett tredjepartsindex listar 4,5B. Stamnätet är en 4B-modell. Betrakta "4B-klass" som den ärliga beskrivningen och citera inte en enskild siffra som om den vore uppmätt.

• Attention — full-attention-lager körs icke-kausalt över hela förfrågan medan linjära attention-lager förblir kausala. Det här är detaljen som kommer att bita dig: en vanlig kausal serveringsstack ger andra siffror, och promptar skrivna för v1.1 gäller inte längre.

• Avläsningsposition — huvudet aktiveras vid varje <|fim_suffix|>markör i stället för vid den sista token, vilket är hur en enda framåtpassering kan poängsätta flera frågor mot ett tillstånd.

• Kontext — max_length har standardvärdet 262 144 tokens, vilket matchar basmodellen. Träningen använde sekvenser på upp till cirka 32 000 tokens, och modellkortet anger uttryckligen att längre indata stöds men är mindre validerade.

• Bilder — begränsat till 1,6 megapixlar (1 638 400 pixlar), minst 65 536 pixlar, där en bild på 1,6 MP förbrukar ungefär 1 600 positioner.

• Kalibrering — en sparad temperatur på 1,554. På en utvecklingsuppsättning med 1 497 frågor rapporterar kortet 88,8 % träffsäkerhet, ett förväntat kalibreringsfel på 0,021 och en Brier-poäng på 0,163; utan temperaturen stiger felet till 0,057. En leverantör som publicerar sina egna kalibreringssiffror och kostnaden för att hoppa över dem säger dig något verkligt om avsedd användning.

En rad i kortet överlever inte kontakten med API:et. Det står att repot är privat och kräver en token med åtkomst. Hugging Face-API:et returnerar gated: false och private: false, och vikterna laddas ner utan någon åtkomstbegäran. En inaktuell rad i ett kort är en liten sak, men det är den typen av liten sak som avslöjar att kortet skrevs före publiceringen och inte lästes om efteråt.

Vad API-dokumentationen tillför

Prissättningen är där Flash-argumentet börjar. På Decisions API:et pplx-decider-flash-v1.2 kostar $0.01 per miljon indatatoken. Utdatatoken är gratis och det finns ingen avgift per förfrågan, eftersom det inte finns några utdatatoken i vanlig mening – modellen returnerar sannolikheter och en förväntad poäng, och dokumentationen räknar varje fråga som en utdatatoken för redovisningsändamål.

Samma sida anger arbetsområdet:

• Alias — pplx-decider-flash-latest följer den nyaste versionen, så ett tröskelvärde som du justerade förra veckan kan tyst peka på en annan modell efter en uppdatering. Lås det versionsangivna id:t i allt som spelar roll.

• Hastighetsbegränsningar — 4 000 000 tokens per minut och 240 000 000 per timme, med ett tak på 10 förfrågningar per sekund som delas mellan båda beslutsmodellerna på organisationsnivå.

• Frågetyper — noul returnerar P(ja) från 0 till 1, choice returnerar sannolikheter över upp till 255 alternativ, och score returnerar en fördelning över rubriknivåer.

• Frågebudget — dokumentationen rekommenderar en fråga per förfrågan. Det är inte en stilkommentar; det är skillnaden mellan priset du erbjöds och priset du betalar.

Faktureringsregeln som vänder på rekommendationen

27B-modellen besvarar varje fråga i en förfrågan i en enda grupperad körning och debiterar tillståndet en gång. Flash besvarar varje fråga oberoende av de andra, utan att se dem, och debiterar tillståndet igen för varje fråga. Dokumentationen ger det genomräknade exemplet: tre frågor mot ett tillstånd på 10 000 token kostar cirka 30 000 indatatoken på Flash.

Gör uträkningen. En fråga på ett tillstånd på 10 000 token kostar $0.0001 på Flash och $0.0002 på 27B. Två frågor kostar $0.0002 på Flash och $0.0002 på den större modellen – dött lopp. Tre frågor kostar $0.0003 på Flash och $0.0002 på 27B. Brytpunkten är två frågor per tillstånd. Perplexitys egen dokumentation säger att den större modellen "vanligtvis kostar mindre än Flash" vid tre eller fler frågor; den exakta punkten är en fråga tidigare, och den gäller vid vilket listpris som helst där Flash är exakt hälften av 27B-priset.

Det här är det enskilt mest användbara i versionen, och det är lätt att missa eftersom rubriken handlar om 50 % rabatt. En 4B-modell till halva priset är bara billigare så länge du frågar den om en sak i taget.

Numret att misstro

Perplexity rapporterar poäng på Decision Index 0.3 för båda modellerna. Flash får 60.05 med en fråga per förfrågan och 58.88 med gemensamma förfrågningar; 27B får 68.09 gemensamt och 67.75 en per förfrågan. På Vision Decision Index är Flash 72.53 mot 77.43.

Kategoriuppdelningen är mer informativ än rubriken, eftersom den visar var 4B tappar mark. Vad gäller Flashs samkörningssiffror mot 27B:s samkörningssiffror:

• Kunskap — 42,0 vs 56,3. Det här är den största klyftan, 14,3 punkter, och den som avgör huruvida modellen överhuvudtaget klarar av öppen världskunskap.

• Språk — 63,3 vs 72,8.

• Retrieval — 64,8 vs 68,4. Den minsta skillnaden på 3,6 punkter, vilket passar den avsedda uppgiften: att bedöma om ett textavsnitt besvarar en fråga är en lättare uppgift än att kunna svaret.

• Verktyg — 76,7 mot 84,4.

• Konst — 46,8 mot 56,2.

• Totalt — 58,88 vs 68,09.

Alla dessa siffror kommer från ett benchmark som Perplexity underhåller. 27B-kortet – läraren i denna destillation – är ovanligt uppriktigt om träningssidan: en del av arbetet, säger det, förde modellen ”in domain” för vissa Decision Index-uppgifter genom att inkludera de officiella träningsuppdelningar som flera benchmarkar levererar, med uppdelningarna ”avkontaminerade mot testseten” så att jämförelsen förblir rättvis. Det är en mer försiktig hållning än bevakningen kring lanseringen antydde, och den lämnar fortfarande resultattavlan i leverantörens händer. Ingen tredje part har granskat hanteringen av uppdelningarna, och ingen har reproducerat siffrorna.

Det finns en mindre egendomlighet i leverantörens egna siffror som talar emot marknadsföringen. Flash får högre poäng när den svarar på en fråga i taget – 60,05 mot 58,88. Gruppering försämrar 4B totalt sett även om det hjälper vid tätt kopplade uppgifter där alla tillämpliga alternativ ska väljas, vilket är precis vad dokumentationen säger. Modellen säljs in med snabbhet vid sammanslagna förfrågningar och mäts bättre utan den.

Det som ännu inte går att veta

Luckorna är specifika, och de är anledningen till att det här är en text om vad vi vet snarare än en recension.

• Ingen oberoende benchmark. Inget utanför Perplexity har publicerat reproduktioner av Decision Index eller en direkt jämförelse i en neutral testmiljö.

• Ingen servicenivå för latens. Den enda hastighetssiffra som leverantören publicerar är ett dokumentationstest daterat 19 oktober där cirka 248 000 indatatokener tog 16 sekunder på Flash jämfört med 53 sekunder på 27B. Det är en mätning från leverantörens sida utan angiven hårdvara eller percentil.

• Ingen flerspråkig utvärdering. Kortet och dokumentationen beskriver text och bilder; ingen av dem rapporterar noggrannhet utanför engelska.

• Ingen offentliggjord träningsdatamängd. Kortet säger att Flash destillerades från 27B-modellen på den större modellens träningsförfrågningar, där studenten lärde sig lärarens fullständiga sannolikhetsfördelningar snarare än bara dess svar, och att flera körningar kombinerades genom viktmedelvärdesbildning. Det står inte hur mycket data det rörde sig om, var den kom ifrån eller var gränsen ligger.

• Ingen publicerad felanalys. För en modell vars utdata är en sannolikhet som du sätter ett tröskelvärde på finns det ingen uppdelning av var den misslyckas – efter frågetyp, efter antal svarsalternativ, efter språk eller efter bildinnehåll.

Var i en stack en modell som den här befinner sig

Det är värt att vara tydlig med vad Flash är till för, eftersom namnet inbjuder till fel förväntan. Det skriver ingenting. Du ger det ett tillstånd – text, JSON, bilder – och en eller flera typade frågor, och det ger tillbaka en sannolikhet eller en fördelning som din kod sätter tröskelvärden på. Den naturliga arkitekturen är en billig grind framför något dyrt: klassificera begäran, avgöra om man ska hämta, välja ett verktyg och sedan generera.

Den grinden ersätter inte genereringslagret, och det är här routning spelar roll. OrcaRouter exponerar över 200 genereringsmodeller bakom en enda API-nyckel utan påslag på leverantörernas listpriser, så en prissänkning från vilken uppströmsleverantör som helst gäller samma dag i stället för att vänta på en återförsäljares kalkylblad. Om grinden felklassificerar hindrar automatisk failover förfrågan från att dö vid nästa hopp. Det vi inte gör är att vara värd för pplx-decider-flash: det finns inte i vår katalog, och det ärliga sättet att köra det i dag är leverantörens eget API eller Apache-2.0-vikterna på din egen GPU.

Självhostningsmatematiken är rimlig om du redan har hårdvaran. Ungefär 9 GiB BF16-vikter får plats på ett 16 GB konsumentgrafikkort, och bevakningen av lanseringen upprepade ett påstående från Perplexitys vd att Flash körs på en M4 Mac med 16 GB minne. Inga publicerade siffror för genomströmning stöder det, och den icke-kausala attentionen innebär att du inte bara kan slänga in det i en vanlig kausal inferensserver och förvänta dig kortets prestandasiffror.

Vad skulle förändra den här bedömningen?

Fyra saker, i ordning efter användbarhet. En neutral reproduktion av Decision Index 0.3 som antingen bekräftar 60.05 eller förklarar gapet. En publicerad latensfördelning från API:et i stället för ett enda dokumentationstest. Bevis på flerspråkiga indata, eftersom en 4B-klassificerare är precis den typ av modell som team kommer att rikta mot icke-engelsk trafik utan att kontrollera. Och ett tekniskt inlägg från förstapart som beskriver träningsdatan bakom den distillationen.

Fram till dess är den försvarbara positionen snäv och användbar: pplx-decider-flash-v1.2 är en riktig, nedladdningsbar beslutsmodell i 4B-klassen under Apache-2.0, med ett publicerat pris, en dokumenterad kalibreringstemperatur och en debiteringsregel som gör den dyrare än sitt stora syskon så snart du kör frågor i batch. Allt bortom det är Perplexitys egen resultattavla, och du bör behandla det som en hypotes att testa på dina märkta data snarare än som ett resultat.