pplx-decider-flash vs pplx-decider: 4B är billigare tills du ställer tre frågor

På prislistan, pplx-decider-flash-v1.2 kostar hälften av vad pplx-decider-v1.2 kostar: 0,01 USD per miljon indatatoken mot 0,02 USD. Enligt faktureringsreglerna gäller den rabatten i exakt en fråga. Ställ två frågor mot samma state och de två modellerna kostar lika mycket. Ställ tre och 4B-modellen är den dyrare, eftersom Flash fakturerar state igen för varje fråga medan 27B fakturerar det en gång. Den billigare modellen är billigare bara om du ställer en liten fråga i taget till den.

Den inversionen är den användbara delen av den här jämförelsen. Resten är en välbekant storleksavvägning: en 4B-checkpoint som vinner på latens och minne mot en modell med 26 miljarder parametrar som vinner på noggrannhet, där båda säljs under samma Apache-2.0-licens och samma standardkontext på 262 144 token.

Två kontrollpunkter, en release, olika jobb

Perplexity publicerade båda den 15 oktober 2026, den stora modellen kl. 07:40 UTC och Flash kl. 16:57. De delar en design: en Qwen-backbone, ett 255-vägs readout-huvud i stället för ett språkmodellshuvud, icke-kausala full-attention-lager och en sparad kalibreringstemperatur. De delar inte någon backbone. pplx-decider-v1.2 är byggd på Qwen3.8-27B och levereras vid cirka 52 GiB i BF16. pplx-decider-flash-v1.2 är byggd på Qwen3.5-4B och levereras vid cirka 9 GiB.

Namngivningen är lösare än siffrorna. Den stora modellen säljs som 27B, men dess eget kort anger 26B i BF16. Flash säljs som 4B i API-dokumentationen, medan dess kortrubrik anger 5B i BF16 och dess stomme är en 4B-modell. Ingen av avvikelserna ändrar ett driftsättningsbeslut; båda är värda att känna till innan du anger ett parameterantal i en kapacitetsplan.

Prislistan, före asterisken

• Pris för indata — pplx-decider-flash-v1.2 till $0.01 per miljon tokens jämfört med pplx-decider-v1.2 till $0.02.

• Utpris – gratis för båda, utan avgift per förfrågan. Varje fråga räknas som en utdatatoken endast i redovisningssyfte.

• Hastighetsgränser — 4 000 000 tokens per minut och 240 000 000 per timme, med ett tak på 10 förfrågningar per sekund som delas mellan båda modellerna på organisationsnivå.

• Alias — pplx-decider-flash-latest och pplx-decider-latest flyttas båda till den nyaste versionen, så ett tröskelvärde som är injusterat mot en version kan tyst komma att möta en annan.

Asterisken är inte dold. Perplexitys dokumentation anger tydligt att Flash är byggt för en fråga per förfrågan, att skicka flera frågor ger oberoende svar utan korskoppling, och att tillståndet debiteras igen för var och en. Den går till och med igenom exemplet: tre frågor på ett tillstånd på 10 000 token kostar cirka 30 000 indatatoken.

Där den andra frågan raderar rabatten

Den allmänna formen är enkel. För ett tillstånd med s tokens och q frågor kostar Flash q × s × 0,01 USD per miljon och 27B kostar s × 0,02 USD per miljon. Flash-kostnaden går om den stora modellen vid den tredje frågan.

• En fråga, 10 000-tokenstate — Flash $0.0001 vs 27B $0.0002. Flash vinner med hälften.

• Två frågor, samma läge — Flash $0.0002 vs 27B $0.0002. Oavgjort, inte en rabatt.

• Tre frågor — Flash $0.0003 mot 27B $0.0002. 4B är 50 % dyrare.

• Fem frågor — Flash $0.0005 vs 27B $0.0002. 4B kostar två och en halv gånger så mycket.

I absoluta tal rör det sig om bråkdelar av en cent, vilket är anledningen till att regeln är lätt att förbise och till att den får sammansatt effekt i volym. En gate som kör en miljon förfrågningar med tre frågor mot tillstånd på 10 000 tokens kostar cirka 300 USD på Flash och 200 USD på 27B. Modellen som ser 50 % billigare ut är 50 % dyrare vid den arbetsbelastning där batchning normalt skulle vara en optimering.

Perplexitys dokumentation säger att den större modellen "vanligtvis kostar mindre än Flash" vid tre eller fler frågor. Den exakta brytpunkten är två. Om dina frågor verkligen hänger samman – aspekter av ett och samma beslut av typen "välj alla som stämmer" – är den gemensamma vägen också den korrekta. Om de är oberoende kandidatpoäng råder dokumentationen att dela upp dem i separata förfrågningar, vilket driver upp Flashs kostnad ytterligare medan 27B:s förblir oförändrad.

Noggrannhetsgapet, kategori för kategori

Båda modellerna poängsätts på Decision Index 0.3, Perplexitys egen sammansatta poäng. Huvudsiffran är 60,05 för Flash med en fråga per begäran, jämfört med 68,09 för 27B med gemensamma begäranden. Kategoriuppdelningen, som jämför gemensamma körningar med gemensamma körningar, visar varifrån gapet på 9,2 punkter mellan de gemensamma körningarna kommer.

• Kunskap — 42,0 mot 56,3. En skillnad på 14,3 punkter, och den som borde avgöra de flesta driftsättningar. Om frågan kräver att man vet något snarare än att bedöma något är 4B inget substitut.

• Språk — 63,3 vs 72,8.

• Sökning — 64,8 vs 68,4. Den minsta klyftan på 3,6 punkter. Att bedöma om ett textavsnitt stöder ett påstående är uppgiften som Flash byggdes för, och siffrorna speglar det.

• Verktyg — 76,7 vs 84,4. Båda modellerna är starkast här i absoluta tal, vilket passar routing-användningsfallet.

• Konst — 46,8 mot 56,2.

• Vision — 72,53 mot 77,43 på Vision Decision Index, en skillnad på 4,9 punkter som är mindre än textskillnaden och gör Flash mer konkurrenskraftig på bilder än på prosa.

Det självklara förbehållet gäller för varje siffra ovan: benchmarken tillhör leverantören, och ingen tredje part har reproducerat den. 27B-kortet säger att träningsarbetet omfattade de officiella träningsuppdelningarna för flera Decision Index-uppgifter, avkontaminerade mot testmängderna; det är en angiven praxis, inte en granskad sådan. Behandla kategoriprofilen som en hypotes om var varje modell är stark – kunskap och konst för 27B, informationssökning och verktyg för båda – snarare än som ett uppmätt resultat.

Asymmetrin i den gemensamma begäran

Att gruppera frågor hjälper den stora modellen och skadar den lilla, och det visar Perplexitys egna siffror.

• pplx-decider-v1.2 — 68,09 gemensamt vs 67,75 ett per begäran. Gruppering ger 0,34 poäng.

• pplx-decider-flash-v1.2 — 58,88 gemensamt jämfört med 60,05 ett per begäran. Gruppering kostar 1,17 poäng.

Dokumentationen förklarar mekanismen: 4B tappar noggrannhet när den besvarar flera frågor tillsammans, vilket är anledningen till att en fråga per begäran är den rekommenderade standarden. Det siffrorna tillför är att förlusten är tillräckligt stor för att synas i den övergripande poängen, inte bara i gränsfall. Modellen marknadsförs med sin hastighet vid ett enda pass och mäter bättre utan det enda passet. Om du ändå grupperar för att jaga genomströmning betalar du för hastigheten två gånger – en gång i tokens och en gång i noggrannhet.

Kalibrering: närmare än vad noggrannhetsgapet antyder

Båda korten redovisar sin kalibrering ärligt, vilket är tillräckligt sällsynt för att vara värt att notera.

• Sparad temperatur — 1,554 på Flash jämfört med 1,382 på 27B.

• Noggrannhet för utvecklingsset — 88,8 % på 1 497 frågor för Flash jämfört med 91,3 % för 27B.

• Förväntat kalibreringsfel efter temperatur — 0,021 för Flash jämfört med 0,014 för 27B.

• Brier-poäng – 0,163 mot 0,134.

Flash är mindre noggrann och sämre kalibrerad, som förväntat vid en sjundedel av storleken, men kalibreringsgapet är 0,007 ECE — tillräckligt litet för att en tröskel som justerats på 27B ofta ska kunna överföras. 27B-kortet är också öppet med att undanhållen beslutsdata fortfarande är något överdrivet säker, med ECE runt 0,05, så ingen av modellerna ersätter att anpassa trösklar på dina egna data. Perplexitys dokumentation säger precis det: benchmarka båda på märkta data vid de trösklar du avser att använda och behåll Flash endast om den klarar ditt noggrannhetsmål.

Självhosting: 9 GiB mot 52 GiB

Båda är Apache-2.0, så det hostade priset är en bekvämlighet snarare än inlåsning. Hårdvaruskillnaden är den skarpaste åtskillnaden mellan dem.

• Vikter — ungefär 9 GiB BF16 för Flash jämfört med ungefär 52 GiB för 27B, plus arbetsminne på båda.

• Hårdvara — Flash får plats på ett 16 GB-konsumentkort; 27B kräver en rejäl accelerator eller en uppdelning över flera GPU:er.

• Servering – ingen av dem kan användas oförändrad i en befintlig kausal server. Lager med full uppmärksamhet körs icke-kausalt, och prompter skrivna för v1.1 kan inte återanvändas.

• Kontext — 262,144 tokens på båda som standard, med träning endast validerad upp till cirka 32 000 och korten varnar för att längre indata är mindre testade.

Att självhosta Flash är den enda versionen i den här jämförelsen där 4B vinner villkorslöst. Ett enda 16 GB-kort, en tillåtande licens och ingen kostnad per token är en helt annan produkt än en 52 GiB-checkpoint som kräver ett servingteam.

En beslutsregel du kan tillämpa

• En fråga per delstat, hög volym — Flash. Prisfördelen är verklig och noggrannhetsförlusten är koncentrerad till kunskapsuppgifter som du kan skicka någon annanstans.

• Två eller fler frågor per tillstånd — 27B. Vid två är det lika i pris, från tre är det billigare, och det är mer träffsäkert i joint-läge; gapet ökar med varje tillagd fråga.

• Kunskapstunga eller rubrikstunga bedömningar – 27B. Ett kunskapsunderskott på 14,3 poäng är inget som en bättre prompt åtgärdar.

• Hämtningsstyrning och verktygsval — Flash är försvarbart. Skillnaderna där är 3,6 och 7,7 poäng, och arbetsbelastningen är precis vad modellen byggdes för.

• Driftsättning på enheten eller på en enda GPU — Flash, utan något egentligt alternativ i det här paret.

• Vision — antingen, med 27B före med 4,9 poäng; om du redan kör 27B för text ger det lite att lägga vision på Flash.

Vilken sida av uppdelningen du än hamnar på, är beslutsmodellen den billiga delen av pipelineen. Genereringen som den släpper igenom är där pengarna går, och det är det lager som är värt att optimera. OrcaRouter placerar över 200 modeller bakom en enda nyckel utan påslag på leverantörernas listpriser, så en prissänkning uppströms får genomslag samma dag, och automatisk failover täcker fallet där grinden skickar en begäran till en modell som är försämrad. Routnings-DSL:en sätter samman modeller som vi tillhandahåller; ingen av pplx-decider-checkpointarna finns bland dem, så en uppdelning mellan Flash och 27B måste ligga i din egen kod. Den hostade beslutsmodellen i vår katalog är TypeSafe:s Jev, som jev-1.13 och jev-1.14.

Testet har ingen av leverantörerna publicerat.

Allt ovan är ett beslut som fattats utifrån leverantörens dokumentation. Testet som skulle avgöra saken är tråkigt och specifikt: ta tusen riktiga förfrågningar, märk dem och kör båda modellerna vid din avsedda tröskel med en fråga och med tre. Registrera noggrannhet, kalibreringsfel och totalt fakturerade tokens. Förutsägelsen utifrån de publicerade siffrorna är att Flash vinner arbetsbelastningen med en fråga på kostnad och förlorar den med tre frågor på både kostnad och noggrannhet. Om det håller är valet en egenskap hos din förfrågningsform, inte hos din budget — och teamet som mäter det kommer att välja rätt medan alla som läser prislistan väljer modellen som är 50 % billigare på papperet och 50 % dyrare i produktion.