pplx-decider på Ollama: Perplexitys tysta 27B-beslutsmodell blir körbar

Perplexity publicerade vikterna för pplx-decider-v1.1-27b den 2026-10-05, och den första checkpointen som den ersatte, pplx-decider (reponamn pplx-decider-v1-27b), den 2026-10-01. Båda är finjusteringar av Qwen3.8-27B som svarar i sannolikheter i stället för meningar, och båda ligger i samma System One-härstamning som TypeSafe:s Jev 1.13. Det nya är inte modellen: från och med idag är pplx-decider en post i Ollamas eget modellbibliotek, installerbar med ett enda kommando. Innan den listningen dök upp innebar att köra denna checkpoint en CUDA-GPU med plats för ungefär 49 GiB bf16-vikter. Nu är det en kvantiserad nedladdning på 17 GB på en laptop. Den enda förändringen är vad den här sidan handlar om, och modellen som den gör körbar är fjorton dagar gammal.

Vad har förändrats, konkret?

Posten i Ollama-biblioteket heter pplx-decider, och biblioteket har stadigt samlat beslutsmodeller — Laya, Nimble, Kev, Clef, Strands Decider — under hösten. Den här är det senaste tillskottet, och i det underhållna registret exponerar den tre taggar (pplx-decider:latest, pplx-decider:27b och pplx-decider:27b-q4_K_M) som resolverar till samma manifestdigest. En enda artefakt, inte en storleksstege.

• Format – GGUF som serveras av llama.cpp, kontra bf16-safetensors-shardarna på Hugging Face

• Nedladdningsstorlek – cirka 17 GB vid q4_K_M, jämfört med ungefär 49 GiB vikter plus arbetsminne för bf16-kontrollpunkten

• Visionslager — manifestet innehåller en separat projektor på ~927 MB vid sidan av modellagret, så bildinmatning paketeras med textvikterna

• Hårdvara — en konsumentdator snarare än en CUDA-burk

Gränssnittet är Ollamas /v1/systemone slutpunkt, som Ollama lade till i v0.35.0 och utökade för Clef-modeller i v0.35.1. Ollama har också precis fått ett kommandoradsgränssnitt: v0.40.4, som släpptes 2026-10-12, lade till beslutsmodeller i ollama run, så att en ja/nej-fråga, ett etikettval eller en poäng enligt bedömningsmatris kan ställas direkt från en terminal med --ask, --choice och --level. Den utgåvan är tre dagar gammal; modellen som den gör lätt att använda är två veckor gammal.

Vad repositoryt faktiskt dokumenterar

Checkpointen är inte en chattmodell med en kortfattad prompt. Dess kort beskriver en inbyggd beslutsstruktur: Qwen3.8-27B-stommen under det släppta klassnamnet, plus en separat readout.safetensors som innehåller ett bf16 [255, 5120] beslutshuvud — en 255-vägs utläsning över alternativplatserna, inte ett språkhuvud för hela vokabulären. Det finns ingen avkodningsloop. Varje alternativ i varje fråga poängsätts i en enda framåtpassning, vilket är varför svaret rapporterar noll utdatatokens.

Tre detaljer i kortet är viktigare än benchmarktabellen, eftersom det är de som får en naiv integration att fallera:

• Attention-läge. Lager med full attention använder ett sparat icke-kausalt läge, och kortet säger klart att standardmässig kausal inferens inte återskapar den utvärderade konfigurationen. Starta checkpointen med en vanlig kausal laddare och du får siffror som inte är de publicerade.

• Kalibreringstemperatur. Den medföljande DecisionModel.predict tillämpar en sparad temperatur. Om du läser logits direkt, tillämpa den exakt en gång – att tillämpa den två gånger, eller inte alls, gör att varje sannolikhet du sedan förgrenar dig på skalas fel.

• En verklig beslutsgräns. Text och alla bilder för ett beslut måste rymmas inom en budget på 8 192 token, och indata över gränsen avvisas i stället för att trunkeras. Träningen och den rapporterade utvärderingen begränsade bilderna till 512×512; att höja gränsen är nu konfigurerbart via max_image_pixels, med standardvärdet 2048×2048, men kortet varnar för att högre upplösningar ligger utanför träningsdistributionen.

Repositoriet är för övrigt ovanligt komplett för en modell som ingen har annonserat: elva safetensors-shards, en decision_config.json, en chattmall och en release-manifest.json som registrerar filkontrollsummor och checkpunktens härkomst. Licensen är Apache 2.0.

Två delar av dokumentationen har glidit isär. v1.1-kortet säger fortfarande att du ska autentisera dig mot ”det här privata repot” — repot är offentligt läsbart i dag. Och det äldre v1-kortet har en new_version-pekare till v1.1, vilket är den ärliga signalen om att v1 har ersatts.

Det enda du behöver kontrollera innan du planerar utifrån det

Ollama-listningen annonserar ett kontextfönster på 256K. Den siffran verkar vara ärvd från basmodellen – Qwen3.8-27B har faktiskt 262 144 positioner – och det är inte det kontrakt som beslutscheckpointen dokumenterar för sig själv. Checkpointen avvisar varje beslut vars text plus bilder överstiger 8 192 token. Planera en pipeline på 256K, mata in ett kontrakt på 40 000 token plus fyra sidbilder, och begäran misslyckas i stället för att kapas ned. Den större siffran beskriver arkitekturen; den mindre beskriver det API du faktiskt anropar.

Bildstöd har en liknande hake. Ollamas modellkort för pplx-decider visar en bildbegäran mot /v1/systemone, men Ollamas egen kapacitetssida för den slutpunkten anger att bilder är "endast för Clef-modeller". Ett av dessa två dokument är föråldrat. Behandla multimodala indata på den här vägen som overifierade tills du själv har kört det — den underliggande checkpointen tar tydligt emot bilder, och manifestet innehåller tydligt en projektor, men den dokumenterade grinden i runtime är snävare än modellens kort antyder.

Ett leverantörsnummer, och ett annat nummer

Perplexitys egen utvärdering för v1.1-checkpointen rapporterar ett Decision Index på 61,56 mot 57,9 för Jev i samma testsvit och 56,4 för den checkpoint som den ersatte, med de största kategoriökningarna inom language (69,45) och retrieval (61,26). Dessa siffror är leverantörsrapporterade och togs fram på Perplexitys sida; för den tidigare checkpointen går modellkortet längre och säger att resultaten mättes via Perplexity API. Det är en legitim sak att publicera och en svag sak att förlita sig på.

Den oberoende bilden är mer användbar. En öppen community-topplista för denna modellklass, Jev Decision Index, har poängsatt pplx-decider-v1.1-27b i sin egen panel och dess datasläpp från 2026-10-14 rapporterar att checkpointen slutför 110 179 av 110 201 poängsatta fall över 42 benchmarks på ett enda RTX PRO 6000. På den listan får modellen en balanserad kompetenspoäng på 62,75 och en sjätteplats, med Jev på tolfte plats vid 60,11. Två saker som leverantörens tabell inte visar framgår av samma data:

• Där den är stark. ARC-Easy 99,3, ARC-Challenge 97,0, ja/nej-beslut för funktionsanrop (BFCL) 97,2, FinEntity 95,4, BPoMP 95,2, CLINC150 91,5. Klassiska klassificerings- och sökuppgifter är där denna checkpoint kommer till sin rätt.

• Där det inte är fallet. Humanity's Last Exam 16.2, ChessBench 17.7, SATA-Bench 28.2, ACOS 28.2, den schemastyrda dialogsamlingen 33.2, BRIGHT 50.9, GPQA Diamond 56.1. Svårt flerstegsresonemang är inte vad en avläsning i ett enda pass ger dig, och en stack som i tysthet dirigerar resonemangsarbete till en beslutsmodell kommer att producera självsäkert felaktiga grenar.

Kalibrering förtjänar en egen rad, eftersom den är hela poängen med en modell som returnerar sannolikheter i stället för etiketter. På 34 829 oberoende bedömda beslut hade checkpointen i genomsnitt 76,1 procents träffsäkerhet mot 82,9 procents genomsnittlig konfidens — ett förväntat kalibreringsfel på 0,071 och en Brier-poäng på 0,335, där 2,0 procent av fallen låg över 0,95 i konfidens och ändå var fel. Det är en användbar men inte felfri sannolikhetsyta, och den är mätbart bättre kalibrerad än Jev's 0,074 ECE på samma resultattavla. Om du sätter ett tröskelvärde på 0,9 och behandlar det som nära nog en säkerhet, är de där 2 procenten talet att designa runt.

Latensen på samma hårdvara landade på en median på 104 ms och en p95 på 835 ms över 110 000 beslut, vilket är det praktiska argumentet för en beslutsmodell framför en liten språkmodell i en grindposition: p95 är budgeten, inte medelvärdet.

Vad ett beslut kostar

Perplexity kör sitt eget hostade Decisions API för dessa checkpoints – POST https://api.perplexity.ai/v1/decisions, med pplx-decider-v1.1-27b som standardmodell-ID och den tidigare checkpointen fortfarande adresserbar. På den prissidan listas 0,02 USD per miljon indatatoken, utdatatoken gratis och ingen avgift per förfrågan, med ett tak på 128 frågor per förfrågan, 262 144 indatatoken och 10 förfrågningar per sekund per organisation.

Mot det kostar den lokala vägen ingenting per beslut när väl 17 GB har landat. För en triagekö som kör en handfull typade frågor per ärende avgör den räkningen sig själv – och det är värt att notera att den hostade gränsen på 262 144 indatatokens inte är den gräns din lokala kopia kommer att tillämpa, eftersom checkpointens egen budget är 8 192.

Där den lokala vägen inte är svaret ligger resten av stacken runt beslutet. Detta är en 27B-modell som returnerar en sannolikhet per alternativ; den utformar inte svaret, sammanfattar inte ärendet eller anropar verktyget. Om du vill ha beslutet och skrivandet bakom en enda nyckel är det vad OrcaRouter är till för – ett API över 200+ modeller med leverantörens listpris vidarebefordrat utan påslag per token, plus routing-DSL när du vill kombinera en beslutsmodell och en skrivmodell i ett anrop. Två delar av just den här historien finns redan på plattformen: bascheckpointen tillhandahålls som Qwen3.8-27B, så att du kan jämföra finjusteringen mot dess egen grundmodell med samma nyckel, och referensmodellen som den mäts mot tillhandahålls som Jev 1.13 genom samma systemone-endpoint-form. Perplexitys beslutsmodell är inte en vi erbjuder – den finns via Perplexitys eget API och flera tredjepartsplattformar – så om du behöver den specifikt är den lokala hämtningen ovan och Perplexitys endpoint dina vägar.

Tre frågor som repositoriet inte besvarar

Vilken checkpoint finns i den kvantiserade artefakten? Ollama-biblioteksposten är namngiven efter familjen, inte en version, och dess benchmarkblock länkar till v1-arkivet – tabellen med 11 benchmarks visar 85,7 procent, vilket är v1-kortets övergripande siffra och inte v1.1:s Decision Index-svit. v1.1 är den starkare checkpointen enligt Perplexitys egen redovisning, och det är inte uppenbart att det är den du hämtar. Kontrollera digesten innan du bygger på antagandet.

Var det Perplexitys avsikt att något av detta skulle vara offentligt? Ingen annonsering, bloggpost, post i ändringsloggen eller meddelande om API-tillgänglighet för dessa vikter har dykt upp. Checkpointarna har lästs av tusentals – 2 740 nedladdningar för v1 och 3 154 för v1.1 vid skrivandets stund – men uppmärksamhet kring ett modellkort är inte samma sak som att en leverantör säger att det stöds. Betrakta det offentliga repositoryt som den auktoritativa artefakten och allt annat som slutledning.

Är en leverantörshostad, officiellt annonserad version på väg?Okänt. Att det finns ett dokumenterat, prissatt Decisions API på Perplexitys sida tyder på att den hostade vägen är den avsedda produkten och att vikterna ligger uppströms om den. Men det är en gissning om avsikten, inte ett faktum från ett dokument, och det är märkt som en sådan.

Vilka bör flytta, och vilka bör inte

Om din pipeline redan förgrenar sig utifrån typade leverantörsbeslut – ärendedirigering, återbetalningsdetektering, styrning av agentsteg – är detta en två veckor gammal checkpoint med oberoende reproducerade resultat, en Apache 2.0-licens och, från och med idag, en 17 GB-väg till hårdvara du äger. Utvärderingen tyder på att den är bättre kalibrerad än referensmodellen och ungefär två placeringar bättre på en offentlig resultattavla, och den lokala kopian tar bort priset per beslut helt. Hämta den, kör den mot dina egna märkta exempel och jämför den med vad du än använder nu. Beslutsbudgeten på 8 192 token är begränsningen du bör testa mot först, inte de 256K som listningen annonserar.

Om du behöver resonemang snarare än klassificering, vänta. Den oberoende panelen placerar denna checkpoint i de lägre tonåren i svåra kunskapsbenchmarkar, och en sannolikhetsyta som är säker på en fråga den faktiskt inte kan besvara är sämre i produktion än en långsam modell som tänker först. Argumentet för en beslutsmodell är medianen på 104 ms och att sextio frågor kostar ett pass — och inget av det hjälper när svaren är fel.

Att köra beslutssteget på din egen hårdvara är också ett bra tillfälle att titta på vad som redan har gått fel i den här kategorin: de dokumenterade AI-incidenterna och agentfelen som involverar beslutsmodeller samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och omstriddhetsflagga.