pplx-decider vs Decider: de stille 27B van Perplexity tegen Mapika's Open Ladder

Twee beslissingsmodellen staan op dit moment op Hugging Face die vragen op dezelfde manier beantwoorden en het over vrijwel niets anders eens zijn. pplx-decider is een 27B-checkpoint van Perplexity dat op 2026-10-01 verscheen zonder aankondiging, zonder blogpost, zonder prijspagina en zonder inference-provider die het aanbiedt; een revisie, pplx-decider-v1.1, volgde op 2026-10-05 op dezelfde backbone. Decider is Mapika's familie van modellen in dezelfde klasse — decider-0.8b tot decider-35b-a3b, een open reproductie in de System One-lijn, gepubliceerd met volledige trainingsnotities. Beide nemen een blok met benoemde vragen plus een document en retourneren in één forward pass een gekalibreerde waarschijnlijkheid per antwoord. Geen van beide schrijft ook maar één zin proza. Wat volgt is wat daadwerkelijk voor elk opgetekend is, en een duidelijke markering waar de vastlegging ophoudt.

Ten eerste, wat doet "decision model" in die zin?

Geen van beide is een chatmodel dat is gevraagd om een chatmodel te zijn. Het zijn in de gebruikelijke zin helemaal geen taalmodellen; er is geen decoderingslus, geen sampling, niets dat token voor token gaat. Eén forward pass over je document retourneert een waarschijnlijkheid voor elk dat je hebt opgegeven.

De vorm van de aanroep is wat de vergelijking de moeite van het opschrijven waard maakt. Je overhandigt een toestand (een ticket, een JSON-record, een screenshot, een contract) en een lijst met benoemde vragen. Elke vraag vermeldt het bijbehorende antwoordtype: een keuze uit 2 tot 255 gelabelde opties, een ja/nee/onbekend-uitkomst, of een score op 2 tot 10 beschreven niveaus. Antwoorden komen terug in de volgorde waarin je ze hebt gevraagd, als getallen tussen 0 en 1, en dat getal moet worden gelezen als een waarschijnlijkheid in plaats van als een net label — 0,62 op "wordt er om een terugbetaling gevraagd?" is de volledige output, en de aanroeper bepaalt de drempel.

Dat ontwerp elimineert latentie en kosten, omdat een document met zestig vragen één pass kost, niet zestig. Het betekent ook dat de gebruikelijke manieren om een taalmodel te beoordelen niet van toepassing zijn: er is geen redeneerspoor om te lezen, geen chain of thought om mee in discussie te gaan, geen manier om het te vragen zichzelf uit te leggen. Je krijgt waarschijnlijkheidsmassa en verder niets. Beide projecten zijn er expliciet over dat dit de afweging is.

Wat is uitgebracht, en wat niemand heeft gezegd

De pplx-decider-repository is ongewoon compleet voor een model zonder lanceerbericht erachter. De gewichten zijn Apache-2.0. De basis is Qwen/Qwen3.8-27B, vermeld op de kaart. Er is een vrijgegeven readout-head in bf16 op [255, 5120], precies de vorm die je zou verwachten voor 255 selecteerbare opties over een 5.120 brede verborgen toestand. De kaart documenteert het inputbudget, het optieplafond, de drie vraagtypen en de endpointvorm — POST /v1/systemone.

Wat er niet staat, is de zin die een lanceringspost zou bevatten. Er staat geen releasedatum op de kaart, geen aankondiging, geen benchmarkpost van Perplexity, geen prijs, en geen platform van derden dat het aanbiedt. De downloadaantallen zijn van het formaat dat je krijgt bij een repository die eerder gevonden dan gepromoot is. Lees die twee samen en de eerlijke beschrijving is: het artefact is openbaar, de intentie erachter niet. Alles hieronder over pplx-decider komt uit de repository en de kaarten ervan. Niets hieronder is onafhankelijk gereproduceerd, en niemand buiten het lab heeft een eigen run gepubliceerd.

De vermelding in de Ollama-bibliotheek maakt dat gat in geringe mate zichtbaar. Op de pagina wordt de tag vermeld als 27b bij 17 GB met een contextvenster van 256K — een gekwantiseerde build, ruim onder de ongeveer 49 GiB die de bf16-gewichten innemen — terwijl de repository een veel kleiner invoerbudget voor tekst en afbeeldingen documenteert en zegt dat te grote invoer wordt geweigerd in plaats van afgekapt. Die twee uitspraken beschrijven niet duidelijk dezelfde limiet, en niets dat is gepubliceerd brengt ze met elkaar in overeenstemming. Beschouw het getal van de runtime als de bewering van de runtime.

Het interessante deel: twee vreemden, één interface

Mapika's Decider-familie en pplx-decider zijn onafhankelijk van elkaar ontwikkeld, vanuit verschillende basissen, om verschillende redenen, en ze zijn op hetzelfde wire-formaat uitgekomen. Decider-modellen spreken ook de System One-aanroepvorm — benoemde vragen, keuze uit 2 tot 255 opties, geen tekstgeneratie, states geaccepteerd tot ongeveer 32k. Een client die tegen de ene is geschreven, is vrijwel een client voor de andere.

Die convergentie is het nuttige gegeven in deze vergelijking. Welke je kiest is geen herschrijving; het is het verwisselen van een basis-URL en een modelstring. De interessante vraag is niet langer "welke API integreer ik" maar "welke uitlezing vertrouw ik op mijn documenten" — en de twee projecten beantwoorden die vraag op heel verschillende manieren.

Eén controlepunt tegen een ladder

Het structurele verschil is het gemakkelijkst te zien. Perplexity bracht één maat uit. Mapika bracht een reeks uit en publiceerde de maattabel:

Catalogus — pplx-decoder: één 27G checkpoint, plus een v1.1-revisie op dezelfde backbone. Decider: zeven-plus gepubliceerde groottes, van decider-0.8b op 1,4 GB tot en met decider-2b, decider-2b-vision, decider-4b, decider-12b, en decider-35b-a3b op 65 GB bf16 of 19,6 GB in nvfp4.

• Bases — pplx-decider: Qwen/Qwen3.8-27B, één lijn. Decider: een mix — Qwen3.5-0.8B, Qwen3.5-2B en Qwen3.5-4B voor de kleine formaten, Qwen3.5-35B-A3B voor de grote, en gemma-4-12B-it en gemma-4-31B-it onder de chatvarianten.

• Activering — pplx-decider: dense 27B, dus elke parameter draait bij elke aanroep. Decider: decider-35b-a3b is een mengsel — 34,7B totaal met ruwweg 3B actief verdeeld over 256 gerouteerde experts, waarvan er 8 per token actief zijn.

• Vision — pplx-decider: multimodaal, en de repository zegt dat ook; tekst, JSON en afbeeldingen, waaronder screenshots, bonnetjes en formulieren, waarbij vision-tokens ongeveer width × height / 1024 kosten. Decider: een apart decider-2b-vision-checkpoint in plaats van een flag op de hoofdlijn, dus werk met afbeeldingen is een andere modelkeuze, niet een ander argument.

• Licentie — Apache-2.0 aan beide kanten, wat het enige punt is waarop deze vergelijking saai is.

• Trainingsopenbaarmaking — pplx-decider: een datapijplijn die voortbouwt op Bespoke Nimble van Bespoke Labs, met benchmarksubsets die op record-ID en checksum zijn vastgezet, en de verbeteringen van v1.1 worden toegeschreven aan het verwijderen van het causale masker en het toevoegen van data, waaronder tasksource. Decider: notities per versie met itemaantallen, hardware en kloktijd — decider-35b-a3b getraind op 4× B300 gedurende 394 minuten op 1.543.567 items — plus benoemde faalmodi en het aandeel daadwerkelijk getrainde parameters, 2,45 miljard van 34,7 miljard.

Geen van beide is een beslissend voordeel. Een enkel checkpoint is eenvoudiger te doorgronden, gemakkelijker te serveren en onmogelijk te verkleinen. Een ladder laat je decider-0.8b achter een goedkope prefilter zetten en de 35B alleen besteden aan de items die het nodig hebben — maar alleen als je bereid bent de routeringslogica te onderhouden die bepaalt welke welke is.

De cijfers, en wie ze heeft geproduceerd

Beide reeksen kerncijfers zijn door leveranciers gerapporteerd, en bij geen van beide hoort een onafhankelijke replicatie. Dat is hier meer van belang dan gebruikelijk, omdat er geen leaderboard voor besluitvormingsmodellen van derden bestaat met de status van de beeld- of taalarena's.

De eigen cijfers van Perplexity voor pplx-decider plaatsen het op 85,7% over 11 publieke benchmarks, tegenover 84,5% voor Jev en 74,8% voor de Qwen3.8-27B-basis waarop het is getraind. Afzonderlijke gerapporteerde rijen zijn onder meer RAGTruth 88,8, FinancialPhraseBank 84,2, TabFact 90,6, JudgeBench 78,3 en WinoGrande 83,3, waarbij de volledigere set Circa, Belebele, TruthfulQA binary, BBH, ContractNLI en een publieke harde split van JevBench omvat. De v1.1-revisie rapporteert een suitegewogen totaalscore van 61,56 tegenover 56,4 voor v1 en 57,9 voor Jev, met de grootste winst in één categorie bij taaltaken. De vergelijking met Jev is die van de leverancier, berekend op de eigen suite van de leverancier, en de weging is niet gepubliceerd.

Mapika's rapportage heeft een andere textuur: cijfers komen vergezeld van voorbehouden die ze ondermijnen. decider-35b-a3b rapporteert 0,855 in-task en 0,810 held-out tegen een zero-shot-basis van 0,732, en 0,676 op de openbare harde split van JevBench — onder de 0,730 van Jev 1.13.0. De kaart vermeldt ook dat er geen reinforcement-fase is, waardoor gesampled spel op 86,4% ligt tegenover de 93,2% van decider-2b v10, en dat het model overconfident is op de moeilijkste items, met een verwachte kalibratiefout van 0,15 op de harde tier. decider-2b v11 wordt gerapporteerd op 0,802 in-task en 0,752 held-out met een ECE van 0,156 tegen een vastgestelde release-richtlijn van 0,08 — een misser, door de auteurs zelf vermeld.

Twee gedocumenteerde faalmodi zijn het waard om mee te nemen in elke evaluatie die je uitvoert. Het selecteren van een record op basis van zijn positie in een lange JSON-array wordt beschreven als de minst nauwkeurige invoervorm die de familie aankan, en het bundelen van meerdere onafhankelijke vragen in één aanroep kan tot 12% van de antwoorden doen omslaan wanneer de onafhankelijkheidsvlag uitstaat. Beide zijn het soort dingen dat een specificatieblad verbergt en een kaart slechts één keer noemt.

Wat het kost om een van beide te draaien

• Kleinste werkbare Decider — decider-0.8b is 1,4 GB. pplx-decider heeft geen kleine variant, dus de ondergrens is de volledige 27B.

• Grootste Decider — decider-35b-a3b bij 65 GB bf16 of 19,6 GB nvfp4, met slechts ongeveer 3B parameters actief per token.

• Latentie, Decider-zijde — decider-2b draait 4 ms per verzoek met CUDA-graphs op een B300, tegenover 18,9 ms in eager modus, en ongeveer 2.700 beslissingen per seconde bij batch 32. De 35B is een andere wereld: ongeveer 47 ms voor een ticket van 92 tokens met drie vragen, 368 ms voor 64 tickets.

• Latentie, aan de zijde van pplx-decider — niets gepubliceerd. De kaarten geven helemaal geen doorvoer- of latentiecijfer, wat normaal is voor een repository die niet is gelanceerd.

• Kosten per beslissing — dit is waar het ontwerp zich aan beide kanten uitbetaalt. Zestig vragen over één document is in beide gevallen één forward pass, dus de kosten per beslissing kelderen naarmate je meer vragen over hetzelfde document stelt.

Dit is het eerlijke routingbeeld. OrcaRouter levert pplx-decider niet, en levert Mapika's Decider-familie niet — geen van beide staat in de catalogus, en niets in dit artikel mag worden gelezen als een bewering van het tegendeel. Wat de catalogus in deze klasse vandaag wél bevat, is typesafe/jev-1.13, een beslissingsmodel met dezelfde System One-vorm en een contextvenster van 65.536 tokens dat via hetzelfde endpoint POST /v1/systemone wordt ontsloten tegen $0,042 per miljoen invoertokens, wat een nuttig ankerpunt is voor wat een gerouteerd beslissingsmodel kost. Als je een niet-aangekondigde checkpoint zoals pplx-decider evalueert, is de manier om dat te doen zonder er een productiepad op te wedden, zelf naast een gerouteerd model te draaien achter één API voor 200+ modellen — de lijstprijs van de provider, doorgegeven met 0% opslag, dus wanneer deze projecten een inferentieprovider bereiken, is de lijstprijs hier dezelfde dag nog de prijs. Tot dan is een zelfgehoste pplx-decider naast een gerouteerde typesafe/jev-1.13 de vergelijking die je daadwerkelijk iets zal vertellen.

Welke moet je pakken?

Als je vandaag een beslissingsmodel nodig hebt, op je eigen hardware, op een grootte die jij kiest, met trainingsnotities die je kunt auditen en een licentie die niets van je vraagt, dan is het antwoord een Decider-checkpoint, en de enige echte vraag is welke trede. Begin bij decider-2b; de v11-cijfers laten zien dat de familie zich verbetert ten opzichte van de eigen v10 op precies de moeilijke split waar je om zou geven, en de gedocumenteerde ECE-kloof zegt je dat je een temperatuur opnieuw moet fitten voordat je de waarschijnlijkheden in productie vertrouwt.

Kies voor pplx-decider als je dezelfde interface wilt met een groter dense model erachter, als beeldinvoer belangrijk is en je liever geen tweede checkpoint wilt draaien, of als je het soort team bent dat liever zelf de readout-head van een frontier-lab evalueert dan te wachten op een lanceringsbericht dat misschien nooit komt. De voordelen zijn reëel maar niet geverifieerd: een grotere backbone, een benchmarktabel die het gunstig voorstelt, en een trainingspipeline die tot op checksums op recordniveau is gedocumenteerd.

Waar je op moet letten is niet een benchmark. Het gaat erom of pplx-decider überhaupt een inferenceprovider bereikt. Een repository met gewichten en zonder aankondiging is een signaal, geen product; op het moment dat het op een gehost endpoint verschijnt, wordt de prijs-versus-latentievraag die de kaarten van Decider al beantwoorden een echte vergelijking in plaats van een aspiratie.

Draai een zelfgehoste pplx-decider naast een gerouteerd beslissingsmodel achter providerlijstprijs die met 0% opslag wordt doorgegeven, zodat wanneer een van beide projecten een inferentieprovider bereikt, de vermelde prijs dezelfde dag de prijs hier is.

Een nieuw checkpoint dat tegen een gepubliceerde ladder wordt afgemeten, is ook een goede plek om het dossier te controleren: de gedocumenteerde AI-incidenten en agentfouten rond modellen in deze klasse zijn verzameld in het OrcaRouter AI Incident Archive, waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en betwist-markering bevat.