pplx-decider kontra Decider: Cichy 27B Perplexity przeciwko Otwartej Drabinie Mapiki

Na Hugging Face są teraz dwa modele decyzyjne, które odpowiadają na pytania w ten sam sposób, a poza tym nie zgadzają się niemal w niczym. pplx-decider to checkpoint 27B od Perplexity, który pojawił się 2026-10-01 bez żadnego ogłoszenia, wpisu na blogu, strony z cennikiem ani dostawcy inferencji, który by go obsługiwał; 2026-10-05 na tym samym backbone ukazała się rewizja pplx-decider-v1.1. Decider to rodzina modeli tej samej klasy od Mapiki — od decider-0.8b do decider-35b-a3b, otwarta reprodukcja w linii System One, opublikowana wraz z pełnymi notatkami treningowymi. Oba przyjmują blok nazwanych pytań wraz z dokumentem i zwracają skalibrowane prawdopodobieństwo dla każdej odpowiedzi w jednym przejściu w przód. Żaden z nich nie pisze ani jednego zdania prozą. Poniżej przedstawiono to, co faktycznie zostało odnotowane dla każdego z nich, oraz wyraźny znacznik tam, gdzie zapis się kończy.

Po pierwsze, co robi „model decyzyjny” w tym zdaniu?

Żaden z nich nie jest modelem czatu, którego poproszono o zwięzłość. Nie są w ogóle modelami językowymi w zwykłym tego słowa znaczeniu — nie ma pętli dekodowania, nie ma próbkowania, nie ma niczego token po tokenie. Pojedynczy przebieg w przód przez twój dokument zwraca prawdopodobieństwo dla każdej z podanych opcji.

Kształt wywołania sprawia, że porównanie warto opisać. Przekazujesz stan (zgłoszenie, rekord JSON, zrzut ekranu, umowę) oraz listę nazwanych pytań. Każde pytanie określa swój typ odpowiedzi: wybór spośród od 2 do 255 oznaczonych opcji, odczyt tak/nie/nieznane albo wynik w skali od 2 do 10 opisanych poziomów. Odpowiedzi wracają w kolejności, w jakiej o nie poproszono, jako liczby między 0 a 1, a liczbę należy odczytywać jako prawdopodobieństwo, a nie schludną etykietę — 0,62 na „czy żądany jest zwrot pieniędzy?” to cały wynik, a próg ustala wywołujący.

Ten projekt eliminuje opóźnienia i koszty, ponieważ dokument z sześćdziesięcioma pytaniami kosztuje jedno przejście, a nie sześćdziesiąt. Oznacza to również, że zwykłe sposoby oceniania modelu językowego nie mają zastosowania: nie ma śladu rozumowania do przeczytania, nie ma łańcucha myśli, z którym można by się spierać, nie ma sposobu, by poprosić go o wyjaśnienie samego siebie. Dostajesz masę prawdopodobieństwa i nic więcej. Oba projekty wyraźnie mówią, że to jest ten kompromis.

Co wdrożono, a czego nikt nie powiedział

Repozytorium pplx-decider jest wyjątkowo kompletne jak na model, za którym nie stoi żaden wpis o premierze. Wagi są na licencji Apache-2.0. Podstawą jest Qwen/Qwen3.8-27B, co podano na karcie. Udostępniono głowicę odczytu (readout head) w bf16 o wymiarach [255, 5120], co dokładnie odpowiada kształtowi, jakiego można oczekiwać dla 255 wybieralnych opcji w 5120-elementowym stanie ukrytym. Karta dokumentuje budżet wejściowy, limit opcji, trzy typy pytań oraz kształt endpointu — POST /v1/systemone.

Tym, czego brakuje, jest zdanie, które zawierałby wpis o premierze. Na karcie nie ma daty premiery, nie ma ogłoszenia, nie ma posta z benchmarkami od Perplexity, nie ma ceny i nie ma żadnej platformy zewnętrznej, która by to udostępniała. Liczby pobrań są takie, jakie uzyskuje się dla repozytorium, które zostało znalezione, a nie promowane. Czytając jedno i drugie razem, uczciwy opis brzmi: artefakt jest publiczny, intencja za nim już nie. Wszystko poniżej o pplx-decider pochodzi z repozytorium i jego kart. Nic poniżej nie zostało niezależnie odtworzone i nikt spoza laboratorium nie opublikował własnego uruchomienia.

Wpis w bibliotece Ollama w niewielkim stopniu uwidacznia tę lukę. Jego strona podaje tag jako 27b przy 17 GB z oknem kontekstowym 256K — wersja skwantyzowana, znacznie poniżej około 49 GiB zajmowanych przez wagi bf16 — podczas gdy repozytorium dokumentuje znacznie mniejszy budżet wejściowy dla tekstu i obrazów i stwierdza, że zbyt duże dane wejściowe są odrzucane, a nie obcinane. Te dwa stwierdzenia nie opisują w oczywisty sposób tego samego limitu, a nic, co opublikowano, ich nie uzgadnia. Liczbę podaną przez runtime traktuj jako twierdzenie runtime'u.

Najciekawsze jest to: dwoje nieznajomych, jeden interfejs

Rodzina Decider firmy Mapika i pplx-decider zostały opracowane niezależnie, na różnych podstawach, z różnych powodów, a mimo to zbiegły się do tego samego formatu transmisji. Modele Decider również posługują się kształtem wywołania System One — nazwane pytania, wybór spośród 2–255 opcji, brak generowania tekstu, akceptowane stany do około 32k. Klient napisany pod jeden z nich jest, w praktyce, klientem dla drugiego.

Ta zbieżność jest użytecznym faktem w tym porównaniu. To, który wybierzesz, nie jest przepisaniem; to podmiana bazowego adresu URL i ciągu modelu. Interesujące pytanie przestaje brzmieć „które API mam zintegrować”, a staje się „któremu odczytowi ufam w moich dokumentach” — a oba projekty odpowiadają na to pytanie w bardzo różny sposób.

Jeden punkt kontrolny przeciwko drabinie

Różnicę strukturalną najłatwiej dostrzec. Perplexity wypuściło tylko jeden rozmiar. Mapika wypuściła całą gamę i opublikowała tabelę rozmiarów:

• Katalog — pplx-decider: jeden checkpoint 27B plus rewizja v1.1 na tym samym backbone. Decider: ponad siedem opublikowanych rozmiarów, od decider-0.8b o rozmiarze 1,4 GB aż po decider-2b, decider-2b-vision, decider-4b, decider-12b i decider-35b-a3b przy 65 GB bf16 lub 19,6 GB w nvfp4.

• Modele bazowe — pplx-decider: Qwen/Qwen3.8-27B, jedna linia. Decydent: mieszanka — Qwen3.5-0.8B, Qwen3.5-2B i Qwen3.5-4B dla małych rozmiarów, Qwen3.5-35B-A3B dla dużego oraz gemma-4-12B-it i gemma-4-31B-it w wariantach czatowych.

• Aktywacja — pplx-decider: gęsty 27B, więc każdy parametr działa przy każdym wywołaniu. Decider: decider-35b-a3b to mieszanka — łącznie 34,7B, z około 3B aktywnych w 256 routowanych ekspertach, 8 z nich aktywnych na token.

• Vision — pplx-decider: multimodalny, i repozytorium to potwierdza; tekst, JSON i obrazy, w tym zrzuty ekranu, paragony i formularze, przy czym tokeny wizji kosztują około szerokość × wysokość / 1024. Decider: osobny checkpoint decider-2b-vision, a nie flaga w głównej linii, więc praca z obrazami to inny wybór modelu, a nie inny argument.

• Licencja — Apache-2.0 po obu stronach, co jest jedynym miejscem, w którym to porównanie jest nudne.

• Ujawnienie szczegółów treningu — pplx-decider: potok danych oparty na Bespoke Nimble od Bespoke Labs, z podzbiorami benchmarków przypiętymi według identyfikatora rekordu i sumy kontrolnej, a zyski w wersji 1.1 przypisano usunięciu maski przyczynowej i dodaniu danych, w tym tasksource. Decider: notatki dla poszczególnych wersji z liczbą elementów, sprzętem i czasem rzeczywistym — decider-35b-a3b trenowany na 4× B300 przez 394 minuty na 1 543 567 elementach — oraz nazwane tryby awarii i udział parametrów faktycznie trenowanych, 2,45B z 34,7B.

Żadna z tych opcji nie daje decydującej przewagi. Pojedynczy checkpoint jest prostszy w analizie, łatwiejszy w serwowaniu i nie da się go zmniejszyć. Drabina pozwala umieścić decider-0.8b za tanim filtrem wstępnym i przeznaczać 35B tylko na elementy, które tego potrzebują — ale tylko wtedy, gdy jesteś gotów utrzymywać routing, który mówi, co jest czym.

Liczby i to, kto je wygenerował

Oba zestawy najważniejszych liczb pochodzą od dostawców i do żadnego z nich nie dołączono niezależnej replikacji. Ma to tutaj większe znaczenie niż zwykle, ponieważ nie istnieje ranking modeli decyzyjnych firm trzecich o takiej renomie, jaką mają areny obrazowe czy językowe.

Własne dane Perplexity dla pplx-decider wskazują na 85,7% w 11 publicznych benchmarkach, wobec 84,5% dla Jev i 74,8% dla bazowego Qwen3.8-27B, na którym został wytrenowany. Wśród pojedynczych zgłoszonych wyników znalazły się RAGTruth 88,8, FinancialPhraseBank 84,2, TabFact 90,6, JudgeBench 78,3 i WinoGrande 83,3, a pełniejszy zestaw obejmuje Circa, Belebele, TruthfulQA binary, BBH, ContractNLI oraz publiczny trudny podział JevBench. Wersja v1.1 podaje ogólny wynik ważony całym zestawem na poziomie 61,56 wobec 56,4 dla v1 i 57,9 dla Jev, przy czym największy wzrost w pojedynczej kategorii dotyczy zadań językowych. Porównanie z Jev pochodzi od dostawcy, zostało obliczone na jego własnym zestawie, a sposób ważenia nie został opublikowany.

Raportowanie Mapiki ma inny charakter: liczby pojawiają się wraz z zastrzeżeniami, które je podważają. decider-35b-a3b raportuje 0,855 w zadaniu i 0,810 na zbiorze held-out wobec bazowego wyniku zero-shot 0,732 oraz 0,676 w publicznym trudnym podziale JevBench — poniżej wyniku 0,730 uzyskanego przez Jev 1.13.0. Karta stwierdza również, że nie ma etapu wzmacniania, więc sampled play wynosi 86,4% wobec 93,2% w przypadku decider-2b v10, a także że model jest nadmiernie pewny siebie w najtrudniejszych pozycjach, z oczekiwanym błędem kalibracji 0,15 na poziomie trudnym. decider-2b v11 jest raportowany na poziomie 0,802 w zadaniu i 0,752 na zbiorze held-out z ECE 0,156 wobec podanej wytycznej wydania na poziomie 0,08 — nietrafienie, które podają sami autorzy.

Dwa udokumentowane tryby awarii warto uwzględnić w każdej prowadzonej przez siebie ewaluacji. Wybieranie rekordu na podstawie jego pozycji w długiej tablicy JSON opisywane jest jako najmniej dokładny kształt danych wejściowych, jaki obsługuje ta rodzina, a upakowanie kilku niezależnych pytań w jednym wywołaniu może zmienić nawet 12% odpowiedzi, gdy flaga niezależności jest wyłączona. Jedno i drugie to coś, co karta katalogowa przemilcza, a karta produktu wspomina raz.

Ile kosztuje eksploatacja któregokolwiek z nich

• Najmniejszy działający Decider — decider-0.8b ma 1,4 GB. pplx-decider nie ma małego wariantu, więc jego dolną granicą jest pełne 27B.

• Największy Decider — decider-35b-a3b przy 65 GB bf16 lub 19,6 GB nvfp4, z zaledwie około 3B aktywnych parametrów na token.

• Opóźnienie, po stronie Decidera — decider-2b osiąga 4 ms na żądanie dzięki grafom CUDA na B300, w porównaniu do 18,9 ms w trybie eager, i około 2700 decyzji na sekundę przy batchu 32. 35B to inny świat: około 47 ms dla zgłoszenia o 92 tokenach z trzema pytaniami, 368 ms dla 64 zgłoszeń.

• Opóźnienie, po stronie pplx-decider — brak opublikowanych danych. Karty nie podają zupełnie żadnych wartości przepustowości ani opóźnienia, co jest normalne w przypadku repozytorium, które nie zostało uruchomione.

• Koszt na decyzję — to tutaj projekt zwraca się po obu stronach. Sześćdziesiąt pytań do jednego dokumentu to i tak jedno przejście w przód, a koszt na decyzję spada, gdy zadajesz więcej pytań do tego samego dokumentu.

Oto uczciwy obraz routingu. OrcaRouter nie udostępnia pplx-decider i nie udostępnia rodziny Decider firmy Mapika — żaden z nich nie występuje w katalogu, a niczego w tym artykule nie należy odczytywać jako twierdzenia przeciwnego. To, co katalog faktycznie ma dziś w tej klasie, to typesafe/jev-1.13 — model decyzyjny o tym samym kształcie System One, z oknem 65 536 tokenów udostępnianym przez ten sam endpoint POST /v1/systemone w cenie 0,042 USD za milion tokenów wejściowych, co stanowi użyteczny punkt odniesienia dla kosztu routowanego modelu decyzyjnego. Jeśli oceniasz nieogłoszony checkpoint taki jak pplx-decider, sposobem na zrobienie tego bez stawiania na nim produkcyjnej ścieżki jest uruchomienie go samodzielnie obok routowanego modelu poprzez jedno API dla ponad 200 modeli — cena katalogowa dostawcy przekazywana dalej bez marży (0% narzutu), więc gdy te projekty trafią do dostawcy inferencji, cena katalogowa jest tutaj ceną tego samego dnia. Do tego czasu samodzielnie hostowany pplx-decider obok routowanego typesafe/jev-1.13 to porównanie, które faktycznie coś ci powie.

Po który sięgnąć?

Jeśli potrzebujesz dziś modelu decyzyjnego, na własnym sprzęcie, o wybranym przez siebie rozmiarze, z notatkami treningowymi, które możesz audytować, i licencją, która niczego od ciebie nie wymaga, odpowiedzią jest checkpoint Decider, a jedynym prawdziwym pytaniem jest to, który szczebel. Zacznij od decider-2b; liczby z v11 pokazują, że rodzina poprawia się względem własnego v10 dokładnie na tym trudnym podziale, na którym by ci zależało, a udokumentowana luka ECE mówi, żeby ponownie dopasować temperaturę, zanim zaufasz prawdopodobieństwom na produkcji.

Sięgnij po pplx-decider, jeśli chcesz ten sam interfejs z większym gęstym modelem pod spodem, jeśli dane wejściowe obrazowe mają znaczenie i wolałbyś nie uruchamiać drugiego checkpointu, albo jeśli jesteś z zespołu, który wolałby samodzielnie ocenić głowicę odczytu laboratorium z czołówki, zamiast czekać na wpis o premierze, który może nigdy nie nadejść. Jego zalety są prawdziwe, ale niezweryfikowane: większy backbone, tabela benchmarków, która mu schlebia, oraz pipeline treningowy udokumentowany aż po sumy kontrolne na poziomie rekordów.

To, na co warto patrzeć, to nie benchmark. Chodzi o to, czy pplx-decider w ogóle dociera do dostawcy inferencji. Repozytorium z wagami i bez zapowiedzi to sygnał, a nie produkt; w momencie, gdy pojawi się na hostowanym endpoincie, pytanie o cenę kontra opóźnienie, na które karty Decidera już odpowiadają, staje się prawdziwym porównaniem, a nie aspiracją.

Uruchom samodzielnie hostowany pplx-decider obok routowanego modelu decyzyjnego za ceną katalogową dostawcy przekazywaną dalej z 0% marży, więc gdy którykolwiek z projektów trafi do dostawcy wnioskowania, cena katalogowa jest ceną obowiązującą tutaj tego samego dnia.

Nowy checkpoint mierzony względem opublikowanej drabinki to także dobre miejsce, by sprawdzić rejestr: udokumentowane incydenty AI i awarie agentów dotyczące modeli tej klasy są gromadzone w OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, dotkliwość, stopień pewności i znacznik sporu.