pplx-decider w Ollama: cichy 27B model decyzyjny Perplexity staje się uruchamialny

Perplexity opublikowało wagi pplx-decider-v1.1-27b 5 października 2026, a pierwszego checkpointu, który został przez nie zastąpiony, pplx-decider (nazwa repozytorium pplx-decider-v1-27b), 1 października 2026. Oba są dostrojonymi wersjami Qwen3.8-27B, które zamiast zdań odpowiadają prawdopodobieństwami, i oba wpisują się w tę samą linię System One co należący do TypeSafe Jev 1.13. Nowością nie jest sam model: od dziś pplx-decider widnieje w bibliotece modeli Ollamy i można go zainstalować jedną komendą. Zanim ta pozycja się pojawiła, uruchomienie tego checkpointu oznaczało GPU CUDA z miejscem na około 49 GiB wag bf16. Teraz to 17 GB skwantyzowanych wag do pobrania na laptopa. Właśnie o tej jednej zmianie jest ta strona, a model, który dzięki niej da się uruchomić, ma czternaście dni.

Co się zmieniło, mówiąc konkretnie

Wpis w bibliotece Ollama nosi nazwę pplx-decider, a biblioteka stale gromadziła modele decyzyjne — Laya, Nimble, Kev, Clef, Strands Decider — przez całą jesień. Ten model to najnowszy dodatek, a w utrzymywanym rejestrze udostępnia trzy tagi (pplx-decider:latest, pplx-decider:27b i pplx-decider:27b-q4_K_M), które wskazują na ten sam skrót manifestu. Pojedynczy artefakt, a nie drabinka rozmiarów.

• Format — GGUF serwowany przez llama.cpp, w porównaniu z shardami bf16 safetensors na Hugging Face

• Rozmiar pobierania — około 17 GB przy q4_K_M, w porównaniu z mniej więcej 49 GiB wag plus pamięć robocza dla checkpointu bf16

• Warstwa wizyjna — manifest zawiera oddzielny projektor o rozmiarze ~927 MB obok warstwy modelu, więc dane wejściowe obrazu są pakowane razem z wagami tekstowymi

• Sprzęt — maszyna konsumencka, a nie komputer CUDA

Interfejs należący do Ollama to /v1/systemone punkt końcowy, który został dodany w wersji 0.35.0 i rozszerzony dla modeli Clef w wersji 0.35.1. Zyskał także interfejs wiersza poleceń: wersja 0.40.4, wydana 2026-10-12, dodała modele decyzyjne do ollama run, więc pytanie tak/nie, wybór etykiety lub ocenę według rubryk można zadać bezpośrednio z terminala za pomocą --ask, --choice i --level. Ta wersja ma trzy dni; model, którego obsługę ułatwia, ma dwa tygodnie.

Co faktycznie dokumentuje repozytorium

Ten checkpoint nie jest modelem czatu ze zwięzłym promptem. Jego karta opisuje natywny układ decyzyjny: szkielet Qwen3.8-27B pod wydaną nazwą klasy oraz oddzielny plik readout.safetensors zawierający głowicę decyzyjną bf16 [255, 5120] — odczyt 255-kierunkowy na slotach opcji, a nie pełnowokabularzową głowicę językową. Nie ma pętli dekodowania. Każda opcja każdego pytania jest oceniana w jednym przebiegu w przód, dlatego odpowiedź zgłasza zero tokenów wyjściowych.

Trzy szczegóły w karcie mają większe znaczenie niż tabela benchmarków, ponieważ to one łamią naiwną integrację:

• Tryb uwagi.Warstwy pełnej uwagi używają zapisanego trybu niekauzalnego, a karta wprost mówi, że domyślne wnioskowanie kauzalne nie odtwarza ocenianej konfiguracji. Uruchom checkpoint za pomocą standardowego loadera kauzalnego, a otrzymasz liczby inne niż opublikowane.

• Temperatura kalibracji. Dostarczana metoda DecisionModel.predict stosuje zapisaną temperaturę. Jeśli odczytujesz logity bezpośrednio, zastosuj ją dokładnie raz — zastosowanie jej dwukrotnie lub wcale błędnie skaluje każde prawdopodobieństwo, na którym następnie opierasz decyzje.

• Prawdziwy limit decyzyjny. Tekst i wszystkie obrazy dla jednej decyzji muszą zmieścić się w budżecie 8 192 tokenów, a dane wejściowe przekraczające limit są odrzucane, a nie przycinane. Trening i raportowana ewaluacja ograniczały obrazy do 512×512; zwiększenie tego limitu można teraz skonfigurować za pomocą max_image_pixels, domyślnie do 2048×2048, ale karta ostrzega, że wyższe rozdzielczości znajdują się poza rozkładem treningowym.

Repozytorium jest poza tym nietypowo kompletne jak na model, którego nikt nie ogłosił: jedenaście shardów safetensors, plik decision_config.json, szablon czatu oraz release-manifest.json rejestrujący sumy kontrolne plików i pochodzenie checkpointu. Licencja to Apache 2.0.

Dwa fragmenty dokumentacji się rozjechały. Karta v1.1 nadal mówi, że trzeba uwierzytelnić się w „tym prywatnym repozytorium” — repozytorium jest dziś publicznie dostępne do odczytu. A starsza karta v1 zawiera wskaźnik new_version na v1.1, co jest uczciwym sygnałem, że v1 zostało zastąpione.

Jedyne, co trzeba sprawdzić, zanim zaczniesz to planować

Wpis Ollama reklamuje okno kontekstowe 256K. Ta liczba wydaje się odziedziczona z modelu bazowego — Qwen3.8-27B rzeczywiście ma 262 144 pozycje — i nie jest to kontrakt, który checkpoint decyzyjny dokumentuje dla siebie. Checkpoint odrzuca każdą decyzję, której tekst wraz z obrazami przekracza 8 192 tokeny. Zaplanuj potok na 256K, podaj mu kontrakt o rozmiarze 40 000 tokenów plus cztery obrazy stron, a żądanie zakończy się niepowodzeniem, zamiast zostać obcięte. Większa liczba opisuje architekturę; mniejsza opisuje API, które faktycznie wywołujesz.

Obsługa obrazów ma podobny przypadek brzegowy. Karta modelu Ollama dla pplx-decider pokazuje żądanie obrazu do /v1/systemone, ale własna strona możliwości Ollama dla tego punktu końcowego stwierdza, że obrazy są „tylko dla modeli Clef”. Jeden z tych dwóch dokumentów jest nieaktualny. Traktuj dane wejściowe multimodalne na tej ścieżce jako niezweryfikowane, dopóki sam tego nie uruchomisz — bazowy checkpoint wyraźnie przyjmuje obrazy, a manifest wyraźnie dostarcza projektor, ale udokumentowana bramka środowiska uruchomieniowego jest węższa, niż sugeruje karta modelu.

Numer dostawcy i inny numer

Własna ewaluacja Perplexity dla checkpointu v1.1 podaje Decision Index na poziomie 61,56 w porównaniu z 57,9 dla Jev w tym samym zestawie testów i 56,4 dla checkpointu, który zastąpił, przy czym największe wzrosty w kategoriach odnotowano w języku (69,45) i wyszukiwaniu (61,26). Te liczby są raportowane przez dostawcę i zostały uzyskane po stronie Perplexity; w przypadku wcześniejszego checkpointu karta idzie dalej i mówi, że wyniki zmierzono przez Perplexity API. To rzecz godna publikacji, ale słaba podstawa, by na niej polegać.

Niezależny obraz jest bardziej użyteczny. Otwarty społecznościowy ranking dla tej klasy modeli, Jev Decision Index, od pewnego czasu ocenia pplx-decider-v1.1-27b na własnym panelu, a jego wydanie danych z 2026-10-14 informuje, że checkpoint ukończył 110 179 z 110 201 ocenianych przypadków w 42 benchmarkach na pojedynczym RTX PRO 6000. W tym rankingu model osiąga zrównoważony wynik umiejętności 62,75 i pozycję szóstą, a Jev dwunastą z 60,11. Z tych samych danych wynikają dwie rzeczy, których nie pokazuje tabela dostawcy:

• W czym jest mocny.ARC-Easy 99.3, ARC-Challenge 97.0, decyzje tak/nie dotyczące wywołań funkcji (BFCL) 97.2, FinEntity 95.4, BPoMP 95.2, CLINC150 91.5. Klasyczne zadania klasyfikacji i wyszukiwania to dziedzina, w której ten checkpoint zarabia na siebie.

• Gdzie tak nie jest.Humanity's Last Exam 16,2, ChessBench 17,7, SATA-Bench 28,2, ACOS 28,2, zestaw dialogowy sterowany schematem 33,2, BRIGHT 50,9, GPQA Diamond 56,1. Trudne wieloetapowe rozumowanie nie jest tym, co zapewnia odczyt jednoprzebiegowy, a stos, który po cichu kieruje pracę rozumowania do modelu decyzyjnego, będzie generować błędne rozgałęzienia z przekonaniem.

Kalibracja zasługuje na osobną linię, ponieważ jest sednem modelu, który zwraca prawdopodobieństwa zamiast etykiet. Na 34 829 niezależnie ocenionych decyzjach checkpoint osiągnął średnio 76,1 procent dokładności przy 82,9 procent średniej pewności — oczekiwany błąd kalibracji wynoszący 0,071 i wynik Brier'a wynoszący 0,335, przy czym 2,0 procent przypadków miało pewność powyżej 0,95 i wciąż było błędnych. To użyteczna, ale nie bezbłędna powierzchnia prawdopodobieństwa, i jest wymiernie lepiej skalibrowana niż ECE Jev'a wynoszące 0,074 na tej samej tablicy. Jeśli ustawiasz próg 0,9 i traktujesz go jako niemal pewność, te 2 procent to liczba, wokół której należy projektować.

Opóźnienie na tym samym sprzęcie wyniosło medianę 104 ms i 835 ms dla p95 w przypadku 110 000 decyzji, co stanowi praktyczny argument za modelem decyzyjnym zamiast małego modelu językowego na pozycji bramkującej: to p95 jest budżetem, a nie średnia.

Ile kosztuje decyzja

Perplexity prowadzi własne hostowane Decisions API dla tych checkpointów — POST https://api.perplexity.ai/v1/decisions, z pplx-decider-v1.1-27b jako domyślnym identyfikatorem modelu, a wcześniejszy checkpoint nadal można wskazać. Na tej stronie cennika podano $0.02 za milion tokenów wejściowych, tokeny wyjściowe bezpłatnie i brak opłaty za żądanie, z limitem 128 pytań na żądanie, 262 144 tokenów wejściowych i 10 żądań na sekundę na organizację.

Z drugiej strony, ścieżka lokalna nie kosztuje nic za decyzję, gdy już pobrano 17 GB. W przypadku kolejki triażu obsługującej kilka pytań z określonym typem na zgłoszenie ten rachunek rozstrzyga się sam — warto też zauważyć, że hostowany pułap 262 144 tokenów wejściowych nie jest limitem, który narzuci twoja lokalna kopia, ponieważ własny budżet checkpointu wynosi 8 192.

Tam, gdzie lokalna trasa nie jest rozwiązaniem, pozostaje reszta stosu wokół samej decyzji. To model 27B, który zwraca jedno prawdopodobieństwo na opcję; nie napisze odpowiedzi, nie podsumuje zgłoszenia ani nie wywoła narzędzia. Jeśli chcesz mieć decyzję i pisanie pod jednym kluczem, właśnie do tego służy OrcaRouter — jedno API obejmujące ponad 200 modeli z ceną katalogową dostawcy przekazywaną bez narzutu za token, a do tego DSL routingu, gdy chcesz połączyć model decyzyjny i model piszący w jedno wywołanie. Dwa elementy tej konkretnej historii są już na platformie: bazowy checkpoint jest udostępniany jako Qwen3.8-27B, więc możesz porównać fine-tune z jego własnym fundamentem na tym samym kluczu, a model referencyjny, względem którego jest mierzony, jest udostępniany jako Jev 1.13 przez ten sam kształt endpointu systemone. Decydent Perplexity nie jest jednym z tych, które oferujemy — jest dostępny przez własne API Perplexity i kilka platform zewnętrznych — więc jeśli potrzebujesz go konkretnie, lokalne pobranie powyżej i endpoint Perplexity to twoje trasy.

Trzy pytania, na które repozytorium nie odpowiada

Który checkpoint znajduje się w skwantyzowanym artefakcie? Wpis w bibliotece Ollama nosi nazwę rodziny, a nie wersji, a jego blok benchmarków linkuje do v1 repozytorium — tabela 11 benchmarków wskazuje 85,7 procent, co jest ogólnym wynikiem karty v1, a nie zestawem Decision Index w wersji v1.1. v1.1 to mocniejszy checkpoint według samego Perplexity i nie jest oczywiste, że to ten, który ściągasz. Sprawdź digest, zanim oprzesz się na tym założeniu.

Czy intencją Perplexity było, aby cokolwiek z tego było publiczne? Nie pojawiło się żadne ogłoszenie, wpis na blogu, wpis w changelogu ani informacja o dostępności API dotycząca tych wag. Checkpointy zostały odczytane przez tysiące osób — 2 740 pobrań w wersji v1 i 3 154 w wersji v1.1 w chwili pisania — ale zainteresowanie kartą modelu nie jest tym samym, co deklaracja dostawcy, że jest on wspierany. Traktuj publiczne repozytorium jako miarodajny artefakt, a wszystko inne jako domysły.

Czy pojawi się oficjalnie zapowiedziana wersja hostowana przez dostawcę? Nie wiadomo. Istnienie udokumentowanego, wycenionego Decisions API po stronie Perplexity sugeruje, że ścieżka hostowana jest docelowym produktem, a wagi znajdują się na wcześniejszym etapie. To jednak domysł co do intencji, a nie fakt z dokumentu, i jako taki jest oznaczony.

Kto powinien się przenieść, a kto nie

Jeśli Twój pipeline już rozgałęzia się na typowanych decyzjach dostawcy — routing zgłoszeń, wykrywanie zwrotów, bramkowanie kroków agenta — to jest to dwutygodniowy checkpoint z niezależnie odtworzonymi wynikami, licencją Apache 2.0 i, od dziś, ścieżką 17 GB na sprzęt, który posiadasz. Ewaluacja sugeruje, że jest lepiej skalibrowany niż model referencyjny i o około dwie pozycje lepszy na publicznym rankingu, a lokalna kopia całkowicie eliminuje koszt za decyzję. Pobierz go, uruchom na własnych oznaczonych przykładach i porównaj z tym, czego używasz teraz. Budżet decyzyjny 8192 tokenów to ograniczenie, względem którego należy najpierw testować, a nie 256K reklamowane w ogłoszeniu.

Jeśli potrzebujesz rozumowania, a nie klasyfikacji, poczekaj. Niezależny panel przyznaje temu checkpointowi jedynie kilkanaście punktów w trudnych benchmarkach wiedzy, a powierzchnia prawdopodobieństwa, która jest pewna siebie w przypadku pytania, na które w rzeczywistości nie potrafi odpowiedzieć, jest w produkcji gorsza niż wolny model, który najpierw myśli. Za modelem decyzyjnym przemawia mediana 104 ms i fakt, że sześćdziesiąt pytań kosztuje jedno przejście — a nic z tego nie pomaga tam, gdzie odpowiedzi są błędne.

Uruchamianie kroku decyzyjnego na własnym sprzęcie to także dobry moment, by przyjrzeć się temu, co już poszło nie tak w tej klasie: udokumentowane incydenty AI i awarie agentów dotyczące modeli decyzyjnych zebrano w the OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, poziom dotkliwości, stopień pewności i znacznik sporności.