pplx-decider-flash: Cichy 4B sędzia Perplexity, odczytany z repozytorium

Perplexity przesłało pplx-decider-flash-v1.2 do Hugging Face o 16:57 UTC 15 października 2026 r., około dziewięciu godzin po tym, jak przesłało pplx-decider-v1.2, duży model decyzyjny, który marketing nazywa 27B, a karta modelu nazywa 26B. Nie udało nam się znaleźć wpisu ogłaszającego premierę na blogu firmy. Po tym pojawił się wątek z konta deweloperskiego na X, sekcja w dokumentacji Decisions API oraz konwersja do GGUF trzy dni później. To cały publiczny zapis i wystarcza, by precyzyjnie opisać model, ale nie wystarcza, by powiedzieć Ci, czy sprawdzi się na Twoich danych.

To, co następuje, rozdziela trzy rzeczy, które ludzie zwykle mieszają: co dowodzi repozytorium, co stwierdza dokumentacja dostawcy i czego nikt spoza Perplexity nie zweryfikował. Ostatnia kategoria jest większa niż dwie pierwsze.

Co faktycznie zostało wydane i w jakim dniu

Oś czasu repozytorium jest jednoznaczna. Perplexity utworzyła pplx-decider-v1-27b 1 października 2026 r., pplx-decider-v1.1-27b 5 października, oba punkty kontrolne v1.2 15 października oraz pplx-decider-flash-gguf-v1.2 18 października. Punkt kontrolny Flash był drugim przesłanym plikiem tego dnia, co jest typowym układem wydania w parach: najpierw model flagowy, za nim destylowany mniejszy brat, tak aby oba znalazły się w ramach tego samego ogłoszenia.

Ta kolejność ma znaczenie dla ujęcia tematu. To nie jest wyciekły model ani zabłąkane repozytorium, które wymknęło się przed swoją dokumentacją. To skoordynowane wydanie o celowo lekkim publicznym śladzie — wątek deweloperski, a nie esej premierowy; dokumentacja, a nie centrum benchmarków. API Hugging Face podaje 4,667 pobrań bazowego checkpointu i 9,428 pobrań konwersji GGUF według stanu na 4 listopada oraz 63 polubienia. Liczniki pobrań na Hugging Face są słabym sygnałem: liczą żądania, a nie unikalnych użytkowników, a ruch z luster je zawyża. Są spójne z realną, lecz umiarkowaną publicznością modeli o otwartych wagach, a nie z viralowym debiutem.

Co mówi ci repozytorium

Karta modelu jest nietypowo techniczna jak na materiał wydany przez dostawcę, a większość tego, co da się ustalić, pochodzi właśnie z niej.

• Backbone — Qwen3.5-4B, z osobną głowicą odczytu BF16 o kształcie [255, 2560] zamiast pełnej głowicy językowej obejmującej cały słownik. To punkt kontrolny decyzji, a nie model czatu z nakładką klasyfikacyjną.

• Rozmiar — 25 plików o łącznym rozmiarze około 9 GiB w BF16, czyli tyle, ile potrzeba do przechowania wag; pamięć robocza dochodzi do tego.

• Liczba parametrów — dokumentacja API podaje 4B, nagłówek karty modelu podaje 5B w BF16, a jeden z indeksów zewnętrznych wymienia 4,5B. Szkieletem jest model 4B. Traktuj „klasę 4B” jako uczciwy opis i nie podawaj pojedynczej liczby tak, jakby była zmierzona.

• Attention — warstwy pełnej uwagi działają nieprzyczynowo na całym żądaniu, podczas gdy warstwy uwagi liniowej pozostają przyczynowe. To jest ten szczegół, który da ci się we znaki: standardowy przyczynowy stos serwowania wygeneruje inne liczby, a prompty napisane dla v1.1 nie przenoszą się.

• Pozycja odczytu — głowica uruchamia się przy każdym <|fim_suffix|> znaczniku, a nie przy końcowym tokenie, dzięki czemu pojedynczy przebieg w przód może ocenić kilka pytań względem jednego stanu.

• Kontekst — max_length domyślnie wynosi 262 144 tokeny, co odpowiada modelowi bazowemu. Do treningu używano sekwencji o długości do około 32 000 tokenów, a karta wprost stwierdza, że dłuższe dane wejściowe są obsługiwane, lecz słabiej zweryfikowane.

• Obrazy — ograniczone do 1,6 megapiksela (1 638 400 pikseli), minimum 65 536 pikseli, przy czym obraz o rozdzielczości 1,6 MP zajmuje około 1600 pozycji.

• Kalibracja — zapisana temperatura 1,554. Na zestawie deweloperskim liczącym 1 497 pytań karta raportuje dokładność 88,8%, oczekiwany błąd kalibracji 0,021 i wynik Brier 0,163; bez temperatury błąd wzrasta do 0,057. Dostawca, który publikuje własne wskaźniki kalibracji oraz koszt ich pominięcia, przekazuje realną informację o zamierzonym zastosowaniu.

Jedna linia w karcie nie wytrzymuje konfrontacji z API. Mówi, że repozytorium jest prywatne i wymaga tokena z dostępem. API Hugging Face zwraca gated: false i private: false, a wagi pobierają się bez prośby o dostęp. Nieaktualna linia w karcie to drobiazg, ale to ten rodzaj drobiazgu, który mówi, że kartę napisano przed publikacją, a po niej nie została ponownie przeczytana.

Co dodaje dokumentacja API

Cennik to punkt, od którego zaczyna się argument Flash. W Decisions API pplx-decider-flash-v1.2 kosztuje 0,01 USD za milion tokenów wejściowych. Tokeny wyjściowe są darmowe i nie ma opłaty za żądanie, ponieważ nie ma tokenów wyjściowych w zwykłym tego słowa znaczeniu — model zwraca prawdopodobieństwa i oczekiwany wynik, a dokumentacja liczy każde pytanie jako jeden token wyjściowy na potrzeby rozliczeń.

Ta sama strona określa obwiednię operacyjną:

• Alias — pplx-decider-flash-latest podąża za najnowszą wersją, więc próg, który dostroiłeś w zeszłym tygodniu, może po cichu wskazywać na inny model po aktualizacji. Przypnij wersjonowany identyfikator we wszystkim, co ma znaczenie.

• Limity szybkości — 4 000 000 tokenów na minutę i 240 000 000 na godzinę, z limitem 10 żądań na sekundę współdzielonym przez oba modele decyzyjne na poziomie organizacji.

• Typy pytań — noulzwraca P(yes) od 0 do 1, choicezwraca prawdopodobieństwa dla maksymalnie 255 opcji, a scorezwraca rozkład na poziomach kryteriów oceny.

• Budżet pytań — dokumentacja zaleca jedno pytanie na żądanie. To nie jest uwaga stylistyczna; to różnica między ceną, którą ci podano, a ceną, którą płacisz.

Reguła rozliczeniowa, która odwraca rekomendację

Model 27B odpowiada na każde pytanie w żądaniu w jednym grupowym przebiegu i rozlicza stan tylko raz. Flash odpowiada na każde pytanie niezależnie, nie widząc pozostałych, i rozlicza stan ponownie za każde pytanie. Dokumentacja podaje przykład obliczeniowy: trzy pytania wobec stanu o rozmiarze 10 000 tokenów kosztują około 30 000 tokenów wejściowych w Flash.

Policzmy. Jedno pytanie dotyczące stanu o 10 000 tokenów kosztuje 0,0001 USD na Flashu i 0,0002 USD na modelu 27B. Dwa pytania kosztują 0,0002 USD na Flashu i 0,0002 USD na większym modelu — remis. Trzy pytania kosztują 0,0003 USD na Flashu i 0,0002 USD na 27B. Punkt przecięcia wypada przy dwóch pytaniach na stan. W dokumentacji Perplexity czytamy, że większy model „zwykle kosztuje mniej niż Flash” przy trzech lub więcej pytaniach; dokładny punkt to jedno pytanie wcześniej i zachodzi on przy każdej cenie katalogowej, przy której Flash ma dokładnie połowę stawki 27B.

To jest najbardziej użyteczna rzecz w tym wydaniu i łatwo ją przeoczyć, ponieważ nagłówek to 50% zniżki. Model 4B w połowie ceny jest tańszy tylko wtedy, gdy pytasz go o jedną rzecz naraz.

Liczba, której nie należy ufać

Perplexity podaje wyniki Decision Index 0.3 dla obu modeli. Flash uzyskuje 60.05 przy jednym pytaniu na żądanie i 58.88 przy żądaniach łączonych; 27B uzyskuje 68.09 w trybie łączonym i 67.75 po jednym na żądanie. W Vision Decision Index Flash wynosi 72.53 wobec 77.43.

Podział na kategorie jest bardziej informacyjny niż nagłówek, ponieważ pokazuje, gdzie 4B ustępuje. Jeśli chodzi o wyniki Flasha ze wspólnego przebiegu w porównaniu z wynikami 27B ze wspólnego przebiegu:

• Wiedza — 42.0 vs 56.3. To największa różnica, 14,3 punktu, i ta, która decyduje, czy model w ogóle radzi sobie z otwartą wiedzą o świecie.

• Język — 63,3 vs 72,8.

• Wyszukiwanie — 64,8 wobec 68,4. Najwęższa różnica wynosi 3,6 punktu, co pasuje do zamierzonego zadania: ocena, czy fragment odpowiada na pytanie, jest lżejszym zadaniem niż znajomość odpowiedzi.

• Narzędzia — 76,7 vs 84,4.

• Sztuka — 46,8 vs 56,2.

• Ogółem — 58,88 vs 68,09.

Każda z tych liczb pochodzi z benchmarku utrzymywanego przez Perplexity. Karta 27B — nauczyciel w tej destylacji — jest niezwykle szczera co do strony treningowej: część pracy, jak się w niej twierdzi, wprowadziła model „do domeny” w niektórych zadaniach Decision Index poprzez uwzględnienie oficjalnych podziałów treningowych, które dostarcza kilka benchmarków, przy czym podziały te zostały „odkażone względem zestawów testowych”, aby porównanie pozostało uczciwe. To ostrożniejsze stanowisko, niż sugerowało relacjonowanie premiery, a mimo to nadal pozostawia tablicę wyników w rękach dostawcy. Żadna strona trzecia nie przeprowadziła audytu dyscypliny podziałów i nikt nie odtworzył tych liczb.

W liczbach samego dostawcy kryje się mniejsza osobliwość, która przeczy marketingowi. Flash uzyskuje wyższe wyniki, gdy odpowiada na jedno pytanie naraz — 60,05 wobec 58,88. Grupowanie ogólnie szkodzi modelowi 4B, mimo że pomaga w ściśle powiązanych zadaniach typu „zaznacz wszystkie pasujące”, co dokładnie mówi dokumentacja. Model jest sprzedawany z myślą o szybkości żądań łączonych, a w pomiarach wypada lepiej bez tego.

Czego jeszcze nie można poznać

Te luki są konkretne i właśnie dlatego jest to tekst o tym, co wiemy, a nie recenzja.

• Brak niezależnego benchmarku. Nikt poza Perplexity nie opublikował reprodukcji Decision Index ani bezpośredniego porównania w neutralnym środowisku testowym.

• Brak gwarantowanego poziomu usługi pod względem opóźnienia. Jedyną publikowaną przez dostawcę wartością prędkości jest test dokumentacyjny z 19 października, w którym około 248 000 tokenów wejściowych zajęło 16 sekund w modelu Flash w porównaniu z 53 sekundami w modelu 27B. Jest to pomiar po stronie dostawcy, bez podanego sprzętu ani percentyla.

• Brak oceny wielojęzycznej. Karta i dokumentacja opisują tekst i obrazy; żadne z nich nie podaje dokładności poza językiem angielskim.

• Nie opublikowano wolumenu danych treningowych. Karta mówi, że Flash został wydestylowany z 27B na żądaniach treningowych większego modelu, przy czym uczeń uczył się pełnych rozkładów prawdopodobieństwa nauczyciela, a nie tylko jego odpowiedzi, oraz że kilka przebiegów połączono poprzez uśrednianie wag. Nie mówi, ile danych to obejmowało, skąd pochodziły ani gdzie znajduje się punkt odcięcia.

• Brak opublikowanej analizy błędów. Dla modelu, którego wynikiem jest prawdopodobieństwo, na którym będziesz ustawiać próg, nie ma rozbicia miejsc, w których zawodzi — według typu pytania, liczby opcji, języka ani zawartości obrazu.

Gdzie taki model plasuje się w stosie

Warto jasno określić, do czego służy Flash, ponieważ nazwa nasuwa błędne oczekiwania. Nic nie pisze. Przekazujesz mu stan — tekst, JSON, obrazy — oraz jedno lub więcej pytań z określonym typem, a on zwraca prawdopodobieństwo lub rozkład, na którym Twój kod opiera progowanie. Naturalna architektura to tania brama przed czymś kosztownym: sklasyfikuj żądanie, zdecyduj, czy wykonać wyszukiwanie, wybierz narzędzie, a następnie wygeneruj.

Ta bramka nie zastępuje warstwy generowania i tu liczy się routing. OrcaRouter udostępnia ponad 200 modeli generacyjnych za jednym kluczem API bez marży względem cen listowych dostawców, więc obniżka ceny od dowolnego dostawcy upstream obowiązuje tego samego dnia, zamiast czekać na arkusz kalkulacyjny pośrednika. Jeśli bramka popełni błąd w klasyfikacji, automatyczne przełączanie awaryjne nie pozwala, by żądanie przepadło na następnym przeskoku. Nie hostujemy natomiast pplx-decider-flash: nie ma go w naszym katalogu, a uczciwym sposobem uruchomienia go dziś jest API samego dostawcy albo wagi Apache-2.0 na własnym GPU.

Matematyka self-hostingu jest rozsądna, jeśli już ma się sprzęt. Około 9 GiB wag BF16 mieści się na 16 GB karcie konsumenckiej, a relacje z premiery powtórzyły twierdzenie dyrektora generalnego Perplexity, że Flash działa na M4 Mac z 16 GB pamięci. Nie potwierdzają tego żadne opublikowane liczby przepustowości, a nieprzyczynowa uwaga sprawia, że nie można po prostu wrzucić go do standardowego serwera wnioskowania przyczynowego i oczekiwać wyników karty.

Co mogłoby zmienić tę ocenę?

Cztery rzeczy, w kolejności użyteczności. Neutralne odtworzenie Decision Index 0.3, które albo potwierdza 60,05, albo wyjaśnia rozbieżność. Opublikowany rozkład opóźnień z API, a nie pojedynczy test z dokumentacji. Dowody dotyczące danych wielojęzycznych, ponieważ klasyfikator 4B to dokładnie ten rodzaj modelu, który zespoły skierują na ruch nieangielskojęzyczny bez sprawdzania. Oraz własny post techniczny opisujący dane treningowe stojące za tą destylacją.

Do tego czasu możliwa do obrony pozycja jest wąska i użyteczna: pplx-decider-flash-v1.2 to prawdziwy, możliwy do pobrania model decyzyjny klasy 4B na licencji Apache-2.0, z opublikowaną ceną, udokumentowaną temperaturą kalibracji oraz regułą rozliczeniową, która sprawia, że staje się droższy niż jego większy brat, gdy tylko zadajesz pytania w partiach. Wszystko poza tym to własna tablica wyników Perplexity, którą należy traktować jako hipotezę do przetestowania na twoich oznaczonych danych, a nie jako wynik.