pplx-decider-flash vs. pplx-decider: Das 4B-Modell ist günstiger, bis man drei Fragen stellt

Auf der Preisliste pplx-decider-flash-v1.2 kostet halb so viel wie pplx-decider-v1.2: $0,01 pro Million Eingabe-Token gegenüber $0,02. Nach den Abrechnungsregeln bleibt dieser Rabatt genau eine Frage lang bestehen. Stellen Sie zwei Fragen zu demselben Zustand, kosten die beiden Modelle gleich viel. Stellen Sie drei Fragen, ist das 4B-Modell das teurere, weil Flash den Zustand bei jeder Frage erneut abrechnet, während das 27B-Modell ihn nur einmal abrechnet. Das günstigere Modell ist nur dann günstiger, wenn Sie ihm jeweils nur eine kleine Frage stellen.

Diese Umkehrung ist der nützliche Teil dieses Vergleichs. Der Rest ist eine vertraute Größenabwägung: ein 4B-Checkpoint, der bei Latenz und Speicher gegen ein Modell mit 26 Milliarden Parametern gewinnt, das bei der Genauigkeit gewinnt, wobei beide unter derselben Apache-2.0-Lizenz und mit demselben Standardkontext von 262,144 Token vertrieben werden.

Zwei Checkpoints, ein Release, unterschiedliche Aufgaben

Perplexity veröffentlichte beide am 15. Oktober 2026, das große Modell um 07:40 UTC und Flash um 16:57. Sie teilen ein Design: ein Qwen-Backbone, einen 255-Wege-Readout-Head statt eines Sprachmodell-Heads, nichtkausale Full-Attention-Schichten und eine gespeicherte Kalibrierungstemperatur. Ein Backbone teilen sie nicht. pplx-decider-v1.2 basiert auf Qwen3.8-27B und wird in BF16 mit etwa 52 GiB ausgeliefert. pplx-decider-flash-v1.2 basiert auf Qwen3.5-4B und wird mit etwa 9 GiB ausgeliefert.

Die Benennung ist lockerer als die Zahlen. Das große Modell wird als 27B verkauft, doch seine eigene Model Card nennt 26B in BF16. Flash wird in der API-Dokumentation als 4B verkauft, während sein Card-Header 5B in BF16 angibt und sein Backbone ein 4B-Modell ist. Keine der beiden Abweichungen ändert eine Deployment-Entscheidung; beide sind es wert, zu kennen, bevor man in einem Kapazitätsplan eine Parameteranzahl nennt.

Die Preisliste, vor dem Sternchen

• Eingabepreis — pplx-decider-flash-v1.2 zu $0,01 pro Million Tokens vs. pplx-decider-v1.2 zu $0,02.

• Ausgabepreis — bei beiden kostenlos, ohne Gebühr pro Anfrage. Jede Frage zählt ausschließlich für die Abrechnung als ein Ausgabe-Token.

• Ratenlimits — 4.000.000 Tokens pro Minute und 240.000.000 pro Stunde, mit einer Obergrenze von 10 Anfragen pro Sekunde, die auf Organisationsebene für beide Modelle gemeinsam gilt.

• Aliase — pplx-decider-flash-latest und pplx-decider-latest wechseln beide zur neuesten Version, sodass ein auf eine Version abgestimmter Schwellenwert stillschweigend auf eine andere treffen kann.

Das Sternchen ist nicht versteckt. Perplexitys Dokumentation stellt unmissverständlich klar, dass Flash für eine Frage pro Anfrage ausgelegt ist, dass das Senden mehrerer Fragen unabhängige Antworten ohne Querverbindung erzeugt und dass der State für jede einzelne erneut abgerechnet wird. Sie rechnet sogar das Beispiel durch: Drei Fragen zu einem State mit 10.000 Tokens kosten etwa 30.000 Eingabe-Tokens.

Wo die zweite Frage den Rabatt aufhebt

Die allgemeine Form ist einfach. Für einen Zustand von s Tokens und q Fragen kostet Flash q × s × $0.01 pro Million, und das 27B kostet s × $0.02 pro Million. Die Flash-Rechnung überholt das große Modell bei der dritten Frage.

• Eine Frage, 10.000-Token-Zustand — Flash $0.0001 vs. 27B $0.0002. Flash liegt um die Hälfte vorn.

• Zwei Fragen, gleicher Zustand — Flash 0,0002 $ vs. 27B 0,0002 $. Ein Gleichstand, kein Rabatt.

• Drei Fragen — Flash $0.0003 vs. 27B $0.0002. Das 4B ist 50 % teurer.

• Fünf Fragen — Flash $0,0005 vs. 27B $0,0002. Das 4B kostet zweieinhalbmal so viel.

In absoluten Zahlen sind das Bruchteile eines Cents, weshalb die Regel leicht zu übersehen ist und weshalb sie sich bei hohem Volumen summiert. Ein Gate, das eine Million Anfragen mit drei Fragen gegen Zustände mit 10.000 Tokens ausführt, kostet etwa 300 US-Dollar auf Flash und 200 US-Dollar auf dem 27B. Das Modell, das 50 % günstiger aussieht, ist bei der Arbeitslast 50 % teurer, bei der Batching normalerweise eine Optimierung wäre.

Perplexitys Dokumentation besagt, dass das größere Modell bei drei oder mehr Fragen „meist weniger kostet als Flash“. Der genaue Schnittpunkt liegt bei zwei. Wenn Ihre Fragen wirklich gekoppelt sind – Aspekte einer einzigen Entscheidung im Sinne von „alles Zutreffende auswählen“ –, ist der gemeinsame Pfad auch der genaue. Wenn es sich um unabhängige Kandidatenwerte handelt, empfiehlt die Dokumentation, sie in separate Anfragen aufzuteilen, was Flashs Rechnung weiter erhöht, während die des 27B unverändert bleibt.

Die Genauigkeitslücke, Kategorie für Kategorie

Beide Modelle werden anhand des Decision Index 0.3 bewertet, Perplexitys eigenem zusammengesetzten Index. Der Hauptwert liegt bei 60,05 für Flash mit einer Frage pro Anfrage gegenüber 68,09 für das 27B mit gemeinsamen Anfragen. Die Aufteilung nach Kategorien, bei der gemeinsame Läufe mit gemeinsamen Läufen verglichen werden, zeigt, woher die Lücke von 9,2 Punkten zwischen den gemeinsamen Läufen kommt.

• Wissen — 42,0 vs. 56,3. Eine Lücke von 14,3 Punkten, und diejenige, die die meisten Deployments entscheiden sollte. Wenn die Frage erfordert, etwas zu wissen statt etwas zu beurteilen, ist das 4B kein Ersatz.

• Sprache — 63,3 vs. 72,8.

• Abruf — 64,8 vs. 68,4. Der engste Abstand bei 3,6 Punkten. Zu beurteilen, ob eine Passage eine Behauptung stützt, ist die Aufgabe, für die Flash entwickelt wurde, und die Zahlen spiegeln das wider.

• Werkzeuge — 76,7 vs. 84,4. Beide Modelle sind hier in absoluten Zahlen am stärksten, was zum Routing-Anwendungsfall passt.

• Künste — 46,8 vs. 56,2.

• Vision — 72,53 vs. 77,43 auf dem Vision Decision Index, eine Lücke von 4,9 Punkten, die kleiner als die Textlücke ist und Flash bei Bildern wettbewerbsfähiger macht als bei Prosa.

Die offensichtliche Einschränkung gilt für jede oben genannte Zahl: Der Benchmark gehört dem Anbieter, und kein Dritter hat ihn reproduziert. Die 27B-Karte besagt, dass die Trainingsarbeit die offiziellen Trainings-Splits mehrerer Decision-Index-Aufgaben umfasste, die gegen die Testsätze dekontaminiert wurden; das ist eine erklärte Vorgehensweise, keine geprüfte. Betrachten Sie das Kategorieprofil als Hypothese darüber, wo jedes Modell stark ist – Wissen und Kunst für das 27B, Retrieval und Tools für beide – und nicht als gemessenes Ergebnis.

Die Asymmetrie der gemeinsamen Anfrage

Das Bündeln von Fragen hilft dem großen Modell und schadet dem kleinen – und Perplexitys eigene Zahlen belegen das.

• pplx-decider-v1.2 — 68,09 gemeinsam vs. 67,75 einzeln pro Anfrage. Durch Gruppierung kommen 0,34 Punkte hinzu.

• pplx-decider-flash-v1.2 — 58,88 gemeinsam vs. 60,05 einzeln pro Anfrage. Die Gruppierung kostet 1,17 Punkte.

Die Dokumentation erklärt den Mechanismus: Das 4B verliert an Genauigkeit, wenn es mehrere Fragen zusammen beantwortet, weshalb eine Frage pro Anfrage die empfohlene Standardeinstellung ist. Was die Zahlen ergänzen, ist, dass der Verlust groß genug ist, um sich im Gesamtergebnis niederzuschlagen, nicht nur in Randfällen. Das Modell wird mit der Geschwindigkeit eines einzelnen Durchlaufs vermarktet und schneidet ohne den einzelnen Durchlauf besser ab. Wenn Sie trotzdem gruppieren, um Durchsatz zu erreichen, zahlen Sie für die Geschwindigkeit zweimal – einmal in Tokens und einmal in Genauigkeit.

Kalibrierung: näher, als die Genauigkeitslücke vermuten lässt

Beide Karten veröffentlichen ihre Kalibrierung ehrlich, was selten genug ist, um erwähnenswert zu sein.

• Gespeicherte Temperatur — 1,554 bei Flash vs. 1,382 beim 27B.

• Genauigkeit auf dem Entwicklungsdatensatz – 88,8 % bei 1.497 Fragen für Flash gegenüber 91,3 % für das 27B.

• Erwarteter Kalibrierungsfehler nach Temperatur — 0,021 für Flash vs. 0,014 für das 27B.

• Brier-Score — 0,163 vs. 0,134.

Flash ist weniger genau und weniger gut kalibriert, wie bei einem Siebtel der Größe zu erwarten, aber die Kalibrierungslücke beträgt 0,007 ECE – klein genug, dass ein auf dem 27B abgestimmter Schwellenwert oft übertragbar ist. Die 27B-Karte räumt außerdem offen ein, dass zurückgehaltene Entscheidungsdaten weiterhin etwas zu selbstsicher sind, mit ECE um 0,05, sodass keines der beiden Modelle das Anpassen von Schwellenwerten an Ihre eigenen Daten ersetzt. Die Dokumentation von Perplexity sagt genau das: Benchmarken Sie beide auf gelabelten Daten mit Ihren beabsichtigten Schwellenwerten und behalten Sie Flash nur, wenn es Ihr Genauigkeitsziel übertrifft.

Self-Hosting: 9 GiB gegenüber 52 GiB

Beide sind Apache-2.0-lizenziert, daher ist der Hosting-Preis eher eine Annehmlichkeit als eine Bindung. Der Hardware-Unterschied ist die schärfste Trennung zwischen ihnen.

• Gewichte — etwa 9 GiB BF16 für Flash gegenüber etwa 52 GiB für das 27B, plus Arbeitsspeicher bei beiden.

• Hardware — Flash passt auf eine 16-GB-Consumer-Karte; das 27B-Modell braucht einen leistungsfähigen Beschleuniger oder eine Aufteilung auf mehrere GPUs.

• Bereitstellung — keine der beiden Varianten lässt sich unverändert in einen herkömmlichen kausalen Server einsetzen. Full-Attention-Schichten arbeiten nicht kausal, und für v1.1 geschriebene Prompts lassen sich nicht übernehmen.

• Kontext — standardmäßig 262.144 Tokens bei beiden, wobei das Training nur bis etwa 32.000 validiert wurde und die Karten davor warnen, dass längere Eingaben weniger getestet sind.

Flash selbst zu hosten ist die einzige Variante in diesem Vergleich, bei der das 4B-Modell bedingungslos gewinnt. Eine einzige 16-GB-Karte, eine permissive Lizenz und keine Abrechnung pro Token sind ein grundlegend anderes Produkt als ein 52-GiB-Checkpoint, der ein Serving-Team benötigt.

Eine Entscheidungsregel, die Sie anwenden können

• Eine Frage pro Zustand, hohes Volumen — Flash. Der Preisvorteil ist real, und der Genauigkeitsverlust konzentriert sich auf Wissensaufgaben, die du woanders hin routen kannst.

• Zwei oder mehr Fragen pro Zustand — der 27B. Bei zwei herrscht Preisgleichstand, ab drei ist es günstiger, und im Joint-Modus ist es genauer; die Lücke vergrößert sich mit jeder zusätzlichen Frage.

• Wissens- oder rubricschwere Beurteilungen – das 27B-Modell. Ein Rückstand von 14,3 Punkten beim Wissen lässt sich nicht durch einen besseren Prompt ausgleichen.

• Retrieval-Gating und Tool-Auswahl — Flash ist vertretbar. Die Lücken dort betragen 3,6 und 7,7 Punkte, und die Arbeitslast entspricht genau dem, wofür das Modell entwickelt wurde.

• Deployment auf dem Gerät oder auf einer einzelnen GPU — Flash, ohne echte Alternative in diesem Paar.

• Vision — beides möglich, wobei der 27B mit 4,9 Punkten Vorsprung liegt; wenn Sie den 27B bereits für Text verwenden, bringt es wenig, Vision auf Flash aufzuteilen.

Auf welcher Seite der Aufteilung Sie auch landen, der Decider ist der günstige Teil der Pipeline. Die Generierung, die er steuert, ist der Posten, an dem das Geld ausgegeben wird, und diese Ebene ist es wert, optimiert zu werden. OrcaRouter stellt über 200 Modelle hinter einem einzigen Schlüssel bereit, ohne Aufschlag auf die Listenpreise der Anbieter, sodass eine Preissenkung vorgelagert noch am selben Tag ankommt, und ein automatisches Failover deckt den Fall ab, dass das Gateway eine Anfrage an ein Modell schickt, das beeinträchtigt ist. Die Routing-DSL setzt aus Modellen zusammen, die wir bereitstellen; keiner der beiden pplx-decider-Checkpoints gehört dazu, sodass eine Aufteilung Flash gegen 27B in Ihrem eigenen Code erfolgen muss. Der gehostete Decider in unserem Katalog ist Jev von TypeSafe, als jev-1.13 und jev-1.14.

Den Test, den keiner der beiden Anbieter veröffentlicht hat

Alles oben ist eine Entscheidung, die auf Herstellerdokumentation beruht. Der Test, der das klären würde, ist langweilig und konkret: Nehmen Sie tausend echte Anfragen, kennzeichnen Sie sie und führen Sie beide Modelle bei Ihrem vorgesehenen Schwellenwert mit einer Frage und mit drei Fragen aus. Erfassen Sie Genauigkeit, Kalibrierungsfehler und insgesamt abgerechnete Tokens. Die Vorhersage aus den veröffentlichten Zahlen lautet, dass Flash den Ein-Frage-Workload bei den Kosten gewinnt und den Drei-Fragen-Workload sowohl bei den Kosten als auch bei der Genauigkeit verliert. Wenn das zutrifft, ist die Wahl eine Eigenschaft Ihrer Anfrageform, nicht Ihres Budgets — und das Team, das es misst, wird richtig wählen, während alle, die die Preisliste lesen, das Modell wählen, das auf dem Papier 50 % günstiger und in der Produktion 50 % teurer ist.