Une carte de titre portant « pplx-decider-flash vs pplx-decider » avec le sous-titre « Le prix bascule à la troisième question », une jauge de probabilité réglée à 0,50 et étiquetée « croisement des coûts », et des puces OUI, NON et SCORE, avec le logo OrcaRouter incrusté dans la bande en bas à droite.
Guides & Insights

pplx-decider-flash vs pplx-decider : le 4B est moins cher jusqu’à ce que vous posiez trois questions

Auteur

Alistair Wren

Date de publication

Derniers modèles · 20Voir tous les modèles →
Benchmarks : Artificial Analysis · mis à jour quotidiennement
Retour à tous les articles

Sur la liste de prix, pplx-decider-flash-v1.2 coûte la moitié de ce que pplx-decider-v1.2 coûte : 0,01 $ par million de jetons d'entrée contre 0,02 $. Selon les règles de facturation, cette remise ne dure que pour exactement une question. Posez deux questions sur le même état et les deux modèles coûtent pareil. Posez-en trois et le modèle 4B est le plus cher, car Flash facture à nouveau l'état pour chaque question tandis que le 27B le facture une fois. Le modèle le moins cher n'est moins cher que si vous lui posez une petite question à la fois.

Cette inversion est la partie utile de cette comparaison. Le reste est un compromis de taille bien connu : un checkpoint 4B qui l’emporte sur la latence et la mémoire face à un modèle de 26 milliards de paramètres qui l’emporte sur la précision, les deux étant vendus sous la même licence Apache-2.0 et avec le même contexte par défaut de 262 144 tokens.

Deux points de contrôle, une version, des tâches différentes

Perplexity a publié les deux le 15 octobre 2026, le grand modèle à 07:40 UTC et Flash à 16:57. Ils partagent une conception : un socle Qwen, une tête de lecture à 255 voies au lieu d’une tête de modèle de langage, des couches d’attention complète non causales et une température de calibration enregistrée. Ils ne partagent pas de socle. pplx-decider-v1.2 est construit sur Qwen3.8-27B et est fourni à environ 52 GiB en BF16. pplx-decider-flash-v1.2 est construit sur Qwen3.5-4B et est fourni à environ 9 GiB.

La dénomination est plus floue que les chiffres. Le grand modèle est vendu sous l’appellation 27B, mais sa propre fiche indique 26B en BF16. Flash est vendu sous l’appellation 4B dans la documentation de l’API, tandis que l’en-tête de sa fiche indique 5B en BF16 et que son backbone est un modèle 4B. Aucun de ces écarts ne modifie une décision de déploiement ; les deux valent la peine d’être connus avant de citer un nombre de paramètres dans un plan de capacité.

La liste de prix, avant l’astérisque

• Prix des entrées — pplx-decider-flash-v1.2 à 0,01 $ par million de tokens contre pplx-decider-v1.2 à 0,02 $.

• Prix de sortie — gratuit sur les deux, sans frais par requête. Chaque question compte comme un jeton de sortie à des fins de comptabilité uniquement.

• Limites de débit — 4 000 000 de tokens par minute et 240 000 000 par heure, avec un plafond de 10 requêtes par seconde partagé entre les deux modèles au niveau de l’organisation.

• Alias — pplx-decider-flash-latest et pplx-decider-latest pointent tous deux vers la version la plus récente, si bien qu'un seuil calibré sur une version peut silencieusement en rencontrer une autre.

L’astérisque n’est pas masqué. La documentation de Perplexity indique clairement que Flash est conçu pour une question par requête, qu’envoyer plusieurs questions produit des réponses indépendantes sans interférence entre elles, et que l’état est facturé de nouveau pour chacune. Elle déroule même l’exemple : trois questions sur un état de 10 000 tokens coûtent environ 30 000 tokens d’entrée.

Lorsque la deuxième question annule la remise

La formule générale est simple. Pour un état de s jetons et q questions, Flash coûte q × s × 0,01 $ par million et le 27B coûte s × 0,02 $ par million. La facture Flash dépasse celle du grand modèle à la troisième question.

• Une question, un état de 10 000 tokens — Flash à 0,0001 $ contre 27B à 0,0002 $. Flash l'emporte de moitié.

• Deux questions, même état — Flash $0.0002 contre 27B $0.0002. Une égalité, pas une réduction.

• Trois questions — Flash $0.0003 vs 27B $0.0002. Le 4B est 50 % plus cher.

• Cinq questions — Flash $0.0005 vs 27B $0.0002. Le 4B est deux fois et demie plus cher.

En termes absolus, il s’agit de fractions de centime, ce qui explique pourquoi la règle est facile à négliger et pourquoi elle s’amplifie avec le volume. Une barrière de contrôle qui exécute un million de requêtes à trois questions sur des états de 10 000 tokens coûte environ 300 $ avec Flash et 200 $ avec le 27B. Le modèle qui semble 50 % moins cher est 50 % plus cher pour la charge de travail où le traitement par lots serait normalement une optimisation.

La documentation de Perplexity indique que le modèle plus grand « coûte généralement moins cher que Flash » à partir de trois questions. Le seuil exact de bascule est deux. Si vos questions sont réellement couplées — des facettes « sélectionnez tout ce qui s’applique » d’une même décision — le traitement conjoint est aussi celui qui est exact. S’il s’agit de scores de candidats indépendants, la documentation conseille de les répartir en requêtes séparées, ce qui fait encore grimper la facture de Flash tout en laissant celle du 27B inchangée.

L'écart de précision, catégorie par catégorie

Les deux modèles sont évalués sur le Decision Index 0.3, le composite propre à Perplexity. Le score principal est de 60,05 pour Flash avec une question par requête, contre 68,09 pour le 27B avec des requêtes conjointes. La répartition par catégorie, en comparant les exécutions conjointes entre elles, montre d’où vient l’écart de 9,2 points entre les exécutions conjointes.

A two-column scoreboard: pplx-decider-flash at $0.01 per million input tokens billed per question, Decision Index 58.88 joint, knowledge 42.0, retrieval 64.8 and vision 72.53; pplx-decider at $0.02 per million billed per state, Decision Index 68.09 joint, knowledge 56.3, retrieval 68.4 and vision 77.43; a footer notes the index is Perplexity's own and unreplicated.

• Connaissances — 42,0 vs 56,3. Un écart de 14,3 points, et celui qui devrait déterminer la plupart des déploiements. Si la question exige de savoir quelque chose plutôt que de juger quelque chose, le 4B n'est pas un substitut.

• Langue — 63,3 vs 72,8.

• Récupération — 64,8 contre 68,4. L’écart le plus étroit, à 3,6 points. Déterminer si un passage étaye une affirmation est la tâche pour laquelle Flash a été conçu, et les chiffres le reflètent.

• Outils — 76,7 vs 84,4. Les deux modèles sont les plus forts ici en termes absolus, ce qui correspond au cas d’usage du routage.

• Arts — 46,8 contre 56,2.

• Vision — 72,53 vs 77,43 sur l’Indice de décision Vision, un écart de 4,9 points inférieur à l’écart sur le texte, ce qui rend Flash plus compétitif sur les images que sur la prose.

La mise en garde évidente s’applique à chaque chiffre ci-dessus : le benchmark appartient au fournisseur, et aucun tiers ne l’a reproduit. La fiche du 27B indique que le travail d’entraînement comprenait les splits d’entraînement officiels de plusieurs tâches du Decision Index, décontaminés par rapport aux ensembles de test ; il s’agit d’une pratique déclarée, non auditée. Considérez le profil par catégorie comme une hypothèse sur les points forts de chaque modèle — connaissances et arts pour le 27B, récupération d’informations et outils pour les deux — plutôt que comme un résultat mesuré.

L'asymétrie de la demande conjointe

Regrouper les questions aide le grand modèle et pénalise le petit, et les propres chiffres de Perplexity le confirment.

• pplx-decider-v1.2 — 68,09 en conjoint contre 67,75 un par requête. Le regroupement ajoute 0,34 point.

• pplx-decider-flash-v1.2 — 58,88 en groupé contre 60,05 à l'unité par requête. Le regroupement coûte 1,17 point.

La documentation explique le mécanisme : le 4B perd en précision lorsqu’il répond à plusieurs questions à la fois, d’où la recommandation par défaut d’une question par requête. Ce que les chiffres ajoutent, c’est que la perte est suffisamment importante pour apparaître dans le score global, et pas seulement dans des cas limites. Le modèle est commercialisé sur sa vitesse en passe unique et obtient de meilleures mesures sans la passe unique. Si vous regroupez malgré tout pour rechercher le débit, vous payez la vitesse deux fois — une fois en tokens et une fois en précision.

Screenshot of the Hugging Face model card for perplexity-ai/pplx-decider-v1.2 showing its 26B-parameter BF16 badge, Qwen3.8-27B base, an explanation of the joint request format where several questions share one sequence, a training-data note about decontaminated Decision Index splits, and 3,939 downloads.

Calibration : plus proche que ne le suggère l’écart de précision

Les deux cartes publient honnêtement leur calibration, ce qui est assez rare pour mériter d’être signalé.

• Température enregistrée — 1,554 sur Flash contre 1,382 sur le 27B.

• Précision sur le jeu de développement — 88,8 % sur 1 497 questions pour Flash contre 91,3 % pour le 27B.

• Erreur de calibration attendue après application de la température — 0,021 pour Flash contre 0,014 pour le 27B.

• Score de Brier — 0,163 contre 0,134.

Flash est moins précis et moins bien calibré, comme attendu à un septième de la taille, mais l’écart de calibration est de 0,007 ECE — assez petit pour qu’un seuil ajusté sur le 27B se transfère souvent. La fiche du 27B reconnaît aussi franchement que les données de décision mises de côté restent quelque peu trop confiantes, avec un ECE d’environ 0,05, donc aucun des deux modèles ne remplace l’ajustement de seuils sur vos propres données. La documentation de Perplexity dit exactement cela : évaluez les deux sur des données étiquetées aux seuils que vous visez et ne conservez Flash que s’il atteint votre objectif de précision.

Auto-hébergement : 9 GiB contre 52 GiB

Les deux sont sous Apache-2.0, donc le prix de la version hébergée est une commodité plutôt qu’un verrouillage. La différence matérielle est la séparation la plus nette entre eux.

• Poids — environ 9 GiB en BF16 pour Flash contre environ 52 GiB pour le 27B, plus la mémoire de travail pour les deux.

• Matériel — Flash tient sur une carte grand public de 16 Go ; le 27B nécessite un accélérateur sérieux ou une répartition multi-GPU.

• Service — aucun des deux ne s'intègre tel quel dans un serveur causal standard. Les couches d'attention complète s'exécutent de manière non causale, et les prompts rédigés pour la v1.1 ne sont pas transposables.

• Contexte — 262 144 tokens sur les deux par défaut, avec un entraînement validé seulement jusqu’à environ 32 000 et les fiches signalant que les entrées plus longues sont moins testées.

Screenshot of the Hugging Face model card for perplexity-ai/pplx-decider-flash-v1.2 showing its 5B-parameter BF16 badge, Qwen3.5-4B base, a note that it is about one seventh the size of the 27B model, 4,667 downloads, and the Decision Index table with 58.88 joint versus 60.05 one question per request.

L'auto-hébergement de Flash est la seule version de cette comparaison où le 4B l'emporte sans condition. Une seule carte de 16 Go, une licence permissive et aucune facturation par token font véritablement un produit différent d'un checkpoint de 52 GiB qui nécessite une équipe d'inférence.

Une règle de décision que vous pouvez appliquer

• Une question par État, volume élevé — Flash. L’avantage de prix est réel et la perte de précision se concentre sur les tâches de connaissances que vous pouvez rediriger ailleurs.

• Deux questions ou plus par état — le 27B. À deux, c'est l'égalité sur le prix ; à partir de trois, c'est moins cher, et il est plus précis en mode joint ; l'écart se creuse à chaque question ajoutée.

• Jugements fortement axés sur les connaissances ou sur une grille d’évaluation — le 27B. Un déficit de 14,3 points sur les connaissances n’est pas quelque chose qu’un meilleur prompt comble.

• Déclenchement de la récupération et choix des outils — Flash se défend. Les écarts y sont de 3,6 et 7,7 points, et la charge de travail correspond exactement à ce pour quoi le modèle a été conçu.

• Déploiement sur appareil ou sur un seul GPU — Flash, sans véritable alternative dans cette paire.

• Vision — dans un cas comme dans l'autre, le 27B devançant de 4,9 points ; si vous faites déjà tourner le 27B pour le texte, séparer la vision vers Flash n'apporte que peu de chose.

Quel que soit le côté de la partition où vous vous situez, le décideur est la partie bon marché du pipeline. La génération qu'il conditionne est là où passe l'argent, et c'est la couche qui vaut la peine d'être optimisée. OrcaRouter met plus de 200 modèles derrière une seule clé sans marge sur les prix catalogue des fournisseurs, de sorte qu'une baisse de prix en amont est répercutée le jour même, et le basculement automatique couvre le cas où la porte envoie une requête à un modèle dégradé. Le DSL de routage compose les modèles que nous servons ; aucun des checkpoints pplx-decider ne figure parmi eux, donc une répartition Flash contre 27B doit être implémentée dans votre propre code. Le décideur hébergé dans notre catalogue est Jev de TypeSafe, sous les versions jev-1.13 et jev-1.14.

Le test qu’aucun des deux fournisseurs n’a publié

Tout ce qui précède est une décision fondée sur la documentation du fournisseur. Le test qui permettrait de trancher est ennuyeux et précis : prenez un millier de requêtes réelles, étiquetez-les, puis exécutez les deux modèles au seuil que vous envisagez avec une question et avec trois. Consignez la précision, l’erreur de calibration et le nombre total de tokens facturés. D’après les chiffres publiés, on peut prédire que Flash l’emporte sur la charge de travail à une question en coût et perde sur celle à trois questions à la fois en coût et en précision. Si c’est le cas, le choix dépend de la forme de vos requêtes, et non de votre budget — et l’équipe qui le mesure choisira correctement, tandis que tous ceux qui lisent la grille tarifaire choisiront le modèle qui est 50 % moins cher sur le papier et 50 % plus cher en production.