pplx-decider-flash vs pplx-decider: o 4B é mais barato até você fazer três perguntas

Na lista de preços, pplx-decider-flash-v1.2 custa metade do que pplx-decider-v1.2 custa: US$ 0,01 por milhão de tokens de entrada contra US$ 0,02. Nas regras de cobrança, esse desconto dura exatamente uma pergunta. Faça duas perguntas do mesmo estado e os dois modelos custam o mesmo. Faça três e o modelo 4B é o mais caro, porque o Flash cobra o estado de novo a cada pergunta, enquanto o 27B o cobra uma vez. O modelo mais barato só sai mais barato se você fizer uma pergunta pequena por vez.

Essa inversão é a parte útil desta comparação. O resto é um trade-off de tamanho já conhecido: um checkpoint de 4B que leva vantagem em latência e memória contra um modelo de 26 bilhões de parâmetros que leva vantagem em precisão, com ambos comercializados sob a mesma licença Apache-2.0 e o mesmo contexto padrão de 262.144 tokens.

Dois checkpoints, um lançamento, funções diferentes

A Perplexity publicou ambos em 15 de outubro de 2026, o modelo grande às 07:40 UTC e o Flash às 16:57. Ambos compartilham um design: um backbone Qwen, uma cabeça de leitura de 255 vias em vez de uma cabeça de modelo de linguagem, camadas de atenção completa não causais e uma temperatura de calibração salva. Eles não compartilham um backbone. pplx-decider-v1.2 é construído sobre o Qwen3.8-27B e é distribuído com aproximadamente 52 GiB em BF16. pplx-decider-flash-v1.2 é construído sobre o Qwen3.5-4B e é distribuído com aproximadamente 9 GiB.

A nomenclatura é mais solta que os números. O modelo grande é vendido como 27B, mas a própria ficha dele diz 26B em BF16. O Flash é vendido como 4B na documentação da API, enquanto o cabeçalho da ficha dele diz 5B em BF16 e seu backbone é um modelo de 4B. Nenhuma das discrepâncias muda uma decisão de implantação; ambas valem a pena saber antes de citar uma contagem de parâmetros em um plano de capacidade.

A lista de preços, antes do asterisco

• Preço de entrada — pplx-decider-flash-v1.2 a US$ 0,01 por milhão de tokens vs pplx-decider-v1.2 a US$ 0,02.

• Preço de saída — gratuito em ambos, sem taxa por solicitação. Cada pergunta conta como um token de saída apenas para fins de contabilização.

• Limites de taxa — 4.000.000 tokens por minuto e 240.000.000 por hora, com um limite máximo de 10 solicitações por segundo compartilhado entre ambos os modelos no nível da organização.

• Nomes alternativos — pplx-decider-flash-latest e pplx-decider-latest passam ambos para a versão mais recente, então um limiar calibrado para uma versão pode, silenciosamente, ser aplicado a outra.

O asterisco não está escondido. A documentação da Perplexity afirma claramente que o Flash foi criado para uma pergunta por solicitação, que enviar várias perguntas produz respostas independentes sem comunicação cruzada e que o estado é cobrado novamente para cada uma. Ela até desenvolve o exemplo: três perguntas sobre um estado de 10.000 tokens custam cerca de 30.000 tokens de entrada.

Onde a segunda pergunta apaga o desconto

A forma geral é simples. Para um estado de s tokens e q perguntas, o Flash custa q × s × $0.01 por milhão e o 27B custa s × $0.02 por milhão. A fatura do Flash ultrapassa a do modelo grande na terceira pergunta.

• Uma pergunta, estado de 10.000 tokens — Flash $0,0001 vs 27B $0,0002. Flash vence pela metade.

• Duas perguntas, mesmo estado — Flash $0.0002 vs 27B $0.0002. Empate, não um desconto.

• Três perguntas — Flash $0.0003 vs 27B $0.0002. O 4B é 50% mais caro.

• Cinco perguntas — Flash $0.0005 vs 27B $0.0002. O 4B custa duas vezes e meia o preço.

Em termos absolutos, são frações de centavo, e é por isso que a regra é fácil de passar despercebida e por que ela se acumula em volume. Um gate que executa um milhão de requisições de três perguntas contra estados de 10.000 tokens custa cerca de US$ 300 no Flash e US$ 200 no 27B. O modelo que parece 50% mais barato é 50% mais caro na carga de trabalho em que o processamento em lote normalmente seria uma otimização.

Os documentos da Perplexity dizem que o modelo maior "normalmente custa menos que o Flash" em três ou mais perguntas. O ponto de cruzamento exato é dois. Se suas perguntas estiverem genuinamente acopladas — facetas de marcar todas as que se aplicam de uma única decisão — o caminho conjunto também é o preciso. Se forem pontuações de candidatos independentes, os documentos recomendam dividi-las em solicitações separadas, o que aumenta ainda mais a fatura do Flash enquanto deixa a do 27B inalterada.

A diferença de precisão, categoria por categoria

Ambos os modelos são pontuados no Decision Index 0.3, o composto próprio da Perplexity. O destaque é 60,05 para o Flash com uma pergunta por requisição, contra 68,09 para o 27B com requisições conjuntas. A divisão por categoria, comparando execuções conjuntas com execuções conjuntas, mostra de onde vem a diferença de 9,2 pontos entre execuções conjuntas.

• Conhecimento — 42,0 vs 56,3. Uma diferença de 14,3 pontos, e a que deve decidir a maioria das implantações. Se a pergunta exige saber algo em vez de julgar algo, o 4B não é um substituto.

• Idioma — 63,3 vs 72,8.

• Recuperação — 64,8 vs 68,4. A diferença mais estreita: 3,6 pontos. Julgar se uma passagem sustenta uma afirmação é a tarefa para a qual o Flash foi criado, e os números refletem isso.

• Ferramentas — 76.7 vs 84.4. Ambos os modelos são mais fortes aqui em termos absolutos, o que se adequa ao caso de uso de roteamento.

• Artes — 46,8 vs 56,2.

• Visão — 72,53 vs 77,43 no Índice de Decisão de Visão, uma diferença de 4,9 pontos menor que a diferença em texto, o que torna o Flash mais competitivo em imagens do que em prosa.

A ressalva óbvia se aplica a todos os números acima: o benchmark pertence ao fornecedor, e nenhum terceiro o reproduziu. A ficha do 27B diz que o trabalho de treinamento incluiu as divisões oficiais de treinamento de várias tarefas do Decision Index, descontaminadas em relação aos conjuntos de teste; trata-se de uma prática declarada, não auditada. Trate o perfil por categoria como uma hipótese sobre onde cada modelo é forte — conhecimento e artes para o 27B, recuperação e ferramentas para ambos — e não como um resultado medido.

A assimetria do pedido conjunto

Agrupar perguntas ajuda o modelo grande e prejudica o pequeno, e os próprios números da Perplexity confirmam isso.

• pplx-decider-v1.2 — 68,09 em conjunto vs 67,75 individual por solicitação. O agrupamento acrescenta 0,34 pontos.

• pplx-decider-flash-v1.2 — 58.88 em conjunto vs 60.05 um por requisição. O agrupamento custa 1.17 pontos.

A documentação explica o mecanismo: o 4B perde precisão quando responde a várias perguntas em conjunto, e é por isso que uma pergunta por pedido é a predefinição recomendada. O que os números acrescentam é que a perda é suficientemente grande para aparecer na pontuação global, não apenas em casos-limite. O modelo é comercializado com base na velocidade de passagem única e mede melhor sem a passagem única. Se agrupar mesmo assim para tentar obter throughput, está a pagar duas vezes pela velocidade — uma em tokens e outra em precisão.

Calibração: mais próxima do que a lacuna de precisão sugere

Ambas as placas divulgam a calibração com honestidade, o que é raro o bastante para merecer destaque.

• Temperatura salva — 1,554 no Flash vs 1,382 no 27B.

• Acurácia no conjunto de desenvolvimento — 88,8% em 1.497 perguntas para o Flash vs 91,3% para o 27B.

• Erro de calibração esperado após temperatura — 0,021 para o Flash vs 0,014 para o 27B.

• Pontuação de Brier — 0,163 vs 0,134.

O Flash é menos preciso e menos bem calibrado, como esperado para um sétimo do tamanho, mas a lacuna de calibração é de 0,007 ECE — pequena o suficiente para que um limiar ajustado no 27B muitas vezes seja transferível. A ficha do 27B também é franca ao admitir que os dados de decisão reservados continuam um tanto excessivamente confiantes, com ECE em torno de 0,05, portanto nenhum dos modelos substitui o ajuste de limiares com seus próprios dados. A documentação da Perplexity diz exatamente isso: faça o benchmark de ambos em dados rotulados com os limiares que você pretende usar e mantenha o Flash apenas se ele superar sua meta de acurácia.

Auto-hospedagem: 9 GiB contra 52 GiB

Ambos são Apache-2.0, portanto o preço da versão hospedada é uma conveniência, não uma amarração. A diferença de hardware é a separação mais nítida entre eles.

• Pesos — cerca de 9 GiB em BF16 para o Flash vs. cerca de 52 GiB para o 27B, além de memória de trabalho em ambos.

• Hardware — O Flash cabe em uma placa gráfica de consumo de 16 GB; o 27B precisa de um acelerador robusto ou de uma divisão multi-GPU.

• Serviço — nenhum dos dois se encaixa sem alterações em um servidor causal padrão. As camadas de atenção completa são executadas de forma não causal, e os prompts escritos para a v1.1 não se transferem.

• Contexto — 262.144 tokens em ambos por padrão, com treinamento validado apenas até cerca de 32.000, e os cards avisam que entradas mais longas são menos testadas.

A auto-hospedagem do Flash é a única versão desta comparação em que o 4B vence incondicionalmente. Um único cartão de 16 GB, uma licença permissiva e nenhuma cobrança por token é um produto genuinamente diferente de um checkpoint de 52 GiB que precisa de uma equipe de serving.

Uma regra de decisão que você pode aplicar

• Uma pergunta por estado, alto volume — Flash. A vantagem de preço é real, e a perda de precisão está concentrada em tarefas de conhecimento que você pode direcionar para outro lugar.

• Duas ou mais perguntas por estado — o 27B. Com duas, há empate no preço; a partir de três, é mais barato e é mais preciso no modo conjunto; a diferença aumenta a cada pergunta adicionada.

• Julgamentos com forte peso de conhecimento ou de rubrica — o 27B. Um déficit de 14,3 pontos em conhecimento não é algo que um prompt melhor resolva.

• Gating de recuperação e escolha de ferramentas — o Flash é defensável. As diferenças aí são de 3,6 e 7,7 pontos, e a carga de trabalho é exatamente para o que o modelo foi criado.

• Implantação no dispositivo ou em uma única GPU — Flash, sem alternativa real neste par.

• Visão — qualquer um dos dois, com o 27B à frente por 4,9 pontos; se você já usa o 27B para texto, separar a visão para o Flash traz pouco ganho.

Seja qual for o lado da divisão em que você cair, o decider é a parte barata do pipeline. A geração que ele controla é onde o dinheiro vai, e é essa a camada que vale a pena otimizar. O OrcaRouter coloca mais de 200 modelos atrás de uma única chave sem margem sobre os preços de tabela dos provedores, então um corte de preço upstream chega no mesmo dia, e o failover automático cobre o caso em que o gate envia uma solicitação para um modelo degradado. A DSL de roteamento compõe modelos que servimos; nenhum dos checkpoints pplx-decider está entre eles, então uma divisão Flash-versus-27B precisa viver no seu próprio código. O decider hospedado em nosso catálogo é o Jev da TypeSafe, como jev-1.13 e jev-1.14.

O teste que nenhum dos dois fornecedores publicou

Tudo acima é uma decisão tomada com base na documentação do fornecedor. O teste que resolveria isso é entediante e específico: pegue mil requisições reais, rotule-as e execute os dois modelos no limiar que você pretende usar com uma pergunta e com três perguntas. Registre a acurácia, o erro de calibração e o total de tokens cobrados. A previsão a partir dos números publicados é que o Flash vence a carga de trabalho de pergunta única em custo e perde a de três perguntas tanto em custo quanto em acurácia. Se isso se confirmar, a escolha é uma propriedade do formato das suas requisições, não do seu orçamento — e a equipe que fizer a medição escolherá corretamente, enquanto todos que leem a tabela de preços escolhem o modelo que é 50% mais barato no papel e 50% mais caro em produção.