pplx-decider-flash: o juiz silencioso de 4B da Perplexity, lido a partir do repositório

A Perplexity enviou pplx-decider-flash-v1.2 para o Hugging Face às 16:57 UTC de 15 de outubro de 2026, cerca de nove horas depois de enviar pplx-decider-v1.2, o grande modelo de decisão que o marketing chama de 27B e o cartão do modelo chama de 26B. Não conseguimos encontrar nenhum post de lançamento no blog da empresa. O que se seguiu foi uma thread da conta de desenvolvedor no X, uma seção na documentação da API Decisions e uma conversão para GGUF três dias depois. Esse é todo o registro público, e é suficiente para descrever o modelo com precisão, mas não para dizer se ele é bom nos seus dados.

O que segue separa as três coisas que as pessoas costumam confundir: o que o repositório prova, o que a documentação do fornecedor afirma e o que ninguém fora da Perplexity verificou. A última categoria é maior que as duas primeiras.

O que realmente foi lançado, e em que dia

A cronologia do repositório é inequívoca. A Perplexity criou pplx-decider-v1-27b em 1 de outubro de 2026, pplx-decider-v1.1-27b em 5 de outubro, ambos os checkpoints v1.2 em 15 de outubro, e pplx-decider-flash-gguf-v1.2 em 18 de outubro. O checkpoint Flash foi o segundo upload daquele dia, que é o formato comum de um lançamento emparelhado: o carro-chefe primeiro, o irmão menor destilado logo atrás, para que ambos sejam divulgados no mesmo anúncio.

Essa ordem importa para o enquadramento. Não se trata de um modelo vazado nem de um repositório perdido que escapou antes da papelada. É um lançamento coordenado com uma pegada pública deliberadamente leve — uma thread de desenvolvedor em vez de um ensaio de lançamento, documentação em vez de um hub de benchmarks. A API do Hugging Face reporta 4.667 downloads no checkpoint base e 9.428 na conversão GGUF em 4 de novembro, além de 63 curtidas. As contagens de downloads no Hugging Face são um sinal fraco: contam requisições, não usuários distintos, e o tráfego de espelhos as infla. Elas são consistentes com um público real, mas modesto, de pesos abertos, não com um lançamento viral.

O que o repositório lhe diz

O cartão de modelo é incomumente técnico para um lançamento de fornecedor, e a maior parte do que se pode saber vem dele.

• Backbone — Qwen3.5-4B, com uma cabeça de leitura BF16 separada, de formato [255, 2560], em vez de uma cabeça de modelo de linguagem de vocabulário completo. Este é um checkpoint de decisão, não um modelo de chat com um wrapper de classificação.

• Tamanho — 25 arquivos totalizando aproximadamente 9 GiB em BF16, que é o necessário para armazenar os pesos; a memória de trabalho fica por cima disso.

• Contagem de parâmetros — a documentação da API diz 4B, o cabeçalho do model card diz 5B em BF16, e um índice de terceiros lista 4,5B. O backbone é um modelo de 4B. Trate "classe 4B" como a descrição honesta e não cite um único número como se tivesse sido medido.

• Attention — as camadas de atenção completa operam de forma não causal sobre toda a solicitação, enquanto as camadas de atenção linear permanecem causais. Este é o detalhe que vai te pegar: uma stack de serving causal padrão produzirá números diferentes, e prompts escritos para a v1.1 não são compatíveis.

• Posição de leitura — a cabeça dispara em cada <|fim_suffix|> marcador em vez do token final, que é como uma única passagem direta pode pontuar várias perguntas em relação a um único estado.

• Contexto — max_length tem valor padrão de 262.144 tokens, correspondendo ao backbone. O treinamento usou sequências de até cerca de 32.000 tokens, e o card deixa explícito que entradas mais longas são suportadas, mas menos validadas.

• Imagens — limitadas a 1,6 megapixels (1.638.400 pixels), mínimo de 65.536 pixels, com uma imagem de 1,6 MP consumindo aproximadamente 1.600 posições.

• Calibração — uma temperatura salva de 1,554. Em um conjunto de desenvolvimento de 1.497 perguntas, o cartão relata 88,8% de acurácia, erro de calibração esperado de 0,021 e pontuação de Brier de 0,163; sem a temperatura, o erro sobe para 0,057. Um fornecedor que publica seus próprios números de calibração e o custo de ignorá-los está lhe dizendo algo real sobre o uso pretendido.

Uma linha no card não sobrevive ao contato com a API. Ela diz que o repositório é privado e precisa de um token com acesso. A API do Hugging Face retorna gated: false e private: false, e os pesos são baixados sem solicitação de acesso. Uma linha desatualizada em um card é uma coisa pequena, mas é o tipo de coisa pequena que indica que o card foi escrito antes da publicação e não foi relido depois.

O que a documentação da API acrescenta

A precificação é onde começa o argumento do Flash. Na Decisions API, pplx-decider-flash-v1.2 custa $0,01 por milhão de tokens de entrada. Os tokens de saída são gratuitos e não há taxa por solicitação, porque não existem tokens de saída no sentido usual — o modelo retorna probabilidades e uma pontuação esperada, e a documentação conta cada pergunta como um token de saída para fins de contabilização.

A mesma página define o envelope operacional:

• Alias — pplx-decider-flash-latest segue a versão mais recente, então um limite ajustado na semana passada pode apontar silenciosamente para um modelo diferente após uma atualização. Fixe o id versionado em tudo o que importa.

• Limites de taxa — 4.000.000 de tokens por minuto e 240.000.000 por hora, com um teto de 10 requisições por segundo compartilhado entre ambos os modelos de decisão no nível da organização.

• Tipos de pergunta — noul retorna P(sim) de 0 a 1, choice retorna probabilidades entre até 255 opções, e score retorna uma distribuição pelos níveis da rubrica.

• Limite de perguntas — a documentação recomenda uma pergunta por solicitação. Isso não é uma observação de estilo; é a diferença entre o preço que lhe foi cotado e o preço que você paga.

A regra de cobrança que inverte a recomendação

O modelo 27B responde a todas as perguntas de uma solicitação em uma única passagem agrupada e cobra o estado uma única vez. O Flash responde a cada pergunta independentemente, sem ver as outras, e cobra o estado novamente para cada pergunta. A documentação traz o exemplo prático: três perguntas contra um estado de 10.000 tokens custam cerca de 30.000 tokens de entrada no Flash.

Faça as contas. Uma pergunta em um estado de 10.000 tokens custa US$ 0,0001 no Flash e US$ 0,0002 no 27B. Duas perguntas custam US$ 0,0002 no Flash e US$ 0,0002 no modelo maior — empate técnico. Três perguntas custam US$ 0,0003 no Flash e US$ 0,0002 no 27B. O ponto de virada é duas perguntas por estado. A própria documentação da Perplexity diz que o modelo maior "normalmente custa menos que o Flash" com três ou mais perguntas; o ponto preciso é uma pergunta antes, e isso se mantém em qualquer preço de tabela em que o Flash seja exatamente metade da tarifa do 27B.

Esta é a coisa mais útil do lançamento, e é fácil passar despercebida porque a manchete é um desconto de 50%. Um modelo 4B pela metade do preço só sai mais barato enquanto você pede uma coisa de cada vez.

O número em que não se deve confiar

A Perplexity reporta pontuações do Decision Index 0.3 para ambos os modelos. O Flash obtém 60.05 com uma pergunta por requisição e 58.88 com requisições conjuntas; o 27B obtém 68.09 conjuntas e 67.75 uma por requisição. No Vision Decision Index, o Flash tem 72.53 contra 77.43.

A divisão por categoria é mais informativa que o número principal, porque mostra onde o 4B perde terreno. Nos números de execução conjunta do Flash contra os números de execução conjunta do 27B:

• Conhecimento — 42,0 vs 56,3. Esta é a maior diferença, de 14,3 pontos, e a que decide se o modelo consegue lidar com conhecimento de mundo aberto.

• Idioma — 63,3 vs 72,8.

• Recuperação — 64,8 vs 68,4. A menor diferença, de 3,6 pontos, o que condiz com a tarefa proposta: julgar se um trecho responde a uma pergunta é uma tarefa mais leve do que saber a resposta.

• Ferramentas — 76,7 vs 84,4.

• Artes — 46,8 vs 56,2.

• Geral — 58,88 vs 68,09.

Todos esses números vêm de um benchmark mantido pela Perplexity. O card do 27B — o professor nesta destilação — é incomumente franco sobre o lado do treinamento: parte do trabalho, diz ele, colocou o modelo "in domain" para algumas tarefas do Decision Index ao incluir os splits oficiais de treinamento que vários benchmarks disponibilizam, com os splits "descontaminados em relação aos conjuntos de teste" para que a comparação permaneça justa. Essa é uma posição mais cuidadosa do que a cobertura em torno do lançamento sugeria, e ainda deixa o placar nas mãos do fornecedor. Nenhum terceiro auditou a disciplina dos splits, e ninguém reproduziu os números.

Há uma pequena estranheza dentro dos números do próprio fornecedor que contraria o marketing. O Flash obtém pontuação mais alta quando responde a uma pergunta por vez — 60,05 versus 58,88. O agrupamento prejudica o 4B no geral, embora ajude em tarefas fortemente acopladas de selecionar todas as que se aplicam, que é exatamente o que a documentação diz. O modelo está sendo vendido com base na velocidade de solicitação conjunta e tem melhores medições sem isso.

O que ainda não é possível saber

As lacunas são específicas, e são a razão pela qual este é um texto sobre o que sabemos, e não uma resenha.

• Nenhum benchmark independente. Nada fora da Perplexity publicou reproduções do Decision Index ou uma comparação direta em um ambiente de testes neutro.

• Nenhum nível de serviço de latência. O único número de velocidade que o fornecedor publica é um teste de documentação datado de 19 de outubro, no qual cerca de 248.000 tokens de entrada levaram 16 segundos no Flash, contra 53 segundos no 27B. Trata-se de uma medição do lado do fornecedor, sem hardware ou percentil declarados.

• Sem avaliação multilíngue. O card e a documentação descrevem texto e imagens; nenhum dos dois relata precisão fora do inglês.

• Nenhum volume publicado de dados de treinamento. A ficha diz que o Flash foi destilado do 27B usando as solicitações de treinamento do modelo maior, com o aluno aprendendo as distribuições de probabilidade completas do professor em vez de apenas suas respostas, e que várias execuções foram combinadas por média dos pesos. Ela não diz quantos dados isso envolveu, de onde vieram nem onde fica o corte.

• Nenhuma análise de erro publicada. Para um modelo cuja saída é uma probabilidade sobre a qual você aplicará um limiar, não há detalhamento de onde ele falha — por tipo de pergunta, por número de opções, por idioma ou por conteúdo da imagem.

Onde um modelo como este se situa em uma stack

Vale deixar claro para que serve o Flash, porque o nome convida a uma expectativa errada. Ele não escreve nada. Você entrega a ele um estado — texto, JSON, imagens — e uma ou mais perguntas tipadas, e ele devolve uma probabilidade ou uma distribuição sobre a qual seu código aplica um limiar. A arquitetura natural é um portão barato na frente de algo caro: classificar a solicitação, decidir se deve recuperar, escolher uma ferramenta e então gerar.

Esse gate não substitui a camada de geração, e é aí que o roteamento importa. O OrcaRouter expõe mais de 200 modelos de geração por trás de uma única chave de API sem markup sobre os preços de tabela dos provedores, então um corte de preço de qualquer fornecedor upstream entra em vigor no mesmo dia, em vez de esperar pela planilha de um revendedor. Se o gate classificar incorretamente, o failover automático impede que a solicitação morra no próximo salto. O que não fazemos é hospedar o pplx-decider-flash: ele não está no nosso catálogo, e a maneira honesta de executá-lo hoje é usar a própria API do fornecedor ou os pesos Apache-2.0 na sua própria GPU.

A matemática do self-hosting é razoável se você já tem o hardware. Cerca de 9 GiB de pesos BF16 cabem em uma placa de consumidor de 16 GB, e a cobertura do lançamento repetiu uma afirmação do CEO da Perplexity de que o Flash roda em um Mac M4 com 16 GB de memória. Nenhum número de throughput publicado sustenta isso, e a atenção não causal significa que você não pode simplesmente colocá-lo em um servidor de inferência causal padrão e esperar as pontuações da placa.

O que mudaria esta avaliação?

Quatro coisas, em ordem de utilidade. Uma reprodução neutra do Decision Index 0.3 que confirme os 60,05 ou explique a diferença. Uma distribuição de latência publicada pela API, em vez de um único teste de documentação. Evidências sobre entradas multilíngues, já que um classificador de 4B é exatamente o tipo de modelo que as equipes apontarão para tráfego não inglês sem verificar. E um artigo técnico da própria empresa que descreva os dados de treinamento por trás dessa destilação.

Até lá, a posição defensável é estreita e útil: pplx-decider-flash-v1.2 é um modelo de decisão real, baixável, Apache-2.0, de classe 4B, com preço publicado, temperatura de calibração documentada e uma regra de cobrança que o torna mais caro que seu irmão maior no momento em que você agrupa perguntas em lote. Tudo além disso é o próprio placar da Perplexity, e você deve tratá-lo como uma hipótese a testar nos seus dados rotulados, e não como um resultado.