pplx-decider no Ollama: o Silencioso Modelo de Decisão de 27B da Perplexity Torna-se Executável

A Perplexity publicou os pesos do pplx-decider-v1.1-27b em 2026-10-05, e o primeiro checkpoint que ele substituiu, pplx-decider (nome do repositório pplx-decider-v1-27b), em 2026-10-01. Ambos são fine-tunes do Qwen3.8-27B que respondem em probabilidades em vez de frases, e ambos pertencem à mesma linhagem System One do Jev 1.13 da TypeSafe. O que há de novo não é o modelo: a partir de hoje, pplx-decider é uma entrada na própria biblioteca de modelos do Ollama, instalável com um único comando. Antes de essa listagem aparecer, executar este checkpoint exigia uma GPU CUDA com espaço para aproximadamente 49 GiB de pesos em bf16. Agora é um download quantizado de 17 GB num laptop. Essa única mudança é o tema desta página, e o modelo que ela torna executável tem catorze dias de idade.

O que mudou, em termos concretos

A entrada da biblioteca do Ollama se chama pplx-decider, e a biblioteca vem colecionando continuamente modelos de decisão — Laya, Nimble, Kev, Clef, Strands Decider — ao longo do outono. Esta é a adição mais recente e, no registro mantido, expõe três tags (pplx-decider:latest, pplx-decider:27b e pplx-decider:27b-q4_K_M) que resolvem para o mesmo digest de manifesto. Um único artefato, não uma escada de tamanhos.

• Formato — GGUF servido pelo llama.cpp, versus os fragmentos safetensors bf16 no Hugging Face

• Tamanho do download — cerca de 17 GB em q4_K_M, versus aproximadamente 49 GiB de pesos mais memória de trabalho para o checkpoint bf16

• Camada de visão — o manifesto traz um projetor separado de ~927 MB junto com a camada do modelo, portanto a entrada de imagem é empacotada junto com os pesos de texto

• Hardware — uma máquina de consumidor em vez de uma máquina CUDA

A interface é o endpoint da Ollama, /v1/systemone, que ela adicionou na v0.35.0 e estendeu para modelos Clef na v0.35.1. Ela também acaba de ganhar uma interface de linha de comando: a v0.40.4, lançada em 2026-10-12, adicionou modelos de decisão ao ollama run, de modo que uma pergunta de sim/não, a escolha de um rótulo ou uma pontuação de rubrica podem ser feitas direto de um terminal com --ask, --choice e --level. Essa versão tem três dias; o modelo que ela torna conveniente tem duas semanas.

O que o repositório realmente documenta

O checkpoint não é um modelo de chat com um prompt conciso. Seu card descreve um layout de decisão nativo: o backbone Qwen3.8-27B com o nome de classe divulgado, além de um readout.safetensors separado contendo uma cabeça de decisão bf16 [255, 5120] — uma leitura de 255 vias sobre os slots de opções, não uma cabeça de linguagem de vocabulário completo. Não há loop de decodificação. Cada opção de cada pergunta é pontuada em um único forward pass, e é por isso que a resposta informa zero tokens de saída.

Três detalhes no card importam mais do que a tabela de benchmark, porque são eles que quebram uma integração ingênua:

• Modo de atenção.As camadas de atenção total usam um modo não causal salvo, e o cartão diz claramente que a inferência causal padrão não reproduz a configuração avaliada. Inicie o checkpoint com um carregador causal pronto a usar e você obtém números que não são os publicados.

• Temperatura de calibração. O DecisionModel.predict fornecido aplica uma temperatura salva. Se você ler os logits diretamente, aplique-a exatamente uma vez — aplicá-la duas vezes, ou não aplicá-la, dimensiona incorretamente todas as probabilidades com base nas quais você então ramifica.

• Um limite de decisão real. O texto e todas as imagens para uma decisão devem caber em um orçamento de 8.192 tokens, e entradas que ultrapassam o limite são rejeitadas em vez de truncadas. O treinamento e a avaliação reportada limitaram as imagens a 512×512; aumentar o limite agora é configurável via max_image_pixels, com padrão de 2048×2048, mas o card alerta que resoluções mais altas ficam fora da distribuição de treinamento.

O repositório é sobre um modelo que ninguém anunciou: fragmentos de safetensors, um configuration_config.json, um template de chat e um repository_config.json que registra pesos e proveniência de checkpoint. Licença Apache 2.0.

Duas partes da documentação divergiram. O card da v1.1 ainda diz para você se autenticar contra “este repositório privado” — o repositório hoje pode ser lido publicamente. E o card mais antigo da v1 traz um ponteiro new_version para a v1.1, que é o sinal honesto de que a v1 foi substituída.

A única coisa que você deve verificar antes de fazer planos em torno disso

A listagem do Ollama anuncia uma janela de contexto de 256K. Esse número parece ter sido herdado do modelo base — o Qwen3.8-27B de fato carrega 262.144 posições — e não é o contrato que o checkpoint de decisão documenta para si mesmo. O checkpoint rejeita qualquer decisão cujo texto mais imagens exceda 8.192 tokens. Planeje um pipeline em 256K, alimente-o com um contrato de 40.000 tokens mais quatro imagens de página, e a requisição falha em vez de ser cortada. O número maior descreve a arquitetura; o menor descreve a API que você está realmente chamando.

O suporte a imagens tem uma peculiaridade semelhante. O cartão de modelo do Ollama para pplx-decider mostra uma requisição de imagem contra /v1/systemone, mas a própria página de capacidades do Ollama para esse endpoint afirma que as imagens são "apenas para modelos Clef". Um desses dois documentos está desatualizado. Trate a entrada multimodal nesse caminho como não verificada até você mesmo executá-la — o checkpoint subjacente claramente aceita imagens, e o manifesto claramente inclui um projetor, mas o gate documentado do runtime é mais restrito do que o cartão do modelo sugere.

Um número de fornecedor e um número diferente

A avaliação da própria Perplexity para o checkpoint v1.1 relata um Índice de Decisão de 61,56 contra 57,9 do Jev na mesma suíte e 56,4 do checkpoint que ele substituiu, com os maiores ganhos de categoria em linguagem (69,45) e recuperação (61,26). Esses números são relatados pelo fornecedor e foram produzidos do lado da Perplexity; para o checkpoint anterior, a ficha vai além e diz que os resultados foram medidos por meio da API da Perplexity. Isso é algo legítimo de publicar e algo frágil em que se apoiar.

O quadro independente é mais útil. Uma tabela de classificação comunitária aberta para esta classe de modelos, o Jev Decision Index, tem pontuado o pplx-decider-v1.1-27b no seu próprio painel, e a sua divulgação de dados de 2026-10-14 relata que o checkpoint concluiu 110.179 de 110.201 casos pontuados em 42 benchmarks numa única RTX PRO 6000. Nessa tabela, o modelo alcança uma pontuação de competência equilibrada de 62,75 e um sexto lugar, com o Jev em décimo segundo, a 60,11. Duas coisas que a tabela do fornecedor não mostra decorrem dos mesmos dados:

• Onde ele é forte. ARC-Easy 99,3; ARC-Challenge 97,0; decisões sim/não de chamada de função (BFCL) 97,2; FinEntity 95,4; BPoMP 95,2; CLINC150 91,5. Tarefas clássicas de classificação e recuperação são onde este checkpoint prova seu valor.

• Onde não está.Humanity's Last Exam 16.2, ChessBench 17.7, SATA-Bench 28.2, ACOS 28.2, o conjunto de diálogo guiado por esquema 33.2, BRIGHT 50.9, GPQA Diamond 56.1. Raciocínio difícil de múltiplas etapas não é o que uma leitura de uma única passada lhe proporciona, e uma pilha que encaminha silenciosamente o trabalho de raciocínio para um modelo de decisão produzirá ramos errados com confiança.

Calibração merece uma linha própria, porque é o ponto central de um modelo que retorna probabilidades em vez de rótulos. Em 34.829 decisões pontuadas independentemente, o checkpoint obteve média de 76,1% de acurácia contra 82,9% de confiança média — um erro de calibração esperado de 0,071 e uma pontuação de Brier de 0,335, com 2,0% dos casos acima de 0,95 de confiança e ainda assim errados. Essa é uma superfície de probabilidade utilizável, mas não impecável, e é mensuravelmente melhor calibrada do que o ECE de 0,074 do Jev no mesmo painel. Se você está definindo um limiar de 0,9 e tratando-o como quase certeza, esses 2 por cento são o número em torno do qual projetar.

Latência no mesmo hardware ficou em uma mediana de 104 ms e um p95 de 835 ms em 110.000 decisões, o que é o argumento prático para um modelo de decisão em vez de um pequeno modelo de linguagem em uma posição de gate: o p95 é o orçamento, não a média.

O que custa uma decisão

A Perplexity executa sua própria Decisions API hospedada para esses checkpoints — POST https://api.perplexity.ai/v1/decisions, com pplx-decider-v1.1-27b como ID de modelo padrão e o checkpoint anterior ainda acessível. Essa página de preços lista US$ 0,02 por milhão de tokens de entrada, tokens de saída gratuitos e nenhuma taxa por solicitação, com um teto de 128 perguntas por solicitação, 262.144 tokens de entrada e 10 solicitações por segundo por organização.

Em contrapartida, o caminho local não custa nada por decisão depois que os 17 GB tiverem sido baixados. Para uma fila de triagem que processa um punhado de perguntas digitadas por ticket, essa aritmética se decide sozinha — e vale notar que o teto do serviço hospedado de 262.144 tokens de entrada não é o limite que sua cópia local vai impor, porque o orçamento do próprio checkpoint é de 8.192.

Aquilo em que a rota local não é a resposta é no resto da stack à volta da decisão. Este é um modelo de 27B que devolve uma probabilidade por opção; não redige a resposta, não resume o ticket nem chama a ferramenta. Se quer a decisão e a escrita por trás de uma única chave, é para isso que serve o OrcaRouter — uma API para mais de 200 modelos com o preço de tabela do fornecedor repercutido sem qualquer margem por token, além da DSL de routing quando quer um modelo de decisão e um modelo de escrita compostos numa só chamada. Duas peças desta história em particular já estão na plataforma: o checkpoint base é servido como Qwen3.8-27B, para que possa comparar o fine-tune com a sua própria base na mesma chave, e o modelo de referência contra o qual é medido é servido como Jev 1.13 através do mesmo formato de endpoint systemone. O decider da Perplexity não é um que tenhamos — está disponível através da própria API da Perplexity e de várias plataformas de terceiros — por isso, se precisa dele especificamente, o pull local acima e o endpoint da Perplexity são as suas opções.

Três perguntas que o repositório não responde

Qual checkpoint está no artefato quantizado? A entrada da biblioteca do Ollama é nomeada pela família, não por uma versão, e seu bloco de benchmark aponta para o repositório v1 — a tabela de 11 benchmarks mostra 85,7 por cento, que é o número geral do cartão da v1 e não a suíte Decision Index da v1.1. A v1.1 é o checkpoint mais forte segundo a própria contabilidade da Perplexity, e não é obviamente o que você está baixando. Verifique o digest antes de construir com base nessa suposição.

A Perplexity pretendia que algo disso fosse público? Nenhum anúncio, post de blog, entrada de changelog ou aviso de disponibilidade de API para esses pesos veio à tona. Os checkpoints foram baixados por milhares de pessoas — 2.740 downloads na v1 e 3.154 na v1.1 no momento em que escrevo —, mas a atenção em um model card não é o mesmo que um fornecedor declarar que ele tem suporte. Trate o repositório público como o artefato autoritativo e todo o resto como inferência.

Está vindo uma versão hospedada por fornecedor e oficialmente anunciada? Desconhecido. A existência de uma Decisions API documentada e com preços do lado da Perplexity sugere que a rota hospedada é o produto pretendido e que os pesos estão a montante dela. Mas isso é um palpite sobre a intenção, não um fato extraído de um documento, e está rotulado como tal.

Quem deve se mover, e quem não deve

Se o seu pipeline já se ramifica com base em decisões tipadas do provedor — roteamento de tickets, detecção de reembolsos, controle de etapas do agente —, este é um checkpoint de duas semanas, com pontuações reproduzidas de forma independente, uma licença Apache 2.0 e, a partir de hoje, um caminho de 17 GB para hardware que você possui. A avaliação sugere que ele está melhor calibrado que o modelo de referência e cerca de duas posições melhor em um ranking público, e a cópia local elimina totalmente o preço por decisão. Baixe-o, execute-o com seus próprios exemplos rotulados e compare-o com o que você usa agora. O orçamento de decisão de 8.192 tokens é a restrição a testar primeiro, não os 256K que o anúncio divulga.

Se você precisa de raciocínio em vez de classificação, espere. O painel independente coloca este checkpoint na casa dos 10 e poucos em benchmarks de conhecimento difíceis, e uma superfície de probabilidade que se mostra confiante em uma pergunta que não consegue de fato responder é pior em produção do que um modelo lento que pensa antes. O argumento em favor de um modelo de decisão é a mediana de 104 ms e o fato de que sessenta perguntas custam uma única passada — e nada disso ajuda quando as respostas estão erradas.

Executar a etapa de decisão no seu próprio hardware também é um bom momento para examinar o que já deu errado nessa classe: os incidentes documentados de IA e as falhas de agentes envolvendo modelos de decisão estão reunidos em o OrcaRouter AI Incident Archive, onde cada entrada traz suas próprias fontes, severidade, grau de confiança e indicador de contestação.