Movendo uma Carga de Trabalho de Decisão do Drex Max para o Gemini Decision 1

A migração parece uma mudança de URL, e não é. Drex Max v1.1 e Gemini Decision 1 Ambos recebem um bloco de contexto e um conjunto de perguntas tipadas e retornam probabilidades, então a primeira tarde de uma migração corre bem: renomear o campo, apontar o cliente para um caminho base diferente, executar a suíte de testes. O que falha é a segunda semana, quando o volume chega e os dois modelos de cobrança acabam discordando sobre o que você está comprando. Este é o relato do que realmente precisa mudar, escrito para alguém que tem uma integração funcional do Drex Max v1.1 e se pergunta se a pontuação de destaque do modelo mais recente justifica a mudança.

Comece com a versão honesta da troca. No Artificial Analysis Decision Index v2.1, o Drex Max v1.1 pontua 73 e o Gemini Decision 1 pontua 66. O modelo mais antigo vence, e vence por 6,6 pontos, a maior parte deles no componente que responde por 30% do composto. Se sua carga de trabalho for triagem de documentos, a migração é um downgrade disfarçado de upgrade. Se for outra coisa, continue lendo, porque os dois endpoints não são tão semelhantes quanto os formatos de suas requisições sugerem.

A diferença que não está em nenhum ranking

Drex Max v1.1 dá a cada pergunta seu próprio orçamento de 131.072 tokens. O Gemini Decision 1 dá à solicitação inteira 262.144 tokens, compartilhados entre a entrada e cada pergunta nela. Essas duas frases descrevem a mesma categoria de produto e produzem orientações de engenharia opostas.

No Drex, fazer 200 perguntas custa 200 orçamentos separados, e o teto prático de uma solicitação é o seu limite de taxa, não o contexto. No Gemini Decision 1, 200 perguntas e um contrato de 200.000 tokens não cabem na mesma solicitação: 200.000 tokens de entrada deixam 62.144 para as perguntas e instruções, o que é confortável, mas uma entrada de 250.000 tokens deixa 12.144 e a solicitação falha. O teto é real, é compartilhado e muda conforme a quantidade que você envia.

Esta é a única mudança com maior probabilidade de quebrar uma integração Drex funcional, porque o modo de falha não é um erro em baixo volume. Uma suíte de testes que passa 20 perguntas sobre um documento de 30.000 tokens cabe confortavelmente nos dois sistemas. Em produção, com um registro de 180.000 tokens e 900 perguntas, cabe em um e não no outro.

O que o preço por token esconde

Drex Max v1.1 está listado a US$ 0,03 por milhão de tokens de entrada como preço de lançamento, frente a uma tarifa de tabela de US$ 0,06, e o Gemini Decision 1 está a US$ 0,10. Nenhum dos dois cobra pela saída. Lendo apenas essa coluna, a Drex é entre 1,7 e 3,3 vezes mais barata, o que basta para encerrar a conversa para uma equipe de alto volume.

Medido por tarefa, a diferença diminui. A Artificial Analysis coloca o Drex Max v1.1 a US$ 103 por milhão de tarefas de decisão e o Gemini Decision 1 a US$ 345, uma proporção de cerca de 3,3 — a comparação de preço de tabela, não o preço de lançamento. O motivo é que o Gemini Decision 1 lê mais tokens para chegar a uma resposta. Seu contexto compartilhado é o dobro do tamanho, e suas pontuações por componente sugerem que ele está passando mais entrada por cada pergunta, e não menos. Por tarefa, a diferença honesta é de aproximadamente três para um a favor do Drex, e o desconto de lançamento é uma condição temporária que não sobreviverá à sua segunda renovação de contrato.

O que significa que a questão de precificação não é “qual é mais barato”, mas “que fração das suas tarefas você pagaria 3× para acertar”. Uma regra que encaminha chamados de suporte para uma fila não vale nada se estiver errada 5% mais vezes que a alternativa. Uma regra que sinaliza uma cláusula de contrato para revisão jurídica vale a diferença imediatamente.

O manuseio de documentos é de onde vêm as pontuações.

A lacuna composta de 6,6 pontos não está distribuída de forma uniforme, e o argumento migratório depende de saber onde ela se situa.

• AA-Paperclip, 30% de peso — Drex Max v1.1 obtém 72,8 e aprova 63% dos documentos de imediato no teste de tudo ou nada; Gemini Decision 1 obtém 56,8 e aprova 33%. Este único componente responde pela maior parte da diferença composta.

• When2Call, 10% — Drex 95,3 contra 80,5 do Gemini, uma diferença de 14,8 pontos no julgamento de chamadas de ferramentas, a maior vantagem proporcional que o Drex tem em qualquer cenário.

• EvalSafe-O*NET-AA, 15% — 88,3 contra 87,1. Um erro de arredondamento, e o único teste do conjunto relacionado à segurança.

• AA-Omniscience-Decision v1.1, 15% — Drex 60,3, Gemini 66,3. A vantagem do Gemini, e o motivo pelo qual a cobertura do seu lançamento destacou o conhecimento.

• HLE-MultiChoice v1.1, 15% — Drex 46.6, Gemini 48.7. Estreita, e ambos os modelos se abstêm em vez de adivinhar com frequência suficiente para que a precisão bruta fique bem abaixo desses números.

• AA-Symmetry v1.1, 15% — Drex 79,8 contra 70,5. Se a resposta sobrevive a que a pergunta seja reordenada, rotulada de outra forma e negada, o que é a coisa mais próxima de um teste de estabilidade que existe no quadro.

Duas dessas linhas merecem uma segunda olhada antes de você decidir. Na extração de documentos, o Drex é quase duas vezes mais confiável em uma métrica estrita, e em simetria é nove pontos mais estável — o que significa que um pipeline baseado no Drex produz menos respostas que mudam quando a mesma pergunta é formulada de outra maneira. Se seu produto apresenta uma única resposta ao usuário, a instabilidade é um relatório de bug. Se alimenta uma pontuação downstream, a instabilidade é variância que você pode eliminar pela média.

Velocidade, e o argumento para manter ambos

O Drex Max v1.1 executa uma tarefa em uma mediana de 283 milissegundos. O Gemini Decision 1 executa a mesma tarefa em 211. O modelo mais novo é mais rápido apesar de fazer mais trabalho, que é o único ponto em que a migração ajuda sem ressalvas. Para uma verificação síncrona antes de uma ação voltada ao usuário, 70 milissegundos não são insignificantes.

Velocidade, preço e precisão raramente se alinham de forma tão clara em uma única direção, e aqui não se alinham: o Gemini é mais rápido e pior, o Drex é mais lento e melhor, e a razão de custo acompanha a razão de qualidade, não a de latência. Essa é a assinatura de dois modelos com concepções genuinamente diferentes, e não de um ser um aprimoramento estrito do outro.

Essa é a recomendação de fato. Um serviço de decisão que tem um único modelo de pontuação tem um único ponto de falha e uma única opinião. Executar os dois custa uma segunda integração e proporciona um sinal de discordância: quando os dois modelos retornam respostas diferentes com alta confiança, o caso é genuinamente ambíguo e provavelmente não deveria ser automatizado. Esse padrão é antigo, é entediante, e captura erros que a pontuação de confiança de nenhum modelo isolado capturaria.

Portando a própria chamada

A parte mecânica é menor que a parte contábil, com três armadilhas que vale a pena nomear antes de você começar.

Primeiro, o Drex é chamado em /v1/systemone com o id do modelo fixado como drex-max; o alias drex-latest no guia de início rápido não é o id fixado, e usá-lo significa que seu modelo muda debaixo de você sem um deploy. O Gemini Decision 1 tem o problema oposto: não existe alias algum, apenas gemini-decision-1, e uma requisição que nomeie gemini-decision não será resolvida. Fixe dos dois lados e trate o id do modelo como um número de versão na sua configuração, não como uma constante no seu código-fonte.

Em segundo lugar, os limites de mídia não se traduzem. O Drex Max v1.1 aceita até 8 imagens por solicitação. O Gemini Decision 1 aceita texto, imagem, áudio, vídeo e PDF com limites de 100 MB de base64 embutido, 50 MB por PDF e 15 MB por URL HTTPS, e recusa links do YouTube e URIs gs:// de imediato. Um pipeline do Drex que agrupa oito digitalizações de páginas por solicitação torna-se um pipeline do Gemini que ou envia as páginas como um único PDF ou divide o lote.

Terceiro, os tipos de pergunta são semelhantes, mas os limites não são idênticos. Ambos suportam sim/não, escolha e pontuação. O Gemini limita escolha e pontuação a 2–255 opções ou níveis e restringe a probabilidade de sim/não a 0.01–0.99, portanto qualquer limite definido no seu código Drex acima de 0.99 nunca é acionado silenciosamente após o porte. Verifique cada constante de limite na base de código, não apenas as que estão no arquivo de configuração.

Onde um router se encaixa e onde não

O OrcaRouter não oferece nem gemini-decision-1 nem drex-max. Ambos são endpoints apenas de probabilidades, e um roteador no nosso formato fica à frente de alvos de chat-completions; afirmar o contrário seria uma alegação de disponibilidade que falha já na primeira requisição. O papel do roteador nesta migração é a parte do pipeline que não é o scorer.

Quase todo serviço de decisão é preparado antes de ser avaliado: um modelo generativo extrai cláusulas candidatas, propõe a rubrica ou resume o registro no contexto compartilhado que o modelo de decisão então lê. É nessa chamada de preparação que a escolha do fornecedor realmente importa e que um segundo contrato prejudica, e ela pode abranger mais de 200 modelos em um único endpoint, com o preço de tabela do provedor repassado com 0% de margem. A DSL de roteamento importa mais aqui do que em um produto de chat, porque as chamadas de preparação são heterogêneas — um modelo barato para triagem, um modelo de contexto longo para o registro de 180.000 tokens — e expressar isso como regras supera expressá-lo como três SDKs.

O limite honesto: o failover protege a chamada de redação, não a chamada de pontuação. Há um único lugar para enviar uma solicitação de decisão e, se ele estiver indisponível, seu serviço estará indisponível. Se essa dependência for inaceitável, o padrão de dois modelos acima não é apenas uma medida de precisão — é a única redundância real disponível, porque é a única maneira de ter dois endpoints de pontuação independentes.

Conclusão

Mude para o Gemini Decision 1 se suas decisões tiverem formato de conhecimento, se a velocidade importar ou se você quiser um contexto compartilhado grande o suficiente para comportar um registro inteiro de uma só vez. Fique no Drex Max v1.1 se elas tiverem formato de documento — e a taxa de aprovação indica que provavelmente têm, já que a extração de documentos é o que a maioria das cargas de trabalho de decisão acaba sendo quando você olha de perto. Execute os dois se uma resposta errada for cara e considere no orçamento a proporção de custo de três para um antes de prometer economia a alguém. A migração é um dia de trabalho e um trimestre de ajustes; a decisão de fazê-la depende de a qual componente do índice sua carga de trabalho realmente se assemelha.