Cartão de título para a análise do agente de navegador GPT-6.1 Terra
Guides & Insights

GPT-6.1 Terra para Agentes de Navegador: A Matemática por Etapa por Trás de 74,2%

Autor

Elias Hawthorne

Data de publicação

Modelos mais recentes · 20Ver todos os modelos →
Benchmarks: Artificial Analysis · atualizado diariamente
Voltar para todas as publicações

O argumento de venda da OpenAI para o GPT-6.1 Terra não é que ele seja mais inteligente. É que ele consegue operar uma tela — preencher um formulário, ler um desenho técnico, navegar por um aplicativo com cliques — e fazer isso de forma barata e rápida. O benchmark que sustenta a alegação é o OSWorld 2.1, no qual o Terra obtém 74,2% no esforço máximo de raciocínio, a 1,7 pontos do GPT-6.1 Sol em xhigh e a 1,6 pontos do GPT-6 Astra. O número que importa para um agente, porém, não é a pontuação da tarefa. É a confiabilidade por etapa implícita nessa pontuação, porque agentes falham etapa por etapa, não tarefa por tarefa.

Este artigo destrincha os 74,2%: o que o OSWorld mede, o que isso implica por etapa, quanto custa uma tarefa de vinte etapas, onde o loop quebra e as salvaguardas que impedem um agente com 74% de precisão de se tornar um incidente com 0% de precisão.

O que o placar diz

• GPT-6.1 Terra — 74,2% no OSWorld 2.1 em esforço máximo.

GPT-6.1 Sol — 75,9% em xhigh.

• GPT-6 Astra — 75,8%.

• Claude Opus 5.5 — 81,8%.

• Claude Sonnet 5.5 — 80,1%.

• Kimi K3.1 Pro — 79,6%.

Vale separar três leituras. Dentro da família GPT-6, Terra está a um erro de arredondamento de distância de seus irmãos mais caros — a diferença de preço quase não compra nada em automação de desktop. Entre fornecedores, toda a família fica atrás da Anthropic por seis a sete pontos. E a alegação da própria Terra, associada ao fornecedor — aproximadamente no mesmo nível do GPT-6 Astra no medium no Agents’ Last Exam, a um décimo do preço por token — é uma alegação por tarefa que o número do OSWorld em grande parte sustenta.

Da pontuação da tarefa à confiabilidade por etapa

As tarefas do OSWorld são pontuadas como aprovadas ou reprovadas após uma sequência de ações. Se uma tarefa leva cerca de vinte etapas e o Terra conclui 74,2% das tarefas de ponta a ponta, a taxa de sucesso implícita por etapa é a raiz vigésima de 0,742 — cerca de 98,5%. Isso é uma ilustração aritmética, não uma medição: algumas tarefas são mais curtas, algumas são mais longas, e as falhas não são independentes. Mas isso estabelece a escala corretamente. Um modelo que parece um modelo de 74% é, na verdade, um modelo de 98,5% por etapa, e é nessa lacuna que reside o design de agentes.

Faça a conta ao contrário para um fluxo de trabalho de cinquenta etapas. Com a mesma taxa por etapa, o sucesso ponta a ponta cai para cerca de 47%. Com oitenta etapas, fica em 30%. A pontuação da tarefa não muda; o fluxo de trabalho muda, e é por isso que “bom o suficiente para um agente” depende inteiramente de quanto tempo o agente roda sem supervisão.

Quanto custa uma tarefa

Suponha 3.000 tokens de entrada por etapa — uma captura de tela, mais o estado da tarefa, mais o histórico de ações — e 150 tokens de saída para a ação, ao longo de vinte etapas.

• Por tarefa: 60.000 de entrada a US$ 1 por milhão é US$ 0,06; 3.000 de saída a US$ 5 por milhão é US$ 0,015. Total: US$ 0,075.

• Com uma taxa de repetição de 30%: cerca de $0,0975 por tarefa bem-sucedida, ou $98 por mil tarefas.

A mesma carga de trabalho no GPT-6.1 Sol a $2/$10: $0,15 por tarefa, $195 por mil.

• No GPT-6 Astra a $10/$50: $0,75 por tarefa, $975 por mil.

No Claude Opus 5.5, a US$ 4/US$ 20: US$ 0,30 por tarefa, US$ 390 por mil.

As suposições sobre tokens importam mais do que a proporção de preços. As capturas de tela dominam o custo de entrada, e o tamanho da captura de tela é uma escolha: um PNG completo de 1440×900 custa muito mais tokens do que uma região de interesse recortada. Um pipeline que envia uma captura de tela recortada por etapa em vez da área de trabalho inteira pode reduzir os tokens de entrada pela metade, o que reduz pela metade o custo por tarefa e altera o ranking em relação aos modelos mais precisos.

Latência é o produto.

A Artificial Analysis mede o Terra em 90,9 tokens de saída por segundo e 133,64 segundos até o primeiro token em seu benchmark de raciocínio, contra 73,5 tokens por segundo e 284,31 segundos para o GPT-6.1 Sol. Esses números de latência vêm de uma tarefa de raciocínio com esforço máximo, então superestimam o atraso por etapa em um loop de agente — mas a proporção, um pouco acima de 2×, é o indicador correto de quanto tempo cada modelo pensa antes de agir.

Em um loop de agente, o tempo de raciocínio se acumula vinte vezes por tarefa. Se Sol leva quatro segundos por etapa e Terra, dois, uma tarefa de vinte etapas termina em 40 segundos em vez de 80. O funcionário da OpenAI Victor E. Nunez relatou que Terra concluiu um formulário web mais de dois minutos mais rápido que Sol; isso é uma anedota, não um benchmark, mas é o tipo de diferença que os usuários percebem sem que lhes digam.

Onde o loop se rompe

• Ações irreversíveis. Submeter, enviar, excluir, pagar — qualquer ação com efeito colateral precisa de uma aprovação prévia. Nenhuma alteração na pontuação de benchmark muda isso.

• Interfaces ambíguas. Dois botões rotulados “Continuar” derrotam um modelo a qualquer preço; a solução é higiene de prompt e de capturas de tela.

• Horizontes longos. A matemática por etapa acima é todo o argumento contra o trabalho de longo horizonte não supervisionado com 98,5% por etapa.

• Capturas de tela desatualizadas. Um quadro capturado antes de uma mudança de layout está errado, e um quadro errado produz um clique errado com confiança.

• Estado que persiste entre abas. Agentes baseados em capturas de tela veem uma janela por vez; fluxos de trabalho com várias abas precisam de rastreamento explícito de estado fora do modelo.

Guardrails que tornam 74% pronto para entrega

• Limite o número de etapas, não apenas os dólares. Vinte é ao mesmo tempo um orçamento e um controle de segurança; um laço que não pode terminar é o modo de falha mais custoso.

• Restrinja os efeitos colaterais. Encaminhe qualquer ação que altere o estado externo por meio de um humano ou de uma verificação de política.

• Registre o quadro junto com a ação. Quando o agente faz algo errado, o único artefato útil é a captura de tela sobre a qual ele agiu.

• Use saídas estruturadas para o esquema de ação. Uma ação em texto livre é impossível de analisar exatamente no momento em que você precisa de certeza.

• Meça por etapa, não por tarefa. Uma regressão de 2% por etapa é invisível nas pontuações por tarefa e dobra a taxa de falhas ao longo de cinquenta etapas.

• Mantenha um segundo modelo nas etapas difíceis. Terra para frames de rotina, um modelo mais forte para os ambíguos, é mais barato do que Terra com novas tentativas.

O que correr hoje

O GPT-6.1 Terra não está no catálogo do OrcaRouter no momento em que escrevo, então a variante Terra precisa ser testada diretamente contra a OpenAI. O conjunto de comparação já está ativo do nosso lado com 0% de margem sobre o preço de tabela do provedor — GPT-6.1 Sol a $2/$10, GPT-6 Astra a $10/$50, Claude Opus 5.5 a $4/$20, Claude Sonnet 5.5 a $2/$10 e Kimi K3.1 Pro a $2/$10 — tudo em uma única chave com failover automático.

O experimento que vale a pena executar não é “qual modelo obtém a maior pontuação no OSWorld”. É o seu próprio conjunto de tarefas, pontuado por etapa, com a política de captura de tela mantida constante. Essa medição decide se o preço e a velocidade do Terra valem a diferença de 7,6 pontos para o Claude Opus 5.5 nas tarefas que você realmente executa — e é o único número sobre o qual um produto de agente pode ser construído.

A chart comparing GPT-6.1 Terra, GPT-6.1 Sol, GPT-6 Astra and Claude Opus 5.5 on OSWorld score, per-task cost, measured throughput and implied per-step success rateScreenshot of OpenAI's model documentation for GPT-6.1 Terra showing computer use as a Responses API tool and the 1.05M-token context windowScreenshot of the OrcaRouter model page for Claude Opus 5.5, the highest-scoring computer-use model in this comparison

Comparados neste artigo2

Detectado a partir deste artigo · Benchmarks: Artificial Analysis · atualizado diariamente