Card del titolo per l'analisi del browser-agent GPT-6.1 Terra
Guides & Insights

GPT-6.1 Terra per gli agenti browser: la matematica per singolo passo dietro il 74,2%

Autore

Elias Hawthorne

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

La proposta di OpenAI per GPT-6.1 Terra non è che sia più intelligente. È che può gestire uno schermo — compilare un modulo, leggere un disegno tecnico, navigare un'applicazione facendo clic — e farlo a basso costo e rapidamente. Il benchmark che sostiene questa affermazione è OSWorld 2.1, in cui Terra ottiene il 74,2% con il massimo sforzo di ragionamento, entro 1,7 punti da GPT-6.1 Sol a xhigh e 1,6 punti da GPT-6 Astra. Tuttavia, per un agente il numero che conta non è il punteggio del compito. È l'affidabilità per singolo passo implicata da quel punteggio, perché gli agenti falliscono passo dopo passo, non compito per compito.

Questo articolo disseziona il 74,2%: cosa misura OSWorld, cosa implica a ogni passo, quanto costa un compito di venti passi, dove si interrompe il ciclo e quali salvaguardie impediscono a un agente accurato al 74% di trasformarsi in un incidente accurato allo 0%.

Quello che dice il tabellone

• GPT-6.1 Terra — 74,2% su OSWorld 2.1 al massimo sforzo.

• GPT-6.1 Sol — 75,9% a xhigh.

• GPT-6 Astra — 75,8%.

• Claude Opus 5.5 — 81,8%.

• Claude Sonnet 5.5 — 80,1%.

• Kimi K3.1 Pro — 79,6%.

Tre letture vanno tenute distinte. All’interno della famiglia GPT-6, Terra è a un errore di arrotondamento dai suoi fratelli più costosi — il divario di prezzo non compra quasi nulla in termini di automazione desktop. Tra i vari fornitori, l’intera famiglia è indietro di sei o sette punti rispetto ad Anthropic. E la dichiarazione di Terra, vicina a quella del fornitore — all’incirca allo stesso livello di GPT-6 Astra a medium su Agents’ Last Exam, a un decimo del prezzo per token — è una dichiarazione per singola attività che il dato di OSWorld sostiene in larga misura.

Dal punteggio del compito all'affidabilità per singolo passaggio

Le attività di OSWorld vengono valutate come riuscite o non riuscite dopo una sequenza di azioni. Se un'attività richiede circa venti passaggi e Terra completa il 74,2% delle attività dall'inizio alla fine, il tasso di successo implicito per passaggio è la radice ventesima di 0,742 — circa 98,5%. Questa è un'illustrazione aritmetica, non una misurazione: alcune attività sono più brevi, altre più lunghe, e i fallimenti non sono indipendenti. Ma stabilisce correttamente la scala. Un modello che sembra un modello al 74% è in realtà un modello al 98,5% per passaggio, e è in questo divario che risiede la progettazione degli agenti.

Facciamo il calcolo al contrario per un flusso di lavoro di cinquanta passaggi. Allo stesso tasso per passaggio, il successo end-to-end scende a circa il 47%. A ottanta passaggi è del 30%. Il punteggio del compito non cambia; cambia il flusso di lavoro, ed è per questo che “abbastanza buono per un agente” dipende interamente da quanto a lungo l’agente opera senza supervisione.

Quanto costa un'attività

Supponiamo 3.000 token di input per passo — uno screenshot più lo stato dell'attività più la cronologia delle azioni — e 150 token di output per l'azione, su venti passi.

Per attività: 60.000 token di input a 1 $ per milione = 0,06 $; 3.000 token di output a 5 $ per milione = 0,015 $. Totale: 0,075 $.

• Con un tasso di nuovi tentativi del 30%: circa $0,0975 per attività riuscita, ovvero $98 ogni 1.000 attività.

• Lo stesso carico di lavoro su GPT-6.1 Sol a $2/$10: $0,15 per attività, $195 ogni mille.

Su GPT-6 Astra a $10/$50: $0,75 per attività, $975 per mille.

• Su Claude Opus 5.5 a $4/$20: $0,30 per attività, $390 per mille.

Le assunzioni sui token contano più del rapporto di prezzo. Gli screenshot dominano il costo di input, e la dimensione dello screenshot è una scelta: un PNG completo da 1440×900 costa molti più token di una regione di interesse ritagliata. Una pipeline che invia uno screenshot ritagliato per ogni passo invece dell'intero desktop può dimezzare i token di input, il che dimezza il costo per attività e cambia la classifica rispetto ai modelli più accurati.

La latenza è il prodotto

Artificial Analysis misura Terra a 90,9 token di output al secondo e 133,64 secondi al primo token sul suo benchmark di ragionamento, contro 73,5 token al secondo e 284,31 secondi per GPT-6.1 Sol. Questi dati di latenza provengono da un compito di ragionamento a massimo sforzo, quindi sovrastimano il ritardo per passaggio in un ciclo di agente — ma il rapporto, poco più di 2×, è l'indicatore giusto di quanto a lungo ciascun modello pensa prima di agire.

In un loop di agenti, il tempo di pensiero si accumula venti volte per attività. Se Sol impiega quattro secondi per passaggio e Terra due, un’attività di venti passaggi si conclude in 40 secondi invece di 80. Il dipendente OpenAI Victor E. Nunez ha riferito che Terra ha completato un modulo web più di due minuti più rapidamente di Sol; è un aneddoto, non un benchmark, ma è il tipo di differenza che gli utenti notano senza che venga detto loro.

Dove il ciclo si interrompe

• Azioni irreversibili. Invia, manda, elimina, paga — qualsiasi azione con un effetto collaterale richiede un controllo di approvazione. Nessun punteggio di benchmark cambia questo.

• Interfacce ambigue. Due pulsanti etichettati “Continua” mettono in difficoltà qualsiasi modello, a qualunque prezzo; la soluzione è un prompt e una corretta igiene degli screenshot.

• Orizzonti lunghi. Il calcolo per passaggio sopra è l'intera argomentazione contro il lavoro non supervisionato su orizzonti lunghi al 98,5% per passaggio.

• Screenshot obsoleti. Un frame catturato prima di uno spostamento del layout è sbagliato, e un frame sbagliato produce un clic sicuro ma errato.

• Stato che persiste tra le schede. Gli agenti basati su screenshot vedono una finestra alla volta; i flussi di lavoro multi-scheda richiedono un tracciamento esplicito dello stato al di fuori del modello.

Guardrail che rendono il 74% pronto per il rilascio

• Limita i passaggi, non solo i dollari. Venti è allo stesso tempo un budget e un controllo di sicurezza; un ciclo che non può terminare è la modalità di errore più costosa.

• Controlla gli effetti collaterali. Instrada qualsiasi azione che modifichi lo stato esterno attraverso un intervento umano o una verifica delle policy.

• Registra il frame insieme all'azione. Quando l'agente sbaglia, l'unico artefatto utile è lo screenshot su cui ha agito.

• Usa output strutturati per lo schema dell'azione. Un'azione in testo libero non è analizzabile esattamente nel momento in cui hai bisogno di certezza.

• Misura per passo, non per attività. Una regressione del 2% per passo è invisibile nei punteggi delle attività e raddoppia il tasso di fallimento su cinquanta passi.

• Mantieni un secondo modello per i passaggi difficili. Terra per i frame di routine, un modello più potente per quelli ambigui, costa meno di Terra con tentativi ripetuti.

Cosa eseguire oggi

Al momento della stesura, GPT-6.1 Terra non è nel catalogo OrcaRouter, quindi la variante Terra deve essere testata direttamente rispetto a OpenAI. Il set di confronto è attivo dalla nostra parte con uno markup dello 0% rispetto al prezzo di listino del fornitore — GPT-6.1 Sol a $2/$10, GPT-6 Astra a $10/$50, Claude Opus 5.5 a $4/$20, Claude Sonnet 5.5 a $2/$10 e Kimi K3.1 Pro a $2/$10 — tutti su un'unica chiave con failover automatico.

L’esperimento che vale la pena condurre non è “quale modello ottiene il punteggio più alto su OSWorld”. È il tuo insieme di attività, valutato passo per passo, con la politica degli screenshot mantenuta costante. Quella misura decide se il prezzo e la velocità di Terra valgono il divario di 7,6 punti rispetto a Claude Opus 5.5 sulle attività che esegui effettivamente — ed è l’unico numero su cui si può costruire un prodotto agente.

A chart comparing GPT-6.1 Terra, GPT-6.1 Sol, GPT-6 Astra and Claude Opus 5.5 on OSWorld score, per-task cost, measured throughput and implied per-step success rateScreenshot of OpenAI's model documentation for GPT-6.1 Terra showing computer use as a Responses API tool and the 1.05M-token context windowScreenshot of the OrcaRouter model page for Claude Opus 5.5, the highest-scoring computer-use model in this comparison

Confrontati in questo articolo2

Rilevato da questo articolo · Benchmark: Artificial Analysis · aggiornato ogni giorno