Spostare un carico di lavoro decisionale da Drex Max a Gemini Decision 1

Il porting sembra un cambio di URL e non lo è. Drex Max v1.1 e Gemini Decision 1 accettano entrambi un blocco di contesto e un insieme di domande tipizzate e restituiscono probabilità, quindi il primo pomeriggio di una migrazione fila liscio: rinomini il campo, indirizzi il client verso un base path diverso, esegui la suite di test. Quello che fallisce è la seconda settimana, quando arriva il volume e i due modelli di fatturazione si rivelano in disaccordo su cosa stai effettivamente acquistando. Questo è il resoconto di ciò che deve realmente cambiare, scritto per chi ha un'integrazione funzionante con Drex Max v1.1 e si chiede se il punteggio di punta del modello più recente giustifichi il passaggio.

Parti dalla versione onesta del compromesso. Su Artificial Analysis Decision Index v2.1, Drex Max v1.1 ottiene 73 e Gemini Decision 1 ottiene 66. Vince il modello più vecchio, e vince con 6,6 punti di scarto, la maggior parte dei quali nella componente che pesa per il 30% del punteggio composito. Se il tuo carico di lavoro è il triage documentale, la migrazione è un downgrade mascherato da upgrade. Se è qualcos'altro, continua a leggere, perché i due endpoint non sono così simili come suggeriscono le forme delle loro richieste.

La differenza che non compare in nessuna classifica

Drex Max v1.1 assegna a ogni domanda un budget dedicato di 131.072 token. Gemini Decision 1 assegna all'intera richiesta 262.144 token, condivisi tra l'input e ogni domanda in essa contenuta. Queste due frasi descrivono la stessa categoria di prodotto e producono consigli tecnici opposti.

Su Drex, porre 200 domande costa 200 budget separati, e il tetto pratico di una richiesta è il tuo limite di frequenza anziché il contesto. Su Gemini Decision 1, 200 domande e un contratto da 200.000 token non entrano nella stessa richiesta: 200.000 token di input lasciano 62.144 per le domande e le istruzioni, il che è comodo, ma un input da 250.000 token lascia 12.144 e la richiesta fallisce. Il tetto è reale, è condiviso e cambia a seconda di quanto invii.

Questa è la singola modifica più probabile che rompa un'integrazione Drex funzionante, perché la modalità di errore non si manifesta come un errore a bassi volumi. Una suite di test che pone 20 domande su un documento da 30.000 token rientra comodamente in entrambi i sistemi. La produzione, con un record da 180.000 token e 900 domande, rientra in uno e non nell'altro.

Cosa nasconde il prezzo per token

Drex Max v1.1 è indicato a $0,03 per milione di token di input come prezzo di lancio rispetto a una tariffa di listino di $0,06, e Gemini Decision 1 è a $0,10. Nessuno dei due addebita l'output. Guardando solo quella colonna, Drex costa da 1,7 a 3,3 volte meno, il che basta a chiudere la discussione per un team ad alto volume.

Misurato per attività, il divario si restringe. Artificial Analysis colloca Drex Max v1.1 a 103 dollari per milione di attività decisionali e Gemini Decision 1 a 345 dollari, un rapporto di circa 3,3: un confronto sui prezzi di listino, non sul prezzo di lancio. Il motivo è che Gemini Decision 1 legge più token per arrivare a una risposta. Il suo contesto condiviso è grande il doppio e i punteggi delle sue componenti suggeriscono che fa passare più input per ogni domanda, non meno. Per attività, lo scarto onesto è di circa tre a uno a favore di Drex, e lo sconto di lancio è una condizione temporanea che non sopravvivrà al tuo secondo rinnovo contrattuale.

Il che significa che la domanda sul prezzo non è "quale costa meno" ma "per quale frazione dei tuoi compiti pagheresti 3× pur di farla giusta". Una regola che instrada i ticket di supporto verso una coda non vale nulla se sbaglia il 5% delle volte in più rispetto all'alternativa. Una regola che segnala una clausola contrattuale per la revisione legale vale subito la differenza.

La gestione dei documenti è da dove provengono i punteggi.

Il divario composito di 6,6 punti non è distribuito in modo uniforme, e l'argomento sulla migrazione dipende dal sapere dove si annida.

• AA-Paperclip, peso 30% — Drex Max v1.1 ottiene 72,8 e supera direttamente il 63% dei documenti nel test tutto-o-niente; Gemini Decision 1 ottiene 56,8 e ne supera il 33%. Questa singola componente è responsabile della maggior parte della differenza nel punteggio composito.

• When2Call, 10% — Drex 95,3 contro l'80,5 di Gemini, un divario di 14,8 punti nel giudizio sul tool-calling, il vantaggio proporzionale più ampio che Drex detiene in qualsiasi ambito.

• EvalSafe-O*NET-AA, 15% — 88,3 contro 87,1. Un errore di arrotondamento, e l'unico test attinente alla sicurezza del set.

• AA-Omniscience-Decision v1.1, 15% — Drex 60.3, Gemini 66.3. Il vantaggio di Gemini, e il motivo per cui la copertura del suo lancio ha puntato sulla conoscenza.

• HLE-MultiChoice v1.1, 15% — Drex 46.6, Gemini 48.7. Margine ristretto, ed entrambi i modelli rifiutano abbastanza spesso di rispondere anziché indovinare, per cui l'accuratezza grezza è molto inferiore a questi numeri.

• AA-Symmetry v1.1, 15% — Drex 79,8 contro 70,5. Se la risposta sopravvive al fatto che la domanda venga riordinata, rietichettata e negata, che è la cosa più vicina a un test di stabilità sul tabellone.

Due di quelle righe meritano un secondo sguardo prima di decidere. Nell'estrazione di documenti Drex è quasi due volte più affidabile su una metrica rigorosa, e sulla simmetria è più stabile di nove punti — il che significa che una pipeline basata su Drex produce meno risposte che cambiano quando la stessa domanda è formulata in modo diverso. Se il tuo prodotto mostra un'unica risposta all'utente, l'instabilità è una segnalazione di bug. Se alimenta un punteggio a valle, l'instabilità è varianza che puoi mediare.

Velocità, e le ragioni per mantenerli entrambi

Drex Max v1.1 esegue un'attività in una mediana di 283 millisecondi. Gemini Decision 1 esegue la stessa attività in 211. Il modello più recente è più veloce nonostante svolga più lavoro, ed è l'unico punto in cui la migrazione offre un vantaggio senza riserve. Per un controllo sincrono prima di un'azione rivolta all'utente, 70 millisecondi non sono cosa da nulla.

Velocità, prezzo e accuratezza raramente si allineano così nettamente in un’unica direzione, e qui non accade: Gemini è più veloce e peggiore, Drex è più lento e migliore, e il rapporto di costo segue quello di qualità anziché quello di latenza. È il segno distintivo di due modelli con design davvero diversi, più che di uno che rappresenti un miglioramento netto.

Che è la raccomandazione effettiva. Un servizio decisionale che ha un solo modello di scoring ha un unico punto di fallimento e un'unica opinione. Eseguire entrambi costa una seconda integrazione e offre in cambio un segnale di disaccordo: quando i due modelli restituiscono risposte diverse con elevata confidenza, il caso è realmente ambiguo e probabilmente non dovrebbe essere automatizzato. Quel pattern è vecchio, è noioso e intercetta errori che nessun punteggio di confidenza di un singolo modello intercetterà.

Il porting della chiamata stessa

La parte meccanica è più piccola della parte contabile, con tre trappole da menzionare prima di iniziare.

Innanzitutto, Drex viene chiamato su /v1/systemone con l'id del modello fissato a drex-max; l'alias drex-latest presente nella guida rapida non è l'id fissato, e usarlo significa che il modello cambia sotto di te senza un deploy. Gemini Decision 1 ha il problema opposto: non esiste alcun alias, solo gemini-decision-1, e una richiesta che nomea gemini-decision non verrà risolta. Fissa il pin su entrambi i lati e tratta l'id del modello come un numero di versione nella tua configurazione, non come una costante nel tuo codice sorgente.

In secondo luogo, i limiti sui media non sono trasferibili. Drex Max v1.1 accetta fino a 8 immagini per richiesta. Gemini Decision 1 accetta testo, immagini, audio, video e PDF con limiti di 100 MB per base64 inline, 50 MB per PDF e 15 MB per URL HTTPS, e rifiuta categoricamente i link YouTube e gli URI gs://. Una pipeline Drex che raggruppa otto scansioni di pagina per richiesta diventa una pipeline Gemini che o invia le pagine come un unico PDF o suddivide il batch.

Terzo, i tipi di domanda sono simili ma i limiti non sono identici. Entrambi supportano sì/no, scelta e punteggio. Gemini limita scelta e punteggio a 2–255 opzioni o livelli e vincola la probabilità sì/no a 0,01–0,99, quindi qualsiasi soglia impostata dal tuo codice Drex sopra 0,99 non scatterà mai, silenziosamente, dopo il porting. Controlla ogni costante di soglia nella base di codice, non solo quelle nel file di configurazione.

Dove un router è adatto, e dove no

OrcaRouter non include né gemini-decision-1 né drex-max. Entrambi sono endpoint che restituiscono solo probabilità, e un router come il nostro si pone davanti a target chat-completions; sostenere il contrario sarebbe un'affermazione di disponibilità che fallisce alla prima richiesta. In questa migrazione, il router serve per la parte della pipeline che non è lo scorer.

Quasi ogni servizio decisionale viene redatto prima di essere valutato: un modello generativo estrae clausole candidate, propone la rubrica o riassume il fascicolo nel contesto condiviso che il modello decisionale legge poi. È proprio nella chiamata di redazione che la scelta del fornitore conta davvero e che un secondo contratto pesa, e può essere eseguita su oltre 200 modelli su un unico endpoint con il prezzo di listino del fornitore trasferito a un ricarico dello 0%. Il DSL di routing conta più qui che in un prodotto di chat, perché le chiamate di redazione sono eterogenee — un modello economico per il triage, un modello a contesto lungo per il fascicolo da 180.000 token — ed esprimerlo come regole è meglio che esprimerlo come tre SDK.

Il limite onesto: il failover protegge la chiamata di stesura, non la chiamata di valutazione. C'è un solo punto a cui inviare una richiesta di decisione, e se non è disponibile il tuo servizio non è disponibile. Se questa dipendenza è inaccettabile, il pattern a due modelli sopra non è solo una misura di accuratezza — è l'unica vera ridondanza disponibile, perché è l'unico modo per avere due endpoint di valutazione indipendenti.

In definitiva

Passa a Gemini Decision 1 se le tue decisioni sono di tipo conoscitivo, se la velocità conta o se vuoi un contesto condiviso abbastanza ampio da contenere un intero record in una volta. Resta su Drex Max v1.1 se sono di tipo documentale — e il tasso di superamento dice che probabilmente è così, dato che l'estrazione di documenti è ciò che la maggior parte dei carichi di lavoro decisionali si rivela essere quando ci si guarda davvero. Esegui entrambi se una risposta sbagliata costa cara, e metti in budget il rapporto di costo di tre a uno prima di promettere un risparmio a chiunque. La migrazione è un giorno di lavoro e un trimestre di ottimizzazione; la decisione da prendere riguarda a quale componente dell'indice il tuo carico di lavoro assomiglia davvero.