Gemini Decision 1 vs Laya: 262.144 token noleggiati contro 512 token posseduti

Due modelli decisionali, due numeri che descrivono la stessa scelta progettuale da estremi opposti. Gemini Decision 1 accetta in input 262.144 token e fino a 1.000 domande digitate in un'unica chiamata, a 0,10 $ per milione di token di input, sull'API di Google. Laya accetta 512 token di testo sul suo checkpoint inglese, gira su una T4 che già paghi ed è Apache-2.0. È un fattore 512 sulla finestra e infinito sul prezzo, in direzioni opposte, e nessun benchmark salva il confronto perché i due modelli non sono costruiti per lo stesso lavoro.

Convai Innovations ha pubblicato Laya il 18 settembre 2026 come tre checkpoint in un unico repository: un modello inglese ModernBERT-large da 421M, un modello multilingue mmBERT-base da 322M e una variante a decisioni tipizzate. Google ha rilasciato Gemini Decision 1 l'11 novembre 2026 e non ha pubblicato i pesi, un conteggio dei parametri né un modello base. L'unico numero rispetto al quale entrambi possono essere collocati è una classifica che ne riporta solo uno: Gemini Decision 1 si trova a 66 sull'Artificial Analysis Decision Index v2.1, nono su diciotto, e Laya non è presente in quella classifica.

Cosa esclude una finestra di 512 token prima di colazione

Parti dal vincolo, perché elimina intere categorie di prodotti più in fretta di qualsiasi valore di accuratezza.

• Input condiviso — Gemini Decision 1 legge fino a 262.144 token, coprendo l'input e ogni domanda. Il checkpoint inglese di Laya ne legge 512, punto e basta. Il checkpoint multilingue parte da 1.024 e può essere portato a 8.192 con max_len=8192; a quel punto la scheda di Convai stessa riporta 16-18 richieste su 20 corrette su documenti lunghi, con un contesto fino a circa 4.000 token, e "oltre tale soglia i risultati variano".

• Modalità — Gemini Decision 1 accetta testo, immagini, video, audio e PDF nella stessa richiesta. Laya accetta testo. Un modulo di richiesta scansionato, la registrazione di una chiamata o la foto di un prodotto non sono un input finché qualcosa a monte non li ha convertiti in parole, e quella conversione è un modello separato con un costo separato e i propri errori.

• Domande per chiamata — fino a 1.000 per Gemini Decision 1, isolate l'una dall'altra, in un'unica passata. Laya risponde alle domande che invii con uno stato, e la sua documentazione fissa il limite pratico intorno a cinquanta opzioni per domanda a scelta, prima che il budget di token per opzione del modello si riduca.

• Prezzo — $0,10 per milione di token di input per Gemini Decision 1, misurato a $345 per milione di attività da Artificial Analysis, senza context caching e senza Batch API. Laya è un download: circa 808 MB per il checkpoint inglese, nessun costo per chiamata e una T4 in esecuzione a circa 32,8 millisecondi per decisione.

• Licenza e distribuzione — pesi Apache-2.0, nessuna dipendenza ospitata e un entry point pip install laya. Gemini Decision 1 è disponibile solo sull'API Gemini Developer in v1beta, con un livello gratuito a 200 richieste al minuto e un elenco documentato delle funzionalità supportate e non supportate.

Il tabellone riporta uno di questi due, e non è un pareggio.

Il 66 di Gemini Decision 1 è un punteggio composito di sei valutazioni ponderate, il 45% delle quali si basa su dati privati, calcolato come accuratezza meno la penalità di Brier associata alla risposta. I suoi punti di forza e di debolezza sono insolitamente netti per un modello al debutto: primo su diciotto in AA-Omniscience-Decision con 66,3 e primo in HLE-MultiChoice con 48,7, ma nono in AA-Paperclip con 56,8 e un tasso di superamento dei documenti tutto-o-niente del 33%, e quattordicesimo in When2Call con 80,5. Nono complessivamente, primo dove vengono testate conoscenza e astensione, a metà classifica dove vengono testate estrazione e scelta degli strumenti.

Laya non ha un dato comparabile, e il progetto ne spiega il motivo nella propria scheda. I checkpoint di base ottengono 0,362 in zero-shot sul benchmark delle decisioni tipizzate — al di sotto della baseline di classe maggioritaria di 0,461, e vicino al caso casuale. Il valore di punta di 0,766 richiede fine-tuning sullo split di addestramento dello stesso benchmark. La frase di riepilogo di Convai è quella da portare in qualsiasi valutazione: Laya è una base veloce da specializzare, non un motore decisionale zero-shot.

Non è una debolezza da valutare negativamente rispetto al modello di un laboratorio di frontiera; è una descrizione di prodotto diversa. Gemini Decision 1 viene venduto come qualcosa che è già bravo a prendere decisioni. Laya viene venduto come qualcosa che diventa bravo nelle tue decisioni dopo che lo addestri, e a quel punto i suoi numeri pubblicati — 0,766 contro 0,727 di un modello fratello sulle decisioni tipizzate, 0,950 contro 0,910 su AG News — sono competitivi sui compiti per cui è stato addestrato.

Le due pipeline che le persone costruiscono davvero

Poiché le capacità si sovrappongono appena, la formulazione onesta non è «quale», ma «quale di questi due compiti hai».

Il compito per cui Gemini Decision 1 è adatto. Arriva un input lungo — un contratto di 60 pagine, un'ora di audio di una chiamata, una cartella di fatture scansionate — e bisogna applicarvi molti giudizi. Quaranta regole di policy su un singolo ticket in un'unica lettura fatturata; una rubrica valutata su cento risposte candidate; una decisione di routing che dipende da prove sparse in un documento che nessuno vuole suddividere in chunk. La documentazione di Google stessa cita esattamente questi casi: routing delle richieste, controlli di policy su molte regole contemporaneamente, valutazione dei candidati rispetto a una rubrica, selezione degli strumenti, classificazione a bassa latenza su media in tempo reale. Il limite di 1.000 domande e l'input multimodale sono l'intera ragione per cui il prodotto esiste, e sono le due cose che Laya non può fare a nessun prezzo.

Il lavoro per cui Laya è adatta. Uno stato breve e una sola decisione, a un volume in cui il costo per chiamata è il vincolo e l'insieme di etichette è il tuo. Triage dei ticket verso la tua tassonomia, classificazione delle intenzioni, un gate sì/no prima che venga eseguito un modello costoso. Un encoder da 421M su una T4 a 32,8 millisecondi è praticamente gratis per chiamata e, poiché lo spazio delle risposte viene assemblato per richiesta anziché incorporato in una testa di vocabolario, uno schema che inventi questo pomeriggio non richiede alcun riaddestramento per essere accettato — anche se richiede dati di addestramento per essere accurato.

La combinazione non è esotica: Laya come primo stadio veloce che gestisce l'80% del traffico per cui è stata addestrata, e un grande scorer ospitato per gli elementi che richiedono evidenza da un input lungo o non testuale. Questo schema costa meno che inviare tutto a Google e fallisce in modo più controllato rispetto a eseguire un encoder da 421M su un contratto.

Dove si colloca davvero il confronto dei costi

A bassi volumi, l’economia di Laya è imbattibile e irrilevante. Una T4 costa qualche centinaio di dollari al mese, che tu la usi o no; un milione di attività Gemini Decision 1 a $345 è una voce di spesa che qualcuno deve approvare. Al di sotto di qualche centinaio di migliaia di decisioni al mese, l’endpoint ospitato di solito vince già solo in termini di ore di ingegneria — non c’è alcun addestramento da eseguire, nessun set di etichette e nessuno stack di serving.

Ad alto volume l’aritmetica si ribalta, con un’avvertenza che conta più del punto di incrocio: il costo marginale di Laya è quasi zero solo se il modello performa già sul tuo compito. Se non lo fa, le etichette sono il vero costo. La scheda di Convai è esplicita sul fatto che è il fine-tuning a produrre i numeri pubblicati, quindi il confronto onesto è $345 per milione di attività ospitate contro una GPU più il costo di etichettare abbastanza esempi da raggiungere una calibrazione di cui fidarti. Nessuno dei due è una tariffa per token, e un confronto che finge il contrario mette a confronto un prezzo di noleggio con un progetto di costruzione.

Poi c’è il profilo di latenza, ed è qui che i due prodotti smettono del tutto di essere sostituti. Gemini Decision 1 misura 211 millisecondi per attività sull’indice: un valore adeguato per un salto di routing dietro un messaggio di un cliente, marginale per un ciclo frame-by-frame. I 32,8 millisecondi di Laya su una T4 sono il numero che rende possibili decisioni a ogni frame e a ogni pressione di tasto, ed è l’unico vantaggio che nessuna quantità di infrastruttura Google può colmare, perché deriva dall’essere un modello da 421M parametri anziché un modello multimodale su scala frontier.

Instradamento della parte che non è né l'una né l'altra

OrcaRouter non supporta nessuno dei due modelli. Laya è un modello con pesi Apache-2.0 che esegui tu stesso, e Gemini Decision 1 è un endpoint di sole probabilità sull'API proprietaria di Google: un modello decisionale non è una destinazione chat-completions, e non elenchiamo ciò che non possiamo servire. Il modello decisionale nel catalogo è typesafe/jev-1.14 di TypeSafe, a 66.23 sullo stesso indice, se per te conta una chiamata di scoring su una singola chiave.

La chiamata che invece va messa dietro un router è quella da cui entrambi questi modelli dipendono e che nessuno dei due esegue: il passaggio di conversione. La finestra da 512 token di Laya significa che un modello upstream deve trasformare il documento, la registrazione o lo screenshot in uno stato breve prima che Laya possa giudicarlo, e il costo per attività di Gemini Decision 1 è dominato dalla quantità di contesto che gli si passa. Scegliere e sostituire quel modello upstream è la decisione ricorrente in questa pipeline, ed è quella per cui siamo nati: più di 200 modelli dietro un'unica chiave compatibile con OpenAI, prezzo di listino del provider passato attraverso con 0,0% di ricarico così un taglio del fornitore è attivo lo stesso giorno, e failover automatico quando un provider si degrada. Scrivi una volta sola contro il router, e l'encoder che possiedi e lo scorer che noleggi restano entrambi sostituibili.

Cosa fare questa settimana

Se il tuo input è più lungo di una pagina, contiene qualcosa che non è testo o richiede più di una manciata di domande a cui rispondere, Laya non è un candidato e la decisione è tra Gemini Decision 1 e i suoi peer ospitati in termini di prezzo e tasso di superamento. La documentazione di Google elenca in un paragrafo ciò che il modello supporta; leggila prima di progettare su questa base, perché l’elenco di ciò che non è supportato — nessuna cache, nessun batch, nessun Flex o Priority, nessun contenuto multimediale all’interno delle istruzioni delle domande — è più lungo di quello supportato.

Se il tuo input è una frase o un breve blob JSON e il tuo set di etichette è il tuo, il modello ospitato è il modo costoso di farlo. Scarica Laya, etichetta 500 esempi, esegui il fine-tuning e controlla la calibrazione prima di fidarti delle confidenze: è il flusso di lavoro per cui i suoi autori l'hanno progettato, e la loro scheda è insolitamente chiara riguardo al divario tra il checkpoint di base e quello con fine-tuning.

Quello che non devi fare è confrontare 66 con un numero della scheda di Laya. Sono stati prodotti con strumenti diversi: uno è un punteggio zero-shot inferiore alla baseline di maggioranza, e l'altro è un composito ponderato di sei valutazioni su dati privati. L'unico confronto che valga la pena effettuare è sui tuoi elementi etichettati, e solo uno di questi due modelli può essere eseguito in quel modo.