Gemini Decision 1 vs Laya: 262.144 gehuurde tokens tegenover 512 eigen tokens

Twee beslissingsmodellen, twee getallen die dezelfde ontwerpkeuze van tegenovergestelde kanten beschrijven. Gemini Decision 1 verwerkt in één aanroep een invoer van 262.144 tokens en maximaal 1.000 getypte vragen, tegen $0,10 per miljoen invoertokens, via Google's eigen API. Laya verwerkt 512 tokens tekst op zijn Engelse checkpoint, draait op een T4 waarvoor je al betaalt, en is Apache-2.0. Dat is een factor 512 wat betreft het contextvenster en oneindig qua prijs, in tegengestelde richtingen, en geen enkele benchmark redt de vergelijking, omdat de twee modellen niet voor dezelfde taak zijn gebouwd.

Convai Innovations publiceerde Laya op 18 september 2026 als drie checkpoints in één repository: een ModernBERT-large-model van 421M voor Engels, een meertalig mmBERT-base-model van 322M en een variant met getypeerde beslissingen. Google bracht op 11 november 2026 Gemini Decision 1 uit en publiceerde geen gewichten, geen parameteraantal en geen basismodel. Het enige getal waarmee beide kunnen worden vergeleken, is een scorebord waarop slechts één van hen voorkomt: Gemini Decision 1 staat op 66 op de Artificial Analysis Decision Index v2.1, negende van achttien, en Laya staat niet op dat bord.

Wat een 512-tokenvenster vóór het ontbijt uitsluit

Begin met de beperking, want die elimineert hele productcategorieën sneller dan welk nauwkeurigheidscijfer dan ook.

• Gedeelde invoer — Gemini Decision 1 leest tot 262.144 tokens, inclusief de invoer en elke vraag. Laya's Engelse checkpoint leest 512 tokens, punt uit. Het meertalige checkpoint gebruikt standaard 1.024 en kan met max_len=8192 worden opgeschroefd naar 8.192, waarbij Convai's eigen kaart meldt dat 16 tot 18 van de 20 verzoeken met lange documenten correct zijn bij een context van ongeveer 4.000 tokens en dat "daarbuiten de resultaten variëren".

• Modaliteit — Gemini Decision 1 accepteert tekst, afbeelding, video, audio en PDF in hetzelfde verzoek. Laya accepteert tekst. Een gescand claimformulier, een gespreksopname of een productfoto is pas invoer nadat iets stroomopwaarts het naar woorden heeft omgezet, en die conversie is een afzonderlijk model met afzonderlijke kosten en eigen fouten.

• Vragen per aanroep — tot 1.000 voor Gemini Decision 1, van elkaar geïsoleerd, in één keer. Laya beantwoordt de vragen die je verstuurt met één state, en de eigen documentatie ervan stelt het praktische plafond op ongeveer vijftig opties per keuzevraag, waarna het tokenbudget per optie van het model krap wordt.

• Prijs — $0,10 per miljoen inputtokens voor Gemini Decision 1, gemeten op $345 per miljoen taken door Artificial Analysis, zonder contextcaching en zonder Batch API. Laya is een download: ongeveer 808 MB voor het Engelse checkpoint, geen kosten per aanroep, en een T4 die ongeveer 32,8 milliseconden per beslissing draait.

• Licentie en distributie — Apache-2.0-gewichten, geen gehoste afhankelijkheid, en een pip install laya-toegangspunt. Gemini Decision 1 is alleen beschikbaar op de Gemini Developer API in v1beta, met een gratis niveau van 200 aanvragen per minuut en een gedocumenteerde lijst van ondersteunde en niet-ondersteunde mogelijkheden.

Op het scorebord staat een van deze twee, en dat is geen gelijkspel.

De 66 van Gemini Decision 1 is een samengestelde score van zes gewogen evaluaties, waarvan 45% is gebaseerd op privégegevens, gescoord als nauwkeurigheid minus de Brier-straf die aan het antwoord is gekoppeld. Zijn sterke en zwakke punten zijn ongewoon duidelijk voor een model op de lanceerdag: eerste van achttien op AA-Omniscience-Decision met 66,3 en eerste op HLE-MultiChoice met 48,7, maar negende op AA-Paperclip met 56,8 met een alles-of-niets-documentpasspercentage van 33%, en veertiende op When2Call met 80,5. Negende overall, eerste waar kennis en onthouding worden getest, middenmoot waar extractie en toolkeuze worden getest.

Laya heeft geen vergelijkbaar cijfer, en het project legt in zijn eigen kaart uit waarom. De basischeckpoints scoren 0,362 zero-shot op de typed-decisions-benchmark — onder de 0,461 majority-class-baseline, en bijna willekeurig. Het kopcijfer 0,766 vereist fine-tuning op de eigen trainingssplit van die benchmark. Convai's samenvattende zin is degene die je in elke evaluatie moet meenemen: Laya is een snelle basis om op te specialiseren, geen zero-shot beslissingsengine.

Dat is geen zwakte die je kunt aanrekenen tegen het model van een frontier-lab; het is een andere productbeschrijving. Gemini Decision 1 wordt op de markt gebracht als iets dat al goed is in beslissingen. Laya wordt op de markt gebracht als iets dat goed wordt in jouw beslissingen nadat je het hebt getraind, en op dat punt zijn de gepubliceerde cijfers — 0,766 tegen 0,727 van een zustermodel op getypeerde beslissingen, 0,950 tegen 0,910 op AG News — concurrerend op de taken waarvoor het is gefit.

De twee pipelines die mensen daadwerkelijk bouwen

Omdat de capaciteiten elkaar nauwelijks overlappen, is de eerlijke formulering niet "welke van de twee", maar "welke van deze twee taken heb je".

De taak waarvoor Gemini Decision 1 geschikt is.Er komt een lange invoer binnen — een contract van 60 pagina's, een uur aan gespreksaudio, een map met gescande facturen — en daar moeten veel oordelen aan worden gekoppeld. Veertig beleidsregels over één ticket in één gefactureerde verwerking; een rubric toegepast op honderd kandidaatantwoorden; een routeringsbeslissing die afhangt van bewijs dat verspreid staat over een document dat niemand in stukken wil hakken. De eigen documentatie van Google noemt precies deze dingen: routering van verzoeken, beleidscontroles over veel regels tegelijk, kandidaten scoren aan de hand van een rubric, toolselectie, classificatie met lage latentie van live media. Het plafond van 1.000 vragen en de multimodale invoer zijn de hele reden dat het product bestaat, en het zijn de twee dingen die Laya tegen geen enkele prijs kan doen.

De taak die bij Laya past. Een korte status en één beslissing, bij een volume waarbij de kosten per aanroep de beperkende factor zijn en de labelset van jou is. Tickets triëren volgens je eigen taxonomie, intentieclassificatie, een ja/nee-poort voordat een duur model draait. Een encoder van 421M op een T4 in 32,8 milliseconden is per aanroep nagenoeg gratis, en omdat de antwoordruimte per verzoek wordt samengesteld in plaats van ingebakken in een vocabulaire-head, hoeft een schema dat je vanmiddag bedenkt niet opnieuw te worden getraind om te worden geaccepteerd — hoewel er wel trainingsdata nodig is om nauwkeurig te zijn.

De combinatie is niet exotisch: Laya als snelle eerste fase die de 80% van het verkeer afhandelt waarvoor het is getraind, en een grote gehoste scorer voor de items die bewijs nodig hebben uit een lange of niet-tekstuele invoer. Dat patroon kost minder dan alles naar Google sturen en gaat beter om met fouten dan een 421M-encoder op een contract te draaien.

Waar de kostenvergelijking uiteindelijk op uitkomt

Bij laag volume is Laya's economie onverslaanbaar en irrelevant. Een T4 kost een paar honderd dollar per maand, of je hem nu gebruikt of niet; een miljoen Gemini Decision 1-taken voor $345 is een begrotingspost die iemand moet goedkeuren. Onder een paar honderdduizend beslissingen per maand wint het gehoste endpoint meestal al op engineeringuren alleen — er is geen trainingsrun, geen labelset en geen servingstack.

Bij grote volumes slaat de rekensom om, met één voorbehoud dat belangrijker is dan het omslagpunt: Laya's marginale kosten zijn alleen bijna nul als het model al presteert op jouw taak. Zo niet, dan zijn de labels de echte rekening. Op Convai's kaart staat expliciet dat fine-tuning de gepubliceerde cijfers oplevert, dus de eerlijke vergelijking is $345 per miljoen gehoste taken tegenover een GPU plus de kosten van het labelen van genoeg voorbeelden om een calibratie te bereiken die je vertrouwt. Geen van beide is een tarief per token, en een vergelijking die doet alsof dat wel zo is, vergelijkt een huurprijs met een bouwproject.

Dan is er de vorm van de latency, en dat is precies waar de twee producten helemaal ophouden substituten voor elkaar te zijn. Gemini Decision 1 meet 211 milliseconden per taak op de index — prima voor een routing-hop achter een klantbericht, marginaal voor een frame-voor-frame-lus. Laya's 32,8 milliseconden op een T4 is het getal dat beslissingen per frame en per toetsaanslag mogelijk maakt, en dat is het enige voordeel dat geen enkele hoeveelheid Google-infrastructuur goedmaakt, omdat het voortkomt uit het feit dat het 421M parameters heeft in plaats van een multimodaal model op frontier-schaal.

Het deel routeren dat geen van beide is

OrcaRouter levert geen van beide modellen. Laya is Apache-2.0-gewichten die je zelf draait, en Gemini Decision 1 is een endpoint dat alleen waarschijnlijkheden levert op de eigen API van Google — een beslissingsmodel is geen chat-completions-doel, en we vermelden niet wat we niet kunnen aanbieden. Het beslissingsmodel in de catalogus is TypeSafe's typesafe/jev-1.14, met 66,23 op dezelfde index, als een scoring-aanroep op één sleutel voor jou van belang is.

De aanroep die wél achter een router hoort, is degene waarop beide modellen leunen en die geen van beide uitvoert: de conversiestap. Het venster van 512 tokens van Laya betekent dat een upstream-model het document, de opname of de screenshot moet omzetten naar een korte status voordat Laya erover kan oordelen, en de kosten per taak van Gemini Decision 1 worden gedomineerd door hoeveel context je eraan geeft. Het kiezen en verwisselen van dat upstream-model is de terugkerende beslissing in deze pipeline, en daar zijn we voor gebouwd: meer dan 200 modellen achter één OpenAI-compatibele sleutel, lijstprijs van de provider doorgegeven tegen 0,0% opslag zodat een prijsverlaging van een leverancier dezelfde dag actief is, en automatische failover wanneer een provider degradeert. Schrijf één keer tegen de router, en zowel de encoder die je bezit als de scorer die je huurt blijven vervangbaar.

Wat te doen deze week

Als je invoer langer is dan één pagina, iets bevat dat geen tekst is, of er meer dan een handvol vragen over beantwoord moet worden, is Laya geen kandidaat en valt de beslissing tussen Gemini Decision 1 en de gehoste peers ervan op basis van prijs en slagingspercentage. In de documentatie van Google staat in één alinea wat het model ondersteunt; lees dat voordat je eromheen ontwerpt, want de lijst met niet-ondersteunde onderdelen — geen caching, geen batch, geen Flex of Priority, geen media in vraaginstructies — is langer dan de lijst met ondersteunde onderdelen.

Als je invoer een zin of een korte JSON-blob is en je labelset je eigen set is, is het gehoste model de dure manier om het te doen. Download Laya, label 500 voorbeelden, fine-tune en controleer de kalibratie voordat je de confidence scores vertrouwt — dat is de workflow waarvoor de auteurs het hebben ontworpen, en hun eigen modelkaart is ongewoon duidelijk over het verschil tussen het basis-checkpoint en het fine-getunede checkpoint.

Wat je niet moet doen, is 66 vergelijken met een getal van Laya's kaart. Ze zijn geproduceerd op verschillende instrumenten, een ervan is een zero-shotscore onder de meerderheidsbaseline, en de andere is een gewogen samengestelde score van zes evaluaties met privégegevens. De enige vergelijking die de moeite waard is, is op je eigen gelabelde items, en slechts één van deze twee modellen kan überhaupt op die manier worden uitgevoerd.