Gemini Decision 1 vs Laya: 262 144 hyrda tokens mot 512 ägda tokens

Två beslutsmodeller, två siffror som beskriver samma designval från motsatta håll. Gemini Decision 1 tar en inmatning på 262 144 token och upp till 1 000 skrivna frågor i ett anrop, till $0.10 per miljon inmatningstoken, på Googles eget API. Laya tar 512 token text på sin engelska checkpoint, körs på ett T4 som du redan betalar för och är Apache-2.0. Det är en faktor 512 på fönstret och oändlighet på priset, i motsatta riktningar, och ingen benchmark räddar jämförelsen eftersom de två modellerna inte är byggda för samma uppgift.

Convai Innovations publicerade Laya den 18 september 2026 som tre checkpoints i ett och samma repository: en 421M ModernBERT-large engelsk modell, en 322M mmBERT-base flerspråkig modell och en variant med typade beslut. Google släppte Gemini Decision 1 den 11 november 2026 och publicerade inte vikter, ett parameterantal eller en basmodell. Det enda tal som båda kan ställas mot är en resultattavla som bara har en av dem – Gemini Decision 1 ligger på 66 i Artificial Analysis Decision Index v2.1, nia av arton, och Laya finns inte på den tavlan.

Vad ett 512-tokenfönster utesluter innan frukost

Börja med begränsningen, eftersom den eliminerar hela produktkategorier snabbare än någon träffsäkerhetssiffra.

• Delad indata — Gemini Decision 1 läser upp till 262 144 token som omfattar indata och varje fråga. Layas engelska checkpoint läser 512 token, punkt slut. Den flerspråkiga checkpointen har standardvärdet 1 024 och kan höjas till 8 192 med max_len=8192, då Convais eget kort rapporterar att 16 till 18 av 20 långdokumentförfrågningar är korrekta vid upp till ungefär 4 000 token kontext och "bortom det varierar resultaten".

• Modalitet — Gemini Decision 1 tar emot text, bild, video, ljud och PDF i samma förfrågan. Laya tar emot text. Ett inskannat skadeanmälningsformulär, en samtalsinspelning eller ett produktfoto är inte indata förrän något uppströms har omvandlat det till ord, och den omvandlingen är en separat modell med en separat kostnad och egna fel.

• Frågor per anrop — upp till 1 000 för Gemini Decision 1, isolerade från varandra, i en enda omgång. Laya besvarar frågorna du skickar med ett enda tillstånd, och dess egen dokumentation anger den praktiska övre gränsen till omkring femtio alternativ per flervalsfråga innan modellens tokenbudget per alternativ blir för tunn.

• Pris — $0,10 per miljon indatatokens för Gemini Decision 1, uppmätt till $345 per miljon uppgifter av Artificial Analysis, utan kontextcachning och utan Batch API. Laya är en nedladdning: ungefär 808 MB för den engelska checkpointen, ingen avgift per anrop, och en T4 som körs på cirka 32,8 millisekunder per beslut.

• Licens och distribution — Apache-2.0-vikter, inget beroende av en hostad tjänst och en startpunkt via pip install laya. Gemini Decision 1 är endast tillgängligt via Gemini Developer API på v1beta, med en gratisnivå på 200 förfrågningar per minut och en dokumenterad lista över funktioner som stöds och inte stöds.

På resultattavlan står en av dessa två, och det är inte oavgjort.

Gemini Decision 1:s 66 är ett sammansatt värde av sex viktade utvärderingar, varav 45 % bygger på privata data, poängsatt som träffsäkerhet minus Brier-straffet som är kopplat till svaret. Dess styrkor och svagheter är ovanligt tydliga för en modell på lanseringsdagen: etta av arton på AA-Omniscience-Decision med 66,3 och etta på HLE-MultiChoice med 48,7, men nia på AA-Paperclip med 56,8 och en godkännandefrekvens för dokument på 33 % enligt allt-eller-inget-principen, samt fjortonde på When2Call med 80,5. Nia totalt, etta där kunskap och avstående testas, i mitten av tabellen där extrahering och val av verktyg testas.

Laya har ingen jämförbar siffra, och projektet förklarar varför i sitt eget kort. Bascheckpunkterna får 0,362 zero-shot på typed-decisions-benchmarken – under majoritetsklassbaslinjen på 0,461 och nära slumpmässigt. Toppsiffran 0,766 kräver finjustering på benchmarkens egen träningsdel. Convaïs sammanfattande mening är den man bör bära med sig in i varje utvärdering: Laya är en snabb bas att specialisera, inte en zero-shot-beslutsmotor.

Det är inte en svaghet som ska räknas mot en modell från ett frontlinjelaboratorium; det är en annan produktbeskrivning. Gemini Decision 1 säljs som något som redan är bra på beslut. Laya säljs som något som blir bra på dina beslut efter att du har tränat den, och då är dess publicerade siffror – 0,766 mot en systermodells 0,727 på typade beslut, 0,950 mot 0,910 på AG News – konkurrenskraftiga på de uppgifter den har anpassats till.

De två pipelines som folk faktiskt bygger

Eftersom kapaciteterna knappt överlappar varandra är den ärliga formuleringen inte "vilken av dem" utan "vilket av dessa två jobb har du".

Jobbet som Gemini Decision 1 passar för. Ett långt indata anländer – ett 60-sidigt kontrakt, en timmes samtalsljud, en mapp med skannade fakturor – och många bedömningar måste kopplas till det. Fyrtio policyregler över en enda biljett i en enda debiterad läsning; en rubric poängsatt över hundra kandidatsvar; ett routingbeslut som beror på bevis utspridda över ett dokument som ingen vill dela upp i chunkar. Googles egen dokumentation namnger exakt dessa: request routing, policykontroller över många regler samtidigt, kandidatpoängsättning mot en rubric, verktygsval, klassificering med låg latens över livemedia. Taket på 1 000 frågor och multimodalt indata är hela anledningen till att produkten finns, och de är de två saker som Laya inte kan göra till något pris.

Jobbet som Laya passar för. Ett kort tillstånd och ett beslut, i en volym där kostnaden per anrop är begränsningen och etikettuppsättningen är din. Ärendetriagering till din egen taxonomi, avsiktsklassificering, en ja/nej-grind innan en dyr modell körs. En 421M-encoder på en T4 vid 32,8 millisekunder är i princip gratis per anrop, och eftersom svarsutrymmet sätts samman per begäran i stället för att bakas in i ett vokabulärhuvud behöver ett schema som du hittar på i eftermiddag ingen omskolning för att accepteras – men det behöver träningsdata för att vara korrekt.

Kombinationen är inte exotisk: Laya som den snabba första fasen som hanterar de 80 % av trafiken som den tränades för, och en stor hostad scorer för de objekt som behöver underlag från lång eller icke-textbaserad indata. Det mönstret kostar mindre än att skicka allt till Google och misslyckas mer graciöst än att köra en 421M-encoder på ett kontrakt.

Var kostnadsjämförelsen faktiskt landar

Vid låg volym är Layas ekonomi oslagbar och irrelevant. En T4 kostar några hundra dollar i månaden oavsett om du använder den eller inte; en miljon Gemini Decision 1-uppgifter för $345 är en budgetpost som någon måste godkänna. Under några hundra tusen beslut i månaden vinner vanligtvis den värdbaserade slutpunkten enbart på ingenjörstimmar – det finns ingen träningskörning, ingen etikettuppsättning och ingen serveringsstack.

Vid hög volym vänder matematiken, med en viktig reservation som betyder mer än brytpunkten: Layas marginalkostnad är nära noll endast om modellen redan presterar på din uppgift. Om den inte gör det är etiketterna den verkliga kostnaden. Convais modellkort är tydligt med att det är finjusteringen som producerar de publicerade siffrorna, så den ärliga jämförelsen är $345 per miljon hostade uppgifter mot en GPU plus kostnaden för att märka tillräckligt många exempel för att nå en kalibrering du litar på. Ingen av dessa är en kostnad per token, och en jämförelse som låtsas något annat jämför ett hyrpris med ett byggprojekt.

Sedan finns latensprofilen, och det är där de två produkterna helt slutar vara utbytbara. Gemini Decision 1 mäter 211 millisekunder per uppgift i indexet – bra för ett routinghopp bakom ett kundmeddelande, marginellt för en loop som körs bildruta för bildruta. Layas 32,8 millisekunder på en T4 är siffran som gör beslut för varje bildruta och varje tangenttryckning möjliga, och det är den enda fördelen som ingen mängd Google-infrastruktur kan täppa till, eftersom den kommer av att modellen har 421 miljoner parametrar snarare än att vara en multimodal modell i frontier-skala.

Dirigerar den del som inte är någotdera

OrcaRouter tillhandahåller ingen av modellerna. Laya är Apache-2.0-vikter som du kör själv, och Gemini Decision 1 är en slutpunkt som bara ger sannolikheter på Googles eget API – en beslutsmodell är inte ett mål för chat-completions, och vi listar inte det vi inte kan tillhandahålla. Beslutsmodellen i katalogen är TypeSafe:s typesafe/jev-1.14, på 66,23 på samma index, om ett poängsättningsanrop på en enda nyckel har betydelse för dig.

Anropet som hör hemma bakom en router är det som båda dessa modeller är beroende av och som ingen av dem utför: konverteringssteget. Layas fönster på 512 token innebär att en uppströmsmodell måste omvandla dokumentet, inspelningen eller skärmbilden till ett kort tillstånd innan Laya kan bedöma det, och kostnaden per uppgift för Gemini Decision 1 domineras av hur mycket kontext man ger den. Att välja och byta ut den uppströmsmodellen är det återkommande beslutet i den här pipelinen, och det är det vi är byggda för: mer än 200 modeller bakom en OpenAI-kompatibel nyckel, leverantörens listpris förs vidare med 0,0 % påslag så att en leverantörsprissänkning gäller samma dag, och automatisk failover när en leverantör försämras. Skriv en gång mot routern, och både encodern du äger och bedömaren du hyr förblir utbytbara.

Vad du ska göra den här veckan

Om din indata är längre än en sida, innehåller något som inte är text eller kräver att fler än en handfull frågor besvaras om den, är Laya inte ett alternativ och beslutet står mellan Gemini Decision 1 och dess värdbaserade motsvarigheter avseende pris och godkännandegrad. Googles dokumentation listar i ett stycke vad modellen stöder; läs det innan du utformar din lösning kring det, eftersom listan över det som inte stöds – ingen cachelagring, ingen batch, ingen Flex eller Priority, inga medier i frågeinstruktioner – är längre än den som stöds.

Om din indata är en mening eller en kort JSON-blob och din etikettuppsättning är din egen, är den hostade modellen ett dyrt sätt att göra det. Ladda ner Laya, etikettera 500 exempel, finjustera och kontrollera kalibreringen innan du litar på konfidensvärdena — det är arbetsflödet som dess författare har utformat för, och deras eget kort är ovanligt tydligt om gapet mellan bascheckpointen och den finjusterade.

Det du inte bör göra är att jämföra 66 med en siffra från Layas kort. De har tagits fram med olika instrument, den ena är en zero-shot-poäng som ligger under majoritetsbaslinjen, och den andra är ett viktat sammansatt mått av sex utvärderingar på privata data. Den enda jämförelse som är värd att göra är på dina egna märkta objekt, och endast en av dessa två modeller kan alls köras på det sättet.