Gemini Entscheidung 1 vs. Laya: 262.144 gemietete Tokens gegenüber 512 eigenen Tokens

Zwei Entscheidungsmodelle, zwei Zahlen, die dieselbe Designentscheidung von entgegengesetzten Enden aus beschreiben. Gemini Decision 1 nimmt eine Eingabe von 262.144 Tokens und bis zu 1.000 eingetippte Fragen in einem einzigen Aufruf entgegen, zu $0,10 pro Million Eingabe-Tokens, über Googles eigene API. Laya verarbeitet 512 Tokens Text auf ihrem englischen Checkpoint, läuft auf einer T4, für die du bereits zahlst, und ist Apache-2.0. Das ist ein Faktor von 512 beim Fenster und unendlich beim Preis, in entgegengesetzte Richtungen, und kein Benchmark rettet den Vergleich, weil die beiden Modelle nicht für dieselbe Aufgabe gebaut sind.

Convai Innovations veröffentlichte Laya am 18. September 2026 als drei Checkpoints in einem Repository: ein englisches ModernBERT-large-Modell mit 421M Parametern, ein mehrsprachiges mmBERT-base-Modell mit 322M Parametern und eine Typed-Decisions-Variante. Google veröffentlichte Gemini Decision 1 am 11. November 2026 und veröffentlichte weder Gewichte noch eine Parameteranzahl noch ein Basismodell. Die einzige Zahl, an der sich beide messen lassen, ist eine Bestenliste, die nur einen von ihnen enthält — Gemini Decision 1 steht bei 66 im Artificial Analysis Decision Index v2.1, auf Platz neun von achtzehn, und Laya ist nicht auf dieser Bestenliste.

Was ein 512-Token-Fenster schon vor dem Frühstück ausschließt

Beginne mit der Einschränkung, denn sie eliminiert ganze Produktkategorien schneller als jede Genauigkeitszahl.

• Gemeinsame Eingabe — Gemini Decision 1 liest bis zu 262.144 Tokens und deckt damit die Eingabe und jede Frage ab. Layas englischer Checkpoint liest 512 Tokens, Punkt. Der mehrsprachige Checkpoint verarbeitet standardmäßig 1.024 Tokens und kann mit max_len=8192 auf 8.192 erhöht werden; ab diesem Punkt meldet Convais eigene Modellkarte 16 bis 18 von 20 Anfragen zu langen Dokumenten als korrekt – bei bis zu etwa 4.000 Tokens Kontext – und „darüber hinaus variieren die Ergebnisse“.

• Modalität — Gemini Decision 1 akzeptiert Text, Bild, Video, Audio und PDF in derselben Anfrage. Laya akzeptiert Text. Ein eingescanntes Schadenformular, eine Anrufaufzeichnung oder ein Produktfoto ist erst dann eine Eingabe, wenn etwas Vorgelagertes es in Wörter umgewandelt hat, und diese Umwandlung ist ein separates Modell mit separaten Kosten und eigenen Fehlern.

• Fragen pro Aufruf — bis zu 1.000 für Gemini Decision 1, voneinander isoliert, in einem Durchgang. Laya beantwortet die von Ihnen gesendeten Fragen mit einem Zustand, und die eigene Dokumentation setzt die praktische Obergrenze bei etwa fünfzig Optionen pro Auswahlfrage, bevor das Token-Budget des Modells pro Option knapp wird.

• Preis — 0,10 $ pro Million Eingabe-Tokens für Gemini Decision 1, gemessen bei 345 $ pro Million Aufgaben durch Artificial Analysis, ohne Kontext-Caching und ohne Batch-API. Laya ist ein Download: etwa 808 MB für den englischen Checkpoint, keine Kosten pro Aufruf, und eine T4 läuft mit etwa 32,8 Millisekunden pro Entscheidung.

• Lizenz und Distribution — Apache-2.0-Gewichte, keine gehostete Abhängigkeit und ein Einstiegspunkt für pip install laya. Gemini Decision 1 ist nur über die Gemini Developer API in v1beta verfügbar, mit einem kostenlosen Tarif von 200 Anfragen pro Minute und einer dokumentierten Liste unterstützter und nicht unterstützter Fähigkeiten.

Auf der Anzeigetafel steht eines dieser beiden, und das ist kein Unentschieden.

Gemini Decision 1s 66 ist ein zusammengesetzter Wert aus sechs gewichteten Bewertungen, von denen 45 % auf privaten Daten basieren, berechnet als Genauigkeit minus der an die Antwort geknüpften Brier-Penalty. Seine Stärken und Schwächen sind für ein Modell am Marktstart ungewöhnlich klar: Erster von achtzehn bei AA-Omniscience-Decision mit 66,3 und Erster bei HLE-MultiChoice mit 48,7, aber Neunter bei AA-Paperclip mit 56,8 bei einer Alles-oder-nichts-Bestehensrate von 33 % bei Dokumenten, und Vierzehnter bei When2Call mit 80,5. Insgesamt Neunter, Erster dort, wo Wissen und Enthaltung getestet werden, im Mittelfeld dort, wo Extraktion und Tool-Auswahl gefragt sind.

Laya hat keine vergleichbare Kennzahl, und das Projekt nennt den Grund dafür in seiner eigenen Karte. Die Basis-Checkpoints erzielen 0.362 Zero-Shot auf dem Benchmark für typisierte Entscheidungen — unter der Majority-Class-Baseline von 0.461 und nahe am Zufall. Die aussagekräftige 0.766 erfordert Fine-Tuning auf dem eigenen Trainingssplit dieses Benchmarks. Convais Zusammenfassungssatz ist derjenige, den man in jede Evaluierung mitnehmen sollte: Laya ist eine schnelle Basis zum Spezialisieren, keine Zero-Shot-Entscheidungsmaschine.

Das ist keine Schwäche, die gegen das Modell eines Frontier-Labors bewertet werden sollte; es ist eine andere Produktbeschreibung. Gemini Decision 1 wird als etwas verkauft, das bereits gut in Entscheidungen ist. Laya wird als etwas verkauft, das nach dem Training gut in Ihren Entscheidungen wird; dann sind seine veröffentlichten Zahlen – 0,766 gegenüber 0,727 eines Schwestermodells bei typisierten Entscheidungen, 0,950 gegenüber 0,910 bei AG News – wettbewerbsfähig bei den Aufgaben, auf die es zugeschnitten wurde.

Die zwei Pipelines, die Leute tatsächlich bauen

Da sich die Fähigkeiten kaum überschneiden, lautet die ehrliche Formulierung nicht „welches von beiden“, sondern „welche dieser beiden Aufgaben haben Sie“.

Die Aufgabe, zu der Gemini Decision 1 passt. Eine lange Eingabe trifft ein – ein 60-seitiger Vertrag, eine Stunde Anrufaudio, ein Ordner mit eingescannten Rechnungen – und es müssen viele Beurteilungen daran geknüpft werden. Vierzig Richtlinienregeln über ein einziges Ticket in einem einzigen abgerechneten Lesevorgang; eine Rubrik, die über hundert Kandidatenantworten hinweg bewertet wird; eine Routing-Entscheidung, die von Belegen abhängt, die über ein Dokument verteilt sind, das niemand aufteilen möchte. Googles eigene Dokumentation nennt genau diese: Anfrage-Routing, Richtlinienprüfungen über viele Regeln gleichzeitig, Kandidatenbewertung anhand einer Rubrik, Tool-Auswahl, Klassifizierung mit geringer Latenz über Live-Medien. Die Obergrenze von 1.000 Fragen und die multimodale Eingabe sind der ganze Grund, warum das Produkt existiert, und sie sind die beiden Dinge, die Laya zu keinem Preis leisten kann.

Die Aufgabe, in die Laya passt. Ein kurzer Zustand und eine Entscheidung, bei einem Volumen, bei dem die Kosten pro Aufruf die einschränkende Größe sind und das Label-Set Ihnen gehört. Ticket-Triage in Ihre eigene Taxonomie, Intent-Klassifizierung, ein Ja/Nein-Gate, bevor ein teures Modell läuft. Ein 421M-Encoder auf einer T4 mit 32,8 Millisekunden ist pro Aufruf praktisch kostenlos, und weil der Antwortraum pro Anfrage zusammengestellt wird statt in einen Vokabular-Head eingebacken zu sein, braucht ein Schema, das Sie heute Nachmittag erfinden, kein Retraining, um akzeptiert zu werden — allerdings braucht es Trainingsdaten, um genau zu sein.

Die Kombination ist nicht exotisch: Laya als schnelle erste Stufe, die die 80 % des Traffics bewältigt, für die sie trainiert wurde, und ein großer gehosteter Scorer für die Elemente, die Belege aus einer langen oder Nicht-Text-Eingabe benötigen. Dieses Muster kostet weniger, als alles an Google zu senden, und scheitert auf elegantere Weise, als einen 421M-Encoder für einen Vertrag laufen zu lassen.

Wo der Kostenvergleich tatsächlich landet

Bei geringem Volumen ist Layas Wirtschaftlichkeit unschlagbar und irrelevant. Eine T4 kostet ein paar hundert Dollar im Monat, ob man sie nutzt oder nicht; eine Million Gemini Decision 1-Aufgaben zu 345 Dollar sind eine Budgetposition, die jemand genehmigen muss. Unter ein paar hunderttausend Entscheidungen im Monat gewinnt der gehostete Endpunkt meist allein schon bei den Engineering-Stunden – es gibt keinen Trainingslauf, kein Label-Set und keinen Serving-Stack.

Bei hohem Volumen kippt die Rechnung, mit einem Vorbehalt, der wichtiger ist als der Break-even-Punkt: Layas Grenzkosten sind nur dann nahe null, wenn das Modell Ihre Aufgabe bereits bewältigt. Wenn nicht, sind die Labels die eigentliche Rechnung. Convai gibt auf seinem Datenblatt ausdrücklich an, dass Fine-Tuning die veröffentlichten Zahlen erzeugt; der ehrliche Vergleich lautet daher: 345 US-Dollar pro Million gehosteter Aufgaben gegen eine GPU plus die Kosten für das Labeling genügend vieler Beispiele, um eine Kalibrierung zu erreichen, der Sie vertrauen. Keines von beidem ist ein Preis pro Token, und ein Vergleich, der etwas anderes vorgibt, vergleicht einen Mietpreis mit einem Bauprojekt.

Dann gibt es da noch das Latenzprofil, und hier hören die beiden Produkte endgültig auf, Substitute zu sein. Gemini Decision 1 misst 211 Millisekunden pro Aufgabe im Index – in Ordnung für einen Routing-Hop hinter einer Kundennachricht, grenzwertig für eine Frame-für-Frame-Schleife. Layas 32,8 Millisekunden auf einer T4 sind die Zahl, die Entscheidungen pro Frame und pro Tastenanschlag möglich macht, und es ist der eine Vorteil, den keine noch so große Google-Infrastruktur wettmacht, weil er daher rührt, dass es 421 Mio. Parameter sind und kein multimodales Modell im Frontier-Maßstab.

Routing des Teils, das keines von beiden ist

OrcaRouter führt keines der beiden Modelle. Laya sind Apache-2.0-Gewichte, die Sie selbst betreiben, und Gemini Decision 1 ist ein reiner Wahrscheinlichkeits-Endpunkt in Googles eigener API – ein Entscheidungsmodell ist kein Chat-Completions-Ziel, und wir führen nicht auf, was wir nicht bereitstellen können. Das Entscheidungsmodell im Katalog ist TypeSafe's typesafe/jev-1.14 mit 66,23 auf demselben Index, falls ein Scoring-Aufruf mit einem Schlüssel für Sie relevant ist.

Der Aufruf, der wirklich hinter einen Router gehört, ist derjenige, auf den beide dieser Modelle angewiesen sind und den keines von beiden ausführt: der Konvertierungsschritt. Layas 512-Token-Fenster bedeutet, dass ein vorgelagertes Modell das Dokument, die Aufnahme oder den Screenshot in einen kurzen Zustand verwandeln muss, bevor Laya ihn beurteilen kann, und die Kosten pro Aufgabe von Gemini Decision 1 werden davon dominiert, wie viel Kontext Sie ihm übergeben. Das Auswählen und Austauschen dieses vorgelagerten Modells ist die wiederkehrende Entscheidung in dieser Pipeline, und genau dafür sind wir gebaut: mehr als 200 Modelle hinter einem OpenAI-kompatiblen Schlüssel, Anbieter-Listenpreis zu 0,0 % Aufschlag durchgereicht, sodass eine Preissenkung des Anbieters noch am selben Tag wirksam wird, und automatisches Failover, wenn ein Anbieter nachlässt. Schreiben Sie einmal gegen den Router, und sowohl der Encoder, den Sie besitzen, als auch der Scorer, den Sie mieten, bleiben austauschbar.

Was diese Woche zu tun ist

Wenn Ihre Eingabe länger als eine Seite ist, irgendetwas Nicht-Textliches enthält oder mehr als eine Handvoll Fragen dazu beantwortet werden müssen, ist Laya kein Kandidat, und die Entscheidung fällt zwischen Gemini Decision 1 und seinen gehosteten Peers hinsichtlich Preis und Bestehensrate. Googles Dokumentation führt in einem Absatz auf, was das Modell unterstützt; lesen Sie sie, bevor Sie Ihre Lösung darauf ausrichten, denn die Liste des Nicht-Unterstützten – kein Caching, kein Batch, kein Flex oder Priority, keine Medien innerhalb von Frageanweisungen – ist länger als die des Unterstützten.

Wenn Ihre Eingabe ein Satz oder ein kurzer JSON-Blob ist und Ihr Label-Set Ihr eigenes ist, dann ist das gehostete Modell der teure Weg dafür. Laden Sie Laya herunter, labeln Sie 500 Beispiele, fine-tunen Sie und prüfen Sie die Kalibrierung, bevor Sie den Konfidenzwerten vertrauen – das ist der Workflow, für den die Autorinnen und Autoren es entworfen haben, und ihre eigene Modellkarte ist ungewöhnlich klar über die Kluft zwischen dem Basis-Checkpoint und dem feinabgestimmten.

Was Sie nicht tun sollten, ist, 66 mit einer Zahl von Layas Karte zu vergleichen. Sie wurden mit unterschiedlichen Instrumenten erzeugt, eines davon ist ein Zero-Shot-Wert unterhalb der Mehrheits-Baseline und das andere ein gewichtetes Kompositum aus sechs Auswertungen mit privaten Daten. Der einzige Vergleich, der sich lohnt, ist an Ihren eigenen gelabelten Items, und nur eines dieser beiden Modelle lässt sich überhaupt auf diese Weise ausführen.