Décision 1 de Gemini vs Laya : 262 144 tokens loués contre 512 tokens détenus

Deux modèles de décision, deux nombres qui décrivent le même choix de conception par des extrémités opposées. Gemini Decision 1 accepte une entrée de 262 144 tokens et jusqu’à 1 000 questions saisies en un seul appel, à 0,10 $ par million de tokens d’entrée, sur l’API propre à Google. Laya accepte 512 tokens de texte sur son checkpoint anglais, s’exécute sur un T4 que vous payez déjà et est sous Apache-2.0. C’est un facteur 512 sur la fenêtre et l’infini sur le prix, dans des directions opposées, et aucun benchmark ne sauve la comparaison, car les deux modèles ne sont pas conçus pour le même travail.

Convai Innovations a publié Laya le 18 septembre 2026 sous la forme de trois checkpoints dans un même dépôt : un modèle anglais ModernBERT-large de 421 M, un modèle multilingue mmBERT-base de 322 M et une variante à décisions typées. Google a publié Gemini Decision 1 le 11 novembre 2026 et n’a publié ni les poids, ni le nombre de paramètres, ni le modèle de base. Le seul chiffre auquel les deux peuvent être rapportés est un tableau de scores qui n’en inclut qu’un seul : Gemini Decision 1 y obtient 66 sur l’Artificial Analysis Decision Index v2.1, soit neuvième sur dix-huit, et Laya n’y figure pas.

Ce qu’une fenêtre de 512 jetons exclut avant le petit-déjeuner

Commencez par la contrainte, car elle élimine des catégories entières de produits plus rapidement que n’importe quel chiffre de précision.

• Entrée partagée — Gemini Decision 1 lit jusqu’à 262 144 tokens, ce qui couvre l’entrée et chaque question. Le checkpoint anglais de Laya lit 512 tokens, point final. Le checkpoint multilingue est par défaut à 1 024 et peut être poussé jusqu’à 8 192 avec max_len=8192, auquel cas la fiche de Convai elle-même indique que 16 à 18 requêtes sur 20 portant sur des documents longs sont correctes avec jusqu’à environ 4 000 tokens de contexte, et « au-delà, les résultats varient ».

• Modalité — Gemini Decision 1 accepte le texte, l'image, la vidéo, l'audio et le PDF dans une même requête. Laya accepte le texte. Un formulaire de déclaration numérisé, un enregistrement d'appel ou une photo de produit ne constituent pas une entrée tant qu'un élément en amont ne les a pas convertis en mots, et cette conversion relève d'un modèle distinct, avec un coût distinct et ses propres erreurs.

• Questions par appel — jusqu'à 1 000 pour Gemini Decision 1, isolées les unes des autres, en une seule passe. Laya répond aux questions que vous envoyez avec un seul état, et sa propre documentation fixe le plafond pratique à environ cinquante options par question à choix avant que le budget de jetons par option du modèle ne devienne trop mince.

• Prix — 0,10 $ par million de jetons d'entrée pour Gemini Decision 1, mesuré à 345 $ par million de tâches par Artificial Analysis, sans mise en cache du contexte ni Batch API. Laya est un téléchargement : environ 808 Mo pour le checkpoint anglais, aucun frais par appel, et un T4 tournant à environ 32,8 millisecondes par décision.

• Licence et distribution — poids Apache-2.0, aucune dépendance hébergée, et un point d'entrée pip install laya. Gemini Decision 1 n'est disponible que sur l'API Gemini Developer en v1beta, avec un niveau gratuit à 200 requêtes par minute et une liste documentée des capacités prises en charge et non prises en charge.

Le tableau des scores affiche l’un de ces deux éléments, et ce n’est pas une égalité.

Le score de 66 de Gemini Decision 1 est un composite de six évaluations pondérées, dont 45 % reposent sur des données privées, calculé comme la précision moins la pénalité de Brier associée à la réponse. Ses forces et ses faiblesses sont étonnamment nettes pour un modèle au jour de son lancement : premier sur dix-huit à AA-Omniscience-Decision avec 66,3 et premier sur HLE-MultiChoice avec 48,7, mais neuvième sur AA-Paperclip avec 56,8 et un taux de réussite documentaire en tout ou rien de 33 %, et quatorzième sur When2Call avec 80,5. Neuvième au classement général, premier là où les connaissances et l’abstention sont testées, au milieu du tableau là où l’extraction et le choix d’outils le sont.

Laya n’a pas de chiffre comparable, et le projet en explique la raison dans sa propre fiche. Les checkpoints de base obtiennent 0,362 en zero-shot sur le benchmark typed-decisions — en dessous de la référence de classe majoritaire de 0,461, et proches du hasard. Le chiffre phare de 0,766 nécessite un fine-tuning sur le split d’entraînement propre à ce benchmark. La phrase de synthèse de Convai est celle à retenir pour toute évaluation : Laya est une base rapide à spécialiser, pas un moteur de décision zero-shot.

Ce n’est pas une faiblesse à imputer au modèle d’un laboratoire de pointe ; c’est une description de produit différente. Gemini Decision 1 est vendu comme un produit déjà performant pour les décisions. Laya est vendu comme un produit qui devient performant pour vos décisions après que vous l’avez entraîné, et ses chiffres publiés — 0,766 contre 0,727 pour un modèle frère sur les décisions typées, 0,950 contre 0,910 sur AG News — sont alors compétitifs sur les tâches pour lesquelles il a été ajusté.

Les deux pipelines que l’on construit réellement

Parce que les capacités ne se recoupent que très peu, la formulation honnête n’est pas « laquelle choisir » mais « laquelle de ces deux tâches est la vôtre ».

La tâche Gemini Decision 1 convient. Une longue entrée arrive — un contrat de 60 pages, une heure d’audio d’appel, un dossier de factures numérisées — et de nombreuses appréciations doivent y être rattachées. Quarante règles de politique sur un seul ticket en une seule lecture facturée ; une grille d’évaluation notée sur une centaine de réponses candidates ; une décision de routage qui dépend de preuves réparties dans un document que personne ne veut découper en segments. La documentation de Google elle-même cite exactement ces cas : le routage des requêtes, les contrôles de politique sur de nombreuses règles à la fois, la notation de candidats selon une grille d’évaluation, la sélection d’outils, la classification à faible latence sur des médias en direct. Le plafond de 1 000 questions et l’entrée multimodale sont toute la raison d’être du produit, et ce sont les deux choses que Laya ne peut faire à aucun prix.

Le poste correspond à Laya. Un état court et une décision, à une échelle où le coût par appel est la contrainte et où le jeu d’étiquettes vous appartient. Le tri des tickets selon votre propre taxonomie, la classification d’intention, un filtre oui/non avant l’exécution d’un modèle coûteux. Un encodeur de 421 M sur un T4 à 32,8 millisecondes est quasiment gratuit par appel, et comme l’espace des réponses est assemblé à chaque requête plutôt qu’intégré à une tête de vocabulaire, un schéma que vous inventez cet après-midi ne nécessite aucun réentraînement pour être accepté — même s’il lui faut des données d’entraînement pour être précis.

La combinaison n'a rien d'exotique : {{1}}Laya comme première étape rapide qui traite les 80 % du trafic pour lequel elle a été entraînée{{/1}}, et {{2}}un grand scoreur hébergé pour les éléments qui ont besoin de preuves provenant d'une entrée longue ou non textuelle{{/2}}. Ce schéma coûte moins cher que d'envoyer tout à Google et échoue plus élégamment que d'exécuter un encodeur de 421M sur un contrat.

Où aboutit réellement la comparaison des coûts

À faible volume, l’économie de Laya est imbattable et sans importance. Un T4 coûte quelques centaines de dollars par mois, que vous l’utilisiez ou non ; un million de tâches Gemini Decision 1 à 345 $ représente une ligne budgétaire que quelqu’un doit approuver. En dessous de quelques centaines de milliers de décisions par mois, le point de terminaison hébergé l’emporte généralement rien qu’en heures d’ingénierie — il n’y a ni entraînement à lancer, ni jeu d’étiquettes, ni pile de serving.

À fort volume, l’arithmétique s’inverse, avec une réserve qui compte plus que le point de bascule : le coût marginal de Laya est proche de zéro uniquement si le modèle est déjà performant sur votre tâche. Si ce n’est pas le cas, les étiquettes constituent la vraie facture. La fiche de Convai indique explicitement que c’est le fine-tuning qui produit les chiffres publiés ; la comparaison honnête oppose donc 345 $ par million de tâches hébergées à un GPU plus le coût d’étiquetage d’assez d’exemples pour atteindre une calibration à laquelle vous faites confiance. Aucun de ces deux montants n’est un tarif par token, et une comparaison qui prétend le contraire revient à comparer un prix de location à un projet de construction.

Vient ensuite le profil de latence, et c'est là que les deux produits cessent totalement d'être substituables. Gemini Decision 1 mesure 211 millisecondes par tâche sur l'index — acceptable pour un saut de routage derrière un message client, limite pour une boucle image par image. Les 32,8 millisecondes de Laya sur un T4 sont le chiffre qui rend possibles des décisions à chaque image et à chaque frappe, et c'est le seul avantage qu'aucune quantité d'infrastructure Google ne parvient à combler, parce qu'il découle du fait d'être un modèle de 421 M de paramètres plutôt qu'un modèle multimodal à l'échelle des frontières.

Routage de la partie qui n’est ni l’une ni l’autre

OrcaRouter ne propose aucun des deux modèles. Laya est un ensemble de poids Apache-2.0 que vous exécutez vous-même, et Gemini Decision 1 est un point de terminaison qui ne renvoie que des probabilités sur l’API propre à Google — un modèle de décision n’est pas une cible de complétions de chat, et nous ne répertorions pas ce que nous ne pouvons pas servir. Le modèle de décision du catalogue est typesafe/jev-1.14 de TypeSafe, à 66,23 sur le même indice, si un appel de scoring sur une seule clé compte pour vous.

L’appel qui a bien sa place derrière un routeur est celui dont ces deux modèles dépendent et qu’aucun des deux n’effectue : l’étape de conversion. La fenêtre de 512 tokens de Laya signifie qu’un modèle en amont doit transformer le document, l’enregistrement ou la capture d’écran en un état court avant que Laya puisse l’évaluer, et le coût par tâche de Gemini Decision 1 est dominé par la quantité de contexte que vous lui transmettez. Choisir et permuter ce modèle en amont est la décision récurrente de ce pipeline, et c’est celle pour laquelle nous sommes conçus : plus de 200 modèles derrière une seule clé compatible OpenAI, prix catalogue du fournisseur répercuté avec une marge de 0,0 % afin qu’une baisse de tarif d’un fournisseur soit effective le jour même, et basculement automatique en cas de dégradation d’un fournisseur. Écrivez une seule fois pour le routeur, et l’encodeur que vous possédez et le moteur de scoring que vous louez restent tous deux remplaçables.

Que faire cette semaine

Si votre entrée dépasse une page, contient autre chose que du texte ou exige que l’on réponde à plus d’une poignée de questions à son sujet, Laya n’est pas candidate et la décision se joue entre Gemini Decision 1 et ses pairs hébergés sur le prix et le taux de réussite. La documentation de Google répertorie en un paragraphe ce que le modèle prend en charge ; lisez-la avant de concevoir autour, car la liste des éléments non pris en charge — pas de mise en cache, pas de traitement par lots, ni Flex ni Priority, pas de média dans les instructions de question — est plus longue que celle des éléments pris en charge.

Si votre entrée est une phrase ou un court blob JSON et que votre ensemble d’étiquettes est le vôtre, le modèle hébergé est la façon coûteuse de procéder. Téléchargez Laya, étiquetez 500 exemples, effectuez un ajustement fin, puis vérifiez la calibration avant de faire confiance aux scores de confiance — c’est le flux de travail pour lequel ses auteurs l’ont conçu, et leur propre fiche est inhabituellement claire sur l’écart entre le checkpoint de base et celui ajusté.

Ce que vous ne devez pas faire, c’est comparer 66 à un chiffre de la fiche de Laya. Ils ont été produits sur des instruments différents : l’un est un score zero-shot inférieur à la baseline majoritaire, et l’autre est un composite pondéré de six évaluations sur données privées. La seule comparaison qui vaille la peine d’être faite porte sur vos propres éléments étiquetés, et un seul de ces deux modèles peut être évalué de cette manière.