Laya vs Decider : un encodeur de 421 M contre un mélange de 35 B

Laya et Decider sont tous deux des modèles de décision à poids ouverts et non autorégressifs qui répondent à des questions à réponse typée — un choix dans une liste fournie, un score sur un barème ordonné, une probabilité oui/non — en une seule passe avant, et ils se situent aux extrémités opposées du spectre de taille. Convai Innovations a publié Laya le 18 septembre 2026 sous Apache 2.0 : un encodeur ModernBERT-large de 421 M pour l’anglais avec une fenêtre de 512 tokens, un checkpoint multilingue mmBERT-base de 322 M avec une fenêtre de 1 024 tokens couvrant plus de 100 langues, et un routeur qui détecte le système d’écriture et l’achemine vers le bon. La famille Decider de Mapika va de decider-0.8b et decider-2b, sur de petits modèles génératifs de base, jusqu’à decider-35b-a3b, un mélange d’experts de 35 B avec environ 3 B de paramètres actifs. Les deux sont téléchargeables gratuitement et renvoient des probabilités plutôt que du texte. La raison pour laquelle ils ne sont pas interchangeables n’est pas le chiffre de précision que la plupart des articles mettent en avant.

Deux familles, un pari architectural

Le pari commun est qu'une décision n'a pas besoin d'une boucle de décodage. Un modèle génératif à qui l'on demande « ce ticket est-il une demande de remboursement ? » doit émettre des tokens, et dès qu'il émet des tokens, c'est à vous de gérer l'analyse syntaxique, la validation de schéma et un chemin de nouvelle tentative pour la fois sur deux cents où il oublie une accolade. Laya et Decider contournent tous deux ce problème en lisant la réponse directement à partir d'une seule passe avant — Laya depuis un encodeur bidirectionnel, Decider depuis les logits de tokens d'options lettrées à un emplacement de réponse dédié dans le prompt.

C'est là que la ressemblance s'arrête. Laya est constitué de deux petits encodeurs derrière un routeur de langue, ce qui lui vaut une fenêtre de 512 jetons en anglais et de 1,024 jetons en multilingue, avec un nombre de paramètres de 421M et 322M. Decider conserve une base générative et ajoute une tête de lecture par-dessus : decider-2b est un ajustement supervisé de Qwen3.5-2B-Base, suivi d'une passe de renforcement sensible à la calibration sur des tâches de navigateur réelles et des jeux exacts, tandis que decider-35b-a3b gèle les experts routés et entraîne des matrices par blocs avec Muon. La conséquence pratique est que Decider hérite des connaissances du monde d'un modèle de langue, contrairement à Laya. L'autre conséquence est que Decider hérite de l'empreinte d'un modèle de langue.

La propre documentation de Mapika situe decider-2b à 18 ms en médiane par décision sur un B300 en bf16, avec un batch de un, sans CUDA graphs ni compilation, et decider-35b-a3b à 41 ms sur la même configuration. Sur un GH200 avec des contextes de tickets de support d'environ 230 tokens et trois à cinq questions saisies, le même projet rapporte 49 ms en mode eager, 4,0 ms avec CUDA graphs et torch.compile, et environ 1 370 décisions par seconde avec un batch de 32. Il s'agit de chiffres publiés par le fournisseur, tirés du propre compte rendu du projet, et non d'une mesure indépendante. Le chiffre phare de Laya est lui aussi publié par le fournisseur : 32,8 ms en p50 par décision sur un Tesla T4, et 7,2 ms par question avec une taille de batch de 10.

La question de calibration, à laquelle les deux projets répondent à des échelles différentes

La calibration est le chiffre qui compte le plus pour un modèle de décision, car tout l’intérêt de renvoyer une probabilité est que quelqu’un en aval y fixera un seuil. C’est aussi là que comparer directement Laya et Decider vous induira en erreur.

Laya est livré avec une erreur de calibration attendue de 0,466 sur sa propre fiche de modèle, et la fiche indique clairement que le fait de réajuster une température par type de question la fait passer à 0,081. C’est une divulgation d’une honnêteté inhabituelle, et cela signifie aussi que le checkpoint livré n’est pas l’artefact calibré. Le nombre que vous obtenez sans réglage est 0,466.

Decider publie des résultats sur un instrument entièrement différent. Le Decision Index — un classement ouvert qui a exécuté chaque reproduction ouverte de Jev sur 132 422 requêtes — place decider-35b-a3b quatrième au classement général avec 54,3, derrière les 59,5 de Jev, et le signale comme le mieux calibré des 32 entrées, avec une erreur de calibration de 3,1 points et 0,4 % de réponses incorrectes à un niveau de confiance déclaré de 95 % ou plus. decider-2b affiche 8,8 points et 0,9 %. Ce sont des chiffres publiés par le classement, et 3,1 points sur l'ECE à dix intervalles de l'Index ne correspondent pas à la même mesure que le 0,466 de Laya sur sa propre évaluation. Les mettre côte à côte dans un tableau serait une erreur consistant à comparer des pommes et des oranges, déguisée en rigueur. Ce que l'on peut dire, c'est que l'auteur de Decider a choisi d'être mesuré sur un classement tiers et que l'auteur de Laya a choisi de publier lui-même son plus mauvais chiffre de calibration ; ni l'un ni l'autre n'a été audité par le harnais de l'autre.

Là où chacun l'emporte, dimension par dimension

• Backbone — Laya : encodeur ModernBERT-large 421M, bidirectionnel. Décideur : bases génératives Qwen3.5, de 0,8B à 35B-A3B.

• Langues — Laya : plus de 100 via un checkpoint multilingue de 322 M derrière un routeur. Decider : anglais uniquement, indiqué comme une limitation.

• Fenêtre de contexte — Laya : 512 tokens en anglais, 1 024 en multilingue. Decider : entrées jusqu'à 32 k acceptées, entraîné jusqu'à 16 k sur la génération v6, testé jusqu'à 30 k.

• Plafond de l’ensemble d’options — Laya : se dégrade fortement au-delà d’environ 20 options, 0,425 sur Banking77 contre 0,870 pour Jev. Decider : Choice sur 2 à 255 options nommées, Score sur 2 à 10 niveaux décrits.

• Précision en zéro-shot — Laya : 0,362 sur le benchmark typed-decisions, en dessous de la baseline de classe majoritaire de 0,461. Decider : non publié sous forme de score zéro-shot ; le projet rapporte plutôt des résultats spécifiques à la tâche.

• Calibration — Laya : ECE 0,466 en l'état livré, 0,081 après réajustement de la température par type de question. Decider : 3,1 points sur le Decision Index pour le 35B, meilleur de 32 entrées.

• Raisonnement — Laya : aucun, par construction. Decider : aucun, déclaré explicitement — il s'agit d'une lecture par appariement de motifs, pas d'un raisonneur.

• Licence — Apache 2.0 pour les deux.

Un dernier détail sur Decider à connaître avant de le choisir : le projet avertit que sélectionner un enregistrement dans un long tableau JSON par sa position est un cas faible, et recommande d’adresser les enregistrements par clé. C’est le genre de limitation que l’on ne découvre qu’en l’exécutant.

Ce que cela vous coûte de faire tourner l’un ou l’autre.

Le profil de coût de Laya est un projet de fine-tuning. Le modèle est suffisamment petit pour tourner sur un CPU de laptop pour un travail à faible débit, mais le score zero-shot du checkpoint anglais livré se situe en dessous de la baseline triviale, ce qui signifie qu'adopter Laya, c'est adopter la tâche de construire un ensemble annoté, de faire du fine-tuning et de réajuster la température par type de question. La récompense, c'est qu'une fois que c'est fait, l'artefact fait 421M de paramètres et répond en dizaines de millisecondes sur un T4. Le checkpoint laya-typed-decisions fine-tuné par Convai atteint 0,766 sur le split d'entraînement du benchmark — un chiffre qui en dit plus sur le fine-tuning que sur le modèle de base, et la fiche le dit elle-même.

Le profil de coût de Decider est une décision d’inférence. Vous choisissez la quantité de GPU à louer, et la famille vous offre un véritable curseur : 18 ms sur un 2B contre 41 ms sur un 35B-A3B, le modèle plus grand apportant une marge de connaissances et de raisonnement sur GPQA, GSM8K, CRUXEval et MMLU que les petits n’ont pas. Si votre tâche est étroite et que vos étiquettes sont figées, decider-2b est la machine la moins chère. Si votre tâche exige que le modèle connaisse des choses, vous payez pour la mixture.

Où OrcaRouter a sa place — et où il ne l’a pas

Ni Laya ni Decider ne sont des modèles hébergés sur OrcaRouter. Vous téléchargez les poids et les exécutez vous-même, et rien ici ne change cela. Ce qui change, en revanche, c'est l'autre moitié du schéma. Un modèle de décision typé ne constitue presque jamais l'application entière : quelque chose doit lire le ticket, résumer le fil de discussion ou rédiger la réponse que la décision conditionne. Cette moitié est un appel génératif, et c'est la moitié pour laquelle OrcaRouter est conçu — plus de 200 modèles derrière une seule clé compatible OpenAI, à le prix catalogue du fournisseur, répercuté avec 0 % de marge, de sorte qu'une baisse de prix d'un fournisseur se répercute sur votre facture le jour même plutôt qu'au prochain renouvellement de contrat. Si vous affinez un checkpoint Laya sur les sorties d'un modèle de pointe, ou si vous aiguillez entre decider-2b pour le tri et un grand modèle pour les 4 % difficiles, garder le volet génératif sur un seul point de terminaison signifie que le volet décision et le volet génération n'ont pas besoin de deux contrats ni de deux SDK. Le basculement automatique couvre le cas où c'est le grand modèle qui tombe en panne.

Lequel choisir

Choisissez Laya si vos entrées sont multilingues, vos étiquettes peu nombreuses, votre budget de latence de quelques dizaines de millisecondes sur du matériel modeste, et si vous êtes prêt à effectuer un fine-tuning — car il vous faudra le faire. Choisissez Decider si vos entrées sont en anglais, si vous avez besoin que le modèle apporte certaines connaissances du monde dans la décision, et si vous préférez choisir une taille de modèle plutôt que d'exécuter un pipeline d'entraînement. Si vos ensembles d'options dépassent vingt étiquettes, consultez le chiffre Banking77 de Laya avant de vous engager ; si vos entrées sont de longs documents JSON que vous adressez par position, lisez la limitation déclarée de Decider avant de vous engager.

La comparaison qui permettrait réellement de trancher — les deux modèles sur des entrées identiques octet par octet, les mêmes prompts, le même ordre d’options, le même balayage de seuil — n’existe pas encore. Tant qu’elle n’existe pas, la position honnête est que Laya a la meilleure courbe de coût et Decider les meilleures preuves de calibration, et que les deux en sont encore assez à leurs débuts pour que l’évaluation que vous construisez sur vos propres données vaille plus que les chiffres publiés de l’un ou l’autre projet.