Déplacer une charge de travail décisionnelle de Drex Max vers Gemini Decision 1

Le portage ressemble à un changement d’URL, mais ce n’en est pas un. Drex Max v1.1 et Gemini Decision 1prennent tous deux un bloc de contexte et un ensemble de questions typées, puis renvoient des probabilités ; le premier après-midi d’une migration se passe donc bien : renommer le champ, faire pointer le client vers un autre chemin de base, lancer la suite de tests. Ce qui échoue, c’est la deuxième semaine, quand le volume arrive et que les deux modèles de facturation s’avèrent en désaccord sur ce que vous achetez. Voici le récit de ce qui doit réellement changer, écrit pour quelqu’un qui dispose d’une intégration Drex Max v1.1 fonctionnelle et se demande si le score phare du nouveau modèle justifie le passage.

Commencez par la version honnête de l'arbitrage. Sur l'Artificial Analysis Decision Index v2.1, Drex Max v1.1 obtient 73 et Gemini Decision 1 obtient 66. Le modèle plus ancien l'emporte, et il l'emporte de 6,6 points, dont l'essentiel dans la composante qui pèse 30 % du score composite. Si votre charge de travail est le tri de documents, la migration est une rétrogradation déguisée en mise à niveau. S'il s'agit d'autre chose, poursuivez la lecture, car les deux points de terminaison ne sont pas aussi similaires que la forme de leurs requêtes le suggère.

La différence qui ne figure sur aucun classement

Drex Max v1.1 attribue à chaque question son propre budget de 131 072 jetons. Gemini Decision 1 attribue à l’ensemble de la requête 262 144 jetons, partagés entre l’entrée et chaque question qu’elle contient. Ces deux phrases décrivent la même catégorie de produit et produisent des conseils d’ingénierie opposés.

Sur Drex, poser 200 questions coûte 200 budgets distincts, et le plafond pratique d’une requête est votre limite de débit plutôt que le contexte. Sur Gemini Decision 1, 200 questions et un contrat de 200 000 tokens ne tiennent pas dans la même requête : 200 000 tokens d’entrée laissent 62 144 pour les questions et les instructions, ce qui est confortable, mais une entrée de 250 000 tokens n’en laisse que 12 144 et la requête échoue. Le plafond est réel, il est partagé, et il varie selon la quantité que vous envoyez.

C'est le changement le plus susceptible de casser une intégration Drex fonctionnelle, car le mode de défaillance ne se traduit pas par une erreur à faible volume. Une suite de tests passant 20 questions sur un document de 30 000 jetons tient confortablement dans les deux systèmes. La production, avec un enregistrement de 180 000 jetons et 900 questions, tient dans l'un et pas dans l'autre.

Ce que cache le prix par token

Drex Max v1.1 est affiché à 0,03 $ par million de tokens d’entrée en prix de lancement, contre un tarif catalogue de 0,06 $, et Gemini Decision 1 est à 0,10 $. Aucun des deux ne facture la sortie. Si l’on ne regarde que cette colonne, Drex est entre 1,7 et 3,3 fois moins cher, ce qui suffit à clore la conversation pour une équipe à fort volume.

Mesuré par tâche, l’écart se resserre. Artificial Analysis évalue Drex Max v1.1 à 103 $ par million de tâches de décision et Gemini Decision 1 à 345 $, soit un ratio d’environ 3,3 — la comparaison sur prix catalogue, pas le prix de lancement. La raison est que Gemini Decision 1 lit davantage de tokens pour parvenir à une réponse. Son contexte partagé est deux fois plus grand et ses scores par composant suggèrent qu’il fait passer davantage d’entrées par chaque question plutôt que moins. Par tâche, l’écart honnête est d’environ trois contre un en faveur de Drex, et la remise de lancement est une condition temporaire qui ne survivra pas à votre deuxième renouvellement de contrat.

Ce qui signifie que la question du prix n’est pas « lequel est le moins cher », mais « pour quelle fraction de vos tâches accepteriez-vous de payer trois fois plus cher pour obtenir un résultat correct ». Une règle qui aiguille les tickets de support vers une file d’attente ne vaut rien si elle se trompe 5 % plus souvent que l’alternative. Une règle qui signale une clause contractuelle pour un examen juridique vaut immédiatement la différence.

Le traitement des documents, c'est de là que viennent les scores.

L’écart composite de 6,6 points n’est pas réparti uniformément, et l’argument migratoire dépend de savoir où il se situe.

• AA-Paperclip, 30 % du poids — Drex Max v1.1 obtient 72,8 et réussit d'emblée 63 % des documents au test tout ou rien ; Gemini Decision 1 obtient 56,8 et en réussit 33 %. Ce seul composant explique l'essentiel de l'écart composite.

• When2Call, 10 % — Drex 95,3 contre 80,5 pour Gemini, un écart de 14,8 points sur le jugement en matière d’appel d’outils, la plus large avance proportionnelle que Drex détient, tous domaines confondus.

• EvalSafe-O*NET-AA, 15 % — 88,3 contre 87,1. Une erreur d’arrondi, et le seul test lié à la sécurité de la série.

• AA-Omniscience-Decision v1.1, 15 % — Drex 60,3, Gemini 66,3. L’avance de Gemini, et la raison pour laquelle sa couverture de lancement a mis la connaissance en avant.

• HLE-MultiChoice v1.1, 15 % — Drex 46,6, Gemini 48,7. Écart étroit, et les deux modèles refusent plutôt que de deviner assez souvent pour que la précision brute soit bien inférieure à ces chiffres.

• AA-Symmetry v1.1, 15 % — Drex 79,8 contre 70,5. Si la réponse résiste au fait que la question soit réordonnée, réétiquetée et niée, ce qui constitue, sur le tableau, l’équivalent le plus proche d’un test de stabilité.

Deux de ces lignes méritent un second coup d’œil avant de vous engager. Sur l’extraction de documents, Drex est presque deux fois plus fiable sur une métrique stricte, et sur la symétrie, il est plus stable de neuf points — ce qui signifie qu’un pipeline basé sur Drex produit moins de réponses qui changent lorsque la même question est formulée différemment. Si votre produit présente une réponse unique à un utilisateur, l’instabilité est un rapport de bug. Si elle alimente un score en aval, l’instabilité est une variance que vous pouvez lisser par moyennage.

La vitesse, et les arguments pour garder les deux

Drex Max v1.1 exécute une tâche en une médiane de 283 millisecondes. Gemini Decision 1 exécute la même tâche en 211. Le modèle plus récent est plus rapide malgré un travail plus important, ce qui est le seul point où la migration aide sans réserve. Pour une vérification synchrone avant une action destinée à l’utilisateur, 70 millisecondes ne sont pas rien.

Vitesse, prix et exactitude s’alignent rarement aussi nettement dans une même direction, et ici ce n’est pas le cas : Gemini est plus rapide et moins bon, Drex est plus lent et meilleur, et le rapport de coût suit le rapport de qualité plutôt que celui de latence. C’est la signature de deux modèles aux conceptions véritablement différentes, plutôt que d’un modèle qui serait une amélioration stricte de l’autre.

Voici la recommandation concrète. Un service de décision doté d’un seul modèle de scoring présente un point de défaillance unique et une seule opinion. Exécuter les deux coûte une seconde intégration et apporte un signal de désaccord : lorsque les deux modèles renvoient des réponses différentes avec une confiance élevée, le cas est réellement ambigu et ne devrait probablement pas être automatisé. Ce schéma est ancien, il est ennuyeux, et il détecte des erreurs qu’aucun score de confiance d’un modèle unique ne détectera.

Le portage de l'appel lui-même

La partie mécanique est plus petite que la partie comptable, avec trois pièges qu’il vaut la peine de nommer avant de commencer.

D'abord, Drex est appelé sur /v1/systemone avec l'identifiant de modèle fixé sur drex-max ; l'alias drex-latest du guide de démarrage rapide n'est pas l'identifiant fixé, et l'utiliser signifie que votre modèle change sous vos pieds sans déploiement. Gemini Decision 1 a le problème inverse : il n'y a aucun alias, seulement gemini-decision-1, et une requête nommant gemini-decision ne sera pas résolue. Épinglez des deux côtés, et traitez l'identifiant de modèle comme un numéro de version dans votre configuration, et non comme une constante dans votre code source.

Deuxièmement, les limites de médias ne se transposent pas. Drex Max v1.1 accepte jusqu’à 8 images par requête. Gemini Decision 1 accepte le texte, les images, l’audio, la vidéo et le PDF, avec des limites de 100 Mo de base64 en ligne, 50 Mo par PDF et 15 Mo par URL HTTPS, et refuse catégoriquement les liens YouTube et les URI gs://. Un pipeline Drex qui regroupe huit numérisations de pages par requête devient un pipeline Gemini qui, soit envoie les pages sous forme d’un seul PDF, soit divise le lot.

Troisièmement, les types de questions sont proches, mais les limites ne sont pas identiques. Les deux prennent en charge oui/non, le choix et le score. Gemini plafonne le choix et le score à 2–255 options ou niveaux et borne la probabilité oui/non à 0,01–0,99 ; ainsi, tout seuil défini dans votre code Drex au-dessus de 0,99 ne se déclenchera jamais silencieusement après le portage. Vérifiez chaque constante de seuil dans la base de code, pas seulement celles du fichier de configuration.

Là où un routeur a sa place, et où il ne l'a pas

OrcaRouter ne prend en charge ni gemini-decision-1 ni drex-max. Tous deux sont des points de terminaison qui ne fournissent que des probabilités, et un routeur de notre configuration se place devant des cibles de type chat-completions ; affirmer le contraire constituerait une promesse de disponibilité qui échouerait dès la première requête. Dans cette migration, le rôle du routeur concerne la partie du pipeline qui n’est pas le scorer.

Presque tous les services de décision sont rédigés avant d’être évalués : un modèle génératif extrait des clauses candidates, propose la grille d’évaluation ou résume le dossier dans le contexte partagé que lit ensuite le modèle de décision. C’est lors de cet appel de rédaction que le choix du fournisseur compte réellement et qu’un second contrat pèse, et il peut s’exécuter sur plus de 200 modèles sur un même point de terminaison, avec le prix catalogue du fournisseur répercuté à 0 % de marge. Le DSL de routage compte davantage ici que dans un produit de chat, car les appels de rédaction sont hétérogènes — un modèle économique pour le tri, un modèle à contexte long pour le dossier de 180 000 tokens — et exprimer cela sous forme de règles vaut mieux que de l’exprimer via trois SDK.

La limite honnête : le basculement protège l’appel de rédaction, pas l’appel de notation. Il n’y a qu’un seul endroit où envoyer une demande de décision, et s’il est indisponible, votre service est indisponible. Si cette dépendance est inacceptable, le schéma à deux modèles ci-dessus n’est pas seulement une mesure de précision — c’est la seule véritable redondance disponible, car c’est le seul moyen d’avoir deux points de notation indépendants.

L'essentiel

Passez à Gemini Decision 1 si vos décisions prennent la forme de connaissances, si la vitesse compte, ou si vous voulez un contexte partagé assez vaste pour contenir un enregistrement complet d’un seul coup. Restez sur Drex Max v1.1 si elles prennent la forme de documents — et le taux de réussite indique que c’est probablement le cas, car l’extraction de documents est ce que la plupart des charges de travail décisionnelles se révèlent être quand on y regarde de près. Exécutez les deux si une réponse erronée coûte cher, et prévoyez le rapport de coûts de trois pour un avant de promettre des économies à qui que ce soit. La migration représente une journée de travail et un trimestre de réglages ; la décision de la faire dépend de la composante de l’index à laquelle votre charge de travail ressemble réellement.