Mover una carga de trabajo de decisiones de Drex Max a Gemini Decision 1

La migración parece un cambio de URL, pero no lo es. Drex Max v1.1 y Gemini Decision 1 ambos toman un bloque de contexto y un conjunto de preguntas tipadas y devuelven probabilidades, así que la primera tarde de una migración va bien: renombrar el campo, apuntar el cliente a una ruta base distinta, ejecutar la suite de pruebas. Lo que falla es la segunda semana, cuando llega el volumen y resulta que los dos modelos de facturación no coinciden en qué estás comprando. Este es el relato de lo que realmente tiene que cambiar, escrito para alguien que tiene una integración funcional de Drex Max v1.1 y se pregunta si la puntuación destacada del modelo más nuevo justifica el cambio.

Empieza por la versión honesta del intercambio. En el Artificial Analysis Decision Index v2.1, Drex Max v1.1 obtiene 73 y Gemini Decision 1 obtiene 66. Gana el modelo más antiguo, y gana por 6,6 puntos, la mayor parte en el componente que aporta el 30 % del compuesto. Si tu carga de trabajo es el triaje de documentos, la migración es una degradación disfrazada de actualización. Si es otra cosa, sigue leyendo, porque los dos endpoints no son tan similares como sugieren las formas de sus solicitudes.

La diferencia que no está en ninguna clasificación

Drex Max v1.1 asigna a cada pregunta su propio presupuesto de 131.072 tokens. Gemini Decision 1 asigna a toda la solicitud 262.144 tokens, compartidos entre la entrada y cada pregunta que contiene. Esas dos frases describen la misma categoría de producto y producen consejos de ingeniería opuestos.

En Drex, hacer 200 preguntas cuesta 200 presupuestos separados, y el techo práctico de una solicitud es tu límite de frecuencia en lugar del contexto. En Gemini Decision 1, 200 preguntas y un contrato de 200.000 tokens no caben en la misma solicitud: 200.000 tokens de entrada dejan 62.144 para las preguntas e instrucciones, lo cual es cómodo, pero una entrada de 250.000 tokens deja 12.144 y la solicitud falla. El techo es real, es compartido y cambia según cuánto envíes.

Este es el único cambio con más probabilidades de romper una integración de Drex que funciona, porque el modo de fallo no es un error con poco volumen. Una suite de pruebas que pasa 20 preguntas sobre un documento de 30.000 tokens cabe cómodamente en ambos sistemas. Producción, con un registro de 180.000 tokens y 900 preguntas, cabe en uno y no en el otro.

Lo que oculta el precio por token

Drex Max v1.1 se ofrece a $0.03 por millón de tokens de entrada como precio de lanzamiento frente a una tarifa de lista de $0.06, y Gemini Decision 1 cuesta $0.10. Ninguno cobra por la salida. Si se lee solo esa columna, Drex es entre 1.7 y 3.3 veces más barato, lo cual basta para cerrar la conversación para un equipo de alto volumen.

Medido por tarea, la brecha se reduce. Artificial Analysis sitúa Drex Max v1.1 en 103 USD por millón de tareas de decisión y Gemini Decision 1 en 345 USD, una proporción de aproximadamente 3,3: la comparación de precios de lista, no el precio de lanzamiento. La razón es que Gemini Decision 1 lee más tokens para llegar a una respuesta. Su contexto compartido es el doble de grande, y sus puntuaciones por componente sugieren que está introduciendo más entrada en cada pregunta en lugar de menos. Por tarea, la diferencia honesta es de aproximadamente tres a uno a favor de Drex, y el descuento de lanzamiento es una condición temporal que no sobrevivirá a tu segunda renovación de contrato.

Lo que significa que la pregunta sobre el precio no es «cuál es más barato», sino «qué fracción de tus tareas pagarías 3 veces más por acertar». Una regla que enruta los tickets de soporte a una cola no vale nada si se equivoca un 5 % más a menudo que la alternativa. Una regla que señala una cláusula de contrato para revisión legal vale la diferencia de inmediato.

La gestión de documentos es de donde provienen las puntuaciones.

La brecha compuesta de 6,6 puntos no se distribuye de manera uniforme, y el argumento de la migración depende de saber dónde se ubica.

• AA-Paperclip, 30 % del peso — Drex Max v1.1 obtiene 72,8 y aprueba directamente el 63 % de los documentos en la prueba de todo o nada; Gemini Decision 1 obtiene 56,8 y aprueba el 33 %. Este único componente explica la mayor parte de la diferencia del compuesto.

• When2Call, 10% — Drex 95,3 frente al 80,5 de Gemini, una diferencia de 14,8 puntos en criterio de invocación de herramientas, la ventaja proporcional más amplia que Drex ostenta en cualquier ámbito.

• EvalSafe-O*NET-AA, 15% — 88.3 frente a 87.1. Un error de redondeo, y la única prueba relacionada con la seguridad del conjunto.

• AA-Omniscience-Decision v1.1, 15% — Drex 60.3, Gemini 66.3. La ventaja de Gemini, y la razón por la que su cobertura de lanzamiento se centró en el conocimiento.

• HLE-MultiChoice v1.1, 15% — Drex 46.6, Gemini 48.7. El margen es estrecho, y ambos modelos se abstienen en lugar de adivinar con la frecuencia suficiente como para que la precisión bruta quede muy por debajo de estas cifras.

• AA-Symmetry v1.1, 15% — Drex 79.8 frente a 70.5. Si la respuesta sobrevive a que la pregunta se reordene, se vuelva a etiquetar y se niegue, lo que es lo más parecido que hay en la tabla a una prueba de estabilidad.

Dos de esas filas merecen una segunda mirada antes de que te decidas. En extracción de documentos, Drex es casi el doble de fiable con una métrica estricta, y en simetría es nueve puntos más estable — lo que significa que un pipeline basado en Drex produce menos respuestas que cambian cuando la misma pregunta se formula de otra manera. Si tu producto muestra una única respuesta al usuario, la inestabilidad es un informe de error. Si alimenta una puntuación en etapas posteriores, la inestabilidad es varianza que puedes promediar.

Velocidad, y el argumento para mantener ambos

Drex Max v1.1 ejecuta una tarea en una mediana de 283 milisegundos. Gemini Decision 1 ejecuta la misma tarea en 211. El modelo más nuevo es más rápido a pesar de hacer más trabajo, que es el único aspecto en el que la migración ayuda sin reservas. Para una verificación síncrona antes de una acción de cara al usuario, 70 milisegundos no son insignificantes.

La velocidad, el precio y la precisión rara vez se alinean de forma tan limpia en una sola dirección, y aquí no lo hacen: Gemini es más rápido y peor, Drex es más lento y mejor, y la relación de costes sigue a la relación de calidad en lugar de a la de latencia. Esa es la seña de identidad de dos modelos con diseños genuinamente distintos, y no de que uno sea una mejora estricta.

Cuál es la recomendación real. Un servicio de decisión que tiene un solo modelo de puntuación tiene un único punto de fallo y una única opinión. Ejecutar ambos cuesta una segunda integración y aporta una señal de desacuerdo: cuando los dos modelos devuelven respuestas diferentes con alta confianza, el caso es genuinamente ambiguo y probablemente no debería automatizarse. Ese patrón es antiguo, es aburrido y detecta errores que no detectará la puntuación de confianza de ningún modelo por sí solo.

Portar la llamada en sí

La parte mecánica es más pequeña que la parte contable, con tres trampas que conviene mencionar antes de empezar.

Primero, se llama a Drex en /v1/systemone con el id de modelo fijado como drex-max; el alias drex-latest del quickstart no es el id fijado, y usarlo significa que tu modelo cambia por debajo de ti sin necesidad de un despliegue. Gemini Decision 1 tiene el problema contrario: no existe ningún alias, solo gemini-decision-1, y una solicitud que indique gemini-decision no se resolverá. Fija el id en ambos lados y trátalo como un número de versión en tu configuración, no como una constante en tu código fuente.

En segundo lugar, los límites de medios no se trasladan. Drex Max v1.1 acepta hasta 8 imágenes por solicitud. Gemini Decision 1 acepta texto, imagen, audio, video y PDF con límites de 100 MB de base64 en línea, 50 MB por PDF y 15 MB por URL HTTPS, y rechaza de plano los enlaces de YouTube y las URI gs://. Una canalización de Drex que agrupa ocho escaneos de páginas por solicitud se convierte en una canalización de Gemini que o bien envía las páginas como un único PDF, o bien divide el lote.

En tercer lugar, los tipos de preguntas son similares, pero los límites no son idénticos. Ambos admiten sí/no, elección y puntuación. Gemini limita elección y puntuación a entre 2 y 255 opciones o niveles, y restringe la probabilidad de sí/no a 0,01–0,99, por lo que cualquier umbral que tu código de Drex haya definido por encima de 0,99 nunca se disparará de forma silenciosa después de portarlo. Revisa todas las constantes de umbral de la base de código, no solo las que están en el archivo de configuración.

Dónde encaja un router y dónde no

OrcaRouter no incluye ni gemini-decision-1 ni drex-max. Ambos son endpoints que solo proporcionan probabilidades, y un router como el nuestro se sitúa delante de destinos de chat-completions; afirmar lo contrario sería una afirmación de disponibilidad que falla en la primera solicitud. Para lo que sirve el router en esta migración es para la parte del pipeline que no es el puntuador.

Casi todos los servicios de decisión se redactan antes de puntuarse: un modelo generativo extrae cláusulas candidatas, propone la rúbrica o resume el expediente en el contexto compartido que luego lee el modelo de decisión. Esa llamada de redacción es donde la elección de proveedor realmente importa y donde un segundo contrato duele, y puede ejecutarse en más de 200 modelos en un solo endpoint con el precio de lista del proveedor trasladado sin margen (0 % de recargo). El DSL de enrutamiento importa más aquí que en un producto de chat, porque las llamadas de redacción son heterogéneas —un modelo barato para el triaje, un modelo de contexto largo para el expediente de 180.000 tokens— y expresar eso como reglas es mejor que expresarlo como tres SDK.

El límite honesto: la conmutación por error protege la llamada de redacción, no la llamada de puntuación. Solo hay un lugar al que enviar una solicitud de decisión, y si no está disponible, tu servicio no está disponible. Si esa dependencia es inaceptable, el patrón de dos modelos anterior no es solo una medida de precisión —es la única redundancia real disponible, porque es la única forma de tener dos endpoints de puntuación independientes.

En resumidas cuentas

Pásate a Gemini Decision 1 si tus decisiones tienen forma de conocimiento, si la velocidad importa o si quieres un contexto compartido lo bastante grande como para contener un registro completo de una vez. Quédate en Drex Max v1.1 si tienen forma de documento —y la tasa de aprobación dice que probablemente lo son, ya que la extracción de documentos es lo que resulta ser la mayoría de las cargas de trabajo de decisiones cuando se mira de cerca. Ejecuta ambos si una respuesta incorrecta es costosa, y presupuesta la relación de costos de tres a uno antes de prometerle a alguien un ahorro. La migración es un día de trabajo y un trimestre de reajuste; la decisión de hacerla depende de a qué componente del índice se parece realmente tu carga de trabajo.