pplx-decider-flash vs Laya: dos tipos de modelo de decisión, una comparación errónea

Los números que circulan son pulcros e inútiles. Un índice de comparación puntúa a Laya con 69,5 y pplx-decider-flash-v1.2 con 68, un casi empate. Otro puntúa a Flash con 73,7 y lo sitúa en el primer puesto de 48. Un tercero le otorga a Flash 451 de 504 frente a los 240 de Laya multilingual. Tres fuentes, tres veredictos, porque cada una mide un modelo distinto en un conjunto de tareas distinto — y al menos dos de las tres están midiendo una variante de Laya sin decir cuál. Esta es la comparación que realmente importa, y la primera frase honesta es que todavía nadie la ha ejecutado como es debido.

Lo que puede compararse es la forma de los dos sistemas: para qué están hechos, cuánto cuesta hacerlos funcionar y qué exige cada uno de ti antes de producir una probabilidad utilizable. En esos ejes, no son rivales cercanos. Son productos distintos que casualmente comparten un mismo puesto de trabajo.

Un párrafo cada uno.

pplx-decider-flash-v1.2 es un modelo de decisión multimodal de clase 4B de Perplexity, construido sobre una base Qwen3.5-4B con una cabeza de lectura separada de 255 vías. Le proporcionas un estado —texto, JSON o una imagen de hasta 1,6 megapíxeles— y preguntas tipadas, y devuelve probabilidades calibradas en una sola pasada hacia delante. Está diseñado para funcionar zero-shot: la temperatura guardada es 1,554 y la tarjeta informa de una precisión del 88,8 % con un error de calibración esperado de 0,021 en un conjunto de desarrollo de 1.497 preguntas. Es Apache-2.0, de unos 9 GiB en BF16, y cuesta $0,01 por millón de tokens de entrada en la API de Perplexity, con la salida gratis.

Laya es una familia de codificadores de decisión no autorregresivos de Convai Innovations, publicada el 18 de septiembre de 2026 y también bajo Apache-2.0. El checkpoint en inglés es un ModernBERT-large ajustado de 421 M de parámetros con un contexto de 512 tokens; el modelo multilingüe es un mmBERT-base de 322 M de parámetros con 1.024 tokens; un tercer checkpoint, laya-typed-decisions, es el que registra las puntuaciones más destacadas. Responde a todas las preguntas de una llamada en una sola pasada hacia delante usando tokens de máscara por opción, sin paso de generación ni entrada de imagen.

Por qué no coinciden las tablas comparativas

La discrepancia empieza con el benchmark que construyó cada proveedor. Perplexity puntúa sus modelos según Decision Index 0.3, un compuesto que abarca conocimiento, lenguaje, recuperación, herramientas y artes. Convai puntúa a Laya con un benchmark de decisiones tipadas de 400 casos y 2.000 decisiones que también publica. Ninguno de los modelos se ha ejecutado en el arnés del otro en público.

Los índices de terceros cubren ese vacío de manera deficiente. El índice compuesto de Anchor Terminal coloca a Laya en cuarto lugar con 69,5 y a Flash en sexto con 68, una diferencia de 1,5 puntos que está bien dentro del ruido de un índice compuesto que nadie puede auditar. Ollaya Bench informa 73,7 global y el puesto uno de 48 para Flash, con 82,4 % de precisión macro, pero no publica ningún arnés de pruebas. Una suite de tareas creada por Jev puntúa a Flash con 451/504 y a Laya multilingual con 240 —una derrota aplastante, en una suite escrita por los mantenedores de un modelo de la competencia. La página de PublicAI logra registrar que Flash vence a Laya 322M y a Laya multilingual, mientras que además pierde 3-0 ante un «Laya» sin nombre.

Esa última entrada es todo el problema en miniatura. "Laya" no es un solo modelo. Comparar Flash con un codificador inglés de 421 M, un codificador multilingüe de 322 M y un especialista en benchmarks con ajuste fino produce tres respuestas diferentes, y solo una de ellas es lo que realmente desplegarías.

El marcador que podemos defender

Estas son las dimensiones en las que los dos sistemas realmente divergen, con las cifras publicadas por cada parte y las fuentes indicadas.

• Parámetros — pplx-decider-flash-v1.2 es de clase 4B (la documentación de la API dice 4B, el encabezado de la tarjeta dice 5B en BF16) frente a Laya con 421M en inglés y 322M multilingüe.

• Contexto — 262.144 tokens en Flash, entrenado hasta aproximadamente 32.000 frente a 512 tokens en Laya English y 1.024 en multilingüe.

• Modalidad — Flash acepta texto, JSON e imágenes de hasta 1,6 MP, mientras que Laya solo acepta texto.

• Uso sin ajuste previo — Flash se distribuye calibrado, con una temperatura guardada y métricas de error publicadas frente a los checkpoints base de Laya, que la propia ficha describe como «una base rápida para especializar, no un motor de decisiones sin ajuste previo».

• Latencia — Laya a 32,8 ms para una pregunta en una T4, 72,3 ms para diez, 103–332 preguntas por segundo en lotes, y 193–464 ms en CPU frente a Flash, sin ninguna cifra publicada de nivel de servicio por parte de Perplexity; la única cifra que publica el proveedor es una prueba de documentación en la que ~248.000 tokens de entrada tardaron 16 segundos.

• Precio — Flash a $0,01 por millón de tokens de entrada, salida gratis, en la API de Perplexity frente a Laya sin precio alojado porque es un lanzamiento de pesos que ejecutas tú mismo.

Latencia y hardware: donde Laya no está cerca

Todo el argumento de Laya es que una decisión no necesita un modelo generativo, y las cifras de latencia lo respaldan. Una pregunta en 32,8 ms en una T4 para el checkpoint multilingüe, 39,5 ms para inglés; diez preguntas en 72,3 ms; de 103 a 332 preguntas por segundo cuando se procesan en lotes. En CPU, precargado, se ejecuta en 193 a 464 ms. Un codificador de 322M es lo bastante pequeño como para encajar dentro de una ruta de solicitud que no puede permitirse una GPU.

Flash es una clase de despliegue distinta. Nueve gigabytes de pesos BF16 caben en una tarjeta de consumo de 16 GB, y una prueba comparativa de terceros reporta alrededor de 10,4 GB de VRAM y 90–127 ms por decisión en una RTX 5090. Eso es respetable para un modelo de 4B y aproximadamente tres veces la latencia de Laya en T4 sobre hardware que cuesta muchas veces más. Si tu restricción son los milisegundos en hardware barato, el debate termina antes de que entre en juego la precisión.

La cuestión del ajuste fino

Esta es la parte que ocultan las tablas comparativas, y es decisiva.

La precisión principal de 0,766 de Laya corresponde a laya-typed-decisions, un checkpoint ajustado sobre la propia división de entrenamiento del benchmark. El checkpoint base en inglés obtiene 0,362 en el mismo benchmark, frente a una línea base de clase mayoritaria de 0,461 y una conjetura aleatoria de 0,318. En otras palabras, el modelo que descargas recién descargado es peor que responder siempre con la etiqueta más común. Convai lo dice directamente en la ficha. Un estudio independiente de reproducción en arXiv también informó que una métrica principal, la precisión suave de 0,509 frente a la publicada de 0,471, no se pudo reproducir, y sostuvo que los datos de calibración están contaminados por construcción.

La afirmación de Flash tiene la forma opuesta: un 60,05 reportado por el proveedor en Decision Index con una pregunta por solicitud, de un modelo que se supone que debes usar tal como se entrega. Esa afirmación no está verificada: Perplexity construyó el benchmark y su ficha dice que el trabajo de entrenamiento incluyó las divisiones oficiales de entrenamiento de varias tareas de Decision Index, descontaminadas contra los conjuntos de prueba. Es una práctica defendible declarada sin rodeos, pero también significa que el modelo ha visto datos del dominio para el benchmark con el que se evalúa, y la descontaminación es una afirmación de Perplexity, no un hecho auditado. Pero la carga es distinta. Con Laya debes ajustar y recalibrar antes de que las cifras publicadas signifiquen algo; la ficha recomienda el ajuste de temperatura porque las probabilidades brutas son demasiado confiadas, con el ECE bajando de 0,466 a 0,081 tras reajustar. Con Flash confías en la calibración de un proveedor sobre datos que no has visto.

Ninguna de las dos es gratuita. Una cuesta tiempo de ingeniería; la otra, tiempo de verificación.

Idioma y cardinalidad

Laya multilingual admite más de 100 idiomas en principio y 45 de 51 en la práctica, según el propio umbral «utilizable» de la ficha, de tres veces el azar. Su puntuación XNLI fuera del inglés es 0,731, frente a 0,521 del checkpoint solo en inglés, y la precisión de intención de MASSIVE en otros 13 idiomas es 0,451. Son cifras modestas, pero existen, y Flash no tiene ninguna evaluación multilingüe publicada. Si tu tráfico no es en inglés, el proveedor con la evaluación multilingüe es un punto de partida más seguro incluso donde sus puntuaciones son bajas.

La cardinalidad va en la otra dirección. Laya se degrada gravemente en preguntas de opción de alta cardinalidad: 0.425 en las 72 etiquetas de Banking77 frente a 0.870 de Jev, porque 77 opciones con la configuración predeterminada reciben alrededor de tres o cuatro tokens cada una. La tarjeta aconseja aumentar el presupuesto de opciones o dividir de grueso a fino. Flash acepta hasta 255 opciones y no tiene un benchmark publicado de alta cardinalidad, por lo que la lectura segura es que Flash está diseñado para el caso que Laya documenta como una debilidad y no ha mostrado su trabajo.

Cuánto cuestan mil decisiones

Laya no tiene un precio por decisión porque tú lo alojas. En una T4 a 103–332 preguntas por segundo, un millón de decisiones supone entre 50 minutos y tres horas de tiempo de GPU. Con las tarifas habituales de la nube, eso equivale a centavos o unos pocos dólares, más la ingeniería necesaria para desplegarlo y monitorizarlo.

Flash en la API es fácil de calcular. Un estado de 400 tokens, una pregunta: 1.000 decisiones son 400.000 tokens de entrada, que a $0,01 por millón son $0,004. Un millón de decisiones cuesta unos $4. Alojar los pesos tú mismo elimina el coste por token, pero te devuelve a una GPU con aproximadamente 9 GiB de pesos y un patrón de atención no causal que los servidores causales estándar no reproducen.

La trampa es agrupar en lotes. Flash vuelve a facturar el estado por cada pregunta, así que tres preguntas por estado triplican la factura. Si tu compuerta pregunta varias cosas a la vez, el modelo barato no es barato.

Esta es también la capa donde aparece la cuestión del enrutamiento. Un modelo de decisión es una puerta delante de la generación, y el lado de la generación es donde se concentra la mayor parte del gasto. OrcaRouter pone más de 200 modelos detrás de una sola clave sin margen sobre los precios de lista, de modo que un generador más económico o una reducción de precio de un proveedor se aplican el mismo día, y la conmutación automática por error evita que una solicitud mal enrutada falle por completo. No alojamos pplx-decider-flash ni Laya. El único modelo de decisión que sí servimos es Jev de TypeSafe, como jev-1.13 y jev-1.14, lo cual conviene saber si quieres un decisor alojado sin tener que levantar una GPU.

Cómo elegir, en orden

• Tráfico no inglés — empieza con Laya multilingüe y luego mide. Es el único lado con cifras translingüísticas publicadas.

• Menos de 100 ms en hardware convencional — Laya. En una T4 responde en 33 ms; Flash necesita una GPU moderna y, según se informa, tarda entre 90 y 127 ms en ella.

• Imágenes en el estado — Flash, sin competencia real. Laya no tiene una ruta de visión.

• Estados largos — Flash. Una ventana de 512 tokens deja fuera a Laya para cualquier cosa que se parezca a un documento.

• Sin datos etiquetados y sin tiempo para un ajuste fino — Flash, al menos como punto de partida. El punto de control base de Laya está por debajo de la línea base mayoritaria.

• Más de 20 opciones por pregunta — Flash, o Laya con un presupuesto de opciones elevado y una división de grueso a fino.

El resumen honesto es que estos modelos compiten por la misma descripción del puesto y casi nunca por el mismo despliegue. Laya es un codificador rápido, pequeño y ajustable mediante fine-tuning para la clasificación de gran volumen en idiomas que puedes probar. Flash es un juez multimodal, calibrado y de propósito general, con un contexto amplio y un marcador del proveedor detrás. Las tablas comparativas que los separan por 1,5 puntos no son tanto incorrectas como carentes de significado: al promediar, eliminan justamente las propiedades que determinan la elección.