pplx-decider-flash vs pplx-decider: el 4B es más barato hasta que haces tres preguntas

En la lista de precios, pplx-decider-flash-v1.2 cuesta la mitad de lo que pplx-decider-v1.2 cuesta: $0.01 por millón de tokens de entrada frente a $0.02. Según las reglas de facturación, ese descuento se mantiene exactamente durante una pregunta. Haz dos preguntas sobre el mismo estado y los dos modelos cuestan lo mismo. Haz tres y el modelo 4B es el más caro, porque Flash vuelve a facturar el estado por cada pregunta mientras que el 27B lo factura una sola vez. El modelo más barato solo es más barato si le haces una pregunta pequeña a la vez.

Esa inversión es la parte útil de esta comparación. El resto es un conocido compromiso de tamaño: un checkpoint de 4B que gana en latencia y memoria frente a un modelo de 26 mil millones de parámetros que gana en precisión, con ambos comercializados bajo la misma licencia Apache-2.0 y el mismo contexto predeterminado de 262.144 tokens.

Dos puntos de control, una versión, tareas diferentes

Perplexity publicó ambos el 15 de octubre de 2026, el modelo grande a las 07:40 UTC y Flash a las 16:57. Comparten un diseño: un backbone Qwen, una cabeza de lectura de 255 vías en lugar de una cabeza de modelo de lenguaje, capas de atención completa no causales y una temperatura de calibración guardada. No comparten backbone. pplx-decider-v1.2 se basa en Qwen3.8-27B y se distribuye con aproximadamente 52 GiB en BF16. pplx-decider-flash-v1.2 se basa en Qwen3.5-4B y se distribuye con aproximadamente 9 GiB.

La nomenclatura es más laxa que las cifras. El modelo grande se comercializa como 27B, pero su propia ficha indica 26B en BF16. Flash se comercializa como 4B en la documentación de la API, mientras que el encabezado de su ficha indica 5B en BF16 y su backbone es un modelo de 4B. Ninguna de las dos discrepancias cambia una decisión de despliegue; ambas merecen conocerse antes de citar un recuento de parámetros en un plan de capacidad.

La lista de precios, antes del asterisco

• Precio de entrada — pplx-decider-flash-v1.2 a $0.01 por millón de tokens frente a pplx-decider-v1.2 a $0.02.

• Precio de salida — gratis en ambos, sin cargo por solicitud. Cada pregunta cuenta como un token de salida únicamente a efectos contables.

• Límites de velocidad — 4.000.000 de tokens por minuto y 240.000.000 por hora, con un límite de 10 solicitudes por segundo compartido entre ambos modelos a nivel de organización.

• Alias — pplx-decider-flash-latest y pplx-decider-latest pasan ambos a la versión más reciente, por lo que un umbral ajustado con una versión puede encontrarse silenciosamente con otra.

El asterisco no está oculto. La documentación de Perplexity afirma claramente que Flash está diseñado para una pregunta por solicitud, que enviar varias preguntas produce respuestas independientes sin interacción entre ellas y que el estado se factura de nuevo por cada una. Incluso desarrolla el ejemplo: tres preguntas sobre un estado de 10.000 tokens cuestan unos 30.000 tokens de entrada.

Donde la segunda pregunta elimina el descuento

La forma general es sencilla. Para un estado de s tokens y q preguntas, Flash cuesta q × s × $0.01 por millón y el 27B cuesta s × $0.02 por millón. La factura de Flash supera al modelo grande en la tercera pregunta.

• Una pregunta, estado de 10.000 tokens — Flash $0.0001 vs 27B $0.0002. Flash gana por la mitad.

• Dos preguntas, mismo estado — Flash $0.0002 vs 27B $0.0002. Un empate, no un descuento.

• Tres preguntas — Flash $0.0003 frente a 27B $0.0002. El de 4B es un 50 % más caro.

• Cinco preguntas — Flash $0.0005 frente a 27B $0.0002. El 4B cuesta dos veces y media ese precio.

En términos absolutos, se trata de fracciones de centavo, por lo que la regla es fácil de pasar por alto y por lo que se acumula con el volumen. Una compuerta que ejecuta un millón de solicitudes de tres preguntas contra estados de 10.000 tokens cuesta unos $300 en Flash y $200 en el 27B. El modelo que parece un 50% más barato es un 50% más caro en la carga de trabajo en la que el procesamiento por lotes normalmente sería una optimización.

La documentación de Perplexity dice que el modelo más grande «suele costar menos que Flash» con tres o más preguntas. El punto de cruce exacto es dos. Si tus preguntas están genuinamente acopladas —facetas de un mismo decidente del tipo «selecciona todas las que correspondan»—, la ruta conjunta también es la precisa. Si son puntuaciones independientes de candidatos, la documentación aconseja dividirlas en solicitudes separadas, lo que eleva aún más la factura de Flash mientras deja intacta la del 27B.

La brecha de precisión, categoría por categoría

Ambos modelos se puntúan según el Decision Index 0.3, el índice compuesto propio de Perplexity. La cifra principal es 60,05 para Flash con una pregunta por solicitud frente a 68,09 para el 27B con solicitudes conjuntas. El desglose por categorías, que compara ejecuciones conjuntas con ejecuciones conjuntas, muestra de dónde procede la diferencia de 9,2 puntos entre las ejecuciones conjuntas.

• Conocimiento — 42,0 vs 56,3. Una diferencia de 14,3 puntos, y la que debería decidir la mayoría de los despliegues. Si la pregunta requiere saber algo en vez de juzgar algo, el 4B no es un sustituto.

• Idioma — 63,3 vs 72,8.

• Recuperación — 64,8 frente a 68,4. La diferencia más estrecha, de 3,6 puntos. Determinar si un pasaje respalda una afirmación es la tarea para la que se diseñó Flash, y las cifras lo reflejan.

• Herramientas — 76,7 vs 84,4. Ambos modelos son los más fuertes aquí en términos absolutos, lo que encaja con el caso de uso de enrutamiento.

• Artes — 46,8 vs 56,2.

• Visión — 72,53 frente a 77,43 en el Vision Decision Index, una diferencia de 4,9 puntos que es menor que la brecha en texto y hace que Flash sea más competitivo en imágenes que en prosa.

La advertencia obvia se aplica a todas las cifras anteriores: el benchmark pertenece al proveedor y ningún tercero lo ha reproducido. La ficha del 27B indica que el trabajo de entrenamiento incluyó las divisiones oficiales de entrenamiento de varias tareas de Decision Index, descontaminadas contra los conjuntos de prueba; se trata de una práctica declarada, no auditada. Considera el perfil de categorías como una hipótesis sobre dónde es fuerte cada modelo —conocimiento y artes para el 27B, recuperación y herramientas para ambos— y no como un resultado medido.

La asimetría de la solicitud conjunta

Agrupar las preguntas ayuda al modelo grande y perjudica al pequeño, y las propias cifras de Perplexity lo confirman.

• pplx-decider-v1.2 — 68,09 conjunto frente a 67,75 individual por solicitud. La agrupación añade 0,34 puntos.

• pplx-decider-flash-v1.2 — 58,88 en conjunto frente a 60,05 uno por solicitud. Agrupar cuesta 1,17 puntos.

La documentación explica el mecanismo: el 4B pierde precisión cuando responde varias preguntas juntas, por lo que una pregunta por solicitud es la opción predeterminada recomendada. Lo que añaden las cifras es que la pérdida es lo bastante grande como para reflejarse en la puntuación general, no solo en casos límite. El modelo se comercializa por su velocidad en una sola pasada y obtiene mejores métricas sin la pasada única. Si de todos modos agrupas para perseguir el throughput, estás pagando la velocidad dos veces: una en tokens y otra en precisión.

Calibración: más cerca de lo que sugiere la brecha de precisión

Ambas tarjetas publican su calibración con honestidad, algo lo bastante poco común como para mencionarlo.

• Temperatura guardada — 1.554 en Flash vs 1.382 en el 27B.

• Precisión en el conjunto de desarrollo — 88,8 % en 1.497 preguntas para Flash frente a 91,3 % para el 27B.

• Error de calibración esperado después de la temperatura — 0,021 para Flash frente a 0,014 para el 27B.

• Puntuación de Brier — 0,163 frente a 0,134.

Flash es menos preciso y está peor calibrado, como era de esperar con una séptima parte del tamaño, pero la brecha de calibración es de 0,007 ECE — lo suficientemente pequeña como para que un umbral ajustado en el 27B a menudo se transfiera. La ficha del 27B también reconoce con franqueza que los datos de decisión reservados siguen siendo algo sobreconfiados, con un ECE de alrededor de 0,05, por lo que ninguno de los dos modelos sustituye el ajuste de umbrales con tus propios datos. La documentación de Perplexity dice exactamente eso: evalúa ambos con datos etiquetados en tus umbrales previstos y conserva Flash solo si supera tu objetivo de precisión.

Autoalojamiento: 9 GiB frente a 52 GiB

Ambos son Apache-2.0, así que el precio del servicio alojado es una comodidad más que una dependencia. La diferencia de hardware es la separación más marcada entre ambos.

• Pesos — aproximadamente 9 GiB en BF16 para Flash frente a aproximadamente 52 GiB para el 27B, además de memoria de trabajo en ambos.

• Hardware — Flash cabe en una tarjeta de consumo de 16 GB; el 27B necesita un acelerador potente o un reparto entre varias GPU.

• Serving — ninguna de las dos se integra sin cambios en un servidor causal estándar. Las capas de atención completa se ejecutan de forma no causal, y los prompts escritos para la v1.1 no sirven.

• Contexto — 262.144 tokens en ambos de forma predeterminada, con el entrenamiento validado solo hasta aproximadamente 32.000 y las tarjetas advierten de que las entradas más largas están menos probadas.

El autoalojamiento de Flash es la única versión de esta comparativa en la que el 4B gana de forma incondicional. Una sola tarjeta de 16 GB, una licencia permisiva y ninguna factura por token conforman un producto genuinamente distinto de un checkpoint de 52 GiB que requiere un equipo de serving.

Una regla de decisión que puedes aplicar

• Una pregunta por estado, alto volumen — Flash. La ventaja de precio es real y la pérdida de precisión se concentra en las tareas de conocimiento que puedes derivar a otro lugar.

• Dos o más preguntas por estado — el 27B. Con dos, hay empate en precio; a partir de tres es más barato, y es más preciso en modo conjunto; la diferencia se amplía con cada pregunta añadida.

• Juicios con alta carga de conocimiento o de rúbricas — el 27B. Un déficit de 14,3 puntos en conocimiento no es algo que se solucione con un mejor prompt.

• Control de activación de la recuperación y selección de herramientas — Flash es defendible. Las diferencias allí son de 3,6 y 7,7 puntos, y la carga de trabajo es exactamente aquello para lo que se diseñó el modelo.

• Implementación en el dispositivo o en una sola GPU — Flash, sin una alternativa real en este par.

• Visión — cualquiera de los dos, con el 27B por delante por 4,9 puntos; si ya usas el 27B para texto, separar la visión a Flash aporta poco.

Sea cual sea el lado de la división en el que te sitúes, el decisor es la parte barata del pipeline. La generación que este habilita es donde se va el dinero, y esa es la capa que merece la pena optimizar. OrcaRouter pone más de 200 modelos tras una sola clave sin recargo sobre los precios de lista de los proveedores, de modo que una bajada de precio upstream se aplica ese mismo día, y el failover automático cubre el caso en que la puerta envía una petición a un modelo que está degradado. El DSL de enrutamiento compone los modelos que servimos; ninguno de los checkpoints de pplx-decider está entre ellos, así que una división Flash frente a 27B tiene que vivir en tu propio código. El decisor alojado en nuestro catálogo es el Jev de TypeSafe, como jev-1.13 y jev-1.14.

Ninguno de los dos proveedores ha publicado la prueba.

Todo lo anterior es una decisión tomada a partir de la documentación del proveedor. La prueba que lo resolvería es aburrida y concreta: toma mil solicitudes reales, etiquétalas y ejecuta ambos modelos con el umbral que tengas previsto, con una pregunta y con tres. Registra la precisión, el error de calibración y el total de tokens facturados. La predicción que se desprende de las cifras publicadas es que Flash gana en la carga de trabajo de una sola pregunta en cuanto a coste y pierde en la de tres preguntas tanto en coste como en precisión. Si eso se cumple, la elección es una propiedad de la forma de tus solicitudes, no de tu presupuesto, y el equipo que lo mida elegirá correctamente, mientras que todos los que lean la lista de precios elegirán el modelo que es un 50 % más barato sobre el papel y un 50 % más caro en producción.