Clef-Flash vs Qwen3-8B: 38 milisegundos frente al 8B que todo el mundo ya ejecuta

Hay un trabajo específico y poco glamuroso que muchos equipos le encargan a Qwen3-8B: lee este ticket, esta línea de log, este formulario y dime a cuál de mis cuatro grupos pertenece. Es una tarea de clasificación disfrazada de conversación, y Qwen3-8B es lo bastante bueno en ello como para que nadie se haya molestado en reemplazarlo. El 30 de septiembre de 2026, Cloudflare publicó los pesos de Cloudflare/clef-flash, un modelo de 9B construido para hacer ese único trabajo y nada más, y la pregunta interesante no es si es más inteligente que Qwen3-8B. Es si lo que actualmente obtienes de un generalista de 8B vale siquiera la pena pagarlo en tokens generados.

Clef-Flash responde a esa pregunta con estructura en lugar de con un benchmark. Toma un estado y un esquema de hasta 64 preguntas tipadas y devuelve un logit para cada opción permitida en una sola pasada no autorregresiva: sin texto intermedio, sin parseo, sin salida excepto probabilidades. Cloudflare midió una latencia de solicitud mediana de 38,8 ms para él, frente a aproximadamente 500 ms de Jev, el modelo de decisión de TypeSafe con el que se comparó. Qwen3-8B no está en esa tabla, porque Qwen3-8B no juega a ese juego: escribe una respuesta y tú la lees.

Lo que hace que esta comparación merezca un análisis completo, y no una simple página de filas de especificaciones, es que los dos modelos no comparten ningún benchmark. Todas las cifras de Clef-Flash que circulan las produjo Cloudflare, sobre un índice publicado por un competidor, y nadie fuera de Cloudflare ha reproducido ninguna de ellas. Qwen3-8B tiene tres generaciones de uso independiente a sus espaldas y un historial público que puedes cuestionar. Esa asimetría, y no la diferencia de latencia, es lo que debería determinar si haces el cambio.

Dos contratos de salida, no dos tamaños

Los recuentos de parámetros aquí son lo suficientemente cercanos como para ser una distracción — 9B para Clef-Flash frente a 8,2B para Qwen3-8B, 6,95B de eso no de embedding. La diferencia que importa es lo que cada modelo tiene permitido emitir.

Qwen3-8B es un modelo de lenguaje causal. Dale un ticket de soporte y produce tokens, y de forma predeterminada primero genera un bloque de razonamiento, porque el modo de pensamiento está activado a menos que lo desactives. Puede clasificar, explicar, escalar, redactar una respuesta o decirte que a tu taxonomía le falta un caso — todo desde los mismos pesos, sin necesidad de un esquema. Su ficha técnica anuncia 36 capas, atención de consulta agrupada de 32 cabezas de consulta a 8 cabezas KV, más de 100 idiomas y una longitud de contexto de 32,768 tokens de forma nativa, ampliable a 131,072 mediante YaRN. Es el modelo al que recurren la mayoría de los equipos porque es el modelo que puede hacer cualquier cosa.

Clef-Flash es un postentrenamiento, no un compañero de conversación. Cloudflare congeló el backbone Qwen3.5-9B —incluido su codificador de visión— y entrenó encima una cabeza de esquema conjunta: 243,5 MB de pesos de la cabeza frente a cuatro archivos de backbone fragmentados que suman unos 18,8 GB. La cabeza lee los estados ocultos finales del backbone, encamina la evidencia desde el estado hacia cada pregunta y puntúa conjuntamente todas las opciones de todas las preguntas. Las restricciones son la característica. Cloudflare lo restringe a emitir solo probabilidades, por lo que el modelo base aparece en su linaje pero nunca en su salida.

Observa de qué linaje se trata. Clef-Flash desciende de Qwen3.5-9B, la generación posterior a la línea Qwen3 a la que pertenece Qwen3-8B. Así que esta no es la historia de un ajuste fino sobre su propia base que suele recibir un derivado de 9B — es una rama diferente del mismo árbol genealógico, reentrenada para un contrato diferente.

El mismo trabajo, ejecutado de dos maneras

Ambos modelos pueden enrutar un ticket de soporte. Fallan de manera distinta, y los modos de fallo son lo que cuesta una migración.

Con Qwen3-8B, el trabajo está en el prompt y el parser. Usted describe sus categorías, pide que le devuelvan una de ellas y luego maneja el caso en el que el modelo devuelve "esto parece facturación, aunque podría ser técnico" — una respuesta real a una ambigüedad real que su código posterior no puede consumir. La propia guía de la tarjeta es explícita en que el modo de pensamiento debe deshabilitarse para el trabajo de eficiencia y que la decodificación greedy degrada la salida, y que cuando el pensamiento está activado no se debe arrastrar el bloque de razonamiento hacia adelante en el historial de múltiples turnos. Cada una de esas instrucciones es una decisión que un modelo de propósito general le impone.

Con Clef-Flash, el trabajo se traslada al esquema. Declaras entre dos y 26 opciones por pregunta para una pregunta de elección, o entre dos y 26 niveles para una pregunta de puntuación, y recibes de vuelta la opción elegida, una probabilidad para cada opción y un valor de confianza. Tres detalles de ese contrato valen más que el número de latencia destacado. Primero, la confianza no es lo mismo que la corrección: la documentación de Cloudflare dice claramente que mide cuán concentradas están las probabilidades, no la probabilidad de que la respuesta sea correcta. Segundo, los empates se resuelven según el orden de opciones que declaraste, así que si dos opciones se superponen de verdad, has tomado la decisión en silencio al ordenar la lista. Tercero, y este es el que más duele, no hay "ninguna de las anteriores" a menos que hayas incluido una. Un modelo de decisión puntúa las opciones que se le dan; un ticket sobre una solicitud de privacidad, al que se le entrega un esquema de facturación, técnico y ventas, volverá como el menos malo de esos tres en lugar de como un rechazo.

Ese último punto corta por ambos lados, y es el núcleo honesto de esta comparación. Qwen3-8B te dirá que tu taxonomía está rota. Clef-Flash no lo hará, y en una canalización eso es una regresión genuina, del tipo que descubres un mes después en una cola mal enrutada. El intercambio es latencia real y determinismo real frente a un modelo que puede sacar a la luz la pregunta que no se te ocurrió hacer.

Lo que los números dicen y no dicen

Los resultados publicados de Clef-Flash provienen de la ejecución que hizo Cloudflare de la suite Jev Decision Index 0.2.1, y esa misma ejecución sirve de base para la entrada de blog del proveedor. Vale la pena precisar las celdas fuertes: BFCL case-exact 98.8, precisión de API-Bank 93.1, el simulador de electrodomésticos en 97.7, macro-F1 de ContractNLI 84.3, calidad seleccionada de RouterBench 79.9. En los cuatro flujos de trabajo empresariales de extremo a extremo de la propia suite de evaluación de TypeSafe, Clef-Flash obtiene 77.0 en atención al cliente frente a 76.0 de Jev y 76.3 del Clef de 27B más grande, y pierde en el procesamiento de facturas con 57.1 frente a 61.8 de Jev y 64.7 de Clef.

Las celdas débiles son tan informativas como las fuertes. CLINC150 con manejo de fuera de alcance sitúa a Clef-Flash en 66.8 de macro-F1, frente a 97.4 del Clef de 27B y 89.3 de Jev — un precipicio de treinta puntos justo en la forma de benchmark que evalúa si un modelo sabe cuándo abstenerse. When2Call, 65.6 frente a 81.0 de Jev. GPQA Diamond, 51.0 frente a 78.3. POP909-CL se queda en 1.6, una cifra que la tarjeta no explica.

Ahora la parte que las tablas no te dirán: Qwen3-8B no tiene fila en ninguna de ellas.Ninguno de los dos modelos ha sido evaluado con los benchmarks del otro. La propia cifra de MMLU de Clef-Flash, de 91,8, y la de GSM8K, de 67,3, se obtuvieron mediante su arnés de decisiones tipadas, que no es el arnés con el que Qwen reportó sus números, y comparar los dos sería un error de categoría disfrazado de comparación. Así que la postura honesta es que no existe una tabla de puntuaciones compartida y este artículo no inventará una. Lo que existe es una brecha de latencia que el proveedor midió en su propia infraestructura, una estructura de costos que es estructuralmente diferente, y un conjunto de celdas del Decision Index que nadie fuera de Cloudflare ha reproducido.

Lo que cuesta una sola decisión

La documentación de Workers AI de Cloudflare incluye Clef-Flash a $0.09 por millón de tokens de entrada y no cobra nada por la salida, porque en realidad no hay salida: el ejemplo práctico de la documentación devuelve tres tokens de salida para una solicitud de tres preguntas. Por lo tanto, una decisión de enrutamiento sobre un ticket de 1500 tokens cuesta alrededor de $0.000135 en entrada y nada medible después de eso. Ejecuta un millón de esos al día y estarás en aproximadamente $135 al día, y la cifra no cambia cuando el ticket se vuelve más complicado, solo cuando se vuelve más largo.

Un modelo autorregresivo no tiene un techo equivalente. Cada una de ese millón de decisiones también factura tokens generados y, si el modo de pensamiento está activado —lo cual es así de forma predeterminada en Qwen3-8B—, el modelo puede gastar cientos de tokens razonando en cuál de cuatro categorías encaja un correo de restablecimiento de contraseña antes de responder. Desactivar el pensamiento con enable_thinking=False o una /no_thinketiqueta es la línea de mayor impacto de cualquier prompt de clasificación construido sobre ese modelo, y es fácil omitirla. La comparación no es «modelo barato frente a modelo caro»; es un precio fijo solo de entrada frente a un precio que escala según cuánto decida decir el modelo.

Contexto, tres números de tres superficies de proveedores

El contexto utilizable de Clef-Flash depende de qué superficie de Cloudflare se lea. La página del modelo de Workers AI documenta una ventana de contexto de 65,536 tokens. El ya publicado config.json declara max_position_embeddings de 262,144 para la torre de texto. El propio helper de codificación de la tarjeta usa por defecto max_length=16,384, con max_state_tokens disponible para acotar el estado por separado. Un listado de tiempo de ejecución de terceros que anuncia 256K está leyendo el valor de configuración, no el límite del servicio — lo que reconcilia esa discrepancia en lugar de dejarla como un misterio, pero el número práctico para cualquiera que llame al endpoint alojado es 65,536.

Los números de Qwen3-8B son propios y se han mantenido estables durante un año y medio: 32.768 nativos, 131.072 con YaRN habilitado, y un valor predeterminado de configuración de 40.960 que reserva 32.768 para la salida y 8.192 para los prompts. Así que, si la ventana bruta es tu factor decisivo, el pequeño modelo autorregresivo puede extenderse hasta aproximadamente el doble de lo que documenta el modelo de decisión alojado, mientras que el modelo de decisión necesita mucho menos de ella, porque estás enviando estado, no una conversación.

¿Quién debería hacer el intercambio y quién no?

• Swap — tienes una taxonomía fija, de tres a 26 destinos, y una cola de soporte, un paso de triaje o una puerta de agente donde 38,8 ms de mediana y 122,4 ms de p95 frente a medio segundo de generación cambian lo que tu pipeline puede hacer.

• Intercambio — actualmente estás analizando la prosa de un 8B y gestionando la respuesta, una de cada cincuenta, que no encajaba en tu formato. Una distribución sobre opciones declaradas elimina por completo esa clase de fallos.

• No intercambies — el conjunto de respuestas no se conoce de antemano, o necesitas que el modelo te diga que no lo sabe. Clef-Flash no tiene una ruta de abstención a menos que incorpores una en los criterios, y su celda publicada más débil es precisamente el caso fuera de alcance.

• No lo hagas: la carga de trabajo es razonamiento, extracción, resumen o código. Clef-Flash no puede escribir una frase, así que cualquier tarea posterior que requiera una.

• No hagas el cambio todavía — necesitas que alguien que no sea el proveedor revise los números. No hay una evaluación independiente de Clef-Flash, y el conjunto de pruebas que produjo sus puntuaciones está publicado por el proveedor del modelo al que supera.

Dónde ejecutar cada uno de ellos

Ambos son Apache-2.0, así que ambos son tuyos para autohospedar, y las huellas no se parecen en nada. Qwen3-8B en bf16 ocupa unos 16 GB y las compilaciones cuantizadas son mucho más pequeñas: una compilación Q4 son 5,2 GB en la biblioteca de Ollama, donde qwen3:8b registra 38,7 millones de descargas y una ventana de contexto de 40K. Clef-Flash necesita todo el backbone de 18,8 GB más su head de 243,5 MB, y su página en la biblioteca de Ollama apareció a los pocos días del lanzamiento, con una etiqueta cuantizada de 11 GB y un recuento de compartidos que sigue en los cientos bajos; la tabla de Ollama lee los 256K de la configuración en lugar de los 65.536 del endpoint. Esa proporción de descargas no es un veredicto sobre ninguno de los dos modelos —una página lleva dieciocho meses publicada y la otra, alrededor de un día—, pero es una imagen justa de cuánta historia operativa hay detrás de cada uno.

Si quieres la versión alojada, Cloudflare ejecuta Clef-Flash en Workers AI a la cifra de $0.09 por millón mencionada anteriormente, y los pesos también se pueden descargar desde el Hub. Ambos modelos se comunican con el endpoint de Ollama/v1/systemone para Clef-Flash (Ollama 0.35.1 o posterior) y la ruta generate estándar para Qwen3 — así que cambiar de modelo es un cambio de cliente, no de arquitectura.

Ninguno de los modelos es actualmente una de nuestras rutas: el catálogo público de OrcaRouter devuelve un 404 tanto para clef-flash como para Qwen3-8B, y nada de lo que aparece aquí debe interpretarse como una afirmación nuestra de disponibilidad. Lo que sí cambia una capa de enrutamiento es la mitad de generación del pipeline. Si un modelo de decisión termina condicionando a tu agente, el modelo que actúa sobre la decisión todavía tiene que ser accesible, y ahí es donde una API para más de 200 modelos con una sola clave de API se gana su lugar —el precio de lista del proveedor se traslada con 0 % de margen, así que una rebaja de precio de un proveedor llega aquí el mismo día, y conmutación por error automática para que una mala tarde de un único proveedor no tumbe una ruta que acabas de reconstruir. La línea Qwen también ha evolucionado: Qwen3.8-27B se puede enrutar aquí a $0.40 de entrada y $4.21 de salida por millón de tokens con una ventana de 262,144 tokens, que es un modelo distinto de Qwen3-8B y no un reemplazo de este, pero es la misma familia una generación por encima.

¿Qué cambiaría esta lectura?

Tres cosas, en orden.

Una ejecución independiente de las celdas fuera de alcance. La brecha entre el 97.7 de Clef-Flash en simulación de electrodomésticos y su 66.8 en CLINC150+OOS no describe a un clasificador de capacidad uniforme; describe a un modelo que es fuerte dentro de las formas con las que fue entrenado y débil cuando la respuesta correcta es «ninguna de estas». Si eso se sostiene bajo el arnés de otra persona, es el hecho operativo más importante sobre el modelo y no está en la lista de destacados de nadie.

Una cifra de latencia medida desde fuera del edge de Cloudflare. La mediana de 38,8 ms es impresionante y fue medida por el proveedor, en infraestructura que el proveedor controla, para un modelo alojado en el edge. El orden frente a Jev probablemente sea robusto; la cifra absoluta es la que hay que desconfiar.

Y un benchmark compartido. Hasta que alguien puntúe Clef-Flash y un LLM abierto pequeño en la misma tarea de clasificación con las mismas etiquetas, la elección entre ellos se basa en el contrato de salida, la estructura de precios y la evidencia de quién estás dispuesto a basar tus acciones. Esos tres aspectos bastan para decidir muchas pipelines hoy en día, pero no son una comparación de exactitud, y este artículo no pretenderá que lo sean.