Ling-3.1-flash-1019 ya es de código abierto: 574 GB, MIT y una dosis de realidad sobre 256K

A las 05:46 UTC del 27 de octubre, el equipo Ling de Ant Group creó un repositorio de Hugging Face llamado Ling-3.1-flash-1019 y lo llenó con 54 fragmentos safetensors que suman 573,8 GB bajo una licencia MIT. Junto a él se encuentra Ling-3.1-flash-base, un checkpoint BF16 de 1,14 TB destinado a un entrenamiento adicional, y detrás de ambos está Ling-3.1-flash, el modelo del cual esta compilación es una revisión posterior al entrenamiento. Cinco días antes, Ant solo había publicado la puntuación: 44 en el Artificial Analysis Intelligence Index v4.3.2, frente a 41, con pesos y API prometidos. Hoy la promesa cuenta con una lista de archivos, lo que convierte a este en el primer día en que alguien fuera del pipeline de evaluación de Ant puede comprobar la cifra en lugar de leerla.

Esa brecha es la historia, y tiene doble filo. Un laboratorio que anuncia un benchmark antes de publicar un artefacto está pidiendo que se confíe en su palabra; un laboratorio que luego publica el artefacto cinco días después, con 574 GB y bajo una licencia permisiva, al menos ha entregado los medios para discrepar. Las preguntas interesantes ya no tienen que ver con la puntuación. Tienen que ver con qué hay dentro de la descarga, cuánto cuesta servirlo y si el contexto de 1M de tokens de la ficha del modelo es el contexto que realmente obtienes.

¿Qué hay realmente en el repositorio?

El repositorio 1019 no es un adaptador ligero ni un delta. Es un checkpoint completo: 54 archivos de pesos de aproximadamente 10,7 GB cada uno, un tokenizador, una plantilla de chat y código de modelado personalizado (BailingMoeV3ForCausalLM) que requiere trust_remote_code. La configuración incluida declara un esquema de cuantización FP8 (E4M3, escalado por bloques de 128×128) sobre la arquitectura MoE híbrida-lineal que la línea Ling ha utilizado desde la 3.1:

• Parámetros totales y activos — 560B en total, 25B activos por token, las mismas cifras que Ling-3.1-flash.

• Capas — 72 en total: 63 capas de atención lineal KDA y 9 capas MLA con compuerta en una proporción de 7:1, más 4 capas densas.

• Expertos — 512 enrutados, 8 activados por token, 1 compartido.

• Vocabulario — 157,184 tokens; tamaño oculto 4,096.

• Huella: 573,8 GB de safetensors en 54 fragmentos, según nuestro recuento del listado de archivos del repositorio del 27 de octubre.

El modelo base es un tipo diferente de artefacto. Ling-3.1-flash-base se creó el 25 de octubre y contiene 121 archivos y 1,14 TB de pesos BF16 — aproximadamente el doble del tamaño del checkpoint alineado porque no se ha cuantizado a FP8. Su ficha lo describe como el checkpoint base de Ling-3.1-flash, para preentrenamiento continuo, adaptación de dominio e investigación de postentrenamiento, y dice claramente que no está destinado a chat directo ni a uso crítico para la seguridad sin alineación. Ambos repositorios llevan la etiqueta MIT.

44, y la parte que Ant no midió

Artificial Analysis incluye Ling-3.1-flash-1019 con un 44 en su Índice de Inteligencia, situado en cuarto lugar de 122 modelos en la página que consultamos hoy, y su página de modelo indica que las evaluaciones fueron medidas de forma independiente por Artificial Analysis. Esa es la forma más sólida que el número ha adoptado hasta ahora, y merece la pena separarlo del resto de la tabla de lanzamiento.

Los deltas por benchmark provienen de la propia tarjeta de modelo de Ant, no de una reejecución independiente: AA-Briefcase sube de aproximadamente 1.400 a 1.524 Elo, AutomationBench-AA del 62 % al 68 %, CritPt del 18 % al 26 % y SciCode del 54 % al 57 %. Dos de esos benchmarks —AA-Briefcase y AutomationBench-AA— son componentes del índice de Artificial Analysis, así que el número del índice y la tabla del proveedor no son evidencia independiente el uno del otro. Son la misma afirmación en dos resoluciones. Considera el 44 como medido por AA y los pares antes/después como reportados por el proveedor hasta que alguien publique un arnés y una semilla.

Hay una segunda asimetría. En el momento de la medición, Artificial Analysis no registró ninguna API disponible públicamente para la compilación 1019, y su campo de velocidad de salida para el modelo sigue en blanco. Por lo tanto, hoy la evaluación comparativa solo se puede reproducir descargando 574 GB y ejecutándola uno mismo. Esto no es una queja sobre el lanzamiento; es una descripción de lo que cambia «abierto». Antes de hoy, nadie podía reproducir la puntuación. Después de hoy, cualquiera que tenga el hardware puede hacerlo.

Los tres puntos se compran con tokens

El índice es una medida de calidad, no de eficiencia, y el aspecto de eficiencia de este lanzamiento es la parte menos halagadora del mismo. Artificial Analysis midió 350M tokens de salida para la ejecución 1019 frente a 220M para Ling-3.1-flash —aproximadamente un 59% más de tokens generados para completar la misma batería de pruebas— y clasifica la nueva versión en el puesto 48 de 48 en verbosidad, con el modelo mediano en 140M. Su costo de ejecutar el índice es de $1.49 por tarea frente a $1.01 del predecesor.

Parte de eso es aritmética que puedes hacer con el propio tarifario de Ant. A $0.90 por millón de tokens de salida, 350M de tokens son $315 de salida frente a $198 por 220M —una diferencia de $117 antes de contar un solo token de entrada o una lectura de caché. Para un equipo que presupuesta por tarea en lugar de por token, la actualización de checkpoint "gratis" se acerca más a un aumento del 47% en la factura por una ganancia de tres puntos en el índice. Que ese intercambio sea bueno depende por completo de cuánto te cuesta una tarea fallida, una pregunta que ninguna tabla de clasificación responde.

La ventana de contexto es de 256K en la configuración.

La ficha del modelo indica un contexto de 1 millón de tokens. La configuración distribuida dice otra cosa. En los tres repositorios —1019, Ling-3.1-flash y la base—, config.json establece max_position_embeddings en 262,144 y rope_scaling en null, con un theta de RoPE de 6,000,000. Por lo tanto, una carga estándar de estos pesos con SGLang o vLLM atiende 256K posiciones, no un millón, a menos que el operador proporcione una configuración de escalado que el repositorio no contiene.

Esta es nuestra lectura de los archivos de configuración publicados, no una declaración que haya hecho Ant. Es posible que la Ling API alojada aplique un esquema de escalado en el lado del servidor y realmente sirva 1M; los pesos abiertos no incluyen uno. Tampoco es una discrepancia nueva: la versión Ling-3.1-flash del 15 de octubre llevaba la misma afirmación de 1M sobre el mismo ajuste de 262,144. Cualquiera que dimensione hardware en torno a una carga de trabajo de un millón de tokens debería probar el límite superior en su propia pila antes de comprometerse, porque el número que importa es el que acepta el servidor, no el de la introducción.

Servirlo: ocho H200, cuatro GB300 y una trampa de copiar y pegar

Ant recomienda SGLang y publica una imagen day-0, lmsysorg/sglang:dev-ling-3.1-flash, con decodificación especulativa MTP y optimizaciones de decodificación para Hopper. La configuración de referencia documentada es de ocho GPU H200 con TP8 más EP8; en cuatro GB300, la tarjeta indica usar --tp 4 --ep 4. También se incluye una receta de vLLM, con paralelismo tensorial de 8, paralelismo de expertos, almacenamiento en caché de prefijos y tres tokens especulativos. Se afirma que dos variables de entorno —SGLANG_ENABLE_FP8_BLOCK_GEMV y SGLANG_ENABLE_FUSED_KDA_OUTPUT_QUANT— proporcionan una decodificación batch-1 aproximadamente un 10 % más rápida en Hopper.

La huella explica la lista de hardware. Con 573,8 GB de pesos FP8, el checkpoint deja unos 550 GB de margen en ocho H200 (1.128 GB de HBM) y unos 578 GB en cuatro GB300 (1.152 GB). Eso basta para los pesos y una caché KV funcional, pero no para descuidarse con contextos largos.

También hay una trampa en la Quickstart que merece la pena señalar, porque a alguien le costará un día. El propio comando SGLang de la model card de 1019 pasa --model-path inclusionAI/Ling-3.1-flash, y su ejemplo de cliente envía "model": "Ling-3.1-flash". Si se sigue al pie de la letra, la receta carga el predecesor de 41 puntos, no la build de 44 puntos. Apunta la ruta explícitamente a inclusionAI/Ling-3.1-flash-1019 y fija el nombre del modelo servido, o tu primer benchmark de "1019" será un benchmark del checkpoint antiguo.

Para qué sirve Ling-3.1-flash-base — y para qué no sirve

La versión base es la más trascendente de las dos para cualquiera que entrene modelos en lugar de limitarse a invocarlos. Un checkpoint BF16 de 1,14 TB bajo licencia MIT, con la misma arquitectura 560B/25B, ofrece a un laboratorio un punto de partida legítimo para el preentrenamiento continuado, la adaptación al dominio, el ajuste fino supervisado, la optimización de preferencias, los experimentos de destilación y la investigación en MoE de contexto largo sin tener que partir de un modelo alineado para chat cuyo comportamiento de rechazo tendría que deshacer.

Lo que no te da es la receta para 44. La ficha describe la base como el checkpoint base de Ling-3.1-flash, no como una instantánea previa al postentrenamiento de la compilación 1019, y ninguno de los dos repositorios incluye datos de postentrenamiento, conjunto de preferencias ni configuración de RL. Si quieres el modelo medido, descarga el modelo medido. Si quieres construir el tuyo, la base te ahorra la factura del preentrenamiento, pero no el trabajo de alineación, y la brecha entre una base bien ajustada y el mejor checkpoint postentrenado de un proveedor suele ser mayor de lo que sugiere un delta de tres puntos en el índice.

¿Deberías aceptar los 574 GB?

• Descárguelo si ya opera ocho H200 o cuatro GB300, su carga de trabajo es agéntica o de varios pasos, y una licencia MIT elimina un obstáculo legal que realmente tiene.

• Descárgalo si necesitas reproducir los 44 tú mismo — eso ahora es posible, y no lo era el 22 de octubre.

• Omítelo si contabas con 1M de contexto sin configuración adicional; prueba primero la configuración de 256K.

• Omítelo si tu modelo de costos es por tarea y sensible a la latencia. El aumento del 59 % en tokens es un costo real de rendimiento, y aún no existe ninguna cifra independiente de velocidad de salida para 1019.

• Parte de la base solo si tienes un pipeline de posentrenamiento. Es una base, no un atajo.

El planteamiento honesto del papel de OrcaRouter aquí: no ofrecemos Ling-3.1-flash-1019. Lo que vendemos es la otra cara de la decisión: una sola clave para más de 200 modelos alojados al precio de lista del proveedor y con 0% de recargo, de modo que la pregunta «¿1019 supera lo que ya tengo en marcha?» pueda responderse sin firmar un contrato aparte para cada línea base. La conmutación por error automática y el DSL de enrutamiento importan una vez que has elegido un ganador; no te ayudan a elegir uno.

Qué ver a continuación

Tres cosas decidirán si esta versión se mantiene vigente con el tiempo. La primera es el rendimiento independiente: Artificial Analysis no tiene una cifra de velocidad de salida para 1019, y el primer proveedor externo que publique tokens por segundo te dirá más sobre la idoneidad para producción que otro punto de índice. La segunda es si aparece una configuración de escalado de contexto de 1M en el repositorio o en el cookbook de SGLang; hasta que lo haga, la cifra destacada de la ficha es una afirmación con una implementación de 256K por debajo. La tercera es qué hace la comunidad con la base: un ajuste fino que supere 44 en un dominio concreto sería la evidencia más sólida de que abrir estos pesos valió más que la puntuación con la que se lanzó.