Tarjeta hero para Ling-3.0-flash-base, una tarjeta de título con una ilustración plana de tres checkpoints apilados que se fusionan en un peso base final, etiquetados como pre-entrenado, entrenado intermedio y fusionado, bajo el titular Ling-3.0-flash-base y el subtítulo Checkpoints abiertos de Ant Group para el pre-entrenamiento continuo.
Engineering & Research

Ling-3.0-flash-base: El lanzamiento silencioso del checkpoint de Ant Group, ahora oficial

Autor

Elias Hawthorne

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

El laboratorio inclusionAI de Ant Group subió Ling-3.0-flash-base y cinco checkpoints hermanos a Hugging Face el 11 de agosto de 2026 sin anuncio adjunto, y durante una semana completa los seis repositorios permanecieron con cero descargas — nadie fuera del laboratorio pareció notarlo. Luego, el 19 de agosto, la cuenta oficial del laboratorio presentó públicamente la colección, y todas las tarjetas de modelo en ella fueron actualizadas en cuestión de minutos. Esta es una nota de lo que sabemos hasta ahora sobre ese lanzamiento. La versión corta de entrada: Ling-3.0-flash-base no es un modelo de chat, y no pretende serlo. Es el checkpoint base crudo, previo al alineamiento, de Ling-3.0-flash, el modelo de Mezcla de Expertos de 124B parámetros con 5.1B parámetros activos, publicado bajo MIT para personas que quieran seguir entrenándolo en lugar de invocarlo.

La cronología: una semana de silencio, luego un anuncio.

El orden importa, porque te indica cómo leer todo lo demás en este artículo. Los seis repositorios se crearon todos el 11 de agosto, y los pesos de Ling-3.0-flash-base — el checkpoint combinado, el que da nombre a este artículo — llegaron con un commit de «lanzamiento inicial del modelo» el 12 de agosto. No hubo ninguna entrada de blog, ningún hilo social ni ningún anuncio que lo acompañara. Al momento de la investigación, una semana después, cada uno de los seis repositorios seguía mostrando cero descargas.

Ese silencio terminó el 19 de agosto. La cuenta oficial de Ant Ling anunció públicamente la colección de checkpoints, y las tarjetas de Hugging Face de los seis repos se actualizaron con pocos minutos de diferencia entre sí: las marcas de tiempo coinciden casi exactamente. Así que el encuadre honesto es: los pesos se publicaron silenciosamente, el anuncio llegó una semana tarde, y todo lo que se sabe actualmente sobre el lanzamiento proviene de las propias tarjetas de los modelos y de un breve repositorio de recetas de entrenamiento. Nada más ha sido verificado de forma independiente hasta ahora.

Lo que realmente se envió: seis puntos de control, tres etapas de entrenamiento

InclusionAI describe el lanzamiento como «una colección de puntos de control durante el proceso de entrenamiento» para la serie Ling-3.0, su familia de modelos fundacionales de lenguaje más eficiente hasta la fecha. Para cada uno de los dos tamaños más pequeños — Ling-3.0-tiny y Ling-3.0-flash — el laboratorio publicó tres puntos de control, uno por etapa de entrenamiento:

• Preentrenados — Ling-3.0-flash-base-30T y Ling-3.0-tiny-base-30T: completaron el preentrenamiento a gran escala; sin entrenamiento intermedio, sin fusión, sin post-entrenamiento.

• Entrenamiento intermedio — Ling-3.0-flash-base-midtrain y Ling-3.0-tiny-base-midtrain: completaron la fase de entrenamiento intermedio; sin fusión de checkpoints y sin post-entrenamiento.

• Fusionados — Ling-3.0-flash-base y Ling-3.0-tiny-base: los checkpoints base fusionados con WSM, producidos a partir de los pesos del entrenamiento intermedio y que representan el estado base final antes del post-entrenamiento.

Los seis son checkpoints base. Ninguno ha pasado por la etapa de alineación — ajuste fino supervisado, optimización de preferencias, RL — que convierte un modelo base en algo que se puede poner frente a los usuarios. La tarjeta del modelo lo dice en términos claros: no recomendado para implementación directa de chat para usuarios finales, aplicaciones críticas de seguridad sin alineación y evaluación adicionales, ni uso en producción sin post-entrenamiento y validación específica de la tarea.

Qué es un checkpoint base — y por qué importa el giro de WSM

Si solo has consumido modelos a través de una API, un "base checkpoint" puede sonar como una versión más pequeña o más antigua de un modelo que ya conoces. No es ninguna de las dos cosas. Un base checkpoint es el archivo de pesos de red neuronal no alineado que sale del preentrenamiento; el comportamiento de seguimiento de instrucciones y llamada a herramientas que realmente usas se superpone encima de él después. Publicar base checkpoints es la forma en que un laboratorio entrega a la comunidad investigadora la materia prima para hacer su propio preentrenamiento continuado, fine-tuning, destilación y RL.

Lo que hace que esta versión sea más interesante que un volcado de pesos base típico es la receta de entrenamiento que hay detrás. InclusionAI está utilizando una técnica que denomina Warmup-Stable and Merge (WSM), que sustituye la reducción convencional de la tasa de aprendizaje al final del entrenamiento por una fusión ponderada de puntos de control. En términos sencillos: en lugar de dejar que la tasa de aprendizaje disminuya para terminar la ejecución, el laboratorio entrena a una tasa estable, guarda puntos de control en el tramo final y los fusiona con pesos aprendidos. Las motivaciones declaradas por el proveedor, según la ficha del modelo:

• Debido a que no hay una fase de decaimiento que "fije" la mezcla final de datos, el modelo base resultante es más adecuado para el preentrenamiento continuo y la expansión dinámica de datos.

• Debido a que la receta de fusión se puede explorar sin conexión, un equipo puede comparar diferentes perfiles de decaimiento sin tener que volver a ejecutar el costoso entrenamiento para cada uno.

Ese segundo punto es el que convierte el lanzamiento en un artefacto de investigación en lugar de una curiosidad: el punto central de estos checkpoints es que están hechos para ser entrenados más a fondo, y la receta está diseñada para tolerarlo.

Qué hay dentro de Ling-3.0-flash-base

La arquitectura es idéntica a la de Ling-3.0-flash post-entrenado, que ya debería resultar familiar por la cobertura más amplia de ese modelo. De la tarjeta del modelo y config.json:

• Tamaño — 124B de parámetros totales según el proveedor (el checkpoint completo en disco, incluyendo embeddings, suma aproximadamente 127B en Hugging Face), con 5.1B activados por token.

• Dispersión — un MoE disperso de 1/64: 512 expertos enrutados, con 8 expertos enrutados y 1 experto compartido activados por cada token.

• Atención — un diseño híbrido-lineal nativo: 35 capas de Kimi Delta Attention (KDA) y 7 capas de Gated MLA en un patrón repetitivo 5:1 a lo largo de 42 capas transformer.

• Contexto — la configuración incluye un embedding posicional de 256K tokens (262 144), el mismo contexto nativo que el modelo hermano post-entrenado.

• Pesos — BF16, distribuido como 28 fragmentos safetensors (~255 GB en disco), con el código de modelado personalizado bailing_hybrid incluido en el repositorio.

• Licencia — MIT, sin cláusula de uso aceptable.

Single-model scoreboard for Ling-3.0-flash-base listing six figures: total params 124B (5.1B active), stage base pre-alignment WSM-merged, context 256K native, architecture hybrid-linear MoE 1/64 sparse, experts 512 routed with 8 plus 1 active, and independent scores none yet, with the footer noting all figures are from the vendor model card

Una advertencia honesta sobre la cifra de tamaño: la ficha del modelo del proveedor dice "Total 124B", y ese es el número que circula por todas partes; pero el recuento total de parámetros safetensors en el repositorio es de aproximadamente 127.5B una vez que se incluye la capa de embeddings. La cifra de 124B es el total sin incrustaciones, y los dos números no entran en conflicto; vale la pena saber a cuál te refieres cuando ves "127B" en una barra lateral o en un descargador.

Para qué sirve, y para qué no

Los casos de uso recomendados en la tarjeta del modelo son inequívocos:

• Pre-entrenamiento continuado

• Capacitación intermedia

• Ajuste fino supervisado para adaptación de dominio

• Optimización de preferencias y post-entrenamiento con RL

• Investigación sobre destilación

• Investigación en sistemas de contexto largo y MoE

Y su lista de "no recomendado tal cual" es igual de explícita: despliegue directo de chat para usuarios finales, aplicaciones críticas para la seguridad sin alineación, uso en producción sin post-entrenamiento. En otras palabras, esto es materia prima para personas que entrenan modelos, no un modelo que la gente despliega. Si no tienes planes de ajustar o pre-entrenar nada, no hay nada que descargar aquí — y no hay nada de malo en ello.

La otra mitad de la historia es el diseño de escalado sin fricciones. InclusionAI afirma que Ling-3.0-tiny-base y Ling-3.0-flash-base comparten la misma receta de entrenamiento, por lo que la comunidad puede validar primero una estrategia de preentrenamiento continuado o de ajuste fino en el checkpoint tiny — que requiere mucha menos memoria de GPU — y luego escalar esa misma receta validada al checkpoint flash más grande. Esa es una elección deliberada de flujo de trabajo, no un accidente de la logística de lanzamiento, y es la propiedad más útil de la colección para cualquiera que realmente quiera experimentar.

Realidad del hardware, y la ruta que la mayoría realmente quiere.

No se puede evitar el tamaño de los pesos base de flash. BF16 con ~255 GB implica un nodo multi-GPU serio (o una configuración de entrenamiento optimizada para memoria) antes siquiera de empezar; no hay cuantificación oficial FP8 o FP4 del checkpoint base — las variantes cuantificadas que existen en el catálogo de la organización son para el modelo post-entrenado. Los ejemplos de fine-tuning se encuentran en el inclusionAI/ling-cookbook repositorio de GitHub, que es explícitamente un trabajo en progreso. Si el pre-entrenamiento continuado no es el enfoque de tu equipo, los checkpoints base no son tu punto de entrada.

La mayoría de las personas que leen sobre la familia Ling-3.0 no quieren un checkpoint base en absoluto — quieren el modelo que conversa. Ese es el modelo post-entrenado Ling-3.0-flash, disponible a través de la API del propio proveedor y de varias plataformas de terceros. Cuando aparece un modelo de pesos abiertos, rápido y recién lanzado, como ese, la forma más barata de evaluarlo con tu stack actual es ejecutarlo lado a lado con lo que ya usas — y para eso sirve exactamente un router: una API, una clave, y conmutación por error automática para que un contratiempo del proveedor no termine la prueba. OrcaRouter se conecta a más de 200 modelos de esta manera y traslada los precios de lista del proveedor directamente con un recargo del 0%, así que el precio que ves es el precio del propio proveedor, y una comisión del proveedor llega a nuestro lado el mismo día.

Screenshot of the inclusionAI/Ling-3.0-flash-base model card on Hugging Face showing the six-checkpoint collection table for Ling-3.0-tiny and Ling-3.0-flash and the training-stage descriptions

Lo que aún no está confirmado

Debido a que este lanzamiento se anunció hace solo un día, la lista sin confirmar es larga y debe leerse como una lista de tareas pendientes, no como una crítica:

• No hay evaluaciones comparativas independientes del punto de control base. La tarjeta del modelo incluye una gráfica comparativa del proveedor que compara Ling-3.0-flash-base con pares preentrenados en suites de matemáticas, codificación, razonamiento, multilingües y de contexto largo — pero es la evaluación del propio proveedor, alojada en un servidor de imágenes interno, sin sección de metodología y sin reproducción por terceros.

• Aún no hay reproducciones de la comunidad. Al momento de la investigación, los seis repositorios mostraban cero descargas y prácticamente ninguna participación. El lanzamiento es demasiado reciente como para que alguien haya publicado un fine-tune independiente o una ejecución de preentrenamiento continuado sobre estos pesos.

• Las herramientas están en una etapa inicial. La bailing_hybrid arquitectura incluye código de modelado personalizado, por lo que dependes de trust_remote_code o de un framework que ha añadido soporte. El recetario de fine-tuning es explícitamente un trabajo en curso.

• El anuncio en sí es escaso. La presentación pública llegó en forma de un hilo en X y las tarjetas del modelo; no existe un documento de lanzamiento independiente que describa los datos de entrenamiento, el cómputo o la receta exacta de fusión más allá de lo que indican las tarjetas.

En cambio, el modelo hermano post-entrenado sí tiene un historial independiente: Ling-3.0-flash es rastreado por Artificial Analysis con un Intelligence Index de 38 — una cifra que proviene de la tabla de clasificación, no del proveedor. Nada de eso existe todavía para Ling-3.0-flash-base; un punto de control base no se sirve en ningún lugar, por lo que no está en ninguna tabla de clasificación. Los dos artefactos se encuentran en etapas completamente diferentes de verificación, y conviene no confundirlos.

Screenshot of the Artificial Analysis model page for Ling-3.0-flash, the post-trained sibling of Ling-3.0-flash-base, showing its Intelligence Index of 38 and pricing of $0.075 per 1M input and $0.22 per 1M output tokens

Quién debería actuar ahora

Tres grupos deberían leer esto de manera diferente:

• Investigadores que realizan preentrenamiento continuado, SFT de dominio o destilación — esta es la versión para ti. El checkpoint base fusionado con WSM está específicamente diseñado para seguir entrenándose, y la receta tiny-then-flash te ofrece una forma económica de validar un enfoque antes de escalarlo. Empieza con Ling-3.0-tiny-base, prueba la receta y luego pasa a Ling-3.0-flash-base.

• Ingenieros que quieren un modelo funcional — lo que buscan es el Ling-3.0-flash post-entrenado, no esta versión. Los checkpoints base no siguen instrucciones y no se sirven en ningún sitio; no apunten un cliente de API hacia ellos.

• Todos los demás — el movimiento útil es observar. Las señales interesantes durante las próximas semanas son un primer ajuste fino independiente construido sobre estos pesos, una reproducción comunitaria de la tabla de referencia del proveedor, y si una pila de entrenamiento de terceros añade soporte de primera clase para la bailing_hybrid arquitectura.

Preguntas frecuentes

¿Cuál es la diferencia entre Ling-3.0-flash-base y Ling-3.0-flash?

Ling-3.0-flash es el modelo post-entrenado — alineado con fine-tuning supervisado y RL, sigue instrucciones, realiza llamadas a herramientas y se sirve a través de APIs. Ling-3.0-flash-base es la misma arquitectura en una etapa anterior: es el checkpoint base fusionado final antes de cualquier post-entrenamiento, y no se comportará como un modelo de chat. El base existe para que los investigadores puedan hacer su propio pre-entrenamiento continuado, fine-tuning o destilación en lugar de empezar desde cero.

¿Por qué un laboratorio publicaría checkpoints que no han sido post-entrenados?

Porque el post-entrenamiento es exactamente lo que la mayoría de los investigadores quieren hacer por sí mismos, y un checkpoint base es el punto de partida correcto para ello. Publicar los checkpoints pre-entrenados, de entrenamiento intermedio y fusionados por separado significa que un equipo puede elegir la etapa que se ajuste a su trabajo: continuar el pre-entrenamiento desde el peso pre-entrenado, o realizar fine-tuning y RL desde la base fusionada — y, gracias a WSM, sin las restricciones de decaimiento de la tasa de aprendizaje que hacen que un modelo base sea frágil cuando se entrena más.

¿Puedo ejecutar Ling-3.0-flash-base en hardware de consumo?

En la práctica, no. Los pesos BF16 ocupan aproximadamente 255 GB repartidos en 28 shards, sin una variante cuantizada oficial del checkpoint base. El hermano más pequeño, Ling-3.0-tiny-base, es el indicado para experimentar en hardware más modesto — y comparte la receta de entrenamiento del checkpoint flash, por lo que los experimentos validados escalan.

¿Es Ling-3.0-flash-base gratuito para uso comercial?

Sí — se publica bajo la licencia MIT sin cláusula adicional de uso aceptable. Eso cubre tanto el uso en investigación como, en principio, el uso comercial de los pesos y de cualquier ajuste fino construido a partir de ellos. Es un checkpoint base, así que "uso" aquí significa entrenar sobre él; la licencia no dice nada sobre una API alojada, porque no existe ninguna para el modelo base.

En resumen

Para la mayoría de los lectores, Ling-3.0-flash-base es un puntero, no un producto: te dice hacia dónde se dirige la familia Ling-3.0 y cómo el laboratorio pretende que la comunidad construya sobre ella, pero no hay nada aquí que se pueda invocar a través de una API. Para el grupo más reducido que realmente hace preentrenamiento continuado, ajuste fino o destilación, es un lanzamiento genuinamente útil — seis checkpoints, con licencia MIT, diseñados deliberadamente para seguir siendo entrenados, con una ruta «tiny-first» que hace que la experimentación sea asequible. Lo que lo llevaría de «lanzamiento útil» a «receta probada» es exactamente lo que falta hoy: una reproducción independiente, por parte de alguien fuera del laboratorio, de lo que los checkpoints WSM pueden hacer cuando alguien sigue entrenándolos.