Ling-3.1-flash-1019 est désormais open source : 574 Go, MIT et un retour à la réalité à 256K

Le 27 octobre à 05:46 UTC, l’équipe Ling d’Ant Group a créé un dépôt Hugging Face nommé Ling-3.1-flash-1019 et l’a rempli de 54 shards safetensors totalisant 573,8 Go sous licence MIT. À côté se trouve Ling-3.1-flash-base, un checkpoint BF16 de 1,14 To destiné à un entraînement ultérieur, et derrière les deux se trouve Ling-3.1-flash, le modèle dont cette version est une révision post-entraînement. Cinq jours plus tôt, Ant n’avait publié que le score : 44 sur l’Artificial Analysis Intelligence Index v4.3.2, en hausse par rapport à 41, avec les poids et l’API promis. Aujourd’hui, la promesse se traduit par une liste de fichiers, ce qui fait d’aujourd’hui le premier jour où quiconque en dehors du pipeline d’évaluation d’Ant peut vérifier le chiffre au lieu de le lire.

Cet écart est tout l’enjeu, et il joue dans les deux sens. Un laboratoire qui annonce un benchmark avant de livrer un artefact demande qu’on lui fasse confiance ; un laboratoire qui livre ensuite l’artefact cinq jours plus tard, à 574 Go et sous une licence permissive, a au moins donné les moyens de le contester. Les questions intéressantes ne portent plus sur le score. Elles portent sur ce que contient le téléchargement, ce qu’il coûte à servir, et si le contexte de 1M de tokens indiqué sur la fiche du modèle est bien celui que l’on obtient réellement.

Qu'y a-t-il réellement dans le dépôt ?

Le dépôt 1019 n'est pas un adaptateur minimal ni un delta. C'est un checkpoint complet : 54 fichiers de poids d'environ 10,7 Go chacun, un tokeniseur, un gabarit de conversation et du code de modélisation personnalisé (BailingMoeV3ForCausalLM) qui nécessite trust_remote_code. La configuration livrée déclare un schéma de quantification FP8 (E4M3, mise à l'échelle par blocs de 128×128) par-dessus l'architecture MoE linéaire hybride que la gamme Ling utilise depuis la version 3.1 :

• Paramètres totaux et actifs — 560B au total, 25B actifs par token, les mêmes chiffres que Ling-3.1-flash.

• Couches — 72 au total : 63 couches d’attention linéaire KDA et 9 couches MLA à portes dans un ratio de 7:1, plus 4 couches denses.

• Experts — 512 routés, 8 activés par token, 1 partagé.

• Vocabulaire — 157 184 jetons ; taille cachée 4 096.

• Empreinte — 573,8 Go de safetensors répartis sur 54 fragments, d’après notre décompte établi à partir de la liste des fichiers du dépôt le 27 octobre.

Le modèle de base est un artefact d’un autre type. Ling-3.1-flash-base a été créé le 25 octobre et contient 121 fichiers et 1,14 To de poids BF16 — environ deux fois la taille du checkpoint aligné, car il n’a pas été quantifié en FP8. Sa fiche le décrit comme le checkpoint de base de Ling-3.1-flash, destiné au pré-entraînement continu, à l’adaptation de domaine et à la recherche en post-entraînement, et elle indique clairement qu’il n’est pas destiné à la conversation directe ni à une utilisation critique en matière de sécurité sans alignement. Les deux dépôts portent l’étiquette MIT.

44, et la partie qu’Ant n’a pas mesurée

Artificial Analysis classe Ling-3.1-flash-1019à 44 sur son Intelligence Index, au quatrième rang sur 122 modèles de la page que nous avons consultée aujourd'hui, et sa page modèle indique que les évaluations ont été mesurées de manière indépendante par Artificial Analysis. C'est la forme la plus forte que ce chiffre ait prise jusqu'à présent, et il convient de la distinguer du reste du tableau de lancement.

Les écarts par benchmark proviennent de la fiche modèle d’Ant elle-même, et non d’une nouvelle exécution indépendante : AA-Briefcase passant d’environ 1 400 à 1 524 Elo, AutomationBench-AA de 62 % à 68 %, CritPt de 18 % à 26 %, et SciCode de 54 % à 57 %. Deux de ces benchmarks — AA-Briefcase et AutomationBench-AA — sont des composantes de l’indice Artificial Analysis ; le chiffre de l’indice et le tableau du fournisseur ne constituent donc pas des preuves indépendantes l’un de l’autre. Il s’agit de la même affirmation à deux niveaux de résolution. Considérez le 44 comme mesuré par AA et les paires avant/après comme déclarées par le fournisseur, jusqu’à ce que quelqu’un publie un harnais et une graine.

Il existe une seconde asymétrie. Au moment de la mesure, Artificial Analysis n’avait enregistré aucune API publique pour la version 1019, et son champ de vitesse de sortie pour le modèle est encore vide. Ainsi, le benchmark n’est reproductible aujourd’hui qu’en téléchargeant 574 Go et en l’exécutant soi-même. Ce n’est pas une plainte concernant la publication ; c’est une description de ce que « open » change. Avant aujourd’hui, personne ne pouvait reproduire le score. À partir d’aujourd’hui, quiconque dispose du matériel le peut.

Les trois points s’achètent avec des jetons.

L’indice est une mesure de qualité, non d’efficacité, et le volet efficacité de cette version est le point le moins flatteur. Artificial Analysis a mesuré 350 M de tokens de sortie pour l’exécution 1019, contre 220 M pour Ling-3.1-flash — soit environ 59 % de tokens générés en plus pour compléter la même suite — et classe la nouvelle version 48e sur 48 sur la verbosité, le modèle médian étant à 140 M. Son coût d’exécution de l’indice est de 1,49 $ par tâche, contre 1,01 $ pour le prédécesseur.

Une partie de cela relève de l'arithmétique que l'on peut faire à partir de la grille tarifaire d'Ant elle-même. À 0,90 $ par million de jetons de sortie, 350 M de jetons représentent 315 $ de sortie contre 198 $ pour 220 M — soit une différence de 117 $ avant même de compter un seul jeton d'entrée ou une seule lecture de cache. Pour une équipe qui budgète à la tâche plutôt qu'au jeton, la mise à niveau de checkpoint « gratuite » s'apparente davantage à une augmentation de 47 % de la facture pour un gain de trois points d'indice. La pertinence de cet arbitrage dépend entièrement de ce que vous coûte une tâche échouée, et c'est une question à laquelle aucun classement ne répond.

La fenêtre de contexte est de 256K dans la configuration

La fiche modèle indique un contexte de 1M de tokens. La configuration livrée indique autre chose. Dans les trois dépôts — 1019, Ling-3.1-flash et la base —, config.json définit max_position_embeddings à 262,144 et rope_scaling à null, avec un theta RoPE de 6,000,000. Un chargement standard de ces poids avec SGLang ou vLLM sert donc 256K positions, et non un million, à moins que l’opérateur ne fournisse une configuration de scaling que le dépôt ne contient pas.

Voici notre lecture des fichiers de configuration publiés, et non une déclaration d’Ant. Il est possible que l’API Ling hébergée applique un schéma de mise à l’échelle côté serveur et serve réellement 1M ; les poids ouverts n’en incluent pas. Ce n’est pas non plus une nouvelle divergence — la version Ling-3.1-flash du 15 octobre portait la même revendication de 1M avec le même réglage à 262 144. Quiconque dimensionne du matériel pour une charge de travail d’un million de tokens devrait tester le plafond sur sa propre stack avant de s’engager, car le nombre qui compte est celui que le serveur accepte, pas celui de l’introduction.

Le servir : huit H200, quatre GB300 et un piège du copier-coller

Ant recommande SGLang et publie une image dès le jour 0, lmsysorg/sglang:dev-ling-3.1-flash, avec le décodage spéculatif MTP et des optimisations de décodage Hopper. La configuration de référence documentée est de huit GPU H200 en TP8 plus EP8 ; sur quatre GB300, la fiche indique d’utiliser --tp 4 --ep 4. Une recette vLLM est également incluse, avec un parallélisme tensoriel de 8, le parallélisme d’experts, la mise en cache des préfixes et trois jetons spéculatifs. Deux drapeaux d’environnement — SGLANG_ENABLE_FP8_BLOCK_GEMV et SGLANG_ENABLE_FUSED_KDA_OUTPUT_QUANT — seraient censés offrir un décodage par lot de taille 1 environ 10 % plus rapide sur Hopper.

L’empreinte explique la liste du matériel. Avec 573,8 Go de poids FP8, le checkpoint laisse environ 550 Go de marge sur huit H200 (1 128 Go de HBM) et environ 578 Go sur quatre GB300 (1 152 Go). C’est suffisant pour les poids et un cache KV de travail, mais pas pour se permettre d’être négligent avec des contextes longs.

Il y a aussi un piège dans le Quickstart qui mérite d’être signalé, car il coûtera une journée à quelqu’un. La commande SGLang de la fiche modèle 1019 elle-même passe --model-path inclusionAI/Ling-3.1-flash, et son exemple client envoie "model": "Ling-3.1-flash". Suivie à la lettre, la recette charge le prédécesseur à 41 points, et non la version à 44 points. Faites pointer explicitement le chemin vers inclusionAI/Ling-3.1-flash-1019 et fixez le nom du modèle servi, sinon votre premier benchmark de « 1019 » sera un benchmark de l’ancien checkpoint.

À quoi sert Ling-3.1-flash-base — et à quoi il ne sert pas

La version de base est la plus déterminante des deux pour quiconque entraîne des modèles plutôt que de les invoquer. Un point de contrôle BF16 de 1,14 To sous licence MIT, avec la même architecture 560B/25B, offre à un laboratoire un point de départ légitime pour le pré-entraînement continu, l’adaptation au domaine, le fine-tuning supervisé, l’optimisation des préférences, des expériences de distillation et la recherche sur les MoE à contexte long, sans devoir partir d’un modèle aligné pour le chat dont il faudrait annuler le comportement de refus.

Ce qu’elle ne vous donne pas, c’est la recette pour 44. La fiche décrit la base comme le checkpoint de base de Ling-3.1-flash, et non comme un instantané d’avant le post-entraînement de la version 1019, et aucune donnée de post-entraînement, aucun jeu de préférences ni aucune configuration RL n’accompagne l’un ou l’autre des dépôts. Si vous voulez le modèle mesuré, téléchargez le modèle mesuré. Si vous voulez construire le vôtre, la base vous épargne la facture de pré-entraînement, mais pas le travail d’alignement — et l’écart entre une base bien ajustée et le meilleur checkpoint post-entraîné d’un fournisseur est généralement plus large que ne le suggère un delta d’indice de trois points.

Devriez-vous prendre les 574 Go ?

• Téléchargez-le si vous exploitez déjà huit H200 ou quatre GB300, que votre charge de travail est agentique ou à plusieurs étapes, et qu’une licence MIT lève un obstacle juridique qui vous concerne réellement.

• Téléchargez-le si vous avez besoin de reproduire le 44 vous-même — c’est désormais possible, et cela ne l’était pas le 22 octobre.

• Passez votre chemin si vous comptiez sur un contexte de 1M prêt à l’emploi ; testez d’abord la configuration 256K.

• Écartez cette option si votre modèle économique est par tâche et sensible à la latence. L'augmentation de 59 % du nombre de tokens représente un coût réel en termes de débit, et aucune donnée indépendante sur la vitesse de sortie pour 1019 n'existe encore.

• Ne partez du modèle de base que si vous disposez d’un pipeline de post-entraînement. C’est une fondation, pas un raccourci.

Pour être honnête sur le rôle d'OrcaRouter ici : nous ne servons pas Ling-3.1-flash-1019. Ce que nous vendons, c'est l'autre volet de la décision — une seule clé pour plus de 200 modèles hébergés, au prix catalogue du fournisseur avec 0 % de marge, de sorte que la question « 1019 fait-il mieux que ce que j'utilise déjà ? » puisse trouver une réponse sans signer un contrat distinct pour chaque solution de référence. Le basculement automatique et le DSL de routage n'entrent en jeu qu'une fois que vous avez choisi un gagnant ; ils ne vous aident pas à en choisir un.

Que regarder ensuite

Trois choses décideront si cette version vieillit bien. La première est le débit indépendant : {{1}}Artificial Analysis{{/1}} n’a pas de chiffre de vitesse de sortie pour {{2}}1019{{/2}}, et le premier fournisseur tiers à publier des tokens par seconde vous en dira plus sur l’aptitude à la production qu’un point d’indice supplémentaire. La deuxième est de savoir si une configuration de mise à l’échelle à contexte de 1M apparaît dans le dépôt ou dans le cookbook {{3}}SGLang{{/3}} ; tant que ce n’est pas le cas, le chiffre phare de la fiche est une affirmation avec une implémentation 256K en dessous. La troisième est ce que la communauté fait de la base — un fine-tune qui dépasse {{4}}44{{/4}} sur un domaine étroit serait la preuve la plus forte que l’ouverture de ces poids valait plus que le score avec lequel il est livré.