Ling-3.1-flash-1019 is nu open source: 574 GB, MIT en een realitycheck voor 256K

Om 05:46 UTC op 27 oktober heeft het Ling-team bij Ant Group een Hugging Face-repository aangemaakt met de naam Ling-3.1-flash-1019 en deze gevuld met 54 safetensors-shards met een totale omvang van 573,8 GB onder een MIT-licentie. Daarnaast staat Ling-3.1-flash-base, een BF16-checkpoint van 1,14 TB dat bedoeld is voor verdere training, en achter beide staat Ling-3.1-flash, het model waarvan deze build een post-training-revisie is. Vijf dagen eerder had Ant alleen de score gepubliceerd: 44 op de Artificial Analysis Intelligence Index v4.3.2, een stijging ten opzichte van 41, met gewichten en API in het vooruitzicht. Vandaag heeft die belofte een bestandslijst, waardoor dit de eerste dag is waarop iemand buiten Ants evaluatiepijplijn het getal kan controleren in plaats van het alleen te lezen.

Die kloof is het verhaal, en ze snijdt aan twee kanten. Een lab dat een benchmark aankondigt voordat het een artefact uitbrengt, vraagt om op vertrouwen te worden aangenomen; een lab dat het artefact vervolgens vijf dagen later uitbrengt, op 574 GB en onder een permissieve licentie, heeft op zijn minst de middelen aangereikt om het oneens te zijn. De interessante vragen gaan niet langer over de score. Ze gaan over wat er in de download zit, wat het kost om het te serveren, en of de context van 1M tokens op de modelkaart de context is die je daadwerkelijk krijgt.

Wat zit er eigenlijk in de repository?

De 1019-repository is geen dunne adapter of een delta. Het is een volledige checkpoint: 54 gewichtsbestanden van ongeveer 10,7 GB elk, een tokenizer, een chatsjabloon en aangepaste modelleercode (BailingMoeV3ForCausalLM) dat trust_remote_code vereist. De meegeleverde configuratie specificeert een FP8-kwantisatieschema (E4M3, 128×128-blokschaling) bovenop de hybride-lineaire MoE-architectuur die de Ling-lijn sinds 3.1 gebruikt:

• Totaal aantal en actieve parameters — 560B totaal, 25B actief per token, dezelfde cijfers als Ling-3.1-flash.

• Lagen — 72 in totaal: 63 KDA lineaire-attentielagen en 9 gated MLA-lagen in een verhouding van 7:1, plus 4 dense lagen.

• Experts — 512 gerouteerd, 8 geactiveerd per token, 1 gedeeld.

• Woordenschat — 157.184 tokens; verborgen grootte 4.096.

• Omvang — 573,8 GB aan safetensors verdeeld over 54 shards, volgens onze telling op basis van de bestandslijst van de repository op 27 oktober.

Het basismodel is een ander soort artefact. Ling-3.1-flash-base werd op 25 oktober gemaakt en bevat 121 bestanden en 1,14 TB aan BF16-gewichten — ongeveer twee keer zo groot als de uitgelijnde checkpoint, omdat het niet naar FP8 is gekwantiseerd. De kaart beschrijft het als de basis-checkpoint van Ling-3.1-flash, voor voortgezette pre-training, domeinaanpassing en post-trainingonderzoek, en zegt duidelijk dat het niet bedoeld is voor directe chat of veiligheidskritisch gebruik zonder alignment. Beide repo's dragen de MIT-tag.

44, en het deel dat Ant niet heeft gemeten

Artificial Analysis vermeldt Ling-3.1-flash-1019 met 44 op zijn Intelligence Index, op de vierde plaats van de 122 modellen op de pagina die we vandaag hebben gelezen, en op de modelpagina staat dat de evaluaties onafhankelijk door Artificial Analysis zijn gemeten. Dat is de sterkste vorm die het cijfer tot nu toe heeft aangenomen, en het loont om het los te zien van de rest van de lanceringstabel.

De deltas per benchmark komen uit Ants eigen modelkaart, niet uit een onafhankelijke herhaling: AA-Briefcase stijgt van ongeveer 1.400 naar 1.524 Elo, AutomationBench-AA van 62% naar 68%, CritPt van 18% naar 26% en SciCode van 54% naar 57%. Twee van die benchmarks — AA-Briefcase en AutomationBench-AA — zijn onderdelen van de Artificial Analysis-index, dus het indexcijfer en de leverancierstabel zijn geen onafhankelijk bewijs voor elkaar. Het is dezelfde bewering op twee resoluties. Behandel de 44 als gemeten door AA en de voor/na-paren als door de leverancier gerapporteerd totdat iemand een harness en een seed publiceert.

Er is een tweede asymmetrie. Op het moment van meten registreerde Artificial Analysis geen publiek beschikbare API voor de 1019-build, en het veld voor uitvoersnelheid van het model is nog steeds leeg. De benchmark is vandaag dus alleen reproduceerbaar door 574 GB te downloaden en zelf te draaien. Dat is geen klacht over de release; het is een beschrijving van wat "open" verandert. Vóór vandaag kon niemand de score reproduceren. Na vandaag kan iedereen met de hardware dat.

De drie punten worden met tokens gekocht.

De index is een kwaliteitsmaatstaf, geen efficiëntiemaatstaf, en de efficiëntiekant van deze release is het minst flatteuze deel ervan. Artificial Analysis mat 350M outputtokens voor de 1019-run tegen 220M voor Ling-3.1-flash — ongeveer 59% meer gegenereerde tokens om dezelfde suite te voltooien — en rangschikt de nieuwe build als 48e van 48 op breedsprakigheid, met het mediane model op 140M. De kosten om de index te draaien bedragen $1,49 per taak tegen $1,01 voor de voorganger.

Een deel daarvan is rekenwerk dat je kunt doen met de eigen tariefkaart van Ant. Bij $0.90 per miljoen outputtokens zijn 350M tokens $315 aan output, tegenover $198 voor 220M — een verschil van $117 voordat er ook maar één inputtoken of cachelezing is meegerekend. Voor een team dat per taak begroot in plaats van per token, lijkt de "gratis" checkpoint-upgrade eerder op een stijging van 47% in de rekening voor een indexwinst van drie punten. Of die ruil goed is, hangt volledig af van wat een mislukte taak je kost, en dat is een vraag die geen enkele ranglijst beantwoordt.

Het contextvenster is 256K in de configuratie

De modelkaart zegt een context van 1M tokens. De meegeleverde configuratie zegt iets anders. In alle drie de repositories — 1019, Ling-3.1-flash en de basis — zet config.json max_position_embeddings op 262.144 en rope_scaling op null, met een RoPE-theta van 6.000.000. Een standaard SGLang- of vLLM-laadproces van deze gewichten levert daarom 256K posities, geen miljoen, tenzij de operator een schaalconfiguratie aanlevert die de repository niet bevat.

Dit is onze lezing van de gepubliceerde configuratiebestanden, geen verklaring die Ant heeft afgelegd. Het is mogelijk dat de gehoste Ling API server-side een schaalregeling toepast en echt 1M levert; de open weights bevatten die niet. Het is ook geen nieuwe discrepantie — de release Ling-3.1-flash van 15 oktober droeg dezelfde claim van 1M bij dezelfde instelling van 262,144. Iedereen die hardware afstemt op een workload van een miljoen tokens, zou het plafond op de eigen stack moeten testen voordat men zich vastlegt, want het getal dat ertoe doet is het getal dat de server accepteert, niet het getal in de inleiding.

Serveren: acht H200's, vier GB300's en één copy-paste-valkuil

Ant raadt SGLang aan en publiceert een day-0-image, lmsysorg/sglang:dev-ling-3.1-flash, met MTP speculatieve decoding en Hopper-decode-optimalisaties. De gedocumenteerde referentieconfiguratie is acht H200-GPU's bij TP8 plus EP8; op vier GB300's staat op de kaart dat je --tp 4 --ep 4 moet gebruiken. Er is ook een vLLM-recept inbegrepen, met tensorparallelisme van 8, expertparallelisme, prefix-caching en drie speculatieve tokens. Van twee omgevingsflags — SGLANG_ENABLE_FP8_BLOCK_GEMV en SGLANG_ENABLE_FUSED_KDA_OUTPUT_QUANT — wordt beweerd dat ze op Hopper ruwweg 10% snellere batch-1-decode opleveren.

De geheugenvoetafdruk verklaart de hardwarelijst. Bij 573,8 GB aan FP8-gewichten laat het checkpoint ongeveer 550 GB ruimte over op acht H200s (1.128 GB HBM) en ongeveer 578 GB op vier GB300s (1.152 GB). Dat is genoeg voor gewichten en een werkende KV-cache, maar niet genoeg om achteloos om te gaan met lange contexten.

Er zit ook een valkuil in de Quickstart die het vermelden waard is, omdat die iemand een dag kan kosten. Het SGLang-commando van de modelkaart van 1019 zelf geeft `--model-path inclusionAI/Ling-3.1-flash` mee, en het clientvoorbeeld ervan verstuurt `"model": "Ling-3.1-flash"`. Als je dit letterlijk volgt, laadt het recept de voorganger met 41 punten, niet de build met 44 punten. Wijs het pad expliciet naar `inclusionAI/Ling-3.1-flash-1019` en pin de naam van het geserveerde model, anders is je eerste benchmark van "1019" een benchmark van de oude checkpoint.

Waarvoor Ling-3.1-flash-base dient — en wat het niet is

De base-release is de meest impactvolle van de twee voor iedereen die modellen traint in plaats van ze aan te roepen. Een BF16-checkpoint van 1,14 TB onder MIT-licentie, met dezelfde 560B/25B-architectuur, geeft een lab een legitiem uitgangspunt voor voortgezette pre-training, domeinaanpassing, gesuperviseerde fine-tuning, preferentie-optimalisatie, distillatie-experimenten en onderzoek naar MoE met lange context, zonder te beginnen vanuit een op chat afgestemd model waarvan het eerst het weigeringsgedrag zou moeten terugdraaien.

Wat het je niet geeft, is het recept voor 44. De kaart beschrijft de base als het basis-checkpoint van Ling-3.1-flash, niet als een snapshot van de 1019-build vóór post-training, en met geen van beide repositories wordt post-trainingsdata, een preference set of RL-configuratie meegeleverd. Wil je het gemeten model, download dan het gemeten model. Wil je je eigen model bouwen, dan bespaart de base je de kosten van pre-training, maar niet het alignment-werk — en de kloof tussen een goed afgestelde base en het beste post-trained checkpoint van een leverancier is doorgaans groter dan een indexdelta van drie punten suggereert.

Zou je de 574 GB moeten nemen?

Download het als je al acht H200's of vier GB300's draait, je workload agentisch of meerstaps is, en een MIT-licentie een juridische drempel wegneemt die je daadwerkelijk hebt.

• Download het als je de 44 zelf moet reproduceren — dat is nu mogelijk, en dat was op 22 oktober niet het geval.

• Sla het over als je uitging van 1M context direct uit de doos; test eerst de 256K-configuratie.

• Sla het over als je kostenmodel per taak is en je latentiegevoelig bent. De toename van 59% in tokens is een echte doorvoerkostenpost, en er bestaat nog geen onafhankelijk cijfer voor de uitvoersnelheid van 1019.

• Begin alleen vanuit de base als je een posttraining-pipeline hebt. Het is een fundament, geen snelkoppeling.

De eerlijke manier om OrcaRouters rol hier te schetsen: wij bieden Ling-3.1-flash-1019 niet aan. Wat wij verkopen is de andere kant van de beslissing — één sleutel voor 200+ gehoste modellen tegen de lijstprijs van de provider met 0% opslag, zodat de vraag "verslaat 1019 wat ik al draai" kan worden beantwoord zonder voor elke baseline een apart contract te ondertekenen. Automatische failover en de routing-DSL zijn relevant zodra je een winnaar hebt gekozen; ze helpen je niet er een te kiezen.

Wat nu te kijken

Drie dingen zullen bepalen of deze release goed veroudert. Het eerste is onafhankelijke doorvoer: Artificial Analysis heeft geen cijfer voor uitvoersnelheid voor 1019, en de eerste externe aanbieder die tokens per seconde publiceert, zal je meer vertellen over geschiktheid voor productie dan nog een indexpunt. Het tweede is of er een schaalconfiguratie voor 1M-context in de repository of in het SGLang-cookbook verschijnt; totdat dat gebeurt, is het kopcijfer op de kaart een claim met een 256K-implementatie eronder. Het derde is wat de community met de basis doet — een fine-tune die 44 verslaat op een smal domein zou het sterkste bewijs zijn dat het openen van deze gewichten meer waard was dan de score waarmee het werd uitgebracht.