Ling-3.1-flash-1019 ist jetzt Open Source: 574 GB, MIT und ein Realitätscheck zu 256K

Am 27. Oktober um 05:46 UTC erstellte das Ling-Team bei Ant Group ein Hugging-Face-Repository namens Ling-3.1-flash-1019 und füllte es mit 54 Safetensors-Shards mit insgesamt 573,8 GB unter einer MIT-Lizenz. Daneben liegt Ling-3.1-flash-base, ein 1,14 TB großer BF16-Checkpoint für weiteres Training, und dahinter steht Ling-3.1-flash, das Modell, von dem dieser Build eine Post-Training-Überarbeitung ist. Fünf Tage zuvor hatte Ant nur die Punktzahl veröffentlicht: 44 auf dem Artificial Analysis Intelligence Index v4.3.2, gegenüber 41 zuvor, wobei Gewichte und API versprochen wurden. Heute hat das Versprechen eine Dateiliste, wodurch dies der erste Tag ist, an dem jeder außerhalb der Evaluierungs-Pipeline von Ant die Zahl überprüfen kann, statt sie nur zu lesen.

Diese Lücke ist die eigentliche Geschichte, und sie hat zwei Seiten. Ein Labor, das einen Benchmark ankündigt, bevor es ein Artefakt ausliefert, bittet darum, ihm zu vertrauen; ein Labor, das das Artefakt dann fünf Tage später ausliefert – mit 574 GB und unter einer permissiven Lizenz –, hat zumindest die Mittel in die Hand gegeben, zu widersprechen. Die interessanten Fragen drehen sich nicht mehr um die Punktzahl. Sie drehen sich darum, was in dem Download steckt, was es kostet, ihn bereitzustellen, und ob der 1M-Token-Kontext auf der Modellkarte der Kontext ist, den man tatsächlich bekommt.

Was befindet sich eigentlich im Repository?

Das 1019-Repository ist weder ein dünner Adapter noch ein Delta. Es ist ein vollständiger Checkpoint: 54 Gewichtsdateien mit jeweils etwa 10,7 GB, ein Tokenizer, ein Chat-Template und benutzerdefinierter Modellierungscode (BailingMoeV3ForCausalLM), der trust_remote_code erfordert. Die mitgelieferte Config deklariert ein FP8-Quantisierungsschema (E4M3, 128×128-Block-Skalierung) zusätzlich zur hybrid-linearen MoE-Architektur, die die Ling-Reihe seit 3.1 verwendet:

• Gesamt- und aktive Parameter — 560B gesamt, 25B aktiv pro Token, dieselben Zahlen wie bei Ling-3.1-flash.

• Schichten — insgesamt 72: 63 lineare KDA-Attention-Schichten und 9 gated MLA-Schichten im Verhältnis 7:1, plus 4 dichte Schichten.

• Experten — 512 geroutet, 8 pro Token aktiviert, 1 gemeinsam genutzt.

• Vokabular — 157.184 Tokens; Hidden Size 4.096.

• Speicherbedarf — 573,8 GB an safetensors über 54 Shards, nach unserer Zählung aus der Dateiliste des Repositorys vom 27. Oktober.

Das Basismodell ist eine andere Art von Artefakt. Ling-3.1-flash-base wurde am 25. Oktober erstellt und umfasst 121 Dateien sowie 1,14 TB an BF16-Gewichten – etwa doppelt so groß wie der alignierte Checkpoint, da es nicht auf FP8 quantisiert wurde. Seine Modellkarte beschreibt es als Basis-Checkpoint von Ling-3.1-flash für fortgesetztes Pre-Training, Domänenanpassung und Post-Training-Forschung und sagt klar, dass es ohne Alignment nicht für den direkten Chat oder sicherheitskritische Anwendungen gedacht ist. Beide Repos tragen das MIT-Tag.

44, und der Teil, den Ant nicht gemessen hat

Artificial Analysis listet Ling-3.1-flash-1019 mit 44 auf ihrem Intelligence Index, auf Platz vier von 122 Modellen auf der Seite, die wir heute gelesen haben, und auf der Modellseite heißt es, dass die Bewertungen unabhängig von Artificial Analysis gemessen wurden. Das ist die stärkste Form, die diese Zahl bisher angenommen hat, und es lohnt sich, sie vom Rest der Launch-Tabelle zu trennen.

Die Deltas je Benchmark stammen aus Ants eigener Model Card, nicht aus einem unabhängigen erneuten Lauf: AA-Briefcase steigt von rund 1.400 auf 1.524 Elo, AutomationBench-AA von 62 % auf 68 %, CritPt von 18 % auf 26 % und SciCode von 54 % auf 57 %. Zwei dieser Benchmarks – AA-Briefcase und AutomationBench-AA – sind Bestandteile des Artificial-Analysis-Index, daher sind die Indexzahl und die Anbietertabelle kein voneinander unabhängiger Beleg. Sie sind dieselbe Aussage in zwei Auflösungen. Behandle die 44 als von AA gemessen und die Vorher/Nachher-Paare als vom Anbieter berichtet, bis jemand einen Harness und einen Seed veröffentlicht.

Es gibt eine zweite Asymmetrie. Zum Zeitpunkt der Messung verzeichnete Artificial Analysis keine öffentlich verfügbare API für den Build 1019, und sein Feld für die Ausgabegeschwindigkeit des Modells ist noch immer leer. Der Benchmark ist heute also nur wiederholbar, indem man 574 GB herunterlädt und ihn selbst ausführt. Das ist keine Beschwerde über die Veröffentlichung; es beschreibt, was „offen“ verändert. Vor heute konnte niemand die Punktzahl reproduzieren. Ab heute kann es jeder mit der entsprechenden Hardware.

Die drei Punkte werden mit Token gekauft.

Der Index ist ein Qualitätsmaß, kein Effizienzmaß, und die Effizienzseite dieser Veröffentlichung ist der am wenigsten schmeichelhafte Teil davon. Artificial Analysis hat für den 1019-Lauf 350M Ausgabe-Tokens gemessen gegenüber 220M für Ling-3.1-flash – etwa 59 % mehr generierte Tokens, um dieselbe Suite zu absolvieren – und ordnet den neuen Build bei der Ausführlichkeit auf Platz 48 von 48 ein, wobei das Medianmodell bei 140M liegt. Die Kosten für den Betrieb des Index betragen 1,49 $ pro Aufgabe gegenüber 1,01 $ für den Vorgänger.

Ein Teil davon ist Arithmetik, die sich aus der eigenen Preisliste von Ant ableiten lässt. Bei 0,90 $ pro Million Ausgabe-Tokens sind 350 Mio. Tokens 315 $ Ausgabe gegenüber 198 $ für 220 Mio. – ein Unterschied von 117 $, bevor auch nur ein einziges Eingabe-Token oder ein Cache-Lesevorgang gezählt wird. Für ein Team, das pro Aufgabe statt pro Token budgetiert, kommt das „kostenlose“ Checkpoint-Upgrade eher einer Erhöhung der Rechnung um 47 % für einen Indexgewinn von drei Punkten gleich. Ob dieser Tausch gut ist, hängt vollständig davon ab, was Sie eine fehlgeschlagene Aufgabe kostet – eine Frage, die keine Bestenliste beantwortet.

Das Kontextfenster beträgt in der Konfiguration 256K.

Die Modellkarte nennt einen Kontext von 1 Mio. Token. Die ausgelieferte Konfiguration sagt etwas anderes. In allen drei Repositories – 1019, Ling-3.1-flash und dem Base – setzt config.json max_position_embeddings auf 262.144 und rope_scaling auf null, bei einer RoPE-Theta von 6.000.000. Ein unverändertes Laden dieser Gewichte in SGLang oder vLLM stellt daher 256K Positionen bereit, nicht eine Million, es sei denn, der Betreiber liefert eine Skalierungskonfiguration, die das Repository nicht enthält.

Dies ist unsere Lesart der veröffentlichten Konfigurationsdateien, keine Aussage von Ant. Es ist möglich, dass die gehostete Ling-API serverseitig ein Skalierungsschema anwendet und tatsächlich 1M bedient; die offenen Gewichte bringen ein solches nicht mit. Es handelt sich auch nicht um eine neue Diskrepanz – die Veröffentlichung von Ling-3.1-flash am 15. Oktober enthielt dieselbe 1M-Behauptung bei derselben 262.144-Einstellung. Wer Hardware für eine Arbeitslast von einer Million Tokens dimensioniert, sollte die Obergrenze vor der Festlegung auf dem eigenen Stack testen, denn entscheidend ist die Zahl, die der Server akzeptiert, nicht die aus der Einleitung.

Zum Servieren: acht H200s, vier GB300s und eine Copy-Paste-Falle

Ant empfiehlt SGLang und veröffentlicht ein Day-0-Image, lmsysorg/sglang:dev-ling-3.1-flash, mit MTP-Speculative-Decoding und Hopper-Decode-Optimierungen. Die dokumentierte Referenzkonfiguration sind acht H200-GPUs mit TP8 plus EP8; auf vier GB300s heißt es in der Karte, --tp 4 --ep 4 zu verwenden. Ein vLLM-Rezept ist ebenfalls enthalten, mit Tensor-Parallelität von 8, Expert-Parallelität, Prefix-Caching und drei spekulativen Tokens. Zwei Umgebungsflags – SGLANG_ENABLE_FP8_BLOCK_GEMV und SGLANG_ENABLE_FUSED_KDA_OUTPUT_QUANT – sollen auf Hopper etwa 10 % schnelleres Batch-1-Decode ermöglichen.

Der Speicherbedarf erklärt die Hardwareliste. Bei 573,8 GB FP8-Gewichten bleiben dem Checkpoint etwa 550 GB Spielraum auf acht H200 (1.128 GB HBM) und etwa 578 GB auf vier GB300 (1.152 GB). Das reicht für Gewichte und einen funktionierenden KV-Cache, aber nicht, um bei langen Kontexten sorglos zu sein.

Außerdem gibt es im Quickstart eine Falle, die es wert ist, hervorgehoben zu werden, weil sie jemanden einen Tag kosten wird. Der SGLang-Befehl in der Modellkarte zu 1019 übergibt selbst --model-path inclusionAI/Ling-3.1-flash, und das zugehörige Client-Beispiel sendet "model": "Ling-3.1-flash". Befolgt man das wörtlich, lädt das Rezept den Vorgänger mit 41 Punkten, nicht den Build mit 44 Punkten. Richten Sie den Pfad explizit auf inclusionAI/Ling-3.1-flash-1019 und legen Sie den Namen des bereitgestellten Modells fest, sonst ist Ihr erster Benchmark von "1019" ein Benchmark des alten Checkpoints.

Wofür Ling-3.1-flash-base gedacht ist – und wofür nicht

Das Base-Release ist von den beiden das bedeutendere für alle, die Modelle trainieren, statt sie nur aufzurufen. Ein 1,14 TB großer BF16-Checkpoint unter MIT-Lizenz mit derselben 560B/25B-Architektur gibt einem Labor einen legitimen Ausgangspunkt für Continued Pre-Training, Domänenadaption, Supervised Fine-Tuning, Präferenzoptimierung, Destillations-Experimente und Long-Context-MoE-Forschung, ohne bei einem chat-alignten Modell beginnen zu müssen, dessen Verweigerungsverhalten man erst wieder rückgängig machen müsste.

Was es dir nicht liefert, ist das Rezept für 44. Die Karte beschreibt die Basis als den Basis-Checkpoint von Ling-3.1-flash, nicht als einen Snapshot des 1019-Builds vor dem Post-Training, und weder Post-Training-Daten noch ein Preference-Set oder eine RL-Konfiguration werden mit einem der beiden Repositories ausgeliefert. Wenn du das gemessene Modell willst, lade das gemessene Modell herunter. Wenn du dein eigenes bauen willst, erspart dir die Basis die Pre-Training-Kosten, aber nicht die Alignment-Arbeit – und die Lücke zwischen einer gut abgestimmten Basis und dem besten post-trainierten Checkpoint eines Anbieters ist normalerweise größer, als ein Drei-Punkte-Index-Delta vermuten lässt.

Solltest du die 574 GB nehmen?

• Laden Sie es herunter, wenn Sie bereits acht H200 oder vier GB300 betreiben, Ihre Workload agentisch oder mehrstufig ist und eine MIT-Lizenz ein rechtliches Hindernis beseitigt, das Sie tatsächlich haben.

Laden Sie es herunter, wenn Sie die 44 selbst reproduzieren müssen – das ist jetzt möglich, und am 22. Oktober war das nicht möglich.

Überspringen Sie es, wenn Sie mit 1M Kontext ab Werk gerechnet haben; testen Sie zuerst die 256K-Konfiguration.

• Überspringen Sie es, wenn Ihre Wirtschaftlichkeit pro Aufgabe bemessen ist und Latenzempfindlichkeit besteht. Der Anstieg der Token um 59 % ist ein echter Durchsatzaufwand, und für 1019 liegt noch kein unabhängiger Wert zur Ausgabegeschwindigkeit vor.

• Beginne nur dann mit der Basis, wenn du eine Post-Training-Pipeline hast. Sie ist ein Fundament, keine Abkürzung.

Die ehrliche Einordnung der Rolle von OrcaRouter hier: Wir bieten Ling-3.1-flash-1019 nicht an. Was wir verkaufen, ist die andere Seite der Entscheidung – ein Schlüssel für 200+ gehostete Modelle zum Listenpreis des Anbieters mit 0 % Aufschlag, sodass die Frage „Schlägt 1019 das, was ich bereits betreibe?“ beantwortet werden kann, ohne für jede Vergleichsbasis einen separaten Vertrag abzuschließen. Automatisches Failover und die Routing-DSL sind wichtig, sobald Sie einen Gewinner ausgewählt haben; bei der Auswahl helfen sie nicht.

Was als Nächstes ansehen

Drei Dinge werden entscheiden, ob dieses Release gut altert. Das erste ist unabhängiger Durchsatz: Artificial Analysis hat keine Ausgabegeschwindigkeitsangabe für 1019, und der erste Drittanbieter, der Tokens pro Sekunde veröffentlicht, wird Ihnen mehr über die Produktionstauglichkeit sagen als ein weiterer Indexpunkt. Das zweite ist, ob eine 1M-Kontext-Skalierungskonfiguration im Repository oder im SGLang-Cookbook auftaucht; bis dahin ist die Schlagzeilenzahl der Modellkarte eine Behauptung, unter der eine 256K-Implementierung steckt. Das dritte ist, was die Community mit dem Basismodell anstellt – ein Fine-Tune, das 44 in einer eng umrissenen Domäne schlägt, wäre der stärkste Beleg dafür, dass das Öffnen dieser Gewichte mehr wert war als die Punktzahl, mit der es ausgeliefert wurde.