
Sage-S2.1-Flash still ausgeliefert: 645 GB Gewichte, eine 21-Byte-Modellkarte und eine Benchmark-Tabelle, die niemand verlinkte
- GoogleNEUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 pro 1 Mio. Tokens · 90 tok/s
- AnthropicNEUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 pro 1 Mio. Tokens · 96 tok/s
- orcaNEUOrca: OrcaC2 1.02026-11-0717 tok/s
- OrcaNEUOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 pro 1 Mio. Tokens · 87 tok/s
- OrcaNEUOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 pro 1 Mio. Tokens · 133 tok/s
- OrcaNEUOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 pro 1 Mio. Tokens · 72 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 pro 1 Mio. Tokens · 130 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 pro 1 Mio. Tokens · 65 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 pro 1 Mio. Tokens · 92 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 pro 1 Mio. Tokens · 43 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Intelligenz
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 pro 1 Mio. Tokens · 193 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Intelligenz
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 pro 1 Mio. Tokens · 152 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Intelligenz
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Intelligenz
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 pro 1 Mio. Tokens · 119 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Intelligenz
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Intelligenz
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 pro 1 Mio. Tokens · 219 tok/s
Am 15. November 2026 um 02:34 UTC lud ein Konto des Shanghai AI Laboratory ein Repository namens internlm/Sage-S2.1-Flash auf Hugging Face hoch. Es enthielt 120 safetensors-Shards mit insgesamt etwa 645 Gigabyte, eine Konfigurationsdatei, eine Chat-Vorlage und eine README-Datei von 21 Bytes. Es gab keinen Blogbeitrag. Die eigene Homepage des Labors enthielt keine Erwähnung des Namens, als wir sie am 16. November abriefen. Es gab keine Pressemitteilung, die wir finden konnten, und keinen Eintrag für Sage-S2.1-Flash bei Artificial Analysis.
Was es am Ende jenes Wochenendes tatsächlich gab, waren drei Dinge, die ein Leser überprüfen kann: die Gewichte selbst, eine Bereitstellungsanleitung, geschrieben für Leute, die das Ding auf acht H200s betreiben wollen, und eine Benchmark-Tabelle, die auf einer GitHub-Pages-Microsite gehostet wird, auf die das Modell-Repository nie verlinkt. Dieser Beitrag ist eine Bestandsaufnahme dieser drei, mit einer klaren Grenze zwischen dem, was die Dateien belegen, und dem, was InternLM noch nicht gesagt hat.

Das Repository, Datei für Datei
Die Beweislage ist ungewöhnlich sauber, weil so wenig davon vorhanden ist. Ein Verzeichnislisting vom 16. November liefert 155 Dateien. Einhundertzwanzig davon sind Weight-Shards von jeweils etwa 5,35 GB. Der Rest ist die Maschinerie eines multimodalen Modells: tokenizer.json mit 20 Megabyte, eine 10,5 KB große chat_template.jinja, eine 5,9 KB große config.json, eine Generierungskonfiguration mit temperature 1.0 und top_p 0.95, eine deployment_guide.md und zwei Verzeichnisse — eines mit einem vLLM-Patch, eines mit Projektoren für ein begleitendes Wahrnehmungsmodell.
Auf die README lohnt es sich einzugehen. Einundzwanzig Bytes, und jedes einzelne davon ist YAML-Frontmatter:
• Eine horizontale Linie, dann eine Zeile mit dem Text license: mit, dann eine weitere horizontale Linie.
Das ist die gesamte Model Card. Es gibt keine Beschreibung, keine Benchmark-Tabelle, kein Usage-Snippet, keinen Zitationsblock, keinen Link zu einem Paper. Hugging Face rendert sie als Seite mit einem Titel, einem MIT-Badge und einem leeren Body. Das Repository hat einen Like und zum Zeitpunkt des Schreibens null Downloads – was bei einem Modell dieser Größe weniger ein Signal für Qualität als dafür ist, wie wenige Leute sich den Speicherplatz leisten können.
Zwei kleinere Details aus der Dateiliste sind es wert, festgehalten zu werden, weil sie das Release besser datieren als jede Ankündigung es könnte. Das FP8-quantisierte Geschwister, internlm/Sage-S2.1-Flash-FP8, wurde am 13. November um 15:04 UTC erstellt – etwa 35 Stunden vor dem bfloat16-Repository. Und der letzte Commit des bf16-Repos, am 16. November um 03:01 UTC, ist ein bloßes „Upload folder using huggingface_hub“ – dieselbe Nachricht wie beim ersten Upload. Welcher Workflow auch immer das hervorgebracht hat, es war kein kuratierter Launch.
Das eine Dokument, das das Labor geschrieben hat
deployment_guide.md ist der einzige Fließtext, den InternLM im Repository mitgeliefert hat, und er ist die informativste Datei darin. Sein einleitender Satz ist die gesamte Spezifikation:
Das Sage-S2.1-Flash-Release ist ein multimodales MoE-Modell mit 320B-A18B, gespeichert im bfloat16-Gewichtsformat (etwa 645 GB).
Drei Zahlen, und die Metadaten des Hubs selbst bestätigen zwei davon. Die Parameteranzahl auf der Modellseite wird mit 321 Milliarden angegeben, eine Abweichung von einer Milliarde, die mit ziemlicher Sicherheit eher eine Rundungskonvention als eine Uneinigkeit ist. Die Speicherangabe stimmt mit den Repository-Metadaten von internlm bei 642,8 GB überein. „A18B“ – 18 Milliarden aktive Parameter pro Token – ist ein eigener Begriff von InternLM und lässt sich nicht unabhängig aus der Konfiguration ableiten, daher sollte er als Herstellerangabe behandelt werden.
Die config.json füllt den Rest aus, und es ist ein wirklich interessantes Dokument. Das Modell hat 45 Schichten, und nur 11 davon nutzen konventionelle Sparse Attention. Die anderen 34 nutzen einen Linear-Attention-Schichttyp, den die Konfiguration kda nennt, gesteuert über eine Liste pro Schicht in linear_attn_config. Das Routing umfasst 288 Experten mit einem gemeinsamen Experten und acht pro Token ausgewählten, bei einem Routing-Skalierungsfaktor von 2,5. Die Positionsobergrenze liegt bei 1.048.576 Token. Es gibt einen Vision-Turm – Tiefe 24, 448-Pixel-Bilder, Patch-Größe 14 – und das Token-Vokabular enthält explizite image-, video-, image-start-, image-end-, video-start- und video-end-Token.

Die Architekturlinie, auf die es am meisten ankommt
Der Bereitstellungsleitfaden enthält einen Satz, der das gesamte Release in ein neues Licht rückt. Darin heißt es, Sage-S2.1-Flash „verwende die GLM-5.3-Flash-Architektur“, und weist den Leser an, vLLM und SGLang zu installieren und zu optimieren, indem er Z.ais offiziellen GLM-5.3-Flash-Rezepten folgt und dabei einen Repository-Namen durch den anderen ersetzt.
Das wird in der Konfiguration bestätigt: Die Architekturklasse ist Glm5NextForConditionalGeneration und der Modelltyp ist glm5_next. Ein Modell des Shanghai AI Laboratory wird also auf einer Z.ai-Architektur veröffentlicht, und das Labor sagt das offen, statt es zu verbergen. GLM-5.3-Flash ist selbst ein multimodales MoE mit 320 Milliarden Parametern, davon 18 Milliarden aktiv, einem Kontext von 1 Mio. Token und einer Ausgabegrenze von 128K – will heißen, auch die Parameterform ist kein Zufall.
Für alle, die entscheiden, ob sie das deployen sollen, ist dieser Satz das Einzige, was im Release am wertvollsten ist. Er bedeutet, dass die Serving-Story nicht neu ist. Er bedeutet, dass die Rezepte, die Kernel-Arbeit und die bekannten Fehlermodi genau diejenigen sind, die bereits für ein Modell dokumentiert wurden, das seit August öffentlich ist. Er bedeutet außerdem, dass die von InternLM hinzugefügten Patches es wert sind, genau gelesen zu werden, weil sie genau beschreiben, wo ihr Modell von der Basis abweicht.
Drei Wege, auf denen dieses Release scheitert, wenn Sie es naiv ausliefern
Die Deployment-Anleitung ist, wenn man sie sorgfältig liest, eine Liste von Fallstricken. Jeder davon ist ein stilles Versagen statt eines Fehlers – und das ist die gefährliche Art.
• Ohne --trust-remote-code brechen Tool-Aufrufe ohne Warnung. Agentische Traces enthalten Zeichenfolgen wie <|user|> und <tool_call> als gewöhnlichen Text. Das Repository liefert eigenen Tokenisierungscode mit, der sie als Text behandelt; ohne das Flag lädt die Engine den Standard-Tokenizer, kodiert sie als Steuertokens, und das Modell kann vorzeitig stoppen oder einen Tool-Aufruf beschädigen. Nichts wird protokolliert.
• vLLM benötigt einen Patch für eine einzelne Datei, sonst werden Bilder dem falschen Tool-Ergebnis zugeordnet. Wenn parallele Tool-Aufrufe in einer anderen Reihenfolge zurückkommen, als sie ausgelöst wurden, rendert das Chat-Template die Ergebnisse in Aufrufreihenfolge, während vLLM Bilder in Nachrichtenreihenfolge sammelt. Jedes Bild wird stillschweigend dem falschen Ergebnis zugeordnet, und das Modell antwortet zu dem falschen Bild. Der Fix ersetzt vllm/renderers/hf.py; der Upstream-Fix ist als vllm-project/vllm#67108 in Arbeit.
• SGLang wird die Chat-Vorlage des Repositorys nicht verwenden, wenn du ihm nicht die Datei übergibst. SGLang installiert standardmäßig seine eigene integrierte Vorlage für diese Architektur, wodurch der Tokenizer des Repositorys vollständig umgangen wird; du musst chat_template.jinja herunterladen und mit --chat-template übergeben.
in non-streaming responses can truncate reasoning or swallow a tool call; streaming is unaffected." No span markers? It contains literal </think> which looks like closing tag but not numbered marker. The instructions mention numbered span markers, but none present. Need translate carefully, preserve URLs and brand/product names. Keep </think> exact as code-ish? It's a literal token, should preserve exactly. "transformers between 5.17 and 5.19" version numbers. Translate naturally. Need output only translated. German. Ensure "There are two more constraints in the same document." = "Im selben Dokument gibt es zwei weitere Einschränkungen." FP8 KV cache not supported on Hopper GPUs = "Der FP8-KV-Cache wird auf Hopper-GPUs nicht unterstützt, daher behält man auf H100- und H200-GPUs den BF16-Cache." "And LMDeploy needs transformers between 5.17 and 5.19, because 5.19 renames the layer type deepseek_sparse_attention to indexed_attention and LMDeploy rejects the new name." = "Und LMDeploy benötigt transformers zwischen 5.17 und 5.19, weil 5.19 den Layer-Typ deepseek_sparse_attention in indexed_attention umbenennt und LMDeploy den neuen Namen ablehnt." "The guide also flags an open vLLM issue — vllm-project/vllm#64326 — where a literal </think> in non-streaming responses can truncate reasoning or swallow a tool call; streaming is unaffected." = "Der Leitfaden weist außerdem auf ein offenes vLLM-Problem hin – vllm-project/vllm#64326 –, bei dem ein literales </think> in Nicht-Streaming-Antworten die Denkausgabe abschneiden oder einen Tool-Aufruf verschlucken kann; Streaming ist nicht betroffen." Need preserve "vLLM", "LMDeploy", "transformers", "Hopper", "H100s and H200s" maybe H100- und H200-GPUs. "tool call" maybe Tool-Aufruf. Use en dashes maybe okay. "literal </think>" exact. Note </think> could be interpreted as tag, but output exact. No markers. We should not add. Final only translation.Im selben Dokument gibt es zwei weitere Einschränkungen. Der FP8-KV-Cache wird auf Hopper-GPUs nicht unterstützt, daher behält man auf H100- und H200-GPUs den BF16-Cache. Und LMDeploy benötigt transformers zwischen 5.17 und 5.19, weil 5.19 den Layer-Typ deepseek_sparse_attention in indexed_attention umbenennt und LMDeploy den neuen Namen ablehnt. Der Leitfaden weist außerdem auf ein offenes vLLM-Problem hin – vllm-project/vllm#64326 –, bei dem ein literales </think> in Nicht-Streaming-Antworten die Denkausgabe abschneiden oder einen Tool-Aufruf verschlucken kann; Streaming ist nicht betroffen.
Nichts davon besagt, dass das Modell schlecht ist. Es besagt, dass die Veröffentlichung in der Phase ist, in der die Leute, die es geschrieben haben, immer noch die Einzigen sind, die es ausgeführt haben, und sie sagen dir das auch.
Die Benchmark-Tabelle, die nicht im Repository enthalten ist
InternLM hat Bewertungszahlen veröffentlicht — {{1}}35 davon, verteilt auf Terminal-Bench 2.1, DeepSWE, SWE-bench Pro, APEX-Agents, GDPval, OfficeQA Pro V2, Harvey LAB, OSWorld-Verified, BrowseComp, BabyVision und zwei Dutzend weitere{{/1}}. Sie stehen nicht in der Model Card, weil die Model Card leer ist. Sie befinden sich in einem separaten GitHub-Repository, {{2}}InternLM/Sage-S2.1-Flash, angelegt am 16. November um 03:34 UTC, beschrieben als „Sage 2.1 Flash – zweisprachige Website- und Anwendungsdemos“, das eine statische Website unter internlm.github.io/Sage-S2.1-Flash erstellt{{/2}}. Die Benchmark-Daten sind dort als tabulatorgetrennte Datei und als JSON-Datei eingecheckt, zusammen mit Demovideos, in denen das Modell 3D Slicer, Blender und Fiji bedient.
„Heute stellen wir Sage 2.1 Flash vor, ein wissenschaftliches multimodales Frontier-Agentenmodell“. Die Ankündigung existiert also – sie steht nur auf einem GitHub-Pages-Host, auf den nichts im Hugging-Face-Repository verweist, und sie wurde erstellt, nachdem die Gewichte bereits herunterladbar waren. Wenn Sie die Darstellung des Anbieters selbst möchten, dann ist es dieser Absatz: mehr als zehn Arten wissenschaftlicher Eingaben in einem Modell, darunter Molekülgraphen, Kristallstrukturen, Proteinsequenzen und 3D-Strukturen, DNA und RNA, Spektren, Massenspektren, Röntgenbeugung, Elektrokardiogramme, Elektroenzephalogramme und Lichtkurven.
Die Bewertungstabelle vergleicht Sage 2.1 Flash mit acht Modellen: GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017, Qwen3.8-Max, GPT-5.6 Sol, Claude Opus 5, GPT-6 Astra, GPT-6.1 Sol und Claude Opus 5.5. Jede Zahl darin ist vom Anbieter gemeldet. Es gibt keinen veröffentlichten Harness, kein Laufprotokoll, keine Aufschlüsselung pro Aufgabe, und kein Dritter hat irgendetwas davon reproduziert. Lesen Sie die Tabelle als Absichtserklärung des Labors, nicht als Messung.
Wo die Anbietertabelle ungewöhnlich stark und ungewöhnlich schwach ist
Zwei Muster stechen hervor, und beide sind aussagekräftiger als die Schlagzeilenwerte.
Der erste Punkt ist, dass die Abstände in den Scientific- und Vision-Zeilen absurd sind. BabyVision steht bei 75,8 für Sage gegenüber 51,3 für GLM-5.3-Flash, 58,0 für DeepSeek-V4.1-Flash-1017 und 63,1 für Claude Opus 5. OSWorld-G steht bei 84,8 gegenüber 61,4 für DeepSeek. OfficeQA Pro V2 steht bei 72,2, dem höchsten Wert in seiner eigenen Tabelle, vor Claude Opus 5 mit 67,2. Wenn ein Modell eine Zeile mit vierundzwanzig Punkten Vorsprung gewinnt, ist entweder die Fähigkeit real, oder der Benchmark wird für dieses Modell anders gelesen als für die anderen — und da kein Harness veröffentlicht ist, lässt sich nicht sagen, was davon zutrifft.
Zweitens sind die Coding-Zeilen der am wenigsten schmeichelhafte Teil der Veröffentlichung. Terminal-Bench 2.1 mit 87,9 ist stark, aber nicht führend; Qwen3.8-Max liegt bei 89,6 und Claude Opus 5 bei 90,2. SWE-bench Pro mit 60,6 liegt hinter DeepSeek-V4.1-Flash-1017 mit 64,7 und Qwen3.8-Max mit 65,3 zurück. DeepSWE mit 67,0 liegt um fast sieben Punkte hinter DeepSeek mit 73,9 zurück. Für ein Modell, dessen Marketing agentisch ist, ist das eine Tabelle, die seine eigenen Autoren zu veröffentlichen beschlossen haben, was etwas wert ist.
Was in der Tabelle nicht enthalten ist, ist ebenso bemerkenswert: Claude Haiku 5.5 und Gemini 3.8 Flash fehlen beide, sodass die beiden Vergleiche, die die meisten Leute anstellen möchten, anhand von Herstellerdaten überhaupt nicht möglich sind – in keine der beiden Richtungen.

Was ist bestätigt, und was nicht
Das Sortieren der Beweise des Wochenendes in zwei Stapel ist das Nützlichste, was ein Leser damit tun kann.
• Durch Dateien bestätigt — die Gewichte existieren und sind unter MIT herunterladbar; 120 Shards, etwa 645 GB, bfloat16; 45 Schichten mit einer 34/11-Aufteilung zwischen linearer und sparse Attention; 288 geroutete Experten, Top-8; eine Positionsobergrenze von 1.048.576 Tokens; ein Vision-Tower und Bild-/Video-Tokens; ein FP8-Geschwistermodell, zwei Tage zuvor veröffentlicht.
• Bestätigt durch den eigenen Leitfaden des Anbieters — 320B gesamt, 18B aktiv; die GLM-5.3-Flash-Architektur; 8×H200 als Referenz-Deployment; fünf dokumentierte Serving-Fallstricke.
• Vom Anbieter gemeldet, nicht reproduziert – jeder Benchmark-Wert, einschließlich des 24-Punkte-Vorsprungs bei BabyVision und der 72,2 bei OfficeQA Pro V2.
• Nicht bestätigt — was es kostet. Nirgends gibt es einen Preis: weder im Hub noch im Leitfaden noch auf der Microsite. Die Schaltfläche „Try the API“ verweist auf discovery.intern-ai.org.cn; ein Abruf ohne JavaScript ergab dort eine nahezu leere Hülle. Von außen konnten wir nicht feststellen, ob das Modell dort aufrufbar ist, unter welcher Kennung oder zu welchem Tarif.
• Ebenso unbestätigt — ob es sich überhaupt um einen Launch handelt, in dem Sinne, den das Wort üblicherweise trägt. Keine Ankündigung, kein Paper unter diesem Namen, kein Partnerzugang und eine Modellkarte, die ein Skript hätte erzeugen können.
Wie man es betrachten kann, ohne einen Produktionspfad darauf zu setzen
Die praktische Frage für die meisten Teams lautet nicht „Ist das besser als das, was ich laufen lasse?“, sondern „Ist es eine Stunde wert?“. Bei 645 GB in bfloat16 ist das kein Laptop-Download; der ehrliche Einstiegspunkt ist ein gemieteter 8×H200-Knoten, ein Nachmittag mit dem Deployment-Leitfaden und die Akzeptanz, dass man ein Modell betreibt, für das niemand eine Testumgebung veröffentlicht hat.
Noch bevor all das nötig ist, besteht das günstigere Experiment darin, die Architekturzeile als Abkürzung zu lesen. InternLM sagt in seinem eigenen Leitfaden, dass das Modell auf der Architektur GLM-5.3-Flash aufbaut und dass man Z.ais Serving-Rezepte dafür befolgen sollte, wobei man einen Repository-Namen durch den anderen ersetzt. Das bedeutet: Die Basisarchitektur — gleiche 320B/18B-Form, dieselbe hybride Sparse-and-Linear-Attention, dieselbe Million-Token-Obergrenze — ist heute über eine gehostete API testbar, statt über acht GPUs, die man erst einmal finden muss. Wenn das Basismodell mit Ihren wissenschaftlichen Dokumenten bereits zurechtkommt, ist das Derivat eine Verfeinerung, die den Download wert ist. Wenn nicht, haben Sie sich das Wochenende gespart.
Der Punkt, an dem OrcaRouter hier seinen Platz verdient, ist die Lücke zwischen „wir wollen es ausprobieren“ und „wir können es bereitstellen“. Automatisches Failover ermöglicht es Ihnen, einen experimentellen Endpoint hinter eine Policy zu legen, ohne ihn zum einzigen Pfad zu machen: Wenn das neue Modell einen fehlerhaft formatierten Tool-Call zurückgibt – und der Deployment-Leitfaden sagt Ihnen genau, wie es das tun wird, wenn Sie das Flag oder den Patch weglassen –, fällt die Anfrage auf ein Modell zurück, dem Sie bereits vertrauen, und Sie behalten den Trace. Das ist eine bessere Möglichkeit, Belege zu sammeln, als ein einmaliges Eval-Skript, weil dabei Belege aus echtem Traffic gesammelt werden.
Was würde es klären
Drei Ereignisse, in aufsteigender Reihenfolge ihrer Nützlichkeit. Eine Modellkarte würde uns sagen, wofür das Labor das Modell gedacht hat, und würde wahrscheinlich dieselbe Tabelle enthalten, die derzeit auf einem GitHub-Pages-Host festsitzt. Ein Eintrag auf einem unabhängigen Leaderboard würde es ermöglichen, die Margen des Anbieters von einer gemeinsamen Testumgebung abzuziehen. Und ein Preis – irgendein Preis, irgendwo – würde Sage-S2.1-Flash von einem Download in eine Entscheidung verwandeln.
Bis eines davon verfügbar ist, ist die zutreffende Beschreibung diejenige, die die Dateien stützen: ein großes, MIT-lizenziertes, wissenschaftlich abgestimmtes multimodales MoE, gebaut auf einer öffentlichen Architektur, veröffentlicht ohne ein Wort der Erklärung, dessen eigene Autoren noch immer den Serving-Stack patchen. Das ist nicht nichts. Es ist auch noch kein Produkt, und der Unterschied ist am wichtigsten für die Leute, die es betreiben müssten.
