Een gegenereerde titelkaart met 'Sage-S2.1-Flash' boven de ondertitel '645 GB aan gewichten, een modelkaart van 21 bytes, geen aankondiging', met daaronder drie kleine chips met 'upload van 15 nov 2026', 'MIT-licentie' en '320B-A18B MoE'. Witte achtergrond, blauwe en cyaan gradiëntaccenten, platte lijniconen. Het OrcaRouter-logo is in de rechteronderhoek samengesteld.
Guides & Insights

Sage-S2.1-Flash stil uitgebracht: 645 GB aan gewichten, een modelkaart van 21 bytes en een benchmarktabel waarnaar niemand linkte

Auteur

jinhao.song

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Op 15 november 2026 om 02:34 UTC uploadde een account van Shanghai AI Laboratory een repository genaamd internlm/Sage-S2.1-Flash naar Hugging Face. Deze bevatte 120 safetensors-shards met een totale omvang van ongeveer 645 gigabyte, een configuratiebestand, een chatsjabloon en een README van 21 bytes. Er was geen blogpost. De homepage van het lab zelf vermeldde de naam niet toen we die op 16 november ophaalden. We konden geen persbericht vinden, en er stond geen vermelding van Sage-S2.1-Flash op Artificial Analysis.

Wat aan het einde van dat weekend wel bestond, waren drie dingen die een lezer kan controleren: de gewichten zelf, een deploymentgids geschreven voor mensen die het ding op acht H200's willen draaien, en een benchmarktabel op een GitHub Pages-microsite waarnaar de modelrepository nooit linkt. Dit stuk is een inventaris van die drie, met een duidelijke scheidslijn tussen wat de bestanden bewijzen en wat InternLM nog niet heeft gezegd.

Screenshot of the Hugging Face 'Files and versions' tab for internlm/Sage-S2.1-Flash. The header shows the safetensors and glm5_next tags, the MIT licence, and a repository size of 643 GB. The file list shows .gitattributes, README.md, chat_template.jinja, config.json, deployment_guide.md, generation_config.json, and shards numbered model-00001-of-00120 through model-00013-of-00120 and beyond.

De repository, bestand voor bestand

Het bewijs is ongewoon schoon omdat er zo weinig van is. Een directorylisting op 16 november levert 155 bestanden op. Honderdtwintig daarvan zijn weight-shards van ongeveer 5,35 GB elk. De rest is de machinerie van een multimodaal model: tokenizer.json van 20 megabyte, een chat_template.jinja van 10,5 KB, een config.json van 5,9 KB, een generatieconfig met temperature 1.0 en top_p 0.95, een deployment_guide.md, en twee mappen — één met een vLLM-patch, één met projectors voor een bijbehorend perceptiemodel.

De README is het waard om bij stil te staan. Eenentwintig bytes, en elke byte ervan is YAML-frontmatter:

• Een horizontale scheidingslijn, dan één regel met de tekst license: mit, en dan nog een horizontale scheidingslijn.

Dat is de hele modelkaart. Er is geen beschrijving, geen benchmarktabel, geen gebruiksfragment, geen citatieblok, geen link naar een paper. Hugging Face toont het als een pagina met een titel, een MIT-badge en een lege body. De repository heeft één like en, op het moment van schrijven, nul downloads — wat voor een model van deze omvang minder een signaal over kwaliteit is dan over hoe weinig mensen de schijfruimte kunnen betalen.

Twee kleinere details uit de bestandslijst zijn het vermelden waard, omdat ze de release beter dateren dan welke aankondiging dan ook. Het FP8-gekwantiseerde zusje, internlm/Sage-S2.1-Flash-FP8, is aangemaakt op 13 november om 15:04 UTC — ongeveer 35 uur voor de bfloat16-repository. En de laatste commit van de bf16-repo, op 16 november om 03:01 UTC, is niet meer dan "Upload folder using huggingface_hub", hetzelfde bericht als bij de initiële upload. Welke workflow dit ook heeft geproduceerd, het was geen zorgvuldig samengestelde lancering.

Het enige document dat het lab wél schreef

deployment_guide.md is de enige prozatekst die InternLM in de repository heeft meegeleverd, en het is het meest informatieve bestand daar. De openingszin ervan vormt de volledige specificatie:

De Sage-S2.1-Flash-release is een 320B-A18B multimodaal MoE-model dat is opgeslagen in bfloat16-gewichtsformaat (ongeveer 645 GB).

Drie getallen, en de eigen metadata van de Hub bevestigen er twee. Het aantal parameters op de modelpagina vermeldt 321 miljard, een verschil van één miljard dat vrijwel zeker een afrondingsconventie is en geen onenigheid. Het opslagcijfer komt overeen met de repositorymetadata van internlm op 642,8 GB. "A18B" — 18 miljard actieve parameters per token — is InternLM's eigen term en is niet onafhankelijk af te leiden uit de config, dus behandel het als een leverancierscijfer.

Het config.json-bestand vult de rest in, en het is een oprecht interessant document. Het model heeft 45 lagen, en slechts 11 daarvan gebruiken conventionele sparse attention. De overige 34 gebruiken een lineair-attentielaagtype dat de config kda noemt, met een lijst per laag in linear_attn_config. Routering bestaat uit 288 experts, met één gedeelde expert en acht geselecteerde experts per token, bij een routed scaling factor van 2,5. De positionele bovengrens is 1,048,576 tokens. Er is een vision tower — diepte 24, afbeeldingen van 448 pixels, patchgrootte 14 — en het tokenvocabulaire bevat expliciete tokens voor image, video, image-start, image-end, video-start en video-end.

Screenshot of deployment_guide.md rendered in the Hugging Face file viewer for internlm/Sage-S2.1-Flash. The opening sentence reads 'The Sage-S2.1-Flash release is a 320B-A18B multimodal MoE model stored in bfloat16 weight format (about 645 GB).' Below it, the guide states the vLLM and SGLang examples use 8x H200 GPUs and that the model uses the GLM-5.3-Flash architecture, followed by the 'Required for Sage-S2.1-Flash' section on --trust-remote-code and the vLLM patch.

De architectuurlijn die er het meest toe doet

De implementatiehandleiding bevat één zin die de hele release in een ander licht zet. Er staat dat Sage-S2.1-Flash "gebruikmaakt van de GLM-5.3-Flash-architectuur", en de lezer wordt geïnstrueerd om vLLM en SGLang te installeren en af te stemmen door Z.ai's officiële GLM-5.3-Flash-recepten te volgen, waarbij de ene repositorynaam door de andere wordt vervangen.

Dat wordt bevestigd in de configuratie: de architectuurklasse is Glm5NextForConditionalGeneration en het modeltype is glm5_next. Dus een model van Shanghai AI Laboratory wordt gepubliceerd bovenop een architectuur van Z.ai, en het lab zegt dat gewoon openlijk in plaats van het te verbergen. GLM-5.3-Flash is zelf een multimodale MoE met 320 miljard parameters en 18 miljard actieve parameters, met een context van 1M tokens en een uitvoerplafond van 128K — wat wil zeggen dat ook de parameteropzet geen toeval is.

Voor iedereen die erover nadenkt dit uit te rollen, is die zin het meest waardevolle element in de release. Hij betekent dat het servingverhaal niet nieuw is. Hij betekent dat de recepten, het kernelwerk en de bekende faalwijzen precies degenen zijn die al gedocumenteerd zijn voor een model dat sinds augustus openbaar is. Hij betekent ook dat de patches die InternLM heeft toegevoegd aandachtig gelezen moeten worden, omdat ze precies beschrijven waar hun model afwijkt van de basis.

Drie manieren waarop deze release stukloopt als je hem naïef serveert

De deploymentgids is, aandachtig gelezen, een lijst met valkuilen. Elk daarvan is een stille mislukking in plaats van een fout, en dat is het gevaarlijke soort.

• Ontbrekende --trust-remote-code breekt tool calls zonder waarschuwing. Agentische traces bevatten strings zoals <|user|> en <tool_call> als gewone tekst. De repository levert zijn eigen tokenisatiecode mee die ze als tekst behandelt; zonder de flag laadt de engine de standaardtokenizer, codeert ze als controletokens, en kan het model vroegtijdig stoppen of een tool call corrumperen. Niets wordt gelogd.

• vLLM heeft een patch voor één bestand nodig, anders worden afbeeldingen aan het verkeerde toolresultaat gekoppeld. Wanneer parallelle toolaanroepen in een andere volgorde terugkomen dan ze zijn uitgegeven, geeft de chattemplate de resultaten weer in aanroepvolgorde, terwijl vLLM de afbeeldingen in berichtvolgorde verzamelt. Elke afbeelding belandt stilzwijgend bij het verkeerde resultaat en het model antwoordt over de verkeerde afbeelding. De oplossing vervangt vllm/renderers/hf.py; de upstream-fix is onderweg als vllm-project/vllm#67108.

• SGLang gebruikt de chat-template van de repository niet, tenzij je het bestand eraan meegeeft. SGLang installeert standaard zijn eigen ingebouwde sjabloon voor deze architectuur, waardoor de tokenizer van de repository volledig wordt omzeild; je moet chat_template.jinja downloaden en doorgeven met --chat-template.

in non-streaming responses can truncate reasoning or swallow a tool call; streaming unaffected. Need Dutch natural. "Er zijn nog twee beperkingen in hetzelfde document." constraints = beperkingen/randvoorwaarden. "FP8 KV-cache wordt niet ondersteund op Hopper-GPU's, dus op H100's en H200's behoud je de BF16-cache." "En LMDeploy vereist transformers tussen 5.17 en 5.19, omdat 5.19 het laagtype deepseek_sparse_attention hernoemt naar indexed_attention en LMDeploy de nieuwe naam weigert." "De gids wijst ook op een openstaand vLLM-probleem — vllm-project/vllm#64326 — waarbij een letterlijke </think> in niet-streamingreacties de redenering kan afkappen of een tool-aanroep kan opslokken; streaming wordt niet beïnvloed." Need decide "tool call" maybe "tool-call" or "toolaanroep". Fine. Need no markers. Final only translated. Ensure "</think>" exact. "non-streaming responses" = niet-streamingresponses. "streaming is unaffected" = streaming wordt hierdoor niet beïnvloed. "swallow a tool call" = een tool-aanroep opslokken/inslikken. Dutch "inslikken" maybe. "can truncate reasoning or swallow a tool call" = de redenering kan afkappen of een tool-aanroep kan inslikken. Good. Need maybe "transformers" lowercase brand. Preserve. "tussen 5.17 en 5.19" maybe versions. Fine. Final only. Er zijn nog twee beperkingen in hetzelfde document. FP8 KV-cache wordt niet ondersteund op Hopper-GPU's, dus op H100's en H200's behoud je de BF16-cache. En LMDeploy vereist transformers tussen 5.17 en 5.19, omdat 5.19 het laagtype deepseek_sparse_attention hernoemt naar indexed_attention en LMDeploy de nieuwe naam weigert. De gids wijst ook op een openstaand vLLM-probleem — vllm-project/vllm#64326 — waarbij een letterlijke </think> in niet-streamingresponses de redenering kan afkappen of een tool-aanroep kan inslikken; streaming wordt hierdoor niet beïnvloed.

Niets hiervan zegt dat het model slecht is. Het zegt dat de release zich in de fase bevindt waarin de mensen die het hebben geschreven nog steeds de enigen zijn die het hebben gedraaid, en dat vertellen ze je ook.

De benchmarktabel die niet in de repository staat

InternLM heeft wel evaluatiecijfers gepubliceerd — 35 ervan, over Terminal-Bench 2.1, DeepSWE, SWE-bench Pro, APEX-Agents, GDPval, OfficeQA Pro V2, Harvey LAB, OSWorld-Verified, BrowseComp, BabyVision en nog twee dozijn meer. Ze staan niet in de modelkaart, omdat de modelkaart leeg is. Ze staan in een aparte GitHub-repository, InternLM/Sage-S2.1-Flash, aangemaakt op 16 november om 03:34 UTC, omschreven als "Sage 2.1 Flash tweetalige website- en applicatiedemo's", die een statische site bouwt op internlm.github.io/Sage-S2.1-Flash. De benchmarkgegevens zijn daar vastgelegd als een tabgescheiden bestand en een JSON-bestand, naast demo-video's van het model terwijl het 3D Slicer, Blender en Fiji aanstuurt.

De Engelstalige tekst op die site begint met "Today, we introduce Sage 2.1 Flash, a frontier scientific multimodal agent model". De aankondiging bestaat dus wel — alleen staat die op een GitHub Pages-host waarnaar niets in de Hugging Face-repository verwijst, en ze is gemaakt nadat de gewichten al downloadbaar waren. Als je de eigen positionering van de leverancier wilt, dan staat die in die alinea: meer dan tien soorten wetenschappelijke invoer in één model, waaronder moleculaire grafen, kristalstructuren, eiwitsequenties en 3D-structuren, DNA en RNA, spectra, massaspectra, röntgendiffractie, elektrocardiogrammen, elektro-encefalogrammen en lichtkrommen.

De evaluatietabel vergelijkt Sage 2.1 Flash met acht modellen: GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017, Qwen3.8-Max, GPT-5.6 Sol, Claude Opus 5, GPT-6 Astra, GPT-6.1 Sol en Claude Opus 5.5. Elk getal erin is door de leverancier gerapporteerd. Er is geen gepubliceerde harness, geen runlog, geen uitsplitsing per taak, en geen enkele derde partij heeft er iets van gereproduceerd. Lees de tabel als een intentieverklaring van het lab, niet als meting.

Waar de leverancierstabel ongewoon sterk is, en ongewoon zwak

Twee patronen springen eruit, en beide zijn informatiever dan de hoofdscores.

Het eerste is dat de wetenschaps- en visierijen de rijen zijn waar de marges absurd zijn. BabyVision scoort 75,8 voor Sage tegen 51,3 voor GLM-5.3-Flash, 58,0 voor DeepSeek-V4.1-Flash-1017 en 63,1 voor Claude Opus 5. OSWorld-G scoort 84,8 tegen 61,4 voor DeepSeek. OfficeQA Pro V2 scoort 72,2, het hoogste in zijn eigen tabel, vóór Claude Opus 5 op 67,2. Wanneer een model een rij met vierentwintig punten wint, is ofwel de capaciteit echt, ofwel wordt de benchmark voor dit model anders gelezen dan voor de andere — en zonder gepubliceerde harness kun je niet uitmaken welke van de twee.

Het tweede is dat de coderingsrijen het minst flatteuze document in de release zijn. Terminal-Bench 2.1 met 87,9 is sterk maar niet de koploper; Qwen3.8-Max staat op 89,6 en Claude Opus 5 op 90,2. SWE-bench Pro met 60,6 blijft achter bij DeepSeek-V4.1-Flash-1017 met 64,7 en Qwen3.8-Max met 65,3. DeepSWE met 67,0 blijft met bijna zeven punten achter bij DeepSeek met 73,9. Voor een model dat in de marketing als agentisch wordt neergezet, is dat een tabel die de eigen auteurs ervan hebben gekozen te publiceren, wat iets waard is.

Wat de tabel niet bevat, is net zo opvallend: Claude Haiku 5.5 en Gemini 3.8 Flash ontbreken beide, dus de twee vergelijkingen die de meeste mensen zouden willen maken, kunnen helemaal niet op basis van leveranciersgegevens worden gemaakt, in geen van beide richtingen.

A generated infographic titled 'Sage-S2.1-Flash - what the weekend actually established', listing four tiers as cards. 'Confirmed by the files': 120 shards, 645 GB, bfloat16, MIT licence, 45 layers, 1,048,576-token ceiling. 'Confirmed by the vendor guide': 320B total, 18B active, GLM-5.3-Flash architecture, 8xH200 reference. 'Vendor-reported, unreproduced': 35 benchmark rows, harness undocumented. 'Not confirmed': no price, no hosted endpoint, no independent score. Footer: 'Sage-S2.1-Flash figures unaudited; file and licence facts from the Hugging Face repository.' The OrcaRouter logo is composited in the bottom-right corner.

Wat is bevestigd, en wat niet

Het bewijs van het weekend in twee stapels sorteren is het nuttigste wat een lezer ermee kan doen.

• Bevestigd door bestanden — de gewichten bestaan en zijn downloadbaar onder MIT; 120 shards, ongeveer 645 GB, bfloat16; 45 lagen met een 34/11 linear-naar-sparse attention-splitsing; 288 gerouteerde experts, top-8; een positioneel plafond van 1.048.576 tokens; een vision-toren en afbeeldings-/videotokens; een FP8-tegenhanger die twee dagen eerder is gepubliceerd.

• Bevestigd door de eigen handleiding van de leverancier — 320B totaal, 18B actief; de GLM-5.3-Flash-architectuur; 8×H200 als referentie-implementatie; vijf gedocumenteerde valkuilen bij het serveren.

• Door de leverancier gerapporteerd, niet gereproduceerd — elke benchmarkscore, inclusief de marge van 24 punten op BabyVision en de 72,2 op OfficeQA Pro V2.

• Niet bevestigd — wat het kost. Nergens staat een prijs: niet op de Hub, niet in de gids, niet op de microsite. De knop "Try the API" verwijst naar discovery.intern-ai.org.cn, die bij een niet-JavaScript-fetch een vrijwel lege shell teruggaf; van buitenaf konden we niet vaststellen of het model daar aanroepbaar is, onder welke identifier, of tegen welk tarief.

• Ook onbevestigd — of dit überhaupt een lancering is, in de zin die het woord gewoonlijk heeft. Geen aankondiging, geen paper onder deze naam, geen partnertoegang, en een modelkaart die een script had kunnen genereren.

Hoe je ernaar kunt kijken zonder er een productiepad op te verwedden

De praktische vraag voor de meeste teams is niet "is dit beter dan wat ik draai", maar "is het een uur waard". Met 645 GB in bfloat16 is het geen download voor een laptop; de realistische instap is een gehuurde 8×H200-node, een middag met de deploymenthandleiding, en de aanvaarding dat je een model draait waarvoor niemand een harness heeft gepubliceerd.

Het goedkopere experiment, vóór dat alles, is om de architectuurregel als sluiproute te lezen. InternLM zegt in zijn eigen gids dat het model op de GLM-5.3-Flash-architectuur is gebouwd en dat je de serveerrecepten van Z.ai daarvoor moet volgen, waarbij je de ene repositorynaam door de andere vervangt. Dat betekent dat de basisarchitectuur — dezelfde 320B/18B-vorm, dezelfde hybride sparse-and-lineaire attention, hetzelfde plafond van een miljoen tokens — vandaag te testen is via een gehoste API in plaats van via acht GPU's die je eerst moet zien te vinden. Als het basismodel zich al goed gedraagt op je wetenschappelijke documenten, is het afgeleide model een verfijning die de download waard is. Zo niet, dan heb je een weekend bespaard.

Waar OrcaRouter hier wel zijn plek verdient, is in de kloof tussen "we willen het uitproberen" en "we kunnen het serveren". Met automatische failover kun je een experimenteel endpoint achter een beleid plaatsen zonder dat het het enige pad wordt: als het nieuwe model een misvormde tool call retourneert — en de deploymenthandleiding vertelt je precies hoe dat zal gebeuren als je de flag of de patch overslaat — valt het verzoek terug op een model dat je al vertrouwt, en behoud je de trace. Dat is een betere manier om bewijs te verzamelen dan een eenmalig evalscript, omdat het bewijs verzamelt op echt verkeer.

Wat zou het beslechten?

Drie gebeurtenissen, in oplopende volgorde van nut. Een modelkaart zou ons vertellen waarvoor het lab denkt dat het model bedoeld is, en zou waarschijnlijk dezelfde tabel bevatten die nu vastzit op een GitHub Pages-host. Een vermelding op een onafhankelijke leaderboard zou iemand in staat stellen de marges van de leverancier af te trekken van een gemeenschappelijk testharnas. En een prijs — elke prijs, waar dan ook — zou van Sage-S2.1-Flash een download in een beslissing veranderen.

Totdat een van die dingen er komt, is de nauwkeurige beschrijving degene die de bestanden ondersteunen: een grote, MIT-gelicentieerde, wetenschappelijk afgestemde multimodale MoE, gebouwd op een publieke architectuur, gepubliceerd zonder enige uitleg, waarvan de eigen auteurs nog steeds de serving-stack patchen. Dat is niet niets. Het is ook nog geen product, en het verschil is het belangrijkst voor de mensen die het zouden moeten draaien.