Ett genererat titelkort med texten ”Sage-S2.1-Flash” ovanför undertexten ”645 GB vikter, ett modellkort på 21 byte, inget tillkännagivande”, med tre små brickor nedanför med texten ”uppladdning 15 nov. 2026”, ”MIT-licens” och ”320B-A18B MoE”. Vit bakgrund, blå och cyan gradientaccenter, platta linjeikoner. OrcaRouter-logotypen är inkomponerad i det nedre högra hörnet.
Guides & Insights

Sage-S2.1-Flash släpptes i tysthet: 645 GB vikter, ett modellkort på 21 byte och en benchmarktabell som ingen länkade till

Författare

jinhao.song

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Den 15 november 2026 kl. 02:34 UTC laddade ett konto som tillhör Shanghai AI Laboratory upp ett repository med namnet internlm/Sage-S2.1-Flash till Hugging Face. Det innehöll 120 safetensors-shards med en sammanlagd storlek på cirka 645 gigabyte, en konfigurationsfil, en chattmall och en README på 21 byte. Det fanns inget blogginlägg. Laboratoriets egen startsida nämnde inte namnet när vi hämtade den den 16 november. Vi kunde inte hitta något pressmeddelande, och det fanns ingen post för Sage-S2.1-Flash på Artificial Analysis.

Det som fanns i slutet av den helgen var tre saker som en läsare kan kontrollera: vikterna i sig, en distributionsguide skriven för personer som avser att köra saken på åtta H200:or, och en benchmarktabell som ligger på en GitHub Pages-mikrosajt som modellarkivet aldrig länkar till. Den här texten är en inventering av dessa tre, med en tydlig gräns mellan vad filerna bevisar och vad InternLM ännu inte har sagt.

Screenshot of the Hugging Face 'Files and versions' tab for internlm/Sage-S2.1-Flash. The header shows the safetensors and glm5_next tags, the MIT licence, and a repository size of 643 GB. The file list shows .gitattributes, README.md, chat_template.jinja, config.json, deployment_guide.md, generation_config.json, and shards numbered model-00001-of-00120 through model-00013-of-00120 and beyond.

Repositoriet, fil för fil

Bevisningen är ovanligt ren eftersom det finns så lite av den. En kataloglistning den 16 november returnerar 155 filer. Hundratjugo av dem är viktshardar på ungefär 5,35 GB styck. Resten är maskineriet i en multimodal modell: tokenizer.json på 20 megabyte, en chat_template.jinja på 10,5 KB, en config.json på 5,9 KB, en genereringskonfiguration med temperature 1.0 och top_p 0.95, en deployment_guide.md och två kataloger – en som innehåller en vLLM-patch, en som innehåller projektorer för en kompletterande perceptionsmodell.

README:n är värd att dröja vid. Tjugoen byte, och varenda en av dem är YAML-frontmatter:

• En horisontell linje, sedan en rad med texten license: mit, sedan ytterligare en horisontell linje.

Det är hela modellkortet. Det finns ingen beskrivning, ingen benchmarktabell, inget användningsexempel, inget citeringsblock, ingen länk till en artikel. Hugging Face renderar det som en sida med en titel, ett MIT-märke och en tom brödtext. Repositoriet har en gillning och, vid tiden för skrivandet, noll nedladdningar – vilket för en modell av den här storleken är mindre en signal om kvalitet än om hur få som har råd med diskutrymmet.

Två mindre detaljer i filförteckningen är värda att notera eftersom de daterar släppet bättre än något tillkännagivande skulle göra. Den FP8-kvantiserade syskonversionen, internlm/Sage-S2.1-Flash-FP8, skapades den 13 november kl. 15:04 UTC – ungefär 35 timmar före bfloat16-repositoriet. Och bf16-repots sista commit, kl. 03:01 UTC den 16 november, är ett bart "Upload folder using huggingface_hub", samma meddelande som den initiala uppladdningen. Vilket arbetsflöde som än låg bakom detta var det inte en kurerad lansering.

Det enda dokumentet som labbet faktiskt skrev

deployment_guide.md är den enda prosatexten som InternLM levererade i repot, och den är den mest informativa filen där. Dess inledande mening är hela specifikationen:

Sage-S2.1-Flash-versionen är en multimodal MoE-modell på 320B-A18B som lagras i bfloat16-viktformat (cirka 645 GB).

{{1}}Tre siffror, och Hubens egen metadata bekräftar två av dem.{{/1}} Parametrantalet på modellsidan anger 321 miljarder, en skillnad på en miljard som nästan säkert är en avrundningskonvention snarare än en meningsskiljaktighet. Lagringssiffran stämmer överens med internlms repository-metadata på 642,8 GB. "A18B" – 18 miljarder aktiva parametrar per token – är InternLMs egen term och kan inte härledas oberoende från konfigurationen, så betrakta den som en leverantörssiffra.

config.json fyller ut resten, och det är ett genuint intressant dokument. Modellen har 45 lager, och endast 11 av dem använder konventionell gles uppmärksamhet. De övriga 34 använder en lagertyp för linjär uppmärksamhet som konfigurationen kallar kda, med en lista per lager i linear_attn_config som nyckel. Routningen består av 288 experter med en delad expert och åtta som väljs per token, med en skalningsfaktor för routade experter på 2,5. Positionsgränsen är 1 048 576 token. Det finns ett visionstorn – djup 24, bilder på 448 pixlar, patchstorlek 14 – och tokenvokabulären innehåller explicita token för image, video, image-start, image-end, video-start och video-end.

Screenshot of deployment_guide.md rendered in the Hugging Face file viewer for internlm/Sage-S2.1-Flash. The opening sentence reads 'The Sage-S2.1-Flash release is a 320B-A18B multimodal MoE model stored in bfloat16 weight format (about 645 GB).' Below it, the guide states the vLLM and SGLang examples use 8x H200 GPUs and that the model uses the GLM-5.3-Flash architecture, followed by the 'Required for Sage-S2.1-Flash' section on --trust-remote-code and the vLLM patch.

Den arkitekturlinje som spelar störst roll

Deployeringsguiden innehåller en mening som omramar hela lanseringen. Den säger att Sage-S2.1-Flash "använder GLM-5.3-Flash-arkitekturen" och instruerar läsaren att installera och konfigurera vLLM och SGLang genom att följa Z.ai:s officiella recept för GLM-5.3-Flash och ersätta det ena repositorienamnet med det andra.

Det bekräftas i konfigurationen: arkitekturklassen är Glm5NextForConditionalGeneration och modelltypen är glm5_next. Så en modell från Shanghai AI Laboratory publiceras ovanpå en Z.ai-arkitektur, och labbet säger det rakt ut i stället för att dölja det. GLM-5.3-Flash är i sig en multimodal MoE med 320 miljarder parametrar och 18 miljarder aktiva, med en kontext på 1M token och ett tak på 128K output – vilket vill säga att parameterformen inte heller är en slump.

För den som överväger att driftsätta detta är den meningen det enskilt mest värdefulla i utgåvan. Det innebär att serveringslösningen inte är ny. Det innebär att recepten, kernel-arbetet och de kända felmoderna är desamma som redan dokumenterats för en modell som varit offentlig sedan augusti. Det innebär också att patcharna som InternLM lade till är värda att läsa noggrant, eftersom de beskriver exakt var deras modell avviker från basen.

Tre sätt som den här versionen går sönder på om du serverar den naivt

Driftsättningsguiden är, om man läser den noggrant, en lista över fällor. Var och en är ett tyst misslyckande snarare än ett fel, vilket är den farliga sorten.

• Saknad av --trust-remote-code gör att verktygsanrop bryts utan varning. Agentiska spår innehåller strängar som <|user|> och <tool_call> som vanlig text. Repositoriet levererar sin egen tokeniseringskod som behandlar dem som text; utan flaggan laddar motorn standardtokeniseraren, kodar dem som kontrolltoken och modellen kan stanna för tidigt eller fördärva ett verktygsanrop. Inget loggas.

• vLLM behöver en patch för en enda fil, annars kopplas bilder till fel verktygsresultat. När parallella verktygsanrop returneras i en annan ordning än de skickades, renderar chattmallen resultaten i anropsordning medan vLLM samlar in bilder i meddelandeordning. Varje bild hamnar tyst på fel resultat och modellen svarar om fel bild. Rättningen ersätter vllm/renderers/hf.py; den uppströms rättningen är på väg som vllm-project/vllm#67108.

• SGLang kommer inte att använda repots chattmall om du inte ger den filen. SGLang installerar som standard en egen inbyggd mall för den här arkitekturen, vilket helt kringgår repots tokenizer; du måste ladda ner chat_template.jinja och skicka med den via --chat-template.

in non-streaming responses can truncate reasoning or swallow a tool call; streaming is unaffected." Translate. Need preserve literal </think> exact. Could say "där en literal </think> i icke-strömmande svar kan trunkera resonemang eller svälja ett verktygsanrop; strömning påverkas inte." "literal" maybe "bokstavlig". In Swedish technical: "ett ordagrant </think>"? "en literal </think>" maybe awkward. Use "en bokstavlig </think>". But "literal" in code context = "literal". Swedish "literal" maybe accepted. "där en literal </think> i svar som inte streamas kan korta av resonemanget eller svälja ett verktygsanrop; streamning påverkas inte." Need terms "non-streaming responses" = "icke-strömmande svar" or "svar utan streaming". "streaming is unaffected" = "streaming påverkas inte". Use "strömning" maybe. Need maybe open issue = "ett öppet vLLM-ärende". "flags" = "uppmärksammar". "The guide also flags an open vLLM issue" = "Guiden uppmärksammar också ett öppet vLLM-ärende". Good. Need output only translated text no markers. Ensure no extra. Could include em dash. Fine. Let's craft fluent Swedish. "Det finns ytterligare två begränsningar i samma dokument." "begränsningar" constraints. "FP8 KV-cache stöds inte på Hopper-GPU:er, så på H100 och H200 behåller du BF16-cachen. Och LMDeploy kräver transformers mellan 5.17 och 5.19, eftersom 5.19 byter namn på lagertypen deepseek_sparse_attention till indexed_attention och LMDeploy avvisar det nya namnet. Guiden uppmärksammar också ett öppet vLLM-ärende – vllm-project/vllm#64326 – där en literal </think> i svar utan streaming kan trunkera resonemang eller svälja ett verktygsanrop; streaming påverkas inte." Check "truncate reasoning" maybe "korta av resonemanget" more natural. "swallow a tool call" = "svälja ett verktygsanrop". "literal </think>" maybe "en bokstavlig </think>" awkward. Maybe "ett literal </think>"? In Swedish tech, "literal" can be adjective "literal" en? "en literal sträng". But "en literal </think>"? Hmm. Could phrase "där en ordagrann </think>..." no. "där en </think> som literal..." Let's think. English "a literal </think>" means exact token. Swedish "en literal </think>" is understandable but maybe "en bokstavlig </think>" not. "en ordagrann </think>"? "ordagrann" = verbatim. "där en ordagrann </think> i svar utan streaming..." Hmm "ordagrann" usually quote. Use "en literal </think>" maybe best technical. Could also say "där själva </think> i svar utan streaming..." But "literal" important. "där en literal </think>" okay. Need no markers since none. Output.Det finns ytterligare två begränsningar i samma dokument. FP8 KV-cache stöds inte på Hopper-GPU:er, så på H100 och H200 behåller du BF16-cachen. Och LMDeploy kräver transformers mellan 5.17 och 5.19, eftersom 5.19 byter namn på lagertypen deepseek_sparse_attention till indexed_attention och LMDeploy avvisar det nya namnet. Guiden uppmärksammar också ett öppet vLLM-ärende – vllm-project/vllm#64326 – där en literal </think> i svar utan streaming kan korta av resonemanget eller svälja ett verktygsanrop; streaming påverkas inte.

Inget av detta säger att modellen är dålig. Det säger att releasen är i ett skede där de som skrev den fortfarande är de enda som har kört den, och de berättar det för dig.

Benchmarktabellen som inte finns i kodförrådet

InternLM publicerade faktiskt utvärderingssiffror – 35 stycken, inom Terminal-Bench 2.1, DeepSWE, SWE-bench Pro, APEX-Agents, GDPval, OfficeQA Pro V2, Harvey LAB, OSWorld-Verified, BrowseComp, BabyVision och två dussin till. De finns inte i modellkortet, eftersom modellkortet är tomt. De finns i ett separat GitHub-repositorium, InternLM/Sage-S2.1-Flash, skapat den 16 november kl. 03:34 UTC, som beskrivs som "Sage 2.1 Flash tvåspråkig webbplats och applikationsdemos", och som bygger en statisk webbplats på internlm.github.io/Sage-S2.1-Flash. Benchmarkdatan är incheckad där som en tabbseparerad fil och en JSON-fil, tillsammans med demovideor av modellen som styr 3D Slicer, Blender och Fiji.

Den webbplatsens engelska text inleds med ”I dag introducerar vi Sage 2.1 Flash, en banbrytande vetenskaplig multimodal agentmodell”. Så tillkännagivandet finns – det ligger bara på en GitHub Pages-värd som ingenting i Hugging Face-förrådet länkar till, och det skapades efter att vikterna redan hade varit nedladdningsbara. Om du vill ha leverantörens egen formulering är det stycket den: mer än tio typer av vetenskaplig indata i en enda modell, inklusive molekylgrafer, kristallstrukturer, proteinsekvenser och 3D-strukturer, DNA och RNA, spektra, masspektra, röntgendiffraktion, elektrokardiogram, elektroencefalogram och ljuskurvor.

Utvärderingstabellen jämför Sage 2.1 Flash med åtta modeller: GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017, Qwen3.8-Max, GPT-5.6 Sol, Claude Opus 5, GPT-6 Astra, GPT-6.1 Sol och Claude Opus 5.5. Varje siffra i den är leverantörsrapporterad. Det finns inget publicerat testramverk, ingen körlogg, ingen uppdelning per uppgift, och ingen tredje part har reproducerat något av det. Läs tabellen som en avsiktsförklaring från labbet, inte som mätning.

Där leverantörstabellen är ovanligt stark och ovanligt svag

Två mönster sticker ut, och båda är mer informativa än rubriksiffrorna.

Det första är att de vetenskapliga raderna och visionsraderna är där marginalerna är absurda. BabyVision visar 75,8 för Sage mot 51,3 för GLM-5.3-Flash, 58,0 för DeepSeek-V4.1-Flash-1017 och 63,1 för Claude Opus 5. OSWorld-G visar 84,8 mot 61,4 för DeepSeek. OfficeQA Pro V2 visar 72,2, det högsta i sin egen tabell, före Claude Opus 5 på 67,2. När en modell vinner en rad med tjugofyra punkter är antingen förmågan verklig eller så läses benchmarken annorlunda för den här modellen än för de andra – och utan publicerad harness kan du inte avgöra vilket.

Det andra är att kodningsraderna är det minst smickrande dokumentet i utgåvan. Terminal-Bench 2.1 på 87,9 är starkt men inte ledande; Qwen3.8-Max ligger på 89,6 och Claude Opus 5 på 90,2. SWE-bench Pro på 60,6 ligger efter DeepSeek-V4.1-Flash-1017 på 64,7 och Qwen3.8-Max på 65,3. DeepSWE på 67,0 ligger efter DeepSeek på 73,9 med nästan sju punkter. För en modell som marknadsförs som agentisk är det en tabell som modellens egna författare valde att publicera, vilket är värt något.

Det som tabellen inte innehåller är lika anmärkningsvärt: Claude Haiku 5.5 och Gemini 3.8 Flash saknas båda, så de två jämförelser som de flesta skulle vilja göra kan inte alls göras utifrån leverantörsdata, i någon riktning.

A generated infographic titled 'Sage-S2.1-Flash - what the weekend actually established', listing four tiers as cards. 'Confirmed by the files': 120 shards, 645 GB, bfloat16, MIT licence, 45 layers, 1,048,576-token ceiling. 'Confirmed by the vendor guide': 320B total, 18B active, GLM-5.3-Flash architecture, 8xH200 reference. 'Vendor-reported, unreproduced': 35 benchmark rows, harness undocumented. 'Not confirmed': no price, no hosted endpoint, no independent score. Footer: 'Sage-S2.1-Flash figures unaudited; file and licence facts from the Hugging Face repository.' The OrcaRouter logo is composited in the bottom-right corner.

Vad är bekräftat, och vad är inte

Att sortera helgens bevismaterial i två högar är det mest användbara en läsare kan göra med det.

• Bekräftat av filer – vikterna finns och kan laddas ner under MIT; 120 shards, cirka 645 GB, bfloat16; 45 lager med en 34/11-fördelning mellan linjär och gles attention; 288 routade experter, top-8; ett positionstak på 1,048,576 token; ett visionstorn och bild-/videotoken; en FP8-syskonmodell publicerad två dagar tidigare.

• Bekräftat av leverantörens egen guide – 320B totalt, 18B aktiva; arkitekturen GLM-5.3-Flash; 8×H200 som referensdriftsättning; fem dokumenterade fallgropar vid serving.

• Leverantörsrapporterade, ej reproducerade — varje benchmarkpoäng, inklusive BabyVision-marginalen på 24 punkter och 72,2 på OfficeQA Pro V2.

• Inte bekräftat – vad det kostar. Det finns inget pris någonstans: inte på Hub, inte i guiden, inte på mikrosajten. Knappen "Try the API" pekar på discovery.intern-ai.org.cn, som returnerade ett nästan tomt skal vid en hämtning utan JavaScript; vi kunde inte utifrån fastställa huruvida modellen kan anropas där, under vilken identifierare, eller till vilket pris.

• Även det obekräftat — huruvida detta ens är en lansering, i den mening ordet vanligtvis bär. Inget tillkännagivande, ingen artikel under detta namn, ingen partneråtkomst och ett modellkort som ett skript hade kunnat generera.

Hur man kan betrakta det utan att satsa en produktionsväg på det

Den praktiska frågan för de flesta team är inte "är det här bättre än det jag kör" utan "är det värt en timme". Vid 645 GB i bfloat16 är det ingen nedladdning för en laptop; den ärliga ingången är en hyrd 8×H200-nod, en eftermiddag med driftsättningsguiden och insikten att man kör en modell som ingen har publicerat ett testramverk för.

Det billigare experimentet, innan något av allt detta, är att läsa arkitekturraden som en genväg. InternLM säger i sin egen guide att modellen är byggd på GLM-5.3-Flash-arkitekturen och att man bör följa Z.ai:s serveringsrecept för den, genom att byta ut det ena repositorienamnet mot det andra. Det innebär att basarkitekturen – samma 320B/18B-form, samma hybrida sparse-och-linjära attention, samma tak på en miljon token – finns tillgänglig att testa i dag via ett hostat API i stället för via åtta GPU:er som du först måste hitta. Om basmodellen redan beter sig som den ska på dina vetenskapliga dokument är derivatet en förfining som är värd nedladdningen. Om den inte gör det har du sparat helgen.

Där OrcaRouter faktiskt gör nytta här är i gapet mellan "vi vill prova det" och "vi kan driftsätta det". Automatisk redundansväxling låter dig placera en experimentell endpoint bakom en policy utan att göra den till den enda vägen: om den nya modellen returnerar ett felaktigt formaterat verktygsanrop – och driftsättningsguiden berättar exakt hur det kommer att ske om du hoppar över flaggan eller patchen – faller begäran vidare till en modell du redan litar på, och du behåller spårningen. Det är ett bättre sätt att samla in bevis än ett engångsskript för utvärdering, eftersom det samlar in bevis på verklig trafik.

Vad skulle avgöra det?

Tre händelser, i stigande ordning efter användbarhet. Ett modellkort skulle berätta vad labbet anser att modellen är till för, och skulle förmodligen innehålla samma tabell som för närvarande sitter fast hos en GitHub Pages-värd. En post på en oberoende resultattavla skulle göra det möjligt att subtrahera leverantörens marginaler från ett gemensamt testramverk. Och ett pris – vilket pris som helst, var som helst – skulle förvandla Sage-S2.1-Flash från en nedladdning till ett beslut.

Till dess att något av dem är på plats är den korrekta beskrivningen den som filerna ger stöd för: en stor, MIT-licensierad, vetenskapligt finjusterad multimodal MoE, byggd på en offentlig arkitektur, publicerad utan ett ord till förklaring, vars egna upphovspersoner fortfarande patchar serveringsstacken. Det är inte ingenting. Det är inte heller en produkt ännu, och skillnaden spelar störst roll för dem som skulle behöva köra den.