Una card di titolo generata che riporta 'Sage-S2.1-Flash' sopra il sottotitolo '645 GB di pesi, una model card da 21 byte, nessun annuncio', con tre piccoli chip sotto che riportano 'caricamento del 15 nov 2026', 'licenza MIT' e '320B-A18B MoE'. Sfondo bianco, accenti sfumati blu e ciano, icone a linea piatta. Il logo OrcaRouter è composto nell'angolo in basso a destra.
Guides & Insights

Sage-S2.1-Flash rilasciato in sordina: 645 GB di pesi, una model card da 21 byte e una tabella di benchmark che nessuno ha linkato

Autore

jinhao.song

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Il 15 novembre 2026 alle 02:34 UTC, un account appartenente allo Shanghai AI Laboratory ha caricato su Hugging Face un repository chiamato internlm/Sage-S2.1-Flash. Conteneva 120 shard safetensors per un totale di circa 645 gigabyte, un file di configurazione, un template di chat e un README di 21 byte. Non c'era alcun post sul blog. La homepage del laboratorio non riportava alcun riferimento al nome quando l'abbiamo consultata il 16 novembre. Non siamo riusciti a trovare alcun comunicato stampa e nessuna voce per Sage-S2.1-Flash su Artificial Analysis.

Quello che esisteva, alla fine di quel fine settimana, erano tre cose che un lettore può verificare: i pesi stessi, una guida al deployment scritta per chi intende servire il modello su otto H200 e una tabella di benchmark ospitata su un microsito GitHub Pages a cui il repository del modello non rimanda mai. Questo articolo è un inventario di queste tre cose, con una linea netta tra ciò che i file dimostrano e ciò che InternLM non ha ancora detto.

Screenshot of the Hugging Face 'Files and versions' tab for internlm/Sage-S2.1-Flash. The header shows the safetensors and glm5_next tags, the MIT licence, and a repository size of 643 GB. The file list shows .gitattributes, README.md, chat_template.jinja, config.json, deployment_guide.md, generation_config.json, and shards numbered model-00001-of-00120 through model-00013-of-00120 and beyond.

Il repository, file per file

Le prove sono insolitamente chiare perché ce ne sono così poche. Un elenco di directory del 16 novembre restituisce 155 file. Centoventi di essi sono shard di pesi di circa 5,35 GB ciascuno. Il resto è il macchinario di un modello multimodale: tokenizer.json da 20 megabyte, un chat_template.jinja da 10,5 KB, un config.json da 5,9 KB, una configurazione di generazione con temperature 1.0 e top_p 0.95, un deployment_guide.md e due directory: una che contiene una patch vLLM, l'altra che contiene proiettori per un modello di percezione companion.

Il README merita di essere approfondito. Ventuno byte, e ognuno di essi è YAML frontmatter:

• Una linea orizzontale, poi una riga che riporta license: mit, poi un'altra linea orizzontale.

Questa è l'intera scheda del modello. Non c'è alcuna descrizione, nessuna tabella di benchmark, nessun esempio d'uso, nessun blocco di citazioni, nessun link a un articolo. Hugging Face la visualizza come una pagina con un titolo, un badge MIT e un corpo vuoto. Il repository ha un like e, al momento in cui scriviamo, zero download — il che, per un modello di queste dimensioni, è meno un segnale sulla qualità che non su quanto poche persone possano permettersi lo spazio su disco.

Due dettagli minori dall'elenco dei file meritano di essere registrati perché datano il rilascio meglio di quanto farebbe qualsiasi annuncio. Il gemello quantizzato FP8, internlm/Sage-S2.1-Flash-FP8, è stato creato il 13 novembre alle 15:04 UTC — circa 35 ore prima del repository bfloat16. E l'ultimo commit del repo bf16, alle 03:01 UTC del 16 novembre, è un semplice "Upload folder using huggingface_hub", lo stesso messaggio del caricamento iniziale. Qualunque flusso di lavoro abbia prodotto questo, non è stato un lancio curato.

L'unico documento che il laboratorio ha scritto

deployment_guide.md è l'unico testo discorsivo che InternLM abbia incluso nel repository, ed è il file più informativo presente. La sua frase iniziale costituisce l'intera specifica:

Il rilascio di Sage-S2.1-Flash è un modello MoE multimodale 320B-A18B memorizzato in formato di pesi bfloat16 (circa 645 GB).

Tre numeri, e i metadati dell'Hub ne confermano due. Il conteggio dei parametri nella pagina del modello riporta 321 miliardi, una differenza di un miliardo che è quasi certamente una convenzione di arrotondamento più che un disaccordo. La cifra di archiviazione risulta corretta rispetto ai metadati del repository di internlm a 642,8 GB. "A18B" — 18 miliardi di parametri attivi per token — è un termine di InternLM stesso e non è derivabile in modo indipendente dalla configurazione, quindi trattalo come un dato del fornitore.

Il file {{1}}config.json{{/1}} completa il resto, ed è un documento davvero interessante. Il modello ha {{2}}45 livelli{{/2}}, e solo {{3}}11{{/3}} di essi usano l'attenzione sparsa convenzionale. Gli altri {{4}}34{{/4}} usano un tipo di livello di attenzione lineare che la configurazione chiama {{5}}kda{{/5}}, indicizzato da un elenco per livello in {{6}}linear_attn_config{{/6}}. Il routing impiega {{7}}288 esperti{{/7}} con un esperto condiviso e {{8}}otto{{/8}} selezionati per token, con un fattore di scala del routing pari a {{9}}2.5{{/9}}. Il limite posizionale è {{10}}1,048,576 token{{/10}}. C'è una torre di visione — {{11}}profondità 24{{/11}}, {{12}}immagini da 448 pixel{{/12}}, {{13}}dimensione patch 14{{/13}} — e il vocabolario dei token include token espliciti {{14}}image{{/14}}, {{15}}video{{/15}}, {{16}}image-start{{/16}}, {{17}}image-end{{/17}}, {{18}}video-start{{/18}} e {{19}}video-end{{/19}}.

Screenshot of deployment_guide.md rendered in the Hugging Face file viewer for internlm/Sage-S2.1-Flash. The opening sentence reads 'The Sage-S2.1-Flash release is a 320B-A18B multimodal MoE model stored in bfloat16 weight format (about 645 GB).' Below it, the guide states the vLLM and SGLang examples use 8x H200 GPUs and that the model uses the GLM-5.3-Flash architecture, followed by the 'Required for Sage-S2.1-Flash' section on --trust-remote-code and the vLLM patch.

La linea architetturale che conta di più

La guida al deployment contiene una frase che inquadra l'intera release sotto una nuova luce. Afferma che Sage-S2.1-Flash "usa l'architettura GLM-5.3-Flash" e istruisce il lettore a installare e ottimizzare vLLM e SGLang seguendo le ricette ufficiali GLM-5.3-Flash di Z.ai, sostituendo un nome di repository con l'altro.

Ciò è confermato nella configurazione: la classe di architettura è Glm5NextForConditionalGeneration e il tipo di modello è glm5_next. Dunque un modello dello Shanghai AI Laboratory viene pubblicato su un'architettura Z.ai, e il laboratorio lo dichiara apertamente invece di nasconderlo. GLM-5.3-Flash è di per sé un MoE multimodale da 320 miliardi di parametri e 18 miliardi attivi, con un contesto di 1M di token e un limite di output di 128K, il che equivale a dire che anche la struttura dei parametri non è una coincidenza.

Per chiunque debba decidere se distribuirlo, quella frase è la cosa più preziosa dell'intero rilascio. Significa che il tema del serving non è nuovo. Significa che le ricette, il lavoro sui kernel e le modalità di fallimento note sono quelle già documentate per un modello pubblico da agosto. Significa anche che le patch aggiunte da InternLM valgono una lettura attenta, perché descrivono esattamente in cosa il loro modello si discosta dalla base.

Tre modi in cui questa release si rompe se la servi ingenuamente

La guida al deployment, letta con attenzione, è un elenco di trappole. Ognuna è un fallimento silenzioso invece che un errore, ed è proprio questo il tipo pericoloso.

• La mancanza di --trust-remote-code compromette le chiamate agli strumenti senza avviso. Le tracce agentiche contengono stringhe come <|user|> e <tool_call> come testo normale. Il repository include il proprio codice di tokenizzazione che le tratta come testo; senza il flag, il motore carica il tokenizer predefinito, le codifica come token di controllo e il modello può fermarsi in anticipo o corrompere una chiamata a uno strumento. Non viene registrato nulla.

• vLLM richiede una patch a un singolo file, altrimenti le immagini vengono associate al risultato dello strumento sbagliato. Quando le chiamate parallele agli strumenti restituiscono in un ordine diverso da quello in cui sono state emesse, il template della chat visualizza i risultati nell'ordine delle chiamate mentre vLLM raccoglie le immagini nell'ordine dei messaggi. Ogni immagine finisce silenziosamente sul risultato sbagliato e il modello risponde riguardo all'immagine sbagliata. La correzione sostituisce vllm/renderers/hf.py; la correzione upstream è in corso come vllm-project/vllm#67108.

• SGLang non utilizzerà il template di chat del repository a meno che tu non gli passi il file. Per questa architettura, SGLang installa di default un proprio template integrato, che bypassa completamente il tokenizer del repository; devi scaricare chat_template.jinja e passarlo con --chat-template.

in non-streaming responses can truncate reasoning or swallow a tool call; streaming is unaffected." Need translate. Need be careful with `</think>` maybe literal tag, preserve exactly. "Hopper GPUs" maybe "GPU Hopper". "H100s e H200s". "BF16 cache" = "cache BF16". "transformers" package name preserve. "between 5.17 and 5.19" = "tra le versioni 5.17 e 5.19". "layer type" = "tipo di layer". "deepseek_sparse_attention" and "indexed_attention" preserve. "open vLLM issue" = "un problema aperto di vLLM". URL preserve. "literal </think>" = "un </think> letterale". "non-streaming responses" = "risposte non in streaming". "truncate reasoning" = "troncare il reasoning" maybe "il ragionamento". "swallow a tool call" = "inghiottire una chiamata a uno strumento" maybe "assorbire/perdere una tool call". Need natural: "può troncare il ragionamento o inghiottire una chiamata a uno strumento". "streaming is unaffected" = "lo streaming non è interessato" / "lo streaming non ne è affected". Italian: "lo streaming non è coinvolto". Better "lo streaming non è interessato" (unaffected). Could say "lo streaming non subisce effetti". Need no markers because none. Output only translation. Ensure "There are two more constraints" = "Ci sono altre due limitazioni nello stesso documento." "constraints" as "vincoli" maybe "limitazioni". "FP8 KV cache is not supported on Hopper GPUs" = "La cache KV FP8 non è supportata sulle GPU Hopper". "so on H100s and H200s you keep the BF16 cache" = "quindi su H100 e H200 si mantiene la cache BF16". "And LMDeploy needs transformers between 5.17 and 5.19" = "Inoltre, LMDeploy richiede transformers tra 5.17 e 5.19". "because 5.19 renames the layer type deepseek_sparse_attention to indexed_attention and LMDeploy rejects the new name." = "poiché la 5.19 rinomina il tipo di layer deepseek_sparse_attention in indexed_attention e LMDeploy rifiuta il nuovo nome." Good. "The guide also flags an open vLLM issue — vllm-project/vllm#64326 — where a literal </think> in non-streaming responses can truncate reasoning or swallow a tool call; streaming is unaffected." = "La guida segnala anche un problema aperto di vLLM — vllm-project/vllm#64326 — in cui un </think> letterale nelle risposte non in streaming può troncare il ragionamento o inghiottire una chiamata a uno strumento; lo streaming non è interessato." Need "tool call" maybe "chiamata a uno strumento". "swallow" literal weird. Could "può inghiottire una chiamata a uno strumento" understandable. "truncate reasoning" "troncare il ragionamento". Good. Need consider markers? None, but system says keep every marker. no markers. final only.Ci sono altri due vincoli nello stesso documento. La cache KV FP8 non è supportata sulle GPU Hopper, quindi su H100 e H200 si mantiene la cache BF16. Inoltre, LMDeploy richiede transformers tra 5.17 e 5.19, poiché la 5.19 rinomina il tipo di layer deepseek_sparse_attention in indexed_attention e LMDeploy rifiuta il nuovo nome. La guida segnala anche un problema aperto di vLLM — vllm-project/vllm#64326 — in cui un </think> letterale nelle risposte non in streaming può troncare il ragionamento o inghiottire una chiamata a uno strumento; lo streaming non è interessato.

Niente di tutto ciò significa che il modello sia scarso. Significa che il rilascio è nella fase in cui le persone che l'hanno scritto sono ancora le uniche ad averlo eseguito, e te lo stanno dicendo.

La tabella benchmark che non è nel repository

InternLM ha effettivamente pubblicato i numeri di valutazione: 35, su Terminal-Bench 2.1, DeepSWE, SWE-bench Pro, APEX-Agents, GDPval, OfficeQA Pro V2, Harvey LAB, OSWorld-Verified, BrowseComp, BabyVision e altre due dozzine. Non sono nella scheda del modello, perché la scheda del modello è vuota. Si trovano in un repository GitHub separato, InternLM/Sage-S2.1-Flash, creato il 16 novembre alle 03:34 UTC, descritto come "sito web bilingue e demo applicative di Sage 2.1 Flash", che genera un sito statico all'indirizzo internlm.github.io/Sage-S2.1-Flash. I dati dei benchmark sono inseriti lì come file separato da tabulazioni e file JSON, insieme a video dimostrativi del modello che guida 3D Slicer, Blender e Fiji.

La copia in inglese di quel sito si apre con «Oggi presentiamo Sage 2.1 Flash, un modello agente multimodale scientifico di frontiera». Quindi l'annuncio esiste davvero — si trova solo su un host GitHub Pages a cui nulla nel repository Hugging Face rimanda, ed è stato creato dopo che i pesi erano già scaricabili. Se vuoi la formulazione del fornitore stesso, è proprio quel paragrafo: più di dieci tipi di input scientifici in un unico modello, inclusi grafi molecolari, strutture cristalline, sequenze proteiche e strutture 3D, DNA e RNA, spettri, spettri di massa, diffrazione a raggi X, elettrocardiogrammi, elettroencefalogrammi e curve di luce.

La tabella di valutazione confronta Sage 2.1 Flash con otto modelli: GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017, Qwen3.8-Max, GPT-5.6 Sol, Claude Opus 5, GPT-6 Astra, GPT-6.1 Sol e Claude Opus 5.5. Ogni numero in essa è riportato dal fornitore. Non esiste alcun harness pubblicato, alcun registro di esecuzione, alcuna ripartizione per attività, e nessuna terza parte ne ha riprodotto alcuna parte. Leggi la tabella come una dichiarazione d'intenti da parte del laboratorio, non come una misurazione.

Dove la tabella dei fornitori è insolitamente forte, e insolitamente debole

Emergono due pattern, ed entrambi sono più informativi dei punteggi principali.

Il primo è che nelle righe relative a scienza e visione i margini sono assurdi. BabyVision registra 75,8 per Sage contro 51,3 per GLM-5.3-Flash, 58,0 per DeepSeek-V4.1-Flash-1017 e 63,1 per Claude Opus 5. OSWorld-G registra 84,8 contro 61,4 per DeepSeek. OfficeQA Pro V2 registra 72,2, il valore più alto nella sua stessa tabella, davanti a Claude Opus 5 a 67,2. Quando un modello vince una riga con ventiquattro punti di vantaggio, o la capacità è reale oppure il benchmark viene letto in modo diverso per questo modello rispetto agli altri — e senza un harness pubblicato, non puoi stabilire quale delle due cose sia vera.

Il secondo è che le righe dedicate al coding sono il documento meno lusinghiero della release. Terminal-Bench 2.1 a 87,9 è un risultato solido ma non da prima posizione; Qwen3.8-Max è a 89,6 e Claude Opus 5 a 90,2. SWE-bench Pro a 60,6 è dietro DeepSeek-V4.1-Flash-1017 a 64,7 e Qwen3.8-Max a 65,3. DeepSWE a 67,0 è dietro DeepSeek a 73,9 di quasi sette punti. Per un modello il cui marketing è incentrato sull'agente, questa è una tabella che i suoi stessi autori hanno scelto di pubblicare, il che vale qualcosa.

Ciò che la tabella non contiene è altrettanto degno di nota: Claude Haiku 5.5 e Gemini 3.8 Flash sono entrambi assenti, quindi i due confronti che la maggior parte delle persone vorrebbe fare non possono essere effettuati affatto dai dati dei fornitori, in nessuna delle due direzioni.

A generated infographic titled 'Sage-S2.1-Flash - what the weekend actually established', listing four tiers as cards. 'Confirmed by the files': 120 shards, 645 GB, bfloat16, MIT licence, 45 layers, 1,048,576-token ceiling. 'Confirmed by the vendor guide': 320B total, 18B active, GLM-5.3-Flash architecture, 8xH200 reference. 'Vendor-reported, unreproduced': 35 benchmark rows, harness undocumented. 'Not confirmed': no price, no hosted endpoint, no independent score. Footer: 'Sage-S2.1-Flash figures unaudited; file and licence facts from the Hugging Face repository.' The OrcaRouter logo is composited in the bottom-right corner.

Cosa è confermato, e cosa no.

Dividere in due pile le prove del fine settimana è la cosa più utile che un lettore possa fare.

• Confermato dai file: i pesi esistono e sono scaricabili con licenza MIT; 120 shard, circa 645 GB, bfloat16; 45 layer con una ripartizione 34/11 tra attenzione lineare e sparsa; 288 esperti instradati, top-8; un limite posizionale di 1.048.576 token; una torre di visione e token immagine/video; una variante gemella FP8 pubblicata due giorni prima.

• Confermato dalla guida del fornitore stesso — 320B totali, 18B attivi; l'architettura GLM-5.3-Flash; 8×H200 come deployment di riferimento; cinque trappole di serving documentate.

• Dichiarato dal fornitore, non riprodotto — ogni punteggio di benchmark, incluso il margine di 24 punti su BabyVision e il 72,2 su OfficeQA Pro V2.

• Non confermato — quanto costa. Non c’è alcun prezzo da nessuna parte: né sull’Hub, né nella guida, né sul microsito. Il pulsante "Prova l’API" rimanda a discovery.intern-ai.org.cn, che ha restituito una pagina guscio quasi vuota a una richiesta non JavaScript; non abbiamo potuto stabilire dall’esterno se il modello sia chiamabile lì, con quale identificatore o a quale tariffa.

• Inoltre non confermato — se si tratti davvero di un lancio, nel senso in cui di solito si usa questa parola. Nessun annuncio, nessun paper con questo nome, nessun accesso per i partner, e una model card che uno script avrebbe potuto generare.

Come considerarlo senza puntare un percorso di produzione su di esso

La domanda pratica per la maggior parte dei team non è «questo è meglio di ciò che eseguo?» ma «vale un'ora?». A 645 GB in bfloat16 non è un download da portatile; il punto di ingresso onesto è un nodo 8×H200 noleggiato, un pomeriggio con la guida al deployment e l'accettare che si sta eseguendo un modello per cui nessuno ha pubblicato un harness.

L'esperimento più economico, prima di tutto ciò, consiste nel leggere la riga dell'architettura come una scorciatoia. InternLM afferma nella propria guida che il modello è costruito sull'architettura GLM-5.3-Flash e che è necessario seguire le ricette di servizio di Z.ai per essa, sostituendo un nome di repository con l'altro. Ciò significa che l'architettura di base — stessa forma 320B/18B, stessa attenzione ibrida sparsa e lineare, stesso tetto di un milione di token — è disponibile per essere testata oggi tramite un'API ospitata anziché tramite otto GPU che devi prima trovare. Se il modello di base si comporta già bene sui tuoi documenti scientifici, il derivato è un affinamento che vale il download. In caso contrario, hai risparmiato il fine settimana.

Dove OrcaRouter si guadagna davvero il suo posto qui è nel divario tra "vogliamo provarlo" e "possiamo servirlo". Il failover automatico ti consente di mettere un endpoint sperimentale dietro una policy senza renderlo l'unico percorso: se il nuovo modello restituisce una chiamata a uno strumento malformata — e la guida al deployment ti dice esattamente come farà, se salti il flag o la patch — la richiesta ricade su un modello di cui ti fidi già, e conservi la traccia. È un modo migliore per raccogliere prove rispetto a uno script di valutazione una tantum, perché raccoglie prove su traffico reale.

Cosa lo risolverebbe

Tre eventi, in ordine crescente di utilità. Una model card ci direbbe a cosa il laboratorio ritiene che serva il modello, e probabilmente riporterebbe la stessa tabella che attualmente è bloccata su un host GitHub Pages. Una voce su una classifica indipendente permetterebbe a qualcuno di sottrarre i margini del fornitore da un harness comune. E un prezzo — un prezzo qualsiasi, ovunque — trasformerebbe Sage-S2.1-Flash da un download in una decisione.

Finché uno di questi non si concretizza, la descrizione accurata è quella che i file suffragano: un MoE multimodale di grandi dimensioni, con licenza MIT, ottimizzato scientificamente, costruito su un'architettura pubblica, pubblicato senza una parola di spiegazione, i cui stessi autori stanno ancora correggendo lo stack di serving. Non è poco. Ma non è ancora un prodotto, e la differenza conta soprattutto per chi dovrebbe farlo funzionare.