Kartu judul yang dihasilkan bertuliskan 'Sage-S2.1-Flash' di atas subjudul '645 GB bobot, kartu model 21 byte, tanpa pengumuman', dengan tiga chip kecil di bawahnya bertuliskan 'unggahan 15 Nov 2026', 'lisensi MIT' dan '320B-A18B MoE'. Latar belakang putih, aksen gradien biru dan sian, ikon garis datar. Logo OrcaRouter dikomposisikan di sudut kanan bawah.
Guides & Insights

Sage-S2.1-Flash Dirilis Diam-diam: 645 GB Bobot, Kartu Model 21 Byte, dan Tabel Tolok Ukur yang Tak Ada yang Menautkannya

Penulis

jinhao.song

Tanggal Terbit

Model terbaru · 20Lihat semua model →
Benchmark: Artificial Analysis · diperbarui setiap hari
Kembali ke semua artikel

Pada 15 November 2026 pukul 02:34 UTC, sebuah akun milik Shanghai AI Laboratory mengunggah repositori bernama internlm/Sage-S2.1-Flash ke Hugging Face. Repositori itu berisi 120 shard safetensors dengan total sekitar 645 gigabyte, sebuah file konfigurasi, sebuah templat chat, dan README berukuran 21 byte. Tidak ada postingan blog. Halaman utama lab itu sendiri tidak memuat penyebutan nama tersebut saat kami mengambilnya pada 16 November. Tidak ada siaran pers yang dapat kami temukan, dan tidak ada entri untuk Sage-S2.1-Flash di Artificial Analysis.

Apa yang benar-benar ada, pada akhir akhir pekan itu, adalah tiga hal yang dapat diperiksa pembaca: bobotnya sendiri, panduan penerapan yang ditulis untuk orang-orang yang berniat menyajikan hal tersebut di delapan H200, dan tabel tolok ukur yang dihosting di mikrositus GitHub Pages yang tidak pernah ditautkan oleh repositori model. Tulisan ini adalah inventarisasi ketiganya, dengan garis pemisah yang jelas antara apa yang dibuktikan oleh file-file itu dan apa yang belum dikatakan InternLM.

Screenshot of the Hugging Face 'Files and versions' tab for internlm/Sage-S2.1-Flash. The header shows the safetensors and glm5_next tags, the MIT licence, and a repository size of 643 GB. The file list shows .gitattributes, README.md, chat_template.jinja, config.json, deployment_guide.md, generation_config.json, and shards numbered model-00001-of-00120 through model-00013-of-00120 and beyond.

Repositori ini, file demi file

Buktinya luar biasa bersih karena jumlahnya sangat sedikit. Daftar direktori pada 16 November mengembalikan 155 file. Seratus dua puluh di antaranya adalah shard bobot berukuran sekitar 5,35 GB masing-masing. Sisanya adalah perangkat dari model multimodal: tokenizer.json sebesar 20 megabyte, chat_template.jinja berukuran 10,5 KB, config.json berukuran 5,9 KB, konfigurasi generasi dengan temperature 1.0 dan top_p 0.95, deployment_guide.md, dan dua direktori — satu berisi patch vLLM, satu berisi proyektor untuk model persepsi pendamping.

README layak direnungkan. Dua puluh satu byte, dan setiap byte-nya adalah frontmatter YAML:

• Garis horizontal, lalu satu baris bertuliskan license: mit, lalu garis horizontal lainnya.

Itu adalah seluruh kartu model. Tidak ada deskripsi, tidak ada tabel benchmark, tidak ada cuplikan penggunaan, tidak ada blok sitasi, tidak ada tautan ke makalah. Hugging Face merendernya sebagai halaman dengan judul, lencana MIT, dan badan kosong. Repositori ini memiliki satu suka dan, pada saat penulisan, nol unduhan — yang untuk model sebesar ini lebih merupakan sinyal tentang betapa sedikitnya orang yang mampu membiayai ruang disk daripada tentang kualitas.

Dua detail kecil dari daftar berkas layak dicatat karena keduanya lebih tepat untuk menentukan tanggal rilis daripada pengumuman apa pun. Saudara terkuantisasi FP8, internlm/Sage-S2.1-Flash-FP8, dibuat pada 13 November pukul 15.04 UTC — sekitar 35 jam sebelum repositori bfloat16. Dan commit terakhir repo bf16, pada pukul 03.01 UTC tanggal 16 November, hanya berupa "Upload folder using huggingface_hub", pesan yang sama dengan unggahan awal. Apa pun alur kerja yang menghasilkan ini, ini bukan peluncuran yang dikurasi.

Satu-satunya dokumen yang benar-benar ditulis oleh laboratorium itu

deployment_guide.md adalah satu-satunya prosa yang disertakan InternLM di dalam repositori, dan itu adalah berkas paling informatif di sana. Kalimat pembukanya adalah keseluruhan spesifikasinya:

Rilis Sage-S2.1-Flash adalah model MoE multimodal 320B-A18B yang disimpan dalam format bobot bfloat16 (sekitar 645 GB).

Tiga angka, dan metadata Hub sendiri mengonfirmasi dua di antaranya. Jumlah parameter di halaman model terbaca 321 miliar, selisih satu miliar yang hampir pasti merupakan konvensi pembulatan, bukan ketidaksepakatan. Angka penyimpanan cocok dengan metadata repositori internlm pada 642.8 GB. "A18B" — 18 miliar parameter aktif per token — adalah istilah InternLM sendiri dan tidak dapat diturunkan secara independen dari konfigurasi, jadi perlakukan itu sebagai angka dari vendor.

config.json mengisi sisanya, dan itu adalah dokumen yang benar-benar menarik. Model ini memiliki 45 lapisan, dan hanya 11 di antaranya yang menggunakan attention sparse konvensional. 34 lainnya menggunakan tipe lapisan linear-attention yang disebut kda oleh config, dengan kunci berupa daftar per lapisan di linear_attn_config. Routing terdiri atas 288 expert dengan satu expert bersama dan delapan yang dipilih per token, pada faktor penskalaan routed sebesar 2.5. Batas atas posisional adalah 1,048,576 token. Ada vision tower — kedalaman 24, gambar 448 piksel, ukuran patch 14 — dan kosakata token memuat token eksplisit image, video, image-start, image-end, video-start, dan video-end.

Screenshot of deployment_guide.md rendered in the Hugging Face file viewer for internlm/Sage-S2.1-Flash. The opening sentence reads 'The Sage-S2.1-Flash release is a 320B-A18B multimodal MoE model stored in bfloat16 weight format (about 645 GB).' Below it, the guide states the vLLM and SGLang examples use 8x H200 GPUs and that the model uses the GLM-5.3-Flash architecture, followed by the 'Required for Sage-S2.1-Flash' section on --trust-remote-code and the vLLM patch.

Garis arsitektur yang paling penting

Panduan penerapan berisi satu kalimat yang membingkai ulang seluruh rilis. Kalimat itu menyatakan bahwa Sage-S2.1-Flash "menggunakan arsitektur GLM-5.3-Flash", dan menginstruksikan pembaca untuk memasang serta menyetel vLLM dan SGLang dengan mengikuti resep resmi GLM-5.3-Flash dari Z.ai, dengan mengganti satu nama repositori dengan yang lain.

Itu dikonfirmasi dalam konfigurasi: kelas arsitekturnya adalah Glm5NextForConditionalGeneration dan tipe modelnya adalah glm5_next. Jadi, model Shanghai AI Laboratory diterbitkan di atas arsitektur Z.ai, dan laboratorium itu mengatakannya secara terang-terangan alih-alih menyembunyikannya. GLM-5.3-Flash sendiri adalah MoE multimodal 320 miliar parameter dengan 18 miliar parameter aktif, berkonteks 1M token dan batas output 128K — yang berarti bentuk parameternya juga bukan kebetulan.

Bagi siapa pun yang sedang memutuskan apakah akan menerapkan ini, kalimat itu adalah hal paling berharga dalam rilis ini. Artinya, sisi penyajiannya bukanlah hal baru. Artinya, resep, pekerjaan kernel, dan mode kegagalan yang telah diketahui adalah yang sudah didokumentasikan untuk model yang telah publik sejak Agustus. Ini juga berarti patch yang ditambahkan InternLM layak dibaca dengan saksama, karena patch tersebut menjelaskan secara tepat di mana model mereka menyimpang dari basisnya.

Tiga cara rilis ini rusak jika Anda menyajikannya secara naif

Panduan deployment ini, jika dibaca dengan saksama, adalah daftar jebakan. Setiap jebakan merupakan kegagalan senyap, bukan error, dan itulah jenis yang berbahaya.

• Tidak menyertakan --trust-remote-code membuat panggilan alat rusak tanpa peringatan. Jejak agentic berisi string seperti <|user|> dan <tool_call> sebagai teks biasa. Repositori ini menyertakan kode tokenisasi sendiri yang memperlakukannya sebagai teks; tanpa flag tersebut, mesin memuat tokenizer bawaan, mengodekannya sebagai token kontrol, dan model dapat berhenti lebih awal atau merusak panggilan alat. Tidak ada yang dicatat.

• vLLM memerlukan patch satu berkas, atau gambar akan terpasang ke hasil tool yang salah. Ketika panggilan tool paralel kembali dalam urutan yang berbeda dari saat dikeluarkan, template chat merender hasil sesuai urutan panggilan sementara vLLM mengumpulkan gambar sesuai urutan pesan. Setiap gambar secara diam-diam masuk ke hasil yang salah dan model menjawab tentang gambar yang salah. Perbaikannya menggantikan vllm/renderers/hf.py; perbaikan upstream sedang diproses sebagai vllm-project/vllm#67108.

• SGLang tidak akan menggunakan templat chat repositori kecuali Anda memberikan file tersebut kepadanya. Secara bawaan, SGLang memasang templat bawaannya sendiri untuk arsitektur ini, yang sepenuhnya melewati tokenizer repositori; Anda harus mengunduh chat_template.jinja dan memberikannya dengan --chat-template.

in non-streaming responses can truncate reasoning or swallow a tool call; streaming is unaffected." Translate: "Panduan ini juga menandai masalah terbuka di vLLM — vllm-project/vllm#64326 — di mana literal </think> dalam respons non-streaming dapat memotong penalaran atau menelan panggilan tool; streaming tidak terpengaruh." Need "tool call" maybe "panggilan alat" or "tool call" technical. Could keep "tool call" or "pemanggilan tool". Need "swallow a tool call" = "menelan panggilan tool". "reasoning" = "penalaran". "literal" = "literal". Keep "</think>" exact. Need "streaming" perhaps "streaming". "non-streaming" keep. "open issue" = "isu terbuka" / "masalah terbuka". Good. Need no preamble. Ensure "dua batasan lagi" maybe "Ada dua batasan tambahan dalam dokumen yang sama." Better. Need preserve "Hopper", "H100s" plural? In Indonesian "H100 dan H200". "cache" maybe "cache". "KV cache" could be "cache KV" or "cache KV". Fine. Need output ONLY translated. No markers. final.Ada dua batasan tambahan dalam dokumen yang sama. Cache KV FP8 tidak didukung pada GPU Hopper, jadi pada H100 dan H200 Anda tetap memakai cache BF16. LMDeploy memerlukan transformers antara versi 5.17 dan 5.19, karena 5.19 mengganti nama tipe layer deepseek_sparse_attention menjadi indexed_attention dan LMDeploy menolak nama baru tersebut. Panduan ini juga menandai masalah terbuka di vLLM — vllm-project/vllm#64326 — di mana literal </think> dalam respons non-streaming dapat memotong penalaran atau menelan panggilan tool; streaming tidak terpengaruh.

Semua ini tidak mengatakan bahwa modelnya buruk. Ini mengatakan bahwa rilis tersebut berada pada tahap di mana orang-orang yang menulisnya masih menjadi satu-satunya orang yang pernah menjalankannya, dan mereka memberi tahu Anda hal itu.

Tabel benchmark yang tidak ada di repositori

InternLM memang memublikasikan angka evaluasi — 35 di antaranya, mencakup Terminal-Bench 2.1, DeepSWE, SWE-bench Pro, APEX-Agents, GDPval, OfficeQA Pro V2, Harvey LAB, OSWorld-Verified, BrowseComp, BabyVision, dan dua lusin lainnya. Angka-angka itu tidak ada di kartu model, karena kartu modelnya kosong. Angka-angka tersebut berada di repositori GitHub terpisah, InternLM/Sage-S2.1-Flash, yang dibuat pada 16 November pukul 03.34 UTC, dijelaskan sebagai "Sage 2.1 Flash bilingual website and application demos", yang membangun situs statis di internlm.github.io/Sage-S2.1-Flash. Data benchmark di-commit di sana sebagai file berpemisah tab dan file JSON, bersama video demo model yang menjalankan 3D Slicer, Blender, dan Fiji.

Teks bahasa Inggris situs itu diawali dengan “Today, we introduce Sage 2.1 Flash, a frontier scientific multimodal agent model”. Jadi pengumumannya memang ada — hanya saja berada di host GitHub Pages yang tidak dirujuk oleh apa pun di repositori Hugging Face, dan dibuat setelah bobotnya sudah dapat diunduh. Jika Anda menginginkan framing dari pihak vendor sendiri, paragraf itulah bentuknya: lebih dari sepuluh jenis masukan ilmiah dalam satu model, termasuk grafik molekul, struktur kristal, sekuens dan struktur 3D protein, DNA dan RNA, spektrum, spektrum massa, difraksi sinar-X, elektrokardiogram, elektroensefalogram, dan kurva cahaya.

Tabel evaluasi membandingkan Sage 2.1 Flash dengan delapan model: GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017, Qwen3.8-Max, GPT-5.6 Sol, Claude Opus 5, GPT-6 Astra, GPT-6.1 Sol, dan Claude Opus 5.5. Setiap angka di dalamnya dilaporkan oleh vendor. Tidak ada harness yang dipublikasikan, tidak ada log eksekusi, tidak ada rincian per tugas, dan tidak ada pihak ketiga yang mereproduksi satu pun darinya. Bacalah tabel itu sebagai pernyataan niat dari laboratorium, bukan sebagai pengukuran.

Di mana tabel vendor sangat kuat, dan sangat lemah

Dua pola menonjol, dan keduanya lebih informatif daripada skor utama.

Pertama, pada baris sains dan visi, selisihnya tidak masuk akal. BabyVision mencatat 75.8 untuk Sage berbanding 51.3 untuk GLM-5.3-Flash, 58.0 untuk DeepSeek-V4.1-Flash-1017, dan 63.1 untuk Claude Opus 5. OSWorld-G mencatat 84.8 berbanding 61.4 untuk DeepSeek. OfficeQA Pro V2 mencatat 72.2, tertinggi di tabelnya sendiri, di atas Claude Opus 5 pada 67.2. Ketika sebuah model memenangkan sebuah baris dengan selisih dua puluh empat poin, entah kemampuannya nyata atau benchmark-nya dibaca secara berbeda untuk model ini dibandingkan model lain — dan tanpa harness yang dipublikasikan, Anda tidak dapat memastikan yang mana.

Yang kedua adalah bahwa baris-baris pengodean merupakan dokumen yang paling tidak menyanjung dalam rilis ini. Terminal-Bench 2.1 pada 87.9 kuat tetapi tidak memimpin; Qwen3.8-Max berada pada 89.6 dan Claude Opus 5 pada 90.2. SWE-bench Pro pada 60.6 tertinggal dari DeepSeek-V4.1-Flash-1017 pada 64.7 dan Qwen3.8-Max pada 65.3. DeepSWE pada 67.0 tertinggal dari DeepSeek pada 73.9 hampir tujuh poin. Bagi sebuah model yang dipasarkan sebagai agentic, itu adalah tabel yang dipilih sendiri oleh para penulisnya untuk diterbitkan, yang tentu ada nilainya.

Yang tidak termuat dalam tabel juga sama pentingnya: Claude Haiku 5.5 dan Gemini 3.8 Flash keduanya tidak ada, sehingga dua perbandingan yang paling diinginkan orang tidak dapat dilakukan sama sekali dari data vendor, dalam arah mana pun.

A generated infographic titled 'Sage-S2.1-Flash - what the weekend actually established', listing four tiers as cards. 'Confirmed by the files': 120 shards, 645 GB, bfloat16, MIT licence, 45 layers, 1,048,576-token ceiling. 'Confirmed by the vendor guide': 320B total, 18B active, GLM-5.3-Flash architecture, 8xH200 reference. 'Vendor-reported, unreproduced': 35 benchmark rows, harness undocumented. 'Not confirmed': no price, no hosted endpoint, no independent score. Footer: 'Sage-S2.1-Flash figures unaudited; file and licence facts from the Hugging Face repository.' The OrcaRouter logo is composited in the bottom-right corner.

Apa yang dikonfirmasi, dan apa yang tidak

Memilah bukti akhir pekan menjadi dua tumpukan adalah hal paling berguna yang dapat dilakukan pembaca dengan bukti tersebut.

• Dikonfirmasi oleh berkas — bobotnya ada dan dapat diunduh di bawah lisensi MIT; 120 shard, sekitar 645 GB, bfloat16; 45 lapisan dengan pembagian atensi linear-ke-sparse 34/11; 288 pakar ter-routing, top-8; batas posisi 1.048.576 token; menara visi serta token gambar/video; varian FP8 yang terbit dua hari sebelumnya.

• Dikonfirmasi oleh panduan vendor itu sendiri — total 320B, 18B aktif; arsitektur GLM-5.3-Flash; 8×H200 sebagai deployment referensi; lima jebakan serving yang terdokumentasi.

• Dilaporkan vendor, belum direproduksi — setiap skor benchmark, termasuk margin 24 poin BabyVision dan 72,2 pada OfficeQA Pro V2.

• Belum dikonfirmasi — berapa biayanya. Tidak ada harga di mana pun: tidak di Hub, tidak di panduan, tidak di microsite. Tombol "Try the API" mengarah ke discovery.intern-ai.org.cn, yang mengembalikan cangkang nyaris kosong saat diambil tanpa JavaScript; kami tidak dapat memastikan dari luar apakah model itu dapat dipanggil di sana, dengan pengenal apa, atau pada tarif berapa.

• Juga belum terkonfirmasi — apakah ini sama sekali merupakan peluncuran, dalam makna yang biasanya dibawa kata itu. Tidak ada pengumuman, tidak ada makalah dengan nama ini, tidak ada akses mitra, dan kartu model yang bisa saja dihasilkan oleh skrip.

Bagaimana cara memandangnya tanpa mempertaruhkan jalur produksi padanya

Pertanyaan praktis bagi sebagian besar tim bukanlah "apakah ini lebih baik daripada yang saya jalankan" melainkan "apakah ini sepadan dengan waktu satu jam". Pada 645 GB dalam bfloat16, ini bukan unduhan laptop; titik masuk yang jujur adalah node 8×H200 sewaan, satu sore dengan panduan penerapan, dan penerimaan bahwa Anda menjalankan model yang belum ada yang menerbitkan harness untuknya.

Eksperimen yang lebih murah, sebelum semua itu, adalah membaca lini arsitektur sebagai jalan pintas. InternLM menyatakan dalam panduannya sendiri bahwa model ini dibangun di atas arsitektur GLM-5.3-Flash dan bahwa Anda harus mengikuti resep penyajian Z.ai untuk model tersebut, dengan menukar satu nama repositori dengan yang lain. Itu berarti arsitektur dasar — bentuk 320B/18B yang sama, atensi hibrida sparse-dan-linear yang sama, batas atas sejuta token yang sama — tersedia untuk diuji hari ini melalui API yang dihosting alih-alih melalui delapan GPU yang harus Anda temukan lebih dulu. Jika model dasar sudah berperilaku baik pada dokumen ilmiah Anda, turunannya adalah penyempurnaan yang layak diunduh. Jika tidak, Anda telah menghemat akhir pekan.

Di sinilah OrcaRouter benar-benar pantas mendapat tempat: di celah antara "kami ingin mencobanya" dan "kami bisa menyajikannya". Failover otomatis memungkinkan Anda menempatkan endpoint eksperimental di balik kebijakan tanpa menjadikannya satu-satunya jalur: jika model baru mengembalikan panggilan tool yang cacat — dan panduan deployment memberi tahu Anda persis bahwa itu akan terjadi, jika Anda melewati flag atau patch — permintaan akan dialihkan ke model yang sudah Anda percaya, dan Anda tetap menyimpan trace. Itu cara yang lebih baik untuk mengumpulkan bukti daripada skrip evaluasi sekali pakai, karena bukti dikumpulkan dari traffic nyata.

Apa yang bisa menyelesaikannya

Tiga peristiwa, dalam urutan kegunaan yang meningkat. Kartu model akan memberi tahu kita untuk apa laboratorium menganggap model itu ditujukan, dan kemungkinan besar akan memuat tabel yang sama yang saat ini terdampar di host GitHub Pages. Entri di papan peringkat independen akan memungkinkan seseorang mengurangi margin vendor dari harness umum. Dan harga — harga apa pun, di mana pun — akan mengubah Sage-S2.1-Flash dari sekadar unduhan menjadi sebuah keputusan.

Sampai salah satu dari itu terwujud, deskripsi yang akurat adalah yang didukung oleh berkas-berkas tersebut: MoE multimodal besar berlisensi MIT yang disetel secara ilmiah, dibangun di atas arsitektur publik, diterbitkan tanpa sepatah kata pun penjelasan, yang penulisnya sendiri masih menambal serving stack. Itu bukan tanpa arti. Itu juga belum menjadi produk, dan perbedaannya paling penting bagi orang-orang yang harus menjalankannya.