Một thẻ tiêu đề được tạo hiển thị 'Sage-S2.1-Flash' phía trên phụ đề '645 GB trọng số, thẻ mô hình 21 byte, không có thông báo', với ba chip nhỏ bên dưới ghi 'tải lên 15 tháng 11 năm 2026', 'giấy phép MIT' và '320B-A18B MoE'. Nền trắng, điểm nhấn chuyển sắc xanh dương và xanh lam, biểu tượng nét phẳng. Logo OrcaRouter được ghép ở góc dưới bên phải.
Guides & Insights

Sage-S2.1-Flash được phát hành âm thầm: 645 GB trọng số, một thẻ mô hình 21 byte và một bảng đánh giá mà không ai dẫn link tới

Tác giả

jinhao.song

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Vào lúc 02:34 UTC ngày 15 tháng 11 năm 2026, một tài khoản thuộc Shanghai AI Laboratory đã tải lên Hugging Face một kho lưu trữ có tên là internlm/Sage-S2.1-Flash. Kho này chứa 120 phân đoạn safetensors với tổng dung lượng khoảng 645 gigabyte, một tệp cấu hình, một mẫu trò chuyện và một README dài 21 byte. Không có bài đăng blog nào. Trang chủ của chính phòng thí nghiệm không hề nhắc đến tên này khi chúng tôi truy xuất vào ngày 16 tháng 11. Chúng tôi không tìm thấy thông cáo báo chí nào và cũng không có mục nào về Sage-S2.1-Flash trên Artificial Analysis.

Thứ thực sự tồn tại, vào cuối ngày cuối tuần đó, là ba thứ mà người đọc có thể kiểm chứng: bản thân các trọng số, một hướng dẫn triển khai được viết cho những người dự định phục vụ thứ này trên tám H200, và một bảng benchmark được lưu trữ trên một microsite GitHub Pages mà kho lưu trữ mô hình không hề liên kết tới. Bài viết này là một bản kiểm kê ba thứ đó, với một ranh giới rõ ràng giữa những gì các tệp chứng minh và những gì InternLM vẫn chưa nói.

Screenshot of the Hugging Face 'Files and versions' tab for internlm/Sage-S2.1-Flash. The header shows the safetensors and glm5_next tags, the MIT licence, and a repository size of 643 GB. The file list shows .gitattributes, README.md, chat_template.jinja, config.json, deployment_guide.md, generation_config.json, and shards numbered model-00001-of-00120 through model-00013-of-00120 and beyond.

Kho lưu trữ, từng tệp một

Bằng chứng rõ ràng một cách bất thường vì có quá ít. Một danh sách thư mục vào ngày 16 tháng 11 trả về 155 tệp. Một trăm hai mươi trong số đó là các phân mảnh trọng số, mỗi phân mảnh khoảng 5,35 GB. Phần còn lại là các thành phần vận hành của một mô hình đa phương thức: tokenizer.json nặng 20 megabyte, chat_template.jinja 10,5 KB, config.json 5,9 KB, một cấu hình sinh với temperature 1.0 và top_p 0.95, một deployment_guide.md, và hai thư mục — một thư mục chứa bản vá vLLM, một thư mục chứa các projector cho một mô hình nhận thức đi kèm.

README đáng để dừng lại suy ngẫm. Hai mươi mốt byte, và từng byte trong số đó đều là YAML frontmatter:

• Một đường kẻ ngang, rồi một dòng ghi license: mit, sau đó một đường kẻ ngang khác.

Đó là toàn bộ thẻ mô hình. Không có mô tả, không có bảng benchmark, không có đoạn mã sử dụng mẫu, không có khối trích dẫn, không có liên kết đến bài báo. Hugging Face hiển thị nó dưới dạng một trang có tiêu đề, một huy hiệu MIT và phần thân trống. Kho lưu trữ có một lượt thích và, tại thời điểm viết bài, không có lượt tải xuống nào — đối với một mô hình có kích thước này, đó ít là dấu hiệu về chất lượng hơn là về việc có quá ít người đủ khả năng chi trả cho dung lượng đĩa.

Hai chi tiết nhỏ hơn từ danh sách tệp đáng được ghi lại vì chúng xác định thời điểm phát hành tốt hơn bất kỳ thông báo nào. Bản anh em lượng tử hóa FP8, internlm/Sage-S2.1-Flash-FP8, được tạo vào ngày 13 tháng 11 lúc 15:04 UTC — khoảng 35 giờ trước kho lưu trữ bfloat16. Và commit cuối cùng của repo bf16, vào lúc 03:01 UTC ngày 16 tháng 11, chỉ là một dòng "Upload folder using huggingface_hub" trần trụi, cùng thông điệp như lần tải lên ban đầu. Dù quy trình nào đã tạo ra điều này, đây không phải là một màn ra mắt được chăm chút kỹ lưỡng.

Tài liệu duy nhất mà phòng thí nghiệm đã viết

deployment_guide.md là văn xuôi duy nhất mà InternLM phát hành trong repo, và đó là tệp giàu thông tin nhất ở đó. Câu mở đầu của nó chính là toàn bộ bản đặc tả:

Bản phát hành Sage-S2.1-Flash là một mô hình MoE đa phương thức 320B-A18B được lưu trữ ở định dạng trọng số bfloat16 (khoảng 645 GB).

Ba con số, và metadata của chính Hub xác nhận hai trong số đó. Số lượng tham số trên trang mô hình ghi 321 tỷ, chênh lệch một tỷ gần như chắc chắn là do quy ước làm tròn chứ không phải là bất đồng. Con số dung lượng lưu trữ khớp với metadata kho lưu trữ của internlm ở mức 642.8 GB. "A18B" — 18 tỷ tham số hoạt động trên mỗi token — là thuật ngữ của chính InternLM và không thể suy ra một cách độc lập từ cấu hình, nên hãy coi đó là con số của nhà cung cấp.

config.json điền nốt phần còn lại, và đây thực sự là một tài liệu thú vị. Mô hình có 45 lớp, và chỉ 11 trong số đó dùng attention thưa thông thường. 34 lớp còn lại dùng một kiểu lớp linear-attention mà config gọi là kda, được chỉ định bởi danh sách theo từng lớp trong linear_attn_config. Định tuyến gồm 288 chuyên gia với một chuyên gia chia sẻ và tám chuyên gia được chọn cho mỗi token, với hệ số chia tỉ lệ định tuyến là 2.5. Giới hạn vị trí là 1.048.576 token. Có một tháp thị giác — độ sâu 24, ảnh 448 pixel, kích thước patch 14 — và từ vựng token có các token image, video, image-start, image-end, video-start và video-end một cách tường minh.

Screenshot of deployment_guide.md rendered in the Hugging Face file viewer for internlm/Sage-S2.1-Flash. The opening sentence reads 'The Sage-S2.1-Flash release is a 320B-A18B multimodal MoE model stored in bfloat16 weight format (about 645 GB).' Below it, the guide states the vLLM and SGLang examples use 8x H200 GPUs and that the model uses the GLM-5.3-Flash architecture, followed by the 'Required for Sage-S2.1-Flash' section on --trust-remote-code and the vLLM patch.

Dòng kiến trúc quan trọng nhất

Hướng dẫn triển khai có một câu định hình lại toàn bộ bản phát hành. Câu đó nói rằng Sage-S2.1-Flash “sử dụng kiến trúc GLM-5.3-Flash”, và hướng dẫn người đọc cài đặt và tinh chỉnh vLLM cùng SGLang bằng cách làm theo các công thức GLM-5.3-Flash chính thức của Z.ai, thay tên kho lưu trữ này bằng tên kho lưu trữ kia.

Điều đó được xác nhận trong cấu hình: lớp kiến trúc là Glm5NextForConditionalGeneration và loại mô hình là glm5_next. Vậy là một mô hình của Shanghai AI Laboratory được công bố dựa trên kiến trúc của Z.ai, và phòng thí nghiệm nói thẳng điều đó thay vì giấu đi. Bản thân GLM-5.3-Flash là một MoE đa phương thức 320 tỷ tham số, 18 tỷ tham số hoạt động, với ngữ cảnh 1M token và trần đầu ra 128K — tức là hình dạng tham số cũng không phải ngẫu nhiên.

Đối với bất kỳ ai đang cân nhắc có nên triển khai thứ này hay không, câu đó là điều giá trị nhất trong bản phát hành. Nó có nghĩa là câu chuyện phục vụ không mới. Nó có nghĩa là các công thức, phần việc kernel và các kiểu lỗi đã biết chính là những thứ đã được ghi chép cho một mô hình đã công khai từ tháng Tám. Nó cũng có nghĩa là các bản vá mà InternLM thêm vào đáng được đọc kỹ, vì chúng mô tả chính xác chỗ mà mô hình của họ khác biệt so với bản cơ sở.

Ba cách bản phát hành này sẽ hỏng nếu bạn phục vụ nó một cách ngây thơ

Hướng dẫn triển khai, nếu đọc kỹ, là một danh sách các cạm bẫy. Mỗi cái là một thất bại âm thầm chứ không phải một lỗi, và đó là kiểu nguy hiểm.

• Thiếu --trust-remote-code khiến các lệnh gọi công cụ bị hỏng mà không có cảnh báo. Các trace agentic chứa những chuỗi như <|user|> và <tool_call> dưới dạng văn bản thông thường. Kho mã nguồn đi kèm mã token hóa riêng, vốn coi chúng là văn bản; nếu không có cờ này, engine tải tokenizer gốc, mã hóa chúng thành token điều khiển, và mô hình có thể dừng sớm hoặc làm hỏng một lệnh gọi công cụ. Không có log nào được ghi.

• vLLM cần một bản vá chỉ một tệp, nếu không hình ảnh sẽ bị gắn vào kết quả công cụ sai. Khi các lệnh gọi công cụ song song trả về theo thứ tự khác với thứ tự đã phát ra, mẫu trò chuyện hiển thị kết quả theo thứ tự gọi trong khi vLLM thu thập hình ảnh theo thứ tự tin nhắn. Mỗi hình ảnh âm thầm rơi vào kết quả sai và mô hình trả lời về bức ảnh sai. Bản sửa thay thế vllm/renderers/hf.py; bản sửa thượng nguồn đang được tiến hành dưới dạng vllm-project/vllm#67108.

• SGLang sẽ không sử dụng chat template của kho lưu trữ trừ khi bạn đưa tệp đó cho nó. Theo mặc định, SGLang cài đặt template tích hợp sẵn của riêng nó cho kiến trúc này, điều này bỏ qua hoàn toàn tokenizer của kho lưu trữ; bạn phải tải xuống chat_template.jinja và truyền nó bằng --chat-template.

in non-streaming responses can truncate reasoning or swallow a tool call; streaming is unaffected." -> "Hướng dẫn cũng nêu một vấn đề vLLM đang mở — vllm-project/vllm#64326 — trong đó một </think> nguyên văn trong phản hồi không streaming có thể cắt ngắn phần suy luận hoặc nuốt mất một lệnh gọi công cụ; streaming không bị ảnh hưởng." Need careful with literal </think> maybe must preserve exact as-is? It's a tag, preserve. "tool call" -> "lệnh gọi công cụ" or "tool call". In Vietnamese technical, "lệnh gọi công cụ" okay, maybe "tool call" retained. "reasoning" -> "phần suy luận". "swallow" -> "nuốt mất". "non-streaming responses" -> "phản hồi không streaming". "streaming is unaffected" -> "streaming không bị ảnh hưởng". No markers. Output only translation.Có thêm hai ràng buộc nữa trong cùng tài liệu. FP8 KV cache không được hỗ trợ trên GPU Hopper, vì vậy trên H100 và H200, bạn vẫn giữ cache BF16. Và LMDeploy cần transformers trong khoảng 5.17 đến 5.19, vì 5.19 đổi tên loại layer deepseek_sparse_attention thành indexed_attention và LMDeploy từ chối tên mới. Hướng dẫn cũng nêu một vấn đề vLLM đang mở — vllm-project/vllm#64326 — trong đó một </think> nguyên văn trong phản hồi không streaming có thể cắt ngắn phần suy luận hoặc nuốt mất một lệnh gọi công cụ; streaming không bị ảnh hưởng.

Không có điều nào trong số này nói rằng mô hình là tệ. Nó nói rằng bản phát hành đang ở giai đoạn mà những người viết ra nó vẫn là những người duy nhất đã chạy nó, và họ đang nói với bạn đúng như vậy.

Bảng benchmark không có trong kho lưu trữ

InternLM đã công bố số liệu đánh giá — 35 số liệu, trải khắp Terminal-Bench 2.1, DeepSWE, SWE-bench Pro, APEX-Agents, GDPval, OfficeQA Pro V2, Harvey LAB, OSWorld-Verified, BrowseComp, BabyVision và 24 chỉ số khác nữa. Chúng không có trong model card, vì model card trống. Chúng nằm trong một kho GitHub riêng, InternLM/Sage-S2.1-Flash, được tạo ngày 16 tháng 11 lúc 03:34 UTC, được mô tả là "trang web song ngữ và các bản demo ứng dụng Sage 2.1 Flash", thứ xây dựng một trang web tĩnh tại internlm.github.io/Sage-S2.1-Flash. Dữ liệu benchmark được commit ở đó dưới dạng một tệp phân tách bằng tab và một tệp JSON, cùng với các video demo mô hình điều khiển 3D Slicer, Blender và Fiji.

Nội dung tiếng Anh của trang đó mở đầu bằng “Hôm nay, chúng tôi giới thiệu Sage 2.1 Flash, một mô hình tác nhân đa phương thức khoa học tiên phong”. Vậy là thông báo đó thực sự tồn tại — chỉ là nó nằm trên một máy chủ GitHub Pages mà không có gì trong kho lưu trữ Hugging Face trỏ tới, và nó được tạo sau khi các trọng số đã có thể tải xuống. Nếu bạn muốn cách diễn đạt của chính nhà cung cấp, thì đoạn đó chính là nó: hơn mười loại đầu vào khoa học trong một mô hình, bao gồm đồ thị phân tử, cấu trúc tinh thể, chuỗi protein và cấu trúc 3D, DNA và RNA, phổ, phổ khối, nhiễu xạ tia X, điện tâm đồ, điện não đồ và đường cong ánh sáng.

Bảng đánh giá so sánh Sage 2.1 Flash với tám mô hình: GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017, Qwen3.8-Max, GPT-5.6 Sol, Claude Opus 5, GPT-6 Astra, GPT-6.1 Sol và Claude Opus 5.5. Mọi con số trong bảng đều do nhà cung cấp báo cáo. Không có bộ khung đánh giá nào được công bố, không có nhật ký chạy, không có phân tích chi tiết theo từng tác vụ và chưa có bên thứ ba nào tái lập được bất kỳ phần nào trong đó. Hãy đọc bảng này như một tuyên bố về ý định của phòng thí nghiệm, chứ không phải như kết quả đo lường.

Nơi bảng nhà cung cấp đặc biệt mạnh và đặc biệt yếu

Có hai mẫu hình nổi bật, và cả hai đều cung cấp nhiều thông tin hơn các điểm số trên tiêu đề.

Điều đầu tiên là các hàng khoa học và thị giác là nơi mức chênh lệch vô lý. BabyVision cho Sage 75,8 so với 51,3 của GLM-5.3-Flash, 58,0 của DeepSeek-V4.1-Flash-1017 và 63,1 của Claude Opus 5. OSWorld-G cho DeepSeek 84,8 so với 61,4. OfficeQA Pro V2 đạt 72,2, cao nhất trong bảng của chính nó, vượt Claude Opus 5 ở 67,2. Khi một mô hình thắng một hàng với cách biệt hai mươi tư điểm, hoặc năng lực đó là thật, hoặc benchmark đang được diễn giải khác đi cho mô hình này so với những mô hình khác — và khi không có harness nào được công bố, bạn không thể biết là trường hợp nào.

Điều thứ hai là các hàng về lập trình là tài liệu kém tâng bốc nhất trong bản phát hành. Terminal-Bench 2.1 ở mức 87.9 là mạnh nhưng không dẫn đầu; Qwen3.8-Max ở mức 89.6 và Claude Opus 5 ở mức 90.2. SWE-bench Pro ở mức 60.6 xếp sau DeepSeek-V4.1-Flash-1017 ở mức 64.7 và Qwen3.8-Max ở mức 65.3. DeepSWE ở mức 67.0 kém DeepSeek ở mức 73.9 gần bảy điểm. Đối với một mô hình được quảng bá là agentic, đó là một bảng mà chính các tác giả của nó đã chọn công bố, và điều đó có giá trị nhất định.

Điều mà bảng không chứa cũng đáng chú ý không kém: Claude Haiku 5.5 và Gemini 3.8 Flash đều vắng mặt, vì vậy hai phép so sánh mà {{1}}hầu hết mọi người sẽ muốn{{/1}} hoàn toàn không thể thực hiện được từ dữ liệu của nhà cung cấp, {{2}}theo cả hai chiều{{/2}}.

A generated infographic titled 'Sage-S2.1-Flash - what the weekend actually established', listing four tiers as cards. 'Confirmed by the files': 120 shards, 645 GB, bfloat16, MIT licence, 45 layers, 1,048,576-token ceiling. 'Confirmed by the vendor guide': 320B total, 18B active, GLM-5.3-Flash architecture, 8xH200 reference. 'Vendor-reported, unreproduced': 35 benchmark rows, harness undocumented. 'Not confirmed': no price, no hosted endpoint, no independent score. Footer: 'Sage-S2.1-Flash figures unaudited; file and licence facts from the Hugging Face repository.' The OrcaRouter logo is composited in the bottom-right corner.

Điều gì đã được xác nhận, và điều gì chưa được xác nhận?

Việc sắp xếp bằng chứng của cuối tuần thành hai nhóm là điều hữu ích nhất mà một độc giả có thể làm với chúng.

• Được xác nhận qua các tệp — các trọng số tồn tại và có thể tải xuống theo giấy phép MIT; 120 phân mảnh, khoảng 645 GB, bfloat16; 45 lớp với tỷ lệ phân bổ 34/11 giữa attention tuyến tính và attention thưa; 288 chuyên gia được định tuyến, top-8; mức trần vị trí 1.048.576 token; một tháp thị giác và token hình ảnh/video; một phiên bản anh em FP8 được công bố hai ngày trước đó.

• Được xác nhận bởi chính hướng dẫn của nhà cung cấp — tổng 320B, 18B hoạt động; kiến trúc GLM-5.3-Flash; 8×H200 là triển khai tham chiếu; năm cạm bẫy phục vụ đã được ghi nhận.

• Do nhà cung cấp báo cáo, chưa được tái lập — mọi điểm số benchmark, bao gồm mức chênh lệch 24 điểm trên BabyVision và 72,2 trên OfficeQA Pro V2.

• Chưa được xác nhận — chi phí ra sao. Không có giá ở bất kỳ đâu: không trên {{1}}Hub{{/1}}, không trong hướng dẫn, không trên microsite. Nút “Try the API” trỏ tới discovery.intern-ai.org.cn, địa chỉ này trả về một vỏ gần như trống đối với yêu cầu tải không dùng JavaScript; từ bên ngoài, chúng tôi không thể xác định liệu mô hình có gọi được ở đó hay không, dưới định danh nào, hoặc với mức giá nào.

• Cũng chưa được xác nhận — liệu đây có thực sự là một màn ra mắt hay không, theo đúng nghĩa mà từ này thường mang. Không có thông báo, không có bài viết nào dưới cái tên này, không có quyền truy cập dành cho đối tác, và một thẻ mô hình mà một đoạn script có thể đã tạo ra.

Cách xem xét nó mà không đặt cược lộ trình lên production vào nó

Câu hỏi thực tế đối với hầu hết các nhóm không phải là "cái này có tốt hơn cái tôi đang chạy không" mà là "có đáng bỏ ra một giờ không". Ở 645 GB trong bfloat16, nó không phải thứ tải về laptop; điểm khởi đầu trung thực là một node 8×H200 thuê được, một buổi chiều với hướng dẫn triển khai, và việc chấp nhận rằng bạn đang chạy một mô hình mà chưa ai công bố harness cho nó.

Thử nghiệm rẻ hơn, trước tất cả những điều đó, là đọc dòng kiến trúc như một lối tắt. InternLM nói trong hướng dẫn của chính mình rằng mô hình được xây dựng trên kiến trúc GLM-5.3-Flash và bạn nên làm theo các công thức phục vụ của Z.ai cho nó, thay tên kho lưu trữ này bằng tên kho kia. Điều đó có nghĩa là kiến trúc cơ sở — cùng dạng 320B/18B, cùng cơ chế chú ý thưa và tuyến tính kết hợp, cùng giới hạn một triệu token — có thể kiểm thử ngay hôm nay thông qua một API được host thay vì thông qua tám GPU mà bạn phải tìm trước. Nếu mô hình cơ sở đã hoạt động tốt trên tài liệu khoa học của bạn, thì bản phái sinh là một bản tinh chỉnh đáng để tải về. Nếu không, bạn đã tiết kiệm được một cuối tuần.

Nơi OrcaRouter thực sự có chỗ đứng ở đây là trong khoảng trống giữa "chúng ta muốn thử nó" và "chúng ta có thể phục vụ nó". Tự động chuyển đổi dự phòng cho phép bạn đặt một endpoint thử nghiệm phía sau một chính sách mà không biến nó thành đường đi duy nhất: nếu mô hình mới trả về một lệnh gọi công cụ không đúng định dạng — và hướng dẫn triển khai cho bạn biết chính xác điều đó sẽ xảy ra, nếu bạn bỏ qua cờ hoặc bản vá — yêu cầu sẽ chuyển xuống một mô hình mà bạn đã tin cậy, và bạn vẫn giữ được trace. Đó là một cách thu thập bằng chứng tốt hơn so với một script đánh giá dùng một lần, vì nó thu thập bằng chứng trên lưu lượng thật.

Điều gì sẽ giải quyết được chuyện đó?

Ba sự kiện, theo thứ tự tăng dần về mức độ hữu ích. Một thẻ mô hình sẽ cho chúng ta biết phòng thí nghiệm nghĩ mô hình dùng để làm gì, và có lẽ sẽ mang theo cùng bảng hiện đang bị mắc kẹt trên một máy chủ GitHub Pages. Một mục trên bảng xếp hạng độc lập sẽ cho phép ai đó trừ đi biên lợi nhuận của nhà cung cấp khỏi một khung đánh giá chung. Và một mức giá — bất kỳ mức giá nào, ở bất kỳ đâu — sẽ biến Sage-S2.1-Flash từ một bản tải xuống thành một quyết định.

Cho đến khi một trong số đó thành hiện thực, mô tả chính xác là mô tả mà các tệp chứng minh: một MoE đa phương thức quy mô lớn, được cấp phép MIT, được tinh chỉnh một cách khoa học, xây dựng trên một kiến trúc công khai, được công bố mà không một lời giải thích, mà chính các tác giả của nó vẫn đang vá ngăn xếp phục vụ. Đó không phải là không có gì. Nó cũng chưa phải là một sản phẩm, và sự khác biệt này quan trọng nhất đối với những người sẽ phải vận hành nó.