
Sage-S2.1-Flash 悄然发布:645 GB 权重、21 字节模型卡,以及一张无人链接的基准测试表
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百万 tokens · 90 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百万 tokens · 96 tok/s
- orca新Orca: OrcaC2 1.02026-11-0717 tok/s
- Orca新OrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 87 tok/s
- Orca新OrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 133 tok/s
- Orca新OrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 每百万 tokens · 72 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 130 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 65 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 92 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 43 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 193 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 152 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百万 tokens · 119 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百万 tokens · 219 tok/s
2026年11月15日UTC 02:34,一个属于上海人工智能实验室的账号在Hugging Face上传了一个名为internlm/Sage-S2.1-Flash的仓库。该仓库包含120个safetensors分片,总计约645GB,还有一个配置文件、一个聊天模板,以及一个21字节的README。没有博客文章。我们在11月16日抓取该实验室自己的主页时,主页上没有提到这个名称。我们找不到任何新闻稿,Artificial Analysis上也没有Sage-S2.1-Flash的条目。
到那个周末结束时,确实存在的是读者可以核查的三样东西:权重本身;一份为打算在八块 H200 上部署并提供该模型服务的人编写的部署指南;以及一张托管在 GitHub Pages 微型网站上的基准测试表,而模型仓库从未链接到该微型网站。本文就是这三样东西的清单,并在文件能证明什么与 InternLM 尚未说明什么之间划出明确界线。

仓库,逐个文件
证据异常清晰,因为其数量少得可怜。11月16日的一份目录列表返回了155个文件。其中120个是权重分片,每个约5.35 GB。其余则是一个多模态模型的组件:20 MB的tokenizer.json、10.5 KB的chat_template.jinja、5.9 KB的config.json、一个温度为1.0、top_p为0.95的生成配置、一个deployment_guide.md,以及两个目录——一个存放vLLM补丁,另一个存放配套感知模型的投影器。
这个 README 值得细细琢磨。二十一个字节,每一个都是 YAML frontmatter:
• 一条水平分隔线,然后是一行内容为 license: mit 的文字,然后又是另一条水平分隔线。
这就是整个模型卡的全部内容。没有描述,没有基准测试表,没有用法示例,没有引用块,也没有论文链接。Hugging Face 将其渲染成一个带有标题、MIT 徽章和空正文的页面。该仓库有一个点赞;而且在撰写本文时,下载量为零——对于这个体量的模型来说,这与其说反映了质量,不如说说明能负担得起磁盘空间的人少之又少。
文件列表中的两个较小细节值得记录,因为它们比任何公告都更能确定这次发布的时间。FP8 量化的同系列仓库 internlm/Sage-S2.1-Flash-FP8 创建于 11 月 13 日 15:04 UTC——约 35 小时早于 bfloat16 仓库。而 bf16 仓库的最后一次提交是在 11 月 16 日 03:01 UTC,提交信息只有一句“Upload folder using huggingface_hub”,与最初上传时相同。无论是什么工作流产生了它,这都不是一次精心策划的发布。
实验室确实写过的唯一一份文件
deployment_guide.md 是 InternLM 随仓库发布的唯一说明性文字,也是其中信息量最大的文件。它的开头第一句就是完整的规范:
Sage-S2.1-Flash 发布版是一个 320B-A18B 多模态 MoE 模型,以 bfloat16 权重格式存储(约 645 GB)。
三个数字,而 Hub 自身的元数据确认了其中两个。模型页面上的参数数量显示为 3210 亿,相差 10 亿,这几乎肯定是舍入惯例,而非分歧。存储数字与 internlm 的仓库元数据相符,为 642.8 GB。“A18B”——每 token 180 亿活跃参数——是 InternLM 自己的术语,无法从配置中独立推导出来,因此应将其视为厂商数据。
config.json 补全了其余部分,而且它是一份确实有趣的文档。该模型有 45 层,其中只有 11 层使用传统的稀疏注意力。其余 34 层使用一种线性注意力层类型,配置将其称为 kda,并由 linear_attn_config 中的逐层列表来指定。路由为 288 个专家,其中有 1 个共享专家,每个 token 选择 8 个,路由缩放因子为 2.5。位置上限为 1,048,576 个 token。还有一个视觉塔——深度 24、448 像素图像、patch 大小 14——并且 token 词表包含显式的 image、video、image-start、image-end、video-start 和 video-end token。

最重要的架构主线
部署指南中有一句话重新界定了整个发布的定位。它写道,Sage-S2.1-Flash“采用 GLM-5.3-Flash 架构”,并指示读者按照 Z.ai 官方的 GLM-5.3-Flash 配方来安装和调优 vLLM 与 SGLang,只需将其中一个仓库名替换为另一个即可。
配置中已确认这一点:架构类为 Glm5NextForConditionalGeneration,模型类型为 glm5_next。因此,一个上海人工智能实验室的模型是构建在 Z.ai 架构之上的,而且该实验室对此直言不讳,并未加以隐瞒。GLM-5.3-Flash 本身就是一个拥有 3200 亿参数、180 亿激活参数的多模态 MoE,具备 100 万 token 上下文和 128K 输出上限——也就是说,其参数形态也并非巧合。
对于任何正在决定是否部署它的人来说,这句话是整个发布中最有价值的一点。这意味着服务方案并不是新的。这意味着相关配方、内核工作以及已知失败模式,都是已经为一个自八月起就公开的模型记录过的内容。这也意味着 InternLM 添加的补丁值得仔细阅读,因为它们准确描述了其模型与基座产生差异的地方。
如果直接照原样提供,这个版本会在三个方面出问题
仔细阅读的话,这份部署指南就是一份陷阱清单。每一个陷阱都是静默失败,而不是报错,而静默失败才是危险的那一类。
• 缺少 --trust-remote-code 会在没有任何警告的情况下破坏工具调用。Agentic 轨迹中会将 <|user|> 和 <tool_call> 这类字符串当作普通文本包含在内。该仓库自带的分词代码会将它们视为文本;如果不使用该标志,引擎会加载默认分词器,将它们编码为控制 token,模型可能会提前停止或损坏工具调用。不会记录任何日志。
• vLLM 需要一个单文件补丁,否则图像会被挂到错误的工具结果上。当并行工具调用返回的顺序与发起顺序不一致时,聊天模板会按调用顺序渲染结果,而 vLLM 按消息顺序收集图像。每张图像都会悄无声息地落到错误的结果上,模型便会针对错误的图片作答。该修复会替换 vllm/renderers/hf.py;上游修复正在推进中,见 vllm-project/vllm#67108。
• 除非你把文件交给 SGLang,否则它不会使用仓库中的聊天模板。默认情况下,SGLang 会为此架构安装自己的内置模板,这会完全绕过仓库的分词器;你必须下载 chat_template.jinja 并通过 --chat-template 传入。
in non-streaming responses can truncate reasoning or swallow a tool call; streaming unaffected. Need preserve </think> exactly (HTML-like). "open vLLM issue" translate "一个未解决的 vLLM 问题" maybe. "flags" = 指出/标记. Need not add markers. Output Chinese. Ensure "between 5.17 and 5.19" -> 在 5.17 到 5.19 之间 (maybe inclusive ambiguous; translate as is). "literal </think>" -> 字面量 </think>. "swallow a tool call" -> 吞掉工具调用. "non-streaming responses" -> 非流式响应. "streaming is unaffected" -> 流式不受影响. Need only text.同一份文档中还有两项约束。Hopper GPU 不支持 FP8 KV 缓存,因此在 H100 和 H200 上仍需保留 BF16 缓存。并且 LMDeploy 需要 5.17 到 5.19 之间的 transformers,因为 5.19 将层类型 deepseek_sparse_attention 重命名为 indexed_attention,而 LMDeploy 会拒绝这个新名称。该指南还指出一个尚未解决的 vLLM 问题——vllm-project/vllm#64326:在非流式响应中,字面量 </think> 可能会截断推理内容或吞掉工具调用;流式响应不受影响。
这些都不说明这个模型不好。它说明的是,这次发布还处在这样一个阶段:写它的人仍然是唯一运行过它的人,而他们正在如实告诉你这一点。
不在代码仓库中的基准表
InternLM 确实发布了评估数字——共 35 个,涵盖 Terminal-Bench 2.1、DeepSWE、SWE-bench Pro、APEX-Agents、GDPval、OfficeQA Pro V2、Harvey LAB、OSWorld-Verified、BrowseComp、BabyVision 以及二十多个其他基准。它们不在模型卡中,因为模型卡是空的。它们位于一个单独的 GitHub 仓库 InternLM/Sage-S2.1-Flash 中,该仓库创建于 11 月 16 日 03:34 UTC,描述为“Sage 2.1 Flash 双语网站和应用演示”,并在 internlm.github.io/Sage-S2.1-Flash 构建了一个静态站点。基准数据以制表符分隔文件和 JSON 文件的形式提交在那里,同时还有模型驱动 3D Slicer、Blender 和 Fiji 的演示视频。
该网站的英文文案以“今天,我们推出 Sage 2.1 Flash,一个前沿的科学多模态智能体模型”开头。所以这份公告确实存在——它只是位于一个 GitHub Pages 主机上,而 Hugging Face 仓库中没有任何内容指向那里,而且它是在权重已经可以下载之后才创建的。如果你想看厂商自己的表述,那段话就是:一个模型支持十多种科学输入,包括分子图、晶体结构、蛋白质序列和三维结构、DNA 和 RNA、光谱、质谱、X 射线衍射、心电图、脑电图和光变曲线。
评估表将 Sage 2.1 Flash 与八个模型进行比较:GLM-5.3-Flash、DeepSeek-V4.1-Flash-1017、Qwen3.8-Max、GPT-5.6 Sol、Claude Opus 5、GPT-6 Astra、GPT-6.1 Sol 和 Claude Opus 5.5。表中的每个数字均由厂商报告。没有公开的评测框架,没有运行日志,没有逐任务细分结果,也没有任何第三方复现过其中任何内容。应将此表视为实验室的意向声明,而非测量结果。
在供应商表异常强劲、又异常薄弱的地方
有两种模式格外突出,而且两者都比总体分数更能说明问题。
第一点是,科学和视觉这两行正是差距大得离谱的地方。在 BabyVision 中,Sage 的读数为 75.8,而 GLM-5.3-Flash 为 51.3,DeepSeek-V4.1-Flash-1017 为 58.0,Claude Opus 5 为 63.1。OSWorld-G 中,该读数为 84.8,而 DeepSeek 为 61.4。OfficeQA Pro V2 的读数为 72.2,是其所在表格中的最高值,领先于 Claude Opus 5 的 67.2。当某个模型在某一行以 24 分的优势胜出时,要么这项能力是真实的,要么这个基准测试对该模型和其他模型的解读方式不同——而在没有公开测试框架的情况下,你无法判断到底是哪一种。
第二点是,编程类各项数据是本次发布中最不给自己贴金的部分。Terminal-Bench 2.1 的 87.9 分很强,但并非领先;Qwen3.8-Max 为 89.6 分,Claude Opus 5 为 90.2 分。SWE-bench Pro 的 60.6 分落后于 DeepSeek-V4.1-Flash-1017 的 64.7 分和 Qwen3.8-Max 的 65.3 分。DeepSWE 的 67.0 分落后 DeepSeek 的 73.9 分近七分。对于一个以智能体为卖点的模型来说,这是其作者自己选择发布的一张表,这本身就有些意义。
这张表没有收录的内容同样值得注意:Claude Haiku 5.5 和 Gemini 3.8 Flash 均未出现,因此大多数人最想做的这两项对比,无论哪个方向,都根本无法基于厂商数据完成。

哪些是已确认的,哪些不是
把周末的证据分成两堆,是读者能对它做的最有用的事。
• 已由文件证实——权重确实存在,并可按 MIT 许可下载;120 个分片,约 645 GB,bfloat16;45 层,采用 34/11 的线性到稀疏注意力划分;288 个路由专家,top-8;1,048,576 个 token 的位置上限;一个视觉塔以及图像/视频 token;一个两天前发布的 FP8 同系列模型。
• 经厂商自家指南确认——总参数 320B、激活参数 18B;GLM-5.3-Flash 架构;以 8×H200 作为参考部署;五个有据可查的 serving 陷阱。
• 由厂商报告、未经复现——所有基准分数,包括 BabyVision 上 24 分的领先幅度,以及 OfficeQA Pro V2 上的 72.2。
• 未确认——费用是多少。任何地方都没有标价:不在 Hub 上,不在指南中,也不在微型网站上。“Try the API”按钮指向 discovery.intern-ai.org.cn,而该地址在非 JavaScript 抓取时返回了一个近乎空白的壳页面;我们无法从外部确认该模型是否可在那里调用、以什么标识符调用,或按什么费率调用。
• 同样尚未确认的是——这是否算得上通常意义上所说的“发布”。没有公告,没有以该名称发表的论文,没有合作伙伴访问权限,只有一张脚本就能生成的模型卡。
如何在不把生产路径押在它身上的前提下看待它
对大多数团队来说,实际问题不是“这比我正在运行的模型更好吗”,而是“它值不值得花一小时”。以 bfloat16 计算为 645 GB,它不是能在笔记本电脑上下载的东西;诚实的入门方式是租一台 8×H200 节点,花一个下午研究部署指南,并接受你正在运行一个还没有人发布过评测框架的模型。
在这一切之前,成本更低的实验是把架构说明当作一条捷径来解读。InternLM 在其自己的指南中表示,该模型基于 GLM-5.3-Flash 架构构建,并且你应当遵循 Z.ai 的部署配方,只需将一个仓库名替换为另一个。这意味着基础架构——同样的 320B/18B 规模、同样的混合稀疏与线性注意力、同样的百万 token 上限——如今可通过托管 API 进行测试,而不必先找到八块 GPU 再测试。如果基础模型在你的科学文档上已经表现良好,那么衍生模型就是值得下载的改进版。如果表现不佳,你就省下了一个周末。
OrcaRouter 在这里真正体现价值的地方,正是“我们想试试它”与“我们能把它投入服务”之间的差距。自动故障转移让你可以把实验性端点置于某项策略之后,而不必让它成为唯一路径:如果新模型返回格式错误的工具调用——而且如果你跳过标志或补丁,部署指南会明确告诉你它就会这样——请求就会回退到你已经信任的模型,并且你会保留追踪记录。这比一次性的评估脚本更能收集证据,因为它是在真实流量上收集证据。
怎样才能了结此事?
三件事,按有用程度递增排列。模型卡会告诉我们实验室认为这个模型是用来做什么的,而且很可能还会附上目前被困在 GitHub Pages 主机上的同一张表。独立排行榜上的收录则能让人用通用评测框架剔除厂商的加成。而一个价格——任何价格、在任何地方——都会让 Sage-S2.1-Flash 从一次下载变成一个决策。
在其中任何一项落地之前,准确的描述只能是文件所支持的那一个:一个大型、MIT 许可、经过科学调优的多模态 MoE,建立在公开架构之上,发布时没有一句解释,而其作者仍在修补 serving stack。这并非无足轻重。它也还不是一个产品,而这一区别对不得不运行它的人来说最为重要。
