
Intern-Decision-2B 已悄然上线 Hugging Face。其卡片上的 GitHub 链接刚刚不再返回 404。
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百万 tokens · 221 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百万 tokens · 104 tok/s
- orca新Orca: OrcaC2 1.02026-11-0722 tok/s
- Orca新OrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 138 tok/s
- Orca新OrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 413 tok/s
- Orca新OrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 每百万 tokens · 43 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 130 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 57 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 98 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 40 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 165 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 106 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百万 tokens · 69 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百万 tokens · 414 tok/s
今天早些时候,internlm/Intern-Decision-2B的模型卡指出了三个获取更多信息的地方,其中两个已经失效:演示 Space 返回 HTTP 401,而 github.com/internlm/Intern-Decision对任何点击它的人返回 404。截至 UTC 08:58,第二个链接背后的仓库已经存在——公开、有三次提交,包含训练代码、两个推理后端、一个带有 10,751 条测试行的评估包、一个 96 个用例的校准基准以及复现指南。这是该模型自 2026 年 9 月 26 日 05:36 UTC 出现在 Hugging Face 以来唯一发生变化的地方,而这也足以让 Intern-Decision-2B 从“一个 README 无法访问的检查点”变成“一个你真正可以检查、可以针对它复现、也可以与它争论的检查点”。
权重本身没有变化,且明确无歧义。Intern-Decision-2B 是一个具有 2,213,241,664 个参数的多模态结构化决策模型,微调自 Qwen/Qwen3.5-2B,即 2026 年 2 月 28 日的阿里巴巴基础模型;该模型以 Apache-2.0 许可发布,并随附保留上游 Qwen 许可证,即 LICENSE-QWEN。它是 InternLM 在四十秒内推出的三种规模中的中间一款:Intern-Decision-0.8B 于 05:35:57,这一款于 05:36:19,Intern-Decision-4B 于 05:36:37。对于其中任何一款,仍然没有任何形式的公告。
中等尺寸之所以值得单独成篇,是因为它正是这个模型家族不再按可预测方式表现的地方。按照 InternLM 自己公布的数据,它是三者中最快的,也是三者中校准最差的;在你下载任何 4.5 GB 的东西之前,这两个事实都值得弄明白。
哪些是已经确认的,哪些只是厂商的一面之词?
两种类别,需要把它们区分开来。
已确认,因为它是一份文件列表或一个 HTTP 响应:参数数量(2,592 个 F32 加上 2,213,239,072 个 BF16 权重);分片映射(一个 3.76 GB 的语言分片、一个 612.5 MB 的视觉塔、一个 50.3 MB 的投影器、约 4.43 GB 的张量以及大约 4.46 GB 的仓库);许可证对;基础模型;底层架构(一个 Qwen3_5ForConditionalGeneration,具有 24 层、隐藏大小 2,048、8 个查询头对 2 个键值头、头维度 256、三个线性注意力层对一个全注意力层的重复模式、一个保留的多令牌预测层,以及 262,144 个位置的嵌入上限);仓库的存在;以及位于 huggingface.co/collections/internlm/intern-decision 的模型集合现在可以解析并列出全部三个检查点这一事实。
供应商报告且未能复现:每一项准确率数字、每一项延迟数据以及校准温度。没有论文、没有 arXiv 条目、没有发布博客、没有更新日志,也没有独立评估——搜索字符串“Intern-Decision”返回的结果中没有任何内容是关于这个模型的。演示 Space 仍然返回 401,这意味着它并未公开,而不是它坏了。2B 检查点只有一个点赞、零次下载。InternLM 之外没有任何人运行过它。

推理契约,按发生的顺序
仓库中信息最丰富的文件不是模型卡片,而是src/inference/engine.py以及随附的inference.py(位于 Hub 上),因为它们共同记录的是契约而不是提示词。
• 你提供 状态——被评判的材料——一个问题模式,以及最多八张可选图像。一到十六个问题,每个最多 62 个选项。
• 每道题的选项都被映射为单 token 符号:A–Z,然后是 a–z,然后是 0–9。62 个选项的上限并非设计偏好,它恰好是合约所能寻址的单 token 符号数量。
• 系统提示词、状态、schema 以及完整的助手 JSON 骨架,每个字段都使用一个 <decision> 占位符进行渲染。检查点的聊天模板和空思考块保持原样。
• 执行一次因果前向传播。logits 是在每个占位符紧邻之前的位置读取的——不在其后,也不在生成的 token 处。
• 仅对该字段的合法候选符号执行 softmax,应用检查点的校准,然后将这些符号映射回你原始的选项值。
卡片直言不讳地说明了它是什么:“此 API 执行结构化候选评分。它不会调用 generate()或采样自由格式文本。”一个 DecisionEngine(max_length=8192)会拒绝过大的输入,而不是将其截断,因此放不下的请求会显式失败,而不是悄悄丢掉最后一段。后端列表也同样坦诚——backend="hf"是默认值,也是 Hugging Face 仓库中唯一实现的后端;这一点值得了解,因为 GitHub 发布版还附带了一个 XTuner 后端,而两者在数值上并不完全相同。InternLM 自己的评测指南也这么说:“Kernel 和 BF16 的差异可能会改变概率,偶尔也会改变标签。”
中间的那个异常
把三个检查点并排放进 InternLM 自己的表格里,其形状之怪异就足以成为故事本身。
• 七个套件的平均值——Intern-Decision-0.8B 79.38,Intern-Decision-2B 84.68,Intern-Decision-4B 90.02。正如权重增长所预期的那样,按顺序排列。
• 在单块 RTX 4090 上的延迟——0.8B 的平均延迟为 33.98 ms,2B 为 33.28 ms,4B 为 44.16 ms。中间尺寸是三者中最快的,其领先幅度小到在单块 GPU 上可视为噪声,但在平均值、中位数(33.15 ms)和 P95(33.55 ms)上均保持一致。
• Brier 分数,越低越好——0.530、0.437、0.347。随规模单调变化,正如恰当的评分规则通常那样。
• 期望校准误差,越低越好——0.8B 为 0.066,这个 2B 为 0.100,4B 为 0.065。中等尺寸的表现最差,而且比尺寸只有它一半的模型还差。
最后一行才是有意思的,而拟合出的温度只是印证了这一点,并没有解释它。每个检查点都带有自己的 NLL 拟合温度:0.8B 为 2.747760550703,2B 为 2.100509348278,4B 为 1.992418。每一个都是在 1,728 个指定校准案例上拟合、另有 1,693 个留出案例,通过在 [0.01, 100] 范围内搜索逆温度并最小化负对数似然来完成,且拟合时故意不使用测试套件标签。2B 的温度位于两个同级模型之间,如果异常是拟合假象,这正是你会预期的结果。但事实并非如此:拟合值随规模单调变化,而校准后误差并非如此。根据 InternLM 自身的测量,在表达自身置信度时,22 亿参数的检查点是三者中最不可信的。
在把它当作结论之前,有两点注意事项。采用十个等宽分箱和最大概率置信度的 ECE,在这张表所用的小型测试套件上是一个噪声很大的统计量——Jevbench-Hard,111 个条目,因此整个 ECE 列都取决于一百多个问题和一种分箱选择。而 internlm/Intern-Decision-2B是三张模型卡中唯一不带有 4B 模型卡所具有的额外校准章节的那一张,所以这里的文档更少,而不是更多。请把 0.100 理解为应当自行拟合温度参数的依据,而不是对权重下的定论。

该存储库补充了什么,又仍然保留了哪些内容
GitHub 发布内容比模型卡更完整,而模型卡本身也颇具信息量——一个只打算产出论文附件的实验室,通常不会连同训练启动器一起提供确定性校准生成器和哈希校验评估包。
现已公开的内容:训练代码和掩码下一词元目标(真实答案符号仅出现在标签中,从不出现在输入中;每个字段的答案由紧挨其标记之前的 logit 预测,且所有字段共享一次前向传递);七个准确率套件,带有经 SHA-256 验证的哈希值和行数;评分代码;温度拟合和重放脚本,其中重放被断言会改变 零 个决策;96 个用例的分布校准基准及其生成器和离线评分器;以及在回环地址上提供的浏览器演示,带有 POST /v1/decisions(别名为 /v1/jev)。
仓库用自己的话明确排除了哪些内容:“训练数据、私有校准/验证记录、图像、准备流水线以及模型权重均不包含在内。”该仓库完全没有许可证文件,因此,尽管权重采用 Apache-2.0,代码的条款仍未说明。而校准划分的构成——具体是哪 1,728 个案例、来自何处——仍未披露;这是唯一会限制 ECE 数值可核查程度的遗漏。
我们实际路由的尺寸,以及我们不路由的那个尺寸
Intern-Decision-2B 不在 OrcaRouter 上。我们为其提供的模型页面会返回 404,我们找不到任何地方有它的托管端点,且此处任何内容都不应被理解为可用性声明。目前调用它的唯一方式是下载检查点并运行inference.py,并将其与权重文件放在同一目录下。
这对本文真正要讨论的决策很重要,因为无人提供服务的评分器,就是你必须自己运维的评分器。如果你要做的闭集决策在形态上与该模型家族的职责相近——一个状态、类型化问题、校准概率——那么可作托管式对比的是TypeSafe 的 Jev 1.13,它正是 InternLM 特意用来做基准对比的模型,并且在 OrcaRouter 上每百万输入 token 收费 0.042 美元,上下文长度为 65K,P50 首 token 时间为 178 毫秒。

在本地运行一个 22 亿参数的检查点,和调用托管的分类器,并不是同一笔采购,但却是同一个问题;而把两者都放在同一个密钥下,且以 0% 加价透传提供商标价,这正是应当保持比较开放、而不是把架构押在它们中某一个上的原因。
什么会改变这张图片?
三件事,按顺序来说。
InternLM 之外的人需要复现 84.68 的平均成绩和 0.100 的 ECE,而这个代码仓库如今正是让这件事成为可能的关键——这才是这里真正的新闻。考试是公开的,并且经过哈希校验;只缺答案卷,而答案卷就是现在任何人都能下载的检查点。
厂商需要说明这是做什么用的。一个具备可运行的训练栈、已发布评估包,却没有公告、代码没有许可证、也没有托管端点的模型,看起来像是一次尚未决定是否产品化的研究发布。Apache-2.0 权重指向一种判断;缺失的代码许可证和返回 401 的 Space 则指向另一种判断。
而中等尺寸的模型需要一个存在的理由。如果 2B 相对 0.8B 的速度优势确实存在但幅度有限,且它在 InternLM 公布的每一项指标上的校准表现都是三者中最弱的,那么对大多数读者而言,诚实的建议要么是为 4B 付出 2.6 倍的磁盘空间,要么接受较小模型更弱的准确率。为 2B 辩护的理由是它恰好是"快"模型中最快的那一个——而这个理由,比该系列带有营销色彩的框架所暗示的要单薄得多。
