
Inkling 2 Mini 与 Inkling 2 Small:针对 394GB 的 11 个要点
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百万 tokens · 183 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百万 tokens · 568 tok/s
- Alibaba新Qwen: Qwen4 Max2026-11-16$1.50 / $4.50 每百万 tokens · 385 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百万 tokens · 87 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百万 tokens · 150 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 99 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百万 tokens · 84 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百万 tokens · 121 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 107 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 67 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 214 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 每百万 tokens · 160 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
两个检查点,同一系列,以及一个最终取决于你愿意为 11 个 Index 分花多少磁盘和内存的选择。Inkling 2 Mini 是小的那个:总参数 264 亿,激活参数 34 亿,是 Thinking Machines Lab 于 2026 年 11 月 20 日以 Apache 2.0 发布的一个约 20GB 的单一文件。Inkling 2 Small 则是大的那个:总参数 5940 亿,激活参数 170 亿,36 个文件共 393.5GB,权重于 11 月 12 日开放,此前自 11 月 5 日发布起经历了一周的封闭可用期。在独立测量两者的 Artificial Analysis Intelligence Index v5.0.1 上,它们分别得分 20.1 和 31。这就是一句话概括的全部取舍,但它低估了两者行为方式的差异有多大。
下文将两类证据区分开来,因为这一差异决定了关于该系列的大多数争论。Index 分数、每个索引任务的成本、速度、上下文和许可证是 Artificial Analysis 的数据和厂商元数据,读取于 2026 年 11 月 21 日。每个基准测试百分比都来自 Thinking Machines 自己在相关发布文章中给出的评估表,基于该公司训练的检查点,并且每次出现时都会标注为厂商报告。这两张表都没有在实验室之外复现过。
每个检查点实际上是什么
从制品说起,因为这两者并不是同一类东西。Inkling 2 Small 是一个扁平的混合专家模型:总参数量 594B,每个 token 激活 17B,权重在发布八天后以 24 个 safetensors 分片的形式公布,外加一个体积更大的 MXFP8 变体。Inkling 2 Mini 则是经过剪枝、带循环结构的衍生模型——沿用相同的主线配方,但删掉了三分之二的专家,并在中间层加入了循环。它以单个约 20GB 的文件交付,因为它从端到端训练时就采用 4 位精度,并且以训练时的精度部署:20 层用 NVFP4,4 层用 MXFP8,因此无需承担转换损失。
• 总参数量 — Inkling 2 Mini 26.4B 对比 Inkling 2 Small 594B。
• 活跃参数——3.4B 对比 17B;计入其三次循环轮次后,Mini 每 token 的有效权重激活量达到 5.4B。
• 下载 — 单个文件约 20GB,而 36 个文件共 393.5GB;MXFP8 变体则为 622.8GB。
• 指数 — 20.1 对 31,二者均基于 Intelligence Index v5.0.1。
• 每个索引任务的成本 — $0.59 对比 $1.18。
• 输出速度与首 token 延迟——9.72 秒时达到每秒 280 个 token,而 39.68 秒时为每秒 118 个 token。
• 背景——两个模型卡片上均标注 1M tokens,Artificial Analysis 对两者记录的也都是 1M。Inkling 2 Small 在 Tinker 上的实际服务层级比其模型卡片所标注的更窄,Mini 也继承了同样的差距;应把一百万上下文视为一种能力,而非运营承诺。
• 许可证——两者均为 Apache 2.0。Small 的卡片声明了它,却没有随附 LICENSE 文件;Mini 的卡片在元数据中声明了它,同样缺少该文件。如果你的法律审查希望在代码树中看到书面文件,这一点值得了解。

十一个要点,以及它们从何而来
并排阅读这两张供应商表格,是看清额外算力究竟换来了什么的唯一方法,因为仅凭索引分数会掩盖这一点。两个模型都由同一实验室使用有重叠的评测套件进行评估,因此各行彼此大致可比——而且仅彼此之间可比。
• DeepSWE v1.1 — Inkling 2 Small 72.1% 对 Inkling 2 Mini 48.2%。这是编码部分中差距最大的一项。
• SWE-bench Pro v2,困难 — 86.3% 对 77.9%。
• SWE-bench Verified——Mini 为 79.2%,仅 bash。Small 自己的发布表格并未列出同一行,因此这是这两篇文章唯一无法对齐的编程基准。
• Vibe Code Bench v1.1 — 81.6% 对比 77.9%。
• FrontierCode v2.0 — 25.4% vs 15.1%。在两者都最弱的基准测试上,差距达十个百分点。
• PMPP-Hard,这项内核优化基准测试——Small 的 AUC 为 494.27,而 Mini 为 455.82;这一差距比参数量所暗示的更接近,也正是发布文章在称 Mini“接近”其更大规格同系列型号时所指向的那一行。
• BrowseComp — 90.2% 对 79.0%;DeepSearchQA 90.9% 对 85.3%;MCP Atlas 85.0% 对 82.7%。搜索和工具使用将差距缩小到个位数。
• CritPt v2,完整版 — 55.7% 对 31.4%。科学推理正是额外存储知识体现得最突出的领域。
• AA-Omniscience — 16.1,非幻觉率为 73.3%;对比 −8.6,非幻觉率为 63.4%。
最后那一行才值得反复掂量。负的全知分数意味着模型比拒绝回答还糟,而11点的指数差距主要就体现在这里:更大的模型知道事情,更小的模型则把事情推导出来。Thinking Machines 自己用不同的话说过这一点,它解释说,循环增加的是串行计算,而不是存储的事实。剪枝砍掉了三分之二的专家;知识存在于剩下的专家之中。
同样的食谱,更小的平底锅
这种家族相似性并非营销话术。两个模型都经过了 SFT,使用了相似的数据组合,并经历了总计 2.2T 个 token、跨越 2,000 步的 RL 阶段,二者在对齐过程中都采用了同策略蒸馏。后训练流水线是同一条流水线;所不同的,是送入这条流水线的内容。
Mini 在那里的路线值得了解,因为它解释了基准测试结果表中的若干行。它从稀疏度 48 开始,将每个 token 路由到 384 个专家中的 8 个。在训练中期的某个时刻,Thinking Machines 每层保留了使用最多的 128 个专家——削减了三分之二——并用 1T 个从更大的内部 Inkling 模型蒸馏而来的 token 来恢复损失,训练留存下来的专家接管被删除专家的工作。然后它加入了循环:四个六层块,其中中间两个块运行三次,并有一个学习到的门控,将上一轮传递的信息合并到下一轮;其初始增益为零,因此训练开始时就像一个普通模型。
那个设计中有两个判断值得借鉴。该公司没有循环最后十二层,而是循环中间十二层;在28项评估中对两者进行测试后,发现中间层在27项上表现更好,计算等效增益为1.51–1.91×,而后者为1.24–1.36×。并且它让第一个和最后一个块保持单次通过,理论是这两个块负责词元到表示的转换,而中间层承载抽象。这就是为什么Mini在不增加参数的情况下,能从24个存储层中为每个词元获得48次层应用。
那种技巧的代价在运营层面。扁平 MoE 是每个推理栈都已经服务了两年的东西。循环模型大约从发布之日起就获得了 SGLang 和 vLLM 的支持,而模型卡明确表示,循环模型的运行时支持是新功能,并且速度会因情况而异。如果你这个月要在两者之间为生产路径做选择,那么更无聊的那个才是拥有成熟内核的那个。
硬件才是真正的分水岭
这两个检查点并不争用同一台机器,而这一点比分数更能决定部署选择。Mini 被指定为可在单台 NVIDIA DGX Spark、任何配备 32GB 或以上内存的 Apple silicon 设备,或具有 32GB 显存的 GPU 上运行;公司自己的演示中,它在一台处于飞行模式的 MacBook Pro 上离线构建了一个可玩的飞行模拟器,并在一台笔记本电脑上运行了含二十个智能体的城镇模拟。一项基于早期访问版本开展的斯坦福效率研究显示,它在 DGX Spark 上以 MXFP8 和低推理力度运行时达到每瓦 0.703 智能——由实验室外的研究人员在单台设备上测得,这是此次发布中最强的独立信号。
Small 需要一个节点。393.5GB 的权重放不进任何个人拥有的地方,这就是为什么使用它的自然方式是托管端点——就厂商而言是 Tinker——也是为什么对大多数读者来说,有趣的比较不是“我该下载哪个文件”,而是“这些里面到底哪些我能跑起来”。Mini 用一台笔记本电脑回答这个问题。Small 用预算来回答。
这种不对称正是路由发挥作用的地方,值得具体说明而不是空泛示意。两个模型都不在 OrcaRouter 上,所以今天没有可路由到它们中任何一个的路径。OrcaRouter 上提供的是 同一决策的托管侧:你会为 594B 检查点实际面向的工作负载调用的那些模型,用一个密钥,按提供商的标价、不加任何加价。路由 DSL 才是这里关键的一环——它让你按任务分流,使昂贵调用只发生在需要它的请求上,并在提供商宕机时自动故障转移,而廉价本地模型处理其余所有事情。在本地运行 Mini,只为难处理的尾部请求发起外部调用,比让任一模型处理所有任务账单更小,而这正是本次发布实际使之成为可能的安排。
三起案件中的裁决
如果你要构建一个运行在开发者机器上或单个离线设备中的智能体,Inkling 2 Mini 就是答案,而且毫无悬念。20GB 下载体积、每秒 280 个 token、Apache 2.0,以及一张在厂商自己列出的行上击败所有同规模开放权重模型的编码基准表。把它放进沙箱——模型卡警告了破坏性文件操作和调试时的循环——它就能在你已有的硬件上完成仓库级智能体工作。
如果你的工作负载是在大量并非由你撰写的文档上进行检索,那么 Small 的优势主要体现在那些需要回忆某份文档说了什么的条目上。CritPt 为 55.7% 对 31.4%,omniscience 为 16.1 对 −8.6,以及 73.3% 的非幻觉率对 63.4%,在合规或金融环境中都不是小差距——在那里,一个自信的错误答案比一个缓慢的正确答案代价更高。为了获得这些优势,你需要为一个节点或一个端点付费。
如果你是在为混合负载做选择,那么关键就在于这种分工。Mini 的弱项是知识,而知识恰恰是你可以从外部补足的东西——检索层、搜索工具、以及在困难长尾上调用更大的模型。它的强项是长时间跨度的智能体持续性,而价格在 20GB 这一档里无人能及。买下这个小模型,租用知识,并把 594B 检查点当作你要升级调用的对象,而不是你日常运行的东西。

有一个注意事项贯穿所有三种情况,而且应当放在最后,而不是被埋没。两个模型的基准测试表都来自实验室自己,而指数得分是本次比较中唯一独立测量的能力数值。31 和 20.1 具有可比性;86.3% 和 77.9% 彼此之间具有可比性,除此之外与任何其他数字都不可比。任何把厂商数据行与竞争对手已公布分数并列引用的人,比较的是两套评测框架,而不是两个模型。

