
MiniCPM5-15B-A2.5B:四种运行时均已移植,却无人可下载
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百万 tokens · 189 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百万 tokens · 204 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百万 tokens · 87 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百万 tokens · 97 tok/s
- orca新Orca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 132 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百万 tokens · 77 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百万 tokens · 118 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 114 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 66 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 93 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 211 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 每百万 tokens · 168 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
2026-11-16,llama.cpp 中出现了一个名为“xcy/models: add MiniCPM5 MoE inference support”的拉取请求。这是一项细致的工作——新增架构条目、转换路径和测试——而其验证部分中有一句话让一位维护者停了下来:作者曾在 H800 上让它针对“已有的 MiniCPM5-15B-A2.5B GGUF 文件”运行过。CISC 问出了那个显而易见的问题。据我所知,它还没公开?tc-mb 的 GitHub 个人资料显示其是 MiniCPM-V 和 MiniCPM-o 项目的成员,他只回了一个词:“ok”。两天后,该拉取请求在未合并的情况下被关闭;而这些 GGUF 所属的模型——OpenBMB 的 MiniCPM5 系列中的稀疏混合专家(MoE)型号 MiniCPM5-15B-A2.5B——仍然没有代码仓库、没有模型卡、没有许可证文件,我们也找不到任何相关公告。
这是一篇“截至目前我们所知”的文章,而证据的形态比平常更重要。没有可阅读的产品页面,也没有可争辩的厂商基准测试。现有的是来自四套独立推理栈的一组引擎补丁——由当时手头有该检查点的人编写——外加他们的测试日志。这足以相当精确地描述 MiniCPM5 MoE 的架构,并就其支持成熟度作出诚实的说明。但这不足以告诉你该模型的得分、成本,或者你何时能运行它。
名字允许告诉你什么
检查点名称是 ModelBest 以外的人唯一发布过的规格表。MiniCPM5-15B-A2.5B 可解读为总参数 15B、每 token 激活 2.5B——这是自 Mixtral 以来,这一规模级别中每个稀疏 MoE 都采用的总量与激活量命名惯例。任何补丁中都没有与此矛盾的内容,而 SGLang 移植版自己的测试说明提到“原始 15B 检查点配置”无需修改即可解析,这与之一致。
在此之后的一切都是猜测,值得坦率说明原因。SGLang 补丁添加了一个MiniCPM5Config类,其默认值为 32 层、4,096 隐藏维度、32 个注意力头、64 个路由专家、2 个共享专家,以及宽度为 1,407 的专家 FFN。这些是从 GLM-4 模板继承来的类默认值,而不是检查点的值——同一个文件默认词表大小为 32,000 个 token,而 2026 年没有任何准前沿模型在发布时采用这样的词表。不要把它们当作规格参数来读。唯一看起来可能真实的数字是 3.66 的路由缩放因子,它出现在 llama.cpp 架构测试和转换测试夹具中;夹具终究只是夹具,因此应把 3.66 视为“测试围绕其编写出来的数字”,而不是已确认的常量。
从四个补丁中解读出的架构
四个独立的移植版本给出了完全一致的描述,这是此次泄露最令人安心的部分。SGLang 的补丁说得最明确:该模型"沿用 GLM-4.5 MoE,但有三处不同"——门控注意力、完整旋转位置编码且不做 q/k 归一化,以及路由器以模型自身的数据类型计算,而非向上转型。
• 门控注意力——查询投影会与查询一同生成一个逐头的 sigmoid 门,并交错排列在每个头的各行中。llama.cpp 转换必须逐个张量将它们拆分开,这就是两个移植实现都特别指出这一点的原因。
• 前置密集层,然后是专家层——前 first_k_dense_replace 层是普通 FFN;只有之后的层才进行路由。tc-mb 的 fork 补丁指出,现有的 qwen35moe 和 minicpm 架构都没有对这种结构建模,这就是为什么 MiniCPM5 MoE 需要自己的架构条目,而不是在现有架构上加一个标志。
• 路由专家与共享专家——sigmoid 门控、归一化的 top-k 权重,以及与路由专家并行的共享专家分支。llama.cpp 会读取每个 MoE 层的 FP32 路由器校正偏置(e_score_correction_bias),这与 DeepSeek 风格路由器用来保持专家负载均衡的偏置项相同。
• 全旋转,无 q/k 归一化——在头维度上使用普通 RoPE,转换时显式保留头维度,而不是通过隐藏大小除以头数来推导。

DSpark 是故事的后半部分,也是这次泄露之所以有趣、而不只是条理清楚的原因。DSpark 是使用经过训练的草稿模型进行的推测解码——与 OpenBMB 已为 MiniCPM5-2B 和 MiniCPM-V 4.7 发布的算法相同——而且 SGLang 和 llama.cpp 的两个补丁都将 MiniCPM5 MoE 添加为 DSpark 目标。llama.cpp 文档示例中引用了一个名为 MiniCPM5-15B-A2.5B-DSpark 的独立草稿检查点,这意味着草稿也存在,无论目标存放在哪个私有存储中。
四个引擎,一个未发布的检查点
时间线正是这件事值得一写的原因。移植通常不会在正式发布前这么早、横跨这么多技术栈进行:
• 2026-09-17 — MUSA 分支上的 Megatron-LM 补丁使 MoE 容量因子处理和免丢弃路由成为“minicpm5”的默认配置。训练侧,也是我们找到的最早痕迹。
• 2026-10-14 — InfiniTensor 的 InfiniLM 开源了一个补丁,可在登临 QY 后端上启用 MiniCPM5 MoE,并包含 FlashAttention 以及长上下文 MoE/RoPE 内核;2026-11-12 的后续更新新增了 CUDA 图捕获安全性和 bf16 解码路径。
• 2026-11-13 — tc-mb 的 llama.cpp-omni 分支新增了 MiniCPM5 MoE 架构,同日发布的第二个补丁将专家区域接入量化器。验证部分报告 法国的首都是补全为巴黎。以及 17×23 返回 391。
• 2026-11-16 —— 上游 llama.cpp 的拉取请求。该请求于 2026-11-18 关闭,未合并,转换路径被排除在范围之外,三天后又在分支中重新讨论。
• 2026-11-19 — SGLang 在 09:39 开放了一个端口,随后将其关闭,并于 10:19 在一个重命名后的分支下重新开放。同一天上午,一位 Intel 工程师提交了一个 optimum-intel 补丁,其第一个代码块就是一条 export 命令,将 openbmb/MiniCPM5-15B-A2.5B 作为其输入。

最后那个最接近确凿证据。optimum-intel 补丁描述的并不是一个假设中的模型——它会运行 optimum-cli export openvino -m openbmb/MiniCPM5-15B-A2.5B --weight-format int4,并报告相对于原始模型的准确率。写它的人手里有这些权重。它所指的 Hub 路径对匿名请求没有任何返回,而 OpenBMB 自己的 MiniCPM README 仍将 2026-09-07 和 2B 列为最新版本,其模型表中也找不到任何 MoE 条目。
测试日志实际显示了什么
这是需要慢慢阅读的部分,因为这些补丁中的数字是工程检查,而不是基准测试,而且其中两项是失败。
llama.cpp 这一轮运行覆盖范围最广。BF16、Q8_0 和 Q4_K_M 权重均在 H800 上生成并接受了 DSpark 草稿 token,且草稿配置为 --spec-draft-n-max 2。八个分词器样本与 Hugging Face 分词器完全一致。在合成架构测试中,CPU 与 CUDA 的 NMSE 为 1.00e-06。然后是作者自己道出的保留意见:贪婪普通解码与 DSpark 解码“显示出 token 级差异”,原因“尚未得到充分表征”,输出等价性“尚未确立”。没有针对原始检查点的 logits 一致性运行,没有质量评估,也没有性能数据。作者明确表示,并未提出任何加速主张。
SGLang 这次运行信息量更大,因为它隔离了一个变量。在使用 Triton 注意力时,DSpark 在四次 64 个 token 的生成中执行了 93 个验证步骤,并且在每个提示上都与普通解码产生了分歧。在使用 FA3 注意力时,相同的 15B 检查点和草稿在全部四次上都产生了匹配的贪心 token ID。按补丁当前的写法,Triton 的差异仍未解决。应如实理解这一点:这是有人发现但尚未解释的内核路径差异,而不是关于该模型的结论。
OpenVINO 的数据是整个集合中唯一的定量质量信号,而且这些数字并不高。在 26 个提示和 128 个新 token 上,以 FP32 原始模型为基准,在 GenAI SDPA 后端下,CPU 上 bf16 的 WWB 文本相似度得分为 0.9934,int8 为 0.9455,int4 为 0.8710;在 B70 GPU 上,int8 为 0.9498,int4 为 0.8646。int4 转换落到 0.87,这是一个转换保真度结果——它说明量化后的计算图偏离了参考模型,而不是说明参考模型很好。还没有人发布过 MiniCPM5-15B-A2.5B 的基准测试得分,在有人发布之前,没有依据称它强或弱。

如果发布,它会位于何处
OpenBMB 的 MiniCPM5 系列迄今一直在论证密度。1B 于 2026-05-19 发布,2B 于 2026-09-07 发布,二者均为稠密模型,均采用 Apache-2.0,且都为端侧部署而构建——2B 是一个普通的 LlamaForCausalLM,没有自定义内核,这正是它能在数周内移植到 llama.cpp、MLX、ONNX 以及六种 NPU 工具链上的原因。一个总参数 15B、激活参数 2.5B 的同系列模型,将成为首个并非边缘模型的 MiniCPM5:激活预算与 2B 相同,存储权重约为其六倍,并且需要一个能被良好服务、才值得其内存占用的路由层。
这种说法也解释了这次泄露为何呈现出奇怪的形态。如果 MiniCPM5 MoE 面向的是服务端部署而非手机端,那么这些引擎移植就不是发布后才补上的锦上添花项,而是发布的前提条件,并且已经有人在提前做了。同一个 GitHub 账号同时提交了 llama.cpp 和 SGLang 的移植、一位 MiniCPM 项目成员正在合入 fork 补丁,以及 DSpark 已经存在一个草稿检查点,这些事实都指向同一个结论:这是一个能接触到该模型的人正在为发布做准备,而不是从变更日志里拼凑出来的传言。
什么会改变这张图片?
三件事,按它们能解决问题的程度排序。
首先,一个代码仓库。一个带有配置、许可证和模型卡片的 Hub 或 ModelScope 页面,会把上面那段话的大部分内容从推断变为事实,并且会立刻为我之前警告过的那些配置默认值提供可供核对的依据。
其次,一个一手来源的基准测试。MiniCPM5-2B 的模型卡包含 53.9 的套件平均分,以及 LiveCodeBench、AIME 和 SWE-bench 的各任务单元格;而一个没有同等表格的 15B-A2.5B,其整体价值主张就是未被衡量的。Artificial Analysis 上的收录条目就能做到这一点,因为它独立于厂商。
第三,已合并的移植版本。这里描述的每个补丁要么已关闭,要么仍是草稿,要么搁置在某个私有 fork 上。仅存在于未合并拉取请求中的支持,是你无法安装的支持;而且——正如 Triton 与 FA3 之间的分歧所显示的——该架构上的正确性仍在逐个内核地逐步确立。
对今天的读者来说,实际影响很简单:无需下载,无需调用,无需迁移。像这样的模型在真正面世时,改变的是关于工作负载在何处运行的决策,而这个决策通常是在时间紧迫、证据不完整的情况下做出的——这正是路由层存在的意义所在。OrcaRouter 把 200+ 个托管模型统一到一个 API 之后,按 提供商标价且不额外加价,因此你真正想做的比较——把这个检查点与你今天调用的任何模型相比——一旦有人托管它,搭建起来毫无成本;自动故障转移意味着刚发布第一周的模型永远不必独自支撑生产路径。所有这些都不需要 MiniCPM5-15B-A2.5B 已经可用,我们也不提供它——它是在一个未发布的模型证明自己之前,围绕你已依赖模型的安全网。
在此之前,最诚实的总结就是 llama.cpp 讨论帖给我们的那个:GGUF 文件确实存在,但它们并未公开。四个运行时已经写好了加载它们的代码。请按这个顺序关注 OpenBMB 组织页面和那两个开放的拉取请求——仓库出现是信号,而移植被合并则是确认:该架构正是这些补丁所说的那样。
