一张生成的标题卡,标题为 LFM2.5-24B-A2B 对比 Ternary Bonsai 2 27B,副标题是“差别在于 2 个比特和一条云连接”,它位于三张卡片上方,卡片上分别写着“在 20 项基准测试中 83.9 对 85.4”、“Ternary Bonsai 2 保持 262,144 个 token 的上下文”,以及“LFM2.5-24B-A2B:131,072 个 token,仅限文本”,页脚写着“98.2% 的留存率是 Prism ML 自己未经复现的测量结果”。
Engineering & Research

LFM2.5-24B-A2B 与 Ternary Bonsai 2 27B:区别在于 2 个比特和一条云连接

作者

Gideon Frost

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

下面是最简短也最诚实的回答。LFM2.5-24B-A2B是一个纯文本的混合专家模型,由 Liquid AI 打造,目的是在无网络的机器上嵌入智能体循环中运行,于 2026 年 10 月 13 日发布,总参数量为 24.0B,激活参数为 2.45B。Ternary Bonsai 2 27B是 Prism ML 于 2026 年 9 月 17 日以 Apache 2.0 许可发布的对 Qwen3.8-27B 的低比特重写版本,它以 1.76 有效比特把每个权重存为三种符号之一,将 53.81 GB 的 FP16 模型压缩成 5.93 GB 的下载包。两者的体积都小到可以放在本地,也都是开放权重,但它们想做的事并不相同。Liquid 的模型被训练来调用工具。Prism 的模型则是一个全精度视觉语言模型,只不过穿了一身便宜得多的外衣。

这种组合之所以值得写上一页,是因为其中每一项都会告诉你它自身证据的薄弱之处,而这两处薄弱恰好相反。

每一个是什么,精简到真正重要的部分

LFM2.5-24B-A2B 沿用 LFM2 架构:40 层,30 个双门控短卷积块和 10 个分组查询注意力层,每个块 64 个专家、采用 top-4 路由,131,072 token 上下文,128,000 token 词表,文本输入、文本输出。Liquid 的后训练流程以一个智能体强化学习阶段收尾,该阶段在 OpenClaw、Hermes Agent、Pi 和 OpenCode 中运行。厂商明确建议将其与检索或网络搜索配合使用,而不要信任它来回答知识性问题——在其自己的发布表格中,AA-Omniscience 一行位于 −24.90,这正是该建议的数字形式。

Ternary Bonsai 2 27B 与 Qwen3.8-27B 是同一个网络,只是写法不同。Prism ML 的白皮书将 27.36B 参数拆分为:24.35B 位于语言主干中、分布在 64 个块里,2.54B 位于嵌入和 LM head 中,0.47B 位于一个 27 层的视觉塔中——该视觉塔以单独的 4-bit mmproj 文件形式发布,大小约为 0.63 GB,仅在图像到来时才会加载。基础模型的混合注意力——48 个 Gated DeltaNet 线性注意力层与 16 个全注意力层交错排列,隐藏大小为 5,120,词表为 248,320 个 token——被原封不动地继承下来。262,144 token 的上下文也是如此。

最快区分它们的分界线是多模态能力。Ternary Bonsai 2 27B 支持图像输入。LFM2.5-24B-A2B 则不支持,任何量化技巧都无法改变这一点。

品质,就在他们彼此仅有的那张桌上

Prism ML 在一套包含 20 项基准测试的测试集上,将其构建版本与全精度原版进行了对比测量,并报告称其保留了98.2%的平均水平——83.9 对 85.4。这是厂商自家的测试框架,问世仅一个月,无人复现。无论有意与否,这恰恰是那种会掩盖自身分布的声明,因为这 1.8 个百分点并非均匀分布。

A generated comparison card titled Where the missing 1.8 points land, listing five rows from Prism ML's 20-benchmark suite: math 96.57 against 97.06, coding 81.58 against 82.17, instruction following 82.66 against 81.25, knowledge and reasoning 83.95 against 86.66, and agentic and tool calling 77.57 against 79.74, above a footer reading All figures Prism ML's own, unreproduced.

• 数学 — 96.57 对 97.06。基本持平。

• 编程 — 81.58 对 82.17。很接近,而这正是压缩技术争论所针对的类别。

• 指令遵循——82.66 对 81.25。压缩后的模型领先,这是表格中唯一真正令人惊讶之处。

• 知识与推理——83.95 对 86.66。下降了 2.7 分,是缺失的 1.8 分中最大的单一贡献项。

• 智能体与工具调用 — 77.57 对比 79.74,涵盖 τ2-Bench 的 80.22 与 BFCL v3 的 74.92。

现在,在这里使用那张表的问题在于:Prism 的数值是它基于自身全精度底座构建的结果。Liquid 的数值——AutomationBench 27.69、LiveClaw 48.09、ToolSandbox 80.71、BFCLv4 65.01、IFEval 96.75、IFBench 74.69——则是针对另一组模型、在另一套测试框架上、使用不同的生成设置得到的。没有一个基准同时出现在两张表中。任何把 BFCLv3 74.92 和 BFCLv4 65.01 并排放置,然后宣布赢家的人,都是把两个不同的测试拿来比较,还称之为结果。

运行时才是两者真正分道扬镳的地方

这一点不是厂商的宣传说辞,而是一个你花一个下午就能碰到的兼容性事实。

Prism ML 不得不为这一架构编写内核,因为其打包格式和以线性为主的注意力机制都很不寻常。原版 llama.cpp 会将 Prism 的两种打包格式都当作未知类型而拒绝——而更危险的是,它会毫无怨言地加载一种更早的三元格式,并输出流利却毫无意义的胡说八道,因为没有对激活值施加匹配的旋转。如果你在不了解 Ternary Bonsai 2 27B 的二进制程序上运行它,你不会得到报错。你得到的是自信满满却错误的输出。

LFM2.5-24B-A2B 的风险状况则正好相反。Liquid 列出了对 llama.cpp(GGUF)、MLX、vLLM、SGLang 和 ONNX 的首日支持,外加 FP8、ONNX 和 4 位 MLX 的兄弟仓库——这是一次常规发布。那里的未决问题在于性能而非正确性:厂商给出的 Apple M5 Max 上每秒 184 个 token、AMD Ryzen AI Max+ 395 上 114 个 token 的数据均未被复现,而“比次优模型最高快 1.7 倍”这一主打说法也没有附上任何已公布的基线。

A headless-browser capture of Prism ML's announcement page for Bonsai 2 27B, dated September 17 2026, titled PrismML Launches Bonsai 2 27B, Its Most Capable Model Yet, showing the opening paragraphs stating the model is based on Qwen3.8 27B, reduces memory footprint by more than 9x to 5.9 GB, and that while the original Ternary Bonsai 27B retained 95% of its full-precision counterpart's aggregate benchmark performance, this generation improves on that.

在这里,0% 加价到底在什么情况下才真正重要?

在这两个模型之间,路由这个角度确实很尴尬,值得直说,而不是粉饰一番。Ternary Bonsai 2 27B 是一个下载项:Prism ML 以 Apache 2.0 许可在 Hugging Face 上分发它,而整套技术的要点就在于你自己运行它。LFM2.5-24B-A2B 同样主要是一个本地产物,Liquid 的 Console 端点价格为每百万输入 token 0.10 美元——缓存命中为 0.05 美元——而每百万输出 1.00 美元则是托管替代方案。这两者的核心价值主张都不是按量计费的 API 调用。

路由层真正能赢得一席之地的地方,是站在它们旁边,而不是取代它们。Ternary Bonsai 2 27B 压缩所依据的基座模型——qwen/qwen3.8-27b,由 A​libaba 于 2026 年 8 月 13 日发布——在我们的目录中以每百万输入 $0.33、每百万输出 $2.40 的价格提供服务,这意味着同一个任务可以在已上线提供服务的全精度模型上运行,同时你在相同的提示词上评估 5.93 GB 的本地构建版本。这是一种以低成本进行的公平比较,而这正是 Prism 自己的 20 项基准测试表无法为你做出的比较。

A generated two-column scoreboard titled LFM2.5-24B-A2B vs Ternary Bonsai 2 27B, the scoreboard. The left column reads total parameters 24.0B, active per token 2.45B, context 131,072 tokens, input text only, licence lfm1.0 and trained with agentic reinforcement learning. The right column reads total parameters 27.36B, bits per weight 1.76 packed, context 262,144 tokens, input text and image, licence Apache 2.0 and a 5.93 GB download against 53.81 GB FP16, above a footer reading Prism ML's 98.2% retention figure is its own unreproduced measurement; the two models have never been benchmarked against each other.

该许可证不是任何一方的脚注

Ternary Bonsai 2 27B 采用 Apache 2.0 许可,没有营收触发条件,也没有使用领域条款;其衍生自的 Qwen3.8-27B 权重也是如此。LFM2.5-24B-A2B 以 Liquid 的 lfm1.0 许可证发布,这是一份不同的法律文书,带有自己的商业条款。从纯工程角度看,这两个模型足够接近,选择往往取决于部署形态——本地执行器还是本地视觉推理器——但许可证是唯一不随基准测试周期变化的输入,在基于任一模型构建产品之前,值得对照自己的营收数字核查一下。

每家厂商没有测量的那件事,才是值得关注的。Prism ML 公布了一个保留率百分比,却没有公布 1.76 比特模型在你的数据上按工作负载划分的表现,而一个平均达到 98.2% 的压缩产物,对你唯一在意的那一类任务来说仍可能是错误的工具——编码能力的下滑,总体上虽小,却会在某个具体环节造成最严重的冲击。Liquid 发布了一张智能体表格,既没有独立列,也完全没有针对 131K 窗口的长上下文检索数据。这两个缺口都要靠发布基准测试来填补,而不是靠一篇博客文章,而哪家厂商先发布,就会比最后那 1.8 个百分点把这场争论推进得远得多。

在我们的事故档案中追踪实时模型中断和降级,并查看哪些路由已成功完成故障转移。