为文章生成的标题卡,说明 Bespoke-Nimble-9B-v3 于 2026 年 9 月 30 日出现在 Hugging Face 上,厂商并未发布任何公告,同时该版本的发布使该系列从 Apache 2.0 转为 CC BY-NC 4.0。
Engineering & Research

Nimble v3 悄然发布:Bespoke Labs 的 9B 决策模型转为非商业

作者

Gideon Frost

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

的权重Nimble v3 —— 归档为 Bespoke-Nimble-9B-v3 —— 已于 2026 年 9 月 30 日上传至 Hugging Face,而十三天后,Bespoke Labs 仍未公开谈及它们。实验室自己的博客上没有发布任何帖子,没有发布说明,仓库的拉取请求历史中没有任何提及该版本的条目,项目 README 的更新日志中也没有一行。存在的只是一个包含五个文件的仓库、一个配套评估数据集、一份简短的模型卡,以及一份已发生变更的许可证。同一实验室还为 Bespoke-Nimble-27B-v3 于 10 月 9 日预留了一个占位符——该仓库唯一的模型文件是一条说明,解释权重尚不存在。

这就是从厂商侧所能知道的全部内容,值得把它与不可知的部分区分开来。以下所有内容均来源于 Hugging Face API、原始模型卡、GitHub API,以及该模型目前附带的打包元数据;如果某个数字来自厂商自身,文中会明确说明。

仓库里实际上有什么

Bespoke-Nimble-9B-v3 包含 README.md、adapter_config.json、adapter_model.safetensors、一个 schema_config.json 以及 .gitattributes。这就是完整列表。它是一个 PEFT LoRA 适配器,而不是独立模型:模型卡片将 Qwen/Qwen3.5-9B 指定为基础模型,且该基础模型未在仓库中重复存放。

卡片本身由四个简短小节组成。它说适配器接收“一个上下文和带类型的问题(在多个选项中做选择,或者是/否)”,并为每个选项返回一个概率。它报告 Decision Index 0.2.1 的得分为 56.88。它说明了许可证。它附有一条引用,列明 Shreyas Pimpalgaonkar、Sid Devic、Mrinal Kumar、Pratik Dalal 和 Mahesh Sathiamoorthy。

其中没有什么,这一点同样重要。没有分词器,没有提示构建器,没有参考推理代码,没有校验和文件,没有来源记录,也没有上下文长度契约——而这一切,该系列的首个版本Bespoke-Nimble-9B于9月18日随其自身权重一同发布,作为一份包含二十一个文件的软件包的一部分。v3 仓库只是一个适配器检查点和一行许可证。要想正确运行它,所需的一切如今都得由你自己拼装,或者从打包者那里获取。

A screenshot of the Bespoke-Nimble-9B-v3 model card on Hugging Face, showing the repository file list of five files, the CC BY-NC 4.0 licence declaration, the Qwen3.5-9B base model, the Decision Index 0.2.1 score of 56.88, and the five named authors in the citation block.

许可证是决定谁可以使用它的那一部分。

v3 卡片中真正能改变一场采购对话的那句话是:Bespoke-Nimble-9B-v3 依据 CC BY-NC 4.0发布,卡片对此的注解是“不得用于商业用途”。

此前每一个 Nimble 检查点都采用 Apache 2.0 许可。Bespoke-Nimble-9B采用 Apache 2.0 许可。Bespoke-Nimble-9B-v2于 9 月 23 日上传,采用 Apache 2.0 许可。其基础模型采用 Apache 2.0 且始终如此——Bespoke 的模型卡已明确说明这一点,这既是诚实的做法,也正是企业无法通过援引基础模型许可来绕过该限制的原因。基础模型采用宽松许可,并不会让非商业性适配器变得宽松,而决策行为恰恰存在于适配器之中。

还有第二个许可证问题,情况更糟,因为它模棱两可,而不只是限制性强。那个 GitHub 仓库 bespokelabsai/nimble——该项目的所在地,目前拥有 2,179 个星标——通过 GitHub API 报告称 完全没有许可证。一个没有许可证文件的仓库,在任何律师会认可的意义上都不属于开源,无论维护者是否有此意图,这一点都成立。该实验室自己的 README 也承认该模型首次发布时存在粗糙之处;而一个未获授权的训练与数据整理代码库则属于另一类问题。

所以,对于今天要规划产品的人来说,实际处境是:Nimble v3 的权重可读取、可下载且为非商用;生成这些权重的代码没有声明任何条款。如果你需要一个基于 Qwen3.5-9B 的可商用决策模型,那这个并不合适,替代方案已在 Nimble v3 对比 Kev 和 Nimble v3 对比 Decider中有所考察。

三组数字,三台不同的仪器

v3 卡片上只载有一个分数:在 Decision Index 0.2.1 上为 56.88。Bespoke Labs 的配套数据集仓库公布了完整运行记录、引擎与复现说明,这比大多数供应商提供的透明度都要高,而且这个数字仍然是发布方自己的——是用其自有的第三方工具包参考实现测得的。

对于较早的检查点,该系列发布了一张范围广得多的表,而它也是唯一存在的、用于与界定该类别的模型进行正面对比的材料。在 324 个留出的对比对上,9 月 18 日的模型匹配了 90.12% 的参考标签,而 TypeSafe 的 Jev 1.13.0 为 93.21%,Qwen3.5-9B 基座则为 66.36%。在十三个公开数据集上的 3,880 个人工标注决策中,其得分为 75.7%,而 Jev 为 76.0%——不相上下。这些数字属于首个 Nimble,而不是 v3,且该项目将它们标注为自己的测量结果。

第三组是 Bespoke Labs 没有人运行过的那一组。如今随附模型以供本地使用的那个软件包,公布了一次包含 231 个用例的运行结果,涵盖 JevBench 原版、简单集和困难集,在配备 40 核 GPU 的 Apple M5 Max 上:未量化的 MLX 构建为 231 个中答对 201 个,中位延迟 88 毫秒;未量化的 GGUF 构建为 231 个中答对 202 个,延迟 176 毫秒;而 Q4_K_M 量化版本为 231 个中答对 198 个,延迟 168 毫秒——表格旁还印有一条说明:量化会改变得分和决策。这是一个第三方测试框架,但它是打包方的测试框架,而非独立审计,而且打包方直言,JevBench 和 Decision Index 使用不同的任务和不同的评分方式。

A screenshot of the bespokelabsai/nimble GitHub repository, showing the description 'Local typed decisions, contrastive data curation, and model evaluation', the README heading 'Data, Model, Recipe for an open Jev', the star count, and the absence of a declared licence in the sidebar.

Bespoke Labs 没有说的事

读者有理由期待找到、却不会找到的五件事:

• 上下文长度。v3 卡片对此未作说明。打包方的清单宣传的是 32,768 个 token,而该系列更早的版本记录了一份 8,192 token 的约定,超长提示会被拒绝而非截断。这些是不同的数字,描述的是不同的东西,而 Bespoke 自己的 v3 材料中没有任何内容能说明哪一个适用于该适配器本身。

• 选项上限。早期的 Nimble 检查点记录了每个字段 1 到 255 个选项——这是有意超越最初 26 个的扩展,利用了额外的单 token 词表槽位。v3 是否继承这一上限,文中并未说明。

• 一个温度参数。这个系列在这方面的历史确实很有用,也值得了解:最初的 checkpoint 发布时带有一个接近 2.18 的拟合值,9 月 24 日的更新把默认值改为 1.0,且没有单独拟合,而中间的各个版本则各自带着自己的设置。用错哪一个并不会改变最终胜出的答案,但它会改变每一个概率——而概率就是整个产品本身。v3 的卡片对此只字未提。

• 任何关于变更内容的说明。该仓库的 PR 历史从 9 月 24 日的“Support latest Nimble 9B release and checkpoint defaults”直接跳到 10 月 13 日的一个 README 徽章。没有 v3 变更说明,没有数据血缘更新,没有训练摘要。

• 关于这个 27B 的任何信息都行。该 Bespoke-Nimble-27B-v3 仓库创建于 10 月 9 日,内含一份许可证声明、一份 README,以及一个文件——而该文件的全部内容就是:权重尚未发布。README 只给出了一个数字——在 Decision Index 0.3 公开测试集上为 65.33——并说明该模型运行在 Bespoke Labs 的托管 API 上,需联系该实验室以获得访问权限。没有下载,没有日期,没有权重。它只是一个占位符,也应当被当作占位符来看待。

一次静默发布就是这个样子:检查点出现了,文档却没有,而版本号是唯一表明曾作出决定的迹象。

这周究竟发生了什么变化

使今天可以写这件事的并不是9月30日的上传;真正使其可以写的是 Nimble v3 变得可安装,这是最近几天的事。一个本地模型运行时添加了nimble-v3到其公共库中,时间是10月13日,将适配器合并进 Qwen3.5-9B 基础模型,因此一条拉取命令就能得到一个可运行的 9B 决策模型,具有六种权重格式——两个 17.9 GB 的未量化构建、一个 9.3 GB 的 MXFP8 MLX 构建、一个 6.9 GB 的 NVFP4 构建、一个 9.5 GB 的 Q8_0 和一个 5.6 GB 的 Q4_K_M。撰写本文时,该条目显示有 45 次下载和“三小时前更新”的标记,这几乎是一个模型目录条目所能达到的最新状态。

随之而来的是两点。第一,获取问题已经变了性质:十三天前,使用 Nimble v3 意味着要下载一个 9B 基础模型、合并一个 LoRA,并重建该仓库已不再记录的提示格式。现在,它意味着拉取一个软件包——许可证限制也随之内置其中,并附带打包者自己的说明:他是把适配器合并进发布者指定的基础模型,而不是重新分发任何 Bespoke Labs 未发布的内容。

第二点是,一个此前没有任何相关数字的模型现在有了首轮运行数字。来自非厂商测试工具的 231 例准确率数据和延迟分布,正是这一类评估一直缺失的证据,而且它值得被当作下限而非定论来解读:同一次运行中,量化构建比非量化构建少了 4 例,打包者还警告说,你的阈值需要根据你自己的示例重新验证。

这对路由意味着什么:决策模型是一个窄范围的组件,Nimble v3 只回答你交给它的问题——它无法写作、无法解释,也无法返回不属于你所提供选项的答案。像这样的流水线中,生成的那一半正是 OrcaRouter 所覆盖的部分:一个与 OpenAI 兼容的密钥背后接入 200 多个模型,按服务商标价原样透传,0% 加价,并具备自动故障转移以及可用代码表达的路由 DSL。OrcaRouter 并不提供 Nimble v3,此处任何内容都不应被解读为它提供了该模型的声明。准确的说法是:廉价的本地决策头与其背后经过路由的生成模型是同一套模式的两半,而如果你正在构建后一半,那就是我们。

A generated scoreboard card for Nimble v3 listing six dimensions: release date September 30 2026, licence CC BY-NC 4.0 non-commercial, base model Qwen3.5-9B with a LoRA adapter, repository size five files, headline score 56.88 on Decision Index 0.2.1 measured by the publisher, and vendor announcement status none, with a footer noting that all figures are publisher-reported and the 56.88 comes from the publisher's own implementation of a third-party benchmark kit.

该怎么处理它,以及需要注意什么

如果你是在评估决策模型,而不是要上线一个模型,那么 Nimble v3 现在是进入这一类别最便宜的方式:一次拉取,有一台笔记本电脑即可、无需 GPU,一个有记录的第三方准确率数字,以及一个适合研究用途的许可证。如果你是在构建产品,许可证会在基准测试给出答案之前就回答这个问题,而缺失的上下文契约和温度意味着,无论你是否有意,你都将用自己的数据进行校准。

会改变这一评估的三件事:一份澄清许可证的厂商公告(旗舰检查点采用 CC BY-NC,对于一个在其他方面一直以 Apache 2.0 发布、并融资 4000 万美元来为企业打造产品的实验室来说,这很不寻常)、一个内容充实的 27B 仓库,以及一份变更说明,解释 v3 相比 v2 究竟有何不同。在那之前,诚实的总结是:一个有能力的团队上传了一个检查点,限制了它的使用,然后让打包者去发布消息。

Nimble v3 是一个开放权重的适配器,需由你自己部署;同一条流水线中的生成部分才是 OrcaRouter 所覆盖的。一个 OpenAI 兼容密钥即可访问 200 多个模型OrcaRouter 并不提供 Nimble v3,本文中的任何内容都不应被解读为声称其提供该服务。