用于 Aion-1.0-Instruct-2.3B 与 Qwen 3.8 对比的标题卡,将 2.3B 的 Windows 端侧模型与 27B 的开放权重视觉语言模型进行对照。
Guides & Insights

Aion-1.0-Instruct-2.3B 对比 Qwen 3.8:当 Windows 组件遇上 27B 主力模型

作者

jinhao.song

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

2026年11月18日,微软的 Hugging Face 组织下出现了一个名为Aion-1.0-Instruct-2.3B的仓库,仅有一次提交,说明为"Duplicate from asgmodels/Aion-Instruct-v1"。没有博客文章,没有模型卡公告,没有新闻稿,也没有任何报道。它的模型卡将其描述为面向设备端 Windows 工作的基础小型语言模型,并补充说,它的一个进一步优化的版本将与微软的内容审核模型捆绑,在2027年1月底之前成为 Windows 操作系统的 SLM。把这一点与Q​wen3.8-27B——阿里巴巴于2026年8月发布的开源权重270亿参数视觉语言模型——以及其上的托管Q​wen3.8-Flash和Q​wen3.8-Max层级放在一起看,这个比较很快就与质量无关了。一个是按笔记本电脑规模设计的组件,另一个是你按百万 token 租用的通用模型。基准测试表能告诉你的一切几乎都无关紧要。 Q​wen3.8-27B 在OrcaRouter 的目录中以 qwen/qwen3.8-27b 的形式提供,使用与 Q​wen3.8-Flash 和 Q​wen3.8-Max 层级相同的密钥和端点。

Aion 仓库实际包含的内容

从可核查的内容说起,因为清单很短。该仓库创建于 2026 年 11 月 18 日 17:05 UTC,此后未再修改。它有三个点赞,截至撰写本文时下载量为零。权重是一个 4.58 GB 的 BF16 safetensors 文件,与 2.3B 这一名称相符(每个参数两字节)。词表为 200,029 个 token。许可证为 MIT。

该架构比其规模所暗示的更为不同寻常。二十八层以混合模式交替——二十一层使用窗口为 2,048 个 token 的滑动窗口注意力,七层使用全注意力——并且全注意力层带有 16× YaRN 扩展。分组查询注意力为 24 个查询头对 8 个键值头,嵌入是绑定的,并且模型卡指示你通过trust_remote_code使用自定义建模代码来运行它。该仓库自带自己的 transformers 实现,而不是映射到现成架构上。

来源信息是尚未确认的部分。提交记录称该仓库为以下仓库的副本:asgmodels/Aion-Instruct-v1,且许可证链接指向该仓库的 LICENSE 文件。这两个仓库——asgmodels/Aion-Instruct-v1 以及一个 Microsoft 兄弟仓库,其名称为 Aion-Instruct-Preview-Sample——都会对匿名 API 请求返回身份验证错误,因此它们要么是私有的,要么受访问限制。我们可以看到 Microsoft 将该检查点复制到了一个公开仓库中。我们无法看到原始内容是什么、由谁训练、基于什么数据训练,也无法看到该组织为何命名为 asgmodels。任何描述该模型训练情况的人都是在猜测。

Screenshot of the microsoft/Aion-1.0-Instruct-2.3B model card on Hugging Face, showing the Microsoft Windows Applied Sciences Group attribution, the on-device SLM description, the January 2027 Windows OS SLM target, and the note that only the unquantised model is published first.

卡上的数字,以及它们值多少

模型卡公布了十一个基准测试成绩:MMLU 55.15、MMLU-Pro 33.35、MMMLU 45.51、GPQA 28.18、GSM8K 74.91、GSMPlus 49.56、MATH-500 48.00、IFEval 83.90、IFBench 32.00、Multi-IF 64.70 以及 chrF++ 43.18。方法说明一栏指出:凡存在相应任务实现的,运行均使用 EleutherAI 的 lm-evaluation-harness;否则使用该基准测试自身的代码仓库;在标记为评审评分的任务上,则由 GPT-4o 担任评审。各项得分均为百分比。

所有这些数据均由厂商报告,且均未得到复现。不过,对于这么小的模型来说,表中的整体模式比任何单项数字都更有参考价值。对于 2.3B 参数而言,MMLU 55.15 算得上不错。MMLU-Pro 33.35 和 GPQA 28.18 则不算好:这些是更难、更侧重推理的知识测试,它们清楚地显示了上限。在宽松匹配下 GSM8K 为 74.91,这比同样数字在严格匹配下的结果要明显更弱。IFEval 83.90 是模型卡上相对最强的结果——就其规模而言,该模型能很好地遵循格式化指令,而这正是一个操作系统助手需要做到的事。

还有第二个注意事项,卡片上写得很明白,却很容易被忽略。已发布的检查点是未量化的模型,而卡片上说明量化版本将随后推出。ONNX 构建已经单独存在——微软发布了Aion-1.0-Instruct-2.3B-ONNX-WebGPU,时间就在 BF16 仓库发布约三分钟后,大小约 1.3 GB;在线性层上使用块大小 32、在嵌入层上使用块大小 64 的 INT4 分块量化感知训练,激活和 KV 缓存使用 FP16,并通过 ONNX Runtime GenAI 面向 WebGPU。那才是真正重要的部署产物,而且它与大多数人会首先下载的文件并不是同一个文件。

为什么 Q​wen3.8-27B 是一种不同类型的对象

Qwen3.8-27B 拥有 278 亿参数,分布在十八个 BF16 分片中,总计 55.6 GB,并配备用于图像和视频输入的视觉塔。其六十四层由十六个重复块构成,每个块包含三个 Gated DeltaNet 线性注意力层和一个完整的 Gated Attention 层,隐藏大小为 5,120,线性注意力路径中有 48 个值头,对应 16 个查询-键头。原生上下文为 262,144 个 token,使用 YaRN 时可达 1,000,000 个。思考模式默认开启,最多支持 262,144 个推理 token 和 131,072 个回答 token,且思考模式与非思考模式的推荐采样设置不同。许可证为 Apache 2.0。

真正重要的差距不在参数。而在于:55.6 GB 的检查点根本无法在 Aion 模型所面向的设备上运行。Aion 模型的整套设计——2,048 token 的滑动窗口、INT4 量化感知训练、1.3 GB 的 ONNX WebGPU 构建——论证的是在一台人们已经拥有的机器上,什么才能装进内存。Q​wen3.8-27B 的设计则预设了一个推理服务集群。你不是在跑分榜上二选一。你之所以选,是因为其中一方并不是另一方那项工作的候选方案。

数字可以并排排列和不能并排排列的情况

这里有一处真正有用的交叉引用,它并不在两家厂商的卡片上。Artificial Analysis 在 Intelligence Index v5.0.1 上测评了 Q​wen3.8-27B,该指数综合了九项评估:AA-Briefcase v1.1、AutomationBench-AA、Terminal-Bench 4.0、FrontierCode-AA 2.0、AA-Omniscience v1.1、GDP.pdf、HLE-Diamond、CritPt v2 和 Terminal-Bench-Sci。在该指数上,Q​wen3.8-27B 得分为 20,而同类模型的中位数为 10。同一项测评还显示,其价格为每百万输入 token 0.50 美元、每百万输出 token 3.00 美元,每项任务 3.53 美元;每个指数任务耗时 38.7 分钟,而中位数为 11.5 分钟;整个指数测评共消耗 1.28 亿 token,而中位数为 7780 万。它比同类模型更慢、更啰嗦,即便单 token 价格不高,也会在每任务成本上为此付出代价。

Comparison scoreboard for Aion-1.0-Instruct-2.3B and Qwen3.8-27B, contrasting parameters, context window, modality, licence, footprint and evaluation status.

Aion 没有对应的成绩。截至 2026 年 11 月 19 日,Artificial Analysis 没有任何 Aion 模型的条目,也没有任何独立评测框架发布过运行结果。因此,这份诚实的记分牌上有一个空缺,而这个空缺在较新模型这一边。

• 参数 — Aion-1.0-Instruct-2.3B:约 23 亿参数,单个 4.58 GB 的 BF16 文件。Q​wen3.8-27B:278 亿参数,共十八个分片,55.6 GB BF16。

• 上下文——Aion-1.0-Instruct-2.3B:根据 ONNX 构建版的模型卡,为 32,768 个 token;BF16 模型卡未注明具体数值。Qwen3.8-27B:原生 262,144,使用 YaRN 时可达 1,000,000。

• 模态 — Aion-1.0-Instruct-2.3B:仅支持文本。Q​wen3.8-27B:支持文本、图像和视频输入,输出文本。

• 许可证 — Aion-1.0-Instruct-2.3B:MIT。Q​wen3.8-27B:Apache 2.0。两者均允许商业使用;其中 MIT 的约束更少。

• 可运行占用 — Aion-1.0-Instruct-2.3B:用于 WebGPU 的 1.3 GB INT4 ONNX,或 4.58 GB BF16。Q​wen3.8-27B:55.6 GB BF16,另加服务内存。

• 独立评估——Aion-1.0-Instruct-2.3B:无。Qwen3.8-27B:在 v5.0.1 上的 Intelligence Index 为 20,另有厂商卡片报告 LiveCodeBench v6 90.3、GPQA Diamond 89.2、Terminal-Bench 2.1 为 73.0、SWE-bench Pro 61.7 和 HLE 30.8。

发布日期——Aion-1.0-Instruct-2.3B:2026年11月18日,发布仅一天且未事先公告。Q​wen3.8-27B:2026年8月3日宣布,2026年8月14日发布权重。

比较实际上在决定什么

如果你正在构建一个桌面应用,需要在不进行网络往返的情况下对文本进行分类、遵循结构化格式、总结文档或路由操作系统请求,那么 Aion 模型在考虑之列,而 Qwen3.8-27B 则不在其中。32K 窗口足以完成文档摘要,但对于整个仓库范围的编码任务来说远远不够。MIT 许可证免去了法律审查。ONNX WebGPU 构建版本可在 55.6 GB 检查点无法运行的环境中运行。

如果你需要一个能在长上下文中工作、读取截图、针对大型代码库编写代码或运行多步工具循环的智能体,那么情况正好相反。Qwen3.8-27B 具备上下文、模态和独立测量能力,而它的弱点——延迟和 token 冗长——是你可以估算代价的已知量。Aion 模型则完全没有独立运行,这在实践中意味着,在它接触任何重要事物之前,你得在自己的任务上亲自完成评估。

还有第三种立场,对大多数团队来说可能才是正确的:不做选择。一个 2.3B 的端侧模型和一个 27B 的托管模型是互补的,而同时使用两者的架构——用小型本地模型处理高频、廉价、对延迟敏感的调用,用大型托管模型处理罕见、昂贵、困难的调用——才是经得起账单检验的架构。Qwen3.8-27B 可通过 OrcaRouter 以 qwen/qwen3.8-27b 提供,价格为每百万输入 token 0.33 美元、每百万输出 token 2.40 美元,与 Qwen3.8-Flash 和 Qwen3.8-Max 层级使用同一密钥和端点,支持提供商之间的自动故障转移,并且相对提供商目录价没有按 token 加价。这些权重由我们自己运行,因此供应商调价当天就会反映到这里,而不是等到一轮重新定价周期之后。Aion-1.0-Instruct-2.3B 不在 OrcaRouter 上——它需要你自行下载并运行,两者可以共存于同一个应用中,而彼此无需感知对方。

Screenshot of the OrcaRouter model page for qwen/qwen3.8-27b, showing the Qwen3.8 27B listing with its 262K-token context, text and image and video input, text output, and pricing.

需要关注什么,以及什么会改变这篇文章

有三件事会实质性改变局面,而它们都尚未发生。微软发布公告、附有训练细节的模型卡,或在公司自有测试框架之外进行基准测试。Artificial Analysis 添加 Aion 条目,这将为较新的模型提供 Qwen 已经拥有的独立制衡参照。或者,量化后的 BF16 与 INT4 之争最终落实为一份公开发布的准确率差值,而这个数字决定了端侧量化在这一架构上是否真的站得住脚。

在此之前,请把 Aion-1.0-Instruct-2.3B 当作仓库所呈现的那样来看待:一个小巧、采用宽松许可、面向 Windows 的纯文本模型,未经任何仪式便发布,问世仅一天,附带一张厂商基准测试表,且没有独立验证。请把 Q​wen3.8-27B 当作一个已知量来看待:有已发布的第三方测量结果,上下文窗口大八倍,服务账单也与之相称。错误的问题是哪一个胜出。正确的问题是,你的应用缺少的究竟是这两个对象中的哪一个。