
Aion-1.0-Instruct-2.3B 对比 Qwen 3.8:当 Windows 组件遇上 27B 主力模型
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百万 tokens · 184 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百万 tokens · 215 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百万 tokens · 87 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百万 tokens · 97 tok/s
- orca新Orca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 90 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 131 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百万 tokens · 76 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百万 tokens · 109 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 114 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 209 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 每百万 tokens · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
2026年11月18日,微软的 Hugging Face 组织下出现了一个名为Aion-1.0-Instruct-2.3B的仓库,仅有一次提交,说明为"Duplicate from asgmodels/Aion-Instruct-v1"。没有博客文章,没有模型卡公告,没有新闻稿,也没有任何报道。它的模型卡将其描述为面向设备端 Windows 工作的基础小型语言模型,并补充说,它的一个进一步优化的版本将与微软的内容审核模型捆绑,在2027年1月底之前成为 Windows 操作系统的 SLM。把这一点与Qwen3.8-27B——阿里巴巴于2026年8月发布的开源权重270亿参数视觉语言模型——以及其上的托管Qwen3.8-Flash和Qwen3.8-Max层级放在一起看,这个比较很快就与质量无关了。一个是按笔记本电脑规模设计的组件,另一个是你按百万 token 租用的通用模型。基准测试表能告诉你的一切几乎都无关紧要。 Qwen3.8-27B 在OrcaRouter 的目录中以 qwen/qwen3.8-27b 的形式提供,使用与 Qwen3.8-Flash 和 Qwen3.8-Max 层级相同的密钥和端点。
Aion 仓库实际包含的内容
从可核查的内容说起,因为清单很短。该仓库创建于 2026 年 11 月 18 日 17:05 UTC,此后未再修改。它有三个点赞,截至撰写本文时下载量为零。权重是一个 4.58 GB 的 BF16 safetensors 文件,与 2.3B 这一名称相符(每个参数两字节)。词表为 200,029 个 token。许可证为 MIT。
该架构比其规模所暗示的更为不同寻常。二十八层以混合模式交替——二十一层使用窗口为 2,048 个 token 的滑动窗口注意力,七层使用全注意力——并且全注意力层带有 16× YaRN 扩展。分组查询注意力为 24 个查询头对 8 个键值头,嵌入是绑定的,并且模型卡指示你通过trust_remote_code使用自定义建模代码来运行它。该仓库自带自己的 transformers 实现,而不是映射到现成架构上。
来源信息是尚未确认的部分。提交记录称该仓库为以下仓库的副本:asgmodels/Aion-Instruct-v1,且许可证链接指向该仓库的 LICENSE 文件。这两个仓库——asgmodels/Aion-Instruct-v1 以及一个 Microsoft 兄弟仓库,其名称为 Aion-Instruct-Preview-Sample——都会对匿名 API 请求返回身份验证错误,因此它们要么是私有的,要么受访问限制。我们可以看到 Microsoft 将该检查点复制到了一个公开仓库中。我们无法看到原始内容是什么、由谁训练、基于什么数据训练,也无法看到该组织为何命名为 asgmodels。任何描述该模型训练情况的人都是在猜测。

卡上的数字,以及它们值多少
模型卡公布了十一个基准测试成绩:MMLU 55.15、MMLU-Pro 33.35、MMMLU 45.51、GPQA 28.18、GSM8K 74.91、GSMPlus 49.56、MATH-500 48.00、IFEval 83.90、IFBench 32.00、Multi-IF 64.70 以及 chrF++ 43.18。方法说明一栏指出:凡存在相应任务实现的,运行均使用 EleutherAI 的 lm-evaluation-harness;否则使用该基准测试自身的代码仓库;在标记为评审评分的任务上,则由 GPT-4o 担任评审。各项得分均为百分比。
所有这些数据均由厂商报告,且均未得到复现。不过,对于这么小的模型来说,表中的整体模式比任何单项数字都更有参考价值。对于 2.3B 参数而言,MMLU 55.15 算得上不错。MMLU-Pro 33.35 和 GPQA 28.18 则不算好:这些是更难、更侧重推理的知识测试,它们清楚地显示了上限。在宽松匹配下 GSM8K 为 74.91,这比同样数字在严格匹配下的结果要明显更弱。IFEval 83.90 是模型卡上相对最强的结果——就其规模而言,该模型能很好地遵循格式化指令,而这正是一个操作系统助手需要做到的事。
还有第二个注意事项,卡片上写得很明白,却很容易被忽略。已发布的检查点是未量化的模型,而卡片上说明量化版本将随后推出。ONNX 构建已经单独存在——微软发布了Aion-1.0-Instruct-2.3B-ONNX-WebGPU,时间就在 BF16 仓库发布约三分钟后,大小约 1.3 GB;在线性层上使用块大小 32、在嵌入层上使用块大小 64 的 INT4 分块量化感知训练,激活和 KV 缓存使用 FP16,并通过 ONNX Runtime GenAI 面向 WebGPU。那才是真正重要的部署产物,而且它与大多数人会首先下载的文件并不是同一个文件。
为什么 Qwen3.8-27B 是一种不同类型的对象
Qwen3.8-27B 拥有 278 亿参数,分布在十八个 BF16 分片中,总计 55.6 GB,并配备用于图像和视频输入的视觉塔。其六十四层由十六个重复块构成,每个块包含三个 Gated DeltaNet 线性注意力层和一个完整的 Gated Attention 层,隐藏大小为 5,120,线性注意力路径中有 48 个值头,对应 16 个查询-键头。原生上下文为 262,144 个 token,使用 YaRN 时可达 1,000,000 个。思考模式默认开启,最多支持 262,144 个推理 token 和 131,072 个回答 token,且思考模式与非思考模式的推荐采样设置不同。许可证为 Apache 2.0。
真正重要的差距不在参数。而在于:55.6 GB 的检查点根本无法在 Aion 模型所面向的设备上运行。Aion 模型的整套设计——2,048 token 的滑动窗口、INT4 量化感知训练、1.3 GB 的 ONNX WebGPU 构建——论证的是在一台人们已经拥有的机器上,什么才能装进内存。Qwen3.8-27B 的设计则预设了一个推理服务集群。你不是在跑分榜上二选一。你之所以选,是因为其中一方并不是另一方那项工作的候选方案。
数字可以并排排列和不能并排排列的情况
这里有一处真正有用的交叉引用,它并不在两家厂商的卡片上。Artificial Analysis 在 Intelligence Index v5.0.1 上测评了 Qwen3.8-27B,该指数综合了九项评估:AA-Briefcase v1.1、AutomationBench-AA、Terminal-Bench 4.0、FrontierCode-AA 2.0、AA-Omniscience v1.1、GDP.pdf、HLE-Diamond、CritPt v2 和 Terminal-Bench-Sci。在该指数上,Qwen3.8-27B 得分为 20,而同类模型的中位数为 10。同一项测评还显示,其价格为每百万输入 token 0.50 美元、每百万输出 token 3.00 美元,每项任务 3.53 美元;每个指数任务耗时 38.7 分钟,而中位数为 11.5 分钟;整个指数测评共消耗 1.28 亿 token,而中位数为 7780 万。它比同类模型更慢、更啰嗦,即便单 token 价格不高,也会在每任务成本上为此付出代价。

Aion 没有对应的成绩。截至 2026 年 11 月 19 日,Artificial Analysis 没有任何 Aion 模型的条目,也没有任何独立评测框架发布过运行结果。因此,这份诚实的记分牌上有一个空缺,而这个空缺在较新模型这一边。
• 参数 — Aion-1.0-Instruct-2.3B:约 23 亿参数,单个 4.58 GB 的 BF16 文件。Qwen3.8-27B:278 亿参数,共十八个分片,55.6 GB BF16。
• 上下文——Aion-1.0-Instruct-2.3B:根据 ONNX 构建版的模型卡,为 32,768 个 token;BF16 模型卡未注明具体数值。Qwen3.8-27B:原生 262,144,使用 YaRN 时可达 1,000,000。
• 模态 — Aion-1.0-Instruct-2.3B:仅支持文本。Qwen3.8-27B:支持文本、图像和视频输入,输出文本。
• 许可证 — Aion-1.0-Instruct-2.3B:MIT。Qwen3.8-27B:Apache 2.0。两者均允许商业使用;其中 MIT 的约束更少。
• 可运行占用 — Aion-1.0-Instruct-2.3B:用于 WebGPU 的 1.3 GB INT4 ONNX,或 4.58 GB BF16。Qwen3.8-27B:55.6 GB BF16,另加服务内存。
• 独立评估——Aion-1.0-Instruct-2.3B:无。Qwen3.8-27B:在 v5.0.1 上的 Intelligence Index 为 20,另有厂商卡片报告 LiveCodeBench v6 90.3、GPQA Diamond 89.2、Terminal-Bench 2.1 为 73.0、SWE-bench Pro 61.7 和 HLE 30.8。
发布日期——Aion-1.0-Instruct-2.3B:2026年11月18日,发布仅一天且未事先公告。Qwen3.8-27B:2026年8月3日宣布,2026年8月14日发布权重。
比较实际上在决定什么
如果你正在构建一个桌面应用,需要在不进行网络往返的情况下对文本进行分类、遵循结构化格式、总结文档或路由操作系统请求,那么 Aion 模型在考虑之列,而 Qwen3.8-27B 则不在其中。32K 窗口足以完成文档摘要,但对于整个仓库范围的编码任务来说远远不够。MIT 许可证免去了法律审查。ONNX WebGPU 构建版本可在 55.6 GB 检查点无法运行的环境中运行。
如果你需要一个能在长上下文中工作、读取截图、针对大型代码库编写代码或运行多步工具循环的智能体,那么情况正好相反。Qwen3.8-27B 具备上下文、模态和独立测量能力,而它的弱点——延迟和 token 冗长——是你可以估算代价的已知量。Aion 模型则完全没有独立运行,这在实践中意味着,在它接触任何重要事物之前,你得在自己的任务上亲自完成评估。
还有第三种立场,对大多数团队来说可能才是正确的:不做选择。一个 2.3B 的端侧模型和一个 27B 的托管模型是互补的,而同时使用两者的架构——用小型本地模型处理高频、廉价、对延迟敏感的调用,用大型托管模型处理罕见、昂贵、困难的调用——才是经得起账单检验的架构。Qwen3.8-27B 可通过 OrcaRouter 以 qwen/qwen3.8-27b 提供,价格为每百万输入 token 0.33 美元、每百万输出 token 2.40 美元,与 Qwen3.8-Flash 和 Qwen3.8-Max 层级使用同一密钥和端点,支持提供商之间的自动故障转移,并且相对提供商目录价没有按 token 加价。这些权重由我们自己运行,因此供应商调价当天就会反映到这里,而不是等到一轮重新定价周期之后。Aion-1.0-Instruct-2.3B 不在 OrcaRouter 上——它需要你自行下载并运行,两者可以共存于同一个应用中,而彼此无需感知对方。

需要关注什么,以及什么会改变这篇文章
有三件事会实质性改变局面,而它们都尚未发生。微软发布公告、附有训练细节的模型卡,或在公司自有测试框架之外进行基准测试。Artificial Analysis 添加 Aion 条目,这将为较新的模型提供 Qwen 已经拥有的独立制衡参照。或者,量化后的 BF16 与 INT4 之争最终落实为一份公开发布的准确率差值,而这个数字决定了端侧量化在这一架构上是否真的站得住脚。
在此之前,请把 Aion-1.0-Instruct-2.3B 当作仓库所呈现的那样来看待:一个小巧、采用宽松许可、面向 Windows 的纯文本模型,未经任何仪式便发布,问世仅一天,附带一张厂商基准测试表,且没有独立验证。请把 Qwen3.8-27B 当作一个已知量来看待:有已发布的第三方测量结果,上下文窗口大八倍,服务账单也与之相称。错误的问题是哪一个胜出。正确的问题是,你的应用缺少的究竟是这两个对象中的哪一个。
