一张生成的标题卡,标题为“Aion 1.0 Instruct 悄然发布”,副标题为“2.29B 参数、32K 上下文、MIT 许可证、零下载量”,还有四个标签,分别写着“2026 年 11 月 18 日 17:05 UTC”“28 层,21 层滑动”“通过 YaRN 从 2,048 扩展到 32,768”和“Windows OS SLM,2027 年 1 月”。页脚写着“数据读取自 2026 年 11 月 19 日发布的仓库。”OrcaRouter 标志合成在图像下方的白色条带中。
Guides & Insights

Aion 1.0 Instruct 悄然登陆 Hugging Face,附带 2027 年 1 月截止期限

作者

jinhao.song

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

该仓库microsoft/Aion-1.0-Instruct-2.3B创建于 2026 年 11 月 18 日 17:05:50 UTC。九分钟后,它旁边出现了第二个仓库,其中包含相同权重的 INT4 ONNX 构建版本。截至今天早上,基础仓库有三个点赞、零次下载,并且恰好只有一次提交,其提交信息为“Duplicate from asgmodels/Aion-Instruct-v1”——而那个源仓库现在对任何发起请求的人都返回 401。没有发布帖,没有讨论串,也没有以“我们很高兴”开头的模型卡句子。Aion 1.0 Instruct并未被宣布;它是被发布出来的,这是另一种行为,而两者之间的差距正是本文存在的原因。

下文区分三类主张,并且从不把它们混为一谈。仓库事实是今早直接从文件中读取的——配置、权重索引、聊天模板、模型卡、同级仓库。厂商主张是微软在自家测试框架上给出的自家数字,按主张原样复述。还有第三类在这里比通常更重要:微软已经在其自家文档上为 Windows 开发者发布了迁移日历,而这个日历比模型卡里的任何内容都更有分量。凡是仓库没有明说的地方,本文会直接说明,而不是靠推断。

两只钟,其中只有一只是安静的

Hugging Face 的那次发布是安静的时钟。喧闹的那个更早,而且已经运行了好几个月。

• 2026年5月31日 — microsoft/Aion-Instruct-Preview-Sample在 GitHub 上公开,这是一个面向 Copilot+ PC 上设备端语言模型的 WinUI 3 示例应用。其 README 明确写道:“此包包含计划随 Windows 发布的最终 Aion Instruct 模型。”

• 2026年6月2日——微软 Edge 开发者博客宣布 Aion-1.0-Instruct 作为预发布模型登陆 Edge Canary 和 Dev 频道,取代 Prompt and Writing Assistance APIs 背后所使用的 4B Phi-4-mini;该模型被描述为体积更小、速度更快,并且在没有 GPU 的环境中也能通过 CPU 推理运行。同一篇博文还承诺“计划于七月在 Hugging Face 上开源发布”。

2026年11月2日——GitHub 示例发布 v1.1.0.2 版本,新增 AMD VitisAI 支持;自6月以来该仓库一直保持稳定维护,却从未有过任何公开公告。

2026年11月16日——Microsoft 关于 Phi Silica 的 Windows AI 文档中有一则通知,其时间戳为权重发布前两天,称“Phi Silica 正被 Aion Instruct 取代”,并告诉开发者现在就开始规划迁移。

• 2026年11月18日 17:05 UTC — 权重本身以 MIT 许可证发布在 Hugging Face 上。搜索不到任何配套的发布文章。

A screenshot of the Hugging Face model page for microsoft/Aion-1.0-Instruct-2.3B showing 3 likes, tags for Text Generation, Transformers, Safetensors and 8 languages plus aion_instruct, and model-card text opening 'Aion 1.0 Instruct' under the heading Microsoft Windows Applied Sciences Group, describing a 2.3B-parameter on-device small language model and stating that a further optimised version will become the Windows OS SLM by the end of January 2027.

所以,诚实的说法并不是“微软秘密发布了一个模型”,而是:近六个月来,微软一直在通过文档和示例代码向 Windows 开发者说明这一转变;它在 7 月承诺开放权重,却晚了四个半月才交付,而且没有用任何公告来标记这次交付。如果你只读发布报道,你就不会知道 Aion 1.0 Instruct 的存在。如果你读的是 Phi Silica API 文档——那才是 Windows 开发者真正日常所在的地方——那么你至少从 11 月中旬起就已经被告知了。

这些文件所证明的内容,无需微软确认任何事

以下内容都不依赖于任何公告。它们全都保存在代码仓库中,而且其中大部分可以直接对照权重文件本身进行核查。

• 参数量——卡片上写着“约 2.29B”,算术上也吻合:model.safetensors 是 4,577,698,488 字节的 bfloat16,按每个参数占两字节计算,即 2,288,849,244 个参数。输入和输出嵌入是共享的,因此该计数不会在头部翻倍。

• 形状 — 28 层,隐藏维度 2,048,MLP 中间维度 8,192(使用 SiLU),24 个查询头对应 8 个键/值头,头维度为 128,RMSNorm 的 epsilon 为 1e-6,词表大小为 200,029 个 token。

• 注意力模式——配置中的 layer_types 数组列出了 21 个 sliding_attention 层和 7 个 full_attention 层,二者交错排列。滑动窗口为 2,048 个 token。

• 上下文 — 32,768 个 token,是通过 YaRN 而非原生训练长度达到的。下面会详细说明,因为这是整个文件中最容易被误读的数字。

• 许可证 — MIT,版权归 Microsoft Corporation 所有,且仓库中存在 LICENSE 文件。然而,front-matter 中的 license_link 却指向 asgmodels/Aion-Instruct-v1/blob/main/LICENSE,而那个是返回 401 的私有仓库。你能读到的是目录树中的许可证;卡片所链接的那一份则无法访问。

• 自定义代码——这不是标准架构。运行它需要 trust_remote_code=True,并会引入 configuration_aion_instruct.py 和 modeling_aion_instruct.py。它是用 transformers 5.x 导出的,因此较旧的工具链若不加以注意将无法加载它。

• 聊天格式 —— <|system|>、<|user|>、<|assistant|>每一轮都以<|end|> 收尾,它同时也是 EOS token。工具 schema 会放进系统提示中,位于 <|tool|> 与 <|/tool|> 之间;调用会以 <|tool_call|>{"name": …, "arguments": …}<|/tool_call|> 的形式返回;结果则在带有 <|tool_response|> 前缀的用户轮次中返回。如果开头的系统消息包含任何保留控制 token,该模板就会抛出异常,这是一项合理的防护,也是在这类卡片中难得一见的做法。

• 语言——英语、德语、西班牙语、葡萄牙语、意大利语、法语、中文和日语。卡片上说明,多语言数据约占训练数据组合的 6%。

• 知识截止日期 — 2025年12月。

• 量化构建——microsoft/Aion-1.0-Instruct-2.3B-ONNX-WebGPU,创建于当晚 UTC 17:14:58,比基础仓库晚九分钟。从经过量化感知训练的检查点导出 INT4 分块权重,FP16 激活和 KV 缓存,opset 21,约 1.3 GB,通过 ONNX Runtime GenAI 面向 WebGPU。

清单里最有用的,是把最后两项放在一起看。一个未量化的 bf16 版本,加上一个由 QAT 衍生出的 INT4 构建,二者发布时间相隔不到九分钟,这说明交付产物在透明度产物之前就已就绪。这更像是一次被压住、随后悄悄放出的发布,而不是一次仓促推出的发布。

32K 上下文是把 2K 模型拉伸了十六倍

阅读 rope_parameters 块时要仔细,上下文数量会改变性质。全注意力层声明 rope_type: "yarn",并设置 original_max_position_embeddings: 2048 和 factor: 16.0。2048 乘以 16 等于 32,768。滑动注意力层声明普通的 rope_type: "default",theta 为 32,000,使用相同的 2,048 窗口。

从配置中得出的解读——而且这是解读,不是厂商声明——是:该模型训练时的位置范围为 2,048 个 token,之后通过仅应用于其 28 层中 7 层的 RoPE 缩放扩展到 32K。从结构上说,整个堆栈中有四分之三永远无法关注到超过 2,048 个 token 之前的位置;长距离混合只发生在七个全注意力层中。对于端侧模型而言,这是一种合理且日益常见的设计;在这类模型中,KV 缓存大小是内存的硬性约束——无论对话持续多久,滑动窗口都能让缓存保持恒定,而这正是在一台还要渲染桌面的笔记本电脑上想要的效果。

这也意味着,32,768 这个数字不应被解读为“处理 32K 文档的能力与在 32K 上训练的模型一样好”。微软自己的说明卡在这一点上很谨慎,将该窗口描述为足以“完全在设备上处理多页文档、冗长的电子邮件线程和复杂的技术规格”。它并未声称在窗口最远端也能保持检索质量。如果你需要的是长上下文召回,那正是你应该首先自行测量的东西,而说明卡里并没有这项内容。

这些基准测试是微软自己的,其中两项被标记为宽松。

以下所有数字均为厂商报告。模型卡称,只要存在任务实现,所有这些数字都通过 EleutherAI 的 lm-evaluation-harness 运行;否则通过各基准的官方代码库运行;在由 LLM 评判的任务中,GPT-4o 担任评判者。没有独立复现,没有公开的 harness 配置,代码库中也没有评测脚本,因此无法根据已发布的内容重新运行其中任何一项。

• 知识 — MMLU 55.15、MMLU-Pro 33.35、多语言 MMMLU 45.51、GPQA 28.18。

• 数学 — 在宽松匹配下,GSM8K 74.91,GSMPlus 49.56,MATH-500 48.00。

• 指令遵循——IFEval 83.90(提示级严格与指令级严格的均值),IFBench 32.00(提示级宽松),Multi-IF 64.70。

• 翻译 — chrF++ 43.18。

A generated single-column scoreboard card titled 'Aion 1.0 Instruct — the scoreboard' with six rows: Parameters 2.29B (tied embeddings), Layers 28 (21 sliding + 7 full), Context 32,768 (2,048 trained, YaRN factor 16), Licence MIT, MMLU 55.15, GPQA 28.18. A footer reads 'Config and weights read from the repository; scores are vendor-reported and unreproduced.' The OrcaRouter logo is composited in the white strip below the artwork.

其中两项在任何人为其引用之前都值得再核对一下。GSM8K 的 74.91 明确是宽松匹配,只要答案包含正确数字就给分,即便其周围的推理或格式有误;对 2.3B 模型采用严格 GSM8K 口径,得分会明显更低。IFBench 的 32.00 是提示词层面的宽松口径,而这是该组中最宽松的指令遵循基准中最宽容的变体。同一张表中偏严格口径的数字——MMLU-Pro 33.35、GPQA 28.18——才是一个 2.3B 模型世界知识的真实样貌,而这些数字平平无奇,这也正是模型卡在局限性部分自己所说的:小模型“可能会遗漏细节、给出错误陈述,或表现出无法遵循复杂多步推理”。

比任何单一评分都更重要的缺失:这张卡片从未将 Aion 1.0 Instruct 与它所取代的模型 Phi Silica 进行比较。它只说训练数据“是对用于训练 Phi Silica 的数据的扩展”,然后就到此为止。对于被告知要在 1 月迁移的开发者来说,唯一能影响这一决策的差异——替代品比我现有的模型评分更高还是更低——并不在文档中。

安全号码是一张图片,而不是表格

卡片列出了它希望改进的三项指标:XPIA、DIC 和 ECI。但随后并未给出其中任何一项的具体数字。这些数字仅存在于images/aion_safety_bchart.png中,这是一张标题为“Azure AI Safety Suite”的柱状图,其坐标轴类别包括对抗性内容安全、选举关键信息、间接提示注入和文档注入,采用方向归一化的 0 到 100 分制评分,其中数值等于 1 减去失败率再乘以 100。文本中任何地方都没有数值列。

这是一个真实的缺口,值得直截了当地说明,而不是绕开它:微软自己点明需要改进的三项指标,恰恰是你不对 PNG 做 OCR 就无法读取的三项。验证者确实发布了一条方法学脚注——提示词类型完全相同,并已通过 SHA-256 验证——这比大多数模型卡所展示的严谨程度更高。他们只是没有公布具体数值。而针对 Windows 验证包的平行透明度说明则更进一步,指出跨提示词注入攻击和情绪推断在 Responsible AI 合规方面尚未经过测试,并且该验证包“可能存在漏洞”。对于一个以在本地文档上无人值守运行作为核心卖点的模型来说,提示词注入绝不是一条脚注。

Microsoft 已经告诉开发者的内容,以及哪些地方会出问题

这是读者今天就能采取行动的部分,而且它完全不依赖于 Hugging Face 的发布。它位于 Microsoft Learn 的 Phi Silica 页面上,该页面的更新时间戳显示为 2026 年 11 月 16 日。

A screenshot of the Microsoft Learn documentation page for the Phi Silica Windows AI APIs, showing the navigation tree, the Limited Access Feature note, and an Important callout reading 'Phi Silica is being replaced by Aion Instruct, a new on-device model. Start planning your transition now', followed by links to the Aion Instruct sample and the Microsoft Edge blog, the sentence 'Unlike Phi Silica, LAF tokens are no longer needed with Aion Instruct', a December 2026 Windows Insider Preview rollout line and a January 2027 retail rollout line stating that Phi Silica is removed.

• Phi Silica 正被 Aion Instruct 取代。通知中直接说明了这一点,并告知开发者现在就开始规划过渡。

• 2026 年 12 月 — Aion 1.0 Instruct 开始向 Windows Insider Preview 设备推出。Phi Silica 仍然存在;由 Windows Controlled Feature Rollout 决定哪个模型处于活动状态,开发者可以通过注册表项强制进行并排比较。

• 2027 年 1 月 — 该模型将推广至零售设备,Phi Silica 将被移除。

• 访问门槛消失了。Phi Silica 的 API 属于有限访问功能(Limited Access Feature),需要解锁令牌;文档中写道:“与 Phi Silica 不同,使用 Aion Instruct 不再需要 LAF 令牌。”对于任何曾经填写过 LAF 申请表并等待过的人来说,这是整个迁移过程中最关键的一句话。

• 你的 LoRAs 不会随你一起迁移。示例仓库明确指出:兼容 Phi Silica 的 LoRAs 与 Aion Instruct 不兼容,新的适配器必须使用 Foundry Toolkit 构建。

• 输出内容会被添加水印。新堆栈使用不可见水印来支持欧盟《人工智能法案》合规,而说明中警告称,当输出内容粘贴到某些应用程序中时,水印可能会变得可见。

• 硬件支持为三个执行提供程序,且没有回退。验证包面向:ARM64 Snapdragon,通过由 catalog 管理的 QNN,最低 EP 2.2480.49;x64 Intel Lunar Lake,通过 OpenVINO 1.8.95;以及 x64 AMD Ryzen AI,通过 VitisAI 1.8.80。其中明确“当受支持的 NPU 提供程序不可用时,不提供 CPU 回退”。注意这与六月 Edge 文章之间的差距,该文章宣称 CPU 推理是 Aion 触达无 GPU 设备的方式——那指的是浏览器版本,而 Windows API 路径更窄。

• 验证包不可交付。“它不供最终用户或客户使用。请勿将此包的任何部分交付给最终消费者。”模型已定稿;围绕它的交付尚未定稿,而且今天测得的性能明确不能代表 1 月构建。

还有哪些尚未确认,以及该如何把握

• 没有发布公告。微软的博客上没有任何消息,模型卡中除了“对即将推出的内容的介绍”之外,没有任何意图声明,也没有技术报告。仓库之外唯一的公开痕迹,是 11 月 18 日一条仅获得 1 分的 Hacker News 投稿。

• 没有独立评估。截至11月19日,该模型尚未出现在 Artificial Analysis 上,也没有第三方公布运行结果。上表中的每一个数字都是微软在给自己的模型打分。

• 无 GGUF。卡片中列出“库名称:PyTorch、ONNX、GGUF”,但 Microsoft 组织下并不存在 GGUF 仓库。已发布的唯一量化产物是 ONNX WebGPU 构建。在文件实际存在之前,请将 GGUF 这一项视为意向性声明。

• 未提供训练细节。Token 数量、算力,以及除“公开文档加合成数据”和 6% 多语言占比之外的数据混合情况——这些均未说明。

• 不提供定价,因为没有什么可定价的。这是一个操作系统组件和权重下载,而不是托管端点。它也不在 OrcaRouter 目录中,与其他所有 Microsoft 端侧模型一样。

如果你要发布 Windows 应用,那么这项决定早已排上你的日程。

实际解读是:Aion 1.0 Instruct 现在就能让你提前数月基于它做原型开发,而不必等到被迫上手时才行动——这正是透明度发布的意义所在。拉取权重,运行你自己的提示集,测量模型卡不会告诉你的两件事——超过 2,048 个 token 的长上下文召回能力,以及面对本地文档上的提示注入时的行为——然后判断你的摘要与改写路径能否经受这次替换。带有并排注册表键的 December Insider 窗口是你所能获得的最便宜的测试框架,而它将在一月关闭。

随之而来的架构问题是:端侧模型的能力边界止于何处。一个运行在 NPU 上、具有 32K 窗口的 2.3B 模型非常擅长摘要、改写、分类和抽取,但它不会对代码库进行多步推理。大多数采用它的应用最终会走向混合模式:本地模型负责低成本、私密、对延迟敏感的环节,云端模型则置于 API 之后,负责升级路径。这个升级层正是值得刻意设计、而非事后附加的部分。OrcaRouter 正是为解决这一问题的那一半而存在——通过一个 API 接入 200 多个云端模型,不对提供商标价加价,提供商降级时自动故障转移,并提供路由 DSL 将多个模型组合成一次调用——而且它不提供 Aion 1.0 Instruct,因为这个模型完全不运行在数据中心中。诚实的划分是:本地模型、本地决策、云端升级,而这两半需要不同的工具链。

还有一种低成本方式可以为未经验证的部分做对冲。上述内容都没有经过独立基准测试,而且 1 月的构建版本可能与此检查点不同。故障转移才能让把未评分模型放到重要路径上变得安全:在你需要之前就配置好回退方案,这样糟糕的生成结果就会变成一次重试,而不是一次事故。无论你对混合方案中的哪一半不确定,这条建议都适用。

看什么

四个信号会改变这一局面,其中三个的监测成本很低。一篇带有训练细节的正式公告文章,会把这张模型卡从透明度产物升级为正式发布。一个 GGUF 仓库会让该模型能在 Windows 之外以及 ONNX Runtime 之外使用。首次独立基准测试运行——Artificial Analysis、LMArena,或任何可复现的测试框架输出——将用可引用的内容取代那些宽松匹配的限定说明。而 Edge Canary 和 Dev 渠道就是实时测试:如果浏览器中的 Prompt and Writing Assistance APIs 从 Phi-4-mini 路径切换到 Aion 1.0 Instruct,你会在 1 月 Windows 推送之前很久就通过行为看到这一替换。

在那之前,对 Aion 1.0 Instruct 的正确描述只能是证据所支持的那一个,仅此而已:一个已完成的 2.29B 端侧模型,采用 MIT 许可,技术上完整却未有文档,于周二傍晚 17:05 UTC 发布,九分钟后紧随一个量化版本,以及一个并非它自己设定的替换截止期限。