
Aion 1.0 Instruct 悄然登陆 Hugging Face,附带 2027 年 1 月截止期限
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百万 tokens · 182 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百万 tokens · 356 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百万 tokens · 87 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百万 tokens · 147 tok/s
- orca新Orca: OrcaC2 1.02026-11-0737 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 92 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 135 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百万 tokens · 81 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百万 tokens · 117 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 110 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 66 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 42 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 211 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 109 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 每百万 tokens · 160 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
该仓库microsoft/Aion-1.0-Instruct-2.3B创建于 2026 年 11 月 18 日 17:05:50 UTC。九分钟后,它旁边出现了第二个仓库,其中包含相同权重的 INT4 ONNX 构建版本。截至今天早上,基础仓库有三个点赞、零次下载,并且恰好只有一次提交,其提交信息为“Duplicate from asgmodels/Aion-Instruct-v1”——而那个源仓库现在对任何发起请求的人都返回 401。没有发布帖,没有讨论串,也没有以“我们很高兴”开头的模型卡句子。Aion 1.0 Instruct并未被宣布;它是被发布出来的,这是另一种行为,而两者之间的差距正是本文存在的原因。
下文区分三类主张,并且从不把它们混为一谈。仓库事实是今早直接从文件中读取的——配置、权重索引、聊天模板、模型卡、同级仓库。厂商主张是微软在自家测试框架上给出的自家数字,按主张原样复述。还有第三类在这里比通常更重要:微软已经在其自家文档上为 Windows 开发者发布了迁移日历,而这个日历比模型卡里的任何内容都更有分量。凡是仓库没有明说的地方,本文会直接说明,而不是靠推断。
两只钟,其中只有一只是安静的
Hugging Face 的那次发布是安静的时钟。喧闹的那个更早,而且已经运行了好几个月。
• 2026年5月31日 — microsoft/Aion-Instruct-Preview-Sample在 GitHub 上公开,这是一个面向 Copilot+ PC 上设备端语言模型的 WinUI 3 示例应用。其 README 明确写道:“此包包含计划随 Windows 发布的最终 Aion Instruct 模型。”
• 2026年6月2日——微软 Edge 开发者博客宣布 Aion-1.0-Instruct 作为预发布模型登陆 Edge Canary 和 Dev 频道,取代 Prompt and Writing Assistance APIs 背后所使用的 4B Phi-4-mini;该模型被描述为体积更小、速度更快,并且在没有 GPU 的环境中也能通过 CPU 推理运行。同一篇博文还承诺“计划于七月在 Hugging Face 上开源发布”。
2026年11月2日——GitHub 示例发布 v1.1.0.2 版本,新增 AMD VitisAI 支持;自6月以来该仓库一直保持稳定维护,却从未有过任何公开公告。
2026年11月16日——Microsoft 关于 Phi Silica 的 Windows AI 文档中有一则通知,其时间戳为权重发布前两天,称“Phi Silica 正被 Aion Instruct 取代”,并告诉开发者现在就开始规划迁移。
• 2026年11月18日 17:05 UTC — 权重本身以 MIT 许可证发布在 Hugging Face 上。搜索不到任何配套的发布文章。

所以,诚实的说法并不是“微软秘密发布了一个模型”,而是:近六个月来,微软一直在通过文档和示例代码向 Windows 开发者说明这一转变;它在 7 月承诺开放权重,却晚了四个半月才交付,而且没有用任何公告来标记这次交付。如果你只读发布报道,你就不会知道 Aion 1.0 Instruct 的存在。如果你读的是 Phi Silica API 文档——那才是 Windows 开发者真正日常所在的地方——那么你至少从 11 月中旬起就已经被告知了。
这些文件所证明的内容,无需微软确认任何事
以下内容都不依赖于任何公告。它们全都保存在代码仓库中,而且其中大部分可以直接对照权重文件本身进行核查。
• 参数量——卡片上写着“约 2.29B”,算术上也吻合:model.safetensors 是 4,577,698,488 字节的 bfloat16,按每个参数占两字节计算,即 2,288,849,244 个参数。输入和输出嵌入是共享的,因此该计数不会在头部翻倍。
• 形状 — 28 层,隐藏维度 2,048,MLP 中间维度 8,192(使用 SiLU),24 个查询头对应 8 个键/值头,头维度为 128,RMSNorm 的 epsilon 为 1e-6,词表大小为 200,029 个 token。
• 注意力模式——配置中的 layer_types 数组列出了 21 个 sliding_attention 层和 7 个 full_attention 层,二者交错排列。滑动窗口为 2,048 个 token。
• 上下文 — 32,768 个 token,是通过 YaRN 而非原生训练长度达到的。下面会详细说明,因为这是整个文件中最容易被误读的数字。
• 许可证 — MIT,版权归 Microsoft Corporation 所有,且仓库中存在 LICENSE 文件。然而,front-matter 中的 license_link 却指向 asgmodels/Aion-Instruct-v1/blob/main/LICENSE,而那个是返回 401 的私有仓库。你能读到的是目录树中的许可证;卡片所链接的那一份则无法访问。
• 自定义代码——这不是标准架构。运行它需要 trust_remote_code=True,并会引入 configuration_aion_instruct.py 和 modeling_aion_instruct.py。它是用 transformers 5.x 导出的,因此较旧的工具链若不加以注意将无法加载它。
• 聊天格式 —— <|system|>、<|user|>、<|assistant|>每一轮都以<|end|> 收尾,它同时也是 EOS token。工具 schema 会放进系统提示中,位于 <|tool|> 与 <|/tool|> 之间;调用会以 <|tool_call|>{"name": …, "arguments": …}<|/tool_call|> 的形式返回;结果则在带有 <|tool_response|> 前缀的用户轮次中返回。如果开头的系统消息包含任何保留控制 token,该模板就会抛出异常,这是一项合理的防护,也是在这类卡片中难得一见的做法。
• 语言——英语、德语、西班牙语、葡萄牙语、意大利语、法语、中文和日语。卡片上说明,多语言数据约占训练数据组合的 6%。
• 知识截止日期 — 2025年12月。
• 量化构建——microsoft/Aion-1.0-Instruct-2.3B-ONNX-WebGPU,创建于当晚 UTC 17:14:58,比基础仓库晚九分钟。从经过量化感知训练的检查点导出 INT4 分块权重,FP16 激活和 KV 缓存,opset 21,约 1.3 GB,通过 ONNX Runtime GenAI 面向 WebGPU。
清单里最有用的,是把最后两项放在一起看。一个未量化的 bf16 版本,加上一个由 QAT 衍生出的 INT4 构建,二者发布时间相隔不到九分钟,这说明交付产物在透明度产物之前就已就绪。这更像是一次被压住、随后悄悄放出的发布,而不是一次仓促推出的发布。
32K 上下文是把 2K 模型拉伸了十六倍
阅读 rope_parameters 块时要仔细,上下文数量会改变性质。全注意力层声明 rope_type: "yarn",并设置 original_max_position_embeddings: 2048 和 factor: 16.0。2048 乘以 16 等于 32,768。滑动注意力层声明普通的 rope_type: "default",theta 为 32,000,使用相同的 2,048 窗口。
从配置中得出的解读——而且这是解读,不是厂商声明——是:该模型训练时的位置范围为 2,048 个 token,之后通过仅应用于其 28 层中 7 层的 RoPE 缩放扩展到 32K。从结构上说,整个堆栈中有四分之三永远无法关注到超过 2,048 个 token 之前的位置;长距离混合只发生在七个全注意力层中。对于端侧模型而言,这是一种合理且日益常见的设计;在这类模型中,KV 缓存大小是内存的硬性约束——无论对话持续多久,滑动窗口都能让缓存保持恒定,而这正是在一台还要渲染桌面的笔记本电脑上想要的效果。
这也意味着,32,768 这个数字不应被解读为“处理 32K 文档的能力与在 32K 上训练的模型一样好”。微软自己的说明卡在这一点上很谨慎,将该窗口描述为足以“完全在设备上处理多页文档、冗长的电子邮件线程和复杂的技术规格”。它并未声称在窗口最远端也能保持检索质量。如果你需要的是长上下文召回,那正是你应该首先自行测量的东西,而说明卡里并没有这项内容。
这些基准测试是微软自己的,其中两项被标记为宽松。
以下所有数字均为厂商报告。模型卡称,只要存在任务实现,所有这些数字都通过 EleutherAI 的 lm-evaluation-harness 运行;否则通过各基准的官方代码库运行;在由 LLM 评判的任务中,GPT-4o 担任评判者。没有独立复现,没有公开的 harness 配置,代码库中也没有评测脚本,因此无法根据已发布的内容重新运行其中任何一项。
• 知识 — MMLU 55.15、MMLU-Pro 33.35、多语言 MMMLU 45.51、GPQA 28.18。
• 数学 — 在宽松匹配下,GSM8K 74.91,GSMPlus 49.56,MATH-500 48.00。
• 指令遵循——IFEval 83.90(提示级严格与指令级严格的均值),IFBench 32.00(提示级宽松),Multi-IF 64.70。
• 翻译 — chrF++ 43.18。

其中两项在任何人为其引用之前都值得再核对一下。GSM8K 的 74.91 明确是宽松匹配,只要答案包含正确数字就给分,即便其周围的推理或格式有误;对 2.3B 模型采用严格 GSM8K 口径,得分会明显更低。IFBench 的 32.00 是提示词层面的宽松口径,而这是该组中最宽松的指令遵循基准中最宽容的变体。同一张表中偏严格口径的数字——MMLU-Pro 33.35、GPQA 28.18——才是一个 2.3B 模型世界知识的真实样貌,而这些数字平平无奇,这也正是模型卡在局限性部分自己所说的:小模型“可能会遗漏细节、给出错误陈述,或表现出无法遵循复杂多步推理”。
比任何单一评分都更重要的缺失:这张卡片从未将 Aion 1.0 Instruct 与它所取代的模型 Phi Silica 进行比较。它只说训练数据“是对用于训练 Phi Silica 的数据的扩展”,然后就到此为止。对于被告知要在 1 月迁移的开发者来说,唯一能影响这一决策的差异——替代品比我现有的模型评分更高还是更低——并不在文档中。
安全号码是一张图片,而不是表格
卡片列出了它希望改进的三项指标:XPIA、DIC 和 ECI。但随后并未给出其中任何一项的具体数字。这些数字仅存在于images/aion_safety_bchart.png中,这是一张标题为“Azure AI Safety Suite”的柱状图,其坐标轴类别包括对抗性内容安全、选举关键信息、间接提示注入和文档注入,采用方向归一化的 0 到 100 分制评分,其中数值等于 1 减去失败率再乘以 100。文本中任何地方都没有数值列。
这是一个真实的缺口,值得直截了当地说明,而不是绕开它:微软自己点明需要改进的三项指标,恰恰是你不对 PNG 做 OCR 就无法读取的三项。验证者确实发布了一条方法学脚注——提示词类型完全相同,并已通过 SHA-256 验证——这比大多数模型卡所展示的严谨程度更高。他们只是没有公布具体数值。而针对 Windows 验证包的平行透明度说明则更进一步,指出跨提示词注入攻击和情绪推断在 Responsible AI 合规方面尚未经过测试,并且该验证包“可能存在漏洞”。对于一个以在本地文档上无人值守运行作为核心卖点的模型来说,提示词注入绝不是一条脚注。
Microsoft 已经告诉开发者的内容,以及哪些地方会出问题
这是读者今天就能采取行动的部分,而且它完全不依赖于 Hugging Face 的发布。它位于 Microsoft Learn 的 Phi Silica 页面上,该页面的更新时间戳显示为 2026 年 11 月 16 日。

• Phi Silica 正被 Aion Instruct 取代。通知中直接说明了这一点,并告知开发者现在就开始规划过渡。
• 2026 年 12 月 — Aion 1.0 Instruct 开始向 Windows Insider Preview 设备推出。Phi Silica 仍然存在;由 Windows Controlled Feature Rollout 决定哪个模型处于活动状态,开发者可以通过注册表项强制进行并排比较。
• 2027 年 1 月 — 该模型将推广至零售设备,Phi Silica 将被移除。
• 访问门槛消失了。Phi Silica 的 API 属于有限访问功能(Limited Access Feature),需要解锁令牌;文档中写道:“与 Phi Silica 不同,使用 Aion Instruct 不再需要 LAF 令牌。”对于任何曾经填写过 LAF 申请表并等待过的人来说,这是整个迁移过程中最关键的一句话。
• 你的 LoRAs 不会随你一起迁移。示例仓库明确指出:兼容 Phi Silica 的 LoRAs 与 Aion Instruct 不兼容,新的适配器必须使用 Foundry Toolkit 构建。
• 输出内容会被添加水印。新堆栈使用不可见水印来支持欧盟《人工智能法案》合规,而说明中警告称,当输出内容粘贴到某些应用程序中时,水印可能会变得可见。
• 硬件支持为三个执行提供程序,且没有回退。验证包面向:ARM64 Snapdragon,通过由 catalog 管理的 QNN,最低 EP 2.2480.49;x64 Intel Lunar Lake,通过 OpenVINO 1.8.95;以及 x64 AMD Ryzen AI,通过 VitisAI 1.8.80。其中明确“当受支持的 NPU 提供程序不可用时,不提供 CPU 回退”。注意这与六月 Edge 文章之间的差距,该文章宣称 CPU 推理是 Aion 触达无 GPU 设备的方式——那指的是浏览器版本,而 Windows API 路径更窄。
• 验证包不可交付。“它不供最终用户或客户使用。请勿将此包的任何部分交付给最终消费者。”模型已定稿;围绕它的交付尚未定稿,而且今天测得的性能明确不能代表 1 月构建。
还有哪些尚未确认,以及该如何把握
• 没有发布公告。微软的博客上没有任何消息,模型卡中除了“对即将推出的内容的介绍”之外,没有任何意图声明,也没有技术报告。仓库之外唯一的公开痕迹,是 11 月 18 日一条仅获得 1 分的 Hacker News 投稿。
• 没有独立评估。截至11月19日,该模型尚未出现在 Artificial Analysis 上,也没有第三方公布运行结果。上表中的每一个数字都是微软在给自己的模型打分。
• 无 GGUF。卡片中列出“库名称:PyTorch、ONNX、GGUF”,但 Microsoft 组织下并不存在 GGUF 仓库。已发布的唯一量化产物是 ONNX WebGPU 构建。在文件实际存在之前,请将 GGUF 这一项视为意向性声明。
• 未提供训练细节。Token 数量、算力,以及除“公开文档加合成数据”和 6% 多语言占比之外的数据混合情况——这些均未说明。
• 不提供定价,因为没有什么可定价的。这是一个操作系统组件和权重下载,而不是托管端点。它也不在 OrcaRouter 目录中,与其他所有 Microsoft 端侧模型一样。
如果你要发布 Windows 应用,那么这项决定早已排上你的日程。
实际解读是:Aion 1.0 Instruct 现在就能让你提前数月基于它做原型开发,而不必等到被迫上手时才行动——这正是透明度发布的意义所在。拉取权重,运行你自己的提示集,测量模型卡不会告诉你的两件事——超过 2,048 个 token 的长上下文召回能力,以及面对本地文档上的提示注入时的行为——然后判断你的摘要与改写路径能否经受这次替换。带有并排注册表键的 December Insider 窗口是你所能获得的最便宜的测试框架,而它将在一月关闭。
随之而来的架构问题是:端侧模型的能力边界止于何处。一个运行在 NPU 上、具有 32K 窗口的 2.3B 模型非常擅长摘要、改写、分类和抽取,但它不会对代码库进行多步推理。大多数采用它的应用最终会走向混合模式:本地模型负责低成本、私密、对延迟敏感的环节,云端模型则置于 API 之后,负责升级路径。这个升级层正是值得刻意设计、而非事后附加的部分。OrcaRouter 正是为解决这一问题的那一半而存在——通过一个 API 接入 200 多个云端模型,不对提供商标价加价,提供商降级时自动故障转移,并提供路由 DSL 将多个模型组合成一次调用——而且它不提供 Aion 1.0 Instruct,因为这个模型完全不运行在数据中心中。诚实的划分是:本地模型、本地决策、云端升级,而这两半需要不同的工具链。
还有一种低成本方式可以为未经验证的部分做对冲。上述内容都没有经过独立基准测试,而且 1 月的构建版本可能与此检查点不同。故障转移才能让把未评分模型放到重要路径上变得安全:在你需要之前就配置好回退方案,这样糟糕的生成结果就会变成一次重试,而不是一次事故。无论你对混合方案中的哪一半不确定,这条建议都适用。
看什么
四个信号会改变这一局面,其中三个的监测成本很低。一篇带有训练细节的正式公告文章,会把这张模型卡从透明度产物升级为正式发布。一个 GGUF 仓库会让该模型能在 Windows 之外以及 ONNX Runtime 之外使用。首次独立基准测试运行——Artificial Analysis、LMArena,或任何可复现的测试框架输出——将用可引用的内容取代那些宽松匹配的限定说明。而 Edge Canary 和 Dev 渠道就是实时测试:如果浏览器中的 Prompt and Writing Assistance APIs 从 Phi-4-mini 路径切换到 Aion 1.0 Instruct,你会在 1 月 Windows 推送之前很久就通过行为看到这一替换。
在那之前,对 Aion 1.0 Instruct 的正确描述只能是证据所支持的那一个,仅此而已:一个已完成的 2.29B 端侧模型,采用 MIT 许可,技术上完整却未有文档,于周二傍晚 17:05 UTC 发布,九分钟后紧随一个量化版本,以及一个并非它自己设定的替换截止期限。
