一張生成的標題卡,標題為「Aion 1.0 Instruct 悄然發布」,副標題為「2.29B 參數、32K 上下文、MIT 授權、零下載」,並有四枚標籤分別寫著「2026 年 11 月 18 日,17:05 UTC」、「28 層,21 層滑動」、「2,048 至 32,768,透過 YaRN」以及「Windows OS SLM,2027 年 1 月」。頁腳寫著「數字讀取自 2026 年 11 月 19 日公布的儲存庫」。OrcaRouter 標誌合成於圖稿下方的白色條帶中。
Guides & Insights

Aion 1.0 Instruct 無預警登上 Hugging Face,並附帶 2027 年 1 月的截止期限

作者

jinhao.song

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

該儲存庫 microsoft/Aion-1.0-Instruct-2.3B建立於 2026 年 11 月 18 日 17:05:50 UTC。九分鐘後,它旁邊出現了第二個儲存庫,內含同一批權重的 INT4 ONNX 建置版本。截至今天早上,基礎儲存庫有三個讚、零次下載,且恰好只有一次提交,其訊息寫著「Duplicate from asgmodels/Aion-Instruct-v1」——而那個來源儲存庫現在對任何提出請求的人都回傳 401。沒有發布文章、沒有討論串,也沒有以「我們很興奮」開頭的模型卡句子。Aion 1.0 Instruct並未被公告;它是被發布的,而這是不同的行為;兩者之間的落差,正是本文存在的原因。

以下內容區分三類主張,且絕不將其混為一談。儲存庫事實是今早直接從檔案中讀取的——包括設定、權重索引、聊天範本、模型卡,以及同系列儲存庫。廠商說法是 Microsoft 在其自家評測工具上公布的自家數字,僅作為主張如實轉述。還有一類在此比平時更重要:Microsoft 已在其自家文件上為 Windows 開發者公布遷移時程表,而那份時程表比模型卡中的任何內容都更具影響力。凡儲存庫未提及之處,本文會明說,而不作推測。

兩個時鐘,而其中只有一個是安靜的

Hugging Face 的那份發布是安靜的時鐘。響亮的那一個更舊,而且已經運轉了好幾個月。

• 2026 年 5 月 31 日 — microsoft/Aion-Instruct-Preview-Sample在 GitHub 上公開,這是一款適用於 Copilot+ PC 上裝置端語言模型的 WinUI 3 範例應用程式。其 README 明確寫道:「此套件包含計畫隨 Windows 一同發布的最終 Aion Instruct 模型。」

• 2026 年 6 月 2 日 — Microsoft Edge 開發人員部落格宣布,Aion-1.0-Instruct 為 Edge Canary 與 Dev 中的預發行模型,取代 Prompt and Writing Assistance APIs 背後的 4B Phi-4-mini,並形容它更小、更快,且可在沒有 GPU 的環境下於 CPU 推論上執行。同一篇文章承諾「計劃於 7 月在 Hugging Face 開源發布」。

• 2026 年 11 月 2 日 — GitHub 範例發布 v1.1.0.2 版,新增 AMD VitisAI 支援;該儲存庫自六月以來持續穩定維護,卻未曾發布任何公開公告。

• 2026年11月16日 — Microsoft 針對 Phi Silica 的 Windows AI 文件附有一則通知,其時間戳記比權重發布早了兩天,內容寫道「Phi Silica 正由 Aion Instruct 取代」,並告訴開發者現在就應開始規劃移轉事宜。

• 2026年11月18日 17:05 UTC — 權重本身以 MIT 授權,發佈於 Hugging Face。搜尋找不到任何隨附的公告貼文。

A screenshot of the Hugging Face model page for microsoft/Aion-1.0-Instruct-2.3B showing 3 likes, tags for Text Generation, Transformers, Safetensors and 8 languages plus aion_instruct, and model-card text opening 'Aion 1.0 Instruct' under the heading Microsoft Windows Applied Sciences Group, describing a 2.3B-parameter on-device small language model and stating that a further optimised version will become the Windows OS SLM by the end of January 2027.

誠實的描述不是「微軟秘密發布了一個模型」。而是:微軟近六個月來一直在文件和範例程式碼中向 Windows 開發者說明這項轉換,七月承諾開放權重,卻晚了四個半月才交付,而且沒有以公告標示這次交付。如果你只讀發表報導,你不會知道 Aion 1.0 Instruct 存在。如果你讀 Phi Silica API 文件——那才是 Windows 開發者實際所在之處——你至少從十一月中旬起就已被告知。

這些檔案證明了什麼,無須微軟出面確認任何事

以下內容都不依賴於任何公告。這些全都在儲存庫中,而且大部分都可以對照權重檔案本身來查核。

• 參數量——卡片上寫著「~2.29B」,而且算術也相符:model.safetensors 是 4,577,698,488 位元組的 bfloat16,也就是每個參數佔兩個位元組時共有 2,288,849,244 個參數。輸入與輸出嵌入共用權重,因此參數量不會在頭部加倍。

• 形狀 — 28 層、隱藏大小 2,048、MLP 中間層 8,192 並使用 SiLU、24 個查詢頭對應 8 個鍵/值頭且頭維度為 128、RMSNorm 的 epsilon 為 1e-6、詞彙表大小為 200,029 個 token。

• 注意力模式 — 設定檔的 layer_types 陣列列出 21 個 sliding_attention 層和 7 個 full_attention 層,交錯排列。滑動視窗為 2,048 個 token。

• 上下文 — 32,768 個 token,是透過 YaRN 而非原生訓練長度達到的。詳情見下文,因為這是整份檔案中最容易被誤讀的單一數字。

• 授權條款 — MIT,著作權屬 Microsoft Corporation,且儲存庫中存有 LICENSE 檔案。front-matter 的 license_link卻指向 asgmodels/Aion-Instruct-v1/blob/main/LICENSE,那是會傳回 401 的私人儲存庫。你能讀到的授權條款是樹狀目錄中的那一份;卡片連結到的那一份則無法存取。

• 自訂程式碼 — 這不是標準架構。執行它需要 trust_remote_code=True,並會載入 configuration_aion_instruct.py 與 modeling_aion_instruct.py。它是以 transformers 5.x 匯出的,因此較舊的工具鏈若未特別留意將無法載入。

• 對話格式 — <|system|>,<|user|>,<|assistant|>,每一輪皆以 <|end|> 作結,而它同時也是 EOS 詞元。工具結構定義會寫進系統提示中,介於 <|tool|> 與 <|/tool|> 之間;呼叫會以下列形式回傳:<|tool_call|>{"name": …, "arguments": …}<|/tool_call|>;結果則會在使用者回合內回傳,並在前面加上 <|tool_response|>。若開頭的系統訊息含有任何保留控制詞元,此模板便會拋出錯誤;這是一道合理的防護,也是卡片中少見的做法。

• 語言 — 英語、德語、西班牙語、葡萄牙語、義大利語、法語、中文與日語。卡片指出多語言資料約占訓練資料組合的 6%。

• 知識截止 — 2025 年 12 月。

• 量化版本 — microsoft/Aion-1.0-Instruct-2.3B-ONNX-WebGPU,於同日晚間 17:14:58 UTC 建立,比基礎儲存庫晚九分鐘。INT4 分塊權重從經過量化感知訓練的檢查點匯出,FP16 啟用值與 KV 快取,opset 21,約 1.3 GB,透過 ONNX Runtime GenAI 以 WebGPU 為目標。

那份清單裡最有用的,是合起來看的最後兩項。一個未量化的 bf16 版本,加上一個由 QAT 衍生的 INT4 建置,兩者相隔九分鐘內發布,這告訴你:出貨產物在透明度產物之前就已經準備好了。這是一種曾被壓下、之後才悄悄放行的發布所呈現的樣貌,而不是匆忙推出的發布。

32K 上下文是將 2K 模型拉伸十六倍的結果

請仔細閱讀rope_parameters 區塊,上下文數字會改變性質。全注意力層宣告 rope_type: "yarn",並搭配 original_max_position_embeddings: 2048,以及 factor: 16.0。2,048 乘以 16 等於 32,768。滑動注意力層宣告單純的 rope_type: "default",theta 為 32,000,且使用相同的 2,048 視窗。

從這份設定檔得出的解讀——而這是一種解讀,並非廠商聲明——是:這個模型是在 2,048 個 token 的位置範圍內訓練的,之後才透過 RoPE 縮放延伸至 32K,而該縮放只套用在其二十八層當中的七層。依其建構方式,整個堆疊中有四分之三的層永遠無法關注到超過 2,048 個 token 之前的內容;長距離的資訊混合只發生在那七層完整注意力層裡。對於裝置端模型而言,這是合理且日益常見的設計,因為在裝置上 KV 快取的大小正是記憶體的關鍵限制——滑動視窗能讓快取無論對話跑得多長都保持平坦,而這正是你在一台還得同時繪製桌面環境的筆電上想要的。

這也意味著不應該把 32,768 這個數字解讀為「處理 32K 文件的能力與以 32K 訓練的模型一樣好」。微軟自己的模型卡在這一點上很謹慎,將這個視窗描述為足以「完全在裝置端處理多頁文件、冗長的電子郵件串和複雜的技術規格」。它並沒有聲稱在遠端檢索品質上也有同樣表現。如果你需要的是長上下文召回,那正是你應該先自行測量的項目,而模型卡裡並沒有這項資訊。

這些基準測試是微軟自家的,而且其中兩項被標記為寬鬆。

下方每個數字都是廠商自行回報的。模型卡指出,這些數字在有任務實作的情況下,都是透過 EleutherAI 的 lm-evaluation-harness 執行;否則則是透過各基準的官方儲存庫執行,而在由 LLM 評判的任務上,則以 GPT-4o 作為評審。沒有獨立重現、沒有公開的 harness 設定,儲存庫裡也沒有評估腳本,因此無法從已發布的內容重新執行任何一項。

• 知識 — MMLU 55.15、MMLU-Pro 33.35、多語言 MMMLU 45.51、GPQA 28.18。

• 數學 — 在寬鬆匹配標準下,GSM8K 為 74.91,GSMPlus 為 49.56,MATH-500 為 48.00。

• 指令遵循 — IFEval 83.90,為提示層級嚴格與指令層級嚴格的平均值;IFBench 32.00(提示層級寬鬆);Multi-IF 64.70。

• 翻譯 — chrF++ 43.18。

A generated single-column scoreboard card titled 'Aion 1.0 Instruct — the scoreboard' with six rows: Parameters 2.29B (tied embeddings), Layers 28 (21 sliding + 7 full), Context 32,768 (2,048 trained, YaRN factor 16), Licence MIT, MMLU 55.15, GPQA 28.18. A footer reads 'Config and weights read from the repository; scores are vendor-reported and unreproduced.' The OrcaRouter logo is composited in the white strip below the artwork.

其中兩項值得在任何人引用之前再仔細看一下。GSM8K 的 74.91 明確是寬鬆匹配,只要答案包含正確數字就會給分,即使其周遭的推理或格式是錯的;若對 2.3B 模型採用嚴格 GSM8K,分數會明顯更低。IFBench 的 32.00 是提示層級的寬鬆評分,而這是整組中最寬容的指令遵循基準裡最寬容的變體。同一張表中偏嚴格口徑的數字——MMLU-Pro 的 33.35、GPQA 的 28.18——才是 2.3B 模型世界知識的實際樣貌,而它們並不突出,這也正是模型卡本身在限制章節中所說的:小型模型「可能漏掉細節、提供錯誤陳述,或顯示出無法遵循複雜多步推理」。

比任何單一分數都更重要的那項缺失:這份模型卡從未把 Aion 1.0 Instruct 與它所取代的 Phi Silica 相提並論。它只說訓練資料「是訓練 Phi Silica 所用資料的延伸」,然後就沒再說下去。對一個在一月被告知要遷移的開發者而言,唯一能據以做出決定的那項差異——替代品的分數究竟比我現有的更好還是更差——並不在這份文件裡。

安全數字是一張圖片,不是表格。

卡片列出了它想要改善的三項指標:XPIA、DIC 和 ECI。接著它拒絕為其中任何一項提供數字。這些數字只存在於images/aion_safety_bchart.png,一張標題為「Azure AI Safety Suite」的長條圖中,其軸類別包括對抗性內容安全、選舉關鍵資訊、間接提示注入與文件注入,並以方向正規化的 0 到 100 量表評分,其中數值為一減去失敗率,再乘以一百。文本中任何地方都沒有數值欄位。

這是一個真實的缺口,值得直說而不是繞過去:Microsoft 自己標示需要改進的三項指標,正是你必須對 PNG 做 OCR 才能讀取的那三項。驗證者確實發布了一則方法學註腳——提示詞逐字相同,並以 SHA-256 驗證——這比大多數模型卡展現的嚴謹度更高。他們只是沒有公布數值。而 Windows 驗證套件的並行透明度說明更進一步指出,跨提示注入攻擊與情緒推論尚未經過 Responsible AI 合規測試,且該套件「可能有漏洞」。對於一個主打功能是在你的本機文件上無人值守運行的模型來說,提示注入可不是註腳。

微軟已向開發者說明的內容,以及哪些功能會失效

這是讀者今天就能採取行動的部分,而且它完全不取決於 Hugging Face 的發佈。它位於 Microsoft Learn 的 Phi Silica 頁面上,該頁面的更新時間戳記顯示為 2026 年 11 月 16 日。

A screenshot of the Microsoft Learn documentation page for the Phi Silica Windows AI APIs, showing the navigation tree, the Limited Access Feature note, and an Important callout reading 'Phi Silica is being replaced by Aion Instruct, a new on-device model. Start planning your transition now', followed by links to the Aion Instruct sample and the Microsoft Edge blog, the sentence 'Unlike Phi Silica, LAF tokens are no longer needed with Aion Instruct', a December 2026 Windows Insider Preview rollout line and a January 2027 retail rollout line stating that Phi Silica is removed.

• Phi Silica 正由 Aion Instruct 取代。通知中直接說明了這一點,並告知開發者現在就應開始規劃轉換。

• 2026 年 12 月 — Aion 1.0 Instruct 開始推送至 Windows Insider Preview 裝置。Phi Silica 仍會存在;由 Windows Controlled Feature Rollout 決定哪個模型處於作用中,而開發人員可透過登錄機碼強制進行並排比較。

• 2027 年 1 月 — 此模型將推展至零售裝置,並移除 Phi Silica。

• 存取閘門消失了。Phi Silica 的 API 屬於受限存取功能(Limited Access Feature),需要解鎖權杖;文件指出:「與 Phi Silica 不同,使用 Aion Instruct 已不再需要 LAF 權杖。」對於任何曾提交 LAF 申請表並苦苦等待的人來說,這是整次遷移中最關鍵的一句話。

• 您的 LoRA 不會隨您一起轉移。範例存放庫明確指出:相容於 Phi Silica 的 LoRA 與 Aion Instruct 不相容,而新的適配器必須使用 Foundry Toolkit 建置。

• 輸出內容會被加上浮水印。新技術堆疊採用不可見浮水印,以符合歐盟《人工智慧法》的規範,而相關說明提醒:當輸出內容貼到某些應用程式時,浮水印可能會變成可見。

• 硬體支援為三個執行提供者,且沒有備援。驗證套件鎖定 ARM64 Snapdragon,透過由目錄管理的 QNN,最低 EP 2.2480.49;x64 Intel Lunar Lake 透過 OpenVINO 1.8.95;以及 x64 AMD Ryzen AI 透過 VitisAI 1.8.80。當支援的 NPU 提供者無法使用時,並無「CPU 備援」。請注意與六月 Edge 文章之間的落差,該文宣稱 CPU 推論是 Aion 觸及沒有 GPU 的裝置之方式——那是瀏覽器組建,而 Windows API 路徑則更為狹窄。

• 驗證套件不可出貨。「本套件不供終端使用者或客戶使用。請勿將本套件的任何部分出貨給終端消費者。」模型本身已定案;圍繞模型的交付內容則尚未定案,且今日測得的效能明確不代表一月的組建版本。

什麼仍未確認,以及如何掌握它

• 沒有發布公告。Microsoft 的部落格上沒有任何消息,模型卡上除了「即將推出內容的介紹」外沒有意向聲明,也沒有技術報告。在儲存庫之外,唯一的公開痕跡是 11 月 18 日一篇只有 1 分的 Hacker News 投稿。

• 沒有獨立評估。截至11月19日,該模型並未出現在 Artificial Analysis 上,且沒有任何第三方公布過執行結果。上表中的每一個數字都是 Microsoft 自己評自己。

• 沒有 GGUF。卡片上列出「Library names: PyTorch, ONNX, GGUF」,但 Microsoft 組織底下並不存在任何 GGUF 儲存庫。唯一已發佈的量化產物是 ONNX WebGPU 版本。在有實際檔案之前,請把 GGUF 那一行視為意向宣示。

• 沒有訓練細節。Token 數量、算力、資料混合比例,除了「公開文件加上合成資料」以及 6% 的多語言佔比之外——這些全都沒有說明。

• 不提供定價,因為沒有東西可以定價。這是作業系統元件與權重下載,不是託管端點。它也不在 OrcaRouter 目錄中,和其他所有 Microsoft 裝置端模型一樣。

如果你發布 Windows 應用程式,這項決定早已排在你的行事曆上

務實的解讀是:Aion 1.0 Instruct 現在就能讓你用來做原型,而且比你被迫這麼做還早幾個月,而這正是透明度釋出的重點。把權重拉下來,跑你自己的提示集,衡量模型卡不會告訴你的兩件事——超過 2,048 個 token 的長上下文召回,以及在本機文件上遭遇提示注入時的行為——並判斷你的摘要與改寫路徑能否在替換後存續。附有並排登錄檔金鑰的 December Insider 窗口,是你所能取得最便宜的測試框架,而且它將於一月截止。

接下來的架構問題是:裝置端模型的能力邊界在哪裡。一個具備 32K 視窗、可在 NPU 上執行的 2.3B 模型,非常擅長摘要、改寫、分類與擷取,但它不會對整個程式碼庫進行多步推理。多數採用它的應用程式最終都會走向混合架構:用本地模型處理便宜、私密、對延遲敏感的流程,並在 API 背後接入雲端模型作為升級路徑。這個升級層值得刻意設計,而不是事後硬加上去。OrcaRouter 正是為了這另一半問題而存在——以單一 API 涵蓋 200 多個雲端模型,對供應商定價不加價,供應商服務劣化時自動容錯切換,並提供路由 DSL 將多個模型組合成一次呼叫——而它並不提供 Aion 1.0 Instruct,因為這個模型的一切都不在資料中心裡執行。誠實的分工是:本地模型、本地決策、雲端升級,而這兩半需要不同的工具。

還有一種低成本的方法,可以對尚未證實的部分進行避險。上述內容都沒有經過獨立基準測試,而一月的建置版本可能與這個檢查點不同。容錯移轉(failover)正是讓未評分模型能安全地部署在重要路徑上的關鍵:在你需要之前就先配置好備援,這樣一來,糟糕的生成結果就會變成一次重試,而不是一起事故。無論你對混合架構中的哪一半不確定,這個建議都適用。

有什麼好看

有四項訊號會改變這個局面,而其中三項的監測成本很低。一篇附有訓練細節的正式公告文章,會讓這張卡片從透明度產物升級為正式發表。一個 GGUF 儲存庫則能讓模型在 Windows 之外、也在 ONNX Runtime 之外使用。首次獨立基準測試——Artificial Analysis、LMArena,或任何可重現的測試框架輸出——會以可引用的內容取代寬鬆比對的注意事項。而 Edge Canary 與 Dev 通道就是實測:如果瀏覽器中的 Prompt 與 Writing Assistance API 從 Phi-4-mini 路徑切換到 Aion 1.0 Instruct,你會在 1 月 Windows 推出前很久,就從行為上看到這次替換。

在那之前,對 Aion 1.0 Instruct 的正確描述,就是證據所能支持的那一個,僅此而已:一個已完成的 2.29B 裝置端模型,以 MIT 授權,技術上完整卻未有文件,於某個週二傍晚 17:05 UTC 發布,伴隨一個晚九分鐘推出的量化版同系列模型,以及一個並非由它自己設定的汰換期限。