
Hy-Memory-30B-A3B 低調發布:騰訊在 Hugging Face 上放了一個記憶寫入器,卻沒有發布任何發布貼文
- Orca新Orca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百萬 tokens · 73 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百萬 tokens · 725 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238智能
- OpenAIOpenAI: GPT-6 Sol2026-09-2248智能
- AnthropicAnthropic: Claude Opus 5.52026-09-2258智能
- xAIGrok 4.72026-09-2146智能
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 每百萬 tokens · 35 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 每百萬 tokens · 821 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-09-1040智能
- OpenAIOpenAI: GPT-6 Astra2026-09-0453智能77程式
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241智能76程式
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245智能76程式
- AnthropicAnthropic: Claude Fable 5.12026-09-0153智能82程式
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 每百萬 tokens · 52 tok/s
- AlibabaQwen: Qwen3.8 Flash2026-08-26$0.15 / $0.47 每百萬 tokens · 108 tok/s
- z-aiZ.ai: GLM 5.3 Flash2026-08-2642智能72程式
- DeepSeekDeepSeek: DeepSeek V4 Flash Vision (Exp)2026-08-21$0.22 / $0.66 每百萬 tokens · 185 tok/s
- z-aiZ.ai: GLM 5.32026-08-1845智能75程式
Hy-Memory-30B-A3B是 Hunyuan 團隊推出的 300 億參數混合專家模型,它不回答問題。它撰寫記憶。它決定長時間運行的代理該保留什麼、該用多精確的措辭表達,以及新事實該如何覆寫持久記憶庫中的舊事實——這個步驟,至今每個代理框架都交給通用聊天模型處理。權重已於2026 年 10 月 15 日上傳至 Hugging Face,技術報告同日以 arXiv 2610.22196 發布,GitHub 儲存庫當天下午開通,而 v1.0.0 標籤則於10 月 16 日建立。截至撰稿時,該儲存庫的下載次數掛零,模型卡上的按讚數僅有個位數。我們找不到任何廠商發布頁面、定價、代管端點,也找不到專案自家 README 以外的任何公告。基準測試會過時,價格會變動,但失敗紀錄不會:這一類模型背後有紀錄可查的 AI 事故與代理失效案例,全都收錄在the OrcaRouter AI Incident Archive,每一筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。
That is the honest shape of this release: a paper, a repo, a checkpoint, and an evaluation table that claims to beat Claude Opus 5. Everything below is either read directly out of the repository or labelled as the vendor's own unverified claim. Nothing here has been reproduced by a third party, because nothing here has been run by a third party.

儲存庫裡實際上包含什麼,以及不包含什麼
可查證的事實,每行一項:
• 模型 — tencent/Hy-Memory-30B-A3B,依 Apache 2.0 授權發布,標記為英文與中文。
• 尺寸 — 總計 30B 參數,每個 token 約有 3B 活躍參數,這正是 A3B 後綴的意思。
• 架構 — 48 層,其中 1 層是稠密前饋區塊,47 層是稀疏 MoE 區塊;每個區塊有 128 個專家,採用 top-8 路由加上一個共享專家;隱藏層大小為 2,048;專家中間層寬度為 768;32 個注意力頭對應 4 個鍵值頭,並使用查詢-鍵正規化;一個帶有專家偏置項的 sigmoid 路由器。
• 上下文 — 來自設定檔的 262,144 個位置,RoPE 基底為 11,158,840。
• 佔用空間 — 51 個 safetensors 分片,BF16 格式,總計約 60.1 GB。
• 服務由 vLLM 提供,並已針對 v0.31.0 測試,位於 OpenAI 相容端點之後。該卡片未指明其他執行環境,也未指明推論供應商。
• 不存在——在 Hugging Face 搜尋索引中,沒有 GGUF、沒有 FP8 或 NVFP4 建置、沒有微調、沒有量化,也沒有任何形式的衍生品。該團隊僅發布了一個 BF16 檢查點,只有一種精度。

最後一行的重要性比字面上看起來更高。Granite 團隊在基礎權重發布後幾天內,就推出了 Granite 4.2 30B 的 FP8、MXFP4、NVFP4 與 GGUF 版本。Liquid AI 則推出 LFM2.5-24B-A2B 的 Q4_K_M GGUF,大小為 14.5 GB。這些廠商正在告訴你,他們預期模型會在哪裡執行。一個 60 GB 的 BF16 檢查點,卻沒有量化路徑,等於在告訴你:這個模型是鎖定那些早就擁有 GPU 的人——最可能是大規模運行記憶體基礎設施的人,而這正是模型卡所點名的受眾。
模型實際上是要用來做什麼的
記憶寫入器與代理之間的區別,正是本次發布的全部重點,而這點很容易被忽略,因為這份模型卡讀起來就跟其他每一份模型卡沒兩樣。
一個代理框架——Mem0、MemOS、Hy-Memory、EverMemOS——坐落於對話與持久儲存之間。在每一回合,都必須有某個東西讀取傳入的交流、判斷哪些片段值得保留、把它們措辭成日後能找到的形式,並將它們與已儲存的內容相互調和。如今,那個東西就是一個外掛了框架特定提示詞的前沿聊天模型。論文對這個問題的定調在於成本與移轉:一個記憶提示背後的通用模型,每回合執行的成本高昂;而為某個框架協定調校過的寫入器,也無法乾淨地移轉到另一個框架的協定上。
Hy-Memory-30B-A3B is trained to be that writer across three frameworks at once — Mem0, MemOS and the project's own Hy-Memory, across chat, working and coding scenes — and it is then tested on a fourth, EverMemOS, that was held out of training entirely. The held-out harness is the most interesting design decision in the paper. Cross-framework transfer is the claim the entire model rests on, and holding one framework back is how you would test it if you were being serious about it.
The model is driven with reasoning_effort: "no_think" and temperature 0.0 in the project's own quickstart, which is a telling default. A writer does not need to deliberate; it needs to be deterministic and cheap, because it fires on every single turn.
兩階段訓練,用白話來說
這張卡片將這套配方描述為 Memory On-Policy Distillation,接著是 Attributed Memory Reinforcement Learning,而第二個階段正是這篇論文貢獻所在。
第一階段中,教師針對學生自身產生的記憶狀態提供密集監督——屬於同策略(on-policy),因此學生是針對自己的錯誤受到糾正,而非針對教師的軌跡。第二階段中,該框架從 rollout 建立記憶庫,逐區塊評分,並將選定的記憶庫跨視窗延續下去,而非在視窗之間重置。這種延續正是讓訓練與模型實際部署方式保持一致的關鍵——在部署中,記憶庫永遠不會是空的,而且每一次寫入都疊加在先前的所有寫入之上。功勞歸屬以區塊為單位,並對過度儲存設有明確懲罰——什麼都保留的寫入器毫無用處,因此獎勵必須把這一點計入。
那些全都未經獨立驗證。這是對一種訓練方法的連貫描述,發表時隨附一個內含程式碼的儲存庫,這已經比大多數發布日的宣稱所附帶的還要多。
評估,以其應有的方式來解讀
Here is the headline, and here is everything wrong with taking it at face value.
• Hy-Memory-30B-A3B — 四個測試框架的巨集平均為 55.49。
• Claude Opus 5 — 54.62.
• DeepSeek V4.1 Flash — 53.64。
Hy3 — 51.63。
• Qwen3.6-35B-A3B — 50.37.
• Qwen3-30B-A3B — 44.37。
A 3B-active specialist beating a frontier model by 0.87 of a point on a memory task is a plausible result — the task is narrow and the specialist was trained for it, which is the same argument that makes small code-completion models competitive on single-file edits. But the caveats are load-bearing. Every benchmark in the main matrix runs on a fixed 20% subsample rather than the full set. The evaluation changes only the writer, holding the harness, prompts, retrieval configuration, answer model and judge fixed, which is the right experimental design, but the design and the harness are the project's own. The per-harness spread is also wider than the macro average suggests: the model leads on Mem0 at 54.02 and Hy-Memory at 60.55, and its MemOS result of 50.51 is 0.01 of a point above Claude Opus 5's 50.50 — a dead heat dressed as a win. Its strongest number, 56.89 on the held-out EverMemOS harness, is the one that would matter most if it reproduced, and the one nobody has tried to reproduce.
把這一切全都當成廠商自行回報的內容。不是視為可疑——而是視為尚未重現,這是兩回事。一個昨天才發布、附有程式碼儲存庫和論文的模型,贏得的是被測試的權利,而不是被相信的權利。

那頁是整份發佈的唯一一手來源。沒有部落格文章、沒有廠商公告,也沒有第三方撰述可供交叉查核。
尚未確認之事,直白地說。
• 目前完全不存在任何形式的獨立基準測試。Artificial Analysis 上沒有任何資料,沒有競技場排名,也沒有第三方測試框架的執行。
• 未重現跨測試框架的表格。尤其是保留的 EverMemOS 結果,僅是單一供應商的一次執行。
• 沒有真實世界的成本數字。記憶寫入是種高頻率、短輸出的工作負載,但目前沒有人公開發表過此模型上每次寫入的 token 數,或每次對話的成本。
• 未經量化,因此沒有低於 60 GB 的實測記憶體佔用量。
• 沒有證據說明當記憶框架更改其協定時,它會有什麼表現——這篇論文測試的是跨框架的遷移,而非單一框架不同版本之間的遷移。
• 團隊是否打算自行代管。模型卡指出該模型未由任何推論供應商部署,而儲存庫中沒有任何跡象顯示即將推出代管端點。
如果你想執行它,以及路由器適合放在哪裡
現實來說,這是個自託管的決定。卡片中的路徑是 vLLM 0.31.0,置於 OpenAI 相容 API 之後,這意味著只要換掉 base URL,模型就能直接放進現有的測試框架裡。這是最便宜的部分。昂貴的部分在於,一個 60 GB 的 BF16 檢查點,若沒有對應的量化版本,在寫入任何記憶體之前就需要相當可觀的硬體。
在這裡,值得精確說明路由器做什麼、不做什麼。Hy-Memory-30B-A3B 不在 OrcaRouter 的目錄中,我們也未代管它——通往它的途徑是檢查點和你自己的 GPU。路由器涵蓋的是測試框架的另一半。記憶寫入器會與答案模型一同被呼叫,而答案模型通常是託管的前沿模型,會讀回記憶庫並回應。OrcaRouter 讓你用一組 API 金鑰通行200+ 個託管模型,價格為0% 加成,因此供應商降價當天就能反映,且若後端效能衰退,還可自動容錯移轉。路由 DSL 正是特別契合此架構的一環:它將自架端點與託管端點組合成單一呼叫,這正是記憶系統的形態——寫入路徑上由便宜專家處理,讀取路徑上由前沿模型處理,兩者前方共用一組金鑰。
這個模式值得在你還沒讓寫入器運作之前就先建構,因為無論寫入路徑是 Hy-Memory-30B-A3B,還是搭配記憶提示的通用模型,它都完全相同。路由器不在乎是哪一種,而日後將其一換成另一個,應該只是編輯路由表,而不是重寫。
看什麼
有三件事能讓它從一篇論文變成一個產品。一個量化版本:FP8 或 Q4 檢查點,決定了它是一個資料中心模型,還是一個別人能在工作站上評估的模型,而它的缺席,是任何人想核對這些數字時最大的單一障礙。一次獨立評測框架的執行:那個留出的 EverMemOS 遷移主張就是整篇論文的核心,值得由一個與它毫無利害關係的人來測試。還有一個託管端點:不是因為自架主機是錯的,而是因為這個模型本身的設計——確定性、不思考、輸出簡短、每一輪都觸發——天生就適合做成 API;而它沒有提供,說明團隊把這東西視為基礎設施,出貨對象是那些本來就已經在跑基礎設施的人。
在那之前,正確的姿態就是發行版本身所邀請的那一種。閱讀 repo,在你手邊的任何硬體上執行 quickstart,並把表格當作一項假設。
