一張生成的標題卡,標題為「Hy-Memory-30B-A3B vs Qwen3.8-27B」,副標題為「一個負責寫入記憶,另一個什麼都做,包括那件事。」兩張標籤分別寫著「Hy-Memory-30B-A3B — 30B / 3B 活躍參數、262K、僅限自行部署、廠商自報巨集平均 55.49」與「Qwen3.8-27B — 27B 稠密模型、原生 262K 可達 1M、Apache 2.0、OrcaRouter 上每百萬 $0.33 / $2.40」,頁腳則註明騰訊的數據為廠商自行公布且未經重現,而 Qwen 的數據同樣為廠商自行公布,獨立評測名次則於內文註明。
Guides & Insights

Hy-Memory-30B-A3B 對比 Qwen3.8-27B:專才不是對手——它是你早已付錢讓通才去做的那份工作的替代者

作者

Rowan Sterling

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

沒有人會在Hy-Memory-30B-A3B與Qwen3.8-27B之間基於能力做選擇,因為兩者根本不在同一場競賽裡。Qwen3.8-27B 是該實驗室的稠密 270 億參數視覺語言模型——Apache 2.0 授權、原生 262,144 個 token 的上下文,於2026 年 8 月 14 日推出,並在 OrcaRouter 上以每百萬輸入 token 0.33 美元、每百萬輸出 token 2.40 美元的價格提供服務。Hy-Memory-30B-A3B 則是混元團隊的記憶寫入器——總參數 30B、其中約 3B 為啟用參數,於2026 年 10 月 15 日開源,且完全未在任何地方提供服務,包括我們在內。一個是可以按 token 租用的通用模型,另一個則是你必須自行託管的元件。基準會過時、價格會變動,但失敗紀錄不會:這一類模型背後有據可查的 AI 事件與代理失效案例,都收錄在OrcaRouter AI 事件檔案庫,其中每一筆條目都附有自身的來源、嚴重程度、可信度評級與爭議標記。

無論如何,把它們並排比較的理由在於:Hy-Memory-30B-A3B 的存在就是為了取代某個特定的東西,而那個東西往往正是 Qwen3.8-27B。記憶框架每一輪都會呼叫一個通用模型,來決定要保留什麼。如果你是用 Qwen3.8-27B 來做這件事——而以 $0.33/$2.40 的價格來說,它是個很自然的選擇——那麼真正該問的問題並不是哪個模型更好。而是:一個只有 3B 活躍參數的專用模型,是否能把同樣的工作做得夠好,好到足以撐起那樣的硬體;而這個問題背後還附著一個你實際算得出來的價格標籤。

以記憶系統所關心的角度來看,Qwen3.8-27B 究竟是什麼

稠密,這意味著它的每一個參數在處理每個詞元時都會被讀取。64 層、隱藏大小為 5,120,並以 16 比 1 的模式交替配置 Gated DeltaNet 線性注意力區塊與全注意力區塊——正是這樣的設計,才讓 25 萬詞元的視窗在服務上變得可負擔。它接收文字、圖像和影片,並回傳文字;這在這裡很重要,原因很平凡:人們希望代理記住的內容中,有很大一部分是以螢幕截圖或文件的形式抵達,而不是以散文的形式。

廠商自家的規格表宣稱,它在 LiveCodeBench v6 上拿下 90.3、GPQA Diamond 上 89.2、Terminal-Bench 2.1 上 73.0、OSWorld-Verified 上 84.3,以及 IFBench 上 79.5——這些全是廠商自行通報的數據,就記憶寫入這項工作負載而言,我們或任何我們能指出的人士都未能重現。該模型自發布以來已取得一些獨立榜單的排名,包括在網頁開發競技場排行榜上進入前十名,但這些都無法衡量它是否寫得出好的記憶。目前還沒有任何方法能做到。

讓它成為這項工作首選的,不是那些分數中的任何一項。而是它能精確遵循指示、接受 JSON schema、擁有 262K 的視窗,因此你可以把一段長對話交給它,不必費力進行分塊處理;而且它夠便宜,可以在每一回合都運行。

A screenshot of OrcaRouter's model page for Qwen3.8-27B, showing the catalogue path qwen/qwen3.8-27b, the Vision, Tools, JSON and Reasoning capability badges, a $0.33 price marker, the by Qwen attribution, and the 262,144-token context window with up to 262,144 output tokens.

上方這個頁面在單一畫面中呈現了這兩個模型之間的實際差異:Qwen3.8-27B 有費率也有路由,而 Hy-Memory-30B-A3B 兩者皆無。

Hy-Memory-30B-A3B 有何與眾不同之處

Hy-Memory 模型只為單一任務而訓練,而它的模型卡也直言不諱:它取代了 Mem0、MemOS 與 Hy-Memory 內部的通用 LLM,負責決定要保留哪些資訊、以多精確的方式表徵這些資訊,以及新證據應如何更新一個持久化的記憶庫。接著,它在 EverMemOS 上接受評估,而這是一個完全未參與訓練的框架——這是此次發布中最值得肯定的一項設計決策,因為跨框架遷移正是整個立論前提。

它的訓練分為兩個階段,而第二階段才是有意思的部分。記憶同策略蒸餾(Memory On-Policy Distillation)對學生模型自行產生的記憶狀態提供稠密監督。歸因記憶強化學習(Attributed Memory Reinforcement Learning)接著從 rollout 建立記憶庫,逐塊為它們評分,對過度儲存施加懲罰,而且——這正是讓訓練保持誠實的部分——會把選定的記憶庫跨視窗延續下去,而不是在視窗之間重置。已部署的記憶庫永遠不會是空的,因此用空記憶庫來訓練它,等於是在為一種不存在的情境進行訓練。

就架構而言,它有 48 層:一個稠密區塊與 47 個稀疏 MoE 區塊、128 個專家並採用 top-8 路由,外加一個共享專家、262,144 位置的上下文,以及橫跨 51 個分片的 60.1 GB BF16 權重。未發布任何量化版本。

做那些卡片不會做的算術

兩個模型在長對話的每一輪都會觸發。這會讓寫入路徑成為一個量體問題,而量體正是專精模型較小的活躍參數數量應該展現優勢的地方。

採用一個具體、明確陳述的假設,而非實測所得的假設:一位寫入者每回合處理約 800 個詞元的對話,並輸出約 150 個詞元的結構化記憶。經過 1,000 個回合,每位使用者就是 800,000 個輸入詞元與 150,000 個輸出詞元。在 OrcaRouter 針對 Qwen3.8-27B 的價目表上——以 0% 加成直接傳遞的供應商牌價,也就是每百萬 $0.33 與 $2.40——那段對話的輸入成本約為 $0.26,輸出約為 $0.36,合計約 $0.62,再加上答案模型開啟記憶庫時,讀取路徑所耗費的任何成本。這些都是依據公開費率所做的算術,不是基準測試,而且你每回合的詞元數也會有所不同。

對 Hy-Memory-30B-A3B 而言,同樣的 1,000 個回合每 token 不需成本,每月卻要付出大得多的代價,因為沒有費率表。該模型是自行託管的,而自行託管 60 GB 的 BF16 且沒有量化替代方案,意味著需要一台記憶體足以容納它的加速器——而這還是在你尚未得知 55.49 的巨集平均是否站得住腳之前。

所以這個取捨不是便宜對昂貴,而是按量計費對上資本支出,而交叉點完全取決於你每個月實際寫入多少輪對話。一個每月只跑幾千次對話的團隊,幾乎肯定更適合支付 Qwen3.8-27B 的每 token 費率,根本不必碰硬體這個問題。而一個在數百萬輪對話上寫入記憶的團隊,無論如何都得自己跑硬體,這時專用方案就變得有意思了。

A screenshot of the Hugging Face model card for Qwen/Qwen3.8-27B, showing the Qwen org header with 178k likes and 111k followers, the Image-Text-to-Text pipeline tag, Transformers and Safetensors library tags, the qwen3_5 architecture and conversational tags, and the opening line describing the repository as holding model weights and configuration files for the post-trained model in Hugging Face Transformers format.

上方的卡片正是計算的起點:$0.33 的費率背後有一個可下載的 27B 檢查點,而如果你的用量高到足以讓自行運行變得划算,那是一條有支援的路徑,背後還有已發佈的量化版本。

價格比較所隱藏的三件事

每詞元的成本是最容易衡量的軸線,卻也是最不具決定性的一項。另外三個軸線更為重要。

多模態。Qwen3.8-27B 可處理圖像與影片。Hy-Memory-30B-A3B 的規格載明僅支援文字輸入,涵蓋英文與中文。若你的代理程式記憶內容包含螢幕截圖、掃描文件或影片影格,那麼通用型模型正在做專門型模型在結構上無法完成的工作,而再大的成本優勢也無法彌補這一點。

上下文。兩者都公布 262,144 個位置,這確實是巧合,而且是有用的巧合——在你能一次交給它多少對話內容方面,兩者都沒有優勢。

已公布的精度。Qwen3.8-27B 以 BF16 形式推出,另有官方 FP8 版本,以及來自多家發布者的 GGUF 轉換檔,而 OrcaRouter 則提供 block-FP8 版本,其視覺塔維持在全精度。Hy-Memory-30B-A3B 只推出 BF16,別無其他。這一列決定了你能否用借來的顯卡對它進行評估,還是得特地保留一張。

路由答案,會因你選擇的模型而有所不同

這正是兩條路徑明確分道揚鑣之處,值得力求精確,而非宣傳吹捧。

Qwen3.8-27B 已在 OrcaRouter 的目錄中。你使用的 API 金鑰與其他兩百多個模型相同,價格就是供應商的定價、零加成——因此供應商一降價,這裡當天就同步生效,不必等到下一個計費週期——並具備自動容錯移轉,可在後端效能衰退時接手。對記憶體測試框架來說,真正有用的是路由 DSL:它能將多個模型組合成單一次呼叫,這正是讓你用單一端點同時跑寫手模型與回答模型、而不必另外打造第二個用戶端的方法。模型融合會让一組模型共同作答,是讓你以實證方式釐清專業寫手是否比通用模型產出更好的記憶庫時該用的工具——讓兩者面對同一段對話、比較結果,然後別再爭論。

Hy-Memory-30B-A3B 並不在我們的目錄中,我們也未代管它。 要使用它,途徑是取得該團隊提供的檢查點,並搭配你自己的硬體。如果你自行代管,路由器仍能涵蓋迴圈的其他部分——讀回記憶庫的代管答案模型、其周邊的規劃呼叫——而且它讓你能在代管端點之外註冊自己的端點,因此容錯移轉與一鍵存取對兩者都適用。

誰應該做什麼

如果你今天是在託管的通用模型上執行記憶寫入,第一個該誠實問的問題並不是要不要換。而是你每個月實際上寫入多少個回合。在一個只有你自己算得出來的門檻以下,按每 token 計價的 Qwen3.8-27B 才是理性的選擇,而 Hy-Memory-30B-A3B 的硬體需求只是分散注意力的雜訊——尤其當你的記憶包含圖像時,那正是這個專門模型完全幫不上忙的地方。

如果你寫入記憶的規模,已經大到每 token 都變成一筆實實在在的預算項目,那麼 Hy-Memory-30B-A3B 就是第一個直接鎖定這筆開支的開源模型;而它是在一個留出框架上受測的,這件事本身就顯示,有人思考的是泛化,而不是做個展示。等量化版本。等團隊以外的人來跑評測工具。然後再決定。

而如果你只是好奇,在自己的流量上,專才是否勝過通才,這個實驗設定起來很便宜,而且答案會專屬於你的資料,而不是任何一張卡。

A screenshot of the Hugging Face model card for tencent/Hy-Memory-30B-A3B, showing the Tencent org header with 9 likes, the hy_v3 architecture tag, the arxiv:2610.22196 paper link, the apache-2.0 licence badge, 30B params with BF16 and F32 tensor types, and a Downloads last month figure of zero.

最后還有一點,是這張卡說得明明白白、而表格沒有道出的。Hy-Memory-30B-A3B 採用 Apache 2.0 授權,這意味著上述實驗是你獲准商業運行的,可以用在你自己的資料上,無須跟任何人的法務團隊談上一談。這是該模型最有力的論據,而且它與 55.49 能否重現無關。