Hy-Memory-30B-A3B 對比 Nemotron 3.5 Lightning 30B-A3B Base：同樣的三個字母，兩個不同的物件

Hy-Memory-30B-A3B與NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16採用完全相同的參數運算——總計 300 億、啟用 30 億——而相似之處也就到此為止，再無用處。Hunyuan 團隊的模型於2026 年 10 月 15 日開源，是一款完成品：經過完整的後訓練，能在 Mem0、MemOS 與 Hy-Memory 中執行記憶寫入，並隨附與 OpenAI 相容的部署方案，以及一份宣稱勝過 Claude Opus 5 的基準測試表。NVIDIA 的模型於2026 年 8 月 11 日發布，根本不是產品。其名稱中的「Base」是字面意思——未套用任何監督式微調、強化學習或蒸餾。它是預訓練的原料，公開發布是為了讓你能在其之上打造自己的後訓練模型。這些數字無法告訴你的是，它在實際應用中是否出了任何差錯：此類模型的已知 AI 事件與代理失效案例，都收錄在OrcaRouter AI Incident Archive，其中每筆條目都附有自己的來源、嚴重程度、信心評級與爭議標記。

名稱中帶有相同數字的兩個模型，其中一個是設計來使用的，另一個則是設計來修改的。值得做的比較並非哪一個得分較高——它們沒有在任何共同的項目上被評估過，而且其中一個沒有可供評估的指令跟隨行為。值得做的比較是關於證據：每個廠商發布了什麼，其中有多少是你能自行查核的，以及每一個在你做任何事之前對你要求了什麼。

每個模型實際上是什麼

Hy-Memory-30B-A3B 是一款傳統的稀疏 Transformer，卻肩負著不尋常的任務。它的設定檔描述 48 層，第一層是稠密前饋區塊，其餘 47 層是混合專家，每個區塊有 128 個專家、採 top-8 路由，外加一個共享專家，隱藏大小為 2,048，專家中間層寬度為 768，32 個注意力頭對應 4 個鍵值頭並具備查詢-鍵正規化，以及 262,144 個位置的上下文。約 60.1 GB，分散於 51 個 BF16 分片。它分兩階段訓練——先是 Memory On-Policy Distillation，接著是 Attributed Memory Reinforcement Learning——而這整件事的重點，在於取代記憶框架目前每一回合都會呼叫的通用模型。搭配 vLLM 0.31.0 提供服務時，它會回傳結構化 JSON 紀錄，描述代理程式應該記住什麼。

Nemotron 3.5 Lightning 30B-A3B Base 是一款混合式模型。NVIDIA 將 Mamba-2 狀態空間區塊與混合專家及注意力層交錯排列，加入在專屬的持續預訓練階段訓練的多詞元預測（Multi-Token Prediction）頭，並以 NVFP4 配方在超過 20 兆個詞元上預訓練了整個模型。這套混合堆疊的重點在於鍵值快取：Mamba-2 區塊讓它不會像傳統 transformer 那樣不斷膨脹，這正是 NVIDIA 得以宣稱上下文長度可達 100 萬個詞元的原因。它推出 BF16、NVFP4 與 FP8 版本，並有數個第三方提供的 GGUF 轉換與量化版本。其授權條款為 OpenMDW-1.1，涵蓋權重、訓練資料與配方——這比一般模型授權的授予範圍更廣。

參數數量上的巧合確有其事，但很表面。兩者每個 token 都啟用約 3B 個參數；那是兩個團隊唯一以相同方式做出的設計決策。

那個橫幅是頁面上資訊量最豐富的單一元素。NVIDIA 刻意把它放在基礎儲存庫的最上方：這個檢查點並不是大多數人想要的那個，而廠商在你下載 300 億個參數之前就已經這麼說了。

決定一切的區別：後訓練與預訓練

基礎檢查點不會遵循指令。你問它問題，它只會接續文字，因為那是預訓練唯一教會它的事。它沒有像樣的對話範本、沒有工具呼叫行為、沒有拒答界線，也不知道對話是有輪次的。NVIDIA 的模型卡直言不諱，而儲存庫頂端的「在找後訓練模型嗎？」橫幅，會為任何想要能對話模型的人指向同系列的檢查點。

基礎檢查點的用途，在於你的後訓練。在領域語料庫上進行持續預訓練，或透過 NeMo RL、NeMo Gym 與 Megatron-LM 進行監督式微調、RL 與蒸餾——這正是 NVIDIA 所命名並提供配方的那套工具鏈。如果你擁有資料優勢，並且對模型應該如何表現有自己的看法，基礎檢查點就是讓你兩者都能付諸實踐的起點。如果沒有，它就只是個 300 億參數的文鎮。

Hy-Memory-30B-A3B 位於那條管線的另一端。它已經歷過兩輪後訓練，而它的整個價值主張在於：你不必做那項工作——你只要採用模型卡提供的 schema，將它指向你的測試框架，它就會寫入記憶。它的範圍比 Nemotron 窄了極大的一截，而且是以 Nemotron 刻意不採用的方式完成。

規格與包裝，每個尺寸一行

• 總參數／活躍參數 — 兩者皆為 30B／約 3B。這是它們唯一一致的列。

• 架構 — Hy-Memory-30B-A3B 是一款稀疏 Transformer，具有一個稠密區塊與 47 個 MoE 區塊，128 個專家、top-8 加上一個共享專家；Nemotron 3.5 Lightning 30B-A3B Base 則是 Mamba-2 混合架構，交錯排列狀態空間、MoE 與注意力層，並搭配多詞元預測（Multi-Token Prediction）頭。

• 上下文 — Hy-Memory-30B-A3B 依其設定為 262,144 個位置；Nemotron 最高可達 1M 個 token，而在單張 H100 上，256K 是文件記載的實際可行數字。

• 後訓練——Hy-Memory-30B-A3B 有兩個階段（同策略蒸餾，然後是歸因式 RL）；Nemotron 基礎檢查點則完全沒有。

• 權重佔用 — Hy-Memory-30B-A3B 為 60.1 GB BF16，且未發布其他精度；對比 NVIDIA 的 BF16、NVFP4 與 FP8 版本，加上社群的 GGUF。

• 授權條款 —— Apache 2.0 與 OpenMDW-1.1 之差異，後者額外涵蓋訓練資料與配方。

• 服務路徑 — 將 vLLM 0.31.0 部署於 OpenAI 相容端點後方，供 Hy-Memory-30B-A3B 使用；Nemotron 則先進行後訓練，再提供服務。

• 託管端點 — 這兩個模型皆非由託管推論供應商部署。兩者都屬於自行託管的方案。

證據：NVIDIA 發布一份配方，Hunyuan 發布一份表格

這是兩個版本之間最鮮明的差異，而這與數字本身無關。

NVIDIA 以一種讓你能夠實際採用的方式，公開其評估方法。Lightning 基礎卡指出，其準確率數字是在一致的測試框架下測得——NeMo Gym 與 NeMo Evaluator SDK，包裝了 LM Evaluation Harness 的開源容器，並透過 NeMo Skills 執行 RULER——接著它說出供應商鮮少會說的話：這些數字可能與其他供應商自行回報的數字不同。它連結了可重現性操作指南。這些數字仍然是 NVIDIA 自己執行的結果，但測試框架有名稱、已容器化且可下載，這意味著「NVIDIA 測量了這個」與「我測量了這個」之間的距離，是幾小時的工作，而不是一項研究計畫。

Hy-Memory 這次發布在兩個截然不同的層面上都更難查核。這套評估設計就其本身而言是站得住腳的——它只更換記憶寫入器，並固定測試框架、提示詞、檢索設定、答案模型與評審模型，這正是隔離寫入器貢獻的正確做法。然而，主矩陣中的每一項基準測試都只跑固定的 20% 子樣本，而非完整資料集，而且頭條差距相當微薄：巨集平均 55.49，對上 Claude Opus 5 的 54.62，差距僅 0.87 分，其中 MemOS 測試框架更只以 0.01 分定勝負。第二個障礙是硬體。要重現 NVIDIA 的基準數字，只需載入已有量化版本可用的檢查點；要重現 Hy-Memory 的數字，卻得載入 60 GB 的 BF16，且未發布任何更小的替代版本。

兩組數字都尚未經過獨立重現。差別在於，由你來做這件事的可能性有多大。

把两份一手资料并排放在一起，对比就极其鲜明：Hy-Memory 的评测存在于一篇带有架构描述和训练方法的论文中，而 NVIDIA 的评测则存在于一张模型卡中，附带一个具名、可下载的评测框架。两者都是厂商在给自己批改作业。只有其中一方把尺子交到了你手里。

將路由器納入其中的兩個不同理由

這兩個模型都是自行託管，而且 無論是 Hy-Memory-30B-A3B 還是 Nemotron 3.5 Lightning 30B-A3B Base，都不在 OrcaRouter 的目錄中——我們兩者都不代管。 要使用這兩者，途徑就是權重和你自己的 GPU。但在這個比較的兩側，路由器問題的著眼點各不相同，這值得仔細說明，因為它正是這項選擇在實務上的樣貌。

如果你選擇 Nemotron 這條路，你就是在對檢查點進行後訓練。這會產生一個只存在於你的基礎架構上的模型，而自訂檢查點的典型問題就是它無處可放：它不在任何目錄中，所以每個想要它的應用程式都需要客製化管線，而且它一旦故障，每條備援路徑都得手動打造。路由器正好能解決這個問題——一組 API 金鑰即可橫跨200+ 個模型，並將你自己的端點與它們並列註冊，而自動容錯移轉會在它效能退化時接手。模型融合是這裡另一個值得了解的環節：它會在單次呼叫中共同執行一組模型，這正是你用來比較剛完成後訓練的模型與強大基準模型的方式，而不必為每個模型撰寫測試框架。

如果走 Hy-Memory 這條路，寫入器只是整個大得多的迴圈中的一次呼叫。記憶框架會先呼叫寫入器，再呼叫答案模型把記憶庫讀回來並回應——而第二次呼叫，通常就是託管模型所在的位置。OrcaRouter 以 0% 加成直接透傳供應商的定價，因此答案模型的廠商降價，我們這邊當天就會生效，而路由 DSL 則把自架的寫入器與託管的讀取器組合成單一次呼叫。你不必讓兩半都來自同一個地方，也不必為了補上你缺少的那一半而多簽一份合約。

哪一個才是正確的起點？

如果你想要的是一種下載當天就能發揮作用的模型——具體來說，是在你完全不訓練任何東西的情況下，讓代理的記憶變得更好——那麼 Hy-Memory-30B-A3B 是這兩者中唯一能回應這個需求的。它同時也是你無法用低成本測試的那一個，而它最響亮的宣稱，領先幅度卻最薄。開始之前要有心理準備：你得先花錢買硬體，才能得知任何事。

如果你想要的是一個可以自行形塑的基礎，Nemotron 3.5 Lightning 30B-A3B Base 是一份扎實的已發表成果：一種為長上下文與快速推論而設計的混合架構，並附上其訓練配方，以及一套你可以重新執行的評估框架。在你對它進行後訓練之前，它不會回答問題，而這是條件本身，並非缺陷。

名稱衝突會不斷把這兩者放進同一個句子裡。參數量也會不斷相符。除此之外，它們其他方面都不會，而讀者越早把「30B-A3B」和「同一類模型」區分開來，這個比較就能越早變得有用。

下載數字值得留在畫面上。一個昨天發布、受過後訓練的專門模型，沒有量化版本、沒有代管端點，也沒有任何公告，下載數掛零、讚數九個——而 NVIDIA 早兩個月發布的預訓練基礎檢查點，下載數則落在數以萬計。這個差距不是品質評斷。它衡量的是每個團隊讓大家嘗試這東西的難度有多高。