AstaBrief 8B 對上 Gemma 4 12B：專職寫手對決全能通才

AstaBrief 8B 和 Gemma 4 12B 屬於相同的尺寸級別，也採用相同的授權條款；但除此之外，它們是針對不同問題的答案。AstaBrief 8B 是 Ai2 的 8B 開放權重模型，於 2026-10-02 發布，並以 Qwen3-8B 微調而來，它只做一件事：在一次處理中，把研究問題與檢索到的文獻摘錄轉換成附有引用的報告，端到端約需 51 秒。Gemma 4 12B 是 DeepMind 的 11.95B 統一多模態模型，一款 Apache-2.0 的通用型模型，原生支援文字、圖像、音訊與影片，並能處理 256,000 個 token 的脈絡。一個是手術刀，執行單一任務的速度比它所取代的通用管線更快；另一個則是整套工具箱，而且能在裝置上運行。

最誘人的做法，就是直接宣布專用模型在其任務上表現更好，然後就此打住。但如果你要在單一張消費級 GPU 上部署，更有用的問題是：這個窄域模型的優勢是否大到足以值得跑兩套堆疊，而不是只跑一套——而答案取決於兩個實驗室都未曾獨立驗證過的數字。

真正重疊的部分

兩者都是可放在單張顯卡上的稠密開放權重模型，兩者都是 Apache-2.0，而且兩者都可供下載，而非只能透過 API 取用。這些確實是真正的重疊之處，也正是這個比較值得一做的主要原因。

除此之外，差異是全面性的，而大部分作用來自兩列。

• 參數 — AstaBrief 8B：約 8B 稠密模型，BF16 權重，屬於單 GPU 等級。Gemma 4 12B：11.95B 稠密模型，無編碼器的統一架構。

• 輸入模態——AstaBrief 8B：僅文字，具體來說是一個問題加上摘錄。Gemma 4 12B：文字、圖像、音訊與影片，音訊與視覺透過輕量線性層直接投影到解碼器的嵌入空間，而非透過獨立的編碼器。

• 輸出模態 — 兩者皆是：文字。AstaBrief 8B 會輸出附有引註的文字。Gemma 4 12B 則以你要求的任何形式輸出純文字。

• 背景 — AstaBrief 8B：基礎模型的 40,960 個 token 位置上限，訓練時為 32K。Gemma 4 12B：256,000 個 token，採用混合注意力機制，交錯使用局部滑動視窗注意力（1024 個 token 的視窗）與全域注意力，並在全域層上使用比例式 RoPE，以控制長上下文記憶體。

• 訓練 — AstaBrief 8B：在八張 H100 上，先以 47K 份報告範例進行監督式微調，接著使用約 6K 組 DPO 配對。Gemma 4 12B：Google DeepMind 的一般預訓練加上指令微調，記載於技術報告中。

• 工作 — AstaBrief 8B：單一任務，產生附有引用的報告。Gemma 4 12B：推理、程式編寫、代理式工作流程、橫跨 140 多種語言的多語聊天。

• 獨立評分 —— AstaBrief 8B 除了 Ai2 自家的表格之外，別無其他。Gemma 4 12B 則出現在公開排行榜上，包括 Artificial Analysis，該發布系列於其上接受評分；這些是第三方數據，也是本文中唯一非由廠商提供的數字。

把「上下文列」讀成結構性差異，而不是規格表上的一個要點。AstaBrief 8B 的 40K 上限並不是 Ai2 正在設法繞開的限制；它是這項設計的結果。這個模型從不持有語料庫，只持有別人挑選並設定好大小的摘錄。Gemma 4 12B 的 256K 視窗則意味著同一項任務完全可以不透過檢索層來處理——貼上一大批素材然後提問——這是為了相同成果而採取的真正不同架構，而且能將兩套系統合而為一。

專家在哪些方面勝出，以及勝出多少

Ai2 為 AstaBrief 提出的論點是時間，而且這個論點很有力。其由 Claude 驅動的 Thinking 流程平均每份報告耗時 178.5 秒；AstaBrief 以單次完成方式撰寫整份報告，平均耗時 51.1 秒，大約快 3.5 倍，而 Ai2 聲稱這種簡化並未犧牲其追蹤指標上的品質。

這裡真正重要的公司不是 Claude。而是多步驟的支架本身——片段摘要、主題分群，以及逐節撰寫——而這些全都是 AstaBrief 刪除掉的。而那個支架，正是你原本必須在任何通用模型（包括 Gemma 4 12B）之上自行打造的工作，如果你想要從它產出一份結構化、附引註的報告。一個通用模型被要求提供「一份附引註的報告」時，會產出一份；但要讓它依照固定結構描述產出，且引註鍵能與來源清單相互對應，這是你自己擁有並維護的提示工程。

品質，就在你必須放慢腳步的地方。

• SQABench-CS2 平均，測試分割（廠商回報）—— AstaBrief 8B 87.0，其自家 SFT 檢查點 83.7，基礎 Qwen3-8B 77.3。100 道使用者撰寫的電腦科學題目。

• DeepScholarBench（廠商回報）—— AstaBrief 8B 為 53.50，落後於 Ai2 自家的 Asta ScholarQA 的 60.25，以及 DR-Tulu-8B 的 56.26。

• 與 Ai2 的 Claude 驅動管線進行成對比較（廠商回報）——在開發集上勝率 55%，在測試上為 72%。

• 人類研究（廠商回報）——來自三位研究者的 14 個問題，DR-Tulu 整體較受偏好，三位中有兩位提到 AstaBrief 的引用準確性。

Gemma 4 12B 在 SQABench-CS2 上並不存在對等的分數，無論是哪個方向。這個缺失正是這項比較誠實的核心：你無法為 Gemma 4 12B 的報告品質相對於 AstaBrief 8B 的表現給出一個數字，因為沒有人把這個通用模型放進 Ai2 的測試框架跑過，也沒有人假裝跑過。任何人告訴你這個專用模型「好 26 分」，都是在拿廠商提供的數字跟空無一物相比。

通才徹底勝出之處

Gemma 4 12B 的優勢並非微不足道，而且它們很容易被低估。

首先是廣度。AstaBrief 8B 是一個期待收到證據的元件。Gemma 4 12B 能讀取螢幕截圖、聆聽音訊、觀看影片、撰寫程式碼，並維持 256K 的對話。如果你的工作涉及論文中的圖表、錄製的演講或多模態原始素材，這個專才完全無法參與，問題也就到此為止。

第二，廣泛的公開曝光本身就是一種證據。Gemma 4 12B 出現在第三方排行榜上；該系列涵蓋從 E2B 到 31B 的五種規模；指令微調版與預訓練版皆已發布，並附有技術報告。那是正常、乏味、可驗證的來源出處——而這正是 AstaBrief 8B 以及更廣泛的專門研究模型類別所缺少的。

第三點是第二套技術堆疊的實際成本。為了撰寫報告而執行 AstaBrief 8B，再加上處理其他所有任務的通用模型，意味著兩個常駐模型、兩種提示格式、兩套評估框架，以及兩條升級路徑。在單張 24GB 顯示卡上以 BF16 執行，這並非沒有代價——而且 AstaBrief 的模型卡警告，它是針對某一特定提示格式進行微調，該格式以資料集檔案形式發布，使用不同的格式可能會降低行為表現。通用模型則沒有這種鎖定。

• Gemma 4 12B（廠商報告）——在推理配置上，智慧指數為 9；{{1}}Ai2 的報告基準測試中沒有可相比的 Gemma 數據{{/1}}。

• Gemma 4 系列 — 五種尺寸，從 E2B 到 31B，Apache-2.0，已發布技術報告，並登上第三方排行榜。

• Gemma 4 26B A4B，於我們的目錄中提供 — 每百萬輸入 token $0.06，每百萬輸出 $0.33，262,144-token 上下文視窗。Gemma 4 31B 同樣已納入路由，價格為 $0.13 / $0.38。

• Gemma 4 12B，本地 — 11.95B 稠密，256K 上下文，混合滑動視窗與全域注意力，1024-token 本地視窗。

關於可用性，Gemma 4 模型已提供商業託管：Gemma 4 26B A4B 是我們目錄中的正式路由，每百萬輸入 token 為 0.06 美元，每百萬輸出為 0.33 美元，具有 262,144 個 token 的上下文視窗，而 Gemma 4 31B 也已提供路由。這很重要，因為這表示你完全不需要擁有 GPU，就能評估這個通用型分支。我們的目錄中沒有任何供應商提供 AstaBrief 8B，包括我們自己在內——它是可下載後自行執行的模型，而使用它最誠實的方式，是在你能掌控的硬體上，或在 Ai2 自家的 Asta 產品內執行。

自己執行比較，成本低廉

這篇文章無法替你做的決定，是你一個下午就能做出的決定，因為這個實驗的成本是不對稱的。AstaBrief 8B 需要本地權重及其公開的提示格式；你可以用 vLLM，依照 Ai2 文件記載的配置，在單張顯卡上把它架起來，temperature 0.7、top-p 0.95。通用型那一組可以是託管呼叫——Gemma 4 26B A4B 每百萬 token 輸入 $0.06、輸出 $0.33，在精神上已足夠接近，可用來校準；而且你可以讓自己的測試框架同時指向兩者，不必擁有第二張 GPU。

接著，衡量供應商表格沒衡量的事：用你的問題、你的摘錄，有多少報告回來時引用正確，以及一旦你在通用模型端加上引用結構的黏合層後，整條鏈要花多久。Ai2 的 3.5 倍是對照 Ai2 自家的流程測得，不是對照 Gemma 4 12B，而那個差距在你的技術堆疊裡看起來會不一樣。

把通用型這條路線放在單一端點之後，正是讓這件事能以低成本反覆進行、而不只是一次性專案的原因：涵蓋 200 多種模型的單一 API, 以 0% 加成原樣反映供應商定價，讓廠商降價當天就出現在你的帳單上, 供應商服務劣化時自動容錯移轉，以及想讓多個模型同時回答時可用的路由 DSL。重點不在於忠於哪一個模型，而在於下一季重跑這項比較時應該只需改個設定，因為這兩個模型都將被汰換。

你實際上應該下載哪一個

如果交付成果是一份附有引用的研究報告，而且你有檢索層在為它提供資料，那就選 AstaBrief 8B。單次通過設計是真正的工程成就，3.5 倍生成時間縮減正是它存在的理由，Apache-2.0 加上已公開的訓練資料讓它可被稽核，而沒有通用型模型能匹敵它的輸出結構，除非你自己建置並維護這套支架。

如果你的工作範圍比報告更廣、如果你的來源是多模態、如果 256K 的上下文讓你完全不必建置檢索層，或者你想要一款名稱附有第三方評分、而且有託管路由可讓你今天就能呼叫的模型，就選 Gemma 4 12B。

並請注意證據中那種坦率的不對稱，因為它對專家不利：AstaBrief 8B 的數字，包括它自己聽起來最漂亮的那些，都來自 Ai2，描述的是一組該實驗室表示尚未重新跑過的 2025 年比較資料，而且還包含一項十四題的人類研究。Gemma 4 12B 的數字則來自不在 Google 工作的人。這種來源上的差異，比在一項沒人同時在兩者上跑過的基準測試上多拿幾分更有價值。