AstaBrief 8B：Ai2 的開放報告撰寫工具，比它所取代的管線快 3.5 倍

Ai2 的 AstaBrief 8B 發布消息中，最受矚目的數字是一個碼錶讀數，而非基準測試分數：在完整的 Asta 流程中，這個新模型平均以 51.1 秒生成一份附有引用的研究報告，相較之下，如今與它並列、由 Claude 驅動的路徑則需 178.5 秒。這大約快了 3.5 倍，而這源自單一架構決策——一次寫完整份報告，而非先摘要、分群，再逐節撰寫。AstaBrief 8B 是一個 8B 開放權重模型，採 Apache-2.0 授權，以 Qwen3-8B 微調而成，能接收研究問題及檢索到的文獻摘錄，回傳一份附有行內引用的報告。它於 2026-10-02 以「Fast mode」之名登上 Ai2 的 Asta 平台，權重、訓練資料以及一個範例本機工作流程也在同一天公開。

這個儲存庫比公告更早，而這點很重要

這次發布中有一個細節值得直白說明，因為它會改變你應該如何解讀其餘所有內容：位於 allenai/AstaBrief_8B 的 Hugging Face 儲存庫帶有 2026-02-09 的內部建立時間戳，而搭配的 DPO 資料集則可追溯至 2025 年 11 月。10 月 2 日的公告是真的——部落格文章、AI2 推文和模型卡都在當天發布——但儲存庫的歷史比新聞週期所暗示的更長。

10 月 2 日發生的事，就是 Ai2 把這個東西正式發布並留下文件紀錄，同時也調整了 repo 來保持一致：在發布當天 UTC 16:18:06 到 16:18:20 之間，有三筆提交進到模型卡，為聊天模板新增了一個回應範本，並移除了一個無作用的 token。那只是模型卡上的例行整理，不是重新訓練。Ai2 也在部落格中明確表示，「所描述的大部分訓練與評估已在 2025 年完成」，而且用來產生訓練資料與作為比較基準的專有模型「反映了當時的前沿水準」。該實驗室表示，尚未針對現今的前沿模型重新執行完整評估。

所以，這是一項大致於 2025 年完成的工作的 GA 版本——一次發布，伴隨著發布應有的文件與發布應有的平台整合，而這一切是建立在一個早已存在於該實驗室帳號中數個月的檢查點之上。這當中沒有任何不誠實之處，而且這個模型對 Ai2 以外的所有人來說都是全新的。但這確實意味著，下方的比較數字所描述的是 2025 年的前沿，而 Ai2 自己也這麼說。

AstaBrief 8B 實際上在做什麼

Ai2 的 Asta 平台有一項報告生成功能，研究人員會提出一個實質問題並帶來一批文獻，然後取回一份附有引用的綜合報告，並將其視為工作成品。該功能過去完全仰賴 Ai2 所謂的 Thinking 模式運作：那是一套多步驟流程，會摘要擷取到的片段、依主題將它們分群，並逐節撰寫答案，背後由 Claude 模型支援。Thinking 模式周延但緩慢。

AstaBrief 8B 就是 Fast 模式。在相同的問題與相同的檢索摘錄下，它一次前向傳播就能寫出最終報告。Ai2 的說法才是有趣之處：略過片段摘要、分群，以及逐節迴圈，並未犧牲報告品質，至少就該實驗室所追蹤的衡量指標而言是如此。這個模型不是搜尋引擎，也不進行檢索——它是檢索管線末端的撰寫者，期待有人把證據交到它手上。

這讓它成為一個元件，而不是產品。這也是為什麼 Ai2 在發布權重時一併提供了範例工作流程：在 ai2-scholarqa-lib 儲存庫中，一個能將你自己的 PDF 轉成報告的小型函式庫，為本機生成提供了起點。

訓練配方刻意設計得枯燥乏味，而這正是重點所在

Ai2 自家的先前研究 DR Tulu 顯示，強化學習能改善開放權重模型的長篇報告生成。針對 AstaBrief，團隊曾考慮這條路線，但決定不採用，理由是 RL 不穩定又昂貴，而他們想要更容易除錯的做法。他們改而打造的是監督式微調，接著進行離線直接偏好最佳化。兩個階段，兩者都很常規。

SFT 階段始於透過 Ai2 的 Asta 系統提交的真實查詢，而非合成提示。團隊從收集到的日誌中，針對品質、相關性與隱私進行篩選——剔除機器人與 Beta 測試者的流量、丟棄短到不具意義的查詢，並執行一輪 LLM 處理，以找出非英文查詢、非科學性請求，以及包含個人資訊的提示。這留下了 90,000 筆以研究為重點的查詢。這些查詢的完整報告目標，是以多步驟 ScholarQA 流程生成，並使用 Claude 3.5 Sonnet、Claude 3.7 Sonnet、o3、o4-mini 和 GPT-4.1 作為支撐模型。經過品質篩選後：47,000 個可用的訓練範例。

DPO 階段需要不一樣的做法——成對的報告，並在兩者之間標註偏好。每個查詢的其中一份報告來自 ScholarQA 流程；與其競爭的另一份報告，則是把 ScholarQA 檢索到的摘錄餵給不同的模型所生成，該模型取自 o3、o4-mini、DeepSeek-V3 或 DeepSeek-R1。由 GPT-4.1 和 DeepSeek-R1 兩位評審為每一對挑選出優勝者，只有兩位評審意見一致的配對才會被保留。Ai2 指出，LLM 評審與人類偏好之間的一致性達 95%。最終的偏好資料集約有 6,000 個範例。SFT 混合資料與 DPO 混合資料都已放到 Hugging Face 上供檢視。

最具可轉移性的發現，同時也是最不耀眼的。早期的 SFT 實驗寫出更好的報告，卻在答案精確度與引用品質上落後，因此團隊在合成訓練資料上測試了四種以統計為基礎的篩選器：輸出對輸入的 token 比例、被引用論文的平均檢索相關性、引用密度（帶有至少一筆引用的陳述所占比例），以及引用多樣性。最大的進展來自篩除引用密度低的合成報告——而更積極的篩選、篩選器組合與學習率掃描，並未帶來有意義的增益。Ai2 的結論值得推廣到這個模型之外：專業化並不是把更多科學文本灌入預訓練，而是取決於後訓練資料的組成與品質。

Ai2 發布的計分板，以及如何解讀它

以下每一項數據皆為廠商自行提報。這些數據來自 Ai2 的模型卡與部落格，由該實驗室自家的評估測試框架產生，且未經任何獨立重現。主要目標是 SQABench-CS2，一組 100 題由使用者撰寫的電腦科學研究問題，並以四項指標進行追蹤：要素召回率（必要內容的涵蓋程度）、答案精確率（每一段是否切題）、引用精確率（每一則引用是否支持其主張），以及引用召回率（主張是否完全受到所提供引用的支持）。

• 整體平均 — AstaBrief 8B 87.0、其自身的 SFT 檢查點 83.7、基礎 Qwen3-8B 77.3

• 成分召回 — AstaBrief 8B 90.2、SFT 85.2、Qwen3-8B 77.8

• 答案精確度 — AstaBrief 8B 89.0、SFT 90.4、Qwen3-8B 90.6

• 引用精確度 — AstaBrief 8B 90.5，SFT 87.7，Qwen3-8B 76.2

• 引文召回 — AstaBrief 8B 78.2，SFT 71.3，Qwen3-8B 64.6

綜觀各橫列，DPO 階段看起來是有針對性的改善，而非全面性都更好。整體平均上升，成分召回率與兩項引用指標都大幅攀升，而答案精確率則微幅下滑，低於 SFT 檢查點與基礎模型兩者。如果你的使用情境最重視的是逐段相關性，那麼微調並不一定就是你的解答。

在次級評估中，Ai2 將最終模型與自家的 ScholarQA 流程以及 DR-Tulu-8B 進行測試比較。在 SQABench-CS2 開發集上，Asta ScholarQA 得分 87.6，DR-Tulu-8B 為 86.5，AstaBrief 8B 為 86.3；在測試集上，ScholarQA 86.2，DR-Tulu-8B 88.8，AstaBrief 87.0。在 DeepScholarBench 這個包含 63 個查詢的長篇綜整基準上，ScholarQA 得分 60.25，DR-Tulu-8B 56.26，AstaBrief 53.50——這是開放報告撰寫者唯一落後於兩個替代方案的一列。在兩項由 LLM 評判、與 Claude 驅動流程進行的成對比較中，AstaBrief 在開發集比較中拿下 55%，在測試集比較中拿下 72%。另一項獨立的人類研究僅涵蓋來自三位研究人員的 14 個問題，而在整體偏好上 DR-Tulu 勝出，不過三位研究人員中有兩位在引用準確性上更偏好 AstaBrief。來自三個人的十四個問題是一個訊號，而非定論，而 Ai2 也是這樣呈現的。

實驗室也公布了 Asta 整合的早期使用情況：在 374 位試用過 Fast 模式的使用者中，29.1% 曾在兩天或更多天使用它，使用者平均產生 3.67 個報告串，23% 從未切換回 Thinking 模式，18% 則會依任務在兩種模式之間切換。Fast 模式獲得 84.2% 的正向回饋，Thinking 模式則為 85.2%——兩者相當接近，因此 Ai2 認為這些回饋過於稀疏，無法據此得出強而有力的結論。這是誠實的表述，所以保留它。

自行運行

AstaBrief 8B 採用 Apache-2.0 授權，並以 Qwen/Qwen3-8B 為基礎，因此屬於單一 GPU 等級，而非資料中心等級：這是一個基於 Qwen3 架構的稠密 8B 模型，36 層、隱藏層大小 4096、32 個注意力頭（其中 8 個鍵值頭）、151,936 個 token 的詞彙表，以及基礎模型的 40,960 個 token 位置上限。在 BF16 下，它能輕鬆放入 24GB 顯示卡，而該顯示卡本身的範例使用 vLLM，temperature 為 0.7、top-p 為 0.95，輸出上限為 4096 個 token。

模型卡上有一行以粗體印出的操作警示，很容易被忽略：這個檢查點是針對某一種特定提示格式進行微調的，該格式以 sft_prompt.txt 發布於 AstaBrief_prompts 資料集中。若使用不同的提示或互動格式，Ai2 預期會出現效能下降或不一致的行為。如果你用自己的測試框架評估這個模型而得到不佳的結果，在對權重下任何結論之前，請先檢查提示。

這張卡片也坦率說明了適用範圍。AstaBrief 是為研究與教育用途而設計，並非通用型助理，而且 Ai2 沒有提供託管的推論端點——你得自行下載，或是在 Asta 內使用。我們的目錄中沒有任何供應商提供它的服務，包括我們自己，因此沒有可指向的路由；誠實的使用方式是在自己的硬體上，或是在自己的防火牆後面使用，而這正是 Ai2 一開始為開放權重所提出的理由。

路由器在報表管線中的位置

AstaBrief 在更長的鏈條中只佔一個環節。某個部分負責檢索文獻，某個部分決定哪些摘錄值得往下傳遞，某個部分則可能評估或驗證完成後的報告。這些呼叫都是普通的託管模型呼叫，而它們正是技術堆疊中你確實會想要有供應商選擇權的部分：一個 API 涵蓋 200 多個模型，供應商標價以 0% 加價直接傳遞，因此供應商降價當天就會反映在你的帳單上，供應商服務品質下降時自動容錯移轉，以及一套路由 DSL，供你想將多個模型組合成單一呼叫時使用。自行託管負責撰寫報告的元件，因為那是有資料敏感性影響且成本固定的部分；將協調流程交由路由處理，因為那是彈性比自主掌控更有價值的部分。

這裡還有一個成本不高的實驗。Ai2 自己的比較組是 Claude 3.5 Sonnet、Claude 3.7 Sonnet、o3、o4-mini 與 GPT-4.1——刻意組成 2025 年的前沿陣容，而該實驗室表示尚未重新跑過這項比較。若兩個實驗組都能透過同一個端點存取，把你自己的問題拿去，把 AstaBrief 的輸出與當今的託管模型並列，就是一項一鍵就能完成的練習，也能回答那篇部落格文章懸而未答的問題。

什麼會改變局面？

有三件事能讓這件事從一場記錄詳盡的發布，變成一個塵埃落定的結果。對 SQABench-CS2 數字進行獨立重現，因為上述每一個數字都是自行報告的。針對當前前沿模型重新跑一次，因為依照該實驗室自己的說法，這組比較對象已經過時一年。以及一場規模更大的人工評估，而非三位研究人員提出的十四個問題——Ai2 自家的部落格在結尾主張，這個領域需要的評估要超越引用支持，進一步追問模型是否保留了其來源的證據範圍，包括它是否悄悄把樣本特定的發現變成廣泛的概括。這是對整個評估類別的一項公允批評，而它也適用於這次發布。

目前，務實的解讀很簡單。如果你要從文獻生成附引用的報告，而且你希望寫作模型跑在你自己的硬體上、採用 Apache-2.0 授權、訓練資料公開，那麼 AstaBrief 8B 就是任何人已發表過、最直接為此目的打造的開放選項，而 3.5 倍的實際耗時縮減正是它存在的理由。如果你的工作取決於最精準犀利的綜合分析，請注意，Ai2 自家的表格顯示 DR-Tulu 在整體人類偏好上領先，ScholarQA 則在 DeepScholarBench 上領先——而 Thinking 模式仍留在同一個產品中，正是為了這個原因。