
Inkling 2 Mini 以 20 推出:一款以迴圈方式思考的 20GB 模型
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百萬 tokens · 183 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百萬 tokens · 568 tok/s
- Alibaba新Qwen: Qwen4 Max2026-11-16$1.50 / $4.50 每百萬 tokens · 385 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百萬 tokens · 87 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百萬 tokens · 150 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百萬 tokens · 99 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百萬 tokens · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百萬 tokens · 84 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百萬 tokens · 121 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百萬 tokens · 107 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百萬 tokens · 67 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百萬 tokens · 214 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百萬 tokens · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 每百萬 tokens · 160 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
檢查點約為 20GB,而這個數字正是重點所在。Inkling 2 Mini 是一個 264 億參數的專家混合模型,每個 token 啟用 34 億個參數,由 Thinking Machines Lab 於 2026 年 11 月 20 日以 Apache 2.0 授權發布,單次下載即可在配備 32GB 統一記憶體的 Mac 或單台 NVIDIA DGX Spark 上執行。同一天,Artificial Analysis 對它進行了計時與評分:Intelligence Index v5.0.1 得分 20.1,每百萬輸入 token 0.15 美元、每百萬輸出 token 0.50 美元,完成一項索引任務需 0.59 美元,每秒輸出 280 個 token。有趣之處不在分數,而在於這個模型是透過將同樣的十二層跑三次來達到這個成績,而不是儲存更多參數;這正是讓一個 26B 檢查點表現得像更大的模型、卻不需要比筆記型電腦更多記憶體的原因。
把這兩類數字粗心地混在一起,發布成果看起來就像一場乾淨俐落的勝利;把它們分開來看,讀起來則更具體一些,而這正是本文試圖做到的事。指數、每項任務成本、速度、冗長程度與授權,都是 Artificial Analysis 於 2026 年 11 月 21 日讀取的測量值與中繼資料。下方每一列程式編寫與推理資料,都是 Thinking Machines 以自家評測框架,在其訓練的檢查點上所測得,並在出現之處如實註明。實驗室之外,沒有人重現過這些列數據。
Thinking Machines 發布了什麼
這次發布是以權重為先。Hugging Face 儲存庫建立於 11 月 17 日、最後修改於 20 日,這看起來像是分階段釋出的檢查點,而不是突襲式發布;模型卡則標明 2026 年 11 月 20 日為發布日期。有個值得注意的實際授權檔案狀況:模型卡在中繼資料中宣告 Apache 2.0,儲存庫標籤也帶有相同授權,因此這是採寬鬆授權的釋出,而不是像 Inkling 2 Small 在 11 月 5 日推出時所附帶的那種「承諾會有這樣一份授權」。
參數 — 總計 26.4B、3.4B 為活躍參數,計入迴圈後每個 token 的有效權重啟用為 5.4B;Thinking Machines 估計每多一次迴圈遍次,活躍參數約增加 1.0B。
{{1}}佔用空間{{/1}}——一個約 20GB 的檢查點,其中 20 層採用 NVFP4、4 層採用 MXFP8,並以其訓練時的精度提供,而非事後量化。
• 模態——文字與圖像透過視覺 Transformer 輸入,並投影到共享的隱藏空間,輸出則為文字。
• 上下文 — 模型卡標示最高可達 100 萬個 token,而 Artificial Analysis 記錄為 100 萬。
• 服務 — Hugging Face、SGLang、vLLM、TokenSpeed、NVIDIA Dynamo、Unsloth 與 llama.cpp GGUFs、Llama App,以及在 Apple silicon 上的 Ollama 與 Exo Labs。Miles 與 SkyRL 已有後訓練配方。
• 託管 — Tinker,用於推論與客製化,並附有遊樂場。那是供應商自家的端點,也是唯一的端點;Inkling 2 Mini 不在 OrcaRouter 上,下文也沒有任何內容暗示相反。
隨附一起推出的還有一個配套模型。TML-d24-varloop-research 採用相同架構,但經過訓練,可接受一到五次的迴圈傳遞(loop pass);它的存在,是為了讓研究人員能改變深度,而正式生產模型則將深度固定為三次。它也同樣發布在 Hugging Face 上,而且本次發布中絕大多數的可監測性(monitorability)研究,都是以它為對象進行的。

迴圈就是產品
Inkling 2 Mini 是一個 24 層、僅解碼器的 Transformer,具有稀疏混合專家前饋層,分為四個各六層的區塊。第一個區塊執行一次,最後一個區塊執行一次,而中間兩個區塊——共十二層——以共享權重執行三次。因此,一個 token 會經過 48 次層應用,這些層應用來自 24 層儲存的權重。
重複並不是複製。每一次穿過中間區塊的傳遞都會讀取前奏(prelude)的輸出,而第二與第三次傳遞還會讀取 Thinking Machines 所稱的訊息(message):也就是中間區塊自己在上一輪傳遞中的輸出,並透過一個學習式閘門合併進來。這個閘門一開始會完全阻擋訊息,因此訓練會從一個普通的非循環模型開始,而訊息的增益則隨著時間逐步提高。這是一種訓練穩定性的技巧,也正是為什麼迴圈可以在執行中途加入,而不是從零開始訓練。
哪些層要循環並非任意決定。該公司比較了循環中間十二層與循環最後十二層,在 28 項評估中發現中間層在其中 27 項勝出,且其運算等效增益為 1.51–1.91×,相較之下後者為 1.24–1.36×。這帶來的直覺是:早期與晚期層忙於在詞元與內部表徵之間轉譯,而中間層承載了能從更多串行步驟中受益的抽象推理。
這些專家是透過剪枝而來,而非經由設計。訓練從稀疏度 48 開始,將每個 token 路由至 384 個專家中的 8 個;在中期訓練的某個時點,公司保留每層最常用的 128 個專家,並用從更大的內部 Inkling 模型蒸餾出的 1T 個 token 修復損害,接著執行 SFT 與 RL 階段,在 2,000 步內共使用 2.2T 個 token。這與 Inkling 2 Small 的後訓練配方相同,因此兩個模型的強項落在相同的地方。
二十,以及它底下是什麼
主要分數是真實且經獨立測量的,而且它也接近該指數能有效解析的下限。Artificial Analysis 將 20 分列為該模型在開放權重榜單上同類比較組中遠高於平均的水準,該榜單的中位數是 10,但 20 分前後一分左右的區間擠滿了模型,而該指數並不會把模型細分到那種程度。20 分意味著該模型跨過了一道門檻,而不是它擊敗了與其相差一分以內的所有模型。
這個分數真正支持的是對這個規模的模型而言至關重要的定位。發表報導中的 Pareto 主張——每個活躍參數所帶來的前沿智能——正是 Artificial Analysis 自己的摘要所背書的,稱其屬於同規模級別中智能領先的模型,且相較其他規模相近的開放權重模型價格合理。它能達到這一點是因為那個迴圈,以串行算力換取而不增加參數;而一旦你要求模型知道某件事,而不是推算出某件事,這個主張就不再成立。
成本與速度這兩個欄位,是這個版本最強的地方。輸入 $0.15、輸出 $0.50 的定價位於推理層級的最低端,而每項索引任務 $0.59,是相同分數區間中 27B 稠密模型成本的四分之一。它在代理迴圈中會體現的兩個方面都很快:首個答案 token 耗時 9.72 秒,輸出速度為每秒 280 個 token。抵銷這項優勢的弱點是冗長——完成索引執行需 161M 輸出 token,而同儕中位數為 85.7M,約為同級典型模型輸出量的 1.9 倍。若按 token 計費,這沒問題。若採固定 token 預算,則意味著你能完成的任務數大約只有一半。

編碼列,廠商回報
Thinking Machines 公布的那張表格是其論證中最有力的部分,而且完全出自它自己。這些是來自廠商測試框架、尚未被重現的數字,其中幾項還是用該公司自家的代理腳手架跑出來的,而非中立的框架,因此請把它們視為關於該實驗室所訓練之檢查點的宣稱。
• SWE-bench Verified — 79.2%,僅使用 bash。
• SWE-bench Pro v2,困難 — 77.9%。
• SWE-bench Multilingual — 73.7%。
• DeepSWE v1.1 — 48.2%,而 Qwen3.8-27B 的報告結果為 42.2%。
• Terminal Bench v2.1 — 71.6%,落後於 Qwen3.8-27B 的 73.0;在 Terminal Bench v4.0 上,兩者皆印出 5.6%。
• FrontierCode v2.0 — 15.1%,相較於 Qwen3.8-27B 的 14.9%。
• 代理式搜尋與工具 — BrowseComp 79.0%、DeepSearchQA 85.3%、MCP Atlas 82.7%,每一項都領先同一張表中 Qwen3.8-27B 的數值。
• 視覺與文件 — MMMU Pro 74.9%、OmniDocBench v1.6 92.8%、ScreenSpot Pro 純粹模式 76.5%,搭配 Python 工具時 87.7%。
• 推理 — HLE-Diamond 15.2%,CritPt v2 31.4%,ARC-AGI 於 v1 為 84.5%、於 v2 為 49.3%,LongBench v2 66.9%。
那張表的形狀與架構一致,也是這次發佈中最有用的東西。模型看似強項的列,是那些在長時間跨度下獎勵堅持與工具使用的列:搜尋、儲存庫規模的修補、文件解析。模型看似普通的列,是那些需要單一正確回憶或困難科學推論的列。迴圈增加的是序列步驟,並不會增加已儲存的事實。
迴圈換來的是推理,而不是事實。
那個區別正是本次發佈自身的核心論點,而公司是以實測來驗證它,而非僅憑宣稱。在事實性基準 AA-Omniscience 上,廠商表格為 Inkling 2 Mini 印出 −8.6,不幻覺率為 63.4%。該處的負分意味著模型比拒答還糟:它會產出自信的錯誤。公司的說法是,這項知識落差與同總參數量的其他模型相當,而模型是靠優異的搜尋能力來彌補——這正是 BrowseComp 與 DeepSearchQA 兩列所顯示的,也正是為何對這款模型最誠實的總結是「擅長尋找,弱於記憶」。
可變迴圈配套模型更清楚地說明了這一點。其無思維鏈的時間跨度——在不寫下推理的情況下,能以 50% 可靠度完成任務的時間長度——從單次執行的 16 秒升至三次執行的 37 秒,之後趨於平緩;而在 N-Hop 查找任務上的序列推理則持續改善,直到十次執行,達到其訓練時深度兩倍的深度。增益集中在多跳檢索、數學與科學推理,以及長時程代理式工作。閉卷事實問答幾乎沒有變化。
可監測性這項結果,是研究者最會在意的一部分,因為這正是對循環模型的反對意見。如果模型在某個 token 內進行更多運算,就會有更少推理出現在可見的思維鏈中,而思維鏈監測器看到的也就更少。Thinking Machines 測量了這一點,並發現在此規模下,影響比原先擔憂的小:可變循環模型在五輪時的推理長度不到一輪時的一半(平均 1,661 對 3,703 個 token),而句子長度與詞典詞占比不變,這讀起來更像是推理更直接,而不是推理更不易辨讀。在其 LinuxArena 隱蔽性評估中,Inkling 2 Mini 的 3.9% 遠低於 Qwen3.8-27B 的 20.5%。這些都不是保證——這是在一類此前沒有人取得可下載權重的架構上所做的首次測量,而該公司也明說,他們發布這個模型的部分原因,就是讓其他人能夠核查。
運行所需的成本
自行託管是宣傳中的模式,而且算數很簡單。在你已經擁有的機器上放一個 20GB 檢查點,完全沒有邊際 token 成本;而廠商自家的效率研究——由史丹佛的 Hazy Research 與 Scaling Intelligence 實驗室在早期存取階段、以 MXFP8 與低推理努力執行——顯示它在 DGX Spark 上達到每瓦 0.703 的智慧,相較之下 Qwen3.6-35B-A3B 為 0.430,Gemma 4 26B-A4B 為 0.159。這是單一裝置上、帶有廠商色彩的結果,不是機群量測,但方向並不隱晦。
反對自行部署的誠實理由是,迴圈式架構的服務成熟度大約只有一天。SGLang、vLLM 及其他工具都列出支援,而模型卡也以其自身措辭警告,迴圈式模型的執行階段支援是新功能,速度會有所變動。你在自己的機器上測得的輸送量,取決於你選了哪個引擎,以及它的核心有多新,而這點的變化速度會比這個模型的其他任何面向都更快。
路由器在這裡的價值,不在於供應 Mini——我們並不託管它。而在於你在它周圍安排了什麼。評估一個未經證實的架構,絕不該成為你的使用者與錯誤頁面之間的唯一屏障;而要安排這一點,就是在生產路徑上呼叫你信任的模型,同時讓 Mini 在一旁運行。Qwen3.8-Flash已在 OrcaRouter 上提供,每百萬輸入 token 0.15 美元、每百萬輸出 token 0.47 美元,這是供應商定價原樣轉嫁、不加價;路由 DSL 與自動容錯移轉讓你可以在 Mini 觸及我們可觸及的端點的那一天,把 Mini 放到它後面。同一把金鑰涵蓋這場實驗的兩端,這就是全部的論點。

四件值得關注的事
第一點是獨立複現。Artificial Analysis 有指數、成本、速度與冗長度——這些都是實測的——但程式設計成績表是該實驗室自己的。除非 Thinking Machines 以外的人能在公開權重上跑 SWE-bench Pro v2 或 DeepSWE,否則 77.9% 和 48.2% 都只是宣稱。
第二個問題是,Tinker 之外是否會出現託管端點。一個 20GB 的 Apache 2.0 檢查點,正是第三方供應商會迅速接手的典型產物;而能讓每項任務 0.59 美元的價格看起來可持續的價格競爭,只有在出現第二個賣家時才會開始。
第三個是迴圈本身。如果試點奏效,這項技術便具有可移植性:在中間層進行三次傳遞,用一個閘門合併訊息,不增加額外參數。該領域每一份小模型配方都會成為它的候選;有趣的問題不再是這個模型能否拿到 20 分,而是下一個模型能否在相同記憶體用量下拿到 24 分。
第四點是這次發布未能解決的部分。迴圈模型把推理從可見的思維鏈移到前向傳遞中。Thinking Machines 在 5.4B 活躍參數下,未發現可監測性有明顯損失。還沒有人在 50B 規模發表同樣的測量。這正是本次發布讓這個問題得以被提出,而這也是比得分更值得在意 20GB 下載的理由。
對這週要做決定的人來說,分界很清楚。如果你想要的是一個能幹的代理式編碼器,能在你已經擁有的硬體上離線運行,而且你願意把它關進沙箱、並在信任它之前先測試它的事實記憶能力,那麼 Inkling 2 Mini 是目前市面上最有趣的小模型,而試用它的代價不過是一次下載。如果你需要的是一個能直接擺在客戶面前、背後不必有檢索層撐著的答案,那這並不是那樣的模型,而它在指數上的 20 分也不會讓它變成那樣的模型。
