一張生成的標題卡寫著「Hy4 flash 採開放權重」,帶有三個標示為「Hy4 flash」、「Hy4 flash-FP8」和「Hy4 flash-Base」的儲存庫圖磚,一條規格列寫著「總計 220B / 活躍 12B / 1M 上下文 / 圖像輸入、文字輸出」,以及頁腳寫著「權重於 2026 年 11 月 17 日依據 Tencent Hy License v1.0 發布。」
Guides & Insights

Hy4 flash 現已開放權重:下載前請閱讀第 10 節

作者

jinhao.song

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

Tencent Hy License 第 1.0 版是 Apache 2.0 的衍生授權,外加一個額外章節;而正是這個章節,讓你必須仔細閱讀本次發布,而不是直接把 checkpoint 拉下來。第 10.2 條規定,如果你經營模型即服務(model-as-a-service)業務,且你的全球總收入在任何連續十二個月期間超過 5,000 萬美元——或你的產品月活躍使用者超過 1 億——那麼你在使用這些權重或繼續使用它們之前,需要另行取得騰訊的書面授權。第 10.3 條豁免內部使用。Apache 授權中免權利金的權利位於第 2 條,而第 10.2 條開頭寫著「儘管有第 2 條與第 3 條的規定」。因此,下載是免費的,部署則並非無條件免費,而兩者之間的界線取決於外部人士是否能透過你的基礎設施觸及該模型。

這就是騰訊於 2026 年 11 月 17 日 03:44 UTC 所發布內容的整體框架,當時三個儲存庫在九十秒內相繼出現在 Hugging Face 上:Hy4 flash,經指令微調的聊天模型;Hy4 flash-FP8,同一模型以 FP8 呈現;以及 Hy4 flash-Base,完全未經後訓練的預訓練檢查點。指令模型總參數為 2,200 億,其中 640 億位於 Engram 表中,每個詞元啟用 120 億參數,輸入端原生支援多模態,並配置為 1,048,576 個詞元的上下文。這與騰訊兩天前、即 11 月 16 日在其 API 上推出的模型相同,差別在於你現在可以在自己擁有的硬體上運行它。

那三個儲存庫裡實際上有什麼?

這種劃分比大多數開放權重釋出來得清楚,因為這三個檢查點確實是不同的東西,而不是同一個成品的三個檔名。

• {{1}}Hy4 flash{{/1}} — 包含 instruct 模型、聊天模板與推理模式。支援將 {{2}}reasoning_effort{{/2}} 設為 {{3}}high{{/3}}(預設,開啟思考)以及 {{4}}no_think{{/4}}(直接回答)。Tencent 建議 temperature 0.9 與 top_p 1.0。

• Hy4 flash-FP8 — 同一組權重經量化以用於正式環境服務。這正是官方 vLLM 與 SGLang 方案所指的版本,也是騰訊表示在 tensor-parallel-8 節點上可達到每秒 150 個 token 的版本。

• Hy4 flash-Base — 僅預先訓練。模型卡明確指出,這「是預先訓練的基礎模型,而非經過指令微調的對話模型」,這點很重要,因為發佈內容中的每張基準測試表都是基礎模型對基礎模型的比較。指令模型的數字是供應商的 WorkIndex 與盲測數據,而非公開評測套件。

中繼資料中有兩個細節,其重要性遠超表面。第一,這些儲存庫在管線層級被標記為 image-text-to-text,因此視覺編碼器是隨權重一同出貨,而不是在下游才額外接上。第二是數字不一致:騰訊 11 月 16 日的發布資料稱該模型為 224B,而模型卡自己的表格加總為 220.3B——155.5B 主幹、63.5B Engram、0.43B ViT、0.85B DFly2 草稿模型。這兩個數字在各自脈絡下都沒有錯;224B 這個數字似乎計入了 DFly2 草稿模型,且四捨五入方式不同,而模型卡的表格則將 Engram、ViT 與 DFly2 排除在其自身的 155.5B 主幹那一行之外,之後再加總回來。當廠商為同一模型提供兩個總數時,應引用模型卡上的那個。

A generated reference card headed 'What the three repositories actually contain', listing the three checkpoints with a one-line description each and a separate outlined panel headed 'Tencent Hy License v1.0, section 10.2' noting the separate written licence above US$50M annual gross revenue or above 100M monthly active users as a service.

這套架構是披著架構外衣的成本論證。

若把這個設計解讀成一種能力布局,幾乎沒什麼說得通;但若解讀成縮小 KV 快取與解碼步驟的方法,那就全都說得通了。

• 注意力 — 稀疏 IndexPool 注意力與 512 個 token 的滑動視窗注意力以 1:3 的比例交錯,並採用多頭潛在注意力(MLA)形式。稀疏層透過群組層級選擇最多選取 2,048 個 token;在 42 層主幹中,共有 12 個稀疏層與 30 個 SWA 層。

• 路由 — 每個 MoE 層有 512 個路由專家加一個共享專家,每個 token 激活 16 個路由專家,在維度為 1,536 的 LatentMoE 空間中運作,而非完整的專家寬度。

• {{1}}Engram{{/1}} — 經學習的 bigram 與 trigram 表徵,透過多頭雜湊查找在骨幹網路第 {{2}}1、11、21 與 31{{/2}} 層擷取。這就是卡片與骨幹分開計算的 {{3}}63.5B{{/3}}。

• Drafter — DFly2,一個 5 層、0.85B 的推測解碼模型,會重複使用目標模型的稀疏 KV 快取與 indexer 選擇,而不是維持自己的。Tencent 聲稱,無論上下文多長,每個 draft token 的草稿成本固定約為 2,048 個 key,且零額外 KV 記憶體。

• 重點效率數據——KV 快取為 Hy3 的 1/24、Hy4 的 1/6,由廠商自行提供,未經獨立測量。

• 後訓練——從 Hy4 進行自我蒸餾,再加上強化學習;騰訊表示,這能將平均端到端輸出 token 數減少 50%。較短的輸出正是成本節省中很大一部分的實際來源,而這也是任何按 token 計價的價目表中最不容易看出來的部分。

綜合來看,這是一個經過工程設計的模型,讓 100 萬 token 的上下文在服務時不必付出 100 萬 token 上下文通常會有的成本。上下文長度是行銷賣點;KV 快取佔比才是其底下真正的工程主張。

Screenshot of the Hugging Face model card for tencent/Hy4-flash, showing the three-model release line, the Model Links table and the quickstart snippet.

騰訊衡量了什麼,以及它沒有衡量什麼

本節中的每一個數字都出自騰訊,是在騰訊的評測框架上產生的,而且其中沒有任何一項曾在公司外部被重現。Artificial Analysis 沒有 Hy4 flash 的頁面——截至 11 月 18 日,該模型的 URL 會返回 404——因此沒有任何第三方分數可以與其中任何一項並列。

基礎模型表將 Hy4 flash-Base 與 Hy4 Base、Hy3 preview Base、DeepSeek-V4-flash-Base 及 DeepSeek-V4-Pro-Base 放在同一套流程上比較。這張表是本次發布中最誠實的一張,正因為它列出了落敗的項目:MMLU-Pro 上 Hy4 flash-Base 讀數為 71.1,對上 Hy4 Base 的 73.9 與 DeepSeek-V4-Pro-Base 的 73.4;SimpleQA 上為 37.5,對上 57.2 與 52.1。在它勝出的地方,於中文與多語言列上領先幅度很大——C-Eval 92.0、CMMLU 91.6、AGIEval Chinese 90.6、Belebele 93.8、INCLUDE 82.8——這正是優先為騰訊自家產品打造的模型會有的表現。

在看分數之前,先讀卡片上的小字。Tencent 表示,中期訓練期間大量接觸合成指令資料,會讓模型偶爾無法遵循「少樣本評估中預期的答案格式,這可能扭曲分數」——這是供應商自行標示,自家某些列可能衡量的是格式遵循度,而非能力。在你自己的評測框架也給出一致結果之前,請把下方每個數字都視為上限。

Instruct 模型完全沒有公開的基準測試表。它有的是 WorkIndex,這是一套內部測試套件,包含八個任務家族——投影片製作、投影片編輯、人類與 AI 協作撰寫投影片、Markdown 協作撰寫、文件編輯、試算表修復、音訊/視訊處理,以及視覺理解。Hy4 flash 在此得分 42.1,Hy4 preview 為 39.7,Hy4 本身則為 51.4;公司表示,每項任務平均成本為 Hy4 preview 的 1/13、Hy4 的 1/20,以及 DeepSeek-V4.1-Flash-1017 尖峰時段定價的 1/8。另有一項盲測,涵蓋 27 個類別、259 項任務,由 85 位內部 WorkBuddy 使用者參與;其中 Hy4 flash 的滿意度為 4 分中的 2.79 分,Claude Haiku 5.5 為 2.81 分,每項任務中位數為 6.7 分鐘、人民幣 0.26 元。

那些是對真實母體的真實測量。它們也是對從事騰訊式工作的騰訊員工所做的測量,並依騰訊撰寫的評分規準計分;而與競爭對手滿意度分數之間 0.02 分的差距,遠落在任何合理雜訊帶之內。請僅將 WorkIndex 的排序視為廠商提供的方向性訊號,別無其他。

授權條款才是這個版本真正會受到評判的地方。

開放權重並非開源,而 Tencent Hy License 讓這項區別格外具體。有四項條款決定特定團隊能做什麼:

• 基礎授權 — Apache 2.0 的權限,包括商業使用、修改與再散布,適用於權重、參數、配置、推論程式碼與文件。

• MaaS 觸發條件——若您提供第三方對推論或微調的遠端存取,且在任何十二個月期間內的全球總收入超過 5,000 萬美元,則需要另行取得書面授權。源自該模型的收入會計入,與其無關的收入也一樣:該條款寫道「無論該收入是否來自本作品」。

• 規模觸發條件——在任何曆月內月活躍使用者超過 1 億人的任何產品中,無論營收水準為何,於使用這些權重之前,同樣的要求也適用。

• 兩項排除條款——若終端使用者產品對模型的存取僅限於特定功能,而非用於一般用途的提示輸入,則不屬於 MaaS 的定義範圍;「僅將請求轉送至獨立營運的第三方模型服務」也同樣排除在外。純供內部使用則直接豁免。

將這點與 ERNIE 5.5 Flash Base checkpoint 的授權條款相比,後者將歐盟、英國與韓國完全排除在領土範圍之外。Tencent 則不排除任何領土,而是按規模收費。對一家以這些權重為基礎打造產品的新創公司而言,這份文件比領土禁令實質上友善得多。對中型推論服務供應商來說,這代表出貨前得先打電話到 [email protected]。

為它提供服務:三條真實路徑,全部皆已釘選

部署這部分的說明比發布週當時的 API 說明更完整,但它也比受支援的產品更脆弱,而且脆弱的方式正是早期框架支援一貫如此的那種。

• vLLM — 官方映像檔 vllm/vllm-openai:hy4-flash、張量平行 8、FP8 檢查點、--attention-backend FLASHMLA_SPARSE、DFly 推測解碼 5 個 token,以及 hy_v4 工具呼叫與推理解析器。

• SGLang — lmsysorg/sglang:hy4-flash,跨 x86 與 Arm 的多架構,張量平行 8,--speculative-algorithm DFLY,區塊大小 6。

• Transformers — 尚未收錄於任何發行版本中。卡片要你在合併完成前,先從某個 pull request 的 ref(refs/pull/50903/head)安裝,這是最清楚不過的訊號,說明它有多新。

• 量化 — 已連結由 AngelSlim 工具組建置的 GGUF 版本,供端對端測試使用,且儲存庫中附有微調指南。

固定映像與 PR ref 意味著,這個模型目前能在騰訊實際測試過的確切建置版本上運作,但可能無法在任一框架的下一個次要版本上運作。在你把它部署到生產環境端點後面之前,這點值得了解;而這也正是為什麼對任何實際要部署的人來說,框架操作配方比基準測試表更重要。

開放權重對 API 價格的影響

騰訊在中國大陸對 {{1}}Hy4 flash{{/1}} 的牌價為:每百萬輸入 token 人民幣 0.5 元、每百萬輸出 token 人民幣 2 元,快取命中則為人民幣 0.02 元——以當前匯率折算約為 0.070 美元、0.281 美元與 0.003 美元。那是廠商的價目表,不是實測。

當權重推出時,改變的不是那個價格,而是它下方的地板。一個你可以下載的模型有第二個價格,也就是你運行它所使用 GPU 的成本,而上述整套架構正是在論證:對一個 1M 上下文的模型來說,這第二個價格異常低。騰訊自己每任務 1/8 到 1/20 的成本比率,就是這個論點用廠商算術的表達。

OrcaRouter 將 200+ 個模型置於單一 API 之後,並以 0% 加成直接傳遞供應商的牌價,因此供應商調價當天就會反映在我們這邊,而不是等到下一次目錄重建。Hy4 flash 本身尚未列入該目錄——目前有的是 tencent/hy4-preview,也就是蒸餾出這個模型的 770B/49B 教師模型,每百萬 token 輸入 $0.834、輸出 $2.501,快取讀取費率為 $0.042。如果你想在投入自架 FP8 部署之前評估這個系列,這個預覽版就是你今天可以呼叫的模型;等數字經得起考驗後,權重才是你要遷移過去的目標。 自動容錯移轉是這種策略的另一半,因為一個在 PR-ref Transformers 建置上執行的兩天前檢查點,正是你會想讓第二條路由在其後作為後備的那種依賴。

Screenshot of the tencent/hy4-preview model page, showing the per-million-token input, output and cache-read prices the routed preview model is listed at.

有什麼好看

有三件事將決定這次發布在六個月後是否仍具意義,而這三件事都不是那張基準測試表。

首先,那個 404。Hy4 flash 沒有獨立評分。在 Artificial Analysis 或同等機構對它進行評測之前,本文中的每一項能力主張都出自騰訊,而誠實的立場是:這個模型是「未被測量」,而不是「測量得很好」。第二,框架合入:當 Transformers 支援離開 pull request 50903,且 vLLM 與 SGLang 映像不再被固定版本時,模型就不再是研究產物,而成為基礎設施。第三,授權條款的解讀——第一家以這些權重經營 6,000 萬美元 MaaS 業務的公司,將會告訴所有人第 10.2 條實際上該怎麼讀。

騰訊在公告結尾寫道:「敬請期待接下來登場的 Hy4」,這承諾了成本圖表中在 WorkIndex 拿下 51.4 分的模型也會獲得同樣待遇。若果真如此,有趣的問題就不再是騰訊能否推出便宜的開放權重 flash 模型,而是能否推出昂貴、以能力而非價格競爭的模型。

本文中的比較2

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新