Thẻ tiêu đề được tạo có nội dung 'Hy4 flash là mô hình mở trọng số', với ba ô kho lưu trữ được dán nhãn 'Hy4 flash', 'Hy4 flash-FP8' và 'Hy4 flash-Base', một dải thông số ghi '220B tổng / 12B hoạt động / ngữ cảnh 1M / ảnh vào, văn bản ra', và chân trang ghi 'Trọng số được công bố ngày 17 tháng 11 năm 2026 theo Tencent Hy License v1.0.'
Guides & Insights

Hy4 flash hiện đã là Open Weight: Hãy đọc Mục 10 trước khi bạn tải xuống.

Tác giả

jinhao.song

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Tencent Hy License, Phiên bản 1.0, là một dẫn xuất của Apache 2.0 với một mục bổ sung, và chính mục đó là lý do phải đọc kỹ bản phát hành này thay vì chỉ tải checkpoint về. Mục 10.2 nêu rằng nếu bạn vận hành doanh nghiệp mô hình dưới dạng dịch vụ và tổng doanh thu toàn cầu của bạn vượt quá 50 triệu đô la Mỹ trong bất kỳ giai đoạn mười hai tháng nào — hoặc sản phẩm của bạn vượt qua 100 triệu người dùng hoạt động hàng tháng — thì bạn cần một giấy phép bằng văn bản riêng từ Tencent trước khi sử dụng các trọng số hoặc tiếp tục sử dụng chúng. Mục 10.3 miễn trừ việc sử dụng nội bộ. Mục 2 của giấy phép Apache là nơi chứa các quyền không phải trả tiền bản quyền, và Mục 10.2 mở đầu bằng cụm từ “Notwithstanding Sections 2 and 3.” Vì vậy, việc tải xuống là miễn phí còn việc triển khai thì không miễn phí vô điều kiện, và ranh giới giữa hai điều này được vạch ra ở việc liệu người lạ có thể tiếp cận mô hình thông qua hạ tầng của bạn hay không.

Đó là bối cảnh cho những gì Tencent đã công bố vào 17 tháng 11 năm 2026 lúc 03:44 UTC, khi ba kho lưu trữ xuất hiện trên Hugging Face cách nhau trong vòng chín mươi giây: Hy4 flash, mô hình trò chuyện được tinh chỉnh theo chỉ dẫn; Hy4 flash-FP8, cùng mô hình đó ở FP8; và Hy4 flash-Base, checkpoint tiền huấn luyện không hề qua hậu huấn luyện. Mô hình chỉ dẫn có tổng cộng 220 tỷ tham số, với 64 tỷ trong số đó nằm trong các bảng Engram, 12 tỷ tham số hoạt động mỗi token, có khả năng đa phương thức gốc ở phía đầu vào và được cấu hình cho ngữ cảnh 1,048,576 token. Đây chính là mô hình mà Tencent đã đưa lên API của mình hai ngày trước đó, vào ngày 16 tháng 11, chỉ khác là giờ đây bạn có thể chạy nó trên phần cứng do mình sở hữu.

Thực sự có gì trong ba kho lưu trữ?

Sự phân tách này rõ ràng hơn hầu hết các bản phát hành trọng số mở, vì ba checkpoint thực sự là những thứ khác nhau chứ không phải ba tên tệp cho cùng một sản phẩm.

• Hy4 flash — mô hình instruct, đã bao gồm mẫu chat và các chế độ suy luận. Hỗ trợ reasoning_effort ở mức high (mặc định, bật suy nghĩ) và no_think (trả lời trực tiếp). Tencent khuyến nghị temperature 0.9 và top_p 1.0.

• Hy4 flash-FP8 — cùng bộ trọng số đó được lượng tử hóa để phục vụ production. Đây là bản mà các recipe chính thức của vLLM và SGLang nhắm tới, và là bản mà Tencent nói vượt 150 token mỗi giây trên một node tensor-parallel-8.

• Hy4 flash-Base — chỉ tiền huấn luyện. Thẻ mô hình nói rõ rằng đây "là một mô hình nền đã được tiền huấn luyện, không phải mô hình trò chuyện được tinh chỉnh theo chỉ dẫn," điều này quan trọng vì mọi bảng benchmark trong bản phát hành đều là bảng so sánh base với base. Các con số của mô hình instruct là số liệu WorkIndex và thử nghiệm mù của nhà cung cấp, không phải một bộ đánh giá công khai.

Hai chi tiết trong metadata đáng giá hơn vẻ ngoài của chúng. Thứ nhất là các kho lưu trữ được gắn cờ image-text-to-text ở cấp pipeline, nên bộ mã hóa thị giác được xuất kèm trọng số thay vì được gắn thêm ở hạ nguồn. Thứ hai là một sự không khớp về con số: tài liệu ra mắt của Tencent ngày 16 tháng 11 mô tả mô hình là 224B, và bảng của chính model card cộng lại thành 220,3B — 155,5B backbone, 63,5B Engram, 0,43B ViT, 0,85B DFly2 drafter. Không con số nào sai trong ngữ cảnh; con số 224B dường như tính cả DFly2 drafter và làm tròn khác đi, trong khi bảng của card loại Engram, ViT và DFly2 khỏi dòng backbone 155,5B của chính nó rồi sau đó cộng chúng trở lại. Khi một nhà cung cấp đưa ra hai tổng số cho cùng một mô hình, card là thứ nên trích dẫn.

A generated reference card headed 'What the three repositories actually contain', listing the three checkpoints with a one-line description each and a separate outlined panel headed 'Tencent Hy License v1.0, section 10.2' noting the separate written licence above US$50M annual gross revenue or above 100M monthly active users as a service.

Kiến trúc này thực chất là một lập luận về chi phí khoác lên mình bộ cánh của kiến trúc.

Khi đọc như một động thái về năng lực, rất ít phần trong thiết kế này có lý. Nhưng khi đọc như một cách để thu gọn KV cache và bước giải mã, thì toàn bộ đều có lý.

• Cơ chế chú ý — chú ý IndexPool thưa xen kẽ với chú ý cửa sổ trượt 512 token theo tỷ lệ 1:3, dựa trên một công thức chú ý tiềm ẩn đa đầu (MLA). Các lớp thưa chọn tối đa 2.048 token bằng chọn lọc ở cấp nhóm; có 12 lớp thưa và 30 lớp SWA trên khung xương 42 lớp.

• Định tuyến — 512 chuyên gia được định tuyến cộng với một chuyên gia dùng chung trên mỗi lớp MoE, 16 chuyên gia định tuyến được kích hoạt cho mỗi token, hoạt động trong không gian LatentMoE có số chiều 1,536 thay vì toàn bộ độ rộng chuyên gia.

• Engram — các biểu diễn bigram và trigram đã học được truy xuất thông qua tra cứu hash đa đầu tại các lớp backbone 1, 11, 21 và 31. Đó là 63.5B mà thẻ đếm riêng so với backbone.

• Drafter — DFly2, một mô hình giải mã suy đoán 5 lớp 0,85B tái sử dụng bộ nhớ đệm KV thưa và lựa chọn indexer của mô hình đích thay vì giữ bộ nhớ đệm riêng. Tuyên bố của Tencent là chi phí nháp cố định khoảng 2.048 khóa cho mỗi token nháp, bất kể ngữ cảnh dài đến đâu, và không tốn thêm bộ nhớ KV.

• Con số hiệu quả được nhấn mạnh — KV cache bằng 1/24 của Hy3 và 1/6 của Hy4, do nhà cung cấp báo cáo và chưa được đo lường độc lập.

• Huấn luyện sau — tự chưng cất từ Hy4 kết hợp với học tăng cường, mà Tencent cho biết giúp giảm trung bình 50% số token đầu ra end-to-end. Đầu ra ngắn hơn chính là nơi phần lớn khoản tiết kiệm chi phí thực sự đến từ, và đó là phần ít hiện rõ nhất trên bất kỳ bảng giá theo từng token nào.

Ghép lại, đó là một mô hình được thiết kế để một ngữ cảnh 1M token không tốn chi phí phục vụ như mức mà một ngữ cảnh 1M token thường tốn. Độ dài ngữ cảnh là chiêu tiếp thị; tỷ lệ KV cache mới là tuyên bố kỹ thuật nằm bên dưới.

Screenshot of the Hugging Face model card for tencent/Hy4-flash, showing the three-model release line, the Model Links table and the quickstart snippet.

Tencent đã đo lường những gì, và những gì chưa đo lường

Mọi con số trong phần này đều là của Tencent, được tạo ra trên bộ khung đánh giá của Tencent, và không có con số nào được tái lập bên ngoài công ty. Artificial Analysis không có trang nào cho Hy4 flash — URL của mô hình trả về 404 tính đến ngày 18 tháng 11 — vì vậy không có điểm số của bên thứ ba để đối chiếu với bất kỳ con số nào trong số đó.

Bảng mô hình nền tảng so sánh Hy4 flash-Base với Hy4 Base, Hy3 preview Base, DeepSeek-V4-flash-Base và DeepSeek-V4-Pro-Base, tất cả trên cùng một pipeline. Đây là bảng trung thực nhất trong bản phát hành chính vì nó chấp nhận thua ở một số dòng: MMLU-Pro ghi 71,1 cho Hy4 flash-Base so với 73,9 cho Hy4 Base và 73,4 cho DeepSeek-V4-Pro-Base; SimpleQA ghi 37,5 so với 57,2 và 52,1. Ở những chỗ nó thắng, nó thắng rất đậm trên các dòng tiếng Trung và đa ngôn ngữ — C-Eval 92,0, CMMLU 91,6, AGIEval Chinese 90,6, Belebele 93,8, INCLUDE 82,8 — đúng như kỳ vọng ở một mô hình được xây dựng ưu tiên cho chính các sản phẩm của Tencent.

Hãy đọc phần chữ nhỏ trên thẻ trước khi đọc điểm số. Tencent nêu rằng việc tiếp xúc nhiều với dữ liệu chỉ dẫn tổng hợp trong quá trình mid-training khiến mô hình đôi khi không thể tuân theo {{1}}định dạng câu trả lời mong đợi trong các đánh giá few-shot, điều này có thể làm sai lệch điểm số{{/1}} — một nhà cung cấp tự cảnh báo rằng một số hàng của chính họ có thể đang đo mức tuân thủ định dạng thay vì năng lực. Hãy coi mọi con số bên dưới là giới hạn trên cho đến khi harness của chính bạn xác nhận.

Mô hình instruct hoàn toàn không có bảng điểm chuẩn công khai nào. Thay vào đó, nó có WorkIndex, một bộ nội bộ gồm tám nhóm tác vụ — tạo slide, chỉnh sửa slide, đồng soạn slide giữa người và AI, đồng soạn Markdown, chỉnh sửa tài liệu, sửa bảng tính, xử lý âm thanh/video và hiểu hình ảnh. Hy4 flash đạt 42,1 điểm ở đó, so với 39,7 của Hy4 preview và 51,4 của chính Hy4, với chi phí trung bình mỗi tác vụ mà công ty ước tính bằng 1/13 của Hy4 preview, 1/20 của Hy4 và 1/8 của DeepSeek-V4.1-Flash-1017 theo giá giờ cao điểm. Ngoài ra còn có một đánh giá mù với 85 người dùng WorkBuddy nội bộ trên 259 tác vụ thuộc 27 danh mục, trong đó Hy4 flash đạt 2,79/4 về mức độ hài lòng, so với 2,81 của Claude Haiku 5.5, với trung vị 6,7 phút và 0,26 RMB mỗi tác vụ.

Đó là những phép đo thực tế của một quần thể thực. Chúng cũng là những phép đo của nhân viên Tencent đang làm công việc mang đặc thù Tencent, được chấm theo một thang điểm do Tencent tự viết, và khoảng cách 0,02 điểm so với điểm hài lòng của một đối thủ cạnh tranh nằm sâu bên trong mọi dải nhiễu hợp lý. Hãy coi thứ tự xếp hạng của WorkIndex chỉ như một tín hiệu định hướng từ nhà cung cấp, không hơn.

Giấy phép chính là điểm mà bản phát hành này thực sự sẽ được đánh giá.

Trọng số mở không phải mã nguồn mở, và Tencent Hy License khiến sự khác biệt này trở nên cụ thể một cách bất thường. Bốn điều khoản quyết định một nhóm cụ thể có thể làm gì:

• Cấp phép cơ bản — các quyền của Apache 2.0, bao gồm sử dụng thương mại, sửa đổi và phân phối lại, áp dụng cho trọng số, tham số, cấu hình, mã suy luận và tài liệu.

• Điều kiện kích hoạt MaaS — cần có giấy phép bằng văn bản riêng nếu bạn cung cấp cho bên thứ ba quyền truy cập từ xa để suy luận hoặc tinh chỉnh và vượt quá 50 triệu đô la Mỹ tổng doanh thu gộp trên toàn thế giới trong bất kỳ khoảng thời gian mười hai tháng nào. Doanh thu bắt nguồn từ mô hình được tính, và doanh thu không liên quan gì đến mô hình cũng vậy: điều khoản này ghi rằng "dù doanh thu đó có bắt nguồn từ Tác phẩm hay không."

• Ngưỡng quy mô — yêu cầu tương tự áp dụng trước khi sử dụng trọng số trong bất kỳ sản phẩm nào có hơn 100 triệu người dùng hoạt động hàng tháng trong một tháng dương lịch, ở bất kỳ mức doanh thu nào.

• Hai ngoại lệ — các sản phẩm dành cho người dùng cuối mà quyền truy cập mô hình chỉ giới hạn trong những tính năng cụ thể thay vì nhắc lệnh cho mục đích chung thì nằm ngoài định nghĩa MaaS, và "chỉ chuyển tiếp yêu cầu đến một dịch vụ mô hình bên thứ ba được vận hành độc lập" cũng bị loại trừ. Việc sử dụng chỉ nội bộ được miễn trừ hoàn toàn.

Hãy so sánh điều đó với giấy phép trên checkpoint ERNIE 5.5 Flash Base, vốn loại trừ hoàn toàn EU, Vương quốc Anh và Hàn Quốc khỏi các vùng lãnh thổ. Tencent không loại trừ bất kỳ vùng lãnh thổ nào. Thay vào đó, họ đánh thuế theo quy mô. Đối với một startup đang xây dựng sản phẩm dựa trên các trọng số, đó là một văn bản thân thiện hơn đáng kể so với lệnh cấm theo lãnh thổ. Đối với một nhà cung cấp dịch vụ suy luận cỡ trung bình, đó là một cuộc gọi đến [email protected] trước khi tung ra sản phẩm.

Phục vụ nó: ba con đường thực tế, tất cả đều được ghim.

Câu chuyện triển khai đầy đủ hơn câu chuyện API của tuần ra mắt, và nó cũng mong manh hơn một sản phẩm được hỗ trợ, theo đúng cách mà sự hỗ trợ framework ban đầu luôn như vậy.

{{1}}vLLM{{/1}} — image chính thức {{2}}vllm/vllm-openai:hy4-flash{{/2}}, tensor-parallel 8, checkpoint FP8, {{3}}--attention-backend FLASHMLA_SPARSE{{/3}}, giải mã suy đoán {{4}}DFly{{/4}} ở 5 token, cùng các trình phân tích lời gọi công cụ và suy luận {{5}}hy_v4{{/5}}.

• SGLang — lmsysorg/sglang:hy4-flash, đa kiến trúc trên x86 và Arm, tensor-parallel 8, --speculative-algorithm DFLY với kích thước khối 6.

• Transformers — vẫn chưa có trong bản phát hành nào. Thẻ cho bạn biết phải cài đặt từ một ref của pull request (refs/pull/50903/head) cho đến khi bản hợp nhất được đưa vào, đây là tín hiệu rõ ràng nhất có thể cho thấy nó mới đến mức nào.

• Lượng tử hóa — bản dựng GGUF từ bộ công cụ {{1}}AngelSlim{{/1}} được liên kết để kiểm thử đầu-cuối, và hướng dẫn tinh chỉnh có sẵn trong kho lưu trữ.

Hình ảnh được ghim và một PR ref nghĩa là mô hình hoạt động ngày hôm nay trên đúng các bản dựng mà Tencent đã kiểm thử và có thể không hoạt động trên bản phát hành phụ tiếp theo của một trong hai framework. Điều đó đáng để biết trước khi bạn đặt nó phía sau một endpoint production, và đó là lý do các công thức framework quan trọng hơn bảng benchmark đối với bất kỳ ai thực sự triển khai.

Trọng số mở tác động thế nào đến giá API

Giá niêm yết tại Trung Quốc đại lục của Tencent cho Hy4 flash là ¥0,5 mỗi triệu token đầu vào, ¥2 mỗi triệu token đầu ra và ¥0,02 cho một lần trúng bộ nhớ đệm — khoảng $0,070, $0,281 và $0,003 theo tỷ giá hiện tại. Đó là bảng giá của nhà cung cấp, không phải kết quả đo lường.

Giá đó không phải là thứ thay đổi khi trọng số được phát hành. Thứ thay đổi là mức sàn bên dưới nó. Một mô hình bạn có thể tải xuống có một mức giá thứ hai, đó là chi phí của những chiếc GPU mà bạn chạy nó trên đó, và toàn bộ kiến trúc được mô tả ở trên là một lập luận rằng mức giá thứ hai này thấp một cách bất thường đối với một mô hình ngữ cảnh 1M. Tỷ lệ chi phí trên mỗi tác vụ từ 1/8 đến 1/20 của chính Tencent là lập luận đó bằng số học của nhà cung cấp.

OrcaRouter định tuyến 200+ mô hình phía sau một API với giá niêm yết của nhà cung cấp được chuyển nguyên ở mức phụ giá 0%, nên thay đổi giá của nhà cung cấp có hiệu lực bên chúng tôi ngay trong cùng ngày thay vì vào lần xây dựng lại danh mục tiếp theo. Bản thân Hy4 flash vẫn chưa có trong danh mục đó — thứ đang có là tencent/hy4-preview, mô hình teacher 770B/49B mà mô hình này được chưng cất từ đó, với $0.834 cho đầu vào và $2.501 cho đầu ra trên mỗi triệu token, cùng mức đọc cache là $0.042. Nếu bạn muốn đánh giá dòng mô hình này trước khi cam kết triển khai FP8 tự lưu trữ, bản preview là mô hình bạn có thể gọi ngay hôm nay; còn trọng số là thứ bạn chuyển sang khi các con số đứng vững. Chuyển đổi dự phòng tự động là nửa còn lại của cách tiếp cận đó, bởi vì một checkpoint hai ngày tuổi chạy trên bản dựng Transformers tham chiếu PR đúng là kiểu phụ thuộc mà bạn muốn có một tuyến thứ hai phía sau.

Screenshot of the tencent/hy4-preview model page, showing the per-million-token input, output and cache-read prices the routed preview model is listed at.

Xem gì

Ba điều sẽ quyết định liệu bản phát hành này có còn quan trọng sau sáu tháng hay không, và không điều nào trong số đó là bảng điểm chuẩn.

Thứ nhất, lỗi 404. Hy4 flash không có điểm số độc lập. Cho đến khi Artificial Analysis hoặc một đơn vị tương đương chạy đánh giá nó, mọi tuyên bố về năng lực trong bài này đều là của Tencent, và vị thế trung thực là mô hình chưa được đo lường chứ không phải được đo lường tốt. Thứ hai, các framework hợp nhất: khi phần hỗ trợ Transformers rời khỏi pull request 50903 và các image vLLM và SGLang không còn bị ghim phiên bản, mô hình không còn là một sản phẩm nghiên cứu nữa mà trở thành hạ tầng. Thứ ba, cách diễn giải giấy phép — công ty đầu tiên vận hành một doanh nghiệp MaaS trị giá 60 triệu đô la trên các trọng số này sẽ nói cho mọi người biết Mục 10.2 thực sự được đọc như thế nào.

Tencent kết thúc thông báo của mình bằng câu "hãy chờ đón Hy4 sắp ra mắt", một lời hứa rằng mô hình đạt 51,4 trên WorkIndex trong các biểu đồ chi phí cũng sẽ được xử lý tương tự. Nếu đúng như vậy, câu hỏi thú vị sẽ không còn là liệu Tencent có thể tung ra một mô hình flash trọng số mở giá rẻ hay không, mà trở thành liệu hãng có thể tung ra một mô hình đắt tiền cạnh tranh bằng năng lực thay vì giá cả hay không.

So sánh trong bài viết này2

Phát hiện từ bài viết này · Benchmark: Artificial Analysis · cập nhật hằng ngày