Clef-Flash là một mô hình 9B không bao giờ viết ra một token nào — và blog của Cloudflare xuất hiện gần một ngày sau khi trọng số được công bố

Cloudflare/clef-flash là một mô hình đa phương thức 9 tỷ tham số, nhận một trạng thái và một lược đồ gồm các câu hỏi có kiểu, rồi trả về một xác suất cho mọi câu trả lời được phép. Nó không sinh văn bản. Không phải “nó sinh văn bản kém” — mà là nó hoàn toàn không có đường xuất văn bản nào cả. Kho lưu trữ của nó xuất hiện trên Hugging Face lúc 21:15 UTC ngày 30 tháng 9 năm 2026 theo giấy phép Apache-2.0; bài đăng công bố của Cloudflare giới thiệu nó, cùng với mô hình 27B lớn hơn Cloudflare/clef, được xuất bản lúc 15:34 UTC ngày hôm sau. Trong khoảng mười tám giờ, trọng số mở và điểm cuối Workers AI được lưu trữ đã tồn tại công khai trước khi nhà cung cấp nói một lời nào về chúng, và thứ tự đó là sự thật thú vị nhất trong bản phát hành — thú vị hơn, đối với bất kỳ ai đang cân nhắc có nên kết nối thứ này vào một pipeline hay không, so với bất kỳ dòng benchmark đơn lẻ nào.

Một rắc rối thứ hai, nhỏ hơn, xuất hiện hai ngày sau đó. Trang thư viện của một runtime bên thứ ba dành cho clef-flash — nơi radar của bài viết này lần đầu phát hiện ra mô hình — liệt kê nó với "cửa sổ ngữ cảnh 256K" trong bảng mô hình của mình, trong khi ngay vài dòng phía trên lại hiển thị chính đoạn readme của Cloudflare — "cửa sổ ngữ cảnh 64K: gấp đôi lượng trạng thái mà cửa sổ 32K của Jev nắm giữ". Hai con số đó không thể cùng đúng, và tài liệu của nhà cung cấp phân xử theo hướng nghiêng về con số nhỏ hơn. Kiểu sai lệch như vậy đáng được nêu ra ngay từ đầu, bởi vì mọi thứ khác trong bài viết này đều nằm ở hạ nguồn của cùng một câu hỏi: con số nào là của nhà cung cấp, con số nào là của một bản sao, và con số nào đã được kiểm chứng bởi bất kỳ ai không phải là nhà cung cấp.

Điều gì thực sự đã được phát hành, và theo thứ tự nào

Hồ sơ, theo trình tự:

• 30 tháng 9 năm 2026, 21:15:35 UTC — Cloudflare/clef, mô hình 27B, được tạo trên Hugging Face.

• 30 tháng 9 năm 2026, 21:15:36 UTC — Cloudflare/clef-flashđược tạo ra, một giây sau đó. Cả hai đều là bản tinh chỉnh của các mô hình nền Qwen: Clef từ Qwen3.8-27B, Clef-Flash từ Qwen3.5-9B.

• 1 tháng 10 năm 2026, 15:23 UTC — kho lưu trữ của clef-flash được sửa đổi lần cuối, đại khái là vào khoảng thời gian văn bản thẻ mô hình mà chúng tôi đang trích dẫn được viết.

• 1 tháng 10 năm 2026, 15:34 UTC — "Giới thiệu Clef: các mô hình quyết định mã nguồn mở của chúng tôi, và nền tảng tinh chỉnh RL mới" được đăng trên blog Cloudflare, lưu trữ cả hai mô hình trên Workers AI và ra mắt dịch vụ tinh chỉnh xoay quanh chúng.

• 2–3 tháng 10 năm 2026 — các runtime bên thứ ba tiếp nhận các trọng số; trang thư viện của một runtime bên thứ ba và các bản dựng lượng tử hóa do cộng đồng thực hiện xuất hiện.

Vậy đây không phải là một vụ rò rỉ, không phải một đợt phát hành âm thầm, và cũng không phải một checkpoint không được công bố mà người đọc phải coi là tin đồn. Đây là một bản phát hành GA với bài đăng blog, một API được host trên chính các GPU edge của Cloudflare, giấy phép Apache-2.0 cho phần trọng số, và kèm theo một nền tảng tinh chỉnh thương mại. Điều thực sự kỳ lạ duy nhất là lợi thế đi trước mười tám giờ mà kho mã có được so với thông báo — đủ dài để mô hình được công khai trong khi trang tiếp thị của chính nhà cung cấp vẫn chưa tồn tại, đủ ngắn để không ai ngoài Cloudflare thực sự chạy nó một cách có ý nghĩa.

Mô hình ra quyết định không phải là một mô hình ngôn ngữ nhỏ.

Cách đặt vấn đề trong bài viết của Cloudflare là các mô hình quyết định là một hạng mục riêng biệt, và kiến trúc thực sự củng cố cho tuyên bố đó chứ không chỉ tô điểm cho nó. Clef-Flash giữ nguyên phần xương sống Qwen3.5-9B, bao gồm cả bộ mã hóa thị giác, ở trạng thái đóng băng. Nằm bên trên nó là một đầu transformer nhỏ — 243.5 MB trọng số trong bản phát hành, so với khoảng bốn tệp xương sống được phân mảnh có tổng dung lượng lên tới 18.8 GB — đầu này định tuyến bằng chứng từ trạng thái đến từng câu hỏi và chấm điểm mọi lựa chọn của mọi câu hỏi trong một lượt duy nhất. Cloudflare gọi đây là “phi tự hồi quy” (non-autoregressive): không có sinh từng token, không có văn bản suy luận trung gian, không có phân tích đầu ra. Bạn nhận được một logit cho mỗi lựa chọn được phép, áp dụng softmax theo từng câu hỏi, và bạn có một phân phối.

Hình dạng của yêu cầu suy ra từ đó. Bạn cung cấp state — một chuỗi, hoặc một đối tượng hay mảng JSON — một danh sách tùy chọn gồm ảnh hoặc khung hình video, và từ một đến sáu mươi tư câu hỏi có tên. Mỗi câu hỏi khai báo một type: noul cho phán đoán đúng/sai, trả về xác suất đúng, choice cho một tập tùy chọn có tên, trả về tùy chọn được chọn cùng xác suất của từng tùy chọn và một độ tin cậy, hoặc score cho một thang có thứ tự, trả về một mức được gia trọng theo xác suất. Tiêu chí là tùy chọn đối với noul và gần như bắt buộc đối với những loại còn lại, và tài liệu đặc biệt thẳng thắn về một cái bẫy: độ tin cậy "cho thấy mức độ tập trung của các xác suất. Nó không phải là khả năng câu trả lời đúng." Một mô hình trả lời đầy tự tin không nhất thiết là đang trả lời đúng, và một thước đo hiệu chỉnh là thứ duy nhất phân biệt hai điều đó.

Sự khác biệt đó chính là toàn bộ lý do để quan tâm. Nếu bạn từng yêu cầu một mô hình đa dụng phân loại một phiếu hỗ trợ rồi sau đó cố phân tích câu trả lời, bạn đã phải trả cái giá mà thiết kế này loại bỏ. Clef-Flash không thể tạo ra câu "Đây có vẻ là vấn đề thanh toán, đúng không?" bởi vì nó không thể tạo ra một câu. Nó trả về {"choice": "billing", "probabilities": {"billing": 0.981, ...}, "confidence": 0.924} — ví dụ này đến thẳng từ tài liệu của chính Cloudflare — và mã của bạn đặt ngưỡng cho nó.

Những con số, và ai đã điều hành chúng

Mọi số liệu dưới đây đều đến từ thẻ mô hình của Cloudflare hoặc bài đăng trên blog, và Cloudflare là bên thực hiện tất cả. Bộ đánh giá này là Jev Decision Index — một bảng xếp hạng do TypeSafe công bố, tức nhà cung cấp của Jev, mô hình mà Clef-Flash được đem ra so sánh — cho nên đây là phép so sánh sản phẩm của chính một nhà cung cấp, được đo trên chỉ số của một đối thủ, và do nhà cung cấp đó thực hiện. Hiện chưa có đánh giá độc lập nào về Clef-Flash, và bài viết này không hề tỏ ra ngược lại.

Trên các benchmark chuyên biệt cho quyết định, Clef-Flash thực sự mạnh theo cách đáng tách bạch khỏi marketing: BFCL case-exact 98,8, API-Bank 93,1, mô phỏng thiết bị gia dụng 97,7, ContractNLI macro-F1 84,3, RouterBench 79,9. Nó đánh bại Clef 27B lớn hơn ở BFCL (98,8 so với 98,5), API-Bank (93,1 so với 91,9) và bộ mô phỏng thiết bị gia dụng (97,7 so với 83,0) — cái cuối cùng hơn mười bốn điểm, đây là ô đáng ngạc nhiên nhất trong bảng và là ô mà không ai ngoài Cloudflare từng kiểm tra.

Những mất mát cũng thực tế y như vậy và cần nằm trong cùng một đoạn. Trên CLINC150 với khả năng xử lý ngoài phạm vi, clef-flash đạt 66.8 macro-F1, so với 97.4 của 27B và 89.3 của Jev — một vực sụt ba mươi điểm trong phát hiện ý định với một ngăn “other”, đúng dạng yêu cầu mà một lớp định tuyến gặp thường xuyên nhất. Trên ANLI, nó đạt 59.1 so với 74.8 của Jev; trên When2Call đạt 65.6 so với 81.0 của Jev; trên GPQA Diamond đạt 51.0 so với 78.3 của Jev. Và trên POP909-CL, một bộ đánh giá gán nhãn hợp âm, nó đạt 1.6 — một con số hoặc là do lệch định dạng dữ liệu hoặc là thất bại thực sự, và thẻ không nói rõ là cái nào.

Bảng độ trễ là nơi mô hình xứng với tên gọi của nó. Độ trễ yêu cầu trung vị 38,8 ms, p95 122,4 ms, so với Clef 27B ở 209,3 / 238,6 và Jev ở 524,1 / 536,0. Cloudflare đo trên hạ tầng của chính họ, nên hãy coi số mili giây tuyệt đối là giới hạn trên cho những gì bạn sẽ thấy ở nơi khác, nhưng thứ tự — biến thể flash nhanh hơn khoảng năm lần rưỡi so với phiên bản cùng dòng lớn hơn của chính nó và ở trung vị thì nhanh hơn Jev mười ba lần — chính là thiết kế đang hoạt động đúng như quảng cáo.

Con số duy nhất mà các danh sách không thống nhất với nhau

Cửa sổ ngữ cảnh là con số sẽ khiến người ta phải đau đầu, bởi vì đó chính là con số đã bị sao chép sai. Tài liệu Workers AI của Cloudflare cho @cf/cloudflare/clef-flash ghi rõ cửa sổ ngữ cảnh là 65.536 token. Bài đăng trên blog lại nói "mô hình của chúng tôi có cửa sổ ngữ cảnh 64k (so với 32k của Jev)". Trình trợ giúp mã hóa của chính thẻ mô hình mặc định là max_length=16,384 token. Trong khi đó, danh mục thư viện của một runtime bên thứ ba lại quảng cáo 256K trong bảng của nó.

Ba nguồn từ nhà cung cấp đều thống nhất ở khoảng 64K, còn một danh mục của bên thứ ba nói gấp bốn lần con số đó. Nếu bạn đang căn kích thước một prompt theo ngân sách 256K dựa trên một trang thư viện, bạn sẽ phát hiện ra điều đó vào lúc gửi yêu cầu. Cách hiểu trung thực là 65,536 token như mức trần được ghi nhận, kèm lưu ý rằng ghi chú phát hành của chính Cloudflare không bao giờ đối chiếu mức mặc định 16,384 token của thẻ mô hình với con số đó — một mặc định, không phải giới hạn, nhưng là thứ sẽ âm thầm định hình lượng trạng thái bạn gửi nếu bạn dùng trình nạp đi kèm nguyên trạng.

Nơi bạn có thể gọi nó, và nơi bạn không thể

Clef-Flash chưa phải là một trong các tuyến trên OrcaRouter. Danh mục của chúng tôi trả về 404 cho nó, và không có gì trong bài viết này nên được hiểu là tuyên bố về tính sẵn có từ phía chúng tôi — nếu bạn muốn có nó ngay hôm nay, Cloudflare lưu trữ nó trên Workers AI với giá 0,09 USD mỗi triệu token đầu vào, và các trọng số Apache-2.0 là của bạn để chạy cục bộ.

Điều đó có nghĩa gì cho quyết định mà bài viết này thực sự bàn tới: một scorer mà bạn chỉ có thể tiếp cận qua nền tảng của một nhà cung cấp duy nhất là một scorer mà bạn thừa hưởng cả độ trễ và tính sẵn sàng cùng với độ chính xác của nó. Phương án thay thế dạng hosted có route là Jev 1.13 của TypeSafe, hiện có trên OrcaRouter với giá 0,042 USD mỗi triệu token đầu vào, ngữ cảnh 65.536 token, và đây là model mà Cloudflare chọn làm đối tượng so sánh chuẩn — một cách có chủ đích, vì hai model tương thích API. Clef-Flash cũng dùng cùng /v1/systemone dạng request, nên hai model có thể hoán đổi cho nhau sau một adapter mỏng. Việc cả hai đều tiếp cận được qua một key, với giá niêm yết của nhà cung cấp được chuyển tiếp không kèm phụ phí, chính là lý do để duy trì so sánh đó thay vì chốt kiến trúc theo model nào tình cờ ra mắt trước.

Điều gì sẽ thay đổi cách đọc này?

Ba điều, xếp theo mức độ chúng có thể làm thay đổi cục diện.

Một người nào đó bên ngoài Cloudflare cần tái tạo các ô CLINC150+OOS và thiết bị gia dụng, vì chúng hướng về hai phía trái ngược nhau và thẻ không đưa ra cơ chế nào cho cả hai. Điểm 66,8 về phát hiện ý định ngoài phạm vi bên cạnh điểm 97,7 về điều khiển thiết bị gia dụng không phải là một đường cong năng lực trơn tru; nó gợi ý một mô hình rất giỏi các dạng phân loại trong phân phối huấn luyện của nó và yếu hơn nhiều ở việc từ chối phân loại khi câu trả lời đúng là "không có cái nào trong số này". Nếu điều đó vẫn đúng dưới kiểm thử độc lập, thì đó là sự thật vận hành quan trọng nhất về clef-flash và nó không nằm trong mục nổi bật.

Sự sai lệch trong danh sách giữa 64K và 256K cần một nguồn để sửa lại, vì hiện tại nó đang lan truyền từ một mirror ra những nơi mà người ta thực sự đọc. Tài liệu của nhà cung cấp thường không phải là thứ bạn phải trích dẫn để thắng một cuộc tranh luận chống lại card của một runtime, và đây là một trường hợp nhỏ mà đúng là như vậy.

Và danh mục này cần trụ vững khi tiếp xúc với các khối lượng công việc thực tế. Cách diễn giải của chính Cloudflare là các mô hình quyết định nằm trên đường dẫn nóng (hot path) đối với agent — hai giây để tải, kết xuất và phân loại một trang web, so với 4,7 giây đối với LLM tổng quát nhanh nhất của họ cho cùng một tác vụ, trong ví dụ Threat Intelligence của họ. Đó là một tuyên bố thực tế và cụ thể về một quy trình làm việc thực tế và cụ thể, và đó là kiểu tuyên bố được định đoạt bởi những người vận hành nó, chứ không phải bằng một bảng.