Clef: Mô hình Quyết định 27B của Cloudflare thực sự là gì

Clef là một mô hình quyết định đa phương thức 27 tỷ tham số do Cloudflare công bố. Bạn đưa cho nó một trạng thái — một chuỗi, một đối tượng JSON, một hình ảnh, một đoạn video — cùng với một lược đồ gồm tối đa 64 câu hỏi có kiểu, và nó trả về một xác suất cho mọi lựa chọn được phép của từng câu hỏi chỉ trong một lượt lan truyền tiến duy nhất. Không hề có việc sinh văn bản ở bất kỳ đâu trong pipeline và cũng không cần phân tích cú pháp đầu ra: mô hình phát ra một logit cho mỗi lựa chọn được phép, bạn áp dụng softmax cho từng câu hỏi, và thế là xong. Các trọng số theo giấy phép Apache-2.0 và nằm trongCloudflare/clef trên Hugging Face; Cloudflare cũng phục vụ mô hình này từ nền tảng Workers AI của chính mình.

Hai mốc ngày có ý nghĩa định hướng, và không mốc nào trong đó là lý do trang này tồn tại. Các trọng số được công bố vào ngày 30 tháng 9 năm 2026 và bài đăng thông báo của Cloudflare đề ngày 1 tháng 10 năm 2026, nghĩa là Clef mới được mười hai ngày tuổi vào thời điểm bài này được viết — đủ cũ để không còn là tin mới, và trang này không coi nó là tin mới. Trang này tồn tại vì "clef" là một truy vấn mà người ta thực sự gõ vào, và cho đến nay chưa có gì trên blog này trả lời nó. Buổi ra mắt là cách để mô hình có mốc ngày tháng; tài liệu tham khảo bên dưới mới là điểm chính.

Câu hỏi về kích thước, đã được nhà xuất bản giải quyết

Có hai con số tham số đang được nhắc đến song song và chỉ một trong số chúng thuộc về mô hình này.

• Clef có 27B.Trang mô hình của chính Cloudflare mô tả nó là "một mô hình quyết định đa phương thức 27B", và thẻ mô hình trên Hugging Face cũng nói điều tương tự ở dòng mở đầu: "Clef là một mô hình đa phương thức 27B chuyển một trạng thái và một lược đồ các câu hỏi có kiểu thành các quyết định."

• 9B là một mô hình khác, không phải một kích thước thứ hai của mô hình này. Checkpoint 9B là Clef Flash, một mô hình anh em riêng biệt với kho lưu trữ riêng và trang mô hình riêng. Bất cứ ai tìm kiếm một Clef 9B đều đang tìm Clef Flash. Chúng không thể thay thế cho nhau và các con số không thể quy đổi cho nhau.

• Còn có một thành viên thứ ba nữa. Clef Omni, được công bố vào ngày 9 tháng 10 năm 2026, là một mô hình mixture-of-experts 30B với 3B tham số hoạt động, được xây dựng trên một backbone khác. Nó cũng đọc được âm thanh. Nếu bạn từng thấy "30B" gắn liền với Clef, thì đó là Clef Omni, không phải Clef.

Vậy kích thước của mô hình trên trang này là 27B, chấm hết, và kho lưu trữ phát hành nó ở định dạng BF16 safetensors. Bộ tệp được công bố có tổng dung lượng khoảng 55 GB trải trên hai mươi lăm tệp, và đó là con số quan trọng nếu bạn định tự triển khai thay vì gọi nó.

Mối quan hệ giữa Clef và Clef Flash

Cloudflare đã ra mắt Clef như một họ mô hình, và cấu trúc họ mới là phần hữu ích chứ không phải chuyện phụ. Clef và Clef Flash dùng chung một công thức: đóng băng backbone Qwen3.8-27B cho mô hình lớn hơn và backbone Qwen3.5-9B cho mô hình nhỏ hơn, giữ nguyên vision encoder, rồi huấn luyện một joint schema head nhỏ ở trên cùng cùng với các low-rank adapter. Cùng một hợp đồng đầu ra, khác về năng lực và một hồ sơ độ trễ rất khác.

Hợp đồng chung đó là lý do cả hai mô hình đáng được tìm hiểu cùng nhau: một lược đồ viết cho mô hình này cũng là lược đồ cho mô hình kia, và việc đổi mô hình nào trả lời chỉ là thay mã định danh mô hình chứ không phải viết lại. Sự đánh đổi là giữa tốc độ và năng lực, và bài đăng ngày 9 tháng 10 của chính Cloudflare càng làm sự đánh đổi này rõ nét hơn khi cắt giá chạy máy chủ của Clef Flash xuống $0.038 mỗi một triệu token đầu vào, trong khi giữ Clef ở mức $0.24 mỗi một triệu token đầu vào. Hãy để ý bài đăng đó còn làm gì: nó giảm cửa sổ ngữ cảnh chạy máy chủ của Clef Flash xuống 24,000 token, từ mức 64,000 trước đó được quảng cáo cho nó, trong khi bản thân Clef vẫn giữ ở 64,000.

Kiến trúc: một backbone đóng băng cộng với một đầu chấm điểm

Clef không phải là một mô hình ngôn ngữ đội lốt bộ phân loại. Thiết kế này đáng được trình bày chính xác vì nó giải thích gần như mọi thuộc tính khác của mô hình.

• Backbone — Qwen3.8-27B bao gồm cả bộ mã hóa thị giác của nó, được giữ lại và đóng băng, lưu trữ dưới dạng safetensors phân mảnh thông thường.

• Đầu lược đồ chung — một đầu transformer nhỏ đọc các trạng thái ẩn cuối cùng của backbone, định tuyến bằng chứng từ trạng thái đến từng câu hỏi và chấm điểm tất cả lựa chọn của mọi câu hỏi một cách đồng thời thay vì từng câu một.

• Huấn luyện — các adapter thứ hạng thấp rank-256, entropy chéo làm mịn nhãn cùng tổn thất Brier để hiệu chỉnh, và vòng lặp "Reinforcement Learning for Calibrated Decisions" của Cloudflare.

• Đầu ra — một logit cho mỗi lựa chọn được phép, cho mỗi câu hỏi. Softmax cho mỗi câu hỏi sẽ cho bạn xác suất. Không có gì khác xuất ra.

Phần chấm điểm kết hợp chính là điểm tách biệt Clef khỏi một chồng các bộ phân loại độc lập. Vì tất cả câu hỏi đều được chấm điểm dựa trên cùng một trạng thái ẩn trong một lượt, các câu hỏi có thể cung cấp thông tin cho nhau, và toàn bộ quá trình là phi tự hồi quy — không có vòng lặp giải mã, và đó là nguồn gốc của các con số độ trễ. Cloudflare mô tả suy luận này là một lượt chỉ prefill.

Ngữ cảnh, giới hạn và những gì có trong đó

Về ngữ cảnh và phương thức, tài liệu của nhà cung cấp rất cụ thể, và ở những chỗ tài liệu im lặng thì sự im lặng đó đáng được ghi lại thay vì che lấp đi.

• Cửa sổ ngữ cảnh — 65.536 token trên endpoint Workers AI do Cloudflare lưu trữ, theo trang mô hình. Đó là con số mà bài đăng ra mắt của Cloudflare đối chiếu với cửa sổ 32.000 token mà họ gán cho Jev của TypeSafe.

• Ngữ cảnh tự triển khai — Bài đăng ngày 9 tháng 10 của Cloudflare cho biết các trọng số Hugging Face đã được huấn luyện để hỗ trợ cửa sổ 256.000 token nếu bạn tự vận hành chúng. Bộ mã hóa đi kèm trong kho lưu trữ đó mặc định là max_length=16,384, đây là giá trị mặc định chứ không phải giới hạn trần, nhưng đó là những gì bạn nhận được nếu dùng trình tải nguyên bản như khi phát hành.

Đầu ra tối đa — không được công bố. Không có ngân sách token nào để công bố: mô hình trả về một vector xác suất cố định cho mỗi câu hỏi, vì vậy giới hạn tự nhiên chính là schema (từ 1 đến 4 câu hỏi, mỗi câu có từ 2 đến 26 lựa chọn) chứ không phải độ dài tính bằng token.

• Các phương thức đầu vào — văn bản, JSON, hình ảnh và video. Trang Workers AI đánh dấu vision là được hỗ trợ và chấp nhận ảnh PNG, JPEG hoặc WebP, tối đa bốn ảnh mỗi yêu cầu. Clef Omni, một cách riêng biệt, bổ sung âm thanh; bản thân Clef thì không.

• Phương thức đầu ra — xác suất. Clef không thể soạn thảo câu trả lời, tóm tắt một luồng hội thoại, hoặc tạo ra một câu, và nó sẽ không tự tạo ra một danh mục mà bạn chưa khai báo.

• Giấy phép — Apache-2.0, dựa theo checkpoint cơ sở Qwen3.8-27B. Trang mô hình của Cloudflare liên kết tới tệp giấy phép thay vì nêu tên giấy phép ngay trong nội dung trang; bản thân tệp giấy phép là Apache-2.0.

Một chi tiết triển khai được ghi nhận như một cái bẫy và đáng để nhắc lại: độ tin cậy là trường báo cáo mức độ tập trung của các xác suất, chứ không phải xác suất rằng câu trả lời là đúng. Một mô hình được hiệu chuẩn tốt có thể trả về một câu trả lời đúng với độ tin cậy thấp và một câu trả lời sai với độ tin cậy cao.

Những gì Cloudflare tuyên bố và những gì đã thực sự được đo lường

Đây là phần cần đọc kỹ, vì khoảng cách giữa hai nửa của tiêu đề rất rộng.

Mọi số liệu hiệu năng gắn với Clef đều đến từ Cloudflare. Thẻ mô hình công bố một bảng hơn bốn mươi dòng từ thứ mà nó mô tả là "lần chạy nội bộ của chúng tôi đối với bộ Decision Index 0.2.1", và bảng xếp hạng đó do Cloudflare lưu trữ. Các đánh giá workflow ở bên dưới nó được lấy từ bộ đánh giá công khai của TypeSafe, nhưng lần chạy vẫn là của Cloudflare. Tính đến hôm nay, tôi không thể tìm thấy bất kỳ bản tái lập độc lập nào từ bên thứ ba cho một trong hai bảng — không có phòng thí nghiệm bên ngoài, không có bảng xếp hạng trung lập, không có bản tái lập nào được công bố. Hãy coi những con số này là trường hợp tốt nhất của nhà cung cấp, không phải là các phép đo.

Mẫu hình bên trong những con số đó giàu thông tin hơn bất kỳ ô riêng lẻ nào. Các kết quả mạnh nhất của Clef nằm ở những tác vụ có dạng phân loại: trong lần chạy của Cloudflare, nó báo cáo 94,2 macro-F1 trên bài toán nhận diện ý định BANKING77, so với 79,7 của Jev, và 97,4 macro-F1 trên CLINC150 với xử lý ngoài phạm vi, so với 89,3. Con số ngoài phạm vi mới là con số đáng quan tâm về mặt vận hành, bởi vì việc từ chối phân loại chính là nửa khó của định tuyến. Nó cũng báo cáo 98,5 case-exact trên BFCL và 86,7 trên CRUXEval.

Các điểm thua kém đều chỉ về cùng một hướng, một cách nhất quán. Trong cùng bảng đó, Clef báo cáo GPQA Diamond đạt 48.0 so với 78.3 của Jev, MMLU-Pro đạt 65.9 so với 82.7, và BBH đạt 73.7 so với 92.9. Đó là ba khoảng cách lớn nhất trong bảng và chúng đều mô tả cùng một điểm yếu: khả năng suy luận nằm ngoài những dạng thức mà mô hình đã được huấn luyện. Trên bốn đánh giá quy trình làm việc đầu-cuối, hai mô hình đủ sát nhau đến mức thứ tự xếp hạng không phải là một phát hiện.

Độ trễ là điểm duy nhất mà ở đó lợi thế mang tính cấu trúc chứ không chỉ là biên, và do đó cũng là điểm dễ tồn tại nhất khi tiếp xúc với môi trường production. Cloudflare báo cáo trung vị 209,3 ms và p95 238,6 ms cho Clef, so với 524,1 ms và 536,0 ms cho Jev. Thứ tự đó xuất phát từ thiết kế phi tự hồi quy chứ không phải từ những đặc thù của một benchmark — nhưng số mili giây tuyệt đối được đo trên chính phần cứng của Cloudflare và tự nó không có nhiều ý nghĩa.

Đáng lưu ý cho bất kỳ ai đã đọc bảng đánh giá hiệu năng Clef trên blog này: các số liệu phục vụ đã thay đổi vào ngày 9 tháng 10. Cloudflare đã chuyển Clef sang SGLang để phục vụ và đóng góp công việc này lên thượng nguồn, báo cáo mức tăng tốc trung vị là 1,7× ở khoảng 800 token đầu vào và 2,0× ở khoảng 3.400 token. Đó là những thay đổi ở lớp phục vụ, không phải trọng số mới, và bản thân mô hình không thay đổi. Nếu bạn đang trích dẫn một con số độ trễ trước ngày 9 tháng 10, thì nó đã lỗi thời.

Gọi Clef và xử lý cho đúng mối quan hệ với Cloudflare

Có hai cách để chạy nó, và cả hai đều không có gì bí ẩn.

Đầu tiên là endpoint của chính Cloudflare. Clef được cung cấp từ Workers AI, nền tảng suy luận của chính Cloudflare, với mức 0,24 USD cho mỗi triệu token đầu vào và không tính phí cho token đầu ra — điều này là hệ quả của việc không có token đầu ra. Đầu vào đa phương tiện được chuyển đổi thành token và tính phí theo cùng mức giá đầu vào. Đây là trường hợp nhà phát hành tự lưu trữ mô hình của chính mình, và đó là toàn bộ mối quan hệ: những tìm kiếm kết hợp tên mô hình này với Cloudflare không trỏ đến một host bên thứ ba tình cờ thêm nó vào. Cloudflare đã xây dựng nó.

Thứ hai là phần cứng của chính bạn. Các trọng số nằm trên Hugging Face theo giấy phép Apache-2.0, nên được phép tự lưu trữ mà không cần trao đổi thương mại. Thử nghiệm của chính Cloudflare đã dùng torch 2.11 và transformers 5.10.2 trên một H200 duy nhất, với pillow cần thiết cho đầu vào hình ảnh và video. Nếu bạn đã đọc rằng Clef cũng chạy trên SGLang, điều đó chính xác tính đến thay đổi phục vụ ngày 9 tháng 10; công việc ở thượng nguồn dự kiến được phát hành trong SGLang 0.5.22.

Hình dạng API này cố ý không mới lạ. Phần thân yêu cầu và phản hồi của Clef tương thích với định dạng SystemOne của TypeSafe, nên một pipeline đã được nối sẵn với một mô hình quyết định có hình dạng đó có thể trỏ sang Clef chỉ bằng cách đổi một URL và một chuỗi mô hình. Đó là một lập luận thực sự về chi phí chuyển đổi, và nó cắt theo cả hai hướng, đó là cách diễn giải trung thực: vì giao diện giống nhau, nên việc áp dụng Clef là rẻ, và việc từ bỏ nó cũng rẻ không kém. Tư thế hợp lý cho một đội đã có endpoint quyết định đang chạy trong production là chạy cả hai song song trên lưu lượng của chính bạn thay vì di trú. Nếu bạn định tuyến qua OrcaRouter, Jev 1.13 của TypeSafe là một mô hình có trong danh mục của chúng tôi, nên một phép so sánh A/B giữa cái đang dùng và bất cứ thứ gì bạn tự vận hành đều nằm sau một khóa duy nhất thay vì hai hợp đồng — hơn 200 mô hình, giá niêm yết của nhà cung cấp được chuyển thẳng, không tính thêm phí theo token, và việc chuyển đổi dự phòng được xử lý sẵn cho bạn.

Một điều mà trang này sẽ không cho bạn biết là liệu Clef có sẵn thông qua chúng tôi hay không. Cloudflare công bố nó trên Workers AI và trên Hugging Face, và tôi chưa xác minh được một tuyến đường qua danh sách mô hình của chúng tôi, nên không có gì để khẳng định.

Điều gì vẫn chưa được giải quyết?

Điều hữu ích nhất có thể xảy ra với Clef là một bản tái lập độc lập từ bên ngoài đối với Decision Index. Bộ đánh giá này là công khai và Cloudflare mô tả các phép đánh giá là có thể tái lập, nên một lần chạy của bên thứ ba chính là sự khác biệt giữa bảng số liệu của một nhà cung cấp và một sự thật. Cho đến khi điều đó tồn tại, tóm tắt trung thực về hồ sơ đã công bố của Clef là: đây là một bộ phân loại có ràng buộc rất mạnh với thiết kế nhanh, phi tự hồi quy, và là một bộ suy luận tổng quát yếu hơn đáng kể so với mô hình mà nó được đánh giá so sánh cùng.

Ba điều cụ thể sẽ thay đổi cách lý giải đó. Một bản tái lập trung lập các con số ngoài phạm vi của BANKING77 và CLINC150, bởi vì khoảng cách ba mươi điểm so với giải pháp hiện hành hoặc là toàn bộ câu chuyện, hoặc chỉ là một hiện tượng giả tạo. Một con số p95 dưới mức đồng thời thực tế, bởi vì trung vị 209 ms đo trên một H200 không nói lên điều gì về đường dẫn nóng khi chịu tải. Và một Clef được tinh chỉnh đánh bại bản cơ sở trên một tác vụ mà bản cơ sở chưa từng được huấn luyện, điều mà nền tảng tinh chỉnh RL của Cloudflare được thiết kế để tạo ra nhưng vẫn chưa chứng minh được bằng kết quả từ khách hàng.

Cho đến lúc đó, điều mà người đọc có thể dựa vào là hình dạng tổng thể của nó: 27B tham số, một xương sống Qwen3.8-27B đóng băng cùng bộ mã hóa thị giác của nó, một đầu schema chung, 65.536 token ngữ cảnh được lưu trữ, đầu vào là văn bản, JSON, hình ảnh và video, đầu ra là xác suất, Apache-2.0. Như vậy là đủ để quyết định liệu kiến trúc này có phù hợp với bài toán của bạn hay không. Câu hỏi mà nó chưa thể trả lời là liệu bảng điểm của chính nhà cung cấp có đúng về mô hình hay không, và chưa có ai ngoài Cloudflare kiểm chứng.