Thẻ tiêu đề hero cho bài viết 'Clef-Flash vs LFM2.5 2.6B Base', với phụ đề 'Hai mô hình được gọi là nhỏ, hai cỗ máy cách xa nhau'. Logo OrcaRouter được ghép ở góc dưới bên phải.
Guides & Insights

Clef-Flash vs LFM2.5 2.6B Base: Hai mô hình được gọi là "Nhỏ", cách nhau ba bậc độ lớn

Tác giả

Elias Hawthorne

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Bản dựng clef-flash mà hầu hết mọi người thực sự tải về có dung lượng 11 GB. LiquidAI/LFM2.5-2.6B-Basechạy trong chưa đầy 2,5 GB bộ nhớ. Cả hai mô hình đều được các phòng thí nghiệm tạo ra chúng mô tả là nhỏ, nhanh và hiệu quả, và cả hai mô tả đều chính xác — đó chính là lý do khiến phép so sánh này hữu ích, bởi vì hai từ ấy đang đảm nhiệm những vai trò hoàn toàn khác nhau. Cloudflare/clef-flashlà một mô hình quyết định đa phương thức 9B, trả lời các câu hỏi dạng văn bản bằng xác suất đã hiệu chỉnh và không bao giờ viết ra một token nào; nó cần GPU cấp H200 để đạt độ trễ trung vị 38,8 ms trên chính card của nó, và lời chào mời của Cloudflare dành cho nó là suy luận ở biên trong mạng lưới của họ. LFM2.5 2.6B Base là một checkpoint văn bản đã huấn luyện trước mà Liquid AI công bố vào ngày 1 tháng 8 năm 2026 để người khác có thể tinh chỉnh nó, và mục tiêu triển khai dự kiến của nó là một chiếc laptop.

Cả hai đều không phải là mô hình ngôn ngữ mà bạn sẽ đưa vào một cửa sổ trò chuyện. Cả hai đều rẻ. Việc lựa chọn giữa chúng thực ra không phải là lựa chọn về chất lượng — mà là lựa chọn về ngân sách phần cứng của bạn và liệu thứ bạn đang xây dựng đã biết câu trả lời của nó trông như thế nào hay chưa.

Cuộc trò chuyện về dấu chân, qua những con số

Hãy bắt đầu từ những gì mà cỗ máy thực sự cần, bởi vì đây chính là trục mà hai bên cách xa nhau nhất.

• Tham số — Clef-Flash là một backbone Qwen3.5-9B đóng băng cùng với bộ mã hóa thị giác của nó và một đầu schema kết hợp 243.5 MB; LFM2.5 2.6B Base có 2,69 tỷ tham số, chỉ văn bản.

• Ổ đĩa và bộ nhớ — bản dựng clef-flash do cộng đồng thực hiện là 11 GB; kho lưu trữ Hugging Face đầy đủ có dung lượng khoảng 18,8 GB, trải trên bốn phân mảnh backbone cùng với phần head. LFM2.5 2.6B Base được công bố ở mức dưới 2,5 GB bộ nhớ cho suy luận, và các bản dựng GGUF, ONNX và MLX đã lượng tử hóa được phát hành song song.

• Độ trễ — Clef-Flash: trung vị 38,8 ms, p95 122,4 ms, được Cloudflare đo trên một H200 duy nhất. LFM2.5 2.6B, phiên bản anh em đã qua huấn luyện hậu kỳ của checkpoint cơ sở này, chạy ở tốc độ 220 token mỗi giây trên Apple M5 Max và 113 tok/s trên CPU AMD Ryzen.

• Ngữ cảnh — 65.536 token cho Clef-Flash theo tài liệu Workers AI của Cloudflare; 131.072 token cho LFM2.5 2.6B Base.

• Giấy phép — Apache-2.0 cho clef-flash; giấy phép LFM 1.0 cho LFM2.5, vốn là trọng số mở nhưng không phải giấy phép nguồn mở được OSI phê duyệt, và sự khác biệt này rất quan trọng nếu bạn đang phát hành sản phẩm chứ không phải chỉ thử nghiệm.

Hai dòng độ trễ đó không đo cùng một đơn vị và bạn không nên trừ chúng cho nhau. Nhưng khi đọc cùng nhau, chúng nói thẳng điều hiển nhiên: Clef-Flash là một thành phần thuộc trung tâm dữ liệu mà runtime được nhúng kèm của nó cũng tình cờ nằm trên một mạng biên, còn LFM2.5 2.6B là một thành phần dành cho chiếc máy trên bàn làm việc của bạn.

Vì sao checkpoint cơ sở là một loại đối tượng khác

Từ “Base” trong tên gọi mang sức nặng then chốt, và thẻ mô hình của chính Liquid AI cũng thẳng thắn một cách bất thường về điều đó. LFM2.5-2.6B-Base là checkpoint chỉ văn bản đã được tiền huấn luyện, gồm 30 lớp được sắp xếp thành 22 khối tích chập ngắn cổng đôi và 8 khối attention grouped-query, được huấn luyện trên 34 nghìn tỷ token với bộ từ vựng 128.000 token bằng mười sáu ngôn ngữ. Nó “chỉ được khuyến nghị cho các tác vụ đòi hỏi tinh chỉnh chuyên sâu” — công việc theo ngôn ngữ cụ thể, trợ lý theo miền cụ thể, huấn luyện trên dữ liệu độc quyền. Thẻ mô hình của nó nói thẳng ra đúng như vậy.

Clef-Flash thì ngược lại. Nó đã hoàn thiện. Việc huấn luyện đã xong, phần đầu schema đã được gắn cố định, hợp đồng API đã được công bố, và mô hình được lưu trữ trên mạng edge của chính nhà cung cấp với một mức giá niêm yết. Bạn không tinh chỉnh nó; bạn gọi nó, hoặc tải nó về và gọi cục bộ. Có một sản phẩm fine-tuning gắn với dòng mô hình này — Cloudflare đã ra mắt một sản phẩm như vậy cùng với các mô hình — nhưng dùng clef-flash không đòi hỏi phải có nó, và đó chính là điểm mấu chốt.

Vậy cách diễn đạt trung thực là đây là hai giai đoạn của hai pipeline khác nhau. Một cái là nguyên liệu, còn cái kia là thành phần. Nếu nhiệm vụ của bạn là “Tôi có 40.000 phiếu hỗ trợ đã gán nhãn và tôi muốn một bộ phân loại nhanh, chuyên biệt theo lĩnh vực, chạy trên máy của chính chúng tôi”, thì LFM2.5 2.6B Base là một điểm khởi đầu hợp lý, còn clef-flash thì không, bởi vì bạn không thể tinh chỉnh decision head của clef-flash thành một năng lực ngôn ngữ mà nó không có — nó hoàn toàn không có đường xuất ngôn ngữ. Nếu nhiệm vụ của bạn là “Tôi cần định tuyến một yêu cầu vào một trong sáu nhóm trong vòng dưới 50 mili giây, kèm theo một xác suất mà tôi có thể đặt ngưỡng”, thì clef-flash trả lời được câu hỏi đó ngay khi dùng, còn LFM2.5 2.6B Base thì không trả lời được dưới bất kỳ hình thức nào.

A two-column comparison scoreboard titled 'Clef-Flash vs LFM2.5 2.6B Base — the scoreboard'. The left column, 'Clef-Flash', has rows reading 'Parameters: 9B with vision encoder', 'Context: 65,536 tokens', 'Output: calibrated probabilities', 'Footprint: 18.8 GB, H200-class', 'Latency: 38.8 ms median' and 'Licence: Apache 2.0'. The right column, 'LFM2.5 2.6B Base', has rows reading 'Parameters: 2.69B text only', 'Context: 131,072 tokens', 'Output: generated text', 'Footprint: under 2.5 GB, laptop', 'Latency: 220 tok/s on M5 Max' and 'Licence: LFM 1.0'. The footer reads 'Clef-Flash figures vendor-reported; LFM2.5-2.6B-Base figures per Liquid AI.' The OrcaRouter logo is composited in the bottom-right corner.

Phần thực sự được chia sẻ

Có một điểm trùng lặp thực sự, và đáng để nói chính xác về nó, bởi vì đó chính là chỗ mà sự so sánh không còn tầm thường nữa.

Một mô hình tổng quát đã qua huấn luyện hậu kỳ — LFM2.5 2.6B, hay bất kỳ mô hình instruct nhỏ nào — đều có thể được nhắc để trả về một phân loại có cấu trúc. Đưa cho nó một lược đồ JSON, yêu cầu một nhãn và một độ tin cậy, rồi phân tích cú pháp đầu ra. Người ta làm việc này liên tục. Câu hỏi đặt ra là bạn nhận được gì khi làm vậy.

Thứ bạn nhận được là một chuỗi token tình cờ chứa một nhãn mà bạn có thể trích xuất, cộng thêm một con số mà mô hình tự viết về chính nó. Độ tự tin đó là một token được lấy mẫu, không phải một softmax trên các câu trả lời ứng viên, và nó không mang ý nghĩa mà một xác suất đã hiệu chỉnh mang. Thẻ của Clef-Flash đặc biệt thận trọng một cách rõ ràng về con số tương tự trong API của chính nó — độ tự tin "cho thấy các xác suất tập trung đến mức nào. Đó không phải là khả năng câu trả lời đúng" — và nó có thể cho phép mình như vậy, vì đại lượng cơ bản là một phân phối thực sự trên các lựa chọn bạn đã cung cấp. Một mô hình tổng quát được gợi lệnh thì không có phân phối nào như thế để lộ ra. Nó chỉ có một câu nói 0.85.

Việc sự phân biệt đó có đáng 11 GB và một H200 hay không hoàn toàn phụ thuộc vào những gì bạn làm với con số đó. Nếu nhãn đưa vào một bảng điều khiển, thì một mô hình 2,6B được prompt là ổn và rẻ hơn xét trên mọi phương diện. Nếu nhãn đóng vai trò cổng cho một hành động không thể đảo ngược — phát hành khoản hoàn tiền, khóa tài khoản, leo thang một sự cố an ninh — thì sự khác biệt giữa một điểm số đã hiệu chỉnh và một chuỗi trông có vẻ hợp lý chính là sự khác biệt giữa một ngưỡng mà bạn có thể biện minh với kiểm toán viên và một ngưỡng mà bạn không thể.

A screenshot of the Hugging Face model card for LiquidAI/LFM2.5-2.6B-Base, a text-generation checkpoint of 3B parameters under the LFM 1.0 licence, tagged lfm2, liquid, fm2.5, edge and conversational, described as a hybrid model family designed for on-device deployment with quantizations derived from it and a note that no inference provider is deployed for it. A downloads-last-month figure reads 16,541.

Bạn có thể nhận được từng thứ trong số chúng ở đâu

Không mô hình nào trong hai mô hình này có trên OrcaRouter. Danh mục của chúng tôi không có clef-flash, và cũng không có LFM2.5 2.6B Base hay bất kỳ checkpoint Liquid AI nào khác — bạn có thể xác minh cả hai bằng cách gọi API mô hình của chúng tôi và nhận về 404. Không có nội dung nào trong bài viết này là tuyên bố về tính khả dụng từ phía chúng tôi.

Clef-Flash có thể truy cập được trên Workers AI của Cloudflare với mức 0,09 đô la cho mỗi triệu token đầu vào, hoặc dưới dạng trọng số Apache-2.0 để bạn tự chạy. LFM2.5 2.6B Base có trên Hugging Face với các bản dựng lượng tử hóa cho llama.cpp, ONNX Runtime và MLX, cùng playground và tài liệu của chính Liquid AI cho dòng mô hình này. Nếu bạn muốn một mô hình quyết định đang hoạt động trên danh mục của chúng tôi ngay hôm nay, thì mô hình hiện có là Jev 1.13 của TypeSafe — cùng cấu trúc yêu cầu, ngữ cảnh 65.536 token, 0,042 đô la cho mỗi triệu token đầu vào — và clef-flash được xây dựng để thay thế trực tiếp cho nó, nghĩa là dùng thử một trong hai chỉ là thay đổi cấu hình chứ không phải viết lại. Cả hai đều gọi cùng một lớp endpoint, nên nếu bạn đang định tuyến qua một khóa với giá niêm yết của nhà cung cấp được chuyển tiếp mà không tính phụ phí, thì việc so sánh là một thử nghiệm bạn có thể chạy ngay chiều nay thay vì một quá trình chuyển đổi bạn phải lên kế hoạch.

A screenshot of the OrcaRouter model page for TypeSafe's Jev 1.13 (typesafe/jev-1.13), showing a 65K token context, text input, structured JSON output, a p50 TTFT of 148 ms, a $0.04 per million input token price, 174.0M tokens of throughput, and the POST /v1/systemone request shape.

Cái nào phù hợp với stack của bạn?

Cây quyết định thì ngắn. Nếu câu trả lời của bạn là một danh sách hữu hạn mà bạn có thể viết ra trước, và bạn cần một xác suất thực sự có ý nghĩa, và bạn có phần cứng hoặc sẵn sàng trả tiền theo mỗi lần gọi — clef-flash là thành phần hoàn chỉnh và LFM2.5 2.6B Base không phải là ứng viên. Nếu câu trả lời của bạn là dạng mở, hoặc thứ bạn thực sự cần là một mô hình ngôn ngữ nhỏ mà bạn có thể định hình bằng dữ liệu của riêng mình và chạy trên laptop, thì LFM2.5 2.6B Base là điểm khởi đầu và clef-flash hoàn toàn không thể giúp bạn.

Chỗ mà người ta làm sai chính là ở khúc giữa: xây dựng một bộ phân loại có giới hạn bằng cách prompt một mô hình tổng quát nhỏ, vì đó là con đường ít trở ngại nhất và nó hoạt động được trong bản demo. Nó hoạt động được trong bản demo. Nó ngừng hoạt động ngay khi bạn cần con số phải là một con số, và đến lúc đó thì schema, các prompt và mã phân tích cú pháp đều đã thành những phần chịu lực.

Một lưu ý về phía clef-flash, nói thẳng ra vì đây là con số yếu nhất của chính nhà cung cấp: trên CLINC150 với xử lý ngoài phạm vi, nơi câu trả lời đúng đôi khi là "cái này không khớp với danh mục nào của bạn", clef-flash đạt 66,8 macro-F1 so với 97,4 của người anh em 27B lớn hơn. Một schema có giới hạn là một điểm mạnh cho đến khi đầu vào không khớp với nó, và mô hình vẫn sẽ phân loại bất chấp. Dù bạn chọn con đường nào, hãy xây dựng lớp dư một cách có chủ đích và rà soát những gì rơi vào đó.