Giới thiệu LFM3: Sáu mô hình 2B, một backbone và cửa sổ 256 token không phải là ngữ cảnh

Gia đình LFM3 của Liquid AI ra mắt vào ngày 27 tháng 10 năm 2026 dưới dạng sáu checkpoint thuộc lớp 2B thay vì một mô hình chủ lực duy nhất: LFM3-1.7B cho văn bản, LFM3-VL-2B cho thị giác, LFM3-Audio-2B cho giọng nói, LFM3-Omni-2B cho mọi thứ cùng lúc, cùng hai mô hình ra quyết định, d1-2B và d1-omni-2B. Cả sáu đều phân nhánh từ một backbone đã được huấn luyện trước duy nhất, LFM3-1.7B-Base, mà Liquid cũng đã phát hành. Cách định vị của công ty là “trí tuệ chuyên biệt” — một sự từ chối có chủ đích việc tung ra một mô hình tổng quát nhỏ và cạnh tranh trên trục sai.

Trong vòng một ngày sau thông báo, một con số trong bài viết kỹ thuật đã bị đọc sai. Kiến trúc của LFM3 liệt kê các lớp attention cửa sổ trượt với cửa sổ 256 token. Đó là hình học attention của từng lớp, không phải độ dài ngữ cảnh của mô hình. Mô hình văn bản nhận 256K token ngữ cảnh. Những độc giả lướt qua bảng lớp và kết luận rằng Liquid đã phát hành một mô hình 2026 với bộ nhớ 256 token đang hình dung sai mô hình, và điều này cần được đính chính trước khi mọi thứ khác trong bài viết này có thể hiểu đúng.

Kiến trúc lai ba thành phần thực chất là gì

LFM3 thay thế kiến trúc trộn hai chiều của LFM2 bằng ba loại lớp xếp chồng trong một phần thân 24 lớp. Mười ba lớp là tích chập ngắn có cổng, năm lớp là attention cửa sổ trượt với cửa sổ 256 token, và sáu lớp là attention toàn cục đầy đủ. Kernel tích chập mở rộng từ 3 lên 7. Ba thay đổi nhỏ hơn đi kèm: một cổng sigmoid điều chỉnh độc lập đầu ra của từng head attention, rotary embedding từng phần trong các lớp toàn cục chỉ xoay nửa tần số cao nhất của mỗi head, và chuẩn hóa sandwich điều chỉnh cả đầu vào lẫn đầu ra của mỗi khối.

Ý tưởng cốt lõi là các tích chập ngắn đảm nhận phần lớn cấu trúc cục bộ với chi phí thấp, attention thưa xử lý khoảng cách trung bình, và một lát mỏng attention toàn cục khâu toàn bộ cửa sổ 256K lại với nhau. Đó là lý do KV cache vẫn đủ nhỏ để có ý nghĩa — Liquid báo cáo cache đầy đủ 128K token ở 1,6 GB, so với 4,3 GB của Qwen3.5-4B và 5,6 GB của MiniCPM5-2B trong cùng phép đo. Bản thân mô hình văn bản vừa trong khoảng 1 GB ở độ chính xác 4-bit.

Quá trình huấn luyện diễn ra qua bốn giai đoạn: 22 nghìn tỷ token tiền huấn luyện; một giai đoạn huấn luyện giữa với 3,5 nghìn tỷ token, tập trung nhiều vào dấu vết agentic và lời gọi công cụ, đồng thời mở rộng ngữ cảnh lên 256K; tinh chỉnh có giám sát trên 1,75 nghìn tỷ token; rồi học tăng cường hỗn hợp kết hợp với chưng cất on-policy đa miền từ sáu giáo viên chuyên môn. Từ vựng gồm 128K token, dùng chung với LFM2.5-8B-A1B và được xây dựng để token hoá các hệ chữ không phải Latin hiệu quả hơn so với phiên bản tiền nhiệm.

Sáu mô hình và ngữ cảnh của chúng nằm ở đâu

Liquid nói rõ rằng đây là các phiên bản ngang hàng, không phải các bậc phân cấp. Mỗi phiên bản dùng cùng một xương sống và được huấn luyện hậu kỳ cho một dạng đầu ra khác nhau.

• LFM3-1.7B — mô hình dày đặc cho văn bản và tác tử, 1,73B tham số, ngữ cảnh 256K, gọi công cụ gốc và đầu ra có cấu trúc.

• LFM3-VL-2B — thị giác-ngôn ngữ, 1,9 tỷ tham số, với bộ mã hóa thị giác do hãng tự phát triển mà Liquid cho biết chỉ cần khoảng một phần ba năng lực tính toán của SigLIP2.

• LFM3-Audio-2B — ASR, TTS, dịch giọng nói và hiểu âm thanh, sử dụng bộ mã hóa nội bộ cùng với LiquidCodec.

• LFM3-Omni-2B — mô hình omni đầu tiên của Liquid: nhận văn bản, hình ảnh, video và âm thanh, xuất ra văn bản hoặc giọng nói.

• d1-2B — một mô hình quyết định được xây dựng từ nhánh thị giác, trả lời các câu hỏi có cấu trúc trong một lượt truyền xuôi duy nhất với xác suất đã hiệu chỉnh thay vì văn xuôi tự do.

• d1-omni-2B — cùng giao diện quyết định trên nhánh omni.

Các cửa sổ ngữ cảnh không đồng nhất, và đây là chi tiết mà phần lớn các bài đưa tin về đợt ra mắt đã bỏ sót. Liquid công bố cửa sổ cho mô hình văn bản và mô hình cơ sở — 256K, gồm cả đầu vào và đầu ra — và không công bố cho bất kỳ mô hình nào trong bốn mô hình còn lại. Cả thông báo lẫn tài liệu mô hình đều không nêu độ dài ngữ cảnh cho LFM3-VL-2B, LFM3-Audio-2B, LFM3-Omni-2B hay cả hai mô hình quyết định. Các bài viết của bên thứ ba đã lan truyền con số 128K cho mô hình thị giác và 32K cho mô hình omni, và những con số đó rất có thể là đúng, nhưng tính đến ngày 28 tháng 10, chúng không có trên các trang của chính Liquid. Nếu bạn đang lên kế hoạch cho một agent đọc tài liệu dài và còn xem ảnh chụp màn hình, hiện tại bạn hoàn toàn không thể xác định kích thước ngữ cảnh của mô hình omni từ tài liệu chính thức của nhà sản xuất. Đó là một khoảng trống đáng được chỉ ra, thay vì lấp đầy bằng một blog đã lấp nó từ một nguồn nào đó khác.

Bảng benchmark, đọc một cách trung thực

Mọi con số hiệu năng dưới đây đều là của chính Liquid, được tạo ra trên harness của chính Liquid, và không phần nào trong đó đã được tái lập độc lập. Tính đến ngày 28 tháng 10 năm 2026, không có mục LFM3 nào trên Artificial Analysis — không có Intelligence Index, không có đo lường tốc độ hay độ trễ từ một bên trung lập. Điều đó ở đây quan trọng hơn bình thường vì phép so sánh mà màn ra mắt dựa vào là so sánh trên cùng một harness, vốn thiên vị cho bất kỳ mô hình nào mà harness được tinh chỉnh hướng tới.

LFM3-1.7B đạt 49.37 trên mức trung bình 27 benchmark của Liquid. LFM2.5-2.6B của chính công ty đạt 31.55 trên cùng bộ benchmark, và đây là nguồn gốc của tuyên bố “ít hơn 35% tham số”. Những hàng đáng chú ý không phải là mức trung bình:

• Sử dụng công cụ — BFCL V4 71,39, ToolSandbox 80,36, τ³-bench 68,01, MCP-Atlas 32,57.

• Web tác tử — WebArena-Verified 38.42, AutomationBench 41.29, BrowseComp-Plus 37.00, LiveClaw 45.60.

• Lập trình agentic — SWE-bench Verified 43.40, SWE-bench Multilingual 23.00, Terminal-Bench 2.1 đạt 12.92.

• Tuân thủ chỉ dẫn — IFEval 96.66, IFStruct 93.72, IFBench 73.03, Multi-IF 89.10.

• Kiến thức — GPQA Diamond 63.37, HLE 7.17 khi không dùng công cụ và 13.90 khi có công cụ.

• Ngữ cảnh dài — RULER 128K 65.56, AA-LCR 52.83.

Nếu nhìn theo hình dạng tổng thể thay vì một con số tổng, hồ sơ này khá mạch lạc: tuân thủ chỉ dẫn rất mạnh, gọi công cụ trong một lượt ở mức khá, và sụt giảm mạnh khi tác vụ đòi hỏi nhiều bước tuần tự. Terminal-Bench 2.1 ở mức 12,92 và SWE-bench Multilingual ở mức 23,00 không phải là những con số để xây dựng một tác nhân lập trình tự chủ. Liquid không che giấu điều này — thẻ mô hình hướng người dùng tránh xa lý luận phức tạp và lập trình nhiều bước, một cách định vị hiếm thấy trực diện từ một nhà cung cấp trong ngày ra mắt.

Các tuyên bố về hiệu quả là nửa còn lại của bài chào hàng. Ở Q4_0 và ngữ cảnh 32K, Liquid nói rằng LFM3-1.7B là mô hình nhanh nhất trên cả ba thiết bị thử nghiệm, nhanh hơn 1,8× đến 2,8× so với đối thủ kế tiếp, đồng thời có mức tiêu thụ bộ nhớ thấp nhất. Trên một NVIDIA B300 duy nhất với SGLang ở BF16, nó phục vụ 3,6 tỷ token mỗi ngày với 1.024 yêu cầu đồng thời. Công ty cũng đã chạy hơn 300.000 tác nhân LFM3-1.7B song song trên kho email Enron như một minh chứng về khả năng chịu tải. Đó là những con số của nhà cung cấp, chưa được kiểm toán, nhưng chúng là kiểu con số khó có thể thổi phồng một cách âm thầm.

Giấy phép và chi phí vận hành

Các trọng số có trên Hugging Face ở các bản dựng BF16, FP8, NVFP4, GGUF, MLX và ONNX, với hỗ trợ ngay từ ngày đầu trên vLLM, SGLang, Transformers, llama.cpp, MLX, ONNX Runtime, Ollama và LM Studio. Giấy phép là LFM Open License v1.0: sử dụng thương mại miễn phí bản quyền khi doanh thu hằng năm dưới 10 triệu USD, với thỏa thuận riêng nếu trên mức đó. Ngưỡng đó, chứ không phải số lượng tham số, là ranh giới quyết định liệu LFM3 có miễn phí cho một công ty cụ thể hay không.

Liquid cũng vận hành một API được lưu trữ, và ở đó hồ sơ công khai mỏng manh hơn so với những gì buổi ra mắt gợi ý. Tài liệu liệt kê ID mô hình và giới hạn đầu vào cộng đầu ra 256K nhưng không có bảng giá cước. Các báo cáo của bên thứ ba cho rằng mức giá được lưu trữ cho LFM3-1.7B vào khoảng 0,08 USD mỗi triệu token đầu vào và 0,20 USD mỗi triệu token đầu ra, với các biến thể thị giác, âm thanh, omni và ra quyết định có giá cao hơn; Liquid chưa công bố những con số đó trên các trang của chính mình, nên hãy coi chúng là thông tin được báo cáo chứ chưa được xác nhận. Ngược lại, tự triển khai hoàn toàn không có giá theo token — chi phí là chiếc máy, và ở 4-bit chiếc máy đó có thể là một chiếc điện thoại.

OrcaRouter phù hợp ở đâu — và ở đâu thì không

LFM3 không nằm trong danh mục của OrcaRouter, và chúng tôi sẽ không giả vờ điều ngược lại. Đây là phần mềm trọng số mở mà bạn tự vận hành hoặc gọi qua API riêng của Liquid. Điều router làm tốt là lớp bao quanh nó. Một mô hình chuyên biệt 1.7B hiếm khi là mô hình duy nhất trong một pipeline: nó xử lý lệnh gọi công cụ, phân loại hoặc trích xuất, còn một mô hình lớn hơn xử lý lượt cần phán đoán. OrcaRouter đặt các mô hình được lưu trữ đó phía sau một khóa với mức chênh 0% — giá niêm yết của nhà cung cấp được chuyển thẳng qua — vì vậy đường nâng cấp từ LFM3 lên một mô hình tiên phong là một quy tắc định tuyến chứ không phải một hợp đồng thứ hai. Tính năng chuyển đổi dự phòng tự động của nó đặc biệt quan trọng đối với chính khối lượng công việc mà LFM3 nhắm tới, nơi một mô hình nhỏ duy nhất là thứ duy nhất đứng giữa một yêu cầu và lỗi.

DSL định tuyến là sự phù hợp thú vị hơn. Việc kết hợp một chuyên gia với một mô hình tổng quát trong một lần gọi — công việc dạng LFM3 được định tuyến tới một mô hình nhỏ, mọi thứ còn lại được chuyển xuống một mô hình được lưu trữ — chính là mẫu triển khai mà dòng mô hình này được xây dựng để phục vụ. Toàn bộ luận điểm của Liquid là một mô hình 2B đánh bại một mô hình tiên phong trên một tác vụ hẹp với chi phí chỉ bằng một phần nhỏ. Bộ định tuyến là cách bạn tận dụng khoản tiết kiệm đó mà không đặt cược toàn bộ pipeline vào nó.

Xem gì

Câu hỏi mở không phải là liệu LFM3 có giỏi ở những gì nó tuyên bố hay không. Mà là liệu những tuyên bố đó có đứng vững trước một harness mà Liquid không viết hay không. Các con số agentic của dòng mô hình này là thứ cần được kiểm tra lại trước tiên, vì WebArena-Verified ở mức 38,42 và AutomationBench ở mức 41,29 nằm xa trên mức mà một mô hình 1,7B từng đạt được trong lịch sử, và các benchmark agentic là loại nhạy cảm nhất với prompt scaffolding và chính sách thử lại. Một lần chạy độc lập đạt trong khoảng vài điểm so với bảng của Liquid sẽ khiến LFM3 trở thành lựa chọn mặc định cho việc gọi công cụ trên thiết bị. Một lần chạy thấp hơn mười điểm sẽ khiến nó trở thành một mô hình tuân theo chỉ dẫn tốt với câu chuyện agent bị phóng đại.

Cho đến khi có lần chạy đó, bản tóm tắt trung thực là thế này: LFM3 là một dòng mô hình nhỏ được thiết kế kỹ lưỡng và thẳng thắn một cách hiếm thấy, với cách phối trộn tầng thực sự mới lạ, một lợi thế bộ nhớ thực sự, trọng số được công bố ở ngưỡng giấy phép khả thi, và không có xác minh độc lập nào cho bất kỳ benchmark chủ chốt nào. Cửa sổ 256 token trong bảng kiến trúc không phải là độ dài ngữ cảnh. Mọi thứ còn lại trong buổi ra mắt đều đáng để tiếp nhận đúng như bề mặt cho đến khi có ai đó chứng minh ngược lại — và đáng để bạn tự đo lường trước khi đưa nó ra trước người dùng.