LFM3-1.7B trên Ollama: Một lệnh duy nhất và một bảng đánh giá tách đôi

Vào thời điểm viết bài, trang Ollama của lfm3 đã hoạt động được khoảng một giờ và ghi nhận 45 lượt tải xuống. Đó là toàn bộ mức sử dụng công khai của nó cho đến nay. Mô hình đằng sau nó, LiquidAI/LFM3-1.7B, đã được công bố một ngày trước đó, vào ngày 27 tháng 10 năm 2026, với vai trò là thành viên văn bản của dòng LFM3 được xây dựng từ xương sống LFM3-1.7B-Base — cùng với các mô hình thị giác, âm thanh, omni và hai mô hình ra quyết định mà Liquid AI phát hành trong cùng đợt. Điều thay đổi vào ngày 28 tháng 10 không phải là mô hình. Mà là cách phân phối: ollama run lfm3 thay thế việc phải tìm kiếm một bản dựng llama.cpp tương thích với LFM3, vốn là con đường của ngày ra mắt.

Lý do khiến nó đáng giá hơn một dòng changelog chính là bảng điểm chuẩn. LFM3-1.7B công bố một trong những bảng điểm lệch nhất trong phân khúc mô hình nhỏ: nó đánh bại Qwen3.5-9B — một mô hình có kích thước lớn hơn nó hơn năm lần — ở tự động hóa trình duyệt, gọi công cụ và tuân theo chỉ dẫn, nhưng lại thua mô hình đó với khoảng cách hai chữ số ở kiến thức tổng quát và truy xuất ngữ cảnh dài. Mọi con số trong bảng đó đều là của chính Liquid AI. Chưa có phần nào trong đó được tái lập độc lập.

Điều gì thực sự đã thay đổi vào ngày 28 tháng 10

Ollama liệt kê năm tag cho lfm3, tất cả đều được đánh dấu thời gian trong cùng một giờ, tất cả đều mang dòng ngữ cảnh 256K và đầu vào chỉ văn bản. Bản mặc định là bản mà hầu hết mọi người sẽ tải về.

• lfm3:latest và lfm3:1.7b — 1,7 GB, artifact mặc định thuộc lớp Q4, và cùng một digest dưới cả hai tên

• lfm3:1.7b-mlx-bf16 — 3,5 GB, MLX độ chính xác đầy đủ cho Apple silicon

• lfm3:1.7b-mxfp8 — 2,1 GB, MLX 8-bit

• lfm3:1.7b-nvfp4 — 1.7 GB, và đây là mục bạn cần đọc kỹ.

Thẻ cuối cùng đó mang digest 2012d88e202f — chính là artifact giống hệt đứng sau :latest. Kéo lfm3:1.7b-nvfp4 qua Ollama sẽ không lấy được checkpoint NVFP4; bản thật là một kho riêng trên Hugging Face, được xuất bản để phục vụ trên GPU chứ không phải để kéo về cục bộ. Việc thẻ này là placeholder hay một sơ suất khi xuất bản thì trang của Ollama không ghi rõ. Các digest có thể kiểm tra được, và chúng giống hệt nhau, đây là phần quan trọng nếu bạn đang trông vào khoản tiết kiệm bộ nhớ FP4 trên laptop.

Trang Ollama không phải là bản tải lên của cộng đồng. Thẻ mô hình của Liquid AI nêu Ollama là một trong những engine GGUF được hỗ trợ, bên cạnh llama.cpp và LM Studio, vì vậy đây là con đường do nhà cung cấp chỉ định đến muộn chứ không phải bản dựng của người lạ. Văn bản thẻ mô hình trên trang là của chính Liquid: “LFM3-1.7B là mô hình tri-hybrid dành cho agent cục bộ và các ứng dụng chuyên biệt.”

Kiến trúc, theo những tiêu chí quyết định liệu nó có phù hợp hay không

LFM3-1.7B có 1,73 tỷ tham số trải trên 24 lớp, và chỉ sáu trong số các lớp đó thực hiện full attention. Mười ba lớp là tích chập ngắn có cổng với kích thước kernel là 7, tăng từ 3 ở thế hệ trước, và năm lớp là attention cửa sổ trượt với cửa sổ 256 token. Hầu hết token trong một prompt dài không bao giờ chạm tới ma trận attention toàn cục, và đó chính là nguồn gốc của câu chuyện về bộ nhớ.

Liquid đặt một KV cache 128K token ở mức 1,6 GB. Con số tương tự cho Qwen3.5-4B là 4,3 GB và với MiniCPM5-2B là 5,6 GB. Khoảng cách đó, chứ không phải số lượng tham số, là lý do một mô hình 1,7B có thể giữ ngữ cảnh dài trên phần cứng mà một mô hình 4B không thể. Có hai con số khác đáng ghi nhớ: 22T token tiền huấn luyện, và một giai đoạn mid-training cuối cùng với 3,5T token được thiên về các dấu vết agentic và lệnh gọi công cụ. Giai đoạn cuối đó là lời giải thích rõ ràng nhất cho mọi thứ trong hai phần tiếp theo.

Thẻ cũng liệt kê 16 ngôn ngữ, bộ từ vựng 128K dùng chung với LFM2.5-8B-A1B, và tính năng thinking được bật mặc định — Ollama hiển thị nó dưới dạng thẻ năng lực, không phải cờ ẩn. Ngữ cảnh 256K là thật theo nghĩa cấu hình, nhưng thẻ chỉ công bố con số KV ở mức 128K; ở mức đầy đủ 256K, bộ nhớ đệm tăng theo cửa sổ, vì vậy hãy coi mức cao nhất của phạm vi đó là thiết lập cho trung tâm dữ liệu chứ không phải cho laptop.

Nơi điểm số mạnh

Mô thức này nhất quán ở mọi tác vụ thưởng cho việc dùng công cụ để làm điều gì đó thay vì biết điều gì đó về thế giới. Đây là những số liệu do nhà cung cấp tự báo cáo, và các mốc so sánh là những mốc mà Liquid AI đã chọn.

• WebArena-Verified — 38,42 cho LFM3-1.7B, 3,02 cho LFM2.5-2.6B và 28,94 cho Qwen3.5-9B

• AutomationBench — 41,29, so với 0,94 của LFM2.5-2.6B và 15,10 của Qwen3.5-9B

• Gọi công cụ BFCL V4 — 71,39, so với 55,89 và 62,83 của cùng hai mô hình

• IFBench — 73,03, so với 48,84 của Qwen3.5-9B

• IFEval — 96.66, cao nhất trong bảng của Liquid

• LiveCodeBench v6 — 73.46, cao hơn 69.86 của Qwen3.5-9B

Hàng thú vị nhất không phải là hàng lớn nhất. AA-Omniscience là một benchmark được chấm điểm một phần dựa trên việc liệu một mô hình có từ chối trả lời thay vì đoán hay không, và LFM3-1.7B đạt 92.93 về khả năng không ảo giác so với 52.59 của Qwen3.5-9B. Độ chính xác của nó trên cùng bộ dữ liệu là 7.07. Đọc cùng nhau, hai con số đó mô tả một mô hình chủ yếu nói rằng nó không biết — một thuộc tính bị đánh giá thấp ở một agent chuẩn bị thực hiện hành động, và là một thuộc tính tồi ở một trợ lý được kỳ vọng sẽ trả lời câu hỏi.

Ở những điểm nó thua kém, đôi khi thua kém nghiêm trọng.

Cùng một bảng, đọc theo chiều ngược lại.

• GPQA Diamond — 63,37, so với 80,40 của Qwen3.5-9B và 65,15 của MiniCPM5-2B, một mô hình 2B đánh bại nó

• Humanity's Last Exam, không dùng công cụ — 7.17, so với 16.41 của Qwen3.5-9B

• RULER 128K — 65,56, so với 84,63 của Qwen3.5-4B và 87,11 của Qwen3.5-9B

• Suy luận ngữ cảnh dài AA-LCR — 52,83, so với 62,00 của Qwen3.5-9B

• MCP-Atlas — 32,57, so với 41,37 của Qwen3.5-4B và 42,67 của Qwen3.5-9B

• SWE-bench Verified — 43,40, so với 51,20 của Qwen3.5-9B

• Terminal-Bench 2.1 — 12,92, so với 17,98 của Qwen3.5-9B

Dòng RULER xứng đáng có một câu riêng: mô hình có thông số nổi bật là cửa sổ 256K lại là bộ truy xuất ngữ cảnh dài yếu nhất trong chính bảng so sánh của nó, bị đánh bại bởi những mô hình quảng cáo chỉ bằng một phần tư con số đó. Cửa sổ dài và khả năng tìm thấy thứ gì đó trong đó là hai kỹ năng riêng biệt, và LFM3-1.7B đã mua được cái đầu tiên mà không có cái thứ hai. Bất kỳ ai định hướng nó vào một kho mã lớn hoặc một hợp đồng dài nên kiểm tra dòng đó trước khi tin vào bảng thông số.

MCP-Atlas và cặp SWE-bench là cùng một bài học được thể hiện ở một sắc thái khác. LFM3-1.7B giỏi điều khiển một công cụ duy nhất với hợp đồng rõ ràng. Nó còn kém ở công việc nhiều bước, nhiều công cụ — thứ mà các framework agent thực sự được xây dựng để làm — và còn kém hơn nữa khi công việc đòi hỏi phải biết một codebase làm gì.

Những con số này thực sự là gì, và chúng không phải là gì

Mọi con số ở trên đều đến từ chính đợt đánh giá của Liquid AI, được công bố cùng với thời điểm ra mắt. Phương pháp luận không có trong thông báo: không có cấu hình bộ kiểm thử cho từng bài kiểm tra, không có tuyên bố về số lần thử được lấy trung bình, không có dấu hiệu cho biết các mô hình so sánh là do Liquid chạy hay được trích dẫn từ thẻ mô hình của chính chúng. Một bảng 27 dòng với chỉ một bên sở hữu là một lập luận, không phải một phép đo.

Tính đến ngày 28 tháng 10, không có mục LFM3-1.7B nào trên Artificial Analysis, nên không có con số của bên thứ ba để đối chiếu với con số của nhà cung cấp. Điều đó sẽ thay đổi, và khi thay đổi thì phép so sánh giàu thông tin nhất sẽ là các dòng agentic, nơi mức chênh lệch của nhà cung cấp là rộng nhất và do đó cần ý kiến thứ hai nhất.

Một chi tiết lại nghiêng theo hướng ngược lại và đáng được ghi nhận. Liquid đã huấn luyện riêng một checkpoint chưng cất nhận biết lượng tử hóa để khôi phục độ chính xác mà lượng tử hóa Q4_0 phải đánh đổi, và phát hành nó dưới dạng một tệp GGUF riêng. Việc công bố các con số của mô hình nhỏ ở mức chính xác mà người ta thực sự sẽ chạy là điều vượt xa mức hầu hết nhà cung cấp làm, và khiến các số liệu 4-bit có phần đáng tin cậy hơn so với một phương án lượng tử hóa hậu nghiệm.

Chạy nó, và những cài đặt quan trọng

Câu lệnh một dòng là ollama run lfm3, và bản mặc định 1,7 GB là điểm khởi đầu phù hợp trên một máy 16 GB. Trang này cũng có bốn lệnh khởi chạy một dòng để kết nối mô hình vào một khung tác nhân hiện có — ollama launch claude --model lfm3, và cùng mẫu đó cho OpenCode, Hermes Agent và OpenClaw. Đó là điều hữu ích nhất trên trang: nghĩa là có thể thả mô hình vào vòng lặp tác nhân mà bạn đã chạy sẵn mà không cần viết client, một ngưỡng thấp hơn mức mà hầu hết các đợt ra mắt mô hình cục bộ đáp ứng được.

Có hai cấu hình lấy mẫu trên card và chúng không thể thay thế cho nhau: temperature 0,1 với top_k 50 và repetition penalty 1,1 cho trò chuyện, sử dụng công cụ, agent và lập trình; temperature 1,0 với top_p 0,95 và top_k 20 cho toán và khoa học. Chạy cấu hình agent trên một bài toán là cách phổ biến nhất khiến mô hình này trông tệ hơn thực tế.

Nếu bạn tải GGUF trực tiếp thay vì qua Ollama, kích thước các tệp tỏ ra khá hữu ích. Checkpoint QAD Q4_0 là 1,05 GB, nhỏ hơn một chút so với Q4_K_M ở mức 1,1 GB, và đây là bản được huấn luyện để chịu được lượng tử hóa. Q6_K là 1,43 GB và Q8_0 là 1,85 GB nếu còn dư dung lượng; BF16 là 3,47 GB và hiếm khi đáng dùng ở kích thước này.

Giấy phép là LFM Open License v1.0 — về bản chất là Apache 2.0, với một bổ sung: sử dụng thương mại được miễn phí dưới 10 triệu USD doanh thu hằng năm và yêu cầu giấy phép trả phí ở mức bằng hoặc trên mức đó. Ngưỡng này được tính gộp trong toàn bộ một tập đoàn và đi kèm với các bản tinh chỉnh, nên một bản dẫn xuất đã đổi tên không thể thoát khỏi ngưỡng đó. Các tổ chức phi lợi nhuận và người dùng nghiên cứu được miễn trừ bất kể doanh thu. Nếu bạn ở gần ngưỡng đó, hãy đọc văn bản giấy phép thay vì bản tóm tắt, kể cả bản này.

Hồ sơ tách có ý nghĩa gì đối với cách bạn triển khai nó

Một mô hình mạnh về tuân thủ chỉ dẫn và hợp đồng công cụ, yếu về kiến thức tham số và truy xuất ngữ cảnh dài, đồng thời đủ rẻ để chạy trên laptop không phải là một trợ lý đa dụng. Nó là một bộ thực thi. Kiến trúc phù hợp với nó là một vòng lặp cục bộ — mô hình quyết định gọi công cụ nào, định dạng đối số, tuân theo schema — với các bước nặng về kiến thức và thực sự cần ngữ cảnh dài được giao cho một thành phần lớn hơn.

Sự phân tách đó chính là trường hợp mà một router xứng đáng với vị trí của nó, và đáng để nói chính xác về những gì OrcaRouter làm và không bao gồm ở đây. LFM3-1.7B là open-weight và chạy trên phần cứng của bạn; nó không nằm trong danh mục của chúng tôi, và không có gì trong bài viết này là lời chào hàng API cho nó. Điều chúng tôi cung cấp là nửa còn lại của sự phân tách: một khóa duy nhất xuyên suốt hơn 200 mô hình được lưu trữ cho bước leo thang, với 0% phụ trội trên giá niêm yết của nhà cung cấp, chuyển đổi dự phòng tự động khi một nhà cung cấp bị suy giảm, và một DSL định tuyến kết hợp nhiều mô hình vào một lệnh gọi duy nhất. Phiên bản thực tế là mô hình cục bộ vẫn là mặc định cho vòng lặp, và những lệnh gọi cần kiến thức thực sự sẽ đi ra qua một điểm cuối thay vì một SDK thứ hai và một hợp đồng thứ hai.

Nếu bạn đang đánh giá mô hình thay vì triển khai nó, chuyển đổi dự phòng là cách rẻ hơn để biết liệu nó có trụ vững không: định tuyến một phần lưu lượng đến nó, giữ phương án dự phòng được cấu hình, và so sánh trên các tác vụ của riêng bạn thay vì bảng của Liquid AI.

Những câu hỏi còn bỏ ngỏ sau buổi ra mắt

Bản dựng Ollama có phải là cùng một thứ với GGUF trên Hugging Face không?

Không hẳn. Bản mặc định 1,7 GB của Ollama thuộc lớp Q4 và khớp với GGUF chung thay vì checkpoint nhận biết lượng tử hoá, vốn là một tệp 1,05 GB riêng trên Hugging Face được huấn luyện để khôi phục độ chính xác Q4_0. Thẻ nvfp4 phân giải thành cùng digest với :latest, nên nó không phải bản dựng NVFP4 bất chấp tên gọi. Nếu chất lượng lượng tử hoá quan trọng với tác vụ của bạn, hãy kéo tệp QAD và chạy nó trực tiếp qua llama.cpp.

Một máy tính xách tay có thể sử dụng toàn bộ cửa sổ 256K không?

Hiếm khi. Con số bộ nhớ đệm 1,6 GB mà Liquid công bố là dành cho 128K, và bộ nhớ đệm tăng theo kích thước cửa sổ, nên để có trọn 256K thì cần khoảng gấp đôi con số đó, trước khi tính đến trọng số và môi trường chạy. Trên một máy 16 GB, ngữ cảnh làm việc trong khoảng 32K đến 64K chính là mức trần thực tế; cửa sổ lớn hơn nên được hiểu là một tuyên bố về dư địa cho các triển khai máy chủ hơn là năng lực của máy tính xách tay.

Tại sao điểm số của agent và điểm số kiến thức lại không khớp với nhau nhiều đến vậy?

Bởi vì chúng đang đo những thứ khác nhau, và quá trình huấn luyện ưu tiên một thứ. Giai đoạn mid-training cuối với 3.5T token nhấn mạnh các dấu vết agentic và lệnh gọi công cụ, sau đó post-training bổ sung fine-tuning có giám sát trên 1.75T token và học tăng cường trên việc sử dụng công cụ và đầu ra có cấu trúc. Tri thức tham số là thứ mà một mô hình 1.7B có ít chỗ nhất để lưu trữ, và sự phân tách AA-Omniscience — độ chính xác 7.07 so với 92.93 không ảo giác — cho thấy nó được huấn luyện để từ chối thay vì đoán. Đó là một lựa chọn thiết kế, và đó là lựa chọn đúng cho một agent.

Phán quyết

LFM3-1.7B là mô hình đầu tiên trong phân khúc trọng số này mà ở đó các dòng benchmark agentic là lý do để tải nó xuống chứ không phải chỉ là một chú thích nhỏ. Nếu bạn đang xây dựng một tác nhân cục bộ cần gọi công cụ một cách đáng tin cậy, tuân theo một schema và từ chối trả lời thay vì bịa ra câu trả lời, thì giờ đây nó chỉ cách bạn một câu lệnh và cấu hình phù hợp với công việc. Nếu bạn cần một mô hình biết nhiều thứ, truy xuất chính xác từ một tài liệu dài hoặc xử lý một tác vụ kỹ thuật nhiều bước, bảng này nói rõ rằng bạn nên tìm nơi khác — và thông số 256K là dòng kém đáng tin cậy nhất trên đó.

Con số đáng để ý không phải là mức trung bình 49.37. Mà là liệu một lần chạy độc lập có tái tạo được các mức chênh lệch agentic hay không, vì đó là những hàng mà một mô hình 1.7B tuyên bố vượt qua một mô hình 9B và cũng là nơi bộ khung đánh giá của chính nhà cung cấp có nhiều dư địa nhất để tô hồng kết quả.