Liquid AI d1-3B có mặt trên Ollama: Một endpoint cục bộ âm thầm dành cho mô hình ra quyết định

Có một d1 mới trong thư viện của Ollama, và nó không phải là mô hình trò chuyện. Mục từ mô tả nó trong một dòng — "một mô hình quyết định 3B từ Liquid AI, được xây dựng trên LFM2.5-VL-3B" — và câu duy nhất đó chứa hai sự thật quan trọng nhất. Liquid AI d1-3B, mô hình nhỏ do Liquid AI xây dựng dựa trên Liquid AI LFM2.5-VL-3B và được phát hành dưới dạng trọng số mở vào ngày 5 tháng 10 năm 2026, giờ đây đã được đóng gói để chỉ một lệnh pull là đưa nó lên máy của bạn; và nó vẫn trả về xác suất đã hiệu chỉnh trên các câu hỏi có kiểu thay vì văn bản được tạo, đúng như checkpoint gốc. Nếu bạn có một bước phân loại, định tuyến, kiểm duyệt hoặc gating trong pipeline, đây là lần đầu tiên dòng mô hình cụ thể đó chỉ cách chạy một lệnh, không cần API key, không tốn phí mỗi lần gọi và không có văn bản trạng thái nào rời khỏi phần cứng của bạn.

Từ “quiet” ở đây đang thực sự gánh một vai trò quan trọng, tuy vậy, và đáng để nói chính xác nửa nào của câu chuyện này được ghi chép lại và nửa nào thì không. Blog của chính Liquid AI chưa bao giờ nhắc đến Ollama: bài đăng gần nhất của phòng thí nghiệm, ngày 13 tháng 10 năm 2026, nói về một mô hình khác trong dòng LFM2.5, và hai bài đăng về d1 của họ — thông báo vision ngày 5 tháng 10 và bản phát hành “Open d1” ngày 7 tháng 10 — mô tả trọng số, một API và điểm benchmark, chứ không phải một runtime cục bộ. Trang thư viện của Ollama cho d1 cũng không có thông báo nào, và chỉ mục tài liệu của nhà cung cấp cũng vậy; chỉ mục này đánh dấu GGUF là có sẵn cho Liquid AI d1-3B và phiên bản anh em có khả năng xử lý âm thanh của nó Liquid AI d1-omni-600M trong khi chỉ nêu llama.cpp, Ollama và MLX như những tùy chọn triển khai chung. Thứ tồn tại là một gói đã được phát hành, một mục trong registry với digest bạn có thể xác minh, một readme hoạt động được, và một bộ đếm lượt tải ghi 10.4K vào thời điểm bài này được viết ngày 15 tháng 10 năm 2026. Thứ không tồn tại là một câu từ nhà cung cấp nói rằng “chúng tôi đã làm điều này.”

Danh sách thực sự chứa những gì

Ba thẻ được liệt kê — d1:latest, d1:3b và d1:3b-q8_0 — và cả ba đều trỏ đến cùng một digest manifest, 8c2d9ddae441. Đó là điều đầu tiên cần hiểu về trang này: bộ đếm “3 models” của thư viện là đếm số thẻ, không phải đếm số checkpoint. Một artifact, ba cái tên, 3,7 GB, cửa sổ ngữ cảnh 32K, cùng đầu vào văn bản và hình ảnh. Nếu bạn đang mong chọn một kích cỡ hoặc một mức lượng tử hóa, thì hiện vẫn chưa có gì để chọn.

Registry đằng sau trang này chứa nhiều thông tin hơn chính trang đó. Blob cấu hình của gói cho biết họ mô hình là lfm2, kiểu mô hình là 2.7B, định dạng tệp là Q8_0 và runtime tối thiểu là Ollama 0.40.4. Nó được phát hành dưới dạng hai lớp trọng số: một mô hình sinh 2.87 GB và một projector 856 MB riêng biệt. Lớp thứ hai đó chính là bộ mã hóa thị giác, và sự hiện diện của nó cho thấy bản dựng cục bộ vẫn giữ đường đa phương thức thay vì lược bỏ d1 để chỉ còn văn bản — mô hình vẫn có thể đọc một bức ảnh cùng với một phiếu hỗ trợ và trả lời câu hỏi về cả hai. Hai con số trên trang này có vẻ mâu thuẫn — "3B" trong phần mô tả và "2.7B" trong registry — tốt nhất nên được hiểu là phần thân và toàn thể: thẻ mô hình của Liquid AI đặt checkpoint ở mức 3.12B tham số, bao gồm bộ mã hóa thị giác 400M tham số, còn phần thân ngôn ngữ là con số nhỏ hơn. Phép tính đó là của chúng tôi, không phải của nhà cung cấp, và nó được đưa ra như một lời giải thích chứ không phải một thông số kỹ thuật.

Không có ngày lịch nào ở bất kỳ đâu trên trang thư viện. Nó báo các mốc thời gian tương đối — "Đã cập nhật 2 giờ trước" vào thời điểm chụp — và một bộ đếm lượt tải xuống, nghĩa là không thể biết được ngày mà danh mục này xuất hiện lần đầu chỉ từ chính danh mục đó. Các mốc neo có ngày tháng đều nằm trên Hugging Face và tại nhà cung cấp: kho trọng số cho Liquid AI d1-3B được tạo vào ngày 5 tháng 10 năm 2026, một kho GGUF đồng hành vào ngày 6 tháng 10, và Liquid AI đã đăng bài công bố phát hành vào ngày 7 tháng 10. Nếu bạn cần gán một ngày cho câu hỏi "khi nào thứ này trở nên chạy được cục bộ", câu trả lời trung thực ngày hôm nay là gói này tồn tại và đang được tải về ngay bây giờ, và không ai ngoài Ollama có thể nói nó đã được đưa lên vào buổi sáng nào.

Tại sao một sự kiện về bao bì lại là một sự kiện thực sự

Ollama đã mở một hạng mục mô hình quyết định vào ngày 29 tháng 9 năm 2026, khi họ phát hành endpoint /v1/systemone và cờ CLI --ask cho các mô hình trả lời câu hỏi có kiểu trong một lượt truyền xuôi. Nimble và Clef là những dòng họ đầu tiên bước qua cánh cửa đó. Điều mà gói d1 mới bổ sung là một thứ khác với một hàng benchmark mới: nó lấy một mô hình mà cho đến nay vẫn nằm hoặc trong môi trường Python với một lớp mô hình đi kèm, hoặc sau một endpoint được lưu trữ, và biến suy luận cục bộ thành một câu lệnh.

Hợp đồng này đáng được nhắc lại vì nó không phải là điều mà hầu hết độc giả nghĩ đến khi nói “chạy một mô hình”. Bạn đưa cho d1 một trạng thái — một chuỗi, một đối tượng JSON, một mảng, hoặc một chuỗi kèm hình ảnh — và một tập câu hỏi có tên, rồi bạn nhận lại câu trả lời mà hoàn toàn không có token nào được sinh ra. noul là câu hỏi có/không, được trả lời bằng một xác suất duy nhất từ 0 đến 1. choice trả về nhãn được chọn, một độ tin cậy và một bản đồ xác suất đầy đủ trên các tùy chọn của bạn. score đặt trạng thái vào một thang đánh giá có thứ tự gồm hai đến mười mức và trả về mức được gia trọng theo xác suất cùng với xác suất của từng mức. Một trạng thái, tối đa 64 câu hỏi, một lượt duyệt qua đầu vào. Phản hồi ví dụ của chính Ollama cho một ticket hỗ trợ trả về usage.output_tokens: 0, đây là cách diễn đạt rõ ràng nhất có thể về thiết kế.

Với bất kỳ ai mà pipeline của họ đã gọi một mô hình ra quyết định qua HTTP, hướng cục bộ thay đổi ba thứ cùng lúc: độ trễ, vì yêu cầu không còn rời khỏi máy; chi phí, vì không có đồng hồ đo theo từng lần gọi; và xử lý dữ liệu, vì nội dung ticket và bức ảnh bạn đang phân loại không bao giờ đi qua mạng. Nếu trạng thái của bạn là tin nhắn của khách hàng hoặc một tài liệu nội bộ, thì điểm cuối cùng thường là lập luận duy nhất cần đưa ra.

Chạy nó, và những giới hạn mà tài liệu đặt ra xung quanh nó

Có ba cách được hỗ trợ để truy cập và tất cả đều được ghi lại trên trang thư viện. Đường dẫn CLI là ollama run d1 --ask "Is a refund being requested?" với trạng thái được truyền từ một tệp, cùng với cờ --choice và --level cho hai loại câu hỏi còn lại. Đường dẫn HTTP là một POST đến http://localhost:11434/v1/systemone với một mô hình, một trạng thái, một mảng hình ảnh tùy chọn và một đối tượng câu hỏi. Đường dẫn SDK trỏ ứng dụng khách Python của TypeSafe đến localhost, nơi khóa API bị bỏ qua và bất kỳ giá trị giữ chỗ nào cũng hoạt động.

Các giới hạn này đến từ tài liệu endpoint của Ollama chứ không phải từ Liquid AI, và chúng chặt hơn so với giới hạn của một mô hình tạo sinh: các yêu cầu phải nằm trong 64 KiB khi không có ảnh và 32 MiB khi có ảnh, không hỗ trợ streaming, các mô hình lưu trữ trên đám mây bị từ chối thẳng thừng, và ảnh phải là PNG, JPEG hoặc WebP dạng base64 được gửi trong phần thân yêu cầu — URL từ xa bị từ chối. Ảnh được dùng chung cho mọi câu hỏi trong một yêu cầu, vì vậy một bức ảnh mà bạn chỉ muốn câu trả lời đầu tiên xét đến phải được gửi dưới dạng một lệnh gọi riêng. Đầu vào không bao giờ bị cắt cụt, nghĩa là một trạng thái quá lớn sẽ là lỗi chứ không phải một prompt bị cắt bớt một cách âm thầm.

Hai chi tiết trong tài liệu đáng được nêu ra như vẫn chưa được giải quyết. Tài liệu tham chiếu endpoint của Ollama mô tả kiểu choice chấp nhận từ 2 đến 255 khóa tùy chọn, trong khi trang năng lực dành cho các mô hình quyết định ghi từ 2 đến 26 — một trong hai đã lỗi thời, và không rõ là cái nào. Và trang năng lực liệt kê các mô hình được hỗ trợ là Nimble, Tev1, Clef và Clef Flash, không hề nhắc đến d1, dù tệp readme của chính gói d1 nói rằng nó hoạt động thông qua /v1/systemone và --ask. Gói này yêu cầu Ollama 0.40.4; phiên bản tối thiểu được tài liệu ghi cho chính endpoint là 0.35.0. Không có điểm nào trong đó là mâu thuẫn khiến bạn không thể kéo mô hình, nhưng hãy đọc yêu cầu phiên bản trên gói thay vì yêu cầu trong hướng dẫn năng lực.

Những con số, và ai đã tạo ra từng con một trong số đó

Bây giờ là phần đáng phải thận trọng nhất. Mọi số liệu hiệu năng gắn với mô hình này đều là của Liquid AI, và không có bất kỳ đánh giá độc lập nào về Liquid AI d1-3B tồn tại, theo như chúng tôi có thể tìm thấy. Các kết quả do nhà cung cấp báo cáo, được lặp lại trên trang Ollama và trên thẻ mô hình, là những kết quả sau:

• Decision Index 0.2.1 — 48,57 cho d1-3B, so với 47,11 cho Decider 35B-A3B, mà Liquid mô tả là điểm số tốt nhất cho một mô hình ra quyết định dưới 10B tham số. • Thị giác — trung bình 74,1 trên mười một benchmark hình ảnh công khai, so với 73,9 của mô hình cơ sở LFM2.5-VL-3B mà nó được xây dựng dựa trên. • Độ trễ — 8 ms cho mỗi quyết định trên RTX 4090, 9 ms trên AMD MI325X, và 30 ms trên Apple M5 Pro. • Thông lượng — 475 quyết định mỗi giây trên 4090 và 1.106 trên MI325X khi các câu hỏi được gom thành lô. • Ablation — cùng bộ câu hỏi được trả lời không có hình ảnh đạt 45,1, đây là thước đo của chính Liquid về mức độ đóng góp của nhánh thị giác.

Dòng vision mới là dòng nên khiến người ta hạ thấp kỳ vọng. Mức cải thiện 0,2 điểm so với mô hình cơ sở trên một bộ benchmark hình ảnh nằm trong khoảng nhiễu của hầu hết các báo cáo benchmark; dù decision head mang lại cho bạn điều gì, nó cũng không phải là một bộ mã hóa hình ảnh tốt hơn đáng kể. Dòng ablation lại thú vị hơn theo hướng ngược lại — mức chênh khoảng 29 điểm khi thêm hình ảnh — nhưng nó so sánh hai bộ câu hỏi khác nhau, không phải hai phiên bản của cùng một bộ. Và Decision Index là một công cụ của bên thứ ba mà Liquid tự chấm điểm các mục của chính mình trên đó thay vì gửi chúng để xếp hạng công khai, nên hãy coi 48,57 là một tuyên bố của nhà cung cấp được đo bằng thước của người khác. Các số liệu về tốc độ cũng chưa được kiểm chứng độc lập: 8 ms trên 4090 là con số hợp lý cho một mô hình 3B thực hiện một lượt forward pass, và vẫn đúng là chưa ai công bố một lần chạy mà họ không sở hữu.

OrcaRouter phù hợp ở đâu, và ở đâu thì không

OrcaRouter không phục vụ Liquid AI d1-3B. Chúng tôi đã kiểm tra danh mục của mình trước khi viết bài này — 207 mô hình, không có mô hình nào của Liquid AI, cũng không có mô hình nào là mô hình ra quyết định — nên nếu bạn muốn gọi d1 từ một API thay vì từ phần cứng của riêng mình, thì lộ trình được host hiện nay là endpoint quyết định của chính nhà cung cấp tại api.liquid.ai/decisions/v1/systemone, nơi bậc d1 trả phí xử lý hình ảnh và bậc d1:free miễn phí chỉ dành cho văn bản, cùng với bất kỳ nền tảng bên thứ ba nào tiếp nhận nó. Không có nội dung nào trong bài viết này nên được hiểu là tuyên bố rằng chúng tôi lưu trữ nó.

Những gì chúng tôi làm thì liền kề với bài toán mà mô hình này giải quyết. Lý do một mô hình ra quyết định tồn tại là vì các pipeline cần một cách rẻ và tất định để chọn giữa các lựa chọn, và ví dụ được ghi lại của chính d1 là một ticket được định tuyến tới một nhóm đích — tức là một bài toán định tuyến ở cấp thấp hơn một bậc so với của chúng tôi. Khi quyết định đó đóng vai trò cổng cho một lệnh gọi tới một mô hình sinh mà bạn thuê thay vì tự vận hành, OrcaRouter là một khóa tương thích OpenAI cho hơn 200 mô hình được lưu trữ ở mức giá niêm yết của nhà cung cấp, được chuyển tiếp với 0% markup, nên việc nhà cung cấp giảm giá sẽ đến với bạn ngay ngày nó được áp dụng thay vì vào kỳ gia hạn hợp đồng tiếp theo. Và bởi vì nửa cục bộ của pipeline này là nửa bạn sở hữu, rủi ro nằm ở nửa được lưu trữ: tự động chuyển đổi dự phòng giữa các nhà cung cấp giữ cho một yêu cầu đã được phân loại vẫn sống khi mô hình bạn định tuyến nó tới bị ngừng hoạt động. Không điều nào trong số đó là lý do để dùng một mô hình ra quyết định 3B. Chúng là lý do khiến thứ ở phía bên kia của quyết định không nên là một điểm lỗi đơn lẻ.

Điều gì sẽ biến thứ này từ một ghi chú đóng gói thành một câu chuyện

Năm điều, bất kỳ điều nào trong số đó cũng sẽ thay đổi cách đánh giá. Liquid AI thừa nhận bản chuyển cổng này, hoặc chỉ mục tài liệu của họ thêm Ollama vào hàng triển khai mà hiện tại họ đang điền bằng llama.cpp và MLX. Một mức lượng tử hóa thứ hai: kho GGUF của chính Liquid có kèm Q4_K_M, F16 và BF16 bên cạnh Q8_0, nên về mặt kỹ thuật, một bản dựng cục bộ nhỏ hơn vẫn có sẵn, chỉ là không thông qua gói này. Một đường dẫn cục bộ cho Liquid AI d1-omni-600M, người anh em 587M tham số có thể đọc tới ba mươi giây âm thanh và được nhà cung cấp dán nhãn là bản phát hành nghiên cứu sớm — bản đó sẽ quan trọng hơn cả 3B đối với công việc trên thiết bị, và chưa có dấu hiệu nào về nó trong bất kỳ thư viện nào. Một hàng Decision Index độc lập, hoặc một mục trên bảng xếp hạng công khai, đây là mảnh ghép còn thiếu duy nhất trong toàn bộ dòng mô hình này. Và việc Ollama thêm d1 vào trang năng lực ra quyết định của mình, một thay đổi chỉ một dòng nhưng sẽ cho bạn biết bản chuyển cổng này đã được công nhận chính thức chứ không phải chỉ là ngẫu nhiên.

Cho đến lúc đó, quyết định này đủ đơn giản để bạn tự đưa ra theo cách của mình. Nếu bạn đã chạy một bản Ollama gần đây, thao tác pull chỉ là một lệnh, dung lượng tải xuống là 3.7 GB, và thứ nó thay thế hoặc là một lệnh gọi hosted mà bạn không muốn thực hiện với văn bản của khách hàng, hoặc là một môi trường Python tốn công bảo trì hơn giá trị của mô hình. Nếu bạn cần bằng chứng độc lập về độ chính xác trước khi nó được đặt trước mặt người dùng thật, bằng chứng đó vẫn chưa tồn tại cho bất kỳ mô hình d1 nào, và dù đóng gói cục bộ đến đâu cũng không tạo ra được nó.

Việc chạy bước quyết định trên phần cứng của riêng bạn cũng là thời điểm tốt để xem xét những gì đã sai trong nhóm này: các sự cố AI và lỗi tác nhân được ghi nhận liên quan đến các mô hình quyết định được tập hợp trong OrcaRouter AI Incident Archive, nơi mỗi mục có nguồn, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp riêng.