NVIDIA Nemotron Labs Dory 1.0 4B so với LFM2.5 2.6B Base: Một cái đã hoàn thiện, cái kia thì cố tình không

NVIDIA Nemotron Labs Dory 1.0 4B và LFM2.5-2.6B-Base đều là những mô hình nhỏ, đều chỉ xử lý văn bản, đều có thể tải xuống dưới dạng GGUF, và đều là những mô hình bạn tự chạy — và chúng nằm ở hai đầu đối lập của quy trình hậu huấn luyện. Dory đến ở trạng thái đã hoàn thiện hoàn toàn: tinh chỉnh có giám sát trên một tập do NVIDIA tuyển chọn, sau đó là học tăng cường đa môi trường với GRPO, với khả năng suy luận được bật vĩnh viễn trong đường phục vụ. LFM2.5-2.6B-Base xuất hiện một cách có chủ đích trong trạng thái chưa hoàn thiện, được mô tả trên chính model card của nó như một checkpoint tiền huấn luyện "chỉ được khuyến nghị cho các tác vụ đòi hỏi tinh chỉnh chuyên sâu". Liquid AI phát hành phiên bản hoàn thiện của mô hình đó một cách riêng rẽ dưới tên LFM2.5-2.6B, được hậu huấn luyện cho các khối lượng công việc tác tử. Vậy nên cách đặt vấn đề trung thực không phải là "mô hình thuộc lớp 4B nào tốt hơn", bởi vì một checkpoint nền và một mô hình suy luận đã hoàn thiện không cạnh tranh cho cùng một vị trí trong stack của bạn. Câu hỏi hữu ích là bạn đang mua cho nửa nào của quy trình.

Mỗi tạo tác thực sự là gì

N​VIDIA N​emotron Labs Dory 1.0 4B là một mô hình dense 4B được N​VIDIA công bố trên Hugging Face với bốn mức lượng tử hoá — BF16, MXFP8, NVFP4 và một bản xuất GGUF Q5_K_M — theo giấy phép OpenMDW 1.1. Thẻ mô hình của nó ghi bản dựng là "GA (10/16/2026)" và mô tả một kiến trúc vòng lặp, tái diễn tiềm ẩn: một khối đầu vào 8 lớp, một khối tái diễn 20 lớp được áp dụng với số lần thay đổi, và một khối đầu ra 8 lớp, cùng cơ chế chú ý lai xen kẽ giữa cửa sổ trượt và chú ý toàn phần. Ngữ cảnh chạy tới 256K token, ngôn ngữ chỉ có tiếng Anh, và toàn bộ bản phát hành được đăng lên mà không kèm bất kỳ thông báo nào từ N​VIDIA. Thẻ ghi chú rằng suy luận luôn được bật trong đường phục vụ vLLM, một tuyên bố vừa về ý định vừa về cơ chế: đây không phải là một mô hình dự đoán văn bản thô sẽ hoàn thiện tài liệu của bạn, mà là một mô hình được cấu hình để suy nghĩ trước khi trả lời.

LFM2.5-2.6B-Base là checkpoint tiền huấn luyện 2,69B của Liquid AI, được phát hành theo giấy phép LFM của chính công ty (gắn thẻ lfm1.0) và được cập nhật vào giữa tháng 8 năm 2026. Đây là checkpoint thô mà phần còn lại của dòng 2.6B được dẫn xuất từ đó. Kiến trúc là sự kết hợp lai giữa 22 khối tích chập ngắn cổng đôi và 8 lớp attention grouped-query, được huấn luyện trên khoảng 34 nghìn tỷ token với phần mở rộng ngữ cảnh giữa huấn luyện lên 128K, trên bộ từ vựng 128.000 token và 16 ngôn ngữ. Thẻ mô hình nói rõ về đối tượng: trợ lý theo lĩnh vực cụ thể, công việc theo ngôn ngữ cụ thể, huấn luyện trên dữ liệu độc quyền. Không có hành vi mẫu trò chuyện đáng nói, vì không có tinh chỉnh theo chỉ dẫn trong đó.

Cả hai đều là văn bản vào, văn bản ra. Đó gần như là nơi những điểm tương đồng dừng lại.

So sánh thông số kỹ thuật, cạnh nhau

• Tham số — Dory 1.0 4B là một ngăn xếp dày đặc 4B. LFM2.5-2.6B-Base là 2,69B. Khoảng cách nhỏ hơn so với tên gọi, và cả hai đều vừa vặn thoải mái trên một bộ tăng tốc tiêu dùng đơn lẻ ở mức lượng tử hóa hợp lý.

• Hậu huấn luyện — Dory có SFT cùng RL đa môi trường trên toán, lập trình, khoa học, tuân theo chỉ dẫn, sử dụng công cụ và đầu ra có cấu trúc. LFM2.5-2.6B-Base không có gì, theo thiết kế. Nếu bạn cần một mô hình tuân theo chỉ dẫn ngay khi dùng, một trong hai là lựa chọn sai, và đó không phải là cái có ít tham số hơn.

• Bối cảnh — Dory đạt 256K token, với 262.144 vị trí được xác thực trong vLLM theo lệnh khởi chạy mà NVIDIA phát hành. LFM2.5-2.6B-Base hỗ trợ 131.072 token, đạt được thông qua một phần mở rộng ở giai đoạn giữa huấn luyện. Cửa sổ của Dory gần như gấp đôi; việc bạn có đủ khả năng lấp đầy nó hay không phụ thuộc vào hành vi KV-cache được thảo luận bên dưới.

• Ngôn ngữ — Dory chỉ dành cho tiếng Anh, với dữ liệu tiền huấn luyện bao phủ 43 ngôn ngữ lập trình. LFM2.5-2.6B-Base bao phủ 16 ngôn ngữ tự nhiên, bao gồm tiếng Anh, tiếng Ả Rập, tiếng Trung, tiếng Pháp, tiếng Đức, tiếng Ý, tiếng Nhật, tiếng Hàn, tiếng Bồ Đào Nha, tiếng Tây Ban Nha, tiếng Việt, tiếng Thái, tiếng Indonesia, tiếng Hindi, tiếng Nga và tiếng Ba Lan. Với bất kỳ thứ gì ngoài tiếng Anh, khía cạnh này sẽ tự quyết định.

• Kiến trúc — hybrid tích chập ngắn cộng attention ở phía Liquid; G​PT chuẩn hóa hồi tiếp tiềm ẩn dạng vòng lặp với attention cửa sổ trượt xen kẽ ở phía N​VIDIA. Cả hai đều là những lối rẽ khỏi một chồng transformer thuần, và chúng rẽ theo những hướng khác nhau.

• Hành vi tính toán — độ sâu của Dory là một tham số thời gian chạy. Số vòng lặp 1, 2 hoặc 4 đánh đổi khối lượng tính toán để lấy độ chính xác mà không cần checkpoint thứ hai, và NVIDIA khuyến nghị hai là mặc định. LFM2.5-2.6B-Base có độ sâu cố định; đòn bẩy chi phí của nó là lượng tử hoá và, trong toàn bộ dòng sản phẩm, một bộ dự thảo suy đoán.

• Giấy phép — OpenMDW 1.1 cho Dory, giấy phép LFM cho checkpoint Liquid. Cả hai đều cho phép sử dụng thương mại; giấy phép Liquid là của riêng công ty chứ không phải một văn bản mã nguồn mở tiêu chuẩn, điều này đáng để đọc chứ không nên chỉ mặc định.

• Các định dạng đã phát hành — Dory: BF16, MXFP8, NVFP4, GGUF. LFM2.5-2.6B-Base: trọng số BF16 trên Hub, với các bản dựng GGUF, ONNX và MLX có sẵn ở nơi khác trong cùng họ. Hệ sinh thái Liquid ở đây rộng hơn; các kho lưu trữ Dory mới chỉ vài giờ tuổi.

Tinh chỉnh là trục phân tách chúng

Nếu lý do bạn đang xem xét LFM2.5-2.6B-Base là vì bạn định huấn luyện trên nó — một trợ lý chuyên ngành, một kho ngữ liệu độc quyền, một ngôn ngữ mà mô hình nền đã nói được — thì Dory 1.0 4B là một lựa chọn thay thế kém cỏi vì một lý do không liên quan gì đến chất lượng. Tinh chỉnh một mô hình suy luận đã qua huấn luyện hậu kỳ đầy đủ để làm một tác vụ hẹp thường khó hơn tinh chỉnh một checkpoint nền, bởi vì bạn đang chống lại hành vi mà giai đoạn RL đã cài vào thay vì uốn nắn một bộ dự đoán trống. Thẻ mô hình của Liquid khuyến nghị dùng checkpoint nền của nó cho công việc theo lĩnh vực và theo ngôn ngữ chính vì lý do này, và 34 nghìn tỷ token tiền huấn luyện trên 16 ngôn ngữ là một điểm khởi đầu rộng hơn so với thứ mà một mô hình chỉ tiếng Anh mang lại.

Nhưng thẻ Dory im lặng về việc tinh chỉnh theo một cách mà tự nó đã mang tính thông tin. Nó ghi lại quy trình huấn luyện, công bố các định dạng và đưa ra hướng dẫn phục vụ cho hai engine; nó không nói gì về adapter, hỗ trợ LoRA hay một công thức tinh chỉnh. Đó là đặc điểm của một checkpoint được công bố để phục vụ, chứ không phải để huấn luyện trên đó. Coi việc thiếu bằng chứng là bằng chứng sẽ là một sai lầm, nhưng sự bất đối xứng này đáng được gọi tên: một thẻ tự quảng bá với những người tinh chỉnh, thẻ còn lại tự quảng bá với những người triển khai.

Thêm một lưu ý trung thực nữa về các con số. Liquid công bố một bảng đánh giá đầy đủ cho mô hình đã qua hậu huấn luyện LFM2.5-2.6B so với Gemma 4 E2B và E4B cùng Qwen3.5-4B và 9B, và bảng đó không thể chuyển sang checkpoint gốc — một mô hình nền được chấm điểm trên các benchmark tuân thủ chỉ dẫn đo lường một thứ khác với một mô hình đã qua hậu huấn luyện được chấm điểm trên cùng những benchmark đó. NVIDIA công bố một bảng benchmark cho Dory so với Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B và Qwen3.6-35B-A3B, được đo trên bộ khung đánh giá riêng của mình, không có tái lập độc lập. Không có kết quả nào trên bộ khung đánh giá dùng chung cho Dory và một trong hai checkpoint LFM, và không có bất kỳ so sánh đối đầu trực tiếp nào được công bố.

Chạy chúng trên phần cứng thật

Câu chuyện edge là nơi hai bên khác biệt rõ rệt nhất trên thực tế, và Liquid thắng rõ ràng ở đây. Dòng LFM2.5 được xây dựng để triển khai ngay trên thiết bị — phiên bản instruct 2,6B cùng dòng của nó được đo chuẩn ở 220 token mỗi giây trên Apple M5 Max và 113 trên Ryzen AI Max+ 395, trong chưa đầy 2,5 GB bộ nhớ, với con số cấp điện thoại khoảng 30 token mỗi giây được công bố. Trong dòng có các bản dựng ONNX và MLX cùng một speculative drafter 328M, DSpark, mà công ty nói mang lại tốc độ giải mã nhanh hơn khoảng 2,6× với đầu ra y hệt. Nếu mục tiêu của bạn là laptop, mini-PC hay điện thoại, LFM2.5-2.6B-Base nằm ở đúng phía của ranh giới đó và Dory không rõ ràng là được thiết kế cho việc đó.

Đường phục vụ của Dory hẹp hơn và mới hơn. Hỗ trợ vLLM đang được xem xét trong một pull request đang mở, và cho đến khi nó được hợp nhất, thẻ cho bạn biết hãy cài đặt vLLM từ nhánh đó với cờ precompiled-kernel, sau đó phục vụ với các ghi đè thiết lập số vòng lặp và chế độ KV-cache. Hỗ trợ llama.cpp nằm trong pull request đang mở thứ hai, với một commit được ghim và hướng dẫn build nhắm đến macOS ARM64 native trên Apple Silicon. Các số liệu tốc độ do NVIDIA công bố là mức tăng tốc lượng tử hóa trên DGX Spark chứ không phải thông lượng: 1,69× và 1,84× cho MXFP8 so với BF16 tùy thuộc vào tổ hợp độ dài đầu vào/đầu ra, 2,17× và 2,44× cho NVFP4.

Điểm đối trọng, và đúng là một điểm đối trọng thực sự, nằm ở thiết kế bộ nhớ. Cách lặp tiêu chuẩn giữ một KV cache riêng cho mỗi vòng lặp, nên bộ nhớ tăng lên theo mỗi lượt chạy thêm — đây là lý do thường thấy khiến các kiến trúc hồi tiếp khó phục vụ. Dory hỗ trợ chế độ KV-caching ở vòng lặp cuối, chỉ giữ một cache duy nhất cho mỗi lớp attention hồi tiếp và ghi đè nó ở mỗi lượt, nhờ đó giữ dấu chân bộ nhớ ở mức xấp xỉ kích thước của một vòng lặp bất kể số vòng lặp. N​VIDIA nói rằng độ chính xác vẫn sát với chế độ theo từng vòng lặp, với độ dài đầu ra gần như không đổi. Tuyên bố đó là điều giá trị nhất trong thẻ Dory cần được kiểm chứng, vì nếu nó đúng, cửa sổ 256K là khả thi với hơn một vòng lặp, còn nếu không, tính năng độ sâu đàn hồi sẽ kém hữu ích hơn nhiều so với vẻ ngoài của nó.

Router làm gì và không làm gì ở đây

Cả hai mô hình đều không có trong danh mục OrcaRouter. N​VIDIA N​emotron Labs Dory 1.0 4B chỉ có trọng số, không có endpoint hosted nào ở bất cứ đâu mà chúng tôi có thể xác nhận, và LFM2.5-2.6B-Base là một checkpoint dành cho tinh chỉnh mà không nền tảng nào có lý để phục vụ nguyên trạng — phiên bản anh em đã qua huấn luyện hậu kỳ của nó mới là thứ phù hợp để đứng sau một API. Cũng không có mô hình LFM2.5 hosted nào trong danh mục của chúng tôi, nên phát biểu chính xác là phát biểu nhàm chán: đối với so sánh này, mọi thứ đều chạy trên phần cứng của bạn.

Đó chính xác là lúc một lớp định tuyến không còn là phần kết nối tùy chọn nữa mà bắt đầu trở thành một công cụ kiểm thử. Chạy một thí nghiệm tinh chỉnh trên một checkpoint gốc và một thí nghiệm phục vụ trên một mô hình 4B được lặp nghĩa là hai ngăn xếp cục bộ, hai bộ lượng tử hóa, hai bộ cờ phục vụ, và không có cách nào gọn gàng để so sánh cả hai với các mô hình được lưu trữ vốn là đường cơ sở thực tế cho ứng dụng của bạn. OrcaRouter tồn tại cho nửa sau đó: một khóa API duy nhất tiếp cận các mô hình được lưu trữ mà bạn sẽ đối chuẩn theo giá niêm yết của nhà cung cấp với mức chênh 0%, nên nhóm đối chứng không cần SDK hay hợp đồng riêng. DSL định tuyến cho phép một điểm cuối tự lưu trữ và các điểm cuối được lưu trữ nằm sau một lệnh gọi duy nhất, và chuyển đổi dự phòng tự động giữ cho một lượt đánh giá dài tiếp tục sống khi bể GPU cục bộ đang bận. Nó sẽ không cho bạn biết liệu checkpoint gốc của Liquid khi được tinh chỉnh có tốt hơn việc phục vụ mô hình hoàn thiện của NVIDIA hay không. Nó loại bỏ chi phí thiết lập để tìm ra điều đó.

Lựa chọn giữa chúng

Hãy chọn LFM2.5-2.6B-Base nếu bạn đang tìm một điểm khởi đầu thay vì một câu trả lời sẵn có: bạn có dữ liệu huấn luyện, bạn cần một ngôn ngữ mà Dory không nói được, bạn muốn chạy trên Apple Silicon hoặc NPU, hoặc bạn muốn đi theo hướng speculative-decoding cùng các bản build ONNX và MLX đi kèm trong hệ sinh thái này. Đây là sản phẩm nhỏ hơn, nhanh hơn, đa ngôn ngữ hơn, kết nối hệ sinh thái tốt hơn, và nó trung thực về việc chưa hoàn thiện.

Hãy chọn NVIDIA Nemotron Labs Dory 1.0 4B nếu bạn đang mua một hành vi đã được triển khai: bạn muốn một mô hình suy luận hoàn chỉnh đã được huấn luyện sẵn về gọi công cụ và đầu ra có cấu trúc, bạn chỉ dùng tiếng Anh, ngữ cảnh của bạn rất dài, và bạn sẵn sàng build vLLM hoặc llama.cpp từ một nhánh ngay hôm nay để đổi lấy một nút chỉnh tính toán mà không mô hình dense thông thường nào mang lại cho bạn. Hãy chấp nhận rằng bạn sẽ là một trong những người đầu tiên bên ngoài NVIDIA chạy nó, rằng mọi con số trên card của nó đều là con số do nhà cung cấp đưa ra, và rằng tuyên bố KV-cache vòng lặp cuối — tính năng duy nhất khiến toàn bộ thiết kế trở nên khả thi — vẫn chưa được xác minh.

Phép so sánh thực sự mang lại nhiều thông tin là Dory 1.0 4B với LFM2.5-2.6B đã qua huấn luyện sau, và chưa ai công bố nó. Nếu mô hình instruct 2.6B của Liquid và mô hình 4B elastic-depth của N​VIDIA cuối cùng chỉ chênh nhau vài điểm trên khối lượng công việc của bạn, thì yếu tố quyết định sẽ là sự khác biệt bộ nhớ giữa 2.69B và 4B cùng khoảng cách về độ trưởng thành, chứ không phải kiến trúc. Đó là thí nghiệm đáng để thực hiện, và thực hiện nó rẻ hơn so với tuần trước.

Không có gì trong số đó là giả thuyết: các lỗi AI và sự cố tác nhân được ghi nhận đằng sau những bản phát hành như bản này đều được tập hợp trong OrcaRouter AI Incident Archive, nơi mỗi mục đều có nguồn, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp riêng.