Nemotron 3.5 Bolt E4B 4GB so với LFM2.5 2.6B Base: Một nhân vật đã hoàn thiện đối đầu với một trang giấy trắng

Một trong hai mô hình này sẽ trò chuyện được ngay khi bạn tải nó về. Mô hình còn lại sẽ không trò chuyện được cho đến khi bạn huấn luyện nó. Đó chính là toàn bộ phép so sánh giữa NVIDIA-Nemotron-3.5-Bolt-E4B-4GB và Liquid AI LFM2.5-2.6B-Base, và mọi khác biệt trên bảng thông số kỹ thuật phát sinh từ đó đều chỉ là thứ yếu.

Mô hình của NVIDIA là một mô hình ngôn ngữ nhỏ đã được huấn luyện sau để trò chuyện: có chat template, công tắc suy luận, hành vi gọi công cụ, tinh chỉnh persona và bảng benchmark 21 dòng. Còn của Liquid là một base checkpoint đã được huấn luyện trước, được công bố rõ ràng để tinh chỉnh sâu, không có hành vi trò chuyện và không có điểm benchmark trên model card. Xếp chúng vào cùng một nhóm “mô hình mở nhỏ” là một lỗi phân loại khiến người ta tải nhầm artifact và kết luận rằng mô hình dở.

Câu trả lời ngắn gọn, trước phần chi tiết

• Bạn cần một trợ lý giọng nói, nhân cách hoặc thiết bị hoạt động được trong tháng này — hãy chọn NVIDIA-Nemotron-3.5-Bolt-E4B-4GB. Đó là một hành vi hoàn chỉnh, không phải nguyên liệu thô.

• Bạn có dữ liệu chuyên ngành, ngân sách huấn luyện và yêu cầu rằng mô hình phải thuộc về bạn — hãy chọn LFM2.5-2.6B-Base. Mô hình này rẻ hơn để tinh chỉnh và có cửa sổ ngữ cảnh 128K.

• Bạn muốn mô hình hội thoại nhỏ tốt nhất mà Liquid tạo ra — bạn không muốn chỉ một trong hai mô hình này. Bạn muốn LFM2.5-2.6B đã qua post-training, rồi quyết định xem Base hay agent checkpoint là điểm khởi đầu của bạn.

• Bạn muốn một benchmark đối đầu trực tiếp — không có cái nào cả. Thẻ Base không công bố điểm số nào, và chưa có bên thứ ba nào chạy so sánh hai bên với nhau. Bất kỳ bài viết nào công bố người thắng từ một benchmark chung đều đang tự bịa ra benchmark đó.

Vì sao sự không khớp lại là câu chuyện

Liquid AI đã phát hành dòng LFM2.5-2.6B thành ba phần: một Base đã tiền huấn luyện, một checkpoint agent đã hậu huấn luyện, và một drafter giải mã suy đoán. Base là giai đoạn đầu tiên của quy trình đó, không phải một sản phẩm. Thẻ của nó ghi rằng nó “chỉ được khuyến nghị cho các tác vụ yêu cầu tinh chỉnh chuyên sâu” — trợ lý theo ngôn ngữ hoặc lĩnh vực cụ thể, huấn luyện trên dữ liệu độc quyền và công việc tương tự. Một checkpoint base dự đoán token tiếp theo rất tốt và chưa từng được dạy để trả lời câu hỏi, tuân theo chỉ dẫn hoặc phát ra lệnh gọi công cụ theo một schema.

NVIDIA's E4B là đầu bên kia của quy trình đó. Nó khởi đầu từ Gemma-4-E4B-it, vốn đã được tinh chỉnh theo chỉ dẫn, và NVIDIA lại huấn luyện sau đó bằng học tăng cường từ phần thưởng có thể xác minh cùng phản hồi của con người. Thẻ mô hình ghi lại các miền phần thưởng, tỷ lệ lô suy luận/không suy luận, và các hình phạt độ dài được áp dụng để kiểm soát mức độ dài dòng. Dù còn gì khác đúng đi nữa, mô hình đã được định hình để hướng tới một công việc.

Vậy câu hỏi hợp lý không phải là “cái nào thông minh hơn”. Mà là “bạn cần mua giai đoạn nào của quy trình”.

Thông số kỹ thuật, theo từng chiều

• Tham số — NVIDIA-Nemotron-3.5-Bolt-E4B-4GB có tổng cộng 8B tham số với 4B tham số hiệu dụng trong kiến trúc Gemma-4-E4B; LFM2.5-2.6B-Base có 2.69B tham số dense trong một ngăn xếp lai 30 lớp gồm 22 khối tích chập ngắn có cổng kép và 8 khối attention truy vấn nhóm.

• Cửa sổ ngữ cảnh — 64K token đầu vào và 64K đầu ra cho Bolt; 131.072 token cho LFM base.

• Phương thức — đầu vào là văn bản, đầu ra là văn bản cho cả hai. Cả hai đều không nhận hình ảnh hay âm thanh.

• Từ vựng — 128.000 token đối với LFM2.5-2.6B-Base; NVIDIA không công bố kích thước từ vựng cho E4B, mô hình kế thừa tokenizer của Gemma.

• Tiền huấn luyện — 34 nghìn tỷ token cho LFM base, với giai đoạn huấn luyện trung gian mở rộng ngữ cảnh lên 128K. NVIDIA không công bố số lượng token tiền huấn luyện cho E4B vì họ không tiền huấn luyện mô hình này; họ đã huấn luyện hậu kỳ Gemma.

• Hậu huấn luyện — nhiều công việc RLVR và phản hồi từ con người cho Bolt, với các chế độ suy luận tường minh và hội thoại. Không có cho phần nền LFM, theo thiết kế.

• Độ chính xác được công bố — Q4_K_M GGUF ở 6,18GB và BF16 safetensors ở 15,88GB cho Bolt; một tệp BF16 safetensors 5,39GB duy nhất cho LFM base, cùng các bản chuyển đổi GGUF, ONNX và MLX riêng ở nơi khác trong cùng dòng mô hình.

• Giấy phép — OpenMDW-1.1 cho phần đóng góp của NVIDIA với thành phần Gemma 4 theo Apache 2.0; LFM Open License 1.0, một giấy phép tùy chỉnh với các điều khoản thương mại, dành cho mô hình của Liquid.

• Ngôn ngữ — 34 trong siêu dữ liệu E4B, với bảy ngôn ngữ được nêu tên là ngôn ngữ chính sau huấn luyện; 16 đối với mô hình cơ sở LFM.

• Phát hành — ngày 23 tháng 10 năm 2026 đối với E4B; dòng LFM2.5-2.6B được công bố vào ngày 4 tháng 8 năm 2026.

Khoảng cách tham số là có thật nhưng không chuyển thành khoảng cách tải xuống mà người ta mong đợi. 2.69B Base là bản tải xuống BF16 5.39GB; E4B "4GB" là bản tải xuống bốn bit 6.18GB. So sánh số lượng tham số giữa một kiến trúc hybrid dày đặc và một kiến trúc tham số hiệu dụng thưa cho bạn ít thông tin hơn so với so sánh số byte trên đĩa.

Mỗi thẻ thực sự công bố những gì

Đây là lúc sự bất đối xứng trở nên có thể đo lường được.

NVIDIA cung cấp 21 dòng benchmark, bốn mô hình so sánh và một cột Q4_K_M riêng. Các điểm số do nhà cung cấp tự chạy dưới NeMo-Gym và được ghi rõ là có thể khác với các con số do các nhà cung cấp khác tự báo cáo. Chúng bao gồm duy trì persona, phân cấp chỉ dẫn, thời điểm gọi công cụ, grounding, truy xuất ngữ cảnh dài và hoàn thành tác vụ agentic.

Model card Base của Liquid hoàn toàn không đi kèm bảng benchmark nào. Đó không phải là thiếu sót; đó chính là bản chất của một checkpoint Base. Những con số đang lưu hành cho LFM2.5-2.6B — IFBench 59.17, ToolSandbox 77.83, BFCLv4 56.88, LiveCodeBench v6 59.41, AIME25 51.87 — thuộc về checkpoint agent đã qua huấn luyện hậu kỳ, không phải Base, và chúng do nhà cung cấp tự báo cáo. Artificial Analysis liệt kê LFM2.5-2.6B với Intelligence Index là 8, được đánh dấu là ước tính với đánh giá độc lập sắp được công bố; nền tảng này hoàn toàn không có trang nào cho Bolt E4B.

Vậy bảng điểm trung thực là: một mô hình có một bảng do nhà cung cấp công bố, lớn và chưa được kiểm toán, còn mô hình kia không có bảng nào và có một ước tính độc lập gắn với một checkpoint khác trong cùng họ của nó. Cả hai cột đều không hỗ trợ so sánh trực tiếp.

Bộ nhớ và tốc độ được đo trên những hành tinh khác nhau

Cả hai nhà cung cấp đều công bố số liệu độ trễ, và chúng không thể so sánh với nhau. Hãy đọc chúng như những tuyên bố riêng biệt về những cấu hình riêng biệt.

• Gắn thêm RTX 5070 12GB — 3,5 đến 4,3GB VRAM, 548 đến 1.238ms đến token đầu tiên, 106,2 đến 133,4 token mỗi giây, được NVIDIA đo bằng llama.cpp và CUDA ở batch 1.

• Gắn thêm một Jetson Orin Nano 8GB — 4,2 đến 4,9GB VRAM, 5,8 đến 6,3 giây để có token đầu tiên, 13,0 đến 15,5 token mỗi giây. Dạng nhúng, nhưng không nhanh theo kiểu hội thoại.

• LFM2.5-2.6B trên M5 Max — khoảng 220 token mỗi giây, tốc độ giải mã trên CPU do nhà cung cấp công bố.

• LFM2.5-2.6B trên chip cấp điện thoại — khoảng 30 token mỗi giây, theo báo cáo của nhà cung cấp.

Con số của M5 Max không phải là so sánh GPU, con số của Orin Nano không phải là so sánh laptop, và cả hai nhà cung cấp đều không công bố độ dài prompt, kích thước batch hoặc cài đặt lượng tử hóa ở dạng cho phép bạn đối chiếu chúng. Con số duy nhất có thể kiểm tra trực tiếp nằm trên đĩa: 6.18GB cho Q4_K_M của Bolt so với 5.39GB cho bản base LFM ở BF16.

Giấy phép: cả hai đều mở, không cái nào là Apache

Mô hình của NVIDIA là OpenMDW-1.1 cùng với một thành phần Apache 2.0 dành cho Gemma 4. OpenMDW là giấy phép dễ dãi và cho phép sử dụng thương mại, nhưng nó không được OSI phê chuẩn, và việc kế thừa từ Gemma nghĩa là các điều khoản Apache đi kèm với một phần của ngăn xếp. Thẻ mô hình của NVIDIA nêu rằng mô hình đã sẵn sàng cho việc sử dụng thương mại hoặc phi thương mại.

Giấy phép Mở LFM 1.0 của Liquid là giấy phép tùy chỉnh với ngưỡng doanh thu hằng năm 10 triệu đô la Mỹ cho mục đích thương mại. Đây không phải Apache hay MIT, và Base card trỏ đến tệp LICENSE thay vì tóm tắt các điều khoản. Với một dự án nghiên cứu, điều này hiếm khi quan trọng; với một sản phẩm cần đánh giá pháp lý, đây là điều đầu tiên cần đọc.

Khác biệt thực tế không phải là “mở so với đóng”. Cả hai đều có thể tải xuống và cả hai đều cho phép sử dụng thương mại trong phạm vi các điều khoản của mình. Khác biệt nằm ở việc cố vấn pháp lý của bạn phải thông qua những điều khoản nào, và liệu mô hình bạn đang phát hành có mang theo giấy phép của nhà cung cấp thứ hai bên trong hay không.

Hóa đơn tinh chỉnh, thứ mới là quyết định thật sự.

Nếu bạn chọn LFM base, việc tải về chỉ là phần rẻ nhất. Bạn đang mua 2,69 tỷ tham số năng lực thô đã được huấn luyện trước, rồi phải trả tiền để dạy nó một công việc: thu thập dữ liệu, làm sạch, tinh chỉnh có giám sát, đánh giá và vòng lặp lặp đi lặp lại sau đó. Lời chào hàng của Liquid là 34 nghìn tỷ token và ngữ cảnh 128K khiến điểm khởi đầu đó đủ mạnh để đáng với công sức bỏ ra.

Nếu bạn chọn Bolt E4B, bạn đang lấy phần hậu huấn luyện của NVIDIA làm điểm khởi đầu. Bản dựng BF16 có dung lượng 15.88GB và NVIDIA công bố hai công thức để thay đổi nó: huấn luyện toàn bộ tham số trên 8× H100 80GB với FSDP2 và tốc độ học 1e-5, hoặc LoRA trên 2× H100 80GB với dimension 16, alpha 32 và tốc độ học 2e-4. Cả hai công thức đều đóng băng các tháp thị giác và âm thanh, điều này nhắc nhở rằng Gemma 4 E4B base là mô hình đa phương thức dù bản phát hành Bolt chỉ xử lý văn bản.

Đó là một mức nền fine-tuning nặng hơn so với nền LFM 2,69B, và là một công việc xây dựng hành vi nhẹ hơn nhiều. E4B đã đảm nhận persona, phân cấp chỉ dẫn và thời điểm gọi công cụ; bạn đang điều chỉnh một mô hình đã hoạt động được, chứ không phải tạo mới một mô hình.

Nếu bạn đang xây dựng một sản phẩm thay vì một mô hình

Mặc định nên là checkpoint hoàn chỉnh. Một trợ lý giọng nói, NPC, giao diện kiosk hay tác nhân thiết bị cần có hành vi ngay từ ngày đầu tiên, và E4B là mẫu duy nhất trong hai mẫu này có hành vi đó. Điểm yếu của nó đã được ghi nhận và rất cụ thể: Tau2-Bench 55.10 so với 75.06 của Qwen3.5 4B, RULER 86.99 so với 95.15, LongBench v2 50.50 so với 59.93. Đây là một mô hình hội thoại có thể gọi công cụ, không phải một tác nhân có thể lập kế hoạch.

LFM base là lựa chọn mua đúng đắn chỉ khi bản thân mô hình chính là sản phẩm: một trợ lý chuyên biệt theo lĩnh vực ở một ngôn ngữ hoặc từ vựng mà các mô hình tổng quát xử lý kém, một bản fine-tune trên dữ liệu độc quyền, hoặc một baseline nghiên cứu mà bạn định sở hữu. Trong trường hợp đó, việc không có hành vi trò chuyện lại là một điểm cộng, vì bạn không phải trả tiền cho hành vi mà bạn sẽ ghi đè.

Có một trường hợp thứ ba mà cả hai thẻ mô hình đều không đề cập: bạn muốn so sánh chúng trên chính tác vụ của mình. Hãy làm điều đó với một tập đánh giá giữ kín và cùng cài đặt giải mã, chứ không phải với bảng của nhà cung cấp. Thẻ của E4B khuyến nghị temperature 1.0 và top_p 0.95 ở cả hai chế độ suy nghĩ; Liquid công bố cài đặt riêng cho checkpoint đã qua huấn luyện hậu kỳ của mình. Khớp được những cài đặt đó là mức tối thiểu để có một phép thử công bằng, và ngay cả khi đó bạn đang so sánh một mô hình đã qua huấn luyện hậu kỳ với một mô hình cơ sở, mà đó hoàn toàn không phải là một phép thử công bằng.

Nơi mô hình cục bộ kết thúc và phần còn lại của ngăn xếp bắt đầu

Dù bạn chọn checkpoint nào, nó sẽ nằm trong một ứng dụng cũng cần những mô hình mà nó không thể chạy. Một mô hình nền 2.6B hoặc mô hình hội thoại 4B đảm nhiệm lớp phản xạ cục bộ; nó không xử lý được một tài liệu 200K token, một tác vụ lập trình khó, hay một yêu cầu cần đến phán đoán của mô hình tiên phong. Định tuyến những yêu cầu đó qua một API — hơn 200 mô hình, 0% phụ phí trên giá niêm yết của nhà cung cấp, chuyển đổi dự phòng tự động giữa các nhà cung cấp — giúp mô hình cục bộ vẫn là đường nhanh mà không buộc phải có hợp đồng thứ hai cho mô hình chậm.

Bản tải xuống nào là của bạn?

Hãy chọn E4B nếu bạn cần một mô hình nhỏ biết trò chuyện, tuân theo hướng dẫn và gọi công cụ ngay hôm nay, đồng thời có thể chấp nhận bản tải xuống 6,18GB cùng những điểm yếu đã được ghi nhận về ngữ cảnh dài và năng lực agentic. Hãy chọn LFM2.5-2.6B-Base nếu bạn đang bắt đầu một dự án tinh chỉnh, muốn có cửa sổ 128K và tokenizer 16 ngôn ngữ, đồng thời có dữ liệu và năng lực tính toán để dạy mô hình công việc của nó.

Sai lầm cần tránh là tải Base về, nhắc nó như một chatbot, rồi kết luận rằng 2.6B của Liquid kém hơn 4B của NVIDIA. Nó không kém hơn. Nó chỉ ở giai đoạn sớm hơn trong pipeline. Phép so sánh thực sự sẽ giải quyết được câu hỏi về dòng mô hình là Bolt E4B với LFM2.5-2.6B đã qua huấn luyện hậu kỳ, và chưa ai công bố lần chạy đó.