LFM3-1.7B vs Nemotron 3.5 Lightning 30B A3B: Một gigabyte đối đầu hai mươi hai

Hầu hết các so sánh mô hình đều bắt đầu bằng một bảng điểm chuẩn. Cái này phải bắt đầu bằng ngân sách bộ nhớ, vì LFM3-1.7B và Nemotron 3.5 Lightning 30B A3B không cạnh tranh cho cùng một vị trí trong một hệ thống. Mô hình của NVIDIA, được phát hành ngày 11 tháng 8 năm 2026 theo OpenMDW-1.1, cần khoảng 22 GB trong bản dựng NVFP4. Mô hình của Liquid AI, được công bố ngày 27 tháng 10 năm 2026, cần khoảng 1 GB ở 4-bit và được thiết kế để chạy trên điện thoại. Đối với bất kỳ mô hình nào chúng tôi không tự lưu trữ, định tuyến là bề mặt kiểm soát thay vì máy chủ. Giá niêm yết của nhà cung cấp được chuyển qua với mức tăng giá 0%.

Mọi thứ phía sau sự thật đó đều suy ra từ nó. Nemotron 3.5 Lightning là mô hình có năng lực cao hơn trên mọi benchmark mà cả hai nhà cung cấp đã công bố — GPQA Diamond đạt 75,57 so với 63,37, SWE-bench Verified đạt 52,80 so với 43,40, như được liệt kê trong bảng đánh giá trên thẻ mô hình Hugging Face của chính NVIDIA. Nó cũng có cửa sổ ngữ cảnh lên tới 1 triệu token so với 262.144. Nếu câu hỏi của bạn là mô hình nào tốt hơn, câu trả lời là rõ ràng không thể nhầm lẫn và trang này có thể kết thúc tại đây.

Câu hỏi đáng đặt ra thay vào đó là mô hình nào có vai trò trong triển khai của bạn. Một mô hình 22 GB không chạy được trên điện thoại, máy tính xách tay hay Jetson ở bất kỳ cấu hình hữu ích nào. Một mô hình 1 GB không sửa được kho mã nguồn. Đó là những ràng buộc khác nhau, và một so sánh chỉ đếm điểm benchmark sẽ khiến bạn mua nhầm mô hình.

Cái gì thực sự phù hợp ở đâu

Nemotron 3.5 Lightning 30B A3B là một mô hình hỗn hợp chuyên gia (mixture-of-experts) lai: tổng cộng 30 tỷ tham số với khoảng 3 tỷ tham số hoạt động, 128 chuyên gia được định tuyến với sáu chuyên gia kích hoạt cùng một chuyên gia chia sẻ, và các lớp không gian trạng thái Mamba-2 xen kẽ với một số ít lớp full-attention. NVIDIA cung cấp trọng số tham chiếu BF16 và bản dựng NVFP4 khoảng 22 GB vừa một GPU, và mô hình chạy trên phần cứng B200, H100, H200, A100, GB200, DGX Spark, RTX 5090 và Jetson.

LFM3-1.7B là mô hình dense nhỏ gọn: 1,73 tỷ tham số, 24 lớp tích chập ngắn có cổng và attention thưa, 3,46 GB ở BF16 và khoảng 1 GB ở 4-bit. Thẻ của Liquid cho biết nó vừa trên điện thoại hoặc laptop, và ở kích thước đó, tuyên bố này vẫn đứng vững.

• Tổng số tham số — 1.73B dense cho LFM3-1.7B; 30B với khoảng 3B active cho Nemotron 3.5 Lightning.

• Bộ nhớ triển khai — khoảng 1 GB ở 4-bit so với khoảng 22 GB ở NVFP4.

• Ngữ cảnh — 262.144 token so với tối đa 1.000.000, với 256K trên một H100 đơn lẻ và 262K trên các endpoint được lưu trữ.

• Phương thức — cả hai đều chỉ có văn bản; không bên nào cung cấp đường dẫn thị giác hay âm thanh trong các checkpoint này.

• Ngôn ngữ — mười sáu ngôn ngữ được nêu tên cho LFM3-1.7B; tiếng Anh cùng năm ngôn ngữ khác cho Nemotron 3.5 Lightning.

• Giấy phép — LFM Open License v1.0, miễn phí dưới 10 triệu USD doanh thu hằng năm, so với OpenMDW-1.1, vốn cho phép sử dụng thương mại và phi thương mại mà không cần kiểm tra doanh thu.

Lập luận về tốc độ của Nemotron không phải là ở chỗ nó nhỏ

Thật dễ để hiểu “Lightning” và “3B active” như cùng một lời chào hàng của một mô hình dense nhỏ gọn. Nhưng không phải vậy. Câu chuyện tốc độ của NVIDIA dựa trên ba thứ mà mô hình LFM3 không có: kiến trúc lai Mamba-2 mở rộng tốt hơn với chuỗi dài, dự đoán nhiều token với giải mã suy đoán, và các mô hình nháp chuyên dụng — DSpark cho DGX Spark và các thiết lập ít đồng thời, DFlash như một lựa chọn thay thế.

Các số đo được công bố củng cố điều này. Trên DGX Spark, vLLM với DSpark đạt khoảng 115,8 token/giây ở chế độ một luồng và tổng cộng khoảng 422 token/giây khi có tám yêu cầu đồng thời, so với khoảng 79,6 token/giây khi không có suy đoán. NVIDIA tuyên bố tốc độ sinh nhanh hơn tới bốn lần so với các mô hình có kích thước tương tự và định vị mô hình trên biên Pareto độ chính xác-tốc độ.

Lợi thế tốc độ của LFM3-1.7B là khác về bản chất. Nó nhanh vì hầu như không có gì phải chạy — 1,73 tỷ tham số dense, bộ đệm KV 1,6 GB ở 128K token, và không có chi phí định tuyến. Liquid báo cáo tốc độ giải mã nhanh hơn 1,8 đến 2,8 lần so với các phiên bản tiền nhiệm của chính nó trên phần cứng đã thử nghiệm và 3,6 tỷ token mỗi ngày trên một NVIDIA B300 duy nhất. Đó là thông lượng trên phần cứng mà không ai đưa vào điện thoại.

Vậy hai mô hình nhanh vì những lý do trái ngược nhau: một mô hình nhờ kỹ thuật thiết kế để mô hình lớn tính toán ít hơn trên mỗi token, mô hình kia nhờ nhỏ đến mức câu hỏi trở nên không còn đáng bàn. Trên máy chủ, yếu tố kỹ thuật thắng thế. Trên thiết bị, mô hình nhỏ là lựa chọn duy nhất tồn tại.

Khoảng cách năng lực, được trình bày rõ ràng

Thẻ Hugging Face của NVIDIA liệt kê 81,62 trên MMLU-Pro, 75,57 trên GPQA Diamond và 52,80 trên SWE-bench Verified đối với Nemotron 3.5 Lightning 30B A3B. Liquid báo cáo 63,37 trên GPQA Diamond và 43,40 trên SWE-bench Verified đối với LFM3-1.7B, đồng thời hoàn toàn không công bố con số MMLU-Pro nào cho mô hình đó.

Hai trong số ba cái đó có thể so sánh trực tiếp và cả hai đều nghiêng về NVIDIA, với 12,2 và 9,4 điểm. Đó là một khoảng cách thực sự ở đúng những tác vụ mà một mô hình dense nhỏ yếu nhất: suy luận khoa học ở cấp sau đại học và sửa mã quy mô kho lưu trữ. Thẻ mô hình của chính Liquid cũng thừa nhận điều thứ hai, nêu rằng mô hình không được khuyến nghị cho lập trình tác tử hoặc suy luận đa bước phức tạp do kích thước nhỏ của nó.

Một lưu ý về các chữ số chính xác: các số liệu NVIDIA công bố cho checkpoint này có sai lệch nhẹ giữa tài liệu phát hành và bảng đánh giá trên Hugging Face — các bài viết trước đó dẫn 75.44 và 51.56 cho cùng hai benchmark. Hướng và độ lớn tương đối của khoảng cách này ổn định qua các phiên bản; hãy coi các chữ số thập phân cụ thể là do nhà cung cấp báo cáo và phụ thuộc phiên bản, chứ không phải điểm cố định.

Ở những chỗ LFM3-1.7B có số liệu riêng, chúng mang tính tác nhân chứ không dựa trên kiến thức: 71,39 trên BFCL V4, 80,36 trên ToolSandbox, 68,01 trên τ³-bench, 38,42 trên WebArena-Verified, 96,66 trên IFEval. NVIDIA không công bố số liệu BFCL hay ToolSandbox cho checkpoint này, nên không thể đối chiếu. NVIDIA có báo cáo độ chính xác 86% trên PinchBench qua 10.000 tác vụ, hoàn thành nhanh hơn 30% so với Qwen3.6-35B ở độ chính xác tương đương — một tuyên bố mà Liquid không có điểm tương ứng. Hai nhà cung cấp đơn giản là đã đo những thứ khác nhau, và chỉ phần trùng lặp mới hỗ trợ được một kết luận.

Bối cảnh là khoảng cách thực tế lớn nhất

Một triệu token so với 262.144 không phải là khác biệt nhỏ. Cửa sổ gốc của Nemotron 3.5 Lightning dài gấp bốn lần, và ngay cả cấu hình một H100 thận trọng ở 256K cũng ngang bằng mức tối đa của mô hình LFM3. Với các khối lượng công việc xoay quanh ngữ cảnh toàn bộ kho mã, vết tác tử dài hạn hoặc bản ghi kéo dài hàng giờ, cửa sổ của mô hình nhỏ chính là giới hạn trước cả năng lực của nó.

Tuy nhiên, cần lưu ý rằng cửa sổ dài và khả năng ghi nhớ ngữ cảnh dài là những tuyên bố khác nhau. LFM3-1.7B báo cáo 65.56 trên RULER ở 128K, mức này khá khiêm tốn — nó có thể nhận 262K token nhưng không nắm giữ toàn bộ ngữ cảnh đó tốt như nhau. NVIDIA chưa công bố con số RULER cho checkpoint này trong các tài liệu được xem xét ở đây, vì vậy không thể thực hiện so sánh về khả năng ghi nhớ. Đừng giả định rằng cửa sổ 1M đồng nghĩa với 1M attention hữu dụng.

Các giấy phép khác nhau nhiều hơn so với những gì các điểm chuẩn cho thấy

Đây là khía cạnh duy nhất mà nhà cung cấp của mô hình nhỏ đã đưa ra lựa chọn kém thuận tiện hơn. Nemotron 3.5 Lightning 30B A3B được phát hành theo OpenMDW-1.1, cho phép sử dụng cho mục đích thương mại và phi thương mại mà không có ngưỡng doanh thu. LFM3-1.7B được cấp phép theo LFM Open License v1.0, miễn phí cho mục đích thương mại dưới 10 triệu USD doanh thu hằng năm, và phải có giấy phép thương mại trả phí khi vượt ngưỡng đó.

Đối với một nhà phát triển cá nhân hoặc một startup, sự khác biệt chỉ mang tính lý thuyết. Còn với một đội ngũ trong một công ty lớn, hoặc một đội đang có kế hoạch trở nên lớn, đó là một bước mua sắm mà Nemotron tránh hoàn toàn. Vì toàn bộ điểm bán của LFM3-1.7B là triển khai bên trong sản phẩm của chính bạn, nên giấy phép đáng để đọc trước khi kiến trúc đáng để chiêm ngưỡng.

Nơi mô hình 1 GB vẫn là câu trả lời

Không điều nào ở trên khiến LFM3-1.7B trở thành một mô hình tồi. Nó khiến nó trở thành một mô hình có phạm vi triển khai hẹp, và trong phạm vi đó, không có gì về Nemotron 3.5 Lightning là liên quan vì mô hình lớn hơn hoàn toàn không thể hiện diện ở đó.

Nếu sản phẩm được triển khai trên điện thoại, máy tính xách tay, AI PC không có GPU rời hay thiết bị hiện trường, thì LFM3-1.7B không phải là phương án thỏa hiệp — nó là thành viên duy nhất trong cặp này chạy được. Ngữ cảnh 262,144 token trên một thiết bị vừa túi áo thực sự là điều bất thường, và bộ từ vựng mười sáu ngôn ngữ bao phủ hầu hết các triển khai khu vực. Đối với gọi công cụ, trích xuất có cấu trúc, phân loại và trợ lý cục bộ, thế là đủ để xây dựng một sản phẩm.

Mô hình đúng đắn cho hầu hết các nhóm là cả hai, theo tầng. Giữ LFM3-1.7B trên thiết bị cho các lệnh gọi nhanh, riêng tư, có khuôn dạng schema, và gửi công việc nặng về suy luận hoặc ở quy mô kho mã cho một mô hình phía máy chủ. Đó là một quyết định kiến trúc, không phải sở thích mô hình, và hóa ra đó chính là cách hầu hết các agent đang được đưa vào vận hành đã được xây dựng.

Một lớp định tuyến phù hợp ở tầng máy chủ. Nemotron 3.5 Lightning được cung cấp thông qua ngăn xếp của chính NVIDIA và một số nền tảng bên thứ ba, và vai trò của OrcaRouter chính là vai trò mà nó đảm nhận với bất kỳ mô hình nào chúng tôi không tự vận hành: một khóa duy nhất và một hóa đơn duy nhất cho hơn 200 mô hình, giá niêm yết của nhà cung cấp được chuyển thẳng với mức phụ thu 0%, và chuyển đổi dự phòng tự động giữa các nhà cung cấp để một agent chạy lâu dài không bị lỗi vì một điểm cuối bị suy giảm. Cả LFM3-1.7B lẫn Nemotron 3.5 Lightning đều chưa có trong danh mục của chúng tôi hôm nay — cả hai đều là bản tải xuống trọng số mở, và bản nhỏ được thiết kế để chạy trên phần cứng bạn sở hữu.

Sàn nhà chính là điểm nhấn

Nếu bạn có GPU và vấn đề của bạn là năng lực, thì Nemotron 3.5 Lightning 30B A3B là mô hình tốt hơn vượt trội rõ rệt và không có gì để tranh cãi. Nó suy luận tốt hơn, sửa mã tốt hơn, giữ ngữ cảnh gấp bốn lần, và giấy phép của nó không có điều kiện kiểm tra doanh thu.

Nếu bạn có một thiết bị và vấn đề của bạn là không còn thứ gì khác vừa vặn trên đó, thì phép so sánh đảo ngược hoàn toàn. Một mô hình 22 GB không phải là ứng viên, và những con số liên quan trở thành 1 GB, 262,144 token và một hồ sơ gọi công cụ đủ mạnh đến mức Liquid đã công bố đó là năng lực nổi bật hàng đầu của mô hình.

Câu hỏi mở là liệu công thức tối ưu hiệu suất của Nemotron có thể nén thêm hay không. Một mô hình 30B với 3B tham số hoạt động đã chạy được trên Jetson; một mô hình lớp 2B thực sự mạnh trong cùng dòng sẽ đưa hai mô hình này vào cùng một cuộc so sánh, thay vì đặt chúng ở hai bên của một bức tường bộ nhớ. Cho đến lúc đó, so sánh trung thực không phải là giữa điểm chuẩn của chúng mà là giữa phần cứng mà mỗi mô hình yêu cầu — và chỉ một trong hai không yêu cầu phần cứng nào.