Nemotron 3.5 Super VL vs Nemotron 3.5 Lightning: Hai tầng của cùng một dòng, và token quyết định chọn cái nào

Hai mô hình này không phải là đối thủ của nhau, và việc coi chúng là một chính là sai lầm mà các bảng thông số kỹ thuật mời gọi người ta mắc phải. NVIDIA Nemotron 3.5 Super VL là một mô hình ngôn ngữ–thị giác 120 tỷ tham số, 12 tỷ tham số hoạt động, cần bốn H100 hoặc hai GB200 để chạy ở độ chính xác đầy đủ. NVIDIA Nemotron 3.5 Lightning 30B-A3B là một mô hình văn bản 30 tỷ tham số, 3 tỷ tham số hoạt động, vừa vặn trên một DGX Spark hoặc một H100. Cả hai dùng chung một giấy phép — OpenMDW-1.1, dùng cho mục đích thương mại, trọng số mở và công thức mở — và cùng chia sẻ một triết lý thiết kế là giảm bớt chi phí tính toán trên mỗi token bằng Mamba-2 và các chuyên gia thưa. Chúng không dùng chung phương thức đầu vào, mức sàn phần cứng hay một công việc. Lightning là bản ra đời sớm hơn trong hai bản, khoảng hai tháng, khi đã phát hành vào ngày 11 tháng 8 năm 2026; trọng số của Super VL ra mắt vào ngày 12 tháng 10 năm 2026 với thông báo của NVIDIA sau đó vào ngày 15 tháng 10, vậy nên một trong hai là bản phát hành đã ổn định còn bản kia mới chỉ một ngày tuổi.

Cổng, nói một cách dễ hiểu

Cả hai mô hình đều là các checkpoint có thể tải xuống, đi kèm các công thức đánh giá đã được công bố. Cả hai đều do nhà cung cấp đánh giá: mọi con số trong các bảng bên dưới đều đến từ bộ khung NeMo Gym hoặc NeMo Evaluator của chính NVIDIA, chứ không phải từ bên thứ ba, và không mô hình nào có một cuộc kiểm toán độc lập về thông lượng hay độ chính xác đứng sau nó. Lưu ý đó áp dụng cho toàn bộ phần so sánh và không được lặp lại trên từng dòng.

Lightning có vị thế tốt hơn ở chỗ: NVIDIA cho biết checkpoint Lightning 30B-A3B NVFP4 đã được tải về khoảng 907.000 lần trên Hugging Face, so với khoảng 142 lượt đối với checkpoint BF16 Super VL mới được một ngày tuổi. Đó không phải là tín hiệu về chất lượng — mà là sự khác biệt giữa một mô hình bạn có thể chạy trên accelerator cấp laptop và một mô hình bạn không thể.

Hai điểm kiểm tra chứa những gì

Nemotron 3.5 Lightning 30B-A3B là một mô hình hỗn hợp chuyên gia lai (hybrid mixture-of-experts) được xây dựng từ các lớp Mamba-2 và MoE xen kẽ cùng một vài lớp attention, với tổng cộng 30B tham số và 3B tham số hoạt động mỗi token, ngữ cảnh 1M token, và văn bản là đầu vào duy nhất. NVIDIA đã huấn luyện nó trên hơn 20 nghìn tỷ token bằng công thức tiền huấn luyện NVFP4, bổ sung các đầu Multi-Token Prediction, rồi tinh chỉnh trên dữ liệu tổng hợp về lập trình, toán học, khoa học, gọi công cụ và tuân theo chỉ dẫn trước một giai đoạn học tăng cường GRPO. Mô hình đi kèm ba chiến lược giải mã suy đoán riêng biệt — DSpark cho công việc trung tâm dữ liệu có độ đồng thời thấp và DGX Spark, cùng với MTP và DFlash — một mức độ kỹ thuật suy luận bất thường đối với một mô hình 30B, và nó cho bạn biết ai là người dùng dự kiến: ai đó chạy agent cục bộ và theo dõi đồng hồ.

NVIDIA Nemotron 3.5 Super VL dùng chung bộ khung và bổ sung đôi mắt. Vẫn là cấu trúc lai xen kẽ Mamba-2, MoE và attention, nhưng với 512 chuyên gia định tuyến mỗi lớp MoE, một bộ mã hóa thị giác C-RADIO và một bộ kết nối thị giác-ngôn ngữ, tổng cộng 120B tham số và 12B tham số hoạt động, cùng đầu vào văn bản, hình ảnh và video. Phần xương sống ngôn ngữ của nó được khởi tạo từ Nemotron 3 Super Base, sau đó được chưng cất trong một nghìn tỷ token từ Nemotron 3 Ultra Base trước khi tiền huấn luyện tiếp tục, một phần mở rộng 35 tỷ token lên ngữ cảnh 1M, giai đoạn huấn luyện trung gian về kỹ thuật phần mềm và một giai đoạn phục hồi ngữ cảnh dài. Hai bản phát hành cũng dùng chung một báo cáo kỹ thuật — NVIDIA đã công bố công trình Super và Lightning cùng nhau.

• Tham số hoạt động — 12B mỗi token đối với Super VL so với 3B ở Lightning. Gấp bốn lần khối lượng tính toán trên mỗi token được tạo ra, trước khi tính đến bộ mã hóa thị giác.

• Các phương thức — văn bản, hình ảnh và khung hình video được lấy mẫu vào Super VL; nhập văn bản, xuất văn bản đối với Lightning. Các ngôn ngữ được Lightning hỗ trợ gồm tiếng Anh, tiếng Tây Ban Nha, tiếng Pháp, tiếng Đức, tiếng Ý và tiếng Nhật.

• Mức tối thiểu về phần cứng — 4×H100 hoặc 2×GB200 ở BF16 cho Super VL, cùng bản dựng NVFP4 và một microservice NIM cho môi trường production; một DGX Spark, một H100, một RTX 5090 hoặc silicon lớp Ampere thông qua W4A16 cho Lightning.

• Ngữ cảnh — 1M token ở cả hai, cả hai đều có công thức được công bố thay vì một mức tối đa được quảng cáo duy nhất.

• Giải mã suy đoán — Super VL sử dụng đầu MTP của riêng mình ở chế độ gốc, không cần tải drafter; Lightning cung cấp các biến thể DSpark, MTP và DFlash dưới dạng các checkpoint riêng biệt.

• Giấy phép — OpenMDW-1.1 cho cả hai, được phép sử dụng thương mại, cùng với các tập dữ liệu mở và môi trường RL trên Hub.

Những con số nói gì và không nói gì

Trên bộ khung đánh giá của chính NVIDIA, hai mô hình không hề sát nhau, và điều đó là đương nhiên: một mô hình có 12B tham số hoạt động phải đánh bại một mô hình 3B tham số hoạt động. Cụ thể hóa khoảng cách này bằng các bảng số liệu đã công bố của NVIDIA: GPQA-Diamond 89,52 cho Super VL so với 75,44 cho Lightning; HLE chỉ văn bản 31,79 so với 11,72; SWE-bench Verified 71,10 so với 51,56; Terminal-Bench 2.1 66,70 so với 24,58; AA-LCR 68,62 so với 52,00.

Quy luật bên trong các hàng đó hữu ích hơn chính các hàng đó. Lợi thế của Super VL là rất lớn trên các benchmark ngữ cảnh dài và thực thi tác tử, nhưng tương đối khiêm tốn ở kiến thức tổng quát — MMLU-Pro là 76,91 so với 81,94 của Lightning, một trường hợp hiếm khi mô hình nhỏ hơn thắng một hàng. Đó là hình dạng của một mô hình được chủ đích huấn luyện giữa chừng trên dữ liệu kỹ thuật phần mềm và được trao một giai đoạn phục hồi ngữ cảnh dài: nó giỏi hơn ở việc theo đuổi một tác vụ đến cùng so với việc nhớ lại các sự kiện. Nếu khối lượng công việc của bạn là hỏi đáp dựa trên sự kiện với văn bản ngắn, nhược điểm của mô hình 30B phần lớn biến mất, và điều đó diễn ra với chỉ một phần tư lượng tính toán trên mỗi token.

NVIDIA đưa ra một lưu ý trên thẻ Lightning đáng để nhắc lại nguyên văn về nội dung: các con số được đo với checkpoint NVFP4 chính thức và áp dụng cho checkpoint đó, và NVIDIA lưu ý rằng đánh giá của chính họ có thể khác với các con số mà nhà cung cấp của những mô hình cạnh tranh báo cáo. Đó là một câu trung thực đến bất thường, và nó cũng áp dụng tương tự cho bảng của Super VL.

Chọn hạng, và những gì xảy ra ở cấp trên nó

Quy tắc ra quyết định được suy ra từ phương thức và mức nền hạ tầng chứ không phải từ chỉ số. Bất cứ thứ gì phải đọc một trang — hóa đơn, biểu đồ, biểu mẫu được quét, ảnh chụp màn hình của một ứng dụng, một khung hình video — chỉ có thể chạy trên Super VL, vì Lightning hoàn toàn không có đường xử lý pixel. Bất cứ thứ gì mà đầu vào là văn bản và đầu ra là văn bản, chạy liên tục, và nằm trên phần cứng bạn đã sở hữu, thì thuộc về Lightning, vì một mô hình kích hoạt 3B ở NVFP4 trên một bộ tăng tốc duy nhất có cơ sở chi phí hoàn toàn khác so với mười hai tỷ tham số hoạt động trải trên bốn GPU.

Phía trên cả hai là NVIDIA Nemotron 3 Ultra 550B-A55B, mẫu mà thẻ Super VL đánh giá hiệu năng trực tiếp so với nó và cần tám GB200 hoặc mười sáu H100. Ba tầng, ba lớp phần cứng, một giấy phép. Dòng sản phẩm này được thiết kế để một tổ chức duy nhất có thể triển khai cả ba và chuyển công việc qua lại giữa chúng, và bài toán kỹ thuật thú vị không nằm ở việc chọn một cái — mà là bộ định tuyến quyết định yêu cầu nào đi đến đâu.

Lớp định tuyến đó chính là nơi một nền tảng, chứ không phải một checkpoint, chứng minh được giá trị của mình, và ở đây thật đáng để nói chính xác về những gì chúng tôi làm và không làm. OrcaRouter không cung cấp NVIDIA Nemotron 3.5 Super VL, Nemotron 3.5 Lightning 30B-A3B hay Nemotron 3 Ultra 550B-A55B; không mô hình nào trong ba mô hình đó có trong danh mục của chúng tôi, và theo định nghĩa, một checkpoint tự vận hành không phải thứ mà nhà cung cấp API có thể đưa cho bạn. Thứ chúng tôi cung cấp là phần bao quanh một đội máy hỗn hợp gồm cục bộ và dịch vụ lưu trữ: DSL định tuyến giúp kết hợp nhiều mô hình vào một lệnh gọi duy nhất, để một pipeline có thể gửi những trang đơn giản, máy móc của mình đến một mô hình nhỏ, rẻ và chỉ đẩy những trang khó lên, và tự động chuyển đổi dự phòng giữa các nhà cung cấp thượng nguồn để việc một phụ thuộc được lưu trữ bị suy giảm không kéo pipeline sập theo. Phía danh mục trong phương trình đó — hiện có hơn hai trăm mô hình nằm sau một khóa duy nhất, với mức cộng thêm 0% so với giá niêm yết của nhà cung cấp — là thứ mà nhánh chuyển cấp gọi vào. Một Lightning tự vận hành đảm nhiệm khối lượng lớn và một mô hình lưu trữ được định tuyến đảm nhiệm các ngoại lệ tạo nên một hệ thống nhỏ hơn và an toàn hơn so với từng nửa khi đứng riêng.

Xem gì

Sự trưởng thành tương đối của Lightning là biến số bị đánh giá thấp. Nó đã được công khai từ tháng Tám, có các bản lượng tử hóa của bên thứ ba, hỗ trợ llama.cpp, Ollama, LM Studio và vLLM, cùng lượng tải đủ lớn để các kiểu lỗi đã được biết rõ. Super VL có model card, báo cáo kỹ thuật, công thức vLLM ngay từ ngày đầu và số lượt tải mới được một ngày. Chạy nó trong môi trường sản xuất tháng này nghĩa là trở thành người phát hiện ra những điểm chưa hoàn thiện.

Điều cụ thể cần theo dõi là liệu bản dựng NVFP4 Super VL có thu hẹp khoảng cách phần cứng đủ để tạo khác biệt hay không. Nếu một mô hình 120B-A12B đã lượng tử hóa chạy hữu ích trên một số ít bộ tăng tốc — không phải một, mà ít hơn bốn — thì ranh giới phân hạng sẽ dịch chuyển và toàn bộ gia đình ba mô hình trở nên rẻ hơn khi triển khai như một đơn vị. Cho đến khi điều đó xảy ra, sự phân chia là theo phương thức: Lightning cho văn bản với khối lượng lớn trên phần cứng của chính bạn, Super VL cho bất cứ thứ gì có pixel, Ultra khi tác vụ thực sự cần mô hình lớn nhất mà NVIDIA bán.