Nemotron 3.5 Super VL ngang ngửa Inkling Small chỉ với chưa bằng một nửa trọng số

Tuần này, hai mô hình cùng đạt 26 điểm trên Artificial Analysis Intelligence Index, và phần thú vị nằm ở chi phí mà mỗi mô hình đã bỏ ra để đạt được con số đó. NVIDIA Nemotron 3.5 Super VL là một mô hình hỗn hợp chuyên gia 120 tỷ tham số với 12 tỷ tham số hoạt động. Inkling Small, bản phát hành tháng 7 của Thinking Machines, là một mô hình hỗn hợp chuyên gia 266 tỷ tham số với 12 tỷ tham số hoạt động. Cùng điểm số, cùng ngân sách tham số hoạt động, nhưng trọng số lưu trên đĩa chưa bằng một nửa. Các bảng benchmark cho biết mô hình đạt điểm bao nhiêu; còn hồ sơ sự cố cho biết những bản phát hành như thế này thất bại khi đưa vào vận hành thực tế ra sao, và những trường hợp đó được ghi lại trong OrcaRouter AI Incident Archive, nơi mỗi mục đều có nguồn riêng, mức độ nghiêm trọng, cấp độ tin cậy và cờ tranh chấp.

Đó là bức tranh của tuần trước trong mảng trọng số mở tại Mỹ, và đó là một câu chuyện hay hơn bài đăng ra mắt mà NVIDIA công bố vào thứ Năm ngày 15 tháng 10. Thông báo đã ghép Nemotron 3.5 Super VL với Nemotron 3.5 Bolt 74B-A9B 24GB — một mô hình 74 tỷ tham số được nén vào 24 GB bộ nhớ — và hứa hẹn một mô hình thứ ba, Nemotron 3.5 Bolt E4B 4GB, vào ngày 23 tháng 10. Ba mô hình trong tám ngày với ba mức dung lượng bộ nhớ không phải là nhịp ra mắt; đó là một lập luận về danh mục sản phẩm, và lập luận đó là năng lực trên mỗi gigabyte giờ mới là con số quan trọng.

Đã giao những gì và vào ngày nào

Các mốc thời gian đáng được nêu chính xác, bởi vì các tài liệu của chính NVIDIA lệch nhau ba ngày và sự lệch nhau đó mang tính thông tin chứ không phải là điều tai tiếng.

• Trọng số — kho BF16 nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 đã được tạo trên Hugging Face lúc 2026-10-12T15:32:06Z, cùng với một bản anh em NVFP4 sau đó 24 giây và một checkpoint cơ sở trước hậu huấn luyện 17 giây trước đó.

• Thông báo — bài đăng trên newsroom của NVIDIA có ngày xuất bản là 15 tháng 10 năm 2026. Trường ngày phát hành của chính model card ghi 10/15/2026 ở phiên bản 1.0 GA.

• Bolt 74B — kho lưu trữ 24 GB của nó có từ trước thông báo khá lâu, được tạo ngày 7 tháng 10, với một bản dựng GGUF xuất hiện trên Hub vào tối hôm đó. Bài blog giới thiệu nó như được phát hành cùng Super VL vào ngày 15.

• Bolt E4B — đã được công bố cho ngày 23 tháng 10, tính đến thời điểm viết bài vẫn chưa có trọng số.

Vậy là các sản phẩm công khai đã xuất hiện trước phần diễn giải công khai. Ai xác định ngày triển khai dựa vào thông cáo báo chí sẽ chậm ba ngày so với một mô hình vốn đã có thể tải xuống, còn ai xác định ngày đó từ kho lưu trữ sẽ trích dẫn một dấu thời gian mà NVIDIA chưa từng xác nhận. Cả hai cách đều có lý; viết "phát hành ngày 15 tháng 10" mà không nêu ngày 12 là phiên bản làm mất thông tin.

Điểm số là phần nhàm chán. Mẫu số mới là câu chuyện.

Điểm nhấn mà NVIDIA dành cho Super VL là tốc độ — “thông lượng nhanh hơn tới 5 lần so với các mô hình khác cùng phân khúc”, được dẫn nguồn từ bảng xếp hạng Artificial Analysis. Tuyên bố này vẫn chưa được xác minh đầy đủ và phần bên dưới sẽ đề cập đến nó. Sự thật đáng tin cậy về bản phát hành này lại là một điều khác: mô hình đạt 26 điểm trên cùng bảng đánh giá mà phiên bản tiền nhiệm ra mắt hồi tháng 3, NVIDIA Nemotron 3 Super 120B A12B, chỉ đạt 13 điểm, và mô hình đạt được điều đó với kích thước gần như y hệt.

• Tham số — tổng cộng 120B, 12B hoạt động, 512 chuyên gia được định tuyến mỗi lớp MoE. Mô hình tháng 3 có tổng cộng 120,6B và 12,7B hoạt động. Đây không phải là một mô hình lớn hơn.

• Chỉ số Trí tuệ — 26 so với 13, theo Artificial Analysis, cả hai đều được đánh dấu là không ước tính. Gần gấp đôi, trên cùng ngân sách tham số.

• Token đầu ra cho mỗi tác vụ Index — khoảng 49.000 so với khoảng 114.000. Mô hình mới hoàn thành cùng một đánh giá với số token ít hơn khoảng 57%, và đây là cơ chế đằng sau phần lớn mức tăng vọt: nó ngừng suy nghĩ quá mức.

• So với Inkling Small — cả hai đều 26. Super VL làm được điều đó với tổng cộng 120B so với 266B của Inkling Small, và cả hai đều kích hoạt khoảng 12B mỗi token.

• So với Nemotron 3 Ultra 550B A55B — 23. Mô hình cỡ trung mới của NVIDIA đánh bại mẫu flagship 550 tỷ tham số của chính hãng với cách biệt ba điểm, trong khi kích thước chỉ bằng khoảng một phần tư.

Hai trục hiệu quả thường xuyên bị gộp lẫn với nhau, nên đáng để tách bạch chúng. Tham số hoạt động quyết định chi phí để sinh ra một token. Tổng tham số quyết định chi phí lưu trữ, tải và giữ thường trú của checkpoint. Super VL cải thiện cả hai: nó giữ tham số hoạt động cố định ở 12B trong khi giảm gần một nửa tổng tham số so với Inkling Small, và giữ tổng tham số cố định ở 120B trong khi tăng gần gấp đôi điểm số so với phiên bản tiền nhiệm của chính nó. Một mô hình chỉ cải thiện trên một trục vẫn sẽ đáng chú ý. Mô hình này đã làm được cả hai trong cùng một bản phát hành.

Bolt là nửa yên tĩnh hơn của bản phát hành và nó không có điểm đánh giá độc lập.

Mô hình 24 GB là mô hình mà hầu hết các nhóm thực sự có thể chạy trên phần cứng họ sở hữu. Nemotron 3.5 Bolt 74B-A9B 24GB là một hỗn hợp chuyên gia 74 tỷ tham số với 9 tỷ tham số hoạt động, được lượng tử hóa xuống khoảng 2,06 bit mỗi chuyên gia trong quá trình huấn luyện thay vì sau đó, ngữ cảnh 262.144 token và cùng các điều khoản OpenMDW-1.1 như phiên bản cùng dòng lớn hơn của nó. Đây là một mô hình lai Mamba-2 và Transformer với bộ mã hóa thị giác C-RADIO v4-H, nên nó nhận văn bản, hình ảnh và video và trả về văn bản.

Model card của NVIDIA báo cáo, trên bộ harness riêng của họ: GPQA-Diamond 86.43, HLE không dùng công cụ 25.30, Terminal-Bench 2.1 50.98, SciCode 41.02, BrowseComp 66.75, PinchBench 87.82 và WebArena vision 50.86. Tất cả những con số đó đều do nhà cung cấp tự chạy và chưa được tái lập. Trên bảng đánh giá độc lập, mô hình đạt 21 — một kết quả thực sự mạnh đối với thứ vừa vặn trên một card 24 GB, đồng thời cũng là lời nhắc phải cẩn thận với bảng của nhà cung cấp, bởi 86.43 trên GPQA-Diamond nằm cạnh chỉ số tổng thể 21 rất dễ khiến người ta đọc quá mức vào một dòng duy nhất.

Phân bố lượt tải tự kể câu chuyện của nó: bản dựng GGUF của Bolt đã thu hút hơn 87.000 lượt tải, so với khoảng 18.700 lượt của kho BF16 Super VL. Mô hình mà người ta có thể chạy trên máy tính xách tay chính là mô hình mà người ta đang tải về. Đó không phải là lời bình về chất lượng; đó là lời bình về mục đích thực sự của “trọng số mở”.

Mỹ thực sự đang ở đâu

Lợi ích về hiệu quả là có thật, và tuyên bố dẫn đầu cần một điều kiện kèm theo mà bài đăng của NVIDIA không đưa ra. Trong số các mô hình open-weight của phòng thí nghiệm Hoa Kỳ trên bảng đánh giá độc lập, Meta Muse Spark Open đạt 39 điểm và vượt mọi thứ NVIDIA tung ra tuần trước. Nó cũng bị giới hạn trên Hub theo một giấy phép thương mại riêng, điều này đặt nó vào một nhóm ứng dụng khác với một checkpoint mà bạn có thể tải xuống theo OpenMDW-1.1 mà không cần hỏi ai.

• Muse Spark Open — 39, có kiểm soát truy cập, giấy phép riêng.

• Nemotron 3.5 Super VL — 26, không giới hạn, OpenMDW-1.1, tổng 120B / 12B hoạt động.

• Inkling Small — 26, giấy phép permissive, tổng 266B / 12B hoạt động.

• Nemotron 3.5 Bolt 74B-A9B — 21, không cần cấp quyền truy cập, dung lượng 24 GB.

• GPT-5.5 Instant — 26, đã đóng.

Lĩnh vực mô hình trọng số mở của Trung Quốc vẫn là một câu chuyện khác. MiMo-V2.6-Pro đạt 46, GLM-5.3 đạt 45 và Kimi K3 đạt 44 trên cùng một bảng đánh giá, vì vậy mô hình Mỹ có giấy phép cho phép mạnh nhất đang chậm hơn khoảng 20 điểm so với mô hình Trung Quốc mạnh nhất. Câu trả lời của NVIDIA cho khoảng cách đó không phải là một mô hình lớn hơn — mà là huấn luyện hậu kỳ trên dữ liệu của chính bạn, với các bộ dữ liệu, công thức và môi trường học tăng cường được công bố song song với trọng số. Liệu điều đó có thu hẹp được gì hay không là câu hỏi mà bản phát hành này không giải đáp, và bất kỳ ai khẳng định ngược lại đều đang gán ý đồ vào một bài đánh giá.

Những gì được đo lường, những gì được tuyên bố và những gì đã biến động trong tuần này

Khi ra mắt, tuyên bố thông lượng gấp 5 lần không có gì chống lưng: Artificial Analysis đã liệt kê mô hình mà không có bất kỳ con số tốc độ nào. Điều đó đã thay đổi. Bảng đánh giá hiện ghi nhận tốc độ đầu ra khoảng 430 token/giây, đứng đầu trong 28 mô hình thuộc nhóm so sánh. Vậy nên một phần của tuyên bố giờ đã có bên thứ hai xác nhận: mô hình nhanh, và không chỉ nhanh hơn chút ít. Điều vẫn chưa được kiểm chứng là bội số. “Nhanh gấp 5 lần so với mô hình tốt thứ hai” cần một cái tên cụ thể cho mô hình tốt thứ hai và một harness tương ứng, mà cả bài đăng blog lẫn model card đều không cung cấp.

Bức tranh giá cả cũng đã thay đổi, và thay đổi theo cách quan trọng hơn cả mức được nêu trên tiêu đề.

• Trung vị trên các nhà cung cấp — 0,225 USD mỗi triệu token đầu vào và 0,575 USD mỗi triệu token đầu ra, với mức chiết khấu bộ nhớ đệm 78%, theo Artificial Analysis.

• Chênh lệch giữa các nhà cung cấp công bố mức giá — đầu vào từ $0.10 đến $0.20, đầu ra từ $0.40 đến $0.50 cho cùng một checkpoint.

• Chi phí cho mỗi tác vụ Index — $0.19, đây là điểm giao thoa giữa mức giá thấp và số lượng token cao.

• Độ rườm rà — 170M token đầu ra được tiêu thụ trong toàn bộ lượt chạy Index, so với mức trung vị 100M, được gắn cờ là có phần dài dòng. Đầu ra rẻ cộng với đầu ra dài không tự động rẻ.

Mức chênh lệch gấp 2 lần về giá đầu vào cho cùng trọng số là phát hiện thực tiễn của tuần này. Mô hình là cùng một tệp ở mọi nơi; đồng hồ đo thì không. Đó là lý lẽ để coi việc chọn nhà cung cấp là quyết định định tuyến thay vì quyết định mua sắm — đây đúng là phần của câu chuyện này mà sản phẩm của chính chúng tôi tình cờ giải quyết, và phiên bản trung thực của tuyên bố đó thì hẹp thôi. Nemotron 3.5 Super VL không có trong danh mục của chúng tôi: danh sách mô hình OrcaRouter trả về chỉ hơn 200 ID mô hình và hôm nay không có mục NVIDIA nào. Giá trị của một router ở đây nằm ở chỗ: ngay khi một checkpoint thực sự xuất hiện, nó có mặt với giá niêm yết của nhà cung cấp và mức phụ phí 0%, và một mô hình mới như vậy có thể nằm sau cơ chế chuyển đổi dự phòng tự động thay vì ở gốc của một đường dẫn sản xuất. Cả hai điều đó đều không phải lý do để mua mô hình. Chúng là lý do để không ký hợp đồng chỉ để thử nó.

Ba điều cần theo dõi, và một trong số đó còn chín ngày nữa.

Đầu tiên là Bolt E4B vào ngày 23 tháng 10. Một mô hình thị giác-ngôn ngữ 4 GB đạt điểm số gần với người anh em 24 GB của nó sẽ là bản phát hành có ý nghĩa hơn trong ba bản, vì nó thay đổi cách xác định phần cứng nào được coi là đủ.

Thứ hai là một đánh giá độc lập đối với các checkpoint đã lượng tử hóa. Mọi con số trong bài viết này đến từ NVIDIA đều được đo trên bản dựng độ chính xác đầy đủ hoặc trên harness của nhà cung cấp. Tệp NVFP4 là tệp mà hầu hết mọi người sẽ thực sự phục vụ, và nó không có điểm số nào từ bên thứ ba được công bố. Tuyên bố của chính NVIDIA là mức khôi phục độ chính xác trung vị 99,62% so với BF16 — một con số của nhà cung cấp, trên harness của nhà cung cấp, và là con số chưa được xác minh có sức nặng nhất trong bản phát hành.

Điều thứ ba là liệu chênh lệch giá có thu hẹp lại hay không. Mức chênh gấp đôi giữa máy chủ rẻ nhất và đắt nhất cho một checkpoint mở là một thị trường chưa ổn định, và hướng mà nó ổn định sẽ nói lên nhiều về sáu tháng tới của suy luận open-weight hơn bất kỳ một dòng benchmark đơn lẻ nào.

Điểm số chỉ là dòng tít. Checkpoint nửa kích thước với cùng ngân sách active mới là thứ vẫn còn quan trọng sau một năm nữa.