Thẻ tiêu đề cho phần so sánh, với tiêu đề 'Nemotron for Science vs Nemotron 3.5 Super', nêu rõ rằng đây không phải hai mô hình: checkpoint tháng 10 với tổng 120B và 12B hoạt động, cùng 512 chuyên gia được định tuyến mỗi lớp MoE, trọng số trên Hugging Face ngày 12 tháng 10 năm 2026 và được công bố ngày 15 tháng 10, gói tháng 11 vào ngày 16 tháng 11 tại SC26 ở Chicago, và khoảng 50.000 câu hỏi LitmusBench v0.2 là hiện vật mô hình mới duy nhất.
Engineering & Research

Nemotron for Science so với Nemotron 3.5 Super: Cùng trọng số, khác sản phẩm

Tác giả

jinhao.song

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

So sánh này có một sự thật khó xử ở ngay trung tâm: NVIDIA Nemotron for Science và NVIDIA Nemotron 3.5 Super không phải là hai mô hình. Chúng là cùng một checkpoint 120 tỷ tham số, được phát hành cách nhau năm tuần, khoác lớp đóng gói khác nhau. Nemotron 3.5 Super là phần trọng số — kho chứa dưới tên đầy đủ hơn Nemotron 3.5 Super VL 120B A12B, có trên Hugging Face từ ngày 12 tháng 10 năm 2026, được công bố ngày 15 tháng 10, OpenMDW-1.1, 12 tỷ tham số hoạt động mỗi token, ngữ cảnh 1 triệu token. Nemotron for Science là thứ NVIDIA công bố tại SC26 vào ngày 16 tháng 11: checkpoint đó cộng với LitmusBench v0.2, khoảng 50.000 câu hỏi suy luận hóa học, cộng với các công thức huấn luyện sau và kết nối công cụ CUDA-X, cộng với bảy triển khai tại các tổ chức được nêu tên.

Vậy nên câu hỏi hữu ích không phải là cái nào tốt hơn. Mà là gói tháng 11 bổ sung gì cho checkpoint tháng 10, liệu những bổ sung đó có đáng để có một cái tên riêng hay không, và hôm nay bạn thực sự sẽ tải cái nào nếu muốn chạy các tác nhân hóa học trên silicon NVIDIA. Đó là một câu hỏi thú vị hơn một bảng thông số, và câu trả lời cũng có lợi cho NVIDIA hơn so với một câu chuyện đóng gói lại thông thường.

Cái gì giống hệt, và đó là phần lớn của nó

Bắt đầu với checkpoint, vì mọi thứ trong cả hai gói đều dựa vào nó. Kiến trúc không thay đổi giữa tháng 10 và tháng 11: một hỗn hợp chuyên gia lai giữa Mamba-2 và Transformer, 512 chuyên gia được định tuyến mỗi lớp MoE, các đầu dự đoán đa token, một bộ mã hóa thị giác C-RADIO và một bộ kết nối thị giác-ngôn ngữ, tổng cộng 120B tham số với 12B tham số hoạt động trên mỗi token, và ngữ cảnh lên tới 1M token. Đầu vào là văn bản, ảnh RGB và video MP4 dài tối đa hai phút; đầu ra là văn bản. Mức độ suy luận có thể cấu hình thông qua chat template ở chế độ off, medium hoặc on.

• Tham số — Tổng 120B, 12B hoạt động. Giống hệt ở cả hai. Không có checkpoint Nemotron for Science nào có số lượng tham số khác, vì không có checkpoint Nemotron for Science riêng biệt.

• Giấy phép — OpenMDW-1.1 cho mục đích thương mại và phi thương mại. Giống hệt nhau, và chính điều này khiến cho bài chào hàng về post-training trở nên khả thi.

• Ngữ cảnh — 1 triệu token, với thẻ đề xuất video ở 2 FPS tối đa 256 khung hình, hoặc 1 FPS và 128 khung hình ở 1080p.

• Mức phần cứng tối thiểu — 4× H100 hoặc 2× GB200 ở BF16; bản dựng NVFP4 vừa với một DGX Spark, một H200, hai H100 hoặc một GB200. Dòng DGX Spark chính là dòng mà SC26 dựa vào, và cũng chính là dòng mà bản thông số tháng Mười đã mang theo.

• Điểm chuẩn — GPQA-Diamond 89.52, SWE-bench Verified 71.10, SWE-bench Pro 51.78, Terminal-Bench 2.1 60.67, tau2 retail 69.24, BrowseComp 78, MathVision 78.16, CharXiv reasoning 80.82. Tất cả đều do nhà cung cấp báo cáo, tất cả đều được công bố cùng bảng thông số tháng Mười, không có kết quả nào là mới.

Nếu bạn đã tải Nemotron 3.5 Super vào tháng 10, bạn đã có mô hình mà Nemotron for Science được xây dựng dựa trên đó. Không có nội dung nào trong thông báo tháng 11 làm thay đổi trọng số của nó.

Điều gì thực sự mới, và nó không phải là không có gì.

Giờ đến phần đáng để viết thành bài. Ba thứ đã xuất hiện vào ngày 16 tháng 11 mà chưa hề tồn tại vào ngày 15 tháng 10, và mỗi thứ đều thay đổi những gì bạn có thể làm ngay từ ngày đầu tiên.

LitmusBench v0.2 là tâm điểm. Khoảng 50.000 câu hỏi suy luận hóa học, được xây dựng từ dữ liệu tính chất phân tử và hồ sơ thực nghiệm khám phá thuốc, bao quát các tác vụ như dự đoán độ tan và cách cơ thể chuyển hóa một hợp chất. Hai đặc điểm khiến nó không chỉ là một bảng xếp hạng: nó mở và được thiết kế để dùng cho cả hậu huấn luyện lẫn đánh giá. Một mô hình 120B với giấy phép thông thoáng và không có dữ liệu hóa học để tinh chỉnh là mô hình mà bạn phải tự xây dựng một bộ dữ liệu cho nó; một mô hình 120B đi kèm 50.000 câu hỏi hóa học đã được gán nhãn là mô hình bạn có thể thích nghi trong một tuần. Đó là sự khác biệt mà gói này mang lại.

Các công thức là phần thứ hai. NVIDIA đã công bố các công thức hậu huấn luyện cho việc thích ứng miền và tài liệu hướng dẫn cách nhúng mô hình vào các luồng công việc tác tử nhằm đọc thông tin khoa học, viết mã và gọi các công cụ được tăng tốc bằng CUDA-X. Với bất kỳ ai từng thử làm sao để một mô hình tổng quát gọi đúng một gói động lực học phân tử, thì phần tài liệu về cách nối kết công cụ chính là mảng kém hào nhoáng nhưng lại quyết định liệu vòng lặp có hoạt động được hay không.

Các triển khai là điểm thứ ba, và chúng là bằng chứng chứ không phải đồ tạo tác. Terray Therapeutics đã tinh chỉnh sau huấn luyện mô hình trên các sơ đồ hóa học và khôi phục được khoảng 76% các phản ứng được chú thích trên RxnScribe, vượt qua các kết quả đã công bố trước đó trên hai bộ đánh giá chuẩn. Lila Sciences đạt độ chính xác tổng hợp chấm lượng tử 61% so với 54% của GPT-6 Astra với chi phí suy luận thấp hơn 10–20 lần. Therna gần như tăng gấp đôi độ chính xác dự đoán khoảng biểu hiện protein cho thiết kế mRNA, với việc các nhà khoa học ưu tiên các giải thích của nó trong 96% các so sánh mù. Argonne đang tích hợp nó vào StructBioReasoner; Jülich tích hợp vào các tác nhân khám phá thuốc và khoa học; RIKEN đang phục vụ nó trên RIKYU thông qua cổng RiVault. Và KTH đã xây dựng một tác nhân sửa chữa GROMACS, thứ đã sửa 81% các thiết lập bị cố ý làm hỏng trong một lần chạy qua đêm trên một DGX Spark duy nhất, được chính GROMACS xác minh.

A two-column scoreboard contrasting the October checkpoint with the November package across what it is, when it was announced, dataset, recipes, evidence and price: the checkpoint is the open 120B model alone with a vendor benchmark table and no rate card, while the November package adds LitmusBench v0.2 at about 50,000 questions, post-training recipes with CUDA-X tool wiring, and seven named partners and institutions.

Vì sao việc tách thành hai tên lại có thể biện minh được

Cách lý giải theo hướng hoài nghi là NVIDIA đã công bố cùng một mô hình hai lần. Tôi không cho rằng điều đó đứng vững, và lý do là hai thông báo trả lời những câu hỏi khác nhau.

Câu hỏi của tháng Mười là "checkpoint này là gì và có thể triển khai được không?" Câu trả lời là một MoE thị giác-ngôn ngữ 120B với cửa sổ 1M token, ngưỡng phần cứng tối thiểu trải từ DGX Spark đến một nút GB200, và một tuyên bố về tốc độ — nhanh gấp 5 lần so với mô hình tốt thứ hai trong cùng phân khúc, theo NVIDIA, dù Artificial Analysis không liệt kê mô hình này vào thời điểm đưa ra tuyên bố. Đó là một đợt ra mắt mô hình.

Câu hỏi của tháng Mười Một là “một nhóm hóa học làm gì với nó vào thứ Hai?” Câu trả lời đó là một bộ dữ liệu, một công thức, và bảy tổ chức đã làm việc đó và báo cáo các con số. Phát hành trọng số không phải là cùng một sản phẩm với phát hành một quy trình làm việc, và cái thứ hai mới là thứ mà một nhóm nghiên cứu thực sự có thể áp dụng.

Bằng chứng mạnh nhất cho cách diễn giải đó là hình dạng của các kết quả từ đối tác. Mọi con số tiêu đề đều đến từ một biến thể đã qua huấn luyện sau, không phải từ checkpoint như khi được phát hành. Terray đã tinh chỉnh nó trên các sơ đồ. Lila đã tinh chỉnh nó trên phản hồi từ phòng thí nghiệm. Therna đã tinh chỉnh nó trên dữ liệu thiết kế mRNA. Gói này không tuyên bố rằng mô hình nền là một nhà hóa học; nó tuyên bố rằng mô hình nền là một điểm khởi đầu đủ tốt để một nhóm chuyên môn có thể biến nó thành một nhà hóa học. Đó là một tuyên bố khiêm tốn hơn và hữu ích hơn, và sẽ rất kỳ lạ nếu đưa ra tuyên bố đó vào tháng 10, trước khi bộ dữ liệu tồn tại để làm điều đó.

Những gì gói này vẫn chưa mang lại cho bạn

Ba lỗ hổng, theo thứ tự mức độ thiệt hại nếu bạn phát hiện chúng theo cách khó khăn.

• Không có đánh giá hóa học độc lập nào.Artificial Analysis có liệt kê Nemotron 3.5 Super VL — Chỉ số Trí tuệ 14, 291 token mỗi giây đầu ra, 11,85 giây đến token trả lời đầu tiên, 0,20 đô la mỗi triệu token đầu vào và 0,50 đô la mỗi triệu token đầu ra với mức giảm giá bộ nhớ đệm 75%. Đó là điểm số tổng quát của bên thứ ba, và đáng để biết. Đó không phải là điểm số hóa học. Mọi con số khoa học trong bản phát hành SC26 đều do một bên có quyền lợi liên quan tạo ra, và LitmusBench v0.2 còn quá mới đến mức chưa có nhóm bên ngoài nào công bố kết quả về nó.

• Không có giá từ nhà cung cấp. Mức $0.20/$0.50 ở trên là đồng hồ đo của một nền tảng bên thứ ba, không phải bảng giá của NVIDIA. NVIDIA chưa công bố giá NIM theo từng token, nghĩa là con đường lập ngân sách duy nhất có chi phí đã biết là tự vận hành.

• Không có tỷ lệ hoàn thành cho vòng lặp tác nhân. Kết quả KTH báo cáo 81% các ca kiểm thử đã được sửa, đây là con số cụ thể nhất trong bản phát hành — nhưng nó không báo cáo mỗi bản sửa cần bao nhiêu lệnh gọi công cụ, vòng lặp tác nhân lặp lại mà không có tiến triển thường xuyên đến mức nào, hay một tác vụ đã hoàn thành tốn bao nhiêu chi phí. Đó là những con số quyết định liệu một tác nhân có thể triển khai được hay chỉ đơn thuần gây ấn tượng.

Cách chạy nó và vị trí của stack xung quanh

Lời khuyên triển khai rõ ràng một cách bất thường đối với một bản phát hành trọng số mở, nên hãy hiểu theo đúng nghĩa đen. Model card quy định vLLM với TP4 hoặc TP2, --trust-remote-code, lập lịch bất đồng bộ, giải mã suy đoán MTP với năm token nháp và --max-num-seqs 32; hoặc SGLang với bộ nhớ đệm KV FP8 và giải mã suy đoán EAGLE ở năm bước. Thiết lập lấy mẫu là temperature 1.0 với top_p 0.95 cho văn bản và 0.6 với 0.95 cho thị giác, và tên máy chủ trong các ví dụ là nemotron-3.5-super-vl. Giới hạn đa phương thức là một hình ảnh và một video cho mỗi prompt. Đó là một cấu hình bạn có thể sao chép thay vì tự suy ra.

Nemotron 3.5 Super VL không có trong danh mục của chúng tôi — chúng tôi không cung cấp nó, nên con đường tự triển khai mới là con đường thực sự, và đó là điều hợp lý để một bài viết về một checkpoint mở nói ra. Phần phía chúng tôi trong ngăn xếp thực sự góp mặt là ở quanh mô hình khoa học chứ không phải bên trong nó. Một tác nhân nghiên cứu là một bộ lập kế hoạch được bao quanh bởi một checkpoint chuyên ngành: nó phân rã một nhiệm vụ, gọi mô hình hóa học, gọi mô phỏng, đọc kết quả và quyết định làm gì tiếp theo. Bộ lập kế hoạch thường là một mô hình tổng quát, và đó là tầng mà một khóa duy nhất trên hơn 200 mô hình với giá niêm yết của nhà cung cấp và mức cộng thêm 0% giúp tiết kiệm công việc tích hợp — với chuyển đổi dự phòng tự động, để một lượt chạy qua đêm sáu giờ không thất bại ở giờ thứ năm vì một nhà cung cấp bị suy giảm. Hợp nhất mô hình là đòn bẩy khác đáng biết ở đây: một nhóm mô hình cùng trả lời một câu hỏi hóa học là một cách hợp lý để phân loại ưu tiên những giao thức nào đáng chạy trên phần cứng thực tế.

A five-row deployment card titled 'How to run Nemotron 3.5 Super VL', giving the vLLM configuration with TP4 or TP2 and MTP speculative decoding at five draft tokens, the SGLang configuration with FP8 KV cache and EAGLE at five steps, sampling temperatures of 1.0 and 0.6 with top_p 0.95, the one-image and one-video per-prompt limit, and the hardware floor of 4x H100 or 2x GB200 at BF16 or a single DGX Spark on the NVFP4 build.

Xem gì

Điểm số LitmusBench v0.2 bên ngoài đầu tiên là thứ hữu ích nhất có thể xuất hiện, vì đó là con số duy nhất trong câu chuyện này mà một bên trung lập có thể tạo ra. Một bảng giá NIM sẽ khiến việc so sánh giữa dịch vụ được lưu trữ và tự lưu trữ trở thành phép tính thay vì phỏng đoán. Và một báo cáo vòng lặp tác nhân — tỷ lệ hoàn thành, ngân sách gọi công cụ, chi phí cho mỗi tác vụ đã hoàn thành — sẽ biến kết quả của KTH và Lila từ những giai thoại đáng khích lệ thành thứ mà một nhóm có thể lập kế hoạch dựa vào.

Cho đến lúc đó, bản tóm tắt ngắn gọn: nếu bạn đã tải Nemotron 3.5 Super vào tháng 10, thì Nemotron for Science không thay thế nó, mà mở rộng nó bằng dữ liệu và công thức giúp nó trở thành một công cụ hóa học. Nếu bạn chưa tải, gói tháng 11 là điểm khởi đầu tốt hơn, vì đó là cùng bộ trọng số với một bộ khởi đầu đi kèm.

A screenshot of the Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16, showing the repository name, the model card header and the opening sections of the documentation.