Bộ dữ liệu hậu huấn luyện mở của Nemotron 3.5 Super VL: Những gì bạn thực sự có thể tinh chỉnh

NVIDIA Nemotron 3.5 Super VL đã đưa trọng số của mình lên Hugging Face vào ngày 12 tháng 10 năm 2026 và được công bố vào ngày 15 tháng 10. Nửa phần của bản phát hành đó mà hầu hết các bài đưa tin bỏ qua lại chính là phần bạn thực sự có thể xây dựng dựa trên: từ ngày 12 đến ngày 15 tháng 10, tổ chức nvidia đã xuất bản mười một bộ dữ liệu hậu huấn luyện mới — các tập ngữ liệu tinh chỉnh có giám sát và học tăng cường đằng sau mô tả huấn luyện sáu giai đoạn của chính model card. Cả mười một bộ đều ghi OpenMDW-1.1 là các điều khoản quản lý của chúng, nhưng đó là chỗ sự đồng nhất dừng lại. Hai trong số đó hiển thị là license: other trên Hub; hai bộ khác mang thêm một giấy phép thứ hai vì những gì có bên trong chúng; và hai model card không hề nói “ready for commercial or non-commercial uses” lại không phải là những cái bạn sẽ đoán ra. Dưới đây là nội dung trong từng bộ, những gì các model card có và không công bố về nó, và toàn bộ đợt phát hành này khớp thế nào với con số khôi phục độ chính xác trung vị 99.62% — một con số đọc rất khác nhau tùy vào việc bạn mở tài liệu NVIDIA nào.

Những gì đã ra mắt, và khi nào

Hugging Face ghi lại dấu thời gian tạo, nên thông tin này được đọc chứ không phải ước tính. Cả mười một kho lưu trữ đều xuất hiện trong khoảng thời gian 61 giờ:

• Nemotron-RL-litmus-bench-v0.2 — 12 tháng 10, 16:37 UTC. Suy luận hóa học, 47.118 câu hỏi huấn luyện và 2.056 câu hỏi kiểm tra, 64 MB, được xây dựng từ ChEMBL, dữ liệu thử thách OpenADMET ExpansionRx và một bộ ADME của Biogen. Cấp phép kép theo CC-BY-SA-4.0 và OpenMDW-1.1, vì các câu hỏi bắt nguồn từ ChEMBL mang điều khoản chia sẻ tương tự.

• Nemotron-SFT-Agentic-v4 — 14 tháng 10, 17:54 UTC. Các quỹ đạo sử dụng công cụ một lượt và nhiều lượt, 634.664 bản ghi hội thoại trải trên tập tool_calling gồm 549.707 và tập knowledge_agent gồm 84.957, 18,88 GB. Được tạo bằng Qwen3.5-397B-A17B và GLM-5.2.

• Nemotron-SFT-Instruction-Following-Chat-v4 — 14 tháng 10, 17:55 UTC. Trò chuyện, tuân theo chỉ dẫn đa lượt và kiểm soát độ dài phản hồi, 3.850.582 bản ghi hội thoại, 80,74 GB. Được tạo bằng Kimi-K2.6, Gemma4-E4B-it và Qwen3.5-397B-A17B.

• Nemotron-SFT-Agentic-Finance-v1 — ngày 14 tháng 10, 18:54 UTC. 7.878 ví dụ gọi công cụ đa lượt (multi-turn tool-calling) thuộc các dạng suy luận số, mô hình hoá tài chính, phân tích thị trường, điều chỉnh và câu hỏi beat-or-miss (vượt/không đạt kỳ vọng) trên các hồ sơ SEC công khai, 28 MB.

• Nemotron-RL-Agentic-Finance-v1 — 14 tháng 10, 18:55 UTC. 10.185 tác vụ RL, vẫn năm nhóm tác vụ như vậy, 166 MB, với ngữ cảnh hồ sơ bị cố ý giữ kín để tác tử phải truy xuất nó bằng sec_filing_search, parse_html_page và retrieve_information.

• Nemotron-SFT-Long-Context-Transduction-v1 — 14 tháng 10, 19:47 UTC. 10.000 cặp chỉ dẫn–câu trả lời, 1,22 GB, dùng cho việc theo dõi vị trí và biến đổi chuỗi. Không có mô hình nào tạo ra những dữ liệu này: thẻ mô tả nêu rõ rằng không có mô hình ngôn ngữ nào tạo ra các ví dụ hay câu trả lời, và bốn nhóm tác vụ là đánh giá số học, sắp xếp token thập lục phân, mở rộng biến và biến đổi CSV.

• Nemotron-SFT-Long-Context-Translation-PG19-v1 — 14 tháng 10, 20:14 UTC. 4.335 mẫu dịch từ tiếng Anh sang đa ngôn ngữ, 2,22 GB, văn bản nguồn được trích từ sách thuộc phạm vi công cộng trong kho ngữ liệu PG-19 và được dịch bằng DeepSeek V4 Flash.

• Nemotron-RL-Finance-Tool-Calling-v1 — 14 tháng 10, 22:46 UTC. 90.307 bản ghi tài chính — 81.397 mẫu suy luận cốt lõi cùng 8.910 mẫu tác nhân tài chính mở rộng — trong 1,23 GB, được chạy đối chiếu với môi trường Finance SEC Search trong NeMo Gym.

• Nemotron-SFT-Finance-Document-Grounded-Reasoning-v1 — 14 tháng 10, 22:46 UTC. 63.056 mẫu trong 1,01 GB, dựa trên hồ sơ 10-K, 10-Q và 8-K từ các công ty thuộc S&P 500 trong giai đoạn 2017–2024.

• Nemotron-RL-Agentic-Conversational-Tool-Use-Seed-v1 — 14 tháng 10, 23:45 UTC. 100.000 bản ghi, 3,86 GB: các chính sách hạt giống, định nghĩa công cụ và kịch bản cho máy chủ tài nguyên conversation_tool_use_simulation, bao gồm lĩnh vực khách sạn, thương mại điện tử, ngân hàng và bảo hiểm, dùng cho các cuộc hội thoại tác tử mô phỏng trong quá trình RL.

• Nemotron-SFT-BBQ-v1 — 15 tháng 10, 05:22 UTC. Dữ liệu về tính công bằng tiếng Anh bao gồm độ tuổi, ngoại hình và khuyết tật — mỗi loại 2.000 bản ghi, tổng cộng 6.000 bản ghi, 8,0 MB — được xây dựng dựa trên phân loại Bias Benchmark for QA, với các cuộc hội thoại giữa những người tham gia hư cấu, được thiết kế nhằm khuyến khích các câu trả lời dựa trên bằng chứng thay vì giả định.

Có hai điều ở danh sách đó quan trọng hơn số lượng hàng. Điều thứ nhất là phạm vi giấy phép không đồng nhất như nhãn tiêu đề gợi ý, và điều thứ hai là những kết quả đầu ra này thuộc về ai.

Thẻ giấy phép không phải là toàn bộ giấy phép.

Cả mười một kho lưu trữ đều nêu OpenMDW-1.1 là điều khoản điều chỉnh của mình. Điều khác biệt nằm ở cách nó đến với bạn, và những khác biệt ấy đáng để đọc trước khi bạn xây dựng bất cứ thứ gì mang tính thương mại lên trên đó.

• Thẻ so với giấy phép được đặt tên — chín trong số mười một mang license: openmdw-1.1 dưới dạng một thẻ thuần mà bạn có thể đọc trực tiếp từ API. Nemotron-SFT-Agentic-Finance-v1 và Nemotron-RL-Agentic-Finance-v1 hiển thị là license: other với license_name: openmdw-1.1 và một liên kết đến thỏa thuận. Các điều khoản là như nhau; một công cụ lọc các kho lưu trữ theo thẻ giấy phép sẽ thấy hai giá trị khác nhau.

• Giấy phép thứ hai do dữ liệu thượng nguồn — Nemotron-SFT-Long-Context-Translation-PG19-v1 mang Apache-2.0 song song với OpenMDW-1.1 vì kho ngữ liệu nguồn là PG-19, và thẻ của nó nêu thêm rằng các tác phẩm tiếng Anh cơ sở thuộc phạm vi công cộng tại Hoa Kỳ nhưng tình trạng bản quyền có thể khác ở các khu vực tài phán khác, nên người dùng nên kiểm tra luật địa phương trước khi phân phối lại. Nemotron-RL-litmus-bench-v0.2 mang CC-BY-SA-4.0 song song với OpenMDW-1.1, với điều khoản chia sẻ tương tự được áp dụng riêng cho các câu hỏi dẫn xuất từ ChEMBL.

• Câu về mục đích thương mại — chín thẻ ghi rõ "Bộ dữ liệu này sẵn sàng cho các mục đích thương mại hoặc phi thương mại." Hai thẻ không ghi như vậy là Nemotron-SFT-Long-Context-Transduction-v1 và Nemotron-SFT-Long-Context-Translation-PG19-v1 — cặp long-context, không phải các bộ dữ liệu tài chính.

• Nơi ghi nhận ngoại lệ về nội dung — tài chính. Thẻ dựa trên tài liệu nêu rõ rằng bản phát hành chỉ giữ lại các đoạn trích ngữ cảnh giới hạn được phép từ phần nội dung của Mẫu 10-K, 10-Q và 8-K, đồng thời toàn bộ kho ngữ liệu SEC, tất cả phụ lục và mọi nội dung mang thông báo bản quyền của bên thứ ba đều bị loại trừ, trong đó nêu tên các báo cáo tư vấn, bài thuyết trình, ý kiến đánh giá tính công bằng và nghiên cứu của chuyên gia phân tích. Thẻ này cũng lưu ý rằng các đoạn trích vẫn thuộc trách nhiệm của tổ chức phát hành tương ứng.

Vậy cách hiểu thực tế lại ngược với cách hiểu theo trực giác. Các bộ tài chính là những bộ có huy hiệu giấy phép nổi bật nhất — một openmdw-1.1 sạch sẽ trên các bộ dựa trên tài liệu và gọi công cụ — và là những bộ có nhiều hạn chế được ghi nhận nhất về những gì bên trong chúng. Các bộ ngữ cảnh dài là những bộ mà metadata Hub và phần văn xuôi mô tả chúng mâu thuẫn với nhau nhiều nhất. Cả hai đều không phải lý do để bỏ đi; cả hai đều là lý do để đọc bốn thẻ thay vì một trường giấy phép.

Đầu ra của ai đã huấn luyện flagship của NVIDIA

Một thứ khác chạy xuyên suốt bản phát hành này là các mô hình sinh, và các thẻ ghi tên chúng thẳng thắn, không hề úp mở. Bộ SFT tác tử chủ lực được tạo ra bằng Qwen3.5-397B-A17B và GLM-5.2. Bộ tuân theo chỉ dẫn bổ sung thêm Kimi-K2.6 và Gemma4-E4B-it. Bộ tài chính dựa trên tài liệu ghi tên Qwen3.5-397B-A17B cho việc sinh câu hỏi, DeepSeek-V4-Pro cho câu trả lời và gpt-oss-120b cho việc lọc và chọn. Bộ gọi công cụ tài chính cho RL liệt kê Qwen3.5-397B-A17B và Qwen3-235B-A22B-Instruct-2507 ở khâu thượng nguồn, DeepSeek-V4-Pro cho câu trả lời, gpt-oss-120b cho việc lọc, và chính NVIDIA Nemotron cho việc đánh giá độ khó RL qua tám lần rollout. Các bản dịch PG-19 được tạo ra bằng DeepSeek V4 Flash.

Đó là một quyết định phát hành, không phải sự tình cờ, và nó là thứ hữu ích nhất trong đợt phát hành này đối với bất kỳ ai đang cố gắng suy luận về chất lượng. Nó cho bạn biết tiên nghiệm về hành vi mà bạn đang tinh chỉnh thành về cơ bản không phải của NVIDIA — đó là sự kết hợp của hai họ mô hình trọng số mở tiên phong của Trung Quốc, một mô hình trọng số mở của OpenAI và một mô hình nhỏ của Google. Nếu bạn có ý kiến về cách bất kỳ mô hình nào trong số đó hành xử trên văn bản tài chính hoặc về lựa chọn công cụ, ý kiến đó áp dụng cho điểm khởi đầu của bạn ở đây, và giờ bạn đã có nguồn gốc để kiểm tra nó thay vì đoán.

Vì sao dữ liệu là phần bạn có thể tác động đến

Lý do việc tung ra bộ dữ liệu là một nửa thú vị của đợt ra mắt này có thể thấy trong chính các con số của nhà cung cấp. Bài đăng trên newsroom của NVIDIA nêu tên các tổ chức đã hậu huấn luyện mô hình và dẫn kết quả của họ: Scale AI cho công việc vendor credit của Skydance, với "chi phí suy luận thấp hơn 40 lần" và "độ trễ thấp hơn 5 lần"; Ramp về việc chuyển đổi ảnh hóa đơn thành JSON có cấu trúc, kỳ vọng "thông lượng cao hơn tới 50% và độ trễ thấp hơn 10 lần"; AI21 và Alice về tình báo mối đe dọa, với "độ chính xác cao hơn 41%". Đọc blog dành cho nhà phát triển cùng với newsroom thì cùng những kết quả khách hàng đó gộp lại thành "chi phí suy luận thấp hơn 40 lần, độ trễ thấp hơn 10 lần và độ chính xác cao hơn 40%" — một số 40 trong khi newsroom nói 41, và 10x trong khi newsroom nói 5x, đối với những gì trông giống như cùng hai triển khai. Đây là những kỳ vọng của khách hàng đối với khối lượng công việc của chính họ, không phải các benchmark, và cả hai phiên bản đều không thể được tái lập bởi bạn.

Điều có thể tái lập được là biên nhận. Phòng tin tức cho biết mô hình đã được huấn luyện hậu kỳ với khoảng 3,8 triệu mẫu và học tăng cường trên hàng chục môi trường, đồng thời các tập dữ liệu mở bao trùm sử dụng công cụ dạng tác nhân, tài chính, tuân theo chỉ dẫn, ngữ cảnh dài, tính công bằng và hiểu ngôn ngữ-thị giác. Mười một kho lưu trữ ở trên chính là kho ngữ liệu đó, và các môi trường NeMo Gym mà các thẻ chỉ tới chính là giàn thử. Một nhóm muốn có tác nhân hiểu tài liệu giờ đây có mô hình, các công thức phục vụ, thư viện tinh chỉnh và dữ liệu huấn luyện ở cùng một nơi. Khoảng cách giữa "mô hình này có thể được chuyên biệt hóa" và "đây là một chuyên biệt hóa bạn có thể tải về ngay hôm nay" chính là điều mà các kho lưu trữ này lấp đầy.

Một lưu ý về danh sách danh mục đó: newsroom của NVIDIA bao gồm hiểu ngôn ngữ-thị giác trong số các bộ dữ liệu được phát hành, và mười một kho bộ dữ liệu NVIDIA mới được tạo trong khoảng thời gian này là các ngữ liệu văn bản và sử dụng công cụ. Bộ tài chính dựa trên tài liệu là thứ gần nhất với một bộ thị giác trong đợt phát hành này, và nó chỉ ở định dạng văn bản. Nếu bạn đến vì phần hình ảnh và video, thì dữ liệu không có ở đây — bộ dữ liệu thị giác NVIDIA gần đây nhất trên Hub có trước khoảng thời gian này năm ngày.

Những gì các thẻ không công bố, và cái giá bạn phải trả vì điều đó

Đây là con số mà không ai đưa vào bài đăng ra mắt, và trong đợt phát hành này, nó là một con số còn thiếu. Không thẻ tập dữ liệu nào trong số mười một thẻ công bố số lượng token. Họ công bố số bản ghi và kích thước lưu trữ, chỉ vậy thôi. Vì thế câu hỏi về định cỡ — một epoch chạy qua tập instruction-following tốn bao nhiêu giờ GPU — không thể trả lời từ bản phát hành, mà chỉ có thể ước lượng bằng cách chia số byte cho một tỷ lệ byte trên token giả định, đúng kiểu con số thường đi vào các bài đưa tin như thể nó đã được đo đạc.

Thứ bạn có thể dựa vào là dung lượng lưu trữ đã công bố: 80,74 GB cho Nemotron-SFT-Instruction-Following-Chat-v4, 18,88 GB cho Nemotron-SFT-Agentic-v4, 3,86 GB cho bộ seed về sử dụng công cụ hội thoại, rồi đến phần đuôi dài — 2,22 GB, 1,23 GB, 1,22 GB, 1,01 GB, 166 MB, 28 MB, 8,0 MB, 64 MB. Hai bộ lớn nhất lớn hơn mọi thứ còn lại trong đợt phát hành từ một đến hai bậc độ lớn, điều đó cho bạn biết trọng số thực sự của post-training nằm ở đâu mà hoàn toàn không cần đếm token.

• Nemotron-SFT-Instruction-Following-Chat-v4 — 80,74 GB và 3.850.582 bản ghi. Đây là bộ dữ liệu khiến một lần chạy toàn bộ tham số trở thành cả một dự án thay vì chỉ một buổi chiều.

• Nemotron-SFT-Agentic-v4 — 18,88 GB và 634.664 bản ghi. Chỉ khoảng một phần tư kích thước, giúp nó có thể chạy trên một nút duy nhất.

• Nemotron-SFT-BBQ-v1 — 8,0 MB và 6.000 bản ghi. Đủ nhỏ để có thể lặp đi lặp lại trong vài phút, khiến nó trở thành cách rẻ nhất để chứng minh vòng lặp tinh chỉnh của bạn đã được thiết lập trước khi bạn dành trọn một tuần GPU cho công việc mà bạn thực sự quan tâm.

• Nemotron-SFT-Long-Context-Transduction-v1 — 1,22 GB, nhưng chỉ có 10.000 ví dụ, với phạm vi công bố cho mỗi ví dụ là từ 2.048 đến 131.072 token đích. Ở đây chi phí được quyết định bởi độ dài chuỗi chứ không phải khối lượng, và thẻ mô hình cho biết các ngân sách đó là mục tiêu sinh được ước tính bằng cl100k_base, chứ không phải số lượng đo đếm được sau huấn luyện.

Về quy mô ở phía mô hình, thẻ mô hình công bố ngân sách token của từng giai đoạn: giai đoạn khởi động MTP 100 tỷ token với xương sống đóng băng, một nghìn tỷ token chưng cất từ Nemotron lớn hơn kế tiếp, 100 tỷ token tiền huấn luyện tiếp tục cho Indic, phần mở rộng 35 tỷ token lên ngữ cảnh 1M, 67 tỷ token huấn luyện trung gian về kỹ thuật phần mềm ở 256K, và một giai đoạn phục hồi ngữ cảnh dài 9 tỷ token. Đó là những ngân sách token duy nhất mà NVIDIA nêu ra ở bất kỳ đâu trong bản phát hành, và chúng áp dụng cho việc huấn luyện mô hình cơ sở, không phải cho việc tinh chỉnh trên các bộ dữ liệu này.

Đó cũng là lý do vì sao con đường LoRA lại quan trọng ở đây chứ không chỉ là một chú thích nhỏ. NVIDIA hướng các nhà phát triển đến NVIDIA NeMo AutoModel để tinh chỉnh có giám sát và thích ứng hạng thấp, và các adapter chính là khác biệt giữa việc thay đổi một vài hành vi của mô hình và việc tái tính toán 249 GB trọng số. Cả hai con đường đều có thật, và lựa chọn giữa chúng là quyết định về việc bạn định thay đổi bao nhiêu hành vi của mô hình nền. Một nhóm tài chính theo đuổi một lược đồ hẹp hoặc hành vi tuân theo chính sách thì thuộc địa hạt LoRA. Một nhóm muốn mô hình duy trì một quy trình vận hành mới xuyên suốt mọi tương tác của nó thì không.

Hai tài liệu, một chuẩn đánh giá, những câu trả lời trái ngược

Báo cáo kỹ thuật đi kèm bản phát hành này có ghi ngày 14 tháng 10 và mang con số đã lan truyền xa nhất khi tách khỏi ngữ cảnh của nó. NVIDIA báo cáo rằng checkpoint NVFP4 được phát hành đạt mức phục hồi độ chính xác trung vị 99.62% so với BF16 trên 36 benchmark, sau quy trình lượng tử hóa sau huấn luyện mạnh tay, tiếp nối bởi 200 vòng lặp chưng cất nhận biết lượng tử hóa dựa trên SFT — với bộ mã hóa thị giác C-RADIO, bộ kết nối VL, các tích chập Mamba và các embedding được giữ ở BF16, còn phần tính toán router được giữ ở FP32, theo bảng theo từng mô-đun của báo cáo.

"Khôi phục độ chính xác trung vị" là trung vị của các tỉ lệ, không phải giá trị nhỏ nhất. Để có được 99,62%, báo cáo tính tỉ lệ điểm số cho từng benchmark rồi lấy giá trị nằm giữa trong số 36 benchmark, nên con số tiêu đề chỉ cho bạn biết rằng benchmark điển hình thấp hơn khoảng bốn phần mười phần trăm so với độ chính xác đầy đủ, mà không nói gì về phần đuôi cả. Bảng của chính báo cáo lại cho thấy phần đuôi: Tau3 Banking ở mức 94,20%, phần chia nhỏ giải quyết vấn đề của SciCode ở mức 93,63%, MMLU-ProX ở mức 95,90% — và ở chiều ngược lại là GDPVal ở mức 111,53% cùng Terminal-Bench v2.1 ở mức 103,47%, bởi vì lượng tử hóa có thể vượt lên trên mức tham chiếu BF16 trong một lần chạy duy nhất.

Sau đó, hãy so sánh thẻ mô hình, và câu chuyện trở nên thú vị hơn cả một cái đuôi. Thẻ mô hình NVFP4 của chính NVIDIA công bố một bảng BF16 so với NVFP4 cho cùng một checkpoint, và trên đó Terminal-Bench 2.1 ghi 66.70 so với 60.80 — bản lượng tử hoá thấp hơn chín phần trăm. Trong bảng full-suite của báo cáo kỹ thuật, cùng một benchmark ghi 60.67 so với 62.78, với bản lượng tử hoá dẫn trước. Cùng một mô hình, cùng một benchmark, cùng một họ eval harness, hai tài liệu NVIDIA, hai hướng ngược nhau. Thẻ còn cho thấy WebVoyager ở 77.72 giảm xuống 66.31 và DeepSWE ở 24.65 giảm xuống 18.2, cả hai đều không phải là phiên bản câu chuyện mà bạn nhận được từ một tiêu đề 99.62%.

Đó không phải là một vụ bê bối — các bảng khác nhau có thể mang những cấu hình harness khác nhau, và bảng trong báo cáo có nêu tỷ lệ phục hồi bên cạnh từng hàng — nhưng nó thực sự có nghĩa rằng câu trả lời trung thực cho câu hỏi "liệu NVFP4 có khiến tôi mất độ chính xác không" là: ở hầu hết các hàng được công bố, gần như không; ở những hàng mà nó có, thì nhiều hơn mức mà số trung vị ngụ ý; và hai tài liệu của nhà cung cấp không thống nhất với nhau về việc đó là những hàng nào. Nếu khối lượng công việc của bạn là công việc terminal mang tính agent, hãy tự đo lại thay vì chọn một bảng.

Ngược lại, phép tính về triển khai thì rõ ràng, không thể tranh cãi, và là lập luận mạnh nhất cho bản dựng đã lượng tử hoá. Kho BF16 có tổng cộng 248,9 GB tệp checkpoint và phần quick-start của chính nó phục vụ nó trên 4× H100. Kho NVFP4 có tổng cộng 75,06 GB, mà báo cáo tính là 4,82 bit mỗi tham số kể cả thang tỉ lệ, và con số đó vừa vặn với một H200, một GB200 hoặc một DGX Spark đơn lẻ. Trên một GB200, báo cáo dẫn ra tối đa 4,856 token đầu ra/s/GPU trên một khối lượng công việc proxy dạng tác tử 20 lượt, trong khi vẫn duy trì ít nhất 50 token/s/người dùng, với NVFP4 đạt 2,43× thông lượng của BF16 trên cùng khối lượng công việc đó, và mô hình đạt 2,34× và 1,90× thông lượng của Qwen3.5-122B-A10B và Qwen3.8 Flash-Next. Tất cả những con số đó đều do NVIDIA đo, trên chính ngăn xếp phục vụ của NVIDIA, ở mức đồng thời bất kỳ mà công thức đã chọn.

Một phần tư nữa của bản phát hành rất dễ bị bỏ qua và có ý nghĩa nếu bản tinh chỉnh của bạn sẽ bị tranh cãi về sau. Báo cáo mô tả một lượt kiểm tra nhiễm bẩn trên dữ liệu hậu huấn luyện đã loại bỏ 20.671 mẫu — khoảng 0,09%, chia thành 14.793 mẫu SFT và 5.878 mẫu RL — khớp với 1.808 câu hỏi benchmark, tức 6,0%, trong 22 trên 30 benchmark được kiểm tra, với khoảng 3% các cặp ứng viên được đánh giá bị gắn cờ là nhiễm bẩn nghiêm trọng. Hầu hết các bản phát hành trọng số mở đều không công bố phương pháp làm sạch nào cả. Có một phương pháp mà bạn có thể trích dẫn thì giá trị hơn vẻ bề ngoài của nó khi khách hàng hỏi tại sao các số liệu đánh giá của bản tinh chỉnh của bạn lại như vậy.

Điều này thay đổi những gì bạn có thể làm trong tuần này như thế nào

Ba điều cụ thể giờ đây đã có thể thực hiện được mà trước ngày 12 tháng 10 thì không.

Đầu tiên là một agent nộp hồ sơ tài chính mà bạn có thể xây dựng mà không cần thảo luận về cấp phép dữ liệu — với một lưu ý kèm theo. Các kho lưu trữ tài chính bao quát toàn bộ vòng lặp: 63.056 ví dụ SFT dựa trên tài liệu trong bảy năm hồ sơ S&P 500, 90.307 bản ghi gọi công cụ RL trên môi trường tìm kiếm SEC trực tiếp, 7.878 ví dụ gọi công cụ đa lượt cho lớp hành vi, và 10.185 tác vụ RL với ngữ cảnh hồ sơ bị giữ lại để việc truy xuất là một phần của tác vụ. Lưu ý là phần ngoại lệ được ghi lại ở trên: chỉ trích đoạn, loại trừ phụ lục, loại bỏ tài liệu có bản quyền của bên thứ ba, và các vấn đề vẫn thuộc trách nhiệm của tổ chức phát hành. Đó là một quan điểm được ghi chép đầy đủ hơn là một quan điểm rõ ràng, và đó là bộ dữ liệu mà bạn nên đọc thẻ trước khi đọc mã.

Thứ hai là sử dụng công cụ dạng tác tử, và đây là mảng được hỗ trợ tốt nhất trong đợt phát hành này. Với 634.664 bản ghi của Nemotron-SFT-Agentic-v4, bộ seed 100.000 bản ghi về sử dụng công cụ trong hội thoại với các kịch bản lưu trú – khách sạn, thương mại điện tử, ngân hàng và bảo hiểm, cùng các môi trường NeMo Gym mà các thẻ mô hình trỏ tới, toàn bộ pipeline được mô tả từ đầu đến cuối: tạo quỹ đạo, chạy các cuộc hội thoại mô phỏng, huấn luyện với phần thưởng có thể kiểm chứng, đánh giá trong harness mà chính nhà cung cấp đã dùng. Dù bạn nghĩ gì về mô hình, đó là một công thức công khai hoàn chỉnh để biến một mô hình thị giác - ngôn ngữ tổng quát thành một tác tử gọi công cụ, và đây chính là phần từng là kiến thức truyền miệng.

Cái thứ ba là một đường cơ sở về tính công bằng mà bạn thực sự có thể lặp lại để cải tiến. Nemotron-SFT-BBQ-v1 có 6.000 bản ghi và 8,0 MB, được cân bằng 2.000/2.000/2.000 theo độ tuổi, ngoại hình và khuyết tật, và các cuộc hội thoại của nó được viết sao cho cả câu trả lời dựa trên bằng chứng lẫn câu trả lời dựa trên giả định đều hợp lý. Với kích thước đó, bạn có thể chạy nó, chấm điểm nó và chạy lại nó trong một buổi chiều, điều này biến “bạn đã kiểm thử điều này như thế nào” từ một vấn đề mua sắm thành một thử nghiệm.

Dùng thử mà không đặt cược cả một lộ trình production vào đó

Phần khó xử của bản phát hành này nằm ở triển khai, không phải dữ liệu. Checkpoint BF16 cần bốn H100 còn bản lượng tử hóa chỉ cần một H200 hoặc GB200; trọng số mở nằm trên Hugging Face, và lộ trình của chính nhà cung cấp tới một endpoint được host là NVIDIA NIM, đồng thời tòa soạn cũng nêu tên các nền tảng bên thứ ba. Chúng tôi không phục vụ mô hình này, nên nếu bạn muốn một endpoint được quản lý thì API của chính nhà cung cấp cùng một số nền tảng bên thứ ba là nơi cần tìm; còn điều mà một router có thể giúp ích ở đây là phần còn lại của quyết định.

Một khóa duy nhất cho hơn 200 mô hình ở giá niêm yết của nhà cung cấp với mức markup 0% nghĩa là việc so sánh bản dựng NVFP4 với bất kỳ mô hình văn bản nào bạn đang chạy hôm nay chỉ cần thay đổi một dòng thay vì phải ký thêm hợp đồng với nhà cung cấp thứ hai, và tự động chuyển đổi dự phòng giữa các nhà cung cấp nghĩa là một khối lượng công việc mà bạn chỉ đang thử nghiệm có thể nằm cạnh lưu lượng production mà không bên nào phụ thuộc vào bên kia. Đó là kiểu quyết định bạn có thể đảo ngược — điều bạn muốn ở một mô hình mà tài liệu chỉ mới hai ngày tuổi và các bảng benchmark của chính nó lại mâu thuẫn với nhau.

Trình tự thực tế là: lấy Nemotron-SFT-BBQ-v1 hoặc một phần của tập agentic, chạy một LoRA trên H200 thuê để chứng minh vòng lặp của bạn, chấm điểm nó dựa trên bộ đánh giá của riêng bạn, và chỉ khi đó mới quyết định liệu bản dựng full-precision 249 GB cùng bốn GPU có đáng hay không. Các tập dữ liệu được tải xuống miễn phí và những tập nhỏ thì chạy miễn phí. Không có gì trong kế hoạch đó buộc bạn phải tin vào mức trung vị 99,62%.

Còn thiếu gì nữa?

Ba khoảng trống đáng để theo dõi vì chúng thay đổi toan tính chứ không phải tiếp thị.

Đầu tiên là đánh giá độc lập các kết quả tinh chỉnh. Mọi con số sau huấn luyện trong bản phát hành này — mức tăng Terminal-Bench từ 62,7 lên 71,9 nhờ thực thi tác nhân song song và tự xác minh, mức tăng DeepSWE từ 24,6 lên 34,5 trong cùng thí nghiệm, mức cải thiện độ chính xác 41% tại AI21, mức giảm chi phí 40× tại Scale AI — đều đến từ harness của NVIDIA hoặc từ phép đo của chính khách hàng. Không có bên thứ ba nào đã tái lập một lần tinh chỉnh Nemotron 3.5 Super VL trên các tập dữ liệu này và công bố kết quả. Cho đến khi có, hãy coi các kích thước hiệu ứng là giới hạn trên.

Thứ hai là nhánh video. Mô hình chấp nhận MP4 dài tối đa hai phút ở 2 FPS và 256 khung hình, hoặc 1 FPS và 128 khung hình đối với 1080p, với tỷ lệ cắt tỉa là 0,5 — và không có tập dữ liệu hậu huấn luyện video công khai nào trong bản phát hành này. Mọi kho ở trên đều là văn bản, và các tập dịch và chuyển dẫn là văn bản ngữ cảnh dài chứ không phải bất cứ thứ gì thuộc thị giác. Nếu trường hợp sử dụng của bạn là khả năng hiểu video mà thẻ mô hình quảng cáo, thì NVIDIA đã phát hành năng lực đó mà không kèm dữ liệu để chuyên biệt hóa nó.

Điều thứ ba là chưa có ai công bố những bộ dữ liệu này sẽ tác động thế nào lên một mô hình không phải Nemotron. Cả mười một bộ đều được xây dựng để tạo ra hỗn hợp hậu huấn luyện cho một mô hình — các thẻ mô tả nói rõ rằng một số bộ hợp nhất các phiên bản Nemotron đặc thù trước đó, và bộ seed hội thoại được mô tả là dữ liệu hạt giống cho một bộ pivot chứ không phải dữ liệu được tạo mới. Việc liệu kho ngữ liệu agentic có chuyển giao được sang một backbone 120B khác hay không vẫn là câu hỏi bỏ ngỏ, và đó là câu hỏi đầu tiên mà một nhóm đã có sẵn hệ thống fine-tuning sẽ muốn được giải đáp.

Cả ba khoảng trống đều thuộc loại được lấp đầy bằng công việc của người khác chứ không phải của NVIDIA, đó là diễn tiến thường thấy của một bản phát hành mở. Trọng số có thể tải xuống ngay hôm nay, dữ liệu có thể tải xuống ngay hôm nay, và bản tinh chỉnh độc lập đáng tin cậy đầu tiên chính là thứ sẽ cho bạn biết liệu bất kỳ phần nào trong đó có đáng để dành thời gian GPU hay không.