Mercury 3 so với NVIDIA Nemotron 3.5 Super VL 120B-A12B: Một tuyên bố về tốc độ được đo lường, tuyên bố còn lại thì không

Mercury 3 và NVIDIA Nemotron 3.5 Super VL 120B-A12B đều được quảng bá là nhanh. Chỉ một trong hai tuyên bố về tốc độ đó từng được bất kỳ ai bên ngoài công ty đưa ra tuyên bố kiểm chứng. Artificial Analysis đo Nemotron 3.5 Super VL đạt 434,3 token đầu ra mỗi giây trên harness riêng của mình. Mercury 3, do Inception Labs phát hành ngày 19 tháng 10 năm 2026, tuyên bố đạt 1.068 token mỗi giây — và tính đến ngày 20 tháng 10, hoàn toàn không có trang Mercury 3 nào trong chỉ mục đó, nên con số này không có bên thứ hai nào xác nhận. Chính sự bất đối xứng đó, chứ không phải bảng thông số, mới là yếu tố quyết định thực sự trong cuộc so tài này. Các thất bại AI và sự cố agent được ghi nhận đằng sau những bản phát hành như bản này được tập hợp trong OrcaRouter AI Incident Archive trong đó mỗi mục đều có nguồn riêng, mức độ nghiêm trọng, cấp độ tin cậy và cờ tranh chấp.

Có một sự bất đối xứng thứ hai mà với một số đội lại quan trọng hơn. Nemotron có thể tải xuống, chạy trên phần cứng của chính bạn và có thể được huấn luyện thêm. Mercury 3 là một sản phẩm API không có trọng số. Một trong hai là quyết định mua sắm, còn cái kia là một dự án triển khai, và bảng benchmark là một chỉ dẫn kém để biết bạn thực sự cần cái nào.

Những con số mà cả hai nhà cung cấp đều nhất trí, và con số mà họ không nhất trí

Hãy bắt đầu với những hàng mà ở đó hai thứ này không còn trông khác nhau nữa, vì một số trong đó thực sự là giống nhau.

• Ngữ cảnh — cả hai đều được chỉ định ở mức 1M token. Mercury 3 kết hợp con số đó với giới hạn đầu ra 131.072 token; thẻ của Nemotron liệt kê cửa sổ chia sẻ lên tới 1M bao trùm prompt, hình ảnh, lịch sử, kết quả công cụ và câu trả lời.

• Đầu ra — xuất văn bản, cả hai. Cả hai đều không tạo hình ảnh hoặc âm thanh.

• Đầu vào — đây là điểm khác biệt. Nemotron nhận văn bản, hình ảnh RGB và video MP4 dài tối đa hai phút. Mercury 3 chỉ nhận văn bản, và chỉ văn bản.

• Giá — Mercury 3 có giá 0,10 USD mỗi triệu token đầu vào và 0,35 USD mỗi triệu token đầu ra trong giai đoạn ra mắt, sau đó sẽ trở về mức niêm yết là 0,20 USD và 0,70 USD. Nemotron hoàn toàn không có bảng giá chính thức từ nhà cung cấp; thứ hiện có là bảng chi phí của Artificial Analysis, hiện đang ghi nhận mức 0,225 USD cho đầu vào và 0,575 USD cho đầu ra mỗi triệu token, với mức giảm giá bộ nhớ đệm 78% và chi phí 0,19 USD cho mỗi tác vụ Intelligence Index.

• Trọng số — Trọng số của Mercury 3 chưa được công bố và Inception chưa cam kết công bố chúng. Trọng số của Nemotron có trên Hugging Face theo OpenMDW-1.1, với các checkpoint độ chính xác đầy đủ và NVFP4.

Hàng cuối cùng đó mới là thứ quyết định phần lớn các đánh giá thực tế, và nó chẳng liên quan gì đến số token mỗi giây.

Đọc chỉ số độc lập mà không diễn giải quá mức

NVIDIA đã phát hành Nemotron 3.5 Super VL vào ngày 15 tháng 10 năm 2026. Khi bảng điểm độc lập đầu tiên xuất hiện cùng tuần đó, nó mang Intelligence Index là 26 và một ô trống ở vị trí lẽ ra là cột tốc độ. Hiện trang đã có cả hai: 26 trên Index v4.3.2 và 434,3 token đầu ra mỗi giây, xếp hạng nhất trong số 28 mô hình thuộc nhóm so sánh của nó. Nó cũng tạo ra 170 triệu token trong suốt lượt chạy chỉ mục, so với mức trung vị là 100 triệu, điều mà trang mô tả là hơi dài dòng.

Đó là những phép đo của chính chỉ số này, được chạy qua khung thử nghiệm của chính nó, và chúng có giá trị đúng bằng giá trị của bất kỳ một bộ benchmark đơn lẻ nào: một con số có thể tái lập được, do một người không làm việc cho NVIDIA thu thập. Hãy lưu ý 26 có nghĩa gì và không có nghĩa gì. Phần văn bản so sánh của chính trang đặt nó đối chiếu với mức trung vị là 8 cho các mô hình open-weight tương đương trong lớp 40B–150B, vì vậy đây là một kết quả mạnh trong lớp trọng số của nó và là một kết quả khiêm tốn so với các mô hình tiên phong ở bất kỳ kích thước nào. Thứ hạng đứng đầu trong 67 xuất hiện ở đầu trang là thứ hạng bên trong một nhóm đã được lọc, không phải vị trí tổng thể. Bất kỳ ai trích dẫn “số một” mà không nêu bộ lọc là đang trích dẫn chính bộ lọc.

Giờ đến phía bên kia. Bài đăng ra mắt của Inception đưa ra ba tuyên bố định lượng: 1.068 token mỗi giây trên GPU NVIDIA, ngữ cảnh 1M và giá ra mắt bằng một nửa giá niêm yết. Bài viết không hề đưa ra tuyên bố định lượng nào về chất lượng. Thay vào đó, bài nói Mercury 3 "vượt trội GPT-6 Luna và Claude Haiku 5.5" — hai mô hình tối ưu tốc độ, tức bộ so sánh phù hợp cho một sản phẩm độ trễ, được nêu mà không có biên độ, tên benchmark hay kết quả theo từng tác vụ. Bài cũng báo cáo rằng Mercury 3 hoàn thành 50% trong 50 tác vụ điều hướng Mind2Web trực tiếp bên trong harness web-agent của chính Inception, "nhiều hơn đáng kể so với GPT-6.1-Sol". Năm mươi tác vụ trên harness của nhà cung cấp là một tín hiệu, không phải phép đo mà bạn có thể đặt cạnh 26.

Vậy nên, so sánh trung thực về bằng chứng chất lượng là thế này: một mô hình có điểm chỉ số của bên thứ ba, còn mô hình kia chỉ có một câu từ nhà cung cấp. Điều đó không khiến Mercury trở thành mô hình yếu hơn. Nó khiến Mercury trở thành mô hình chưa được đo lường, và chưa được đo lường là một nhóm rủi ro khác với điểm thấp.

Chi phí thực sự để vận hành phần trọng số mở là bao nhiêu

Nemotron 3.5 Super VL là mô hình mixture-of-experts 120 tỷ tham số với 12 tỷ tham số hoạt động trên mỗi token, 512 chuyên gia được định tuyến trong mỗi lớp MoE, cùng một xương sống lai xen kẽ các lớp Mamba-2, attention và MoE, với bộ mã hóa thị giác C-RADIO được gắn vào thông qua một connector. NVIDIA phát hành mô hình này ở hai cấp độ chính xác, và khoảng cách giữa chúng là con số hữu ích nhất trong bản phát hành.

• BF16 — 64 phân mảnh safetensors, khoảng 231,8 GiB. Công thức phục vụ của chính NVIDIA là tensor-parallel 4 trên bốn H100, hoặc TP2 trên hai GB200.

• NVFP4 — trọng số và kích hoạt 4-bit với chưng cất nhận biết lượng tử hóa. Thẻ này liệt kê việc triển khai trên một DGX Spark, một H200, hai H100 hoặc một GB200.

Một mô hình 120B vừa trên hai H100 ở 4-bit thay vì bốn H100 ở BF16 là một cuộc trao đổi mua hàng khác, và đó là lý do checkpoint lượng tử hoá là bản mà nhà cung cấp chỉ vào để phục vụ hiệu quả. Điều NVIDIA không công bố là so sánh độ chính xác trực tiếp giữa hai hạng. Tuyên bố đó là tuyên bố về phương pháp huấn luyện — rằng chưng cất trong quá trình huấn luyện thu hẹp khoảng cách lượng tử hoá — chứ không phải so sánh được đo đạc, và nếu quyết định của bạn phụ thuộc vào khoảng cách đó thì câu trả lời không nằm trong repo.

Giấy phép đáng để đọc kỹ hơn phần tiếp thị. Bài blog nói "open weights"; phần frontmatter của model card ghi là license: other, license_name: openmdw-1.1, được điều chỉnh bởi Thỏa thuận Giấy phép OpenMDW 1.1. Việc sử dụng cho mục đích thương mại được cho phép và model card nói rõ điều đó. Đây không phải Apache 2.0, và nếu tổ chức của bạn có danh sách giấy phép được phê duyệt, thì danh sách đó chính là thứ cần kiểm tra trước khi xin báo giá GPU.

Nơi hai thứ không còn là sản phẩm thay thế cho nhau

Sự không khớp không nằm ở chất lượng. Mà ở hình dạng của công việc.

Mercury 3 là một mô hình ngôn ngữ khuếch tán — thuật ngữ của Inception là dLLM — tạo ra các token song song thay vì từng cái một, và đó chính là nguồn gốc ban đầu của tuyên bố thông lượng hàng nghìn. Khối lượng công việc mà nó được xây dựng để phục vụ là loại có con người đang theo dõi: gợi ý dạy kèm, tạo kết quả tìm kiếm, một phản hồi hỗ trợ phải mang cảm giác như đang trò chuyện. Những trích dẫn khách hàng của chính Inception đều thuộc kiểu đó, và chúng là phép thử đúng đắn cho sản phẩm. Một gợi ý sai vẫn có thể khắc phục. Một khoảng dừng hai giây thì không.

Nemotron 3.5 Super VL được xây dựng cho phía đối lập. Nó đọc ảnh chụp màn hình, tài liệu quét, biểu đồ và các đoạn video dài hai phút, gọi công cụ và chạy trên phần cứng do bạn kiểm soát. Khối lượng công việc mà nó hướng tới là một pipeline chạy trong nhiều phút rồi báo cáo lại, nơi một lần trích xuất sai có thể tốn kém và việc phải chờ năm giây là không hề đáng kể. Model card của chính nó thẳng thắn rằng không phải tất cả các dòng benchmark đa phương thức đều được chạy qua bộ công cụ mở mà NVIDIA công bố, và rằng phần khung nội bộ đằng sau một số dòng trong đó được hứa hẹn cho một bản phát hành trong tương lai. Lưu ý đó không loại bỏ mô hình; nó cho bạn biết những dòng nào cần tự chạy lại trước khi bạn dựa vào chúng.

Phần trùng lặp hẹp hơn so với các bảng thông số kỹ thuật gợi ý. Nếu đầu vào của bạn là một chồng hóa đơn, một video sản phẩm hay ảnh chụp màn hình dashboard, Mercury 3 không thể thấy được. Nếu yêu cầu của bạn là một lượt hội thoại dưới một giây trên văn bản thuần, thì một checkpoint đa phương thức 120B trên GPU của chính bạn là một cách rất tốn kém để có được điều đó.

Cả hai mô hình đều không có trong danh mục của chúng tôi, và điều đó làm thay đổi khuyến nghị định tuyến

Cả hai đều là những câu trả lời phủ định trung thực. API mô hình của chúng tôi không trả về mô hình Inception nào và không có mục NVIDIA Nemotron nào, vì vậy cả Mercury 3 lẫn Nemotron 3.5 Super VL đều không thể gọi qua chúng tôi ở thời điểm hiện tại. Ai muốn dùng Mercury 3 thì đến nền tảng riêng của Inception, nơi tặng 100 triệu token miễn phí cho tài khoản mới; ai muốn dùng Nemotron thì tải checkpoint từ Hugging Face hoặc dùng nhà cung cấp bên thứ ba. Chúng tôi thà ghi rõ điều đó còn hơn ám chỉ một tuyến truy cập mà chúng tôi không có.

Điều mà một lớp định tuyến vẫn còn hữu ích ở đây là phần xoay quanh thử nghiệm. Một bố cục hai đường là cách hợp lý để đánh giá một mô hình chưa được đo lường: gửi tầng quan trọng về độ trễ tới Mercury 3 qua khóa của Inception, và giữ đường dự phòng cùng các trường hợp khó trên những mô hình mà chúng tôi thực sự cung cấp — hơn 200 mô hình trong số đó phía sau một điểm cuối tương thích OpenAI, theo giá niêm yết của nhà cung cấp với mức markup 0%, với chuyển đổi dự phòng tự động khi một nhà cung cấp suy giảm. Nếu đường mới hóa ra tệ hơn bài đăng ra mắt gợi ý, đường dự phòng đã được nối sẵn và việc chuyển đổi chỉ là một quy tắc định tuyến chứ không phải một dự án tích hợp. Nửa tự lưu trữ của phép so sánh không nhận được gì từ bất kỳ điều nào trong số đó, vì không có gì để định tuyến.

Quy tắc quyết định

Chọn Nemotron 3.5 Super VL 120B-A12B khi mô hình phải nhìn thấy thứ gì đó — một trang, một bản quét, một clip — hoặc khi dữ liệu không thể rời khỏi hạ tầng của bạn, hoặc khi bạn định hậu huấn luyện trên ví dụ của chính mình. Hãy lập ngân sách cho phần cứng một cách trung thực: bốn H100 ở BF16 hoặc hai ở NVFP4 là một cam kết vốn thực sự, và điểm 26 trên chỉ mục là điểm tương quan trong cùng phân khúc, không phải điểm tiên phong. Hãy chấp nhận rằng các dòng về tuân thủ chỉ dẫn và ngữ cảnh dài là phần yếu hơn trong chính bảng của nó.

Chọn Mercury 3 khi một người đang chờ câu trả lời qua tin nhắn và việc thử lại không tốn gì. Hãy chấp nhận hai điều trước khi bạn xây dựng dựa trên nó: rằng 1.068 token mỗi giây là con số của nhà cung cấp và chưa có bản tái lập độc lập, và rằng cài đặt nỗ lực mặc định là "low" — vì vậy bất kỳ benchmark nào bạn tự chạy chỉ có thể so sánh với của người khác nếu bạn chỉ định rõ instant, low, medium hoặc high. Hãy lập ngân sách theo giá niêm yết, $0,20 và $0,70, vì ưu đãi ra mắt không có ngày kết thúc được công bố và một mô hình chi phí dựa trên $0,10 và $0,35 có một ngày hết hạn mà bạn không thể thấy.

Điều sẽ thay đổi câu trả lời nhanh nhất là cùng một điều ở cả hai phía: một bên thứ hai chạy cùng các bài kiểm thử. Nếu Artificial Analysis công bố một trang về Mercury 3, tuyên bố về thông lượng sẽ trở nên có thể kiểm chứng và câu hỏi về chất lượng không còn chỉ là một câu trong bài đăng ra mắt. Nếu NVIDIA công bố mức chênh lệch độ chính xác giữa BF16 và NVFP4, tầng triển khai giá rẻ sẽ không còn là một sự tin tưởng mù quáng. Cho đến khi một trong hai điều đó thành hiện thực, tóm tắt trung thực là: một trong hai mô hình đã được đo đạc, còn mô hình kia mới chỉ được mô tả, và không lượng so sánh bảng thông số nào có thể lấp đầy khoảng cách đó.