Inkling vs Nemotron 3 Ultra: Bạn nên triển khai mô hình trọng lượng mở nào?
Này Inkling vs Nemotron so sánh đối đầu hai mô hình trọng số mở với nhau: Inkling, bản phát hành đầu tiên từ Thinking Machines Lab (công ty khởi nghiệp do cựu CTO OpenAI Mira Murati lãnh đạo), và Nemotron 3 Ultra, mô hình mở hàng đầu của NVIDIA. Cả hai đều có trọng số có thể tải xuống, cả hai đều nhắm đến các nhóm muốn tự lưu trữ và tinh chỉnh thay vì thuê API đóng, và cả hai đều hoạt động trong cùng một tầng trọng số mở. Phần thú vị: qua các số liệu đối đầu mà chúng tôi có, Inkling vs Nemotron 3 Ultra là trận đấu mở duy nhất mà Inkling dẫn đầu trên mọi hàng điểm chuẩn trong dữ liệu của chúng tôi. Dưới đây chúng tôi trình bày các con số một cách trung thực, sau đó đề cập đến giấy phép, VRAM, chi phí và nơi ngăn xếp của NVIDIA vẫn mang lại cho Nemotron một lợi thế thực sự.
Lưu ý dành cho các nhà phát triển: không có các điểm chuẩn đối đầu đã được kiểm toán ở đây, vì vậy điều này so sánh các mô hình và quyền truy cập, chứ không phải điểm số. OrcaRouter định tuyến các mô hình có sẵn qua API đằng sau một điểm cuối tương thích OpenAI, để bạn có thể dùng thử và so sánh Inkling và Nemotron 3 Ultra mà không cần kết nối nhiều SDK.
Kết luận ngắn gọn: Chọn Inkling nếu bạn muốn điểm số thô cao hơn trong dữ liệu của chúng tôi, giấy phép Apache 2.0 cho phép, cửa sổ ngữ cảnh 1 triệu token, và đầu vào đa phương thức (văn bản + hình ảnh + âm thanh). Chọn Nemotron 3 Ultra nếu bạn đã chuẩn hóa trên hệ thống doanh nghiệp và phần cứng của NVIDIA (dịch vụ vi mô NIM, NeMo, các triển khai DGX/Blackwell được chứng nhận) và muốn một mô hình được tinh chỉnh để phù hợp với hệ sinh thái đó. Cả hai đều có trọng số mở và có thể tự lưu trữ.
Những điểm chính rút ra
Cả hai đều là open-weight, có thể tải xuống, và có thể tự lưu trữ — đây là cuộc đối đầu open-vs-open, không phải open-vs-closed.
Inkling dẫn đầu mọi hàng điểm chuẩn trong dữ liệu so sánh trực tiếp của chúng tôi (MarkTechPost set), từ HLE và AIME 2026 đến SWE-bench Verified, Terminal Bench 2.1, và FORTRESS.
Inkling cũng dẫn đầu chỉ số độc lập: Chỉ số Artificial Analysis Intelligence Index 41 so với 38 cho Nemotron 3 Ultra.
Sự khác biệt về giấy phép: Inkling là Apache 2.0; Nemotron 3 Ultra được phát hành theo giấy phép mô hình mở của NVIDIA — hãy kiểm tra các điều khoản của NVIDIA để biết chi tiết trước khi triển khai thương mại.
Lợi thế của Nemotron là định vị: sự tích hợp ngăn xếp doanh nghiệp/phần cứng của NVIDIA, không phải chiến thắng điểm chuẩn trong dữ liệu của chúng tôi.
Lưu ý: Các điểm chuẩn của Inkling do nhà cung cấp tự báo cáo khi ra mắt; số liệu của đối thủ cạnh tranh đến từ bên thứ ba và không được kiểm toán độc lập.
Các điểm chuẩn ở đây do nhà cung cấp tự báo cáo khi ra mắt (Effort 0.99) cho Inkling, và các số liệu bên thứ ba đến từ Artificial Analysis và MarkTechPost; không có số liệu nào được kiểm toán độc lập, và số liệu của đối thủ có thể khác với các số liệu do chính NVIDIA báo cáo. Thông số kỹ thuật của Inkling đến từ thẻ mô hình của Thinking Machines.
So sánh nhanh
Maker. Inkling: Thinking Machines Lab; Nemotron 3 Ultra: NVIDIA
Giấy phép. Inkling: Apache 2.0 (tự lưu trữ miễn phí bản quyền); Nemotron 3 Ultra: giấy phép mô hình mở của NVIDIA (kiểm tra điều khoản NVIDIA)
Trọng số. Inkling: Open (Hugging Face); Nemotron 3 Ultra: Open
Params. Inkling: 975B total / 41B active (MoE); Nemotron 3 Ultra: Không có trong dữ liệu của chúng tôi
Ngữ cảnh. Inkling: Lên đến 1 triệu token (256K trên các API được lưu trữ); Nemotron 3 Ultra: Không có trong dữ liệu của chúng tôi
Phương thức. Inkling: Đầu vào: văn bản + hình ảnh + âm thanh, đầu ra: văn bản; Nemotron 3 Ultra: Không có trong dữ liệu của chúng tôi
Tự lưu trữ / tinh chỉnh. Inkling: Có / Có (Tinker); Nemotron 3 Ultra: Có / Có
Giá lưu trữ. Inkling: ~$1.87 vào / ~$4.68 ra trên 1M (AA); Nemotron 3 Ultra: Không có trong dữ liệu của chúng tôi
Các ô được đánh dấu “Not in our data” được bỏ qua thay vì đoán — xem phần tiết lộ ở trên.
Người chiến thắng theo danh mục
Suy luận / Kiến thức. Người chiến thắng: Inkling; Ghi chú: HLE 29.7% so với 26.6% (MarkTechPost)
Toán. Người thắng: Inkling; Ghi chú: AIME 2026 97.1% so với 94.2%
Lập trình. Người chiến thắng: Inkling; Ghi chú: SWE-bench đã xác minh 77.6% so với 70.7%
Agentic (terminal). Người chiến thắng: Inkling; Ghi chú: Terminal Bench 2.1 63.8 vs 56.4
An toàn (đối kháng). Người thắng: Inkling (sát sao); Ghi chú: FORTRESS 78.0% vs 77.6%
Trí thông minh tổng thể. Người chiến thắng: Inkling; Ghi chú: AA Intelligence Index 41 vs 38
Đa phương thức / Âm thanh. Người chiến thắng: Inkling; Ghi chú: Văn bản+hình ảnh+âm thanh vào; các phương thức Nemotron không có trong dữ liệu của chúng tôi
Phù hợp doanh nghiệp/phần cứng. Người chiến thắng: Nemotron 3 Ultra; Ghi chú: Tích hợp ngăn xếp NVIDIA gốc
Chi phí (tự lưu trữ). Người thắng: Hòa; Ghi chú: Cả hai đều miễn phí bản quyền để tự lưu trữ (theo từng giấy phép)
Điểm chuẩn đối đầu
Các số liệu sau đây đến từ một bộ dữ liệu nhất quán duy nhất được báo cáo bởi MarkTechPost, cộng với một chỉ số độc lập từ Artificial Analysis. Chữ đậm đánh dấu người dẫn đầu.
HLE (không có công cụ). Inkling: 29.7%; Nemotron 3 Ultra: 26.6%; Nguồn: MarkTechPost
AIME 2026 (toán). Inkling: 97,1%; Nemotron 3 Ultra: 94,2%; Nguồn: MarkTechPost
SWE-bench Verified (lập trình). Inkling: 77.6%; Nemotron 3 Ultra: 70.7%; Nguồn: MarkTechPost
Terminal Bench 2.1 (agentic). Inkling: 63.8; Nemotron 3 Ultra: 56.4; Nguồn: MarkTechPost
FORTRESS (adversarial). Inkling: 78.0%; Nemotron 3 Ultra: 77.6%; Nguồn: MarkTechPost
AA Intelligence Index. Inkling: 41; Nemotron 3 Ultra: 38; Source: Artificial Analysis
Đây là một chiến thắng hoàn toàn cho Inkling trong dữ liệu chúng tôi có. Cần phải nói rõ ràng: trong số các đối thủ mã nguồn mở mà Inkling được đánh giá so sánh, Nemotron 3 Ultra là cái mà nó đánh bại trên mọi mặt trận. Đối với các mô hình mã nguồn mở khác như GLM 5.2, Kimi K2.6 và DeepSeek V4 Pro, Inkling có thắng có thua — nhưng ở đây nó dẫn đầu mọi hàng.
Tuy nhiên, hãy lưu ý những cảnh báo. Đây là những con số tự báo cáo vào ngày ra mắt từ phía Inkling, và điểm số của đối thủ cạnh tranh được tổng hợp bởi bên thứ ba chứ không được kiểm toán độc lập. Biên độ trên FORTRESS (78.0% so với 77.6%) đủ hẹp để một lần chạy lại trong các điều kiện thử nghiệm khác nhau có thể đảo ngược chúng. Hãy coi xu hướng đáng tin cậy hơn các số thập phân.
Nơi Nemotron 3 Ultra chiến thắng
Lợi thế của Nemotron 3 Ultra không nằm trên bảng điểm trong dữ liệu của chúng tôi — đó là định vị. Nemotron là dòng mô hình riêng của NVIDIA, và điều đó mang trọng lượng thực sự đối với các doanh nghiệp đã cam kết với ngăn xếp của NVIDIA:
Đồng thiết kế phần cứng và phần mềm. Các mô hình Nemotron được xây dựng để chạy mượt mà trên phần cứng của NVIDIA và được cung cấp qua các công cụ doanh nghiệp của NVIDIA (dịch vụ vi mô suy luận NIM, khung NeMo và các triển khai tham khảo DGX/Blackwell được chứng nhận). Nếu đội ngũ nền tảng của bạn đã chạy trên stack đó, Nemotron sẽ tích hợp với ít ma sát nhất.
Hỗ trợ và đóng gói doanh nghiệp. Một mô hình được hỗ trợ bởi cỗ máy thương mại của NVIDIA là một câu chuyện mua sắm và hỗ trợ dễ dàng hơn cho các tổ chức lớn so với một bản phát hành đầu tiên từ một startup non trẻ.
Sức hút của hệ sinh thái. Đối với các nhóm chuẩn hóa trên một nhà cung cấp duy nhất cho GPU, trình điều khiển, thời gian chạy suy luận và mô hình, Nemotron làm giảm số lượng các bộ phận chuyển động.
Không điều nào trong số đó xuất hiện trong bảng điểm chuẩn, nhưng nó thường là yếu tố quyết định trong các triển khai doanh nghiệp.
Nơi Inkling giành chiến thắng
Mọi điểm chuẩn trong dữ liệu của chúng tôi. HLE, AIME 2026, SWE-bench Verified, Terminal Bench 2.1 và FORTRESS đều ủng hộ Inkling, cũng như AA Intelligence Index độc lập (41 vs 38).
Giấy phép cho phép hơn. Apache 2.0 gần như là giấy phép mở không hạn chế nhất. Giấy phép mô hình mở Nemotron của NVIDIA có thể có các điều kiện đáng xem xét (xem bên dưới).
Đầu vào đa phương thức. Inkling chấp nhận văn bản, hình ảnh và âm thanh đầu vào (văn bản đầu ra). Hỗ trợ phương thức của Nemotron không có trong dữ liệu của chúng tôi.
Cửa sổ ngữ cảnh khổng lồ. Trọng số của Inkling hỗ trợ lên tới 1M token (256K trên các API được lưu trữ).
Nỗ lực tư duy có thể kiểm soát. Một núm điều chỉnh nỗ lực suy luận cho phép bạn đánh đổi chi phí để lấy độ sâu cho mỗi yêu cầu.
Giá cả và chi phí / TCO
Bởi vì cả hai mô hình đều có trọng số mở, câu hỏi chi phí chính là giống nhau cho mỗi: tự lưu trữ là miễn phí bản quyền (tuân theo các điều khoản giấy phép của mỗi mô hình). Bạn trả tiền cho GPU và các hoạt động vận hành, không phải cho các trọng số.
Với Inkling, nếu bạn thích lưu trữ được quản lý, các nhà cung cấp bên thứ ba định giá nó (theo Artificial Analysis) vào khoảng $1.87 / 1M token đầu vào và $4.68 / 1M token đầu ra ở ngữ cảnh 64K (bộ nhớ đệm khoảng $0.374 / 1M), tăng lên khoảng $3.74 / $9.36 tại ngữ cảnh 256K. Việc tinh chỉnh chạy qua Tinker nền tảng (các tùy chọn ngữ cảnh 64K và 256K), với ưu đãi giảm giá ra mắt 50% có thời hạn, và có một Playground miễn phí để thử. Inkling cũng đặc biệt tiết kiệm token (khoảng 25K token đầu ra cho mỗi tác vụ), giúp giảm chi phí token đầu ra thực tế.
Đối với Nemotron 3 Ultra, chúng tôi không có dữ liệu về giá theo token cho dịch vụ lưu trữ, vì vậy chúng tôi sẽ không đưa ra con số. Về mặt định tính: nếu bạn chạy nó trong một thỏa thuận doanh nghiệp NVIDIA hiện có, chi phí mô hình có thể được gộp vào một thỏa thuận ngăn xếp rộng hơn, điều này có thể thay đổi phép tính TCO một cách độc lập với bất kỳ tỷ lệ nào theo token.
Cấp phép & triển khai
Cấp phép. Inkling được phát hành theo Apache 2.0 — sử dụng thương mại được cho phép, tự lưu trữ miễn phí bản quyền, và các điều khoản đơn giản và dễ hiểu. Nemotron 3 Ultra được phân phối theo NVIDIA’s open model license. Chúng tôi sẽ không đoán các điều khoản cụ thể của nó; hành động có trách nhiệm là đọc trực tiếp các điều khoản của NVIDIA trước khi cam kết triển khai thương mại, vì các giấy phép mô hình mở có thể bao gồm các hạn chế sử dụng, yêu cầu ghi nhận, hoặc các điều kiện sử dụng chấp nhận được mà Apache 2.0 không có. Kết luận thực tế: Giấy phép của Inkling là giấy phép dễ dãi hơn và có thể dự đoán trước hơn trong hai giấy phép.
Cách chạy Inkling. Các trọng số có trên Hugging Face (BF16 + một checkpoint NVFP4 cho NVIDIA Blackwell). Các mức VRAM:
BF16: ~2TB (khoảng 8×B300 hoặc 16×H200)
NVFP4: ~600GB (khoảng 4×B300 hoặc 8×H200)
Cấu hình bị ràng buộc: Lượng tử hóa GGUF 1-bit Unsloth
Các runtime được hỗ trợ bao gồm SGLang, vLLM, TokenSpeed, Unsloth và Hugging Face transformers, và quyền truy cập được lưu trữ có sẵn thông qua Together AI, Fireworks, Modal, Databricks và Baseten. Một hướng dẫn bắt đầu nhanh vLLM tối thiểu trông như sau:
vllm serve thinkingmachines/Inkling --tensor-parallel-size 8
Cách chạy Nemotron 3 Ultra. Nemotron 3 Ultra cũng có trọng số mở và có thể tự lưu trữ, và nó được thiết kế để chạy thông qua đường dẫn triển khai riêng của NVIDIA (các vi dịch vụ NIM và framework NeMo trên phần cứng NVIDIA). Chúng tôi không có dung lượng VRAM chính xác hoặc giá mỗi token trong dữ liệu của mình, vì vậy hãy kiểm tra trang mô hình của NVIDIA để biết kích thước checkpoint và thời gian chạy được hỗ trợ.
Bạn nên chọn cái nào?
Chọn Inkling nếu bạn muốn hiệu suất đo lường mạnh hơn trong dữ liệu của chúng tôi, giấy phép cho phép nhất (Apache 2.0), đầu vào đa phương thức, cửa sổ ngữ cảnh 1 triệu token, và một mô hình hiệu quả về token mà bạn có thể tinh chỉnh trên Tinker. Đây là lựa chọn tốt hơn cho các nhóm nhạy cảm về chi phí và bất kỳ ai muốn sự linh hoạt tối đa trong cách họ triển khai.
Chọn Nemotron 3 UltraNếu tổ chức của bạn đã chuẩn hóa trên nền tảng doanh nghiệp và phần cứng của NVIDIA và coi trọng sự tích hợp chặt chẽ, đóng gói và hỗ trợ đó hơn là khoảng cách về điểm chuẩn. Bảng xếp hạng nghiêng về Inkling; hệ sinh thái có thể nghiêng về Nemotron cho bạn.
Không chắc chắn? Cả hai đều miễn phí để tự lưu trữ, vì vậy hành động ít rủi ro nhất là tạo mẫu thử Inkling (thông qua Playground miễn phí hoặc một nhà cung cấp lưu trữ) và Nemotron (thông qua đường dẫn triển khai của NVIDIA) trên các tác vụ đại diện của riêng bạn. Các điểm chuẩn chỉ ra một hướng; khối lượng công việc của bạn mới là người phán xét thực sự.
Để tìm hiểu sâu hơn về bản thân Inkling, hãy xem bài đánh giá đầy đủ về mô hình Inkling AI của chúng tôi và bài giải thích What is Inkling AI?. Đối với các so sánh open-weight khác, hãy so sánh Inkling vs Kimi K2.6 và Inkling vs GLM 5.2, nơi kết quả gần nhau hơn so với ở đây.
Câu hỏi thường gặp
Inkling có tốt hơn Nemotron 3 Ultra không? Dựa trên dữ liệu chúng tôi có, có. Inkling dẫn đầu mọi hàng điểm chuẩn đối đầu (MarkTechPost set) và Chỉ số Trí tuệ Phân tích Nhân tạo độc lập (41 so với 38). Tuy nhiên, những con số này là tự báo cáo hoặc từ bên thứ ba và chưa được kiểm toán độc lập, và "tốt hơn" cũng phụ thuộc vào mức độ phù hợp của từng mô hình với hệ thống hiện tại của bạn.
Cái nào tốt hơn cho việc lập trình? Inkling, theo số liệu: SWE-bench Verified 77.6% so với 70.7% và Terminal Bench 2.1 63.8 so với 56.4 (cả hai đều từ MarkTechPost). Như mọi khi, hãy kiểm chứng trên cơ sở mã của riêng bạn trước khi quyết định.
Cái nào rẻ hơn?Cả hai đều miễn phí bản quyền để tự lưu trữ, vì vậy câu trả lời trung thực là “nó phụ thuộc vào cơ sở hạ tầng của bạn.” Inkling có giá lưu trữ công bố (~$1.87/$4.68 cho mỗi 1M token đầu vào/đầu ra qua AA) và hiệu quả về token; chúng tôi không có giá lưu trữ của Nemotron trong dữ liệu của mình, và chi phí của nó có thể được gộp vào một thỏa thuận rộng hơn với NVIDIA.
Nemotron 3 Ultra có phải là mã nguồn mở không? Nó là trọng số mở — các trọng số có thể tải xuống — nhưng nó được phân phối theo giấy phép mô hình mở của NVIDIA, không phải giấy phép nguồn mở được OSI chuẩn nhận. “Trọng số mở” không giống với “mã nguồn mở”. Hãy kiểm tra các điều khoản của NVIDIA để biết chi tiết cụ thể. Ngược lại, Inkling sử dụng Apache 2.0.
Tôi có thể tự lưu trữ Nemotron 3 Ultra không? Có. Nó có trọng số mở và có thể tự lưu trữ, được thiết kế để chạy qua công cụ triển khai của NVIDIA (NIM/NeMo) trên phần cứng NVIDIA. Hãy xem lại giấy phép trước khi sử dụng thương mại.
Tôi có thể tinh chỉnh Inkling không? Có. Inkling được xây dựng để tùy chỉnh: bạn có thể tinh chỉnh qua nền tảng Tinker (các tùy chọn ngữ cảnh 64K/256K, với chiết khấu ra mắt) hoặc tự lưu trữ các trọng số Apache 2.0 và tinh chỉnh trên cơ sở hạ tầng của riêng bạn.
Kết luận
Trong số các đối thủ cạnh tranh công khai mà chúng tôi có dữ liệu, Nemotron 3 Ultra là cái tên Inkling đánh bại một cách rõ ràng — dẫn đầu mọi hàng điểm chuẩn và chỉ số trí tuệ độc lập, với giấy phép Apache 2.0 cởi mở hơn cùng hỗ trợ đa phương thức và ngữ cảnh dài. Lợi thế thực sự của Nemotron 3 Ultra không nằm ở bảng điểm mà là sự tích hợp tự nhiên trong hệ sinh thái doanh nghiệp và phần cứng của NVIDIA, điều có thể quan trọng hơn vài điểm chuẩn đối với các đội ngũ đã cam kết với hệ thống đó. Hãy ghi nhớ những lưu ý — không con số nào trong số này được kiểm toán độc lập — nhưng nếu bạn đang lựa chọn dựa trên năng lực đo lường và tự do cấp phép, Inkling là lựa chọn mạnh hơn ở đây.
