Nemotron 3.5 Bolt 74B vs DeepSeek V4 Pro: ทั้งคู่เป็นโมเดลเปิด ตัวหนึ่งพอดีใน 24GB

N​VIDIA's N​emotron 3.5 Bolt 74B-A9B 24GB and DeepSeek V4 Pro are on the same side of the open-versus-closed line and nowhere near each other on the hardware line. Both publish weights you can download, both permit commercial use, and both can be served without asking anyone's permission. One of them is 74 billion parameters with 9 billion active, quantised to fit in 24 gigabytes so it runs on a laptop-class machine next to your other applications. The other is 1.6 trillion parameters with 49 billion active, and the phrase "deployment footprint" does not mean what it means for the first one.

ความแตกต่างนั้นมีนัยสำคัญยิ่งกว่าคะแนนดัชนี และคะแนนดัชนีก็ห่างกันอยู่แล้วถึง 15 คะแนน ด้านล่างนี้คือการเปรียบเทียบที่ทีมต้องทำจริง: ไม่ใช่ว่าโมเดลไหนดีกว่าในเชิงนามธรรม แต่เป็นว่าจากผลิตภัณฑ์โอเพนเวตสองตัวนี้ คุณสามารถใช้งานตัวไหนได้จริง ด้วยคุณภาพระดับใด และด้วยค่าใช้จ่ายเท่าไร

สองรูปแบบที่แตกต่างกันอย่างมากของ "open"

Worth stating plainly before any of it, though, because the two open-weight halves did not arrive the same way. D​eepSeek published V4 Pro as a product, with a card and a rate card. N​VIDIA has not announced N​emotron 3.5 Bolt 74B-A9B 24GB at all. The files simply appeared: the 24GB quantised repository on 7 October 2026, its GGUF conversion hours later, a BF16 checkpoint on 9 October, the LiLiCorr speculative drafter on 12 October. Sixteen days of silence on N​VIDIA's own channels is the state of things, so the verifiable half of this comparison is what a repository can prove — licence, parameter counts, file formats, the serving recipe on the card — and the unconfirmed half is everything a launch post would have carried. The throughput and agentic figures below are N​VIDIA's own and are marked as such, because there is no third party except one index to check them against.

เริ่มจากไลเซนส์และเช็กพอยต์ เพราะนั่นคือจุดที่การตัดสินใจเรื่อง open-weight เกิดขึ้นจริง

• Licence — N​emotron 3.5 Bolt 74B-A9B 24GB: OpenMDW-1.1, a permissive model-weights licence with an explicit commercial-use carve-in; N​VIDIA's card states the model is ready for commercial or non-commercial use. DeepSeek V4 Pro: MIT, which is about as unrestricted as a weights licence gets.

• What is actually publishable — N​emotron 3.5 Bolt 74B-A9B 24GB: the 24GB IQ2 build, a BF16 checkpoint before quantisation, GGUF builds for llama.cpp, and a separate LiLiCorr speculative drafter. DeepSeek V4 Pro: the full-weight checkpoint and its derivatives.

• Where the checkpoint came from — N​emotron 3.5 Bolt 74B-A9B 24GB: compressed from N​VIDIA's N​emotron 3.5 Super VL 120B-A12B parent using Star Elastic, a router-guided architecture search, then quantised with quantisation-aware distillation. It is a distilled child, not a from-scratch model, and N​VIDIA's own research page argues explicitly that compressing a large model into a fixed budget beats training a small one from scratch. DeepSeek V4 Pro: a natively trained frontier-scale mixture-of-experts.

บูลเล็ตที่สามนั่นแหละคือสิ่งที่ชี้ขาดการประเมินส่วนใหญ่ที่คุณจะได้อ่าน การเปรียบเทียบเบนช์มาร์กใด ๆ ระหว่างสองสิ่งนี้คือการเปรียบเทียบระหว่างปรัชญาการออกแบบที่เน้นการบีบอัดอย่างเข้มข้นกับปรัชญาการออกแบบที่เน้นการขยายขนาด และทั้งสองไม่ได้บรรจบกันบนเวิร์กโหลดเดียวกัน

แต่ละอันวัดที่เท่าใด

Artificial Analysis ได้รันทั้งคู่บนดัชนีฉบับแก้ไขปัจจุบันฉบับเดียวกัน ซึ่งเป็นเหตุผลเดียวที่ทำให้ประโยคแบบนี้เขียนขึ้นมาได้เลย

• Intelligence Index — N​emotron 3.5 Bolt 74B-A9B 24GB 21, fourth of 67 models in its open-weight size class. DeepSeek V4 Pro 36, ninth of 116, measured on the 0813 build in the max configuration.

• Cost per Intelligence Index task — N​emotron 3.5 Bolt 74B-A9B 24GB: not applicable, because the panel records no public API for it and there is no metered price to divide by. DeepSeek V4 Pro: 0.67 dollars measured on the panel's own weighted basis.

• Output speed — N​emotron 3.5 Bolt 74B-A9B 24GB: N​VIDIA reports 83.99 tokens per second on AIPerf SPEED-Bench-Coding with its drafter, on a Surface Laptop Ultra. DeepSeek V4 Pro: 96.3 tokens per second measured by Artificial Analysis against the hosted API. The two are not the same measurement and should not be subtracted from each other; what they establish is that both are fast enough that speed is not your constraint.

• Verbosity — N​emotron 3.5 Bolt 74B-A9B 24GB generated 230 million tokens during the panel's index run, against a median of 100 million for its class — the panel's own note calls it very verbose. DeepSeek V4 Pro generated 160 million against a median of 130 million. On a metered API that difference is a line item; on a local box it is electricity and wall-clock.

The 15-point index gap is real and is not closed by the fact that the smaller model is cheaper to run. What closes it, in the workloads where it closes at all, is the vendor's own benchmark set — and that set is worth reading with the right suspicion. N​VIDIA's card puts the Bolt model at Terminal-Bench 2.1 of 50.98 and BrowseComp of 66.75, ahead of every comparator column printed beside it. Those are N​VIDIA's numbers on N​VIDIA's card, and D​eepSeek is not one of the columns.

แผนภาพการติดตั้งใช้งานคือการตัดสินใจที่แท้จริง

This is where DeepSeek V4 Pro and N​emotron 3.5 Bolt 74B-A9B 24GB stop being substitutes for one another.

• Room to run. A 1.6-trillion-parameter model at 49 billion active needs a serving cluster. Even heavily quantised, the checkpoint alone is an order of magnitude past what a single workstation can hold, and the active-parameter count means every token touches a substantial slice of memory bandwidth regardless of the quantisation scheme. The Bolt model was designed against a stated ceiling — N​VIDIA's architecture search targets a footprint below 24GB at batch size one and 128K context — and the search is run with the downstream quantisation already accounted for.

• Minimum viable serving stack. N​emotron 3.5 Bolt 74B-A9B 24GB wants a specific vLLM nightly with the v2 model runner enabled, a downloaded reasoning-parser plugin, b12x kernels, and explicit MoE, Mamba and attention backend flags; llama.cpp covers the GGUF path. DeepSeek V4 Pro is served by the usual inference stacks at distributed scale, which is a different kind of project with a different kind of on-call rotation.

• อินพุต โมเดล Bolt รับข้อความ รูปภาพ และวิดีโอ โดยสูตรอ้างอิงจะจำกัดจำนวนเฟรมวิดีโอและใช้อัตราการตัดทิ้ง รายการมอดาลิตีที่เผยแพร่ของ DeepSeek V4 Pro คือข้อความเข้า ข้อความออก — ขนาด mixture-of-experts ของมันถูกใช้ไปกับการให้เหตุผล ไม่ใช่การรับรู้

• Context. 262,144 tokens for the Bolt model against roughly a million for DeepSeek V4 Pro. If your workload is a repository, a contract set or a long agent transcript, that is a real four-times difference and it is in D​eepSeek's favour.

Put plainly: if you have a datacenter and a workload that needs frontier reasoning, DeepSeek V4 Pro is the better model and the index says so. If you have a laptop, a Spark box or a workstation, and the requirement is that the model runs locally alongside everything else, N​emotron 3.5 Bolt 74B-A9B 24GB is not a compromise on that requirement — it is the only one of the two that meets it.

สิ่งที่โมเดลที่เล็กกว่ามอบให้คุณนอกเหนือจากดิสก์

สามสิ่งที่ไม่ปรากฏในคะแนนดัชนี แต่กลับปรากฏในการตรวจสอบการนำไปใช้งาน

• It runs with the network cable out. A 24GB checkpoint on local storage has no availability dependency, no rate limit and no provider incident. For an agent that runs on a machine you own, that is the whole design goal and the reason N​VIDIA compressed a 120B parent instead of shipping something at full precision.

• Speculation is cheap and safe here. The LiLiCorr drafter adds under a gigabyte on disk and N​VIDIA reports mean acceptance lengths of 4.68 greedy and 4.25 probabilistic at seven drafted tokens and concurrency 64. Because the target verifies every draft, a bad guess costs speed rather than accuracy — the output distribution is preserved. That property is what makes shipping a speculative path reasonable on a local box, and it is documented on the model card.

• ทั้งสแตกสามารถตรวจสอบได้ทั้งหมด ทั้งเวต การตั้งค่าการควอนไทเซชัน ตัวดราฟเตอร์ สูตรการให้บริการ และรายงานทางเทคนิค ต่างเปิดเผยต่อสาธารณะ เมื่อโมเดลมีพฤติกรรมผิดปกติ คุณสามารถอ่านการตั้งค่าได้แทนที่จะต้องยื่นตั๋วแจ้งปัญหา

การคิดต้นทุนสองทางเลือกอย่างตรงไปตรงมา

การเปรียบเทียบราคาไม่สมมาตร และการทำเป็นว่ามันสมมาตรก็จะเป็นความผิดพลาดที่ง่ายที่สุดในหน้านี้

• N​emotron 3.5 Bolt 74B-A9B 24GB has no per-token price because it has no metered endpoint. Its cost is hardware you buy or already own, plus power, plus the engineering hours to stand up the serving recipe. Once that is paid, marginal cost per token is close to zero and stays there.

• DeepSeek V4 Pro is metered. On OrcaRouter it is routed at D​eepSeek's published list, 0.66 dollars per million input tokens and 1.98 dollars per million output tokens, with no markup added on top — so a vendor price move is live on our side the same day. For a workload in the millions of tokens a day, that is a budget line, not a rounding error.

• จุดคุ้มทุนไม่ใช่จำนวนโทเค็น แต่เป็นโปรไฟล์การใช้งาน โมเดลโลคัลที่ปล่อยให้ว่างอยู่คือต้นทุนฝ่ายทุนล้วน ๆ โมเดลแบบโฮสต์ที่รันหนึ่งคำขอต่อสัปดาห์แทบไม่มีค่าใช้จ่าย จุดตัดกันจะเกิดขึ้นเมื่อจำนวนโทเค็นที่คุณจะต้องวัดเกินต้นทุนตัดจำหน่ายของเครื่อง และวิธีเดียวที่จะรู้ว่าจุดนั้นอยู่ตรงไหนสำหรับทราฟฟิกของคุณคือการวัดการใช้งานหนึ่งสัปดาห์

ยังมีทางเลือกที่สามที่แทบไม่มีค่าใช้จ่ายอะไรในการลอง นั่นคือ OrcaRouter ให้บริการ DeepSeek V4 Pro ด้วยคีย์เดียวเคียงข้างโมเดลอื่นอีกกว่า 200 โมเดล, พร้อมระบบสลับไปใช้ผู้ให้บริการรายอื่นโดยอัตโนมัติเมื่อเกิดข้อขัดข้อง. ก่อนจะตัดสินใจลงทุนซื้อเวิร์กสเตชันสำหรับการรันแบบโลคัลที่ใช้หน่วยความจำ 24GB การนำเอาผลลัพธ์ของเครื่องนั้นมาเทียบกับโมเดลระดับแนวหน้าที่คิดค่าบริการตามปริมาณการใช้งาน บนชุดพรอมป์ต์ของคุณเอง มีค่าใช้จ่ายเพียงไม่กี่ดอลลาร์ และช่วยให้ได้คำตอบเรื่องคุณภาพจากหลักฐานเชิงประจักษ์ แทนที่จะเชื่อตามน้ำหนักความน่าเชื่อถือของตารางดัชนี

เวอร์ชันของการตัดสินใจนี้ที่ไม่มีใครต้องเสียใจ

Run both, in the pattern each is good at. DeepSeek V4 Pro for the requests where reasoning depth or a million-token context is the point, and where the metered cost is visible and acceptable. N​emotron 3.5 Bolt 74B-A9B 24GB for the high-volume, private, multimodal or offline traffic, where the model being local is the requirement rather than a cost optimisation.

การเปรียบเทียบที่ผู้คนพยายามทำกันอยู่เรื่อย ๆ — เอาตัวเลขดัชนีตัวหนึ่งไปเทียบกับอีกตัวหนึ่ง — เป็นกรอบที่ไร้ประโยชน์ที่สุดในบริบทนี้ เพราะผลิตภัณฑ์ทั้งสองไม่ได้ถูกสร้างขึ้นมาเพื่อแข่งขันกัน ตัวหนึ่งถูกสร้างขึ้นมาให้ดีที่สุดเท่าที่จะเป็นไปได้โดยไม่มีข้อจำกัดเรื่องขนาด ส่วนอีกตัวถูกสร้างขึ้นมาให้ดีที่สุดเท่าที่จะเป็นไปได้ภายใน 24 กิกะไบต์ ทั้งคู่เป็นแบบเปิด ทั้งคู่ล้วนชอบธรรม และนั่นแหละคือเหตุผลที่ว่าทำไมการเลือกจึงเป็นของคุณที่จะตัดสินใจ ไม่ใช่ให้ผู้ขายมาตัดสินใจแทนคุณ

การเปรียบเทียบเช่นนี้ก็เป็นจุดที่รูปแบบความล้มเหลวปรากฏให้เห็นเช่นกัน: เหตุการณ์ AI และความล้มเหลวของเอเจนต์ที่มีการบันทึกไว้ซึ่งอยู่เบื้องหลังโมเดลในคลาสนี้ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive ซึ่งแต่ละรายการมีแหล่งอ้างอิง ระดับความรุนแรง เกรดความเชื่อมั่น และแฟล็กข้อโต้แย้งของตนเอง