Nemotron 3.5 Bolt 74B เทียบกับ Nemotron 3 Ultra: 1.5 คะแนนดัชนี พารามิเตอร์เจ็ดเท่า

ตัวเลขที่น่าประหลาดใจที่สุดในตระกูล N​VIDIA N​emotron 3.5 ไม่ใช่ขนาดของเรือธง หากคือความจริงที่ว่า N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB ซึ่งเป็นเช็กพอยต์ 74,000 ล้านพารามิเตอร์ที่บีบอัดให้เหลือ 24 กิกะไบต์ที่สองบิตต่อน้ำหนัก ทำคะแนนได้ห่างจาก N​emotron 3 Ultra โมเดล 550,000 ล้านพารามิเตอร์ที่โมเดลอื่น ๆ ในตระกูลนี้ถูกกลั่นออกมา เพียง 1.5 จุด บน Intelligence Index ที่ดำเนินการทดสอบอย่างอิสระโดย Artificial Analysis — 21.4 ต่อ 22.9 พารามิเตอร์มากกว่าเจ็ดเท่า คอมพิวต์ที่ใช้งานจริงต่อโทเคนมากกว่าหกเท่า และช่องว่างที่คุณอาจหลงหายไปในแถบความคลาดเคลื่อนของเบนช์มาร์ก น้ำหนักของ Bolt ปรากฏบน Hugging Face เมื่อวันที่ 7 ตุลาคม 2026 โดยมีการประกาศของ N​VIDIA ตามมาเมื่อวันที่ 15 ตุลาคม ส่วน Ultra เปิดตัวเมื่อวันที่ 4 มิถุนายน 2026

โมเดลทั้งสองใช้แทนกันไม่ได้ และจุดที่ทั้งสองแตกต่างกันให้แง่คิดมากกว่าคะแนนพาดหัวข่าว สิ่งที่การบีบอัดเก็บรักษาไว้และสิ่งที่มันทิ้งไปนั้นล้วนมองเห็นได้ในตัวเลขที่เผยแพร่ และมันไม่ใช่แถวเดียวกัน

แต่ละอย่างคืออะไร

Ultra เป็นเรือธงของรุ่นก่อนหน้าและเป็นโมเดลครูที่อยู่ศูนย์กลางของไปป์ไลน์การกลั่นของ NVIDIA เป็นไฮบริด Mamba-2 ขนาดรวม 550B, ใช้งานจริง 55B พร้อม Multi-Token Prediction เผยแพร่ภายใต้ OpenMDW-1.1 พร้อมข้อมูลการฝึกและสูตรการฝึก สร้างขึ้นสำหรับงานแบบเอเจนต์ที่ทำงานเป็นเวลานานด้วยบริบทสูงสุดถึงหนึ่งล้านโทเค็นและเพดานเอาต์พุต 65,000 โทเค็นต่อคำขอ คำกล่าวอ้างของ NVIDIA เองสำหรับมันคือโมเดล open-weights ของสหรัฐฯ ที่มีความฉลาดสูงสุดในช่วงเวลาที่เปิดตัว และบันทึกอิสระส่วนใหญ่สนับสนุนสิ่งนั้น: คณะกรรมการให้คะแนนมัน 22.9 ในการตั้งค่าโหมดการให้เหตุผล โดยวัดได้ 156 โทเค็นเอาต์พุตต่อวินาที, 1.29 วินาทีถึงโทเค็นแรก, และเวลาตอบสนองแบบ end-to-end มัธยฐาน 19 วินาที

Bolt คือระดับ edge ของเจเนอเรชันใหม่กว่า และไม่ใช่ distilled-Ultra ในความหมายโดยตรง โมเดลต้นทางคือ Nemotron 3.5 Super VL 120B-A12B โมเดลมัลติโมดัลขนาด 1.2 แสนล้านพารามิเตอร์ที่ NVIDIA เปิดตัวพร้อมกัน การบีบอัดดำเนินการโดย Star Elastic การค้นหาสถาปัตยกรรมที่นำทางด้วยเราเตอร์ของ NVIDIA ซึ่งปรับให้เหมาะสมกับค่าความสูญเสียจากการกลั่นความรู้ที่ต่ำที่สุด ที่ยังคงเป็นไปตามข้อจำกัดด้าน footprint ที่เข้มงวดต่ำกว่า 24GB ที่แบตช์ขนาด 1 และบริบท 128K — ลด top-K ของผู้เชี่ยวชาญจาก 22 ลงมาเหลือ 9 และควอนไทซ์น้ำหนักผู้เชี่ยวชาญเป็น IQ2-XXS ที่ 2.0625 บิตต่อองค์ประกอบ ด้วยการกลั่นความรู้แบบคำนึงถึงการควอนไทซ์เพื่อกู้คืนความแม่นยำ โมเดลนี้มีตัวเข้ารหัสภาพ C-RADIO v4-H เพราะโมเดลต้นทางเป็นมัลติโมดัล

แถวอิสระ ทั้งสองด้าน

ข้อมูลทั้งหมดด้านล่างนี้มาจาก Artificial Analysis เว้นแต่จะระบุไว้เป็นอย่างอื่น ซึ่งเป็นสิ่งที่ทำให้การเปรียบเทียบนี้ใช้งานได้: โมเดลทั้งสองถูกทดสอบโดยผู้ประเมินรายเดียวกันภายใต้ฮาร์เนสเดียวกัน

• ดัชนีความฉลาด — Bolt 21.4; Ultra 22.9 วัดผลอย่างอิสระสำหรับทั้งคู่

• GDPval-AA (ปรับมาตรฐาน) — Bolt 0.240; Ultra 0.257 ช่องว่าง 1.7 จุดบนเบนช์มาร์กที่สร้างจากผลงานส่งมอบในสายอาชีพจริง

• SciCode — Bolt 0.397; Ultra 0.403 ถือว่าอยู่ในระดับเดียวกัน

• Humanity's Last Exam, ไม่ใช้เครื่องมือ — Bolt 24.7 เปอร์เซ็นต์; Ultra 28.4 เปอร์เซ็นต์ ส่วนต่าง 4 จุดตรงนี้มากที่สุดในรายการนี้เมื่อเทียบเป็นสัดส่วน

• AA-LCR long-context retrieval — Bolt 69.7 เปอร์เซ็นต์; Ultra 79.3 เปอร์เซ็นต์ สิบจุด และเป็นหลักฐานที่ชัดเจนที่สุดถึงต้นทุนของการบีบอัดแบบ 2-bit

• AA-Omniscience — Bolt มีความแม่นยำ 17.1 เปอร์เซ็นต์ โดยมีอัตราการไม่สร้างข้อมูลเท็จ 56.3 เปอร์เซ็นต์; Ultra มีความแม่นยำ 22.6 เปอร์เซ็นต์ โดยมีอัตราการไม่สร้างข้อมูลเท็จ 70.3 เปอร์เซ็นต์ รุ่นเรือธงทั้งมีความรู้มากกว่าและปรับเทียบได้ดีกว่า ซึ่งเป็นผลลัพธ์ที่น่าแปลกใจน้อยที่สุดในหน้านี้

• Terminal-Bench 4.0 (ชุดที่ยากขึ้น) — ทั้งคู่ได้คะแนนศูนย์ ไม่มีโมเดลไหนไขระดับนั้นได้ แม้แต่ตัวเรือธงก็ตาม

• หน้าต่างบริบท — Bolt: สูงสุด 256,000 โทเค็นตามโมเดลการ์ด และ 262,144 ตามบันทึกของแผง Ultra: สูงสุด 1,000,000 ตาม N​VIDIA โดยมีเอาต์พุตสูงสุด 65,000 โทเค็น

• อินพุต — Bolt: รับข้อความ รูปภาพ และวิดีโอเข้า ส่งออกเป็นข้อความ Ultra: รับข้อความเข้า ส่งออกเป็นข้อความ ไม่มีสิ่งใดในเอกสารเปิดตัวของเรือธงที่อ้างว่ามี vision tower

• ราคา — Bolt: ไม่มี ไม่มีอัตราคิดค่าบริการตามการใช้งานที่เผยแพร่สำหรับเช็กพอยต์ 24GB และแผงไม่ได้ระบุตัวเลขอินพุตหรือเอาต์พุตสำหรับมัน Ultra: $0.60 ต่อหนึ่งล้านโทเคนอินพุต และ $2.50 ต่อหนึ่งล้านโทเคนเอาต์พุต โดยอินพุตที่แคชไว้อยู่ที่ $0.16 และมีค่าใช้จ่ายที่วัดได้ $0.60 ต่อหนึ่งงาน Intelligence Index

• ความเร็ว — Bolt: ไม่มีการวัดผลแบบอิสระ Ultra: 156.1 โทเค็นเอาต์พุตต่อวินาที 1.29 วินาทีถึงโทเค็นแรก ระยะเวลาการคิดเหตุผลมัธยฐาน 14.6 วินาทีต่อการตอบสนอง

• ขนาด — Bolt: 24GB ที่ IQ2, สามารถติดตั้งใช้งานได้บน A100, H100 หรือ Blackwell หนึ่งตัว Ultra: การติดตั้งใช้งานแบบหลายตัวเร่งความเร็ว; สูตรของ N​VIDIA เองสำหรับจุดตรวจสอบของครูในตระกูลนี้ระบุว่าต้องมี B200 สี่ตัวหรือ H100 แปดตัวเป็นขั้นต่ำ และ Ultra เป็นสมาชิกที่ใหญ่ที่สุด

ทำไมช่องว่างของดัชนีจึงเล็กกว่าช่องว่างของขนาด และนั่นหมายความว่าอย่างไร

มีคำอธิบายที่ตรงไปตรงมาอยู่สองข้อ และทั้งสองข้อก็คงเป็นจริงเพียงบางส่วน

อย่างแรกคือ Intelligence Index เป็นตัวชี้วัดแบบผสมที่ให้น้ำหนักกับกระบวนการมากกว่าการจดจำ Bolt สูญเสียข้อเท็จจริงที่จัดเก็บไว้เนื่องจากการควอนไทซ์แบบ 2-bit — คุณเห็นได้จากแถวความแม่นยำ — แต่ยังคงรักษาพฤติกรรม chain-of-thought, tool-calling และ structured-output ไว้ได้มากพอที่จะทำคะแนนในงานแบบผสม โปรดสังเกตว่าข้อได้เปรียบของ Ultra กระจุกตัวอยู่ในจุดที่หน่วยความจำมีความสำคัญพอดี: การดึงข้อมูลบริบทระยะยาว (long-context retrieval), ความแม่นยำแบบรอบรู้ (omniscience accuracy), อัตราการสร้างข้อมูลเท็จ (hallucination rate), คำถามวิทยาศาสตร์ยากๆ ที่ต้องใช้ข้อเท็จจริงมากกว่าวิธีการ

ข้อที่สองคือ การค้นหาสถาปัตยกรรมบนโมเดลต้นทางที่แข็งแกร่งเป็นการใช้งบประมาณแบบจำกัดได้คุ้มค่ากว่าการฝึกโมเดลเล็กตั้งแต่เริ่มต้น ซึ่งเป็นข้อโต้แย้งที่ชัดเจนของ NVIDIA ในเอกสารประกอบของ Bolt การนำโมเดลครูแบบมัลติโมดัลขนาด 120B มาค้นหานักเรียนที่กว้างที่สุดซึ่งพอดีกับ 24GB นั้นเป็นคนละเรื่องกับการพรีเทรนโมเดลขนาด 30B และเช็กพอยต์ 74B/9B ที่ได้จะอยู่ตรงตำแหน่งที่โมเดล 74B ที่มีประสิทธิภาพสูงผิดปกติควรอยู่

สิ่งที่เรื่องนี้ไม่ได้หมายความก็คือ Bolt จะมาแทนที่ Ultra โมเดลที่ยอมรับความไม่แน่ใจบ่อยกว่า (อัตราการไม่สร้างข้อมูลเท็จ 56.3 เทียบกับ 70.3 เปอร์เซ็นต์ ซึ่งเป็นทิศทางที่ผิด) และดึงข้อมูลจากบริบทขนาดยาวได้อย่างน่าเชื่อถือน้อยกว่า ย่อมเป็นผู้ช่วยที่แย่กว่าสำหรับคำถามที่ผู้คนถามจริง ๆ แต่สำหรับงานที่เป็นขั้นตอนเป็นส่วนใหญ่ มันกลับเป็นผู้ช่วยที่ดีกว่า: การเรียกใช้เครื่องมือ การกรอกแบบฟอร์ม การแก้ไขไฟล์ การอ่านภาพหน้าจอ และการคลิกสิ่งที่ถูกต้อง

สองสิ่งที่ Ultra ทำไม่ได้

ข้อได้เปรียบของ Bolt นั้นมีจำกัด และทั้งสองประการล้วนเป็นเชิงโครงสร้างมากกว่าเชิงตัวเลข

มันลงตัว เช็กพอยต์ขนาด 24GB รันบนฮาร์ดแวร์ที่คนคนหนึ่งเป็นเจ้าของเอง โดยไม่ต้องมีเครือข่าย ไม่มีมิเตอร์คิดเงินต่อโทเคน และไม่ต้องเจรจาเรื่องความจุ ความฉลาดของ Ultra เข้าถึงได้ผ่าน API เท่านั้น ในราคา $0.60 สำหรับอินพุต และ $2.50 สำหรับเอาต์พุตต่อล้านโทเคน และใช้จ่ายประมาณ $0.60 ต่องาน index หนึ่งงาน ราคานั้นต่ำจริง ๆ สำหรับโมเดลระดับเดียวกับมัน ซึ่งเป็นเหตุผลว่าทำไมเส้นทางแบบโฮสต์จึงเป็นตัวเลือกจริง ๆ มากกว่าจะเป็นการประนีประนอม — แต่ก็ยังเป็นเส้นทางที่ต้องมีการเชื่อมต่อ และต้องเชื่อใจในอัปไทม์ของคนอื่น

มันมองเห็น ตัวเข้ารหัสการมองเห็น C-RADIO v4-H ของ Bolt มอบอินพุตรูปภาพและวิดีโอให้มัน และการ์ดโมเดลของ N​VIDIA รายงานค่า 50.86 บน WebArena vision และ 66.75 บน BrowseComp. Ultra เป็นโมเดลข้อความ หากงานของเอเจนต์เกี่ยวข้องกับภาพหน้าจอ ไฟล์ PDF การอ่านแดชบอร์ด หรือการอัตโนมัติของเบราว์เซอร์ที่มีสถานะเชิงภาพ เรือธงของรุ่นเก่าก็ไม่อาจนำมาใช้แทนได้ไม่ว่าจะราคาเท่าใด

วิธีการเลือก

เลือกใช้ Ultra หากภาระงานเน้นการใช้เหตุผลและเป็นข้อความล้วน: การวิเคราะห์หลายขั้นตอน ชุดเอกสารขนาดยาว การเขียนโค้ดบนคลังโค้ดขนาดใหญ่ หรือสิ่งใดก็ตามที่การผิดพลาดมีต้นทุนสูง คะแนนอิสระของ Ultra เหนือกว่า Bolt แทบทุกด้าน ราคาอยู่ในกลุ่มต่ำที่สุดในระดับสติปัญญาสูง และอัตราการประมวลผลของ Ultra ถูกวัดจากจริง ไม่ใช่สันนิษฐานเอา

เลือกใช้ Bolt ถ้าเวิร์กโหลดรันบนฮาร์ดแวร์ที่คุณควบคุมเอง จำเป็นต้องมองเห็น หรือต้องทำงานต่อไปเมื่อเครือข่ายใช้การไม่ได้ ช่องว่างดัชนี 1.5 จุดนั้นมีจริงและแคบพอที่การตัดสินใจมักอยู่ที่การดีพลอยมากกว่าคุณภาพ — และข้อเท็จจริงที่ว่า NVIDIA ปล่อยไฟล์ขนาด 24GB ที่ทำคะแนนได้ห่างจากเรือธง 550B ของตัวเองไม่ถึงสองจุด กลับเป็นข้อเท็จจริงที่น่าสนใจกว่าในการเปิดตัวทั้งสองครั้ง

มีเส้นทางสายกลางอยู่จริงที่ควรค่าแก่การเอ่ยถึง เพราะนี่คือวิธีที่ NVIDIA วางตำแหน่งตระกูลผลิตภัณฑ์นี้ มากกว่าที่ผู้ซื้อซึ่งใช้โมเดลเดียวจะมอง นั่นคือ ตัวทำงานขนาดเล็กที่รันในเครื่องคอยเรียกใช้เครื่องมือและอ่านหน้าจอ โดยมีโมเดลที่โฮสต์ไว้ขนาดใหญ่กว่าทำหน้าที่วางแผนและคิดวิเคราะห์เรื่องยาก สถาปัตยกรรมแบบนั้นจำเป็นต้องมีวิธีที่เชื่อถือได้ในการเข้าถึงครึ่งที่โฮสต์ไว้ ผ่านผู้ให้บริการมากกว่าหนึ่งราย ซึ่งเป็นสิ่งที่ระบบ failover ของ OrcaRouter มีไว้เพื่อรองรับ — การลองใหม่โดยอัตโนมัติข้ามผู้ให้บริการต่างๆ ภายใต้ endpoint เดียว, บนคีย์เดียวที่ยังเข้าถึงโมเดลกว่า 200 รายการในราคาตามรายการของผู้ให้บริการ โดยบวกเพิ่ม 0 เปอร์เซ็นต์เราไม่ได้โฮสต์โมเดล NVIDIA ใดๆ ตระกูล Nemotron ไม่ได้อยู่ในแคตตาล็อกของเรา และไม่มีสิ่งใดในที่นี้เป็นการอ้างว่าเราให้บริการมัน ประเด็นมีเพียงว่า การออกแบบเอเจนต์แบบสองชั้นจำเป็นต้องให้ชั้นที่สองสามารถกำหนดเส้นทางไปถึงได้ และ endpoint ของผู้ขายรายเดียวที่ฮาร์ดโค้ดไว้คือสาเหตุปกติที่ทำให้การออกแบบนั้นล้มเหลว

อะไรจะเปลี่ยนหน้านี้

การวัดสองรายการ อย่างแรกคือการรัน throughput และ latency แบบอิสระบน checkpoint ขนาด 24GB ซึ่งจะยืนยันหรือทำลายเหตุผลในการใช้มันเป็น local executor ที่ความเร็วระดับอินเทอร์แอกทีฟ ปัจจุบันตัวเลขเดียวที่มีคือ 83.99 tokens ต่อวินาทีของ NVIDIA เองบน AIPerf SPEED-Bench-Coding ซึ่งวัดบนเครื่องระดับแล็ปท็อปและไม่สามารถเทียบกับ rig ของคณะผู้ทดสอบได้ อย่างที่สองคือการรันซ้ำแบบอิสระของเบนช์มาร์กแบบ agentic บน weights 2-bit ที่ระดับการควอนไทซ์ซึ่งบุคคลที่สามควบคุม ตารางของผู้ขายระบุว่า Bolt เอาชนะ Ultra บน Terminal-Bench 2.1 ไปเกือบ 27 คะแนน และข้อกล่าวอ้างนั้นกำลังแบกรับภาระอย่างมหาศาลโดยไม่มีการยืนยันจากภายนอก

ไม่มีสิ่งใดในนี้เป็นเหตุผลให้หลีกเลี่ยงโมเดลนี้ เป็นเพียงเหตุผลให้รู้ประวัติความเป็นมา: เหตุการณ์ AI และความล้มเหลวของเอเจนต์ที่ได้รับการบันทึกไว้ซึ่งอยู่เบื้องหลังโมเดลในคลาสนี้ ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง ระดับความเชื่อมั่น และแฟล็กข้อโต้แย้งของตนเอง