Nemotron 3.5 Bolt 74B กับ Qwen3.8-Max: ช่องว่างที่กว้างที่สุดบนลีดเดอร์บอร์ด

ทุกคู่เปรียบเทียบในตระกูล Nemotron 3.5 Bolt ต่างมีช่องว่างอยู่ และคู่นี้มีช่องว่างกว้างที่สุด NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GBได้คะแนน 21.4 บน Artificial Analysis Intelligence Index Qwen3.8-Maxซึ่งเป็นเรือธงของ Alibaba และเป็นโมเดลที่ได้คะแนนสูงสุดในชุดการเปรียบเทียบนี้ ได้ 45.4 บนบอร์ดจัดอันดับเดียวกันที่รันทดสอบอย่างอิสระ นั่นคือ 24 คะแนน มากกว่าคะแนนดัชนีทั้งหมดของโมเดลที่เล็กกว่าเสียอีก และนี่คือจุดเริ่มต้นที่ตรงไปตรงมาสำหรับใครก็ตามที่สงสัยว่าเอเจนต์โลคัลขนาด 24GB จะทำหน้าที่แทนโมเดลระดับแนวหน้าได้หรือไม่

มันทำไม่ได้. สิ่งที่ทำให้คู่นี้น่าเขียนถึงคือ โมเดลทั้งสองชนะคนละแถวโดยสิ้นเชิง และตาราง Benchmark ของ NVIDIA เองก็เปรียบเทียบ Bolt กับโมเดล Qwen ที่ไม่ใช่รุ่นนี้

สองโมเดลที่ไม่มีอะไรเหมือนกันเลยนอกจากความเป็นมัลติโมดัล

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB เป็นโมเดลวิชัน-ภาษาที่มีพารามิเตอร์ 74 พันล้าน ซึ่งถูกบีบอัดเป็นเช็กพอยต์ 2 บิตที่พอดีกับหน่วยความจำ 24 กิกะไบต์ เวตของมันถูกอัปโหลดขึ้น Hugging Face เมื่อวันที่ 7 ตุลาคม 2026; NVIDIA เปิดชื่อโมเดลนี้ในโพสต์เปิดตัวเมื่อวันที่ 15 ตุลาคม มันถูกสร้างมาสำหรับงานเอเจนต์ภายในเครื่อง — การเรียกใช้เครื่องมือ การท่องเว็บ การใช้เทอร์มินัล การอ่านหน้าจอ — และขายเป็นไฟล์ดาวน์โหลดแทนที่จะเป็นบริการ โดยไม่มีราคาคิดตามการใช้งานที่เผยแพร่ไว้ที่ไหนเลย

Qwen3.8-Max เป็นการออกแบบในทางตรงกันข้าม โมเดลระดับสูงสุดของ Alibaba เป็น sparse mixture-of-experts ที่บริษัทวางตำแหน่งให้แข่งโดยตรงกับโมเดลปิดที่แข็งแกร่งที่สุดในช่วงเปิดตัว โดยให้บริการผ่านรูปแบบการเชื่อมต่อสามแบบ — อินเทอร์เฟซที่เข้ากันได้กับ OpenAI อินเทอร์เฟซที่เข้ากันได้กับ Anthropic และ DashScope ของ Alibaba เอง — ในภูมิภาคต่าง ๆ ได้แก่ ปักกิ่ง สิงคโปร์ โตเกียว แฟรงก์เฟิร์ต และเวอร์จิเนีย โมเดลโฮสต์เปิดตัวเมื่อวันที่ 3 สิงหาคม 2026 พร้อมอินพุตรูปภาพและวิดีโอ คอนเท็กซ์หนึ่งล้านโทเค็น และสวิตช์เปิดโหมดคิด; สแนปช็อตวันที่ 2 กันยายนเป็นเวอร์ชันที่ถูกให้คะแนนบนลีดเดอร์บอร์ดในปัจจุบัน โมเดลพี่น้องแบบ open-weight ในตระกูลเดียวกัน Qwen3.8-2.4T-A95B เป็นการเปิดตัวแยกต่างหาก ไม่ใช่โมเดลที่วัดในที่นี้

อันหนึ่งเป็นไฟล์ อีกอันหนึ่งเป็นบริการ การเปรียบเทียบนี้ยังมีประโยชน์อยู่ เพราะบริการประกาศราคา ส่วนไฟล์ไม่ได้ทำเช่นนั้น และความแตกต่างระหว่างทั้งสองคือสิ่งที่การปรับใช้ในเครื่องกำลังซื้อจริง ๆ

• ดัชนีความฉลาด — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB: 21.4. Qwen3.8-Max: 45.4. ทั้งคู่ได้รับการวัดอย่างอิสระโดย Artificial Analysis.

• บริบท — 262,144 โทเคนสำหรับเช็กพอยต์ของ N​VIDIA เทียบกับประมาณ 983,000 สำหรับ Qwen3.8-Max โดยมีเอาต์พุตสูงสุด 131,072 โทเคนทางฝั่ง A​libaba

• พารามิเตอร์ — 74B ทั้งหมด และ 9B ที่ใช้งานสำหรับ Bolt; รุ่นเรือธงของ Alibaba เป็น sparse mixture-of-experts ที่อยู่ในระดับที่แตกต่างไปโดยสิ้นเชิง โดยเปิดใช้งานพารามิเตอร์ประมาณ 95B ต่อโทเค็นในรูปแบบ open-weight ของมัน

• อินพุต — ทั้งคู่รับข้อความ รูปภาพ และวิดีโอเป็นอินพุต และส่งออกเป็นข้อความ นี่เป็นมิติเดียวที่ทั้งสองเหมือนกันอย่างแท้จริง

• ราคา — Qwen3.8-Max: 2.00 ดอลลาร์ต่อล้านโทเค็นอินพุต, 6.00 ดอลลาร์ต่อล้านโทเค็นเอาต์พุต, 0.25 ดอลลาร์สำหรับอินพุตที่แคชไว้ Bolt: ไม่มีเลย เพราะไม่มีเอนด์พอยต์ให้ซื้อ

• ค่าใช้จ่ายต่อหนึ่งงานใน Intelligence Index — 5.41 ดอลลาร์สำหรับ Qwen3.8-Max ซึ่งเป็นค่าที่วัดได้จริง ไม่มีตัวเลขสำหรับ Bolt ด้วยเหตุผลเดียวกัน

• ความเร็ว — Qwen3.8-Max: 39.8 โทเค็นเอาต์พุตต่อวินาที โดยใช้เวลา 3.06 วินาทีถึงโทเค็นแรก และค่ามัธยฐานของเวลาคิดวิเคราะห์ 50.3 วินาทีต่อการตอบกลับ ทั้งหมดวัดอย่างอิสระ. Bolt: ไม่มีการวัดอัตราการประมวลผลอย่างอิสระ

แถวที่ 24 จุดนั้นมาจาก

Artificial Analysis ได้รันทั้งสองโมเดล การอ่านรายละเอียดแบบทีละแถวนั้นมีประโยชน์มากกว่าคะแนนรวม เพราะคะแนนรวมซ่อนข้อเท็จจริงที่ว่าไม่มีโมเดลใดที่นำอยู่ตลอด

• Terminal-Bench 2.1 — Qwen3.8-Max 88.8 เปอร์เซ็นต์ โดยวัดผลอย่างเป็นอิสระ Bolt ไม่มีรายการที่วัดอย่างเป็นอิสระในแบบทดสอบนี้ NVIDIA รายงาน 50.98 บนโมเดลการ์ดของตน

• GPQA Diamond — Qwen3.8-Max ได้ 92.8 เปอร์เซ็นต์อย่างอิสระ ส่วน 86.43 ของ Bolt เป็นตัวเลขที่ NVIDIA ระบุเอง และคณะกรรมการไม่มีตัวเลขอิสระสำหรับค่านี้

• Humanity's Last Exam แบบไม่ใช้เครื่องมือ — Qwen3.8-Max 43.1 เปอร์เซ็นต์ เทียบกับ 24.7 เปอร์เซ็นต์ของ Bolt โดยทั้งคู่ได้รับการวัดผลอย่างอิสระ

• การค้นคืนบริบทยาว (AA-LCR) — 80.3 เปอร์เซ็นต์ เทียบกับ 69.7 เปอร์เซ็นต์ ทั้งคู่ผ่านการวัด

• การเขียนโค้ดเชิงวิทยาศาสตร์ (SciCode) — 52.1 เปอร์เซ็นต์ เทียบกับ 39.7 เปอร์เซ็นต์ โดยทั้งสองค่านั้นมาจากการวัด

• การให้เหตุผลแบบหลายรูปแบบ (MMMU-Pro) — Qwen3.8-Max 82.8 เปอร์เซ็นต์ จากการวัดโดยอิสระ Bolt ไม่มีรายการผลการวัดที่เป็นอิสระ ซึ่งถือเป็นการละเว้นที่น่าสังเกตสำหรับโมเดลที่มีจุดขายหลักคือความสามารถในการมองเห็น

• ผลงานที่ต้องส่งมอบตามอาชีพ (GDPval-AA) — Qwen3.8-Max 0.583 ซึ่งปรับมาตรฐานเทียบกับ 0.240 ของ Bolt โดยทั้งคู่เป็นค่าที่วัดจริง

• การปฏิบัติการด้านเอเจนติกและไอที — Qwen3.8-Max ทำคะแนนได้ 42.4 เปอร์เซ็นต์บน APEX-Agents, 40.3 เปอร์เซ็นต์บน ITBench-SRE และ 45.0 เปอร์เซ็นต์ในการประเมินเอเจนต์นักวิเคราะห์ Bolt ไม่มีคะแนนอิสระในคอลัมน์ใดในสามคอลัมน์นั้น

• การไม่สร้างข้อมูลเท็จ (AA-Omniscience) — Qwen3.8-Max ได้ 71.2 เปอร์เซ็นต์ เทียบกับ Bolt ที่ 56.3 เปอร์เซ็นต์ โดยความแม่นยำอยู่ที่ 31.7 เปอร์เซ็นต์ เทียบกับ 17.1 เปอร์เซ็นต์ ต่างจากการเปรียบเทียบ Bolt กับ Ultra ซึ่งโมเดลที่ถูกบีบอัดชนะในแถวการสอบเทียบ แต่ในกรณีนี้โมเดลเรือธงชนะทั้งสองรายการ

• ต้นทุนต่องาน index — $5.41 สำหรับ Qwen3.8-Max นี่เป็นตัวเลขต้นทุนต่องานที่สูงที่สุดในกลุ่มการเปรียบเทียบรอบ ๆ โมเดลนี้ และเป็นตัวเลขที่ทำให้ตัวเลือกแบบโลคัลน่าสนใจแม้จะตามหลังอยู่ถึง 24 จุด

$5.41 ต่อหนึ่งงานซื้ออะไรได้ และ 24GB ซื้ออะไรได้แทน

เศรษฐศาสตร์ของ Qwen3.8-Max นั้นไม่ปกติสำหรับโมเดลระดับแนวหน้า ราคาต่อโทเคนที่ 2.00 ดอลลาร์สำหรับอินพุต และ 6.00 ดอลลาร์สำหรับเอาต์พุตถือว่าปานกลาง แต่โมเดลใช้เวลาคิดนาน เวลาการให้เหตุผลมัธยฐานในการรันของคณะทดสอบคือ 50.3 วินาที และเวลาในการตอบสนองแบบ end-to-end เฉลี่ย 65.9 วินาที งานที่โมเดลใช้เวลาใคร่ครวญภายในหนึ่งนาทีจะสร้างโทเคนเอาต์พุตจำนวนมาก และต้นทุนต่องานดัชนีคือเมตริกที่เปิดเผยเรื่องนี้ นั่นไม่ใช่การวิจารณ์โมเดล — การใช้เหตุผลเชิงลึกคือตัวผลิตภัณฑ์ — แต่เป็นเหตุผลที่ลูปเอเจนต์ที่มีปริมาณสูงจะมีค่าใช้จ่ายสูงขึ้นอย่างรวดเร็วในระดับนี้

นั่นคือปริมาณงานที่ Bolt ถูกสร้างขึ้นมาเพื่อรองรับโดยเฉพาะ เช็กพอยต์แบบโลคอลไม่มีมาตรวัดต่อโทเคนเลย: ต้นทุนส่วนเพิ่มของการเรียกใช้เครื่องมือหนึ่งครั้งคือค่าไฟฟ้า และต้นทุนคงที่คือ GPU สำหรับเอเจนต์ที่ทำงานตลอดเวลาซึ่งทำขั้นตอนตามกระบวนการเล็ก ๆ หลายพันขั้นตอน — อ่านหน้าจอ เรียกปลายทาง แก้ไขไฟล์ — สิ่งที่นำมาเปรียบเทียบไม่ใช่ 21.4 กับ 45.4 แต่เป็นค่าคงที่กับใบแจ้งหนี้ที่บานปลายขึ้นเรื่อย ๆ กรอบแนวคิดของ N​VIDIA เองก็คือ Bolt มีอยู่เพื่อให้งานเอเจนต์ในชีวิตประจำวันสามารถรันบนเครื่องได้โดยไม่ต้องส่งปริมาณงานไปยังคลาวด์ และรายงานผล 50.86 บน WebArena vision และ 66.75 บน BrowseComp สำหรับงานเหล่านั้นโดยเฉพาะ

จุดที่ต้องระวังคือต้นทุนคงที่นั้นมีอยู่จริง และ latency นั้นไม่เป็นที่ทราบแน่ชัด สูตรการให้บริการอ้างอิงของ NVIDIA นั้นมีหลายขั้นตอน: บิลด์ nightly ของ vLLM ที่ปักหมุดเวอร์ชันไว้ แพ็กเกจเคอร์เนล b12x ปลั๊กอินตัวแยกวิเคราะห์ reasoning ที่ดาวน์โหลดแยกต่างหาก แบ็กเอนด์ Mamba และ attention ที่ระบุอย่างชัดเจน และการตั้งค่า speculative decoding ที่ใช้ drafter LiLiCorr พร้อมโทเคนร่างเจ็ดโทเคน NVIDIA เผยแพร่ปริมาณงาน吞吐ที่ 83.99 โทเคนต่อวินาทีบน AIPerf SPEED-Bench-Coding บนเครื่องระดับแล็ปท็อป — เป็นตัวเลขของผู้ขายบนเบนช์มาร์กของผู้ขายเอง โดยไม่มีการรันอิสระใดมาเทียบเคียง

เส้นฐานที่ NVIDIA เลือก

ยังมีอีกหนึ่งสิ่งที่น่าสังเกต และมันเป็นบทเรียนด้านการอ่านมากกว่าเรื่องทางเทคนิค ตาราง benchmark บนการ์ดโมเดลของ Bolt มีโมเดล Qwen รวมอยู่เป็นจุดเปรียบเทียบ — และนั่นคือ Qwen3.6-35B-A3B ซึ่งเป็นโมเดลที่เล็กกว่าตัวเรือธงที่วัดในหน้านี้มาก ตารางของ NVIDIA แสดงว่า Bolt ชนะใน Terminal-Bench 2.1, GPQA Diamond, BrowseComp, GDPVal, Tau3 Banking, SciCode, AA-LCR และ MCP-Atlas เมื่อเทียบกับโมเดลนั้น ขณะที่แพ้ในด้านความแม่นยำ AA-Omniscience, ด้าน non-hallucination ของ AA-Omniscience และ PinchBench

การเปรียบเทียบเหล่านั้นอาจถูกต้องก็ได้ แต่ผู้อ่านที่หยิบ "Bolt เอาชนะ Q​wen" จากตารางกำลังเปรียบเทียบโมเดล edge ขนาด 74B กับ MoE ระดับ dense ขนาด 35B ไม่ใช่กับระดับ frontier ของ Alibaba เมื่อเทียบกับ Qwen3.8-Max บันทึกอิสระกลับให้ผลตรงกันข้ามในเกือบทุกแถวที่ใช้ร่วมกัน และช่องว่างกลับกว้างขึ้นแทนที่จะแคบลงในเบนช์มาร์กที่ยากที่สุด เมื่อผู้ขายเลือก baseline ของตัวเอง สิ่งที่ตรงไปตรงมาคือการตรวจสอบว่า baseline นั้นคืออะไร

วิธีตัดสินใจ

เลือก Qwen3.8-Max เมื่อความถูกต้องคือข้อจำกัด หากงานเป็นการวิเคราะห์หลายขั้นตอน การให้เหตุผลแบบพหุโมดัลที่ยาก งานแบบเอเจนต์ที่ส่งผลกระทบจริง หรือสิ่งใดก็ตามที่วัดด้วยเบนช์มาร์กซึ่งโมเดลนี้ทำคะแนนนำอยู่ 24 คะแนน ตัวเลือกที่รันในเครื่องก็ไม่ใช่ตัวเลือกที่ควรพิจารณา — และด้วยราคา $2.00 และ $6.00 ต่อล้านโทเคน จึงถูกตั้งราคาแบบโครงสร้างพื้นฐานมากกว่าสินค้าหรูหรา อีกทั้งยังเป็นโมเดลที่ควรเลือกเมื่อเวิร์กโฟลว์ต้องการเอาต์พุตแบบมีโครงสร้าง การเรียกใช้เครื่องมือแบบเนทีฟ และบริบทหนึ่งล้านโทเคนในการเรียกครั้งเดียว ซึ่งทั้งหมดนี้ A​libaba ระบุว่าได้รับการสนับสนุน

เลือก Bolt เมื่อข้อจำกัดอยู่ที่ว่างานนั้นเกิดขึ้นจริง ความเป็นส่วนตัว การทำงานแบบออฟไลน์ ความหน่วงที่ไม่ขึ้นอยู่กับเครือข่าย และค่าใช้จ่ายต่อการเรียกที่ไม่มีอยู่จริง เป็นข้อโต้แย้งสี่ข้อที่แยกจากกัน และแต่ละข้อก็เพียงพอในตัวเองสำหรับบางทีม โมเดลนี้เก่งเรื่องขั้นตอนและอ่อนเรื่องการเรียกคืนความจำ จึงควรให้มันมุ่งไปที่อย่างแรก

สำหรับครึ่งที่เป็นโฮสต์ Qwen3.8-Max เข้าถึงได้ผ่าน OrcaRouter ในชื่อ qwen/qwen3.8-max/ บนคีย์เดียวกับโมเดลอื่นอีกกว่า 200 รายการ ในราคาตามรายการของผู้ให้บริการของ Alibaba โดยไม่มีการบวกเพิ่มใด ๆ — ซึ่งหมายความว่าการเปลี่ยนแปลงราคาจากผู้ขายจะตกมาถึงฝั่งเราในวันเดียวกัน แทนที่จะเป็นตอนสิ้นรอบการเรียกเก็บเงิน เรื่องนี้สำคัญกว่าบนระดับนี้เมื่อเทียบกับระดับที่ราคาถูก เพราะ 5.41 ดอลลาร์ต่องานจัดทำดัชนีหนึ่งงานเป็นตัวเลขที่ทีมการเงินจะอยากตรวจสอบซ้ำทุกเดือน จุดที่การจัดเส้นทางเปลี่ยนรูปทรงของการตัดสินใจคือปัญหาด้านปริมาณงาน: ภาระงานที่มี 90 เปอร์เซ็นต์เป็นขั้นตอนตามกระบวนการเล็ก ๆ และ 10 เปอร์เซ็นต์เป็นการให้เหตุผลยาก ๆ สามารถส่ง 10 เปอร์เซ็นต์นั้นมาที่นี่และเก็บส่วนที่เหลือไว้ในเครื่อง พร้อมการสลับไปใช้ผู้ให้บริการรายอื่นอัตโนมัติเมื่อเกิดความล้มเหลว เพื่อให้ระดับโฮสต์ลดระดับลงกลายเป็นการลองใหม่แทนที่จะเป็นการหยุดให้บริการ

เราไม่ได้โฮสต์โมเดล N​VIDIA ใด ๆ และไม่มีปลายทาง Bolt — ตระกูล N​emotron ไม่ได้อยู่ในแคตตาล็อกของเรา และครึ่งที่เป็นโลคัลของการเปรียบเทียบนี้เป็นคำถามด้านฮาร์ดแวร์ที่ไม่มีชั้นการจัดเส้นทางใดเข้ามาเกี่ยวข้อง

หมายเลขที่ยังไม่ได้รับการแก้ไข

สิ่งที่ยังไม่มีใครเผยแพร่คือการวัดที่จะทำให้การเปรียบเทียบนี้สมบูรณ์ นั่นคือการรันวัดความหน่วงและอัตราการประมวลผลแบบอิสระบนเช็กพอยต์ 24GB ที่ขนาดแบตช์เท่ากับหนึ่ง บนเครื่องที่คนทั่วไปซื้อได้ หากเช็กพอยต์ 74B แบบ 2-bit กลายเป็นว่ารันขั้นตอนของเอเจนต์แบบโต้ตอบได้ด้วยความเร็วที่ใช้งานได้จริง ช่องว่าง 24 คะแนนก็จะกลายเป็นช่องว่างที่คุณหาทางเลี่ยงได้ — ใช้ในเครื่องสำหรับขั้นตอนการทำงาน ใช้แบบโฮสต์สำหรับการให้เหตุผล หากไม่เป็นเช่นนั้น ทางเลือกในเครื่องก็เป็นเพียงเครื่องมือแบบแบตช์ และการเปรียบเทียบก็ยุบเหลือแค่ราคา ไม่ว่าจะทางไหน คำตอบอยู่ห่างเพียงงานเผยแพร่หนึ่งชิ้น และนี่คือสิ่งที่ต้องจับตาก่อนวางแผนนำโมเดลนี้ไปติดตั้งใช้งาน

การเปรียบเทียบเช่นนี้ก็เป็นจุดที่รูปแบบความล้มเหลวปรากฏให้เห็นเช่นกัน: เหตุการณ์ AI และความล้มเหลวของเอเจนต์ที่มีการบันทึกไว้ซึ่งอยู่เบื้องหลังโมเดลในคลาสนี้ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive ซึ่งแต่ละรายการมีแหล่งอ้างอิง ระดับความรุนแรง เกรดความเชื่อมั่น และแฟล็กข้อโต้แย้งของตนเอง