วันเปิดตัว Nemotron 3.5 Bolt 74B: NVIDIA บีบโมเดลเอเจนต์ 74B ให้อยู่ใน 24GB

NVIDIA Nemotron 3.5 Bolt 74B-A9B จะเปิดตัวในวันพฤหัสบดีที่ 15 ตุลาคม 2026 และ NVIDIA Nemotron 3.5 Bolt E4B จะตามมาในวันศุกร์ที่ 23 ตุลาคม สองวันนั้นคือคำตอบของโพสต์หยอก ๆ เมื่อวันที่ 14 ตุลาคม บัญชี AI ของ NVIDIA ได้โพสต์ว่า “มีโมเดลเปิดตัวกันเยอะมากในสัปดาห์นี้! และเราก็มีของเรากำลังจะมา...⌛️” โดยไม่ระบุชื่อรุ่น การตามดูโพสต์หยอกนั้นคุ้มค่ากับเวลาสองนาที เพราะมันคลี่คลายในแบบที่ไม่ธรรมดา — ประกาศที่ทวีตนั้นบอกเป็นนัยถึงได้ถูกเผยแพร่เต็มรูปแบบไปแล้วเมื่อวันก่อนหน้า ในโพสต์บล็อกของ NVIDIA ลงวันที่ 13 ตุลาคม ซึ่งระบุชื่อทั้งสองโมเดล ทั้งสองวันที่ หน่วยความจำที่ใช้ และรันไทม์การอนุมาน ดังนั้นนี่ไม่ใช่การรั่วไหล และไม่ใช่ข่าวลือ มันคือการเปิดตัวที่ถูกโปรโมตน้อยเกินไป และโพสต์หยอกนั้นเป็นเพียงการสะกิด ไม่ใช่สกู๊ป

เนื้อหาต่อจากนี้จะแยกสิ่งที่ NVIDIA ได้บันทึกไว้จริงออกจากสิ่งที่ยังไม่มีใครภายนอกบริษัทวัดได้ — ซึ่งสำหรับโมเดลที่เปิดตัวในวันนี้ นั่นคือส่วนใหญ่ของคอลัมน์ที่น่าสนใจ

การทิ้งปม และสิ่งที่มันคลี่คลายไปสู่

มีสองสิ่งที่ควรปักหมุดไว้ก่อนสิ่งอื่นใด เพราะมันเป็นรายละเอียดประเภทที่มักถูกทำให้แบนราบในกระบวนการรวบรวม ประการแรก คือลำดับเหตุการณ์ บล็อกโพสต์ของ NVIDIA เรื่อง "ทุกระบบพร้อม: ระบบนิเวศแอป PC ทั่วโลกพร้อมสำหรับ NVIDIA RTX Spark" มีการประทับเวลา 2026-10-13T12:00Z โพสต์ "หนึ่งในของเรากำลังจะมา" ปรากฏขึ้นเมื่อ 2026-10-14T20:29Z — ประมาณสามสิบสองชั่วโมงให้หลัง ทวีตเป็นเพียงตัวชี้ ไม่ใช่แหล่งข้อมูลปฐมภูมิ และบทความใดก็ตามที่ปฏิบัติกับทวีตเสมือนเป็นประกาศ ก็กำลังทำงานจากเอกสารผิด

ประการที่สอง วลี “หนึ่งในพวกเราเอง” กำลังมีบทบาทสำคัญจริง ๆ NVIDIA ไม่ได้เป็นเพียงผู้ขายในที่นี้เท่านั้น แต่เป็นผู้ขายแพลตฟอร์มของสัปดาห์นี้ โพสต์วันที่ 13 ตุลาคมเดียวกันนี้จะเริ่มจัดส่งแล็ปท็อป RTX Spark ในวันที่ 16 ตุลาคม โมเดล AI DLSS 5 ที่สร้างใหม่ซึ่งจะเปิดตัวใน NBA 2K27 ในวันเดียวกัน NVIDIA PAIR ออกจากเบต้า และ Broadcast 2.3 Bolt 74B คือโมเดลภาษาที่มาในสัปดาห์ที่ NVIDIA ประกาศโมเดลหลายแบบที่แตกต่างกันมาก หากคุณมาหาผลิตภัณฑ์เพียงชิ้นเดียว นั่นคือเหตุผลที่ทำให้การรายงานข่าวสับสน

สิ่งที่ NVIDIA ได้ให้คำมั่นไว้ ในคำพูดของบริษัทเอง

ข้อกล่าวอ้างหลักนั้นสั้นและเฉพาะเจาะจง NVIDIA อธิบาย Nemotron 3.5 Bolt 74B-A9B ว่าเป็น "LLM ใหม่ที่สร้างขึ้นโดยเฉพาะสำหรับการรันเอเจนต์ท้องถิ่นบน RTX Spark" สร้างขึ้นเป็น "โมเดล mixture-of-experts (MoE) ขนาด 74B พารามิเตอร์ โดยมีพารามิเตอร์ที่ใช้งาน 9B" ที่ "บรรจุลงใน 24GB โดยใช้การควอนไทซ์ 2-bit ด้วยเทคนิค quantization-aware training ขั้นสูงเพื่อรักษาคุณภาพ"

มีสามสิ่งในประโยคนั้นที่กำลังทำหน้าที่นี้อยู่:

• 9B ที่ทำงานอยู่ ไม่ใช่ 74B นี่คือ MoE แบบ sparse ต้นทุนการจัดเส้นทางต่อโทเคนขึ้นอยู่กับเส้นทางที่ใช้งานจริง ไม่ใช่จำนวนพารามิเตอร์ทั้งหมด จึงเป็นเหตุผลว่าทำไมโมเดล 74B ถึงถูกนำมาเสนอสำหรับแล็ปท็อปได้เลย

• 2-bit โดยเจตนา ไม่ใช่การควอนไทซ์จากชุมชนของรุ่น BF16 ที่เผยแพร่ แต่เป็นโมเดลที่ NVIDIA ระบุว่าฝึกด้วยเทคนิคที่คำนึงถึงการควอนไทซ์ โดยมุ่งรักษาคุณภาพไว้ที่ความกว้างระดับบิตนั้น ว่าจะรักษาไว้ได้จริงหรือไม่เป็นเรื่องที่ต้องวัดกัน ไม่ใช่คำกล่าวอ้าง — ดูบันทึกผลด้านล่าง

• 24GB คือกรอบเป้าหมายที่กำหนดไว้ NVIDIA นำเสนอการแลกเปลี่ยนนี้ว่าเป็น "สมดุลที่เหมาะสมที่สุดระหว่างความเร็วและความฉลาด โดยเร็วกว่าโมเดล dense ยอดนิยมส่วนใหญ่ แต่ฉลาดกว่าโมเดล MoE ยอดนิยมส่วนใหญ่ที่มีขนาดหน่วยความจำใกล้เคียงกัน" นั่นคือจุดยืนของ NVIDIA เอง ซึ่งยังไม่มีใครพิสูจน์ยืนยันได้

ในด้านการเข้าถึง NVIDIA ระบุชื่อรันไทม์อย่างชัดเจน ได้แก่ llama.cpp, vLLM, Ollama, Unsloth และ LM Studio ตั้งแต่เปิดตัว รวมถึงการใช้งานโดยตรงผ่านเอเจนต์อย่าง Hermes และ OpenClaw และในด้านการอนุญาตให้ใช้งาน โพสต์ระบุว่า Bolt 74B เป็น "โอเพนซอร์สเต็มรูปแบบ... รวมถึงข้อมูลการฝึก เวต และสูตร" ซึ่งเป็นกรอบเดียวกับที่ NVIDIA ใช้กับผลิตภัณฑ์อื่น ๆ ในสาย Nemotron

ทำไม 24GB ถึงเป็นตัวเลขที่สำคัญ ไม่ใช่ 74B

ตัวเลขในพาดหัวข่าวตรงนี้คือ 74B ตัวเลขที่เป็นตัวแบกรับจริง ๆ คือ 24GB และด้วยเหตุผลที่ตรงไปตรงมา นั่นคือ 24GB เป็นขอบเขตของตัวเร่งความเร็วระดับเดสก์ท็อป มันคือความจุของการ์ดระดับผู้บริโภคไฮเอนด์เพียงใบเดียว และในฝั่งแล็ปท็อป มันคือกรอบที่ NVIDIA กำลังสร้างให้ทั้งสัปดาห์หมุนรอบอยู่ — เครื่อง RTX Spark รองรับได้สูงสุดถึงหน่วยความจำแบบรวม 128GB และพลังประมวลผล AI 1 เพตาฟลอป และตัวแล็ปท็อปเองจะมาถึงในวันที่ 16 ตุลาคม

รวมสิ่งเหล่านั้นเข้าด้วยกัน แล้วข้อเสนอขายก็อ่านออกชัดเจน MoE แบบ 9B-active ที่น้ำหนักบรรจุอยู่ใน 24GB ที่ 2-bit หมายความว่าบิลด์เดียวกันซึ่งพอดีกับการ์ดเวิร์กสเตชัน ก็พอดีกับแล็ปท็อปที่จะจัดส่งในวันถัดไปด้วย โดยยังเหลือพื้นที่ให้แอปพลิเคชันและโมเดลเล็กอีกรุ่น นั่นเป็นเรื่องราวการปรับใช้ที่แตกต่างอย่างมีนัยสำคัญจากโมเดลระดับแนวหน้าที่โฮสต์อยู่หลัง API และนี่คือเหตุผลที่ "local agent" อยู่ในคำอธิบายบรรทัดเดียวของ NVIDIA เอง แทนที่จะเป็น "cheap inference"

อีกด้านหนึ่งของเหรียญก็คือ เป้าหมายแบบ 2-bit เป็นข้อจำกัดต่อสิ่งที่โมเดลนี้สามารถเป็นได้ การเปรียบเทียบคุณภาพใด ๆ กับโมเดล BF16 ที่มีขนาดรวมใกล้เคียงกัน ถือเป็นการเปรียบเทียบข้ามอาร์ติแฟกต์ที่แตกต่างกัน และ NVIDIA เลือกอาร์ติแฟกต์นั้นอย่างจงใจ จงตัดสิน Bolt 74B เทียบกับบิลด์โลคัลระดับ 24GB อื่น ๆ ไม่ใช่เทียบกับเช็กพอยต์ความละเอียดเต็มที่ไม่มีทางใส่ลงได้ตั้งแต่แรก

บัญชี: สิ่งที่แน่นอน สิ่งที่ระบุไว้แต่ยังไม่ได้วัด และสิ่งที่ยังไม่รู้

การระบุอย่างแม่นยำว่าข้อเท็จจริงหนึ่งอยู่ในคอลัมน์ใดคือคุณค่าทั้งหมดของการอ่านสิ่งนี้ในสัปดาห์แรก แทนที่จะเป็นสัปดาห์ที่สาม

• ยืนยันโดย NVIDIA: ชื่อโมเดล รูปแบบ MoE ที่มีพารามิเตอร์รวม 74B / ใช้งาน 9B ขนาดพื้นที่ 24GB แบบ 2-bit วันที่ 15 ตุลาคม รันไทม์ที่ระบุชื่อห้ารายการ การเข้าถึงของเอเจนต์ผ่าน Hermes และ OpenClaw และข้อยืนยันว่าเวต ข้อมูลการฝึก และสูตรนั้นเปิด

• ระบุไว้แต่ไม่ได้วัด: ข้ออ้างเรื่องคุณภาพนั้นเอง "ฉลาดกว่าโมเดล MoE ยอดนิยมส่วนใหญ่ที่มีขนาดหน่วยความจำใกล้เคียงกัน" และ "เร็วกว่าโมเดลแบบ dense ยอดนิยมส่วนใหญ่" ถูกเปิดตัวออกมาโดยไม่มีตาราง benchmark อยู่ในประกาศเลย ยังไม่ปรากฏว่ามีการประเมิน Bolt 74B จากหน่วยงานอิสระใด ๆ จนถึงตอนนี้

• ไม่ทราบข้อมูล ณ เวลาที่เขียน: ขนาดหน้าต่างบริบท; สัญญาอนุญาตที่ระบุชื่อ (NVIDIA กล่าวว่าเป็นโอเพนซอร์สโดยไม่ระบุชื่อในโพสต์นี้); อัตราทรูพุตการอนุมานที่แน่นอนในระดับ 24GB; ว่าเวอร์ชันที่เผยแพร่นี้มีเฉพาะเวตที่ดาวน์โหลดได้หรือให้บริการผ่าน API ด้วยหรือไม่; ว่า 2-bit เป็นความแม่นยำเดียวที่เผยแพร่หรือไม่; และสถาปัตยกรรมสืบทอดมาจากสาย Nemotron 3.5 Lightning ที่ NVIDIA จัดส่งแล้วในบิลด์ BF16 และ NVFP4 ใกล้ชิดเพียงใด

ตัวแปรสุดท้ายที่ยังไม่รู้คือสิ่งที่ต้องจับตาไว้ให้ดี การตั้งชื่อของ NVIDIA เองบรรจุตัวเลขทั้งสองไว้ — "74B-A9B" และ "30B-A3B" ที่ก่อนหน้านี้ — ดังนั้นเมื่อดูจากสเปกแล้ว ทั้งสองจึงเทียบเคียงกันได้ โดยมีพารามิเตอร์ทั้งหมดราว 2.5 เท่าของโมเดล Lightning และมีพารามิเตอร์ที่ใช้งานอยู่ราว 3 เท่า ว่าอัตราส่วนนั้นจะคงอยู่หลังการบีบอัดแบบ 2-bit หรือไม่ คือสิ่งที่เบนช์มาร์กอิสระครั้งแรกจะช่วยชี้ขาดได้อย่างแน่นอน

Bolt E4B คืออีกครึ่งหนึ่งของตระกูล และเป็นผลิตภัณฑ์ที่แตกต่างออกไป

Nemotron 3.5 Bolt E4B ซึ่งมีกำหนดวางจำหน่ายวันที่ 23 ตุลาคม ไม่ใช่รุ่นน้องที่เล็กกว่าของ 74B อย่างที่ชื่อชวนให้เข้าใจ NVIDIA เรียกมันว่า "โมเดลภาษาขนาดเล็ก (SLM) เจนเนอเรชันที่สามสำหรับ NVIDIA ACE" ซึ่งเป็นชุดเครื่องมือที่บริษัทใช้กับตัวละคร AI ในเกม — เป็นสายการพัฒนาที่บริษัทสืบย้อนผ่าน PUBG เบต้าสำหรับเจนเนอเรชันแรก และการพรีวิว Aniimo ที่ Gamescom สำหรับเจนเนอเรชันที่สอง

เป้าหมายการออกแบบที่ระบุไว้ของมันมีลักษณะเน้นเกมมากกว่าเน้นเอเจนต์: หน่วยความจำ 4GB, “เวลาถึงโทเคนแรกที่รวดเร็ว”, “โหมดสนทนาแบบใหม่ที่ช่วยให้คำตอบกระชับและพร้อมสำหรับการพูด”, สวิตช์เปิด-ปิดการให้เหตุผล และการยึดโยงกับสถานะของแอปพลิเคชันสำหรับการใช้เครื่องมือแบบหลายเทิร์น NVIDIA จับคู่การเปิดตัวครั้งนี้กับการทดลองใช้ภายใน SkyrimNET ซึ่งเป็นแพลตฟอร์มม็อด NPC ของ Skyrim ที่รองรับทั้งการอนุมานบนคลาวด์และในเครื่อง โดยเริ่มในวันเดียวกัน

ดังนั้น หากคุณมาจากทวีตโดยคาดหวังว่าจะได้หนึ่งโมเดล คุณจะได้สองโมเดลในวันที่ต่างกัน ในซองที่ต่างกัน และสำหรับงานที่ต่างกัน: 15 ตุลาคม สำหรับ local agent ขนาด 24GB, 23 ตุลาคม สำหรับตัวละครเกมขนาด 4GB

วิธีประเมินมันโดยไม่ต้องเอาโรดแมปมาเดิมพันกับมัน

ส่วนที่น่าอึดอัดของโมเดลโลคัลในวันแรกคือคุณยังตอบคำถามเดียวที่สำคัญที่สุดไม่ได้ — เช็กพอยต์ 2 บิตจะรับมือกับภาระงานของคุณได้หรือไม่ — และคุณก็ยังตอบคำถามข้อที่สองไม่ได้เช่นกันว่า มีเส้นทางแบบโฮสต์ให้เปรียบเทียบด้วยหรือไม่ ช่องว่างทั้งสองเป็นเพียงชั่วคราว และไม่มีข้อใดเป็นเหตุผลให้วางแผนโดยอิงกับตาราง benchmark ที่ยังไม่มีอยู่

แนวทางที่ใช้ได้จริงคือแยกการตัดสินใจสองเรื่องนี้ออกจากกัน รัน Bolt 74B ในเครื่องเป็นเพียงการทดลองภายในกรอบ 24GB ที่คุณมีอยู่แล้ว และคงเส้นทางการใช้งานจริงไว้กับสิ่งที่เรียกใช้ได้ในตอนนี้ ครึ่งหลังนั่นแหละคือจุดที่โครงสร้างพื้นฐานด้าน routing คุ้มค่ากับบทบาทของมัน: คีย์เดียวใช้ได้กับโมเดลมากกว่า 200 ตัว ในราคาตามที่ผู้ให้บริการประกาศ โดยบวกเพิ่ม 0% หมายความว่าการลองตัวเลือกที่สองหรือสามมีต้นทุนแค่การแก้ไขคอนฟิก ไม่ใช่การทำสัญญาอีกฉบับ และ การ failover อัตโนมัติข้ามผู้ให้บริการ หมายความว่า build ในเครื่องที่ยังไม่ได้พิสูจน์จะไม่มีวันกลายเป็นจุดล้มเหลวเพียงจุดเดียวของเอเจนต์ที่ใช้งานจริง

นี่ก็เป็นวิธีที่ซื่อตรงในการอ่านการวางกรอบของ NVIDIA เองเช่นกัน “สร้างขึ้นโดยเฉพาะสำหรับรันเอเจนต์ภายในเครื่องบน RTX Spark” เป็นข้อความเกี่ยวกับว่าโมเดลรันที่ไหน ไม่ใช่เกี่ยวกับว่ามันได้คะแนนเท่าใด มองวันที่ 15 ตุลาคมเป็นช่วงเวลาที่คำถามหนึ่งกลายเป็นคำถามที่ตอบได้ — ไม่ใช่เป็นคำตอบ

อะไรจะทำให้บทความนี้เปลี่ยนไป

สามสิ่งนี้ เรียงตามลำดับคร่าว ๆ ว่าแต่ละอย่างจะเปลี่ยนภาพรวมได้มากแค่ไหน

• สัญญาอนุญาตที่ระบุชื่อได้ และรีโพซิทอรีเวตส์แบบสาธารณะ "โอเพนซอร์สเต็มรูปแบบรวมถึงข้อมูลการฝึก เวตส์ และสูตร" คือข้ออ้างที่หนักแน่นที่สุดในโพสต์ของ NVIDIA และเป็นสิ่งที่ตรวจสอบได้ง่ายที่สุด จนกว่าจะมีการระบุชื่อสัญญาอนุญาตและไฟล์สามารถดาวน์โหลดได้ ข้ออ้างนั้นก็เป็นเพียงคำสัญญา

• การทดสอบประสิทธิภาพอิสระครั้งแรก การเปรียบเทียบที่น่าสนใจไม่ใช่ Bolt 74B กับโมเดลระดับ 70B แบบความแม่นยำเต็มที่มันไม่เคยแข่งขันด้วย สิ่งที่น่าสนใจคือ Bolt 74B ที่ 2-bit กับทุกบิลด์อื่น ๆ ที่พอดีใน 24GB โดยวัดบนฮาร์เนสเดียวกัน

• เอ็นด์พอยต์ที่โฮสต์ไว้ หากไม่มีมัน ก็ไม่มีราคาให้ถกเถียง และไม่มีวิธีกำหนดเส้นทางไปยังมัน หากมีเวอร์ชันที่ให้บริการปรากฏขึ้น การเปรียบเทียบราคากับโมเดลที่อยู่ในรายการคัดเลือกของคุณแล้วจะกลายเป็นรูปธรรม และการคิดราคาแบบส่งผ่านจะน่าตรวจสอบในวันเดียวกัน

จนกว่าอย่างน้อยหนึ่งในนั้นจะเป็นจริง ท่าทีที่ถูกต้องคือความสนใจ ไม่ใช่ความมุ่งมั่นผูกพัน การปล่อยทีเซอร์เป็นเรื่องจริง กำหนดการเป็นเรื่องจริง และตัวโมเดลก็เป็นเรื่องจริง แต่การประเมินไม่ใช่

คำถามที่ควรค่าแก่การตอบอย่างเหมาะสม

Nemotron 3.5 Bolt 74B เป็นโมเดลเดียวกับ Nemotron 3.5 Lightning 30B-A3B หรือไม่

ไม่ มันเป็นรายการที่แตกต่างกันในรุ่นเดียวกันที่มีรูปร่างต่างกัน: Bolt มีขนาดรวม 74B โดยมี 9B ที่ใช้งานอยู่, Lightning มีขนาดรวม 30B โดยมี 3B ที่ใช้งาน ตามการตั้งชื่อของ NVIDIA เอง Bolt ยังมีให้ใช้งานในขนาด 2-bit, 24GB ในขณะที่ NVIDIA ได้เผยแพร่สาย Lightning ในเวอร์ชัน BF16 และ NVFP4 ไม่ว่าพวกมันจะมีสถาปัตยกรรมร่วมกันหรือไม่ ไม่ใช่สิ่งที่ประกาศกล่าวถึง

คุณสามารถรัน Bolt 74B บนการ์ดเดสก์ท็อป 24GB ได้หรือไม่ หรือรันได้เฉพาะบนแล็ปท็อป RTX Spark เท่านั้น

ข้อจำกัดที่ NVIDIA ระบุไว้คือขนาดที่ใช้หน่วยความจำ ไม่ใช่ตัวเครื่อง — 24GB ที่ 2-bit — และรันไทม์ที่ถูกเอ่ยชื่อคือ llama.cpp, vLLM, Ollama, Unsloth และ LM Studio ซึ่งไม่ได้จำกัดเฉพาะ NVIDIA RTX Spark คือจุดที่ความพยายามทางการตลาดของ NVIDIA มุ่งไป แต่ไม่มีสิ่งใดในประกาศที่ทำให้มันกลายเป็นข้อกำหนด

OrcaRouter ให้บริการโฮสต์ Nemotron 3.5 Bolt 74B หรือไม่

วันนี้ยังไม่มี และยังไม่มีอะไรให้โฮสต์ด้วย — NVIDIA ยังไม่ได้เผยแพร่ปลายทางที่ให้บริการหรือราคาสำหรับโมเดลนี้ หากมีการเปลี่ยนแปลง โมเดลนี้จะเรียกใช้งานได้ผ่านคีย์เดียวกับทุกอย่างอื่นในแค็ตตาล็อก ในราคาตามที่ผู้ให้บริการระบุไว้ โดยไม่มีการบวกเพิ่มใด ๆ.

สำหรับโมเดลที่รูปแบบความล้มเหลวยังไม่ถูกบันทึกไว้ สิ่งที่เทียบเคียงได้ซึ่งมีประโยชน์คือบันทึกของสิ่งที่เคยผิดพลาดไปแล้วที่อื่น: เหตุการณ์ AI และความล้มเหลวของเอเจนต์ที่ได้รับการบันทึกไว้ซึ่งเกี่ยวข้องกับโมเดลในคลาสนี้ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง เกรดความเชื่อมั่น และสถานะถูกโต้แย้งของตนเอง