Nemotron 3.5 Bolt เปิดตัวแล้ว: สิ่งที่เช็กพอยต์ 2 บิต ขนาด 24GB ของ NVIDIA บรรจุอยู่จริง ๆ

รีโพซิทอรีสำหรับ N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GBปรากฏบน Hugging Face เมื่อวันที่ 7 ตุลาคม 2026 และอยู่เงียบ ๆ ที่นั่นเป็นเวลาแปดวัน เมื่อวันที่ 15 ตุลาคม N​VIDIA ได้ประกาศเปิดตัวมัน — โพสต์บล็อก ข่าวประชาสัมพันธ์ในห้องข่าว และหน้าวิจัยที่ประทับวันที่ดังกล่าว — ซึ่งหมายความว่าส่วนที่น่าสนใจของเรื่องนี้ไม่ใช่การเปิดตัว แต่คือช่องว่างนั้น เป็นเวลาแปดวัน สิ่งเดียวที่ใคร ๆ จะรู้เกี่ยวกับ N​emotron 3.5 Bolt ได้ก็คือสิ่งที่การ์ดโมเดลและชุดไฟล์ safetensors บอกไว้ และทุกอย่างที่เหลือเป็นการอนุมาน ตอนนี้ช่องว่างนั้นปิดลงแล้ว และเป็นการสมควรที่จะพูดให้แม่นยำว่าการปิดช่องว่างนั้นทำให้อะไรกระจ่างจริง ๆ เพราะสิ่งที่ผู้คนจำนวนมากกำลังพูดซ้ำเกี่ยวกับโมเดลนี้มาจากรีโพซิทอรีมากกว่าจากประกาศ และทั้งสองสิ่งไม่ใช่เอกสารเดียวกัน

สิ่งที่แน่นอนในตอนนี้ ในย่อหน้าเดียว คือสิ่งนี้ N​emotron 3.5 Bolt 74B-A9B 24GB เป็นโมเดลภาษา-ภาพแบบผสมผู้เชี่ยวชาญขนาด 74 พันล้านพารามิเตอร์ โดยมีพารามิเตอร์ 9 พันล้านตัวที่ทำงานต่อโทเคน เปิดตัวเมื่อวันที่ 15 ตุลาคม 2026 ภายใต้สัญญาอนุญาต OpenMDW-1.1 จัดเก็บน้ำหนักผู้เชี่ยวชาญของตนที่ 2.0625 บิตต่อองค์ประกอบ จนทั้งโมเดลบรรจุอยู่ใน 24GB ได้ ถูกออกแบบมาเพื่อรันงานแบบเอเจนต์ในเครื่อง — การเรียกใช้เครื่องมือ การท่องเว็บ การใช้เทอร์มินัล — บนฮาร์ดแวร์ RTX และ DGX Spark มีให้ใช้บน Ollama เป็นแท็กขนาด 25GB พร้อมหน้าต่างบริบท 256K ไม่มีบน API แบบโฮสต์ใด ๆ และไม่มีราคา ส่วนหนึ่งของประโยคนั้นถูกวัดอย่างอิสระ และส่วนที่เหลือเป็นคำกล่าวอ้างของผู้ขายเอง

สองวันที่ และจะอ้างอิงอันไหน

มีความแตกต่างที่แท้จริงระหว่างวันที่ทั้งสอง และมันเป็นตัวกำหนดว่าคุณควรอ่านส่วนที่เหลือของบทความนี้อย่างไร

ที่เก็บ (repository) บน Hugging Face ถูกสร้างขึ้นเมื่อวันที่ 7 ตุลาคม 2026 เวลา 17:50 UTC การ์ดโมเดลที่อยู่ภายในมีฟิลด์ Release Date ที่ระบุว่า Hugging Face 10/15/2026 ส่วนหน้าวิจัยของ NVIDIA เองสำหรับเช็กพอยต์นี้ประทับไว้ว่า เผยแพร่: October 15, 2026 โพสต์บนบล็อกของผู้จำหน่ายที่ประกาศระดับ Bolt ลงวันที่ 15 ตุลาคม 2026 และกล่าวไว้อย่างตรงไปตรงมาว่า Super VL และ Bolt 74B-A9B "มีให้ใช้งานแล้ว"

ดังนั้นการอ่านตามตรงก็คือ 15 ตุลาคมคือวันเปิดตัว และ 7 ตุลาคมคือวันที่โฟลเดอร์โผล่ขึ้นมา ใครที่อ้าง 7 ตุลาคมเป็นวันเปิดตัวก็กำลังอ้างประทับเวลาไฟล์ ส่วนใครที่อ้าง 15 ตุลาคมก็กำลังอ้างคำของผู้ขาย อย่างไรก็ตาม ช่องว่างแปดวันมีความสำคัญด้วยเหตุผลอื่นที่ไม่ใช่วันที่ มันหมายความว่าตลอดกว่าหนึ่งสัปดาห์ โมเดลอยู่ในสภาพที่คลังเก็บเป็นช่องทางเดียวเท่านั้น — ไม่มีประกาศ ไม่มีหน้าราคา ไม่มีรายชื่อในลีดเดอร์บอร์ด ไม่มีใครจาก NVIDIA บอกว่ามันมีไว้เพื่ออะไร คำบรรยายช่วงแรกทุกชิ้นเกี่ยวกับ Bolt ที่เขียนขึ้นในช่วงเวลานั้น รวมถึงชิ้นที่กำลังแพร่กระจายอยู่ในตอนนี้ ล้วนสร้างขึ้นจากการ์ด ปรากฏว่าการ์ดนั้นแม่นยำ นั่นเป็นสิ่งที่ควรพูดอย่างตรงไปตรงมา เพราะผลลัพธ์ตามปกติของสถานการณ์แบบนี้คือมันไม่แม่นยำ

สิ่งที่รีโพซิทอรีเพียงลำพังพิสูจน์ได้

ทุกอย่างในส่วนนี้อ่านได้จากโมเดลการ์ดและไฟล์คอนฟิกก่อนที่ NVIDIA จะเอ่ยสักคำ และทั้งหมดนั้นก็ยังคงเป็นความจริง

• พารามิเตอร์ — รวมทั้งหมด 74 พันล้าน, ใช้งาน 9 พันล้านต่อโทเคน เป็น sparse mixture-of-experts ไม่ใช่โมเดลแบบ dense

• สถาปัตยกรรม — ไฮบริดระหว่าง Mamba-2 และ Transformer พร้อมแบ็กโบน LatentMoE และตัวเข้ารหัสภาพ C-RADIO v4-H การตั้งค่าลงทะเบียนคลาสเป็น NemotronH_Omni_Reasoning_V3

• ความแม่นยำที่จัดเก็บ — IQ2_XXS ที่ 2.0625 บิตต่อองค์ประกอบบนเลเยอร์ FC1 และ FC2 ของ expert แบบ routed และ shared ซึ่งเป็นตำแหน่งที่น้ำหนักส่วนใหญ่เก็บอยู่ เลเยอร์เชิงเส้น Mamba อยู่ที่ NVFP4 และ embeddings, output head, attention และน้ำหนัก LatentMoE อยู่ที่ Q8_0

• บริบท — สูงสุด 256K โทเคน หรือ 262,144 ในสูตรการปรับใช้

• อินพุตและเอาต์พุต — ข้อความ รูปภาพ และวิดีโอขาเข้า; ข้อความขาออก

• สัญญาอนุญาต — OpenMDW-1.1 และการ์ดระบุไว้อย่างชัดเจนว่า "พร้อมสำหรับการใช้งานเชิงพาณิชย์หรือไม่ใช่เชิงพาณิชย์"

• ฐานและแหล่งที่มา — การ์ดระบุว่าโมเดลฐานของตนคือเช็กพอยต์ BF16 ชื่อเดียวกัน และความสัมพันธ์กับมันเป็นแบบควอนไทซ์ และแท็กชุดข้อมูลชี้ไปที่คอลเลกชันก่อนการฝึกและหลังการฝึกของ Nemotron จาก NVIDIA

• วันที่ของโมเดล — ธันวาคม 2025 ถึงพฤษภาคม 2026 โดยมีจุดตัดข้อมูลหลังการฝึกอยู่ที่พฤษภาคม 2026 อ่านให้ดีหากความสดใหม่สำคัญกับคุณ: โมเดลนี้เป็นรุ่นที่เปิดตัวในปี 2026 ซึ่งสร้างบนข้อมูลที่สิ้นสุดลงเมื่อสี่เดือนครึ่งก่อนที่มันจะเปิดตัว

• รันไทม์ — vLLM บน N​VIDIA Ampere, Hopper และ Blackwell และ llama.cpp สำหรับ RTX Spark และ DGX Spark รายการของ Ollama ตรงไปตรงมาเรื่องข้อจำกัดมากกว่า: การติดตั้งใช้งาน CUDA มีเอกสารประกอบ และ Apple Silicon กับ Metal ยังไม่รองรับในปัจจุบัน

สิ่งที่ประกาศเพิ่มเติม

เอกสารจากผู้ขายเพิ่มสามสิ่งที่รีโพซิทอรีไม่อาจบอกคุณได้

ก่อนอื่น การวางกรอบของตระกูล Bolt ถูกวางตำแหน่งเป็นระดับ Edge ของตระกูล Nemotron ต่ำกว่า Nemotron 3.5 Super VL ที่ 120B สำหรับเอเจนต์เซิร์ฟเวอร์ที่ทำงานตลอดเวลา และไม่ได้อยู่เหนืออะไรเป็นพิเศษ — ประโยคของ NVIDIA เองจัดเรียงพวกมันว่า: Super VL และ Bolt "ครอบคลุมช่วงการติดตั้งใช้งานเอเจนต์ทั้งหมด ตั้งแต่เซิร์ฟเวอร์องค์กรขนาดใหญ่ลงไปจนถึงอุปกรณ์ Edge และฮาร์ดแวร์ในเครื่อง" Nemotron 3.5 Bolt E4B 4GB ซึ่งเป็นโมเดล 4 พันล้านพารามิเตอร์สำหรับเอเจนต์เชิงสนทนาและเอเจนต์ทางกายภาพ จะเปิดตัวในวันที่ 23 ตุลาคม

ประการที่สอง เรื่องราวของการบีบอัด ซึ่งเป็นข้ออ้างทางวิศวกรรมที่เป็นนวัตกรรมอย่างแท้จริงในที่นี้ Bolt ไม่ใช่โมเดลที่ถูกฝึกให้เล็กแล้วจึงทำควอนไทซ์ มันคือ N​emotron 3.5 Super VL — 120B ทั้งหมด, 12B ที่ใช้งาน — ที่ผ่าน Star Elastic ซึ่งเป็นการค้นหาสถาปัตยกรรมแบบนำทางโดยเราเตอร์ของ N​VIDIA ภายใต้ข้อจำกัดที่เข้มงวดในการให้พอดีกับหน่วยความจำต่ำกว่า 24GB ที่ขนาดแบตช์หนึ่งและบริบท 128K Expert top-K ลดลงจาก 22 ในโมเดลต้นแบบเหลือ 9 ใน Bolt ความกว้างระดับกลางของ MoE ถูกค้นหาต่อเลเยอร์ จากนั้นเครือข่ายที่ถูกบีบอัดก็ถูกควอนไทซ์และผ่านการกลั่นความรู้แบบรับรู้การควอนไทซ์เพื่อดึงความแม่นยำกลับมา ข้อสรุปที่ระบุไว้ของ N​VIDIA คือส่วนที่น่าสนใจ และมันเป็นจุดยืนจริง ไม่ใช่คำโอ้อวด: สำหรับงบประมาณหน่วยความจำที่คงที่ การบีบอัดโมเดลขนาดใหญ่ให้เล็กลงนั้นดีกว่าการฝึกโมเดลขนาดเล็กตั้งแต่เริ่มต้น นั่นคือข้ออ้างที่คุณสามารถทดสอบได้ และยังไม่มีใครนอก N​VIDIA ที่ทำได้

ประการที่สาม ตำแหน่งบนลีดเดอร์บอร์ดสองตำแหน่งที่ผู้ขายระบุ: โมเดลแบบเปิดอันดับ 1 ในกลุ่มของตัวเองบน PinchBench และโมเดลแบบเปิดอันดับ 2 บน BrowseComp ทั้งสองเป็นการระบุลักษณะโดย N​VIDIA เกี่ยวกับโมเดลของตัวเองเมื่อเทียบกับคลาสที่บริษัทกำหนดขึ้นเอง

สิ่งที่ประกาศไม่ได้เพิ่มเข้ามาก็คือ endpoint ที่ให้บริการ ไม่มี API ที่โฮสต์ให้ใช้ ไม่มีราคาต่อโทเคน และไม่มีวิธีเรียกใช้ N​emotron 3.5 Bolt โดยไม่ต้องจัดหาฮาร์ดแวร์ที่ใช้รันมัน Artificial Analysis ซึ่งได้ให้คะแนนโมเดลนี้ ระบุฟิลด์ความเร็วและต้นทุนของโมเดลว่าไม่พร้อมใช้งาน ก็ด้วยเหตุผลนี้เอง: ไม่มี API สาธารณะให้วัด

ส่วนที่ไม่มีใครนอก N​VIDIA เคยรัน

นี่คือจุดที่บทความต้องชะลอลง เพราะช่องว่างระหว่างสิ่งที่ได้รับการวัดกับสิ่งที่ถูกกล่าวอ้างนั้นกว้างอย่างผิดปกติสำหรับโมเดลขนาดนี้

ในด้านที่วัดได้นั้นมีตัวเลขอยู่หนึ่งตัว และมันเป็นตัวเลขที่ดี: Artificial Analysis จัดให้ Nemotron 3.5 Bolt 74B-A9B อยู่ที่ 21 บน Intelligence Index ของตน ซึ่งทำให้มันอยู่ในอันดับที่สี่จากทั้งหมด 67 โมเดลในกลุ่มเปรียบเทียบของมัน นั่นคือการวัดที่เป็นอิสระของเช็กพอยต์ 2-bit จริง ไม่ใช่ของบิลด์อ้างอิง BF16 และมันเป็นตัวเลขที่มีประโยชน์ที่สุดเพียงหนึ่งเดียวที่ใช้ได้กับโมเดลนี้ในปัจจุบัน

On the asserted side there is everything else. The model card carries a thirteen-benchmark table with four columns — Qwen3.6-35B-A3B in BF16, Gemma 4 26B-A4B in BF16, N​emotron 3.5 Lightning 30B-A3B in BF16, and Bolt in IQ2 — and every row of it was produced by N​VIDIA, including the three baseline columns, which N​VIDIA selected because they fit in 24GB with 4-bit quantisation. Bolt is the bolded winner in ten rows and is not the winner in three: AA-Omniscience accuracy, where Gemma 4 26B-A4B scores 22.17 against Bolt's 16.90; AA-Omniscience non-hallucination, where N​emotron 3.5 Lightning 30B-A3B scores 68.81 against Bolt's 61.27; and PinchBench, where Qwen3.6-35B-A3B scores 88.07 against Bolt's 87.82. Publishing the three rows you lose is a point in the vendor's favour and does not change what the table is: unreproduced.

The speed numbers deserve their own paragraph because they cut against the marketing. N​VIDIA's own measurement table, taken with llama.cpp on Windows 11 ARM64 on a Surface Laptop Ultra with 128GB, shows Bolt at 83.99 tokens per second on AIPerf SPEED-Bench-Coding — behind Qwen3.6-35B-A3B at 96.63 and Gemma 4 26B-A4B at 100.56. On the same page, end-to-end replay duration across realistic agent trajectories is 600.80 seconds for Bolt against 453.97 for Qwen3.6 and 480.68 for G​emma. The pitch is intelligence per gigabyte, not speed, and the vendor's own table is consistent with that pitch rather than with a claim of being fastest.

ดังนั้นลักษณะของหลักฐานก็คือ: คะแนนรวมอิสระหนึ่งคะแนนที่ยอมรับได้ ตารางผลการทดสอบประสิทธิภาพของผู้ขายหนึ่งตารางที่ไม่มีใครทำซ้ำ ตารางความเร็วของผู้ขายหนึ่งตารางบนแล็ปท็อปที่ไม่มีใครนอก NVIDIA เคยรัน และไม่มีการวัดความหน่วงที่เป็นอิสระเลย ให้ถือว่าบทความใดก็ตามที่รายงานตัวเลข PinchBench ของ Bolt โดยไม่บอกว่าใครเป็นผู้จัดทำนั้นไม่น่าเชื่อถือ รวมถึงบทความใดก็ตามที่เห็นด้วยกับบทความนี้

อะไรมาพร้อมกับมัน

การเปิดตัวโมเดลแทบไม่เคยมีแค่เวตอย่างเดียว และทีมสนับสนุนของ Bolt ก็ใหญ่กว่าปกติสำหรับสิ่งที่ไม่มี API

ตัวร่างแบบสเปคคูเลทีฟ LiLiCorr มาพร้อมกับมัน — 1.13 พันล้านพารามิเตอร์ ไม่รวมเอ็มเบดดิ้งที่ใช้ร่วมกันและส่วนหัวเอาต์พุต ฝึกฝนร่วมกับโมเดลเป้าหมาย และ N​VIDIA รายงานความยาวการยอมรับเฉลี่ย 4.68 ภายใต้การถอดรหัสแบบ greedy และ 4.25 ภายใต้การสุ่มแบบความน่าจะเป็นด้วยโทเคนที่ร่างไว้ 7 โทเคนที่ concurrency 64 ใน vLLM ตัวร่างเป็นเช็คพอยต์แยกต่างหากที่ดาวน์โหลดได้ ไม่ใช่แฟล็กขณะรันไทม์ และมันเป็นกลไกที่อยู่เบื้องหลังตัวเลข 84 TPS ที่อ้างถึงสำหรับ RTX Spark

การสนับสนุนเฟรมเวิร์กมาถึงอย่างรวดเร็ว Ollama แสดงรายการ nemotron-3.5-bolt ในสามแท็ก — แท็กเริ่มต้น แท็ก 74B-A9B และแท็ก IQ2 — แต่ละแท็กมีขนาด 25GB พร้อมบริบท 256K และอินพุตข้อความบวกรูปภาพ พร้อมตัวเรียกใช้แบบบรรทัดเดียวสำหรับ C​laude Code, OpenCode, Hermes Agent และ OpenClaw นอกเหนือจากนั้นยังมีบิลด์ GGUF จาก N​VIDIA ชุดการควอนไทซ์จากชุมชนที่ 4-bit และ 8-bit และการแปลง MLX ที่ปรากฏภายในหนึ่งวันหลังการประกาศ สำหรับเช็กพอยต์ที่รันบนอุปกรณ์ 24GB เครื่องเดียว ระบบนิเวศที่มาถึงภายในสี่สิบแปดชั่วโมงคือสัญญาณที่แท้จริงว่านี่คืออาร์ติแฟกต์ที่ใช้งานได้จริง ไม่ใช่เพียงตัวสาธิต

คำเตือนในทางปฏิบัติสำหรับใครก็ตามที่วางแผนจะใช้มัน: ตัวเลข 24GB เป็นขั้นต่ำสำหรับน้ำหนักโมเดล ไม่ใช่เพดานสำหรับภาระงาน รูปภาพ เฟรมวิดีโอ ประวัติการสนทนา และผลลัพธ์จากเครื่องมือทั้งหมดใช้ร่วมกันในงบประมาณบริบท และบันทึกของ Ollama เองกล่าวว่าบริบทที่ใช้งานได้นั้นขึ้นอยู่กับหน่วยความจำที่มี การดาวน์โหลดขนาด 25GB ที่พอดีสบาย ๆ ไม่เหมือนกับเซสชัน 256K โทเค็นที่พอดีสบาย ๆ

สิ่งนี้พาคุณไปอยู่ตรงไหน และไม่ได้พาคุณไปอยู่ตรงไหน

ถ้าภาระงานของคุณรันในเครื่องและเป็นแบบเอเจนต์ — การใช้เทอร์มินัล การท่องเว็บ การเรียกใช้เครื่องมือ การดีบักโค้ดบนอุปกรณ์ที่คุณเป็นเจ้าของ — ตอนนี้ N​emotron 3.5 Bolt 74B-A9B 24GB เป็นตัวเลือกที่สามารถให้เหตุผลรองรับได้ โดยมีคะแนนอิสระหนึ่งคะแนนและชุดค่าน้ำหนักที่คุณตรวจสอบได้ เหตุผลเรื่องการบีบอัดที่อยู่เบื้องหลังนั้นน่าสนใจจริง ๆ สัญญาอนุญาตเปิดให้ใช้เชิงพาณิชย์ และเครื่องมือต่าง ๆ ก็ปรากฏขึ้นภายในหนึ่งวัน

ถ้าเวิร์กโหลดของคุณต้องถูกเรียกจากโค้ดที่รันอยู่บนพื้นที่ที่คุณไม่ได้เป็นเจ้าของ โมเดลนี้ก็ยังไม่ใช่ตัวเลือกในตอนนี้ และคำตอบที่ตรงไปตรงมาสำหรับคำถามที่ว่า "ฉันจะใช้มันยังไง" ก็คือ คุณต้องรันมันเองบนฮาร์ดแวร์ N​VIDIA หรือไม่ก็รอ เราตรวจสอบแค็ตตาล็อกของเราเองแทนที่จะคาดเดา และไม่มีโมเดล N​VIDIA อยู่ในนั้น ดังนั้นจึงไม่มีอะไรให้เราจัดเส้นทาง และการพูดเป็นอย่างอื่นก็คือการโกหก สิ่งที่ OrcaRouter นำเสนอคืออีกครึ่งหนึ่งของการดีพลอยแบบผสม: โมเดลที่คุณจะเรียกใช้เมื่อคำขอหนึ่งยากเกินไป ยาวเกินไป หรือแปลกตาเกินไปสำหรับเช็กพอยต์โลคัลแบบ 2 บิต ภายใต้คีย์เดียว ครอบคลุมโมเดลกว่า 200 ตัวในราคาตามที่ผู้ให้บริการกำหนด โดยไม่บวกเพิ่ม, พร้อมการสลับสำรองอัตโนมัติเมื่อผู้ให้บริการมีปัญหา การจับคู่ Bolt ที่รันในเครื่องกับ API ที่จัดเส้นทางถือเป็นสถาปัตยกรรมที่สมเหตุสมผล แต่การแกล้งทำเป็นว่า Bolt อยู่ฝั่งที่จัดเส้นทางนั้นไม่ใช่

สิ่งที่ต้องจับตามองไม่ใช่ตารางเปรียบเทียบประสิทธิภาพชุดถัดไป แต่เป็นว่าใครก็ตามที่อยู่นอก NVIDIA จะเผยแพร่ผลการวัด latency ที่รันบนเช็กพอยต์ขนาด 24GB บนฮาร์ดแวร์ที่ผู้อ่านมีอยู่จริงหรือไม่ และจะมี hosted endpoint ปรากฏขึ้นเลยหรือไม่ จนกว่าหนึ่งในสองสิ่งนั้นจะเกิดขึ้น ข้อกำหนดสเปกนี้ก็เป็นเพียงคำสัญญา และคะแนนดัชนีเพียงค่าเดียวคือสิ่งเดียวที่ยืนค้ำอยู่เบื้องหลัง

ผลลัพธ์แบบนี้ยังเป็นเครื่องเตือนใจว่าความผิดพลาดของโมเดลได้รับการบันทึกไว้แล้ว: เหตุการณ์ AI และความล้มเหลวของเอเจนต์ที่อยู่เบื้องหลังโมเดลระดับนี้ ถูกรวบรวมไว้ใน OrcaRouter AI Incident Archive ซึ่งแต่ละรายการมีแหล่งที่มาของตนเอง ระดับความรุนแรง เกรดความเชื่อมั่น และสถานะถูกโต้แย้ง