Nemotron 3.5 Bolt E4B 4GB กับ Nemotron 3.5 Bolt 74B-A9B 24GB: ชื่อเดียวกัน แต่เป็นเครื่องที่ตรงกันข้าม

NVIDIA เปิดตัวสองโมเดลที่ชื่อ Bolt ห่างกันแปดวัน NVIDIA-Nemotron-3.5-Bolt-E4B-4GBเปิดตัวเมื่อวันที่ 23 ตุลาคม 2026 เป็นโมเดลสนทนาที่รองรับเฉพาะข้อความ มีพารามิเตอร์รวม 8B ซึ่งผ่านการฝึกเพิ่มเติม (post-trained) จาก Gemma-4-E4B-it NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB — โมเดลที่คนส่วนใหญ่หมายถึงเมื่อพูดถึง Nemotron 3.5 Bolt — เปิดตัวเมื่อวันที่ 15 ตุลาคม เป็นเอเจนต์หลายรูปแบบที่มีพารามิเตอร์รวม 74B และมีพารามิเตอร์ที่ใช้งาน 9B ซึ่งถูกบีบอัดเหลือสองบิตต่อน้ำหนักผู้เชี่ยวชาญหนึ่งตัว

สิ่งเหล่านี้มีตรา สัญญาอนุญาต และช่วงเวลาการเปิดตัวร่วมกัน แต่ไม่มีสถาปัตยกรรมต้นกำเนิด โมดัลลิตี หน้าต่างบริบท ชุดเบนช์มาร์ก หรือหน้าที่การงานร่วมกัน การตีความ "Bolt" เป็นบันไดขนาดคือความผิดพลาดที่การเปรียบเทียบนี้มีขึ้นเพื่อป้องกัน

ตัวหนึ่งเป็นอนุพันธ์ของ Gemma อีกตัวเป็นเอเจนต์ 120B ที่ถูกบีบอัด

เชื้อสายนี้อธิบายเกือบทุกอย่างที่เหลือ

E4B เริ่มต้นในชื่อ Gemma-4-E4B-it ซึ่งเป็นโมเดลขนาดเล็กที่ปรับแต่งตามคำสั่งของ Google และ NVIDIA ได้ฝึกต่อด้วยการเรียนรู้แบบเสริมกำลังจากรางวัลที่ตรวจสอบได้และข้อเสนอแนะจากมนุษย์ผ่าน NeMo-RL และ NeMo-Gym สถาปัตยกรรมเป็นของ Gemma: พารามิเตอร์ทั้งหมด 8B โดยมีพารามิเตอร์ที่มีประสิทธิผล 4B เส้นทางอินพุตและเอาต์พุตแบบข้อความเท่านั้น และหน้าต่างบริบท 64K สิ่งที่ NVIDIA มีส่วนร่วมคือพฤติกรรม ไม่ใช่แกนหลัก

74B เริ่มต้นจาก Nemotron 3.5 Super VL 120B-A12B ซึ่งเป็นโมเดลต้นทางแบบมัลติโหมดของ NVIDIA เอง NVIDIA ได้ทำการค้นหาสถาปัตยกรรมที่ชี้นำด้วยเราเตอร์ชื่อ Star Elastic ภายใต้งบประมาณหน่วยความจำ 24GB และสร้างโมเดลไฮบริดขนาด 74 พันล้านพารามิเตอร์ที่มีพารามิเตอร์ใช้งานจริง 9 พันล้านตัวต่อโทเคน โดยผสานเลเยอร์ Mamba-2 และ Transformer ในดีไซน์ LatentMoE พร้อมตัวเข้ารหัสภาพ C-RADIO v4-H รองรับข้อความ ภาพ และวิดีโอ และรองรับบริบทขนาด 256K โทเคน

พูดให้ชัดๆ ก็คือ E4B เป็นโมเดลบทสนทนาที่ NVIDIA ปรับแต่ง ส่วน 74B เป็นโมเดลเอเจนต์ที่ NVIDIA บีบอัด ชื่อ "Bolt" อธิบายเป้าหมายในการนำไปใช้งาน — ความฉลาดต่อกิกะไบต์ — ไม่ใช่สถาปัตยกรรมร่วมกัน

ข้อมูลจำเพาะ เปรียบเทียบเคียงข้างกัน

• พารามิเตอร์ทั้งหมดและพารามิเตอร์ที่ใช้งาน — 8B ทั้งหมด โดยมี 4B ที่มีผลจริงสำหรับ E4B; 74B ทั้งหมด โดยมี 9B ที่ใช้งานสำหรับ 74B

• สถาปัตยกรรม — Gemma-4-E4B สำหรับโมเดลขนาดเล็ก; LatentMoE แบบไฮบริดที่รวม Mamba-2 กับ Transformer สำหรับโมเดลขนาดใหญ่ พร้อมการบีบอัด Star Elastic จากแม่แบบ Super VL

• รูปแบบข้อมูล — ข้อความเข้า ข้อความออกสำหรับ E4B; ข้อความ รูปภาพ และวิดีโอเข้า ข้อความออกสำหรับ 74B

• หน้าต่างบริบท — 64K โทเค็นขาเข้าและ 64K ขาออกสำหรับ E4B; สูงสุด 256K โทเค็นสำหรับ 74B

• ความแม่นยำ — Q4_K_M สำหรับ GGUF ที่จัดส่งของ E4B; {{1}}IQ2 ที่ประมาณ 2.0625 บิตต่อน้ำหนักผู้เชี่ยวชาญสำหรับ 74B{{/1}} โดยมี NVFP4 ในบางเลเยอร์ Mamba และ embeddings แบบ Q8_0

• น้ำหนักโมเดลที่เผยแพร่ — 6.18GB Q4_K_M และ 15.88GB BF16 สำหรับ E4B; น้ำหนัก GGUF 23.75GB พร้อม vision projector, safetensors ที่พร้อมใช้กับ vLLM 24.12GB และ 149.8GB ที่ BF16 สำหรับ 74B

• สัญญาอนุญาต — OpenMDW-1.1 สำหรับทั้งสอง โดยองค์ประกอบ Gemma 4 อยู่ภายใต้ Apache 2.0 ในสแต็กของ E4B

• วันที่วางจำหน่าย — 23 ตุลาคม 2026 สำหรับ E4B; 15 ตุลาคม 2026 สำหรับ 74B

• รันไทม์ — llama.cpp สำหรับ E4B โดยการ์ดระบุสูตรว่า "pending" แม้จะมีคำสั่ง quick-start ให้มาด้วย; vLLM สำหรับ 74B พร้อมสูตรอ้างอิงที่ปักหมุด nightly container ตาม commit hash

มีกับดักด้าน metadata อยู่จุดหนึ่งที่ควรชี้ให้เห็นก่อนมันจะทำให้เกิดความผิดพลาดในการซื้อ วิดเจ็ตไฟล์ของ Hugging Face บนรีโพซิทอรี 74B แสดงว่า “22B params” ขณะที่การ์ดโมเดลระบุว่ามีทั้งหมด 74B และมีพารามิเตอร์ที่ใช้งาน 9B การ์ดนั้นถูกต้อง: 22B เป็นฟิลด์แถบด้านข้างที่ล้าสมัย ไม่ใช่ตัวแปรที่สาม และใครก็ตามที่ประเมินฮาร์ดแวร์จากวิดเจ็ตแทนที่จะดูจากการ์ดจะเข้าใจผิดอย่างหนักในทิศทางตรงกันข้าม

ตาราง benchmark ไม่มีแถวร่วมกันแม้แต่แถวเดียว

นี่คือสิ่งที่สำคัญที่สุดที่ต้องทำความเข้าใจก่อนจะเปรียบเทียบทั้งสองสิ่ง และเป็นสิ่งที่การรายงานส่วนใหญ่ละเลย

NVIDIA ประเมินโมเดล 74B บน GDPVal-AA-V2, Terminal-Bench 2.1, Tau3 Banking, HLE, AA-Omniscience, SciCode, GPQA Diamond, AA-LCR, PinchBench, MCP-Atlas, BrowseComp และ WebArena โดยประเมินโมเดล E4B บน MultiChallenge, RoleBench, RoleMRC, EQ-Bench v3, Brevity, BFCL-v3, When2Call, ToolSandbox, Tau2-Bench, IHEval, AgentIF, StructEval-T, IFBench, InverseIFEval, RULER, LongMemEval, LongBench v2, SysBench, GaRAGe, RAGTruth และ RelyToolBench

ไม่มีความทับซ้อนกันเลย ไม่มีแถวใดปรากฏในทั้งสองตาราง ชุดทดสอบทั้งสองชุดยังใช้เวอร์ชันที่แตกต่างกันของเบนช์มาร์กเชิงเอเจนต์ — Tau2 สำหรับ E4B และ Tau3 Banking สำหรับ 74B — ดังนั้นคู่ที่ดูใกล้เคียงที่สุดก็ไม่สามารถเปรียบเทียบกันได้เช่นกัน

นั่นหมายความว่าข้อกล่าวอ้างใด ๆ ในรูปแบบ "74B ดีกว่า E4B อยู่ X คะแนน" ล้วนเป็นการกุขึ้นมา NVIDIA ไม่ได้เผยแพร่ฮาร์เนสชุดเดียวกัน และยังไม่มีบุคคลที่สามรายใดรันมัน สิ่งที่ตารางเหล่านี้รองรับได้จริงคือข้อความเกี่ยวกับเจตนาในการออกแบบ:

• โมเดล 74B ถูกวัดบนงานที่ดูเหมือนงานจริง — การใช้เทอร์มินัล การท่องเว็บ การเขียนโค้ดเชิงวิทยาศาสตร์ คำถามระดับบัณฑิตศึกษา และการให้เหตุผลบริบทยาว ผลลัพธ์ที่เผยแพร่ซึ่งแข็งแกร่งที่สุด ได้แก่ BrowseComp 66.75, Terminal-Bench 2.1 50.98, GPQA Diamond 86.43 และ AA-LCR 64.06

• E4B ถูกวัดผลบนงานที่มีลักษณะคล้ายบทสนทนา — การรักษาเพอร์โซนา ลำดับชั้นของคำสั่ง การรู้ว่าเมื่อใดควรเรียกใช้เครื่องมือ และการยึดโยงกับผลลัพธ์ของเครื่องมือ แถวที่แข็งแกร่งที่สุดของมันคือ IHEval 84.79, RoleBench 67.05, RelyToolBench 63.16 และ When2Call 63.36

ทั้งสองชุดเป็นข้อมูลที่ผู้ขายรายงานเองและยังไม่มีการทำซ้ำผล การ์ดของ 74B มีจุดที่น่าสังเกตเพิ่มเติมอีกประการหนึ่งที่ควรชี้ให้เห็น: NVIDIA ระบุว่าโมเดลนี้เป็นโมเดลเปิดระดับท็อปในกลุ่มเดียวกันบน PinchBench แต่ตารางของ NVIDIA เองกลับแสดงให้เห็นว่า Qwen3.6-35B-A3B อยู่ที่ 88.07 เทียบกับ 87.82 ของ Bolt นั่นคือช่องว่าง 0.25 คะแนน และเป็นคำกล่าวอ้างที่ไม่อาจยืนได้เต็มที่เมื่อพิจารณาจากเชิงอรรถของตัวเอง

คำกล่าวอ้างเรื่องความเร็ว พร้อมฮาร์ดแวร์ที่แนบมาด้วย

ปริมาณงานที่ประมวลผลได้ (throughput) เป็นจุดเดียวที่การ์ดทั้งสองรุ่นเปิดเผยตัวเลขออกมา และถึงกระนั้นก็ยังไม่สามารถนำมาเทียบกันได้ตรง ๆ

• E4B บน RTX 5070 12GB — 106.2 ถึง 133.4 โทเคนต่อวินาที, 548 ถึง 1,238 มิลลิวินาทีถึงโทเคนแรก, VRAM 3.5 ถึง 4.3GB, วัดด้วย llama.cpp และ CUDA ที่แบทช์ 1

• E4B บน Jetson Orin Nano 8GB — 13.0 ถึง 15.5 โทเคนต่อวินาที และ 5.8 ถึง 6.3 วินาทีถึงโทเคนแรก โมเดลเดียวกัน บนฮาร์ดแวร์ที่คำโปรย "4GB" พูดถึงจริง ๆ

• 74B บน RTX Spark — 83.99 โทเค็นต่อวินาทีบน AIPerf SPEED-Bench-Coding พร้อม LiLiCorr drafter ที่เชื่อมต่ออยู่ และโทเค็น speculative เจ็ดโทเค็นต่อขั้น

ตัวเลข 74B ตั้งสมมติฐานบนเช็กพอยต์ drafter แยกต่างหากขนาด 1.13B, benchmark ที่เฉพาะเจาะจง และฮาร์ดแวร์ที่แตกต่างจากการรัน E4B ทั้งสองครั้ง ตัวเลข E4B ตั้งสมมติฐานว่าไม่มี drafter การเปรียบเทียบ 133 กับ 84 แล้วสรุปว่าโมเดลเล็กเร็วกว่าเป็นความจริงในทางเทคนิคและไม่มีความหมายในทางปฏิบัติ: ตัวหนึ่งเป็นโมเดลที่มีพารามิเตอร์ effective สี่พันล้านบน GPU เดสก์ท็อป อีกตัวเป็นโมเดลที่มีพารามิเตอร์ active เก้าพันล้านบนเครื่องอื่นที่มี speculative decoder ติดตั้งเพิ่มเข้าไป

สิ่งที่ตัวเลขยืนยันได้คือรูปร่างของการแลกเปลี่ยนนี้ E4B ถูกสร้างมาเพื่องวดเวลาถึงโทเคนแรก ส่วน 74B ถูกสร้างมาเพื่องานเอเจนต์ที่ต่อเนื่อง ซึ่ง 84 โทเคนต่อวินาทีก็เพียงพอ แถว Orin Nano คือข้อควรระวัง: โมเดล 4GB บนฮาร์ดแวร์แบบฝังตัวไม่ได้เป็นระบบสนทนาแบบเรียลไทม์โดยอัตโนมัติ

หน่วยความจำ: 4GB และ 24GB เป็นซองจดหมาย ไม่ใช่ไฟล์

ทั้งสองชื่อใช้เป้าหมายหน่วยความจำ และไม่มีหมายเลขใดเลยที่เป็นการดาวน์โหลด

• E4B — ไฟล์ Q4_K_M GGUF ขนาด 6.18GB NVIDIA วัดค่าได้ 3.1 ถึง 4.3GB ของ VRAM ในการรัน batch-1 ของตนเองบนฮาร์ดแวร์ RTX การ์ดไม่ได้เผยแพร่ไฟล์ขนาด 4GB

• 74B — น้ำหนัก GGUF 22.02GB พร้อมโปรเจกเตอร์วิชันแยกต่างหากขนาด 1.73GB รวมเป็น 23.75GB หรือ 24.12GB ในบิลด์ safetensors ที่พร้อมใช้กับ vLLM การควอนไทซ์ expert แบบ 2.0625 บิตคือสิ่งที่ทำให้อยู่ในกรอบ 24GB ได้

• บิลด์ BF16 — 15.88GB สำหรับ E4B, 149.8GB กระจายเป็น 63 แชร์ดสำหรับ 74B ตัวแปรความแม่นยำเต็มรูปแบบมีไว้สำหรับหลังการฝึก ไม่ใช่สำหรับการดีพลอย และการ์ดของ 74B ระบุไว้อย่างชัดเจนเช่นนั้น

ช่องว่างด้านพื้นที่จัดเก็บอยู่ที่ประมาณสี่ต่อหนึ่งที่ความแม่นยำระดับการปรับใช้ และประมาณเก้าต่อหนึ่งที่ความแม่นยำเต็ม ช่องว่างของ VRAM น้อยกว่าช่องว่างของจำนวนพารามิเตอร์ เพราะ 74B ต้องจ่ายค่าบีบอัดเป็นจำนวนบิต ไม่ใช่เป็นขนาด

รูปแบบและบริบทมีอิทธิพลมากกว่าจำนวนพารามิเตอร์

หน้าต่างข้อความขนาด 64K และหน้าต่างมัลติโมดัลขนาด 256K ไม่ใช่ผลิตภัณฑ์เดียวกันที่มีขีดจำกัดต่างกัน

74B สามารถดูภาพหรือวิดีโอและลงมือทำตามนั้นได้ การ์ดข้อมูลของมันระบุอินพุตแบบ RGB JPEG หรือ PNG, วิดีโอ MP4 ความยาวไม่เกินสองนาที และคำแนะนำที่หนึ่งเฟรมต่อวินาทีที่ 1080p หรือสองเฟรมต่อวินาทีที่ 720p มันสามารถอ่านภาพหน้าจอ แผนภูมิ แบบฟอร์ม หรือฟีดจากกล้อง แล้วเรียกใช้เครื่องมือตามสิ่งที่มันเห็น นั่นคือความสามารถที่ทำให้มันเป็นเอเจนต์สำหรับการท่องเว็บและงานบนเดสก์ท็อป

E4B มองไม่เห็น มันรับข้อความเข้าและส่งข้อความออก และหน้าต่าง 64K ของมันอ่อนกว่าคู่แข่งอย่างชัดเจนในด้านการดึงข้อมูลคืน: RULER 86.99 เทียบกับ 95.15 ของ Qwen3.5 4B, LongBench v2 50.50 เทียบกับ 59.93 หากแอปของคุณต้องถือเอกสารยาวหรือภาพหน้าจอไว้ในมุมมอง E4B เป็นโมเดลที่ไม่เหมาะ ไม่ว่าคะแนน persona ของมันจะดีแค่ไหนก็ตาม

แต่ละอันมีไว้สำหรับใคร

E4B เหมาะสำหรับชั้นอินเทอร์เฟซ ตัวละครแบบโต้ตอบ ผู้ช่วยเสียง เอเจนต์บนอุปกรณ์ฝังตัว หุ่นยนต์ที่ต้องเลือกสคริปต์และพูด และแอปพลิเคชันใดก็ตามที่โมเดลต้องตอบภายในไม่กี่ร้อยมิลลิวินาทีบนฮาร์ดแวร์ที่มีราคาต่ำกว่าสถานีงาน เดโมของ NVIDIA ทำให้เจตนาชัดเจน: หุ่นยนต์ Reachy Mini บน Jetson Orin Nano ใช้ E4B เพื่อเลือกสคริปต์แอนิเมชัน ขณะที่โมเดลวิชันแยกต่างหากจัดการการรับรู้ และ NPC ช่างตีเหล็กที่ตรวจสอบการชำระเงิน ค้นหาสูตร รวบรวมวัตถุดิบ และส่งมอบไอเทม

74B นี้สำหรับเลเยอร์การทำงาน เอเจนต์ส่วนบุคคลที่เปิดทำงานตลอดเวลาซึ่งท่องเว็บ เขียนโค้ด วิเคราะห์ข้อมูล เฝ้าดูงานเบื้องหลัง และเรียก API โดยทำงานบน RTX Spark, DGX Spark, สถานีงาน RTX PRO และการ์ด GeForce RTX ที่มีหน่วยความจำเพียงพอ และได้รับการออกแบบให้อยู่ร่วมกับแอปพลิเคชันอื่นภายในงบหน่วยความจำ 24GB โปรไฟล์ benchmark ของมัน — BrowseComp, Terminal-Bench, GPQA, AA-LCR — คือโปรไฟล์ของโมเดลที่ทำงานให้เสร็จ ไม่ใช่โมเดลที่ใช้สนทนาโต้ตอบ

ทั้งสองไม่ใช่สิ่งทดแทนกัน สตูดิโอเกมที่ต้องการ NPC ที่สมจริงไม่จำเป็นต้องใช้เอเจนต์แบบมัลติโมดัลขนาด 74B ส่วนแพลตฟอร์มเอเจนต์ที่ต้องอ่านหน้าเว็บและรันคำสั่งในเทอร์มินัลก็ไม่สามารถใช้โมเดลสนทนาขนาด 4B ที่รองรับเฉพาะข้อความได้

ตระกูลโมเดลสองรุ่นสื่อความหมายอย่างไรต่อการนำไปใช้งาน

ผลสืบเนื่องเชิงสถาปัตยกรรมที่น่าสนใจคือ NVIDIA ได้ออกผลิตภัณฑ์ในลักษณะพอร์ตโฟลิโอมากกว่าจะเป็นขั้นบันได โดย E4B รับผิดชอบชั้นรีเฟล็กซ์ 74B รับผิดชอบชั้นงานภายในเครื่อง และ Super VL 120B-A12B รับผิดชอบกรณีมัลติโมดัลที่หนักกว่า นั่นคืองบประมาณหน่วยความจำสามแบบและงานสามประเภทที่แตกต่างกัน ภายใต้ตระกูลสัญญาอนุญาตเดียว

แอปพลิเคชันส่วนใหญ่ยังคงต้องมีเลเยอร์ที่สี่ซึ่งดาวน์โหลดไม่ได้: โมเดลระดับแนวหน้าสำหรับคำขอที่เกินขีดความสามารถของฮาร์ดแวร์ในเครื่อง หรือผู้ให้บริการรายที่สองสำหรับประเภทข้อมูลที่โมเดลในเครื่องไม่มี การกำหนดเส้นทางสิ่งเหล่านี้ผ่าน API เดียว — โมเดล 200+ รายการ, มาร์กอัป 0% จากราคาตามรายการของผู้ให้บริการ, การสลับสำรองอัตโนมัติ เมื่อผู้ให้บริการมีประสิทธิภาพลดลง — ทำให้ Bolt ในเครื่องยังคงเป็นเส้นทางที่รวดเร็ว และโมเดลที่โฮสต์ไว้ยังคงเป็นข้อยกเว้น ทางเลือกอื่นคือต้องผสานรวม แยกคีย์ และแยกใบเรียกเก็บเงินสำหรับทุกโมเดลที่อยู่เหนือระดับในเครื่อง

อะไรจะช่วยสะสางเรื่องของครอบครัวให้จบลงได้

รันครั้งเดียว จับ Bolt ทั้งสองตัวผ่านฮาร์เนสเดียวกันบนชุดงานเดียวกัน — ชุดบทสนทนา ชุดเอเจนต์ และชุดมัลติโมดัล — แล้วเผยแพร่ผลออกมาเป็นรายแถว NVIDIA มีเช็กพอยต์ มีสแตกการประเมิน และมีแรงจูงใจครบแล้ว แต่กลับเลือกเผยแพร่ตารางแยกกันสองตารางแทน

จนกว่าสิ่งนั้นจะมีอยู่ การตีความที่ปกป้องได้คือ: 74B เป็นโมเดลที่มีความสามารถมากกว่าโดยการออกแบบและโดยหลักฐาน ในงานที่ NVIDIA เลือกวัด E4B เป็นโมเดลที่เหมาะสมกว่าสำหรับอินเทอร์เฟซกลุ่มใหญ่ ซึ่งเอเจนต์ขนาด 24GB เป็นเรื่องไร้เหตุผล และโมเดลสนทนาขนาด 4GB นั้นเหมาะเจาะพอดี ชื่อบนกล่องเหมือนกัน แต่เครื่องภายในไม่ใช่