Nemotron 3.5 Super VL ทัดเทียม Inkling Small ด้วยน้ำหนักไม่ถึงครึ่งหนึ่ง

Two models sit on 26 on the Artificial Analysis Intelligence Index this week, and the interesting part is what each one spent to get there. NVIDIA Nemotron 3.5 Super VL is a 120-billion-parameter mixture of experts with 12 billion active. Inkling Small, Thinking Machines' July release, is a 266-billion-parameter mixture of experts with 12 billion active. Same score, same active budget, less than half the weights on disk. Benchmark tables say what a model scores; the incident record says how releases like these fail in production, and those cases are catalogued in the OrcaRouter AI Incident Archive where each entry carries its own sources, severity, confidence grade and disputed flag.

นั่นคือภาพรวมของสัปดาห์ที่แล้วในแวดวงโมเดลน้ำหนักเปิดของสหรัฐฯ และเป็นเรื่องราวที่ดีกว่าบทความเปิดตัวที่ NVIDIA เผยแพร่เมื่อวันพฤหัสบดีที่ 15 ตุลาคม ประกาศดังกล่าวจับคู่Nemotron 3.5 Super VLกับNemotron 3.5 Bolt 74B-A9B 24GB — โมเดล 74 พันล้านพารามิเตอร์ที่บีบอัดลงในหน่วยความจำเพียง 24 GB — พร้อมทั้งสัญญาว่าจะมีรุ่นที่สามคือNemotron 3.5 Bolt E4B 4GB ในวันที่ 23 ตุลาคม สามโมเดลในแปดวันด้วยระดับหน่วยความจำสามระดับไม่ใช่จังหวะการเปิดตัว หากแต่เป็นข้อโต้แย้งเชิงพอร์ตโฟลิโอ และข้อโต้แย้งนั้นก็คือ ความสามารถต่อกิกะไบต์คือตัวเลขที่สำคัญที่สุดในตอนนี้

อะไรถูกจัดส่งไปแล้ว และจัดส่งในวันไหน

การระบุวันที่ให้ชัดเจนนั้นคุ้มค่า เพราะเอกสารของ NVIDIA เองขัดแย้งกันอยู่สามวัน และความขัดแย้งนั้นให้ข้อมูลที่เป็นประโยชน์มากกว่าเป็นเรื่องอื้อฉาว

• เวต — รีโพซิทอรี BF16 ชื่อ nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 ถูกสร้างบน Hugging Face เมื่อ 2026-10-12T15:32:06Z โดยมีเวอร์ชันพี่น้อง NVFP4 ตามมาอีก 24 วินาที และมีเช็กพอยต์ฐานก่อนขั้น post-training ก่อนหน้านั้น 17 วินาที

• ประกาศ — โพสต์ในห้องข่าวของ NVIDIA ระบุวันที่เผยแพร่ไว้เป็น 15 ตุลาคม 2026 ขณะที่ฟิลด์ release ของโมเดลการ์ดเองระบุว่า 10/15/2026 ที่เวอร์ชัน 1.0 GA

• Bolt 74B — รีโพซิทอรีขนาด 24 GB ของมันอยู่มาก่อนการประกาศอย่างมีนัยสำคัญ โดยถูกสร้างเมื่อวันที่ 7 ตุลาคม และมีบิลด์ GGUF ปรากฏบน Hub ในเย็นวันนั้น บล็อกนำเสนอว่ามันจะเปิดตัวพร้อมกับ Super VL ในวันที่ 15

• Bolt E4B — ประกาศเปิดตัวในวันที่ 23 ตุลาคม ยังไม่มีข้อมูลเรื่องน้ำหนัก ณ เวลาที่เขียนนี้

อาร์ติแฟกต์สาธารณะมาถึงก่อนถ้อยคำสาธารณะ ใครก็ตามที่กำหนดวันที่ของการ deploy จากข่าวประชาสัมพันธ์จะช้ากว่าสามวันสำหรับโมเดลที่ดาวน์โหลดได้แล้ว และใครก็ตามที่กำหนดวันที่จากรีโพซิทอรีจะอ้างอิงการประทับเวลาที่ NVIDIA ไม่เคยยอมรับ ทั้งสองแนวทางล้วนมีเหตุผลรองรับ การเขียนว่า "เปิดตัวเมื่อ 15 ตุลาคม" โดยไม่ระบุถึงวันที่ 12 คือเวอร์ชันที่ทำให้ข้อมูลสูญหาย

คะแนนเป็นส่วนที่น่าเบื่อ ตัวส่วนต่างหากคือเรื่องราว

จุดขายของ NVIDIA สำหรับ Super VL คือความเร็ว — “อัตราการประมวลผลเร็วขึ้นสูงสุดถึง 5 เท่าเมื่อเทียบกับโมเดลอื่นในระดับเดียวกัน” โดยอ้างอิงจากลีดเดอร์บอร์ดของ Artificial Analysis ข้อกล่าวอ้างนี้ยังไม่ได้รับการยืนยันอย่างสมบูรณ์ และส่วนด้านล่างจะกล่าวถึงเรื่องนี้ ข้อเท็จจริงที่ยั่งยืนเกี่ยวกับการเปิดตัวครั้งนี้คืออีกเรื่องหนึ่ง: โมเดลได้ 26 คะแนนบนชุดการทดสอบเดียวกับที่รุ่นก่อนหน้าซึ่งเปิดตัวในเดือนมีนาคม คือ NVIDIA Nemotron 3 Super 120B A12B ทำได้ 13 คะแนน และทำได้เช่นนั้นด้วยขนาดที่แทบจะเท่ากันทุกประการ

• พารามิเตอร์ — ทั้งหมด 120B, ใช้งาน 12B, ผู้เชี่ยวชาญที่ถูกเลือกเส้นทาง 512 รายต่อเลเยอร์ MoE โมเดลเดือนมีนาคมมีทั้งหมด 120.6B และใช้งาน 12.7B นี่ไม่ใช่โมเดลที่ใหญ่กว่า

• Intelligence Index — 26 ต่อ 13 ตามข้อมูลจาก Artificial Analysis โดยทั้งคู่ถูกระบุว่าไม่ใช่ค่าประมาณ ประมาณสองเท่า ภายใต้งบพารามิเตอร์เดียวกัน

• โทเค็นเอาต์พุตต่องาน Index — ประมาณ 49,000 เทียบกับประมาณ 114,000 โมเดลใหม่ทำงานประเมินเดียวกันเสร็จโดยใช้โทเค็นน้อยลงราว 57% ซึ่งเป็นกลไกที่อยู่เบื้องหลังการก้าวกระโดดครั้งนี้ในส่วนใหญ่: มันหยุดคิดมากเกินไป

• เมื่อเทียบกับ Inkling Small — ทั้งคู่ได้ 26 โดย Super VL ทำได้ด้วยขนาดรวม 120B เมื่อเทียบกับ 266B ของ Inkling Small และทั้งคู่เปิดใช้งานประมาณ 12B ต่อโทเค็น

• เมื่อเทียบกับ Nemotron 3 Ultra 550B A55B — 23. โมเดลขนาดกลางรุ่นใหม่ของ NVIDIA เอาชนะโมเดลเรือธงของตัวเองที่มีพารามิเตอร์ 550 พันล้านตัวได้ด้วยคะแนนนำสามคะแนน ขณะที่มีขนาดเพียงประมาณหนึ่งในสี่เท่านั้น

แกนด้านประสิทธิภาพสองแกนมักถูกทำให้ปะปนกันอยู่เสมอ จึงคุ้มค่าที่จะแยกทั้งสองออกจากกัน พารามิเตอร์ที่ใช้งานเป็นตัวกำหนดต้นทุนในการสร้างโทเคน ส่วนพารามิเตอร์ทั้งหมดเป็นตัวกำหนดต้นทุนในการจัดเก็บ โหลด และคงไว้ในหน่วยความจำ Super VL พัฒนาทั้งสองด้าน: โดยรักษาพารามิเตอร์ที่ใช้งานให้คงที่ที่ 12B ขณะที่ลดพารามิเตอร์ทั้งหมดลงราวครึ่งหนึ่งเมื่อเทียบกับ Inkling Small และรักษาพารามิเตอร์ทั้งหมดให้คงที่ที่ 120B ขณะที่เพิ่มคะแนนเป็นราวสองเท่าเมื่อเทียบกับรุ่นก่อนหน้าของตัวเอง โมเดลที่พัฒนาได้เพียงแกนเดียวก็นับว่าน่าจับตาแล้ว รุ่นนี้ทำได้ทั้งสองแกนในการเปิดตัวครั้งเดียวกัน

Bolt เป็นครึ่งที่เงียบกว่าของรีลีสนี้ และไม่มีคะแนนแยกต่างหาก

โมเดลขนาด 24 GB เป็นรุ่นที่ทีมส่วนใหญ่สามารถรันบนฮาร์ดแวร์ที่ตนเองมีได้จริง Nemotron 3.5 Bolt 74B-A9B 24GB เป็นโมเดล mixture of experts ขนาด 74 พันล้านพารามิเตอร์ ที่มีพารามิเตอร์ใช้งาน 9 พันล้านตัว ถูกควอนไทซ์เหลือประมาณ 2.06 บิตต่อผู้เชี่ยวชาญในระหว่างการฝึกแทนที่จะทำหลังการฝึก มีบริบท 262,144 โทเคน และใช้เงื่อนไข OpenMDW-1.1 เดียวกับรุ่นพี่ที่มีขนาดใหญ่กว่า เป็นไฮบริดระหว่าง Mamba-2 และ Transformer พร้อมตัวเข้ารหัสภาพ C-RADIO v4-H จึงรับข้อความ รูปภาพ และวิดีโอ แล้วส่งคืนเป็นข้อความ

การ์ดของ NVIDIA รายงานบนฮาร์เนสของตัวเองว่า: GPQA-Diamond 86.43, HLE โดยไม่ใช้เครื่องมือ 25.30, Terminal-Bench 2.1 50.98, SciCode 41.02, BrowseComp 66.75, PinchBench 87.82 และ WebArena vision 50.86 ทุกรายการเหล่านี้ดำเนินการโดยผู้ขายและยังไม่มีการทำซ้ำ บนคณะผู้ประเมินอิสระ โมเดลอยู่ที่ 21 — เป็นผลลัพธ์ที่แข็งแกร่งอย่างแท้จริงสำหรับสิ่งทีพอดีกับการ์ด 24 GB เพียงใบเดียว และยังเป็นเครื่องเตือนให้ระวังตารางของผู้ขาย เพราะ 86.43 บน GPQA-Diamond ที่อยู่ рядомกับดัชนีโดยรวม 21 อาจทำให้ตีความข้อมูลแถวเดียวเกินจริง

การกระจายจำนวนดาวน์โหลดบอกเล่าเรื่องราวของมันเอง: บิลด์ GGUF ของ Bolt มีผู้ดาวน์โหลดมากกว่า 87,000 ครั้ง เทียบกับประมาณ 18,700 ครั้งสำหรับรีโพซิทอรี BF16 Super VL โมเดลที่ผู้คนสามารถรันบนแล็ปท็อปได้คือโมเดลที่ผู้คนกำลังดาวน์โหลด นั่นไม่ใช่คำวิจารณ์เกี่ยวกับคุณภาพ แต่เป็นคำวิจารณ์เกี่ยวกับว่า "open weights" มีไว้เพื่ออะไรจริง ๆ

สหรัฐฯ อยู่ตรงไหนกันแน่

การเพิ่มประสิทธิภาพนั้นเป็นเรื่องจริง และคำกล่าวอ้างเรื่องความเป็นผู้นำนั้นต้องมีเงื่อนไขกำกับซึ่งโพสต์ของ NVIDIA ไม่ได้ระบุไว้ ในบรรดาโมเดลแบบเปิดน้ำหนักจากห้องแล็บสหรัฐฯ บนคณะผู้ประเมินอิสระ Meta Muse Spark Open ได้ 39 คะแนน และนำหน้าทุกสิ่งที่ NVIDIA ปล่อยเมื่อสัปดาห์ที่แล้ว นอกจากนี้ยังถูกจำกัดการเข้าถึงบน Hub ภายใต้สัญญาอนุญาตเชิงพาณิชย์แบบเฉพาะ ซึ่งทำให้อยู่ในหมวดหมู่การนำไปใช้ที่ต่างจากเช็กพอยต์ที่คุณดาวน์โหลดได้ภายใต้ OpenMDW-1.1 โดยไม่ต้องขอใคร

• Muse Spark Open — 39, แบบจำกัดการเข้าถึง, ใบอนุญาตเฉพาะเจาะจง

• Nemotron 3.5 Super VL — 26, ไม่ต้องขออนุญาต, OpenMDW-1.1, พารามิเตอร์รวม 120B / ใช้งานจริง 12B

• Inkling Small — 26, สัญญาอนุญาตแบบเปิดกว้าง, รวม 266B / ใช้งาน 12B

• Nemotron 3.5 Bolt 74B-A9B — 21, ไม่มีข้อจำกัดการเข้าถึง, ใช้หน่วยความจำ 24 GB

• GPT-5.5 Instant — 26 ปิดแล้ว

วงการโมเดลแบบเปิดน้ำหนักของจีนยังเป็นอีกเรื่องหนึ่งที่แตกต่างออกไป MiMo-V2.6-Pro อยู่ที่ 46, GLM-5.3 อยู่ที่ 45 และ Kimi K3 อยู่ที่ 44 บนชุดประเมินเดียวกัน ดังนั้นโมเดลสหรัฐฯ ที่มีใบอนุญาตแบบ permissive และแข็งแกร่งที่สุดจึงตามหลังโมเดลจีนที่แข็งแกร่งที่สุดอยู่ราว 20 คะแนน คำตอบของ NVIDIA ต่อช่องว่างนั้นไม่ใช่โมเดลที่ใหญ่กว่า — แต่เป็นการ post-training บนข้อมูลของคุณเอง โดยมีชุดข้อมูล สูตร และสภาพแวดล้อมการเรียนรู้แบบเสริมกำลังเผยแพร่พร้อมกับน้ำหนักโมเดล การที่สิ่งนั้นจะปิดช่องว่างใดได้หรือไม่ เป็นคำถามที่รีลีสนี้ยังไม่ให้ข้อสรุป และใครก็ตามที่กล่าวอ้างเป็นอย่างอื่นกำลังตีความเจตนาเข้าไปใน benchmark

สิ่งที่ถูกวัด สิ่งที่ถูกกล่าวอ้าง และสิ่งที่เคลื่อนไหวในสัปดาห์นี้

ตอนเปิดตัว คำกล่าวอ้างเรื่องอัตราการประมวลผล 5x ไม่มีหลักฐานรองรับ: Artificial Analysis ระบุโมเดลโดยไม่มีตัวเลขความเร็วเลย ตอนนี้เปลี่ยนไปแล้ว แผงเปรียบเทียบบันทึกความเร็วเอาต์พุตไว้ที่ประมาณ 430 โทเคนต่อวินาที เป็นอันดับ 1 จาก 28 ในชุดเปรียบเทียบของตน ดังนั้นคำกล่าวอ้างบางส่วนจึงมีฝ่ายที่สองยืนยันแล้ว: โมเดลนี้เร็ว และไม่ใช่เร็วแค่เล็กน้อย สิ่งที่ยังไม่ได้รับการตรวจสอบคือตัวคูณ “5x เร็วกว่าอันดับรองลงมา” ต้องมีชื่อของอันดับรองลงมาและฮาร์เนสที่สอดคล้องกัน ซึ่งทั้งโพสต์บล็อกและการ์ดโมเดลไม่ได้ให้มา

ภาพรวมราคาก็เปลี่ยนแปลงไปเช่นกัน และเปลี่ยนแปลงในลักษณะที่สำคัญกว่าอัตราที่ปรากฏในพาดหัวข่าว

• ค่ามัธยฐานจากผู้ให้บริการต่างๆ — $0.225 ต่อ 1 ล้านโทเค็นอินพุต และ $0.575 ต่อ 1 ล้านโทเค็นเอาต์พุต พร้อมส่วนลดแคช 78% ตามข้อมูลจาก Artificial Analysis

• ส่วนต่างราคาระหว่างผู้ให้บริการที่ประกาศอัตรา — อินพุตตั้งแต่ $0.10 ถึง $0.20 เอาต์พุตตั้งแต่ $0.40 ถึง $0.50 สำหรับเช็กพอยต์เดียวกัน

• ต้นทุนต่องาน Index — $0.19 ซึ่งเป็นจุดที่ราคาต่ำและจำนวนโทเค็นสูงมาบรรจบกัน

• ความเยิ่นเย้อ — มีการใช้โทเค็นเอาต์พุต 170M ตลอดการรัน Index เทียบกับค่ามัธยฐานที่ 100M และถูกระบุว่าค่อนข้างเยิ่นเย้อ เอาต์พุตที่ราคาถูกบวกกับเอาต์พุตที่ยาวไม่ได้หมายความว่าถูกโดยอัตโนมัติ

ราคาอินพุตที่ต่างกันถึง 2 เท่าสำหรับน้ำหนักโมเดลเดียวกันคือข้อค้นพบเชิงปฏิบัติของสัปดาห์นี้ โมเดลคือไฟล์เดียวกันทุกที่ แต่ตัววัดค่าใช้จ่ายไม่ใช่ นั่นเป็นข้อโต้แย้งให้มองการเลือกผู้ให้บริการเป็นการตัดสินใจด้านเราเตอร์/เส้นทางมากกว่าการตัดสินใจด้านจัดซื้อจัดหา — ซึ่งเป็นส่วนของเรื่องนี้ที่ผลิตภัณฑ์ของเราเองบังเอิญตอบโจทย์อยู่ และฉบับที่ซื่อตรงของข้อกล่าวอ้างนั้นก็แคบ Nemotron 3.5 Super VL ไม่ได้อยู่ในแคตตาล็อกของเรา: รายการโมเดลของ OrcaRouter ส่งคืน ID โมเดลมาเกิน 200 รายการเล็กน้อย และวันนี้ยังไม่มีรายการของ NVIDIA คุณค่าของเราเตอร์ในกรณีนี้คือ ทันทีที่เช็กพอยต์หนึ่งเปิดตัวออกมา มันจะ เปิดให้ใช้ในราคาตามรายการของผู้ให้บริการโดยบวกเพิ่ม 0% และโมเดลใหม่ขนาดนี้สามารถอยู่หลังระบบ failover อัตโนมัติ แทนที่จะเป็นรากของเส้นทางโปรดักชัน ทั้งสองข้อนั้นไม่ใช่เหตุผลให้ซื้อโมเดล แต่เป็นเหตุผลที่ไม่ต้องเซ็นสัญญาเพื่อลอง用它

สามเรื่องที่ต้องจับตา และหนึ่งในนั้นจะเกิดขึ้นในอีกเก้าวัน

ตัวแรกคือ Bolt E4B ในวันที่ 23 ตุลาคม โมเดลภาษาและภาพขนาด 4 GB ที่ทำคะแนนได้ใกล้เคียงกับรุ่นพี่ขนาด 24 GB จะเป็นการเปิดตัวที่มีนัยสำคัญกว่าของทั้งสาม เพราะมันเปลี่ยนว่าฮาร์ดแวร์แบบไหนจึงจะถือว่าเพียงพอ

ประการที่สองคือการประเมินอย่างอิสระของเช็กพอยต์แบบควอนไทซ์ ทุกตัวเลขในบทความนี้ที่มาจาก NVIDIA วัดบนบิลด์ความแม่นยำเต็มรูปแบบหรือบิลด์ฮาร์เนสของผู้จำหน่าย ไฟล์ NVFP4 คือไฟล์ที่คนส่วนใหญ่จะให้บริการจริง และยังไม่มีคะแนนจากบุคคลที่สามที่เผยแพร่ ข้อกล่าวอ้างของ NVIDIA เองคือการฟื้นคืนความแม่นยำมัธยฐานที่ 99.62% เมื่อเทียบกับ BF16 — เป็นตัวเลขของผู้จำหน่าย บนฮาร์เนสของผู้จำหน่าย และเป็นตัวเลขที่ยังไม่ได้รับการยืนยันซึ่งเป็นตัวรองรับหลักเพียงตัวเดียวในรีลีสนี้

ประการที่สามคือส่วนต่างราคาจะแคบลงหรือไม่ ช่องว่าง 2 เท่าระหว่างเซิร์ฟเวอร์ที่ถูกที่สุดกับแพงที่สุดสำหรับ open checkpoint หนึ่งรายการ คือตลาดที่ยังไม่เข้าที่ และทิศทางที่มันจะเข้าที่นั้นจะบอกอะไรเกี่ยวกับ open-weight inference ในอีกหกเดือนข้างหน้าได้มากกว่าผล benchmark แถวใดแถวหนึ่ง

คะแนนคือพาดหัวข่าว แต่เช็กพอยต์ขนาดครึ่งหนึ่งที่มีจำนวนพารามิเตอร์ที่ใช้งานเท่ากันต่างหาก คือสิ่งที่ยังจะสำคัญอยู่แม้ผ่านไปอีกหนึ่งปี