Nemotron 3.5 Bolt 74B vs Kimi K3: ไฟล์ 24GB กับเรือธง 2.8 ล้านล้านพารามิเตอร์

โมเดลสองตัวในการเปรียบเทียบนี้ไม่ได้แย่งชิงตำแหน่งเดียวกัน และตัวเลขก็ทำให้เห็นชัดเจนก่อนที่ผู้ขายรายใดจะพูดสักคำ N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GBเป็นโมเดลภาษาและภาพขนาด 74 พันล้านพารามิเตอร์ที่ N​VIDIA บีบอัดให้เป็นเช็กพอยต์ 2 บิตที่เล็กพอจะอยู่ในหน่วยความจำ 24 กิกะไบต์พร้อมกับระบบปฏิบัติการ Kimi K3เป็นเรือธงขนาด 2.8 ล้านล้านพารามิเตอร์ของ M​oonshot AI ซึ่งเป็นโมเดลแบบเปิดเผยน้ำหนักที่การติดตั้งใช้งานที่เล็กที่สุดที่เป็นไปได้ต้องใช้ถึงหนึ่งแร็ก ตัวแรกคือไฟล์ที่คุณคัดลอกลงแล็ปท็อปได้ ซึ่ง N​VIDIA เริ่มจัดส่งเมื่อวันที่ 15 ตุลาคม 2026 ตัวที่สองคือเวิร์กโหลดที่คุณเช่าตามจำนวนโทเคน การอ่านคะแนนของทั้งสองเคียงข้างกันนั้นมีประโยชน์ก็เพราะความต่างมันมากจนไม่มีใครแกล้งทำเป็นว่าโมเดลที่เล็กกว่าเป็นสิ่งทดแทนได้

สิ่งที่คุ้มค่าจะทำจริง ๆ บนหน้านี้ คือการหาคำตอบว่าคะแนน 22 คะแนนของ Intelligence Index กระจายไปอยู่ตรงไหนบ้าง และมีคะแนนใดบ้างที่ตกไปอยู่ในงานที่เอเจนต์ในเครื่องทำงานจริง

จัดส่งอะไรไปบ้าง และเมื่อใด

รีโพซิทอรี Bolt ปรากฏบน Hugging Face เมื่อวันที่ 7 ตุลาคม 2026; โพสต์เปิดตัวของ NVIDIA เองที่ระบุชื่อว่า “เปิดจากศูนย์ข้อมูลสู่เดสก์ท็อป: NVIDIA ขยายตระกูล Nemotron ด้วยโมเดล Super VL และ Bolt ที่มีประสิทธิภาพสูงสุด” ลงวันที่ 15 ตุลาคม การ์ดโมเดลเองระบุวันวางจำหน่ายเป็น 10/15/2026 ลำดับนั้น — เวตก่อน คำประกาศแปดวันถัดมา — มีความสำคัญสำหรับใครก็ตามที่อ่านข่าวความเคลื่อนไหวของโมเดลนี้ เพราะหนึ่งสัปดาห์ของบันทึกสาธารณะประกอบด้วยเช็กพอยต์ที่ดาวน์โหลดได้และการ์ดโมเดล โดยไม่มีข่าวประชาสัมพันธ์แนบมาด้วย

นอกเหนือจากนั้น สองโมเดลนี้แตกต่างกันในทุกด้าน Kimi K3 เปิดตัวเมื่อวันที่ 16 กรกฎาคม 2026 โดยมีน้ำหนักโมเดลตามมาในวันที่ 27 กรกฎาคม ทำให้เปิดตัวมาก่อนราวสามเดือน และมีเอกสารจากบุคคลที่สามบันทึกไว้อย่างละเอียดกว่ามาก

• สถาปัตยกรรม — NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB เป็น LatentMoE แบบไฮบริด Mamba-2–Transformer พร้อมตัวเข้ารหัสภาพ C-RADIO v4-H ส่วน Kimi K3 เป็น sparse mixture-of-experts ขนาด 2.8 ล้านล้านพารามิเตอร์ ที่เปิดใช้งาน 104B พารามิเตอร์ต่อโทเคน โดยเลือกใช้ 16 จาก 896 ผู้เชี่ยวชาญ สร้างขึ้นบน Kimi Delta Attention ของ Moonshot

• พารามิเตอร์ — 74B ทั้งหมด, 9B ที่ใช้งานสำหรับโมเดล N​VIDIA; 2.8T ทั้งหมด, 104B ที่ใช้งานสำหรับ Kimi K3 โมเดลที่เล็กกว่านั้นใช้การคำนวณต่อโทเค็นน้อยกว่าหนึ่งในสิบของโมเดลที่ใหญ่กว่า

• ขนาดหน่วยความจำ — 24GB ที่การควอนไทซ์ 2-bit (IQ2-XXS ที่ 2.0625 บิตต่อองค์ประกอบสำหรับน้ำหนักของ expert, NVFP4 สำหรับเลเยอร์ Mamba, Q8_0 สำหรับ embeddings และ output) เทียบกับค่าใช้จ่ายใดๆ ของการ deploy โมเดล 2.8T พารามิเตอร์ ซึ่งไม่ใช่ตัวเลขที่หน้านี้สามารถระบุเป็นกิกะไบต์ได้

• บริบท — 262,144 โทเค็นสำหรับโมเดล N​VIDIA; 1,048,576 สำหรับ Kimi K3 โดยคิดราคาแบบเหมาจ่ายไม่ว่าความยาวจะเป็นเท่าใด

• อินพุต — ข้อความ รูปภาพ และวิดีโอเข้า เอาต์พุตเป็นข้อความสำหรับทั้งสอง

• สัญญาอนุญาต — OpenMDW-1.1 สำหรับเช็กพอยต์ของ N​VIDIA; สัญญาอนุญาต Kimi K3 สำหรับเวตของ M​oonshot อนุญาตให้ใช้งานได้ทั่วไป แต่ต้องมีข้อตกลงแยกต่างหากเมื่อมีรายได้ต่อปีเกิน 20 ล้านดอลลาร์

ตัวเลขอิสระ และตัวเลขที่ไม่มีอยู่จริง

Artificial Analysis ได้รันทั้งสองโมเดล ซึ่งเป็นสิ่งที่ทำให้การเปรียบเทียบนี้พอจะตอบได้เลย ไม่ใช่ทุกอย่างบนบอร์ดที่ถูกวัดสำหรับทั้งสองโมเดล และช่องว่างเหล่านั้นก็ให้ข้อมูลได้พอ ๆ กับตัวคะแนน

• ดัชนีความฉลาด — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB ได้คะแนน 21.4 เป็นอันดับสี่จาก 67 โมเดลในระดับขนาดเดียวกันบนชุดเปรียบเทียบของคณะผู้ประเมินเอง Kimi K3 ได้ 43.6 ในโหมดการให้เหตุผลสูงสุด และ 30.1 ในโหมดต่ำ ตัวเลขทั้งสองวัดอย่างเป็นอิสระ ไม่ได้รายงานโดยผู้ขาย

• ค่าใช้จ่ายต่องาน Intelligence Index — โมเดล NVIDIA ไม่มีตัวเลขนี้เนื่องจากไม่มีราคาที่คิดตามปริมาณการใช้งานจริง: Artificial Analysis ไม่ได้ระบุอัตราค่าอินพุตหรือเอาต์พุตสำหรับโมเดลนี้เลย Kimi K3 มีค่าใช้จ่าย API $2.00 ต่อหนึ่งงานในดัชนี ที่ราคา $3.00 ต่อล้านโทเคนอินพุต และ $15.00 ต่อล้านโทเคนเอาต์พุต เทียบกับ $0.30 สำหรับอินพุตที่แคชไว้

• ความเร็วในการส่งออก — Kimi K3 สร้าง 43.8 โทเคนต่อวินาที โดยใช้เวลา 3.6 วินาทีถึงโทเคนแรกบนเครื่องทดสอบของคณะกรรมการ ไม่มีตัวเลขปริมาณงานอิสระสำหรับโมเดล NVIDIA; หน้าการวิจัยของ NVIDIA เองเผยแพร่ 83.99 โทเคนต่อวินาทีบน AIPerf SPEED-Bench-Coding โดยเปิดใช้งาน LiLiCorr drafter ซึ่งเป็นการวัดจากผู้ขายบนเกณฑ์มาตรฐานอื่นและเครื่องอื่น

• Terminal-Bench 2.1 — 85.0 สำหรับ Kimi K3 โดยรันอย่างอิสระ เทียบกับคำกล่าวอ้างของ Moonshot เองที่ 88.3 NVIDIA รายงาน 50.98 สำหรับโมเดล Bolt ไว้ในโมเดลการ์ดของบริษัท ดังนั้นทั้งสองจึงไม่ได้อยู่บนพื้นฐานเดียวกัน: ตัวเลขหนึ่งถูกทำซ้ำนอกรันแล็บ ส่วนอีกตัวเลขยังไม่ถูกทำซ้ำ

• GPQA Diamond — 93.5 สำหรับ Kimi K3 จากการทดสอบอิสระ; 86.43 สำหรับโมเดล N​VIDIA ตามที่ N​VIDIA เผยแพร่ โดยไม่มีตัวเลขจากการทดสอบอิสระบนแดชบอร์ด

• การดึงข้อมูลบริบทยาว (AA-LCR) — 88.7 สำหรับ Kimi K3 เทียบกับ 69.7 สำหรับโมเดล NVIDIA โดยทั้งสองเป็นค่าที่วัดได้

• การเขียนโค้ดเชิงวิทยาศาสตร์ (SciCode) — 59.5 สำหรับ Kimi K3 เทียบกับ 39.7 สำหรับโมเดล N​VIDIA ทั้งคู่เป็นค่าที่วัดได้

• ความแม่นยำของความรู้และการสร้างข้อมูลเท็จ — บน AA-Omniscience Kimi K3 อยู่ที่ความแม่นยำ 47.6 เปอร์เซ็นต์ โดยมีอัตราการไม่สร้างข้อมูลเท็จ 46.8 เปอร์เซ็นต์ ส่วนโมเดลของ NVIDIA อยู่ที่ความแม่นยำ 17.1 เปอร์เซ็นต์ โดยมีอัตราการไม่สร้างข้อมูลเท็จ 56.3 เปอร์เซ็นต์ การจับคู่นี้เป็นแถวที่น่าสนใจที่สุดบนกระดานคะแนน และเป็นแถวที่สนับสนุนการตีความดัชนีแบบง่าย ๆ น้อยที่สุด: โมเดลที่ถูกบีบอัดรู้เรื่องน้อยกว่า แต่ยอมรับว่าไม่รู้บ่อยกว่า

การวัดที่ขาดหายไปคือการวัดที่ผู้ซื้ออยากได้มากที่สุด ไม่มีใครนอก NVIDIA เคยเผยแพร่ผลทดสอบ throughput หรือ latency บนเช็กพอยต์ขนาด 24GB ซึ่งนั่นคือจุดประสงค์ทั้งหมดของการปล่อยเช็กพอยต์ขนาด 24GB

22 แต้มนั้นไปอยู่ตรงไหนกันแน่

ช่องว่างดัชนี 22 จุดฟังดูเหมือนเป็นความแตกต่างคนละประเภท และในบางงานก็เป็นเช่นนั้นจริง Kimi K3 เก่งกว่าด้านการเขียนโค้ดเชิงวิทยาศาสตร์ถึง 20 จุด เก่งกว่าด้านการดึงข้อมูลบริบทยาวถึง 19 จุด และเก่งกว่าด้านคำถามวิทยาศาสตร์ระดับบัณฑิตศึกษามากกว่า 7 จุด สิ่งเหล่านี้ไม่ใช่ข้อผิดพลาดจากการปัดเศษ และไม่ใช่ผลลัพธ์เทียมที่เกิดจากชุดข้อมูลเปรียบเทียบ

แต่เรื่องราวการบีบอัดที่อยู่เบื้องหลังโมเดล NVIDIA นั้นเจาะจงพอที่จะอธิบายรูปร่างของส่วนที่ขาดได้ เช็กพอยต์นี้ถูกสร้างโดย Star Elastic ซึ่งเป็นงานค้นหาสถาปัตยกรรมแบบมีเราเตอร์นำทางของ NVIDIA โดยเริ่มจากโมเดลแม่ 120B-A12B Super VL และค้นหาจำนวน expert กับความกว้าง MoE ต่อเลเยอร์ที่พอดีภายใต้ 24GB ที่ batch size เท่ากับหนึ่งและบริบท 128K โดยดึง top-K ของ expert ลงจาก 22 เหลือ 9 แล้วควอนไทซ์ expert เป็น 2.0625 บิตต่อองค์ประกอบ พร้อมการกลั่นแบบรู้การควอนไทซ์เพื่อกู้คืนความแม่นยำ นี่คือการแลกความรู้ที่จัดเก็บไว้กับขนาดหน่วยความจำที่ใช้อย่างจงใจ โมเดลที่ถูกบีบให้เหลือ 2 บิตต่อน้ำหนัก expert จะยังคงกระบวนการไว้แต่สูญเสียข้อเท็จจริง ซึ่งเป็นเหตุให้แถว hallucination ดีขึ้นขณะที่แถวความแม่นยำพังทลาย

ตาราง benchmark ของ NVIDIA เองก็ให้ข้อโต้แย้งเดียวกันในทิศทางตรงกันข้าม บริษัทเปิดเผยว่าโมเดล Bolt เอาชนะ Qwen3.6-35B-A3B, Gemma4 26B-A4B และ Nemotron 3.5 Lightning 30B-A3B ของบริษัทเองบน Terminal-Bench 2.1, GPQA Diamond, BrowseComp และ WebArena vision — นั่นคือ บนงานแบบ agentic และการใช้เครื่องมือ — ขณะที่แพ้ให้กับ Gemma4 ในด้านความแม่นยำ AA-Omniscience และแพ้ให้กับ Qwen3.6 บน PinchBench สิ่งที่การบีบอัดรักษาไว้คือการทำงานแบบ agentic

ทั้งคู่เป็นโมเดลแบบเปิดน้ำหนัก ซึ่งทำให้การเลือกขึ้นอยู่กับไฟฟ้า

นี่คือส่วนที่ทำให้การเปรียบเทียบนี้แตกต่างจากการเปรียบเทียบกับ API แบบปิด เวตของ Kimi K3 สามารถดาวน์โหลดได้ หากคุณมีฮาร์ดแวร์ คุณก็รันโมเดลขนาด 2.8T ได้เอง และไม่ต้องจ่ายอะไรต่อโทเคน — เป็นข้อเสนอเดียวกันกับไฟล์ 24GB แต่ในสเกลที่ต่างกันโดยสิ้นเชิง ไม่มีโมเดลใดในที่นี้ที่ถูกกั้นไว้หลังผู้ให้บริการที่สามารถเปลี่ยนใจเรื่องการเข้าถึงได้

การแบ่งแยกในทางปฏิบัติคือภูมิศาสตร์ของการปรับใช้ เช็กพอยต์ IQ2 ขนาด 24GB ทำงานภายใต้ vLLM บนชิป A100, H100 หรือ Blackwell เพียงตัวเดียว และสูตรอ้างอิงของ NVIDIA เองก็ระบุชื่อ llama.cpp กับการแปลงเป็น GGUF ไว้ด้วย ซึ่งเป็นเหตุให้มันลงเอยอยู่ในฮาร์เนสเอเจนต์ภายในเครื่องบนเครื่อง RTX และ DGX Spark คำสั่งเสิร์ฟที่แนะนำไม่ใช่แค่สวิตช์บรรทัดเดียว: มันตรึงบิลด์ nightly ของ vLLM ต้องมีปลั๊กอิน reasoning-parser ที่ดาวน์โหลดมา ต้องใช้เคอร์เนล b12x สำหรับแบ็กเอนด์ linear และ MoE กำหนดแบ็กเอนด์ Mamba และ attention อย่างชัดเจน และเปิดใช้ speculative decoding ด้วยโทเคนดราฟต์ LiLiCorr เจ็ดตัว นั่นคือสูตรสำหรับคนที่ตั้งใจจะเป็นเจ้าของเครื่อง ไม่ใช่สำหรับคนที่ต้องการแค่ทรานสคริปต์

Kimi K3 ไปในทางตรงกันข้าม การออกแบบทั้งหมดของมันตั้งอยู่บนสมมติฐานว่าคุณกำลังเช่าบริการอินเฟอเรนซ์ และราคาของมันก็ถูกกำหนดตามนั้น — $3.00 ขาเข้า และ $15.00 ขาออก ต่อหนึ่งล้านโทเค็น ถือเป็นการวางตำแหน่งอย่างจงใจไว้ที่จุดสูงสุดของตลาด open-weights

การรันการเปรียบเทียบแทนที่จะอ่านมัน

หากคุณอยากรู้ว่าช่องว่างของดัชนี 22 จุดนั้นสำคัญต่อเวิร์กโหลดของคุณหรือไม่ การทดลองที่ถูกที่สุดคือการเรียกครึ่งที่แพง Kimi K3 อยู่ในแค็ตตาล็อกของ OrcaRouter ในชื่อ kimi/kimi-k3 บนคีย์เดียวกับโมเดลอื่น ๆ อีกกว่า 200 โมเดลที่เราให้บริการ โดยคิดค่าบริการตามราคาปลีกของผู้ให้บริการของ M​oonshot โดยไม่บวกเพิ่มใด ๆ — ดังนั้นเมื่อ M​oonshot เปลี่ยนราคา ฝั่งเราจะอัปเดตทันทีในวันเดียวกัน แทนที่จะรอรอบบิลถัดไป ลองยิงชุดพรอมป์ตที่ดูคล้ายกับทราฟฟิกจริงของคุณเข้าไป แล้ววัดความต่างเทียบกับสิ่งที่คุณรันอยู่ในเครื่อง ไม่ว่า OrcaRouter ไม่ได้โฮสต์โมเดล N​VIDIA ใด ๆ และไม่มีเอนด์พอยต์ Bolt ให้บริการ ตระกูล N​emotron ไม่ได้อยู่ในแค็ตตาล็อกของเรา และครึ่งที่เป็นเครื่องภายในของการเปรียบเทียบนี้ก็ยังคงเป็นคำถามเรื่องฮาร์ดแวร์ไม่ว่าจะทางใด

จุดที่การจัดเส้นทางคุ้มค่าที่จะมีบทบาทในกรณีนี้คือเส้นทางสำรอง Kimi K3 คือการผูกกับโมเดลเดียวในราคาที่สูง และโหมดความล้มเหลวของเอเจนต์โปรดักชันที่เชื่อมต่อกับโมเดลความสามารถสูงเพียงตัวเดียว คือปัญหาด้านความจุที่ต้นทางกลายเป็นเหตุการณ์ การสลับไปใช้ผู้ให้บริการรายอื่นโดยอัตโนมัติเมื่อเกิดความล้มเหลว โดยอยู่เบื้องหลังปลายทางเดียว จะเปลี่ยนสิ่งนั้นให้กลายเป็นการลองใหม่.

วิธีตัดสินใจ

กฎข้อนี้สั้นกว่าที่ช่องว่างบ่งบอกไว้

ถ้าข้อกำหนดของคุณรวมคำว่า ออฟไลน์, ส่วนตัว, บนอุปกรณ์ หรือไม่มีค่าใช้จ่ายต่อโทเคน แล้วล่ะก็ Kimi K3 ไม่ใช่ตัวเลือก และการเปรียบเทียบก็จบลงเพียงเท่านี้ — โมเดลขนาด 2.8 ล้านล้านพารามิเตอร์จะไม่รันบนเครื่องที่คุณกำลังอ่านข้อความนี้อยู่ และเช็กพอยต์ขนาด 24GB จะรันได้ ซื้อแล็ปท็อปเครื่องนั้น ยอมรับคะแนน 21.4 บนดัชนี แล้วมุ่งมันไปที่การใช้งานเครื่องมือ มากกว่าคำถามเกี่ยวกับชีวเคมี

หากสิ่งที่คุณต้องการคือความถูกต้องในการใช้เหตุผลที่ยาก งานที่ต้องใช้บริบทยาวหลายแสนโทเคน หรือการเขียนโค้ดระดับทั้งรีโป โมเดล 24GB ก็เป็นเครื่องมือที่ผิด และช่องว่างของดัชนีกำลังบอกความจริงกับคุณ จ่ายเงินซื้อ Kimi K3 ไปเลย

สิ่งที่ผู้จำหน่ายทั้งสองรายยังไม่ได้ข้อยุติคือกรณีตรงกลาง เพราะมันขึ้นอยู่กับตัวเลขที่ยังไม่มีใครเปิดเผย: ว่าเช็กพอยต์แบบ 2-bit ทำงานได้เร็วแค่ไหนจริง ๆ บนฮาร์ดแวร์ที่คุณซื้อได้ จนกว่าจะมีการทดสอบ throughput โดยอิสระ คำตอบที่ตรงไปตรงมาต่อคำถามที่ว่า "ไฟล์ 24GB แทนโมเดลเรือธง 2.8T สำหรับ agent loop ของฉันได้หรือไม่" ก็คือ ช่องว่างด้านความฉลาดนั้นวัดได้ แต่กรณีด้านความหน่วงยังไม่ชัดเจน

สำหรับโมเดลที่โหมดความล้มเหลวยังไม่มีการบันทึกไว้ สิ่งที่เทียบเคียงได้อย่างมีประโยชน์คือบันทึกของสิ่งที่เคยผิดพลาดในที่อื่นแล้ว: เหตุการณ์ AI และความล้มเหลวของเอเจนต์ที่ได้รับการบันทึกไว้ซึ่งเกี่ยวข้องกับโมเดลในคลาสนี้ถูกรวบรวมไว้ใน OrcaRouter AI Incident Archive ซึ่งแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง เกรดความเชื่อมั่น และแฟล็กข้อโต้แย้งของตนเอง