Nemotron 3.5 Bolt กับ Kimi K3: ดาวน์โหลด 24GB ปะทะตัวอ่านขนาด 2.8 ล้านล้านพารามิเตอร์
- Orcaใหม่Orca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 ต่อ 1 ล้านโทเค็น · 71 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952ความฉลาด
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856ความฉลาด
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 ต่อ 1 ล้านโทเค็น · 738 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238ความฉลาด
- OpenAIOpenAI: GPT-6 Sol2026-09-2248ความฉลาด
- AnthropicAnthropic: Claude Opus 5.52026-09-2258ความฉลาด
- xAIGrok 4.72026-09-2146ความฉลาด
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 ต่อ 1 ล้านโทเค็น · 35 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 ต่อ 1 ล้านโทเค็น · 821 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-09-1040ความฉลาด
- OpenAIOpenAI: GPT-6 Astra2026-09-0453ความฉลาด77การเขียนโค้ด
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241ความฉลาด76การเขียนโค้ด
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245ความฉลาด76การเขียนโค้ด
- AnthropicAnthropic: Claude Fable 5.12026-09-0153ความฉลาด82การเขียนโค้ด
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 ต่อ 1 ล้านโทเค็น · 52 tok/s
- AlibabaQwen: Qwen3.8 Flash2026-08-26$0.15 / $0.47 ต่อ 1 ล้านโทเค็น · 109 tok/s
- z-aiZ.ai: GLM 5.3 Flash2026-08-2642ความฉลาด72การเขียนโค้ด
- DeepSeekDeepSeek: DeepSeek V4 Flash Vision (Exp)2026-08-21$0.22 / $0.66 ต่อ 1 ล้านโทเค็น · 184 tok/s
- z-aiZ.ai: GLM 5.32026-08-1845ความฉลาด75การเขียนโค้ด
คำตอบสั้น ๆ ที่ตรงไปตรงมาคือ สองโมเดลนี้ไม่ได้แข่งขันกันในงานเดียวกัน และเหตุผลนั้นวัดได้ด้วยตัวเลขเพียงตัวเดียว Kimi K3 มีบริบท 1,048,576 โทเคน NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB มี 262,144 โทเคน ถ้างานของคุณคือ "อ่านคลังข้อความทั้งหมดนี้แล้วตอบในรอบเดียว" เช็กพอยต์ขนาด 24GB ก็ถูกตัดสิทธิ์ก่อนที่รายละเอียดอื่น ๆ เกี่ยวกับมันจะมีความหมาย และถ้างานของคุณคือ "รันบนเวิร์กสเตชันที่ไม่มีเครือข่าย ไม่มีมิเตอร์ และไม่มีผู้ขายเข้ามาเกี่ยวข้อง" Kimi K3 ก็ไม่อยู่ในการพิจารณาเช่นกัน Kimi K3 เป็นโมเดล mixture-of-experts ขนาด 2.8 ล้านล้านพารามิเตอร์ที่เผยแพร่โดย Moonshot AI เมื่อวันที่ 15 กรกฎาคม 2026 ผ่าน API แบบโฮสต์ที่เป็นกรรมสิทธิ์ Nemotron 3.5 Bolt 74B-A9B 24GB เป็นไฟล์แบบ open-weight ที่ใช้พารามิเตอร์ 9 พันล้านตัวจาก 74 พันล้านตัวของมันกับแต่ละโทเคน และบรรจุอยู่ในหน่วยความจำ 24GB
เช็กพอยต์ Bolt ถูกอัปโหลดขึ้น Hugging Face เมื่อวันที่ 7 ตุลาคม 2026 โดยไม่มีประกาศใด ๆ แนบมาด้วย โพสต์ของ NVIDIA เองที่ระบุชื่อโมเดล — และรุ่นพี่น้องขนาด 4GB อย่าง Nemotron 3.5 Bolt E4B — มาถึงในวันที่ 15 ตุลาคม ซึ่งช้ากว่าแปดวัน ลำดับเช่นนี้น่ารู้ไว้ เพราะมันกำหนดว่าอะไรตรวจสอบได้: บันทึกสาธารณะแปดวันนั้นประกอบด้วยไฟล์ที่ดาวน์โหลดได้และโมเดลการ์ด และคำอธิบายที่เป็นร้อยแก้วซึ่งอธิบายสิ่งนั้นก็ตามมาทีหลัง
แต่ละโมเดลถูกสร้างมาเพื่อทำอะไร
Kimi K3 เป็นเรือธงของ Moonshot และเป็นรุ่นที่มีความสามารถสูงสุดจนถึงปัจจุบัน: sparse mixture-of-experts ขนาด 2.8 ล้านล้านพารามิเตอร์ โดยมีพารามิเตอร์ที่ทำงานอยู่ประมาณ 104 พันล้านตัวต่อโทเคน สร้างมาเพื่องานเขียนโค้ดระยะยาวและงานความรู้แบบครบวงจร รองรับข้อความและรูปภาพ แล้วส่งคืนข้อความ มันให้บริการผ่านระบบ ไม่ได้แจกจ่ายเป็นไฟล์ ไม่มีการดาวน์โหลด ไม่มีบิลด์แบบควอนไทซ์ให้รันในเครื่อง และไม่มีเวอร์ชันใดที่เล็กพอสำหรับแล็ปท็อป
Nemotron 3.5 Bolt เป็นการออกแบบที่ตรงกันข้าม NVIDIA นำโมเดล Nemotron 3.5 Super VL ขนาด 120B-A12B ของตน มาใช้การบีบอัดที่นำทางด้วยเราเตอร์ซึ่งบริษัทเรียกว่า Star Elastic เพื่อให้ได้ขนาด 74B-A9B จากนั้นจึงควอนไทซ์ผลลัพธ์ให้เหลือ 2.0625 บิตต่อองค์ประกอบผู้เชี่ยวชาญ — รูปแบบ IQ2_XXS — พร้อมการกลั่นแบบรู้การควอนไทซ์เพื่อกู้คืนความแม่นยำที่ราคาต้องแลกไป โครงสร้างหลักเป็นไฮบริดระหว่าง Mamba-2 กับ Transformer ที่ผู้ขายเรียกว่า LatentMoE พร้อมตัวเข้ารหัสภาพ C-RADIO v4-H สำหรับอินพุตภาพและวิดีโอ มันทำงานภายใต้ vLLM บนชิป Ampere, Hopper และ Blackwell และบนฮาร์ดแวร์ RTX Spark และ DGX Spark ผ่าน llama.cpp ภายใต้สัญญาอนุญาต OpenMDW-1.1 ที่อนุญาตให้ใช้เชิงพาณิชย์
การอ่านคลังข้อความขนาดยาว โดยคิดราคาแล้ว
นี่คือจุดที่การเปรียบเทียบกลายเป็นเรื่องเลขคณิตมากกว่าความชอบส่วนตัว Kimi K3 ถูกจัดเส้นทางบน OrcaRouter ในราคาตามประกาศของ Moonshot โดยไม่มีอะไรบวกเพิ่ม: $3.00 ต่อหนึ่งล้านโทเคนอินพุต, $15.00 ต่อหนึ่งล้านโทเคนเอาต์พุต และการอ่านจากแคชที่ $0.30 เวลา p50 ถึงโทเคนแรกบนแค็ตตาล็อกของเราคือ 7.02 วินาที โดยมี p95 ที่ 10.00 วินาที และมันรองรับปริมาณทราฟฟิกที่จัดเส้นทาง 990.6 ล้านโทเคนทั่วแค็ตตาล็อกของเราในเจ็ดวันที่ผ่านมา — การอ่านบริบทขนาดยาวในระดับสเกลเป็นภาระงานจริง ไม่ใช่การทดลองทางความคิด
Nemotron 3.5 Bolt ไม่มีราคา เพราะไม่มีอะไรให้กำหนดราคา ไม่มีปลายทางแบบโฮสต์สำหรับมัน ไม่มี API ของผู้ให้บริการ ไม่มีตารางอัตราค่าใช้จ่าย และ Artificial Analysis ระบุทั้งความเร็วและต้นทุนต่องาน Intelligence Index ของมันเป็น N/A ด้วยเหตุผลนั้นเอง สิ่งที่มันมีแทนคือเพดานหน่วยความจำที่คุณซื้อครั้งเดียว และต้นทุนส่วนเพิ่มที่ปัดเศษแล้วก็พอ ๆ กับค่าไฟฟ้า สำหรับไปป์ไลน์ที่อ่านชุดข้อมูลคงที่ทุกคืน ความแตกต่างระหว่าง $3 ต่อโทเค็นอินพุตหนึ่งล้านกับศูนย์ไม่ใช่ส่วนลด — แต่มันคือรูปแบบการบัญชีที่ต่างออกไป และจุดคุ้มทุนเป็นคำถามเรื่องรายจ่ายฝ่ายทุนที่ทีมการเงินของคุณเป็นคนตอบ ไม่ใช่บทความนี้
วิสัยทัศน์ไม่ใช่ตัวชี้ขาดอย่างที่หลายคนคิดกัน
โมเดลทั้งสองรับภาพได้ นั่นคือจุดที่ความเหมือนกันสิ้นสุดลง
• อินพุต — Kimi K3 รับข้อความและรูปภาพ; Nemotron 3.5 Bolt รับข้อความ รูปภาพ และวิดีโอ สำหรับเอเจนต์ที่ดูการบันทึกหน้าจอหรือสุ่มเฟรมจากฟีดกล้อง มีเพียงตัวเดียวในสองตัวนี้เท่านั้นที่สามารถรับไฟล์ได้โดยตรง
• ความแม่นยำของเส้นทางวิชัน — Bolt มาพร้อมตัวเข้ารหัสภาพ C-RADIO v4-H ที่สร้างขึ้นโดยเฉพาะ และสืบทอดพฤติกรรมแบบมัลติโมดัลจากไคลเอนต์ Super VL ที่มันถูกบีบอัดมาจาก; ความเข้าใจภาพของ Kimi K3 มีการระบุว่าเป็นแบบเนทีฟ แต่ไม่ใช่ส่วนที่ Moonshot ใช้เป็นจุดนำเสนอหลักของโมเดล ตารางของ NVIDIA เองระบุคะแนนวิชัน WebArena ของ Bolt ไว้ที่ 50.86; ให้ถือว่าเป็นข้อมูลที่ผู้จำหน่ายรายงานเอง
• การควบคุมการให้เหตุผล — Kimi K3 ไม่มี temperature, top_p และ seed ให้ใช้ โดยความลึกของการให้เหตุผลกำหนดผ่านพารามิเตอร์ reasoning effort เพียงอย่างเดียว; โหมดการให้เหตุผลของ Bolt เป็นสวิตช์ในเทมเพลตแชต คือ enable_thinking true หรือ false ซึ่งสืบทอดมาจากไคลเอนต์ Super VL ตัวเดียวกัน
การคาดการณ์ล่วงหน้า — Bolt มาพร้อมกับ LiLiCorr drafter ที่ขับเคลื่อนผ่าน DFlash ซึ่งเสนอโทเคนล่วงหน้าเจ็ดตัวต่อขั้นตอน นี่คือกลไกที่อยู่เบื้องหลังคำอ้างของ NVIDIA เรื่อง 84 โทเคนต่อวินาทีบน AIPerf SPEED-Bench ไม่มีคันโยกที่เทียบเท่ากันบนเอนด์พอยต์แบบโฮสต์ คุณจะได้เท่าที่ผู้ให้บริการจัดสรรไว้เท่านั้น
ช่องว่างที่วัดได้ และสิ่งที่มันทำมาจาก
Artificial Analysis จัดให้ Kimi K3 อยู่ที่ 43.6 บน Intelligence Index ของตน และ Nemotron 3.5 Bolt อยู่ที่ 21 ไม่มีทางที่จะตีความว่าสองตัวนี้ใกล้กันได้ แถวสนับสนุนของ Kimi K3 นั้นแข็งแกร่งในจุดที่ผู้อ่านบริบทขนาดยาวต้องการ — AA Coding Index ที่ 76.2 ซึ่งเป็นอันดับเก้าใน 138 โมเดลที่วัดได้, คะแนน GPQA Diamond ที่ 93.5, และตัวเลขการเรียกคืนบริบทขนาดยาวที่ 88.7 ซึ่งเป็นตัวเลขที่บอกคุณว่าหน้าต่างหนึ่งล้านโทเคนนั้นใช้งานได้จริง ไม่ใช่แค่ประกาศไว้เฉย ๆ
21 ของ Bolt เป็นผลลัพธ์อีกแบบหนึ่ง โดยเป็นคะแนนสูงสุดอันดับสี่ในบรรดา 67 โมเดลในคลาสที่กรองตาม footprint ของมัน เทียบกับค่ามัธยฐานของคลาสที่ 8 และ Artificial Analysis ระบุว่ามันเป็นหนึ่งในโมเดล open-weight ชั้นนำที่มีขนาดใกล้เคียงกัน วิธีที่ถูกต้องในการตีความตัวเลขทั้งสองคือ ตัวหนึ่งวัดสิ่งที่ห้องแล็บแนวหน้าทำได้โดยไม่มีข้อจำกัดด้านหน่วยความจำ ส่วนอีกตัววัดสิ่งที่ 24GB รองรับได้ 22 จุดดัชนีคือราคาที่ต้องจ่ายสำหรับข้อจำกัดนี้ ไม่ใช่หลักฐานว่าโมเดลที่เล็กกว่าถูกสร้างมาไม่ดี
สิ่งที่ขาดไปในฝั่งของ Bolt คือการวัดที่เป็นอิสระใด ๆ ว่ามันเร็วแค่ไหน NVIDIA รายงานว่าอย่างน้อย 80 โทเคนต่อวินาทีของการถอดรหัสเป็นเป้าหมายการออกแบบ และ 84 บนเบนช์ของตัวเอง โดยได้ 83.99 โทเคนต่อวินาทีในการรัน llama.cpp บน Surface Laptop Ultra ที่มี 128GB ณ เวลาที่เขียนนี้ ยังไม่มีบุคคลที่สามรายใดเผยแพร่ตัวเลขอัตราการประมวลผลหรือความหน่วงสำหรับเวต 24GB ในทางตรงกันข้าม ความหน่วงของ Kimi K3 นั้นถูกวัดและเปิดเผยต่อสาธารณะ — 7.02 วินาที p50 ถึงโทเคนแรก, 10.00 วินาที p95 — และนั่นคือตัวเลขที่ควรใช้เป็นฐานในการวางแผน ไม่ใช่ของผู้ขาย
ในกรณีที่เลเยอร์การกำหนดเส้นทางเปลี่ยนคำตอบ
Kimi K3 อยู่ในแค็ตตาล็อกของเราในชื่อ kimi/kimi-k3 ด้วยราคาตามที่ Moonshot ประกาศ โดยบวกเพิ่ม 0% และอยู่หลังคีย์เดียวกันกับโมเดลอื่นอีกกว่า 200 ตัว โดยมีระบบสลับไปยังผู้ให้บริการต้นทางรายอื่นโดยอัตโนมัติเมื่อรายหนึ่งมีปัญหา Nemotron 3.5 Bolt ไม่ได้อยู่ในแค็ตตาล็อกของเรา — เราไม่ได้โฮสต์เช็กพอยต์ของ NVIDIA และไม่มี endpoint ของ Bolt ให้เรียกใช้ — ดังนั้นคำถามเรื่องการกำหนดเส้นทางในที่นี้จึงไม่ใช่ว่าเราให้บริการตัวใดจากสองตัวนั้น แต่คือครึ่งทั้งสองของไปป์ไลน์จริงคุยกันอย่างไร
รูปแบบที่ได้ผลคือตัวอ่านภายในเครื่องและตัวให้เหตุผลบนโฮสต์ Bolt ทำงานบนฮาร์ดแวร์ของคุณและจัดการการประมวลผลความถี่สูงที่ข้อมูลต้องไม่ออกจากอาคาร และปริมาณที่มากจะทำให้การคิดค่าบริการต่อโทเคนเจ็บปวด Kimi K3 จัดการคำขอที่ต้องใช้หน้าต่างหนึ่งล้านโทเคนหรือการให้เหตุผลระดับแนวหน้า ในราคา $3 และ $15 ต่อล้านโทเคน วางกฎการกำหนดเส้นทางไว้ข้างหน้าทั้งคู่ แล้วการแยกจะกลายเป็นเพียงบรรทัดการตั้งค่าแทนที่จะเป็นการรีแฟกเตอร์: คำขอที่เกินงบประมาณบริบทภายในเครื่องจะไปที่ Kimi K3 ส่วนที่เหลืออยู่บนเวิร์กสเตชัน Model fusion เป็นรูปแบบที่ควรรู้หากการเรียกที่มีค่าใช้จ่ายสูงคือสิ่งที่สำคัญ — หลายโมเดลตอบพรอมป์ต์เดียวกันพร้อมกัน และคุณใช้คำตอบที่ตรงกัน
ดูอะไรดี
หลักฐานเฉพาะเจาะจงที่จะทำให้การจับคู่นี้ได้ข้อสรุปนั้นมีขอบเขตแคบและใกล้จะเกิดขึ้นแล้ว การรันทดสอบอัตราการประมวลผลและความหน่วงแบบอิสระครั้งแรกบนเวตของ Bolt ขนาด 24GB จะยืนยันว่า NVIDIA ทำได้ 84 โทเคนต่อวินาที หรือทำให้ตัวเลขนั้นลดลง และราคาโฮสติ้งที่เผยแพร่สำหรับ Bolt จะทำให้ครึ่งหนึ่งด้านต้นทุนของการเปรียบเทียบนี้กลายเป็นเรื่องเลขคณิต ส่วนการวัดการเรียกคืนบริบทยาวครั้งที่สองสำหรับ Kimi K3 จะยืนยันว่า 88.7 เป็นคุณสมบัติของโมเดล ไม่ใช่คุณสมบัติของฮาร์เนสเพียงตัวเดียว
จนถึงตอนนั้น บทสรุปนี้แคบกว่าการวางกรอบของทั้งสองผู้ขาย Kimi K3 เป็นโมเดลที่ดีกว่าในทุกแกนที่ benchmark สามารถวัดได้ และเป็นเพียงหนึ่งเดียวในสองตัวที่คุณเรียกใช้ได้ในบ่ายวันนี้ Nemotron 3.5 Bolt เป็นเพียงหนึ่งเดียวในสองตัวที่ยังทำงานต่อได้เมื่อเครือข่ายใช้ไม่ได้ และเป็นเพียงหนึ่งเดียวที่มีต้นทุนส่วนเพิ่มต่อโทเคนเป็นศูนย์ เลือกตัวที่สองสำหรับงานที่ไม่ควรถูกส่งไปที่ไหนเลย และเลือกตัวแรกสำหรับงานที่ต้องเข้าถึง
