Nemotron 3.5 Bolt กับ GPT-5.6 Sol: หนึ่งในสองโมเดลนี้มีราคา

คุณไม่สามารถเปรียบเทียบสองโมเดลนี้ในแง่ของต้นทุนได้ และนั่นคือสิ่งที่มีประโยชน์ที่สุดของการเปรียบเทียบนี้ NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GBเป็นไฟล์ขนาด 24GB: ดาวน์โหลดมา แล้วราคาเพิ่มหน่วยของโทเคนที่หนึ่งล้านตัวก็คือค่าไฟฟ้า GPT-5.6 Solเป็นโมเดลเรือธงที่ให้บริการแบบโฮสต์ คิดราคา 4.00 ดอลลาร์ต่ออินพุตหนึ่งล้านโทเคน และ 20.00 ดอลลาร์ต่อเอาต์พุตหนึ่งล้านโทเคน โดยมีค่า p50 time to first token ที่เปิดเผยไว้ที่ 1.63 วินาที และมีปริมาณการใช้งาน 535.5 ล้านโทเคนในช่วงเจ็ดวันที่ผ่านมา หนึ่งในสองตัวนั้นมีตารางราคา อีกตัวมีข้อกำหนดด้านฮาร์ดแวร์ ซึ่งเป็นบิลอีกแบบหนึ่งที่มาถึงเพียงครั้งเดียว

ทั้งสองโมเดลมีอยู่จริงและทั้งคู่ก็เปิดให้ใช้งานแล้ว เช็กพอยต์ Nemotron 3.5 Bolt 74B-A9B 24GB ของ NVIDIA อยู่บน Hugging Face ตั้งแต่วันที่ 7 ตุลาคม 2026 โดยมีเพียงโมเดลการ์ดแนบมาเท่านั้น ไม่มีอะไรอื่นเลย และประกาศอย่างเป็นทางการจากทางผู้ผลิตเองเกี่ยวกับตระกูล Bolt ก็ตามมาวันที่ 15 ตุลาคม — แปดวันให้หลัง ในโพสต์ที่ระบุชื่อทั้งโมเดลนี้และรุ่นพี่น้องขนาด 4GB ส่วน GPT-5.6 Sol อยู่ในรายการราคาของ OpenAI ตั้งแต่วันที่ 9 กรกฎาคม 2026 ถ้าคุณกำลังเลือกระหว่างสองตัวนี้ในสัปดาห์นี้ การตัดสินใจไม่ใช่ว่าตัวไหนฉลาดกว่า แต่เป็นว่างานของคุณนั้นออกจากเครื่องของคุณได้หรือไม่

ช่องว่าง 21 ต่อ 59 วัดอะไร

Artificial Analysis ให้คะแนน Nemotron 3.5 Bolt 74B-A9B อยู่ที่ 21 บน Intelligence Index ของตน โดยจัดให้อยู่ในอันดับที่สี่จาก 67 โมเดลในกลุ่มการเปรียบเทียบที่มันถูกจัดไว้ GPT-5.6 Sol อยู่ในช่วงปลาย ๆ ห้าสิบบนดัชนีเวอร์ชันเดียวกัน ช่องว่างประมาณเกือบสี่สิบจุดถือว่ามหาศาล และเมื่อพูดแบบนั้น มันก็ยุติการโต้แย้งตั้งแต่ยังไม่ทันเริ่ม

ช่องว่างนี้ยังเป็นการวัดที่แตกต่างกันสองแบบที่สวมตัวเลขเดียวกันอยู่ ค่า 21 คือคะแนนที่ดีที่สุดที่โมเดลน้ำหนักเปิดใด ๆ ทำได้ ณ ขนาดนี้ — Artificial Analysis บันทึกค่ามัธยฐานสำหรับโมเดลน้ำหนักเปิดที่เทียบเคียงได้ไว้ที่ 8 และระบุว่า Bolt อยู่ใน "กลุ่มโมเดลชั้นนำด้านความฉลาดเมื่อเทียบกับโมเดลน้ำหนักเปิดอื่น ๆ ที่มีขนาดใกล้เคียงกัน" ส่วนค่าประมาณ 59 คือสิ่งที่ห้องแล็บแนวหน้าผลิตออกมาเมื่อหน่วยความจำไม่ใช่ข้อจำกัด ไม่มีตัวเลขใดผิด ทั้งสองตอบคำถามที่ต่างกัน: ความฉลาดเท่าใดที่พอดีกับ 24GB และความฉลาดเท่าใดที่เงินซื้อได้

สิ่งที่ชุดการประเมินไม่สามารถวัดได้น่าสนใจกว่าสิ่งที่มันวัดได้ หน้า Artificial Analysis ของ Bolt ระบุความเร็วเป็น N/A และต้นทุนต่องาน Intelligence Index เป็น N/A ด้วยเหตุผลง่าย ๆ ว่าไม่มีโฮสต์เอนด์พอยต์ให้เรียกใช้ ตัวเลขความเร็วทุกตัวที่มีอยู่สำหรับโมเดลนี้มาจากเบนช์ของ NVIDIA เอง บันทึกงานวิจัยระบุเป้าหมายการออกแบบอย่างน้อย 80 โทเคนต่อวินาทีสำหรับการถอดรหัส และรายงานว่าได้ 84 โทเคนต่อวินาทีบน AIPerf SPEED-Bench บน RTX Spark โดยได้ 83.99 โทเคนต่อวินาทีในการรัน llama.cpp บน Surface Laptop Ultra ที่มีความจุ 128GB ตัวเลขเหล่านี้อาจแม่นยำก็ได้ แต่ยังไม่มีใครนอก NVIDIA ที่ทำซ้ำผลเหล่านั้นได้ และคุณควรถือว่ามันเป็นคำกล่าวอ้างของผู้ขายจนกว่าจะมีใครทำได้

จุดที่โมเดลแบบโฮสต์ได้เปรียบในเชิงโครงสร้าง

ความแตกต่างสามประการนี้ไม่ได้เกี่ยวกับสติปัญญาเลยแม้แต่น้อย และแต่ละประการทำให้ไฟล์ภายในเครื่องใช้ไม่ได้กับงานบางประเภท

• บริบท — GPT-5.6 Sol ให้บริการหน้าต่าง 1,050,000 โทเคน พร้อมเอาต์พุตสูงสุด 128,000 โทเคน; Nemotron 3.5 Bolt รองรับได้ถึง 262,144 โทเคน หน้าต่างที่กว้างกว่าสี่เท่าไม่ใช่คุณสมบัติฟุ่มเฟือย เมื่องานคือรีโพซิทอรีหรือคลังสัญญาในคำขอเดียว หน้าต่างของ Bolt ยังต้องแชร์ 24GB กับ KV cache, รูปภาพ, เฟรมวิดีโอ และประวัติการสนทนา ซึ่งหมายความว่าเพดานในทางปฏิบัติมาถึงเร็วกว่าที่สเปกบ่งชี้

• ประเภทอินพุต — GPT-5.6 Sol รองรับข้อความ รูปภาพ และไฟล์; Nemotron 3.5 Bolt รองรับข้อความ รูปภาพ และวิดีโอ และส่งคืนข้อความ นั่นเป็นข้อได้เปรียบที่แท้จริงของ Bolt ในด้านวิดีโอ และเป็นจุดอ่อนที่แท้จริงในด้านเอกสาร เพราะ PDF ที่ส่งเป็นไฟล์ไม่จำเป็นต้องถูกแปลงเป็นภาพ แบ่งหน้า หรือวิเคราะห์ทีละเฟรม

• ความพร้อมใช้งาน — GPT-5.6 Sol เป็น URL ส่วน Nemotron 3.5 Bolt เป็นการติดตั้งใช้งานผ่าน vLLM ที่ต้องใช้ซิลิคอน Ampere, Hopper หรือ Blackwell หรือรันด้วย llama.cpp บนอุปกรณ์ RTX Spark หรือ DGX Spark หนึ่งในนั้นคุณสามารถเริ่มใช้งานได้ภายในสี่นาที

มีความแตกต่างประการที่สี่ ซึ่งไม่ได้เกี่ยวกับความสามารถมากนัก แต่เกี่ยวกับการวัดปริมาณการใช้งานมากกว่า: การเรียกใช้โมเดลที่โฮสต์ไว้ทุกครั้งจะสร้างรายการค่าใช้จ่าย ส่วนการเรียกใช้โมเดลที่รันในเครื่องทุกครั้งจะไม่สร้าง สำหรับลูปการจำแนกประเภทหรือการดึงข้อมูลที่มีปริมาณสูง การกลับตาลปัตรนี้สำคัญกว่าคะแนนดัชนีสี่สิบจุด

การเป็นเจ้าของไฟล์นั้นให้อะไรจริง ๆ

Nemotron 3.5 Bolt 74B-A9B เป็นโมเดล sparse mixture-of-experts ที่มีพารามิเตอร์ 74 พันล้านตัว และมี 9 พันล้านตัวที่ทำงานต่อโทเค็น สร้างบนแกนหลักไฮบริดระหว่าง Mamba-2 กับ Transformer ซึ่ง NVIDIA เรียกว่า LatentMoE โดยมีตัวเข้ารหัสภาพ C-RADIO v4-H ติดตั้งเพิ่มสำหรับงานมัลติโมดัล มันคืออาร์ติแฟกต์จากการบีบอัดในความหมายที่ตรงตามตัวอักษรที่สุด: NVIDIA นำโมเดล 120B-A12B Nemotron 3.5 Super VL มาใช้การค้นหาที่นำทางด้วยเราเตอร์ซึ่งเรียกว่า Star Elastic เพื่อย่อให้เหลือ 74B-A9B จากนั้นรันการกลั่นรู้ที่ตระหนักถึงการควอนไทซ์ลงไปถึง 2.0625 บิตต่อน้ำหนักผู้เชี่ยวชาญ — รูปแบบ IQ2_XXS — เพื่อให้อยู่ในขนาด 24GB โดยไม่ต้องฝึกใหม่ตั้งแต่ต้น สัญญาอนุญาตคือ OpenMDW-1.1 ซึ่งอนุญาตให้ใช้เชิงพาณิชย์และไม่ใช่เชิงพาณิชย์

ผลลัพธ์ที่ตามมามีสองประการ ประการแรกคือโมเดลทำงานเคียงข้างแอปพลิเคชันอื่น ๆ บนเวิร์กสเตชัน มากกว่าเข้าไปแทนที่แอปเหล่านั้น ซึ่งเป็นสิ่งที่ทำให้เอเจนต์ภายในเครื่องเป็นไปได้ตั้งแต่แรก ประการที่สองคือมันมาพร้อมการคาดการณ์แบบฝังในตัว: ดราฟเตอร์ LiLiCorr ที่ขับเคลื่อนผ่าน DFlash เสนอโทเคนล่วงหน้าเจ็ดโทเคน ซึ่งส่วนสำคัญของอัตรา 84 โทเคนต่อวินาทีนั้นมาจากตรงนี้

ตาราง benchmark ของผู้ขายเอง ซึ่งไม่มีใครนอก NVIDIA ทำซ้ำได้ จัดให้เช็กพอยต์ 24GB อยู่เหนือ baseline ทุกรายการในตารางเดียวกัน — Qwen3.6 35B, Gemma 4 26B และ Nemotron 3.5 Lightning 30B-A3B ของ NVIDIA เอง — บน GDPVal-AA-V2 (28.47), Terminal-Bench 2.1 (50.98), GPQA Diamond (86.43), SciCode (41.02) และ BrowseComp (66.75) ให้อ่านสิ่งเหล่านั้นเป็นคำกล่าวอ้างเกี่ยวกับว่า 74B ที่ถูกบีบอัดเปรียบเทียบกับโมเดลที่ไม่ถูกบีบอัดซึ่งมีขนาดเป็นหนึ่งในสามของมันอย่างไร ซึ่งเป็นสิ่งที่คำกล่าวอ้างเหล่านั้นถูกออกแบบมาเพื่อแสดงให้เห็นอย่างแม่นยำ และไม่ควรอ่านเป็นการเปรียบเทียบกับโมเดลเรือธงที่โฮสต์ไว้

การกำหนดราคาสองครึ่งอย่างตรงไปตรงมา

ครึ่งที่เป็นโฮสต์มีราคาที่ชัดเจน GPT-5.6 Sol อยู่ในแคตตาล็อกของ OrcaRouter ในชื่อ openai/gpt-5.6-sol ด้วยราคาตามรายการผู้ให้บริการของ OpenAIที่ส่งผ่านโดยบวกกำไร 0% — $4.00 ต่อหนึ่งล้านโทเคนอินพุต และ $20.00 ต่อหนึ่งล้านโทเคนเอาต์พุต ตัวเลขเดียวกันบนหน้าของเราและของผู้ขาย ซึ่งหมายความว่าการเปลี่ยนแปลงจากฝั่งผู้ขายจะมาถึงฝั่งเราในวันเดียวกัน แทนที่จะรอถึงการต่อสัญญาครั้งถัดไป อินพุต 20,000 โทเคนพร้อมเอาต์พุต 3,000 โทเคนมีค่าใช้จ่ายขาเข้า $0.08 และขาออก $0.60 หรือประมาณ $0.68 ต่อการเรียกหนึ่งครั้ง

ฝั่งโลคัลไม่มีราคาที่เรายินดีจะคิดขึ้นมาเอง ไม่มีเอนด์พอยต์แบบโฮสต์สำหรับ Nemotron 3.5 Bolt ไม่มีตารางอัตราค่าบริการ และไม่มีแพลตฟอร์มของบุคคลที่สามที่วัดการใช้งานมันซึ่งเราจะชี้ให้คุณได้ การกำหนดราคามันหมายถึงการกำหนดราคา GPU, การใช้พลังงาน และระยะเวลาตัดจำหน่าย — การคำนวณที่ควรอยู่ในสเปรดชีตของคุณ ไม่ใช่ในของเรา เพราะคำตอบขึ้นอยู่กับว่าคุณรันมันมากแค่ไหนทั้งหมด

ความไม่สมมาตรนั้นคือจุดที่เลเยอร์การจัดเส้นทางทำสิ่งที่เป็นรูปธรรมแทนที่จะเป็นเพียงของประดับ Nemotron 3.5 Bolt ไม่ได้อยู่ในแค็ตตาล็อกของเรา และเราไม่ได้ให้บริการมัน; ไม่มีสิ่งใดที่นี่เป็นการเสนอให้โฮสต์เช็กพอยต์ของ NVIDIA สิ่งที่เอนด์พอยต์เดียวให้ได้จริงคือความสามารถในการเก็บครึ่งที่ทำงานในเครื่องและครึ่งที่โฮสต์ของเวิร์กโฟลว์ไว้ภายใต้คีย์เดียว เพื่อให้คำขอสามารถถูกส่งไปยัง GPT-5.6 Sol เมื่อจำเป็นต้องใช้หน้าต่างหนึ่งล้านโทเค็นหรืออินพุตไฟล์ และส่งไปยังการดีพลอย Bolt ของคุณเองเมื่อไม่จำเป็น — โดยมีกฎที่ตัดสินว่าอันไหนคืออันไหนเขียนไว้ครั้งเดียว แทนที่จะฮาร์ดโค้ดไว้ในทุกบริการ หากผู้ให้บริการที่โฮสต์ไว้มีประสิทธิภาพลดลง การสลับไปยังระบบสำรองอัตโนมัติจะย้ายคำขอ แทนที่จะปล่อยให้คำขอล้มเหลว.

เลือกอันไหนดี

• เลือก Nemotron 3.5 Bolt 74B-A9B 24GB เมื่อข้อมูลไม่สามารถออกนอกสถานที่ได้ เมื่องานมีวิดีโอเป็นองค์ประกอบ เมื่อปริมาณสูงพอที่การคิดค่าบริการต่อโทเคนเป็นต้นทุนหลัก หรือเมื่อคุณต้องการให้เอเจนต์ทำงานบนฮาร์ดแวร์ที่คุณมีอยู่แล้ว ยอมรับหน้าต่าง 262K และคะแนนดัชนีที่ประมาณหนึ่งในสามของโมเดลที่โฮสต์ไว้ ตรวจสอบข้ออ้างด้านทรูพุตบนอุปกรณ์ของคุณเองก่อนวางแผนความจุโดยอิงจากข้ออ้างเหล่านั้น

• เลือก GPT-5.6 Sol เมื่องานต้องใช้บริบทที่กว้างที่สุด การป้อนไฟล์ การใช้เหตุผลที่แข็งแกร่งที่สุดเท่าที่มี และมีสัญญาสนับสนุนรองรับอยู่เบื้องหลัง จ่าย $4 และ $20 ต่อล้านโทเค็นเพื่อสิทธิ์นี้ และโปรดทราบว่าเอาต์พุตสูงสุด 128K เป็นการตอบกลับเดี่ยวที่ยาวกว่าที่กรอบหน่วยความจำ 24GB จะรองรับได้อย่างสบาย ๆ

• ใช้ทั้งสองอย่างเมื่อเวิร์กโฟลว์แยกออกจากกันได้อย่างลงตัว ซึ่งสำหรับระบบเอเจนต์ส่วนใหญ่ก็เป็นเช่นนั้น ไฟล์ภายในเครื่องจัดการครึ่งที่เป็นความถี่สูง ความเสี่ยงต่ำ และอ่อนไหวต่อความเป็นส่วนตัว ส่วนโมเดลที่โฮสต์ไว้จัดการคำขอที่จำเป็นต้องเข้าถึงในวงกว้าง

คำถามที่ยังไม่มีคำตอบก็คือคำถามเดียวกับที่ Nemotron แบบบีบอัดตัวล่าสุดตั้งขึ้น และไม่มีใครตอบ นั่นคือการวัดอัตราการประมวลผลและความหน่วงของน้ำหนัก 24GB อย่างอิสระเป็นครั้งแรก โดยดำเนินการโดยคนที่ไม่ได้ทำงานที่ NVIDIA จนกว่าจะมีสิ่งนั้น พื้นความสามารถทางปัญญาของโมเดลนี้จึงได้รับการยืนยันจากภายนอก แต่เพดานความเร็วของมันยังไม่ได้รับการยืนยัน — และสำหรับการติดตั้งใช้งานในเครื่อง ความเร็วคือครึ่งหนึ่งที่คุณรู้สึกได้