Ripple 65B Preview vs Nemotron 3.5 Bolt 74B: บิลค่า VRAM มาก่อน
- Orcaใหม่OrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 ต่อ 1 ล้านโทเค็น · 70 tok/s
- Orcaใหม่OrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 107 tok/s
- orcaใหม่Orca: OrcaC2 1.02026-10-303 tok/s
- Orcaใหม่OrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 100 tok/s
- Orcaใหม่OrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 107 tok/s
- Orcaใหม่OrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 115 tok/s
- Orcaใหม่OrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 56 tok/s
- Moonshotใหม่MoonshotAI: Kimi K3.1 Pro2026-10-2447ความฉลาด
- Orcaใหม่OrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 85 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929ความฉลาด
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 ต่อ 1 ล้านโทเค็น · 106 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733ความฉลาด
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740ความฉลาด
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 ต่อ 1 ล้านโทเค็น · 57 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955ความฉลาด
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855ความฉลาด
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 ต่อ 1 ล้านโทเค็น · 182 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2228ความฉลาด
- OpenAIOpenAI: GPT-6 Sol2026-09-2244ความฉลาด
- AnthropicAnthropic: Claude Opus 5.52026-09-2259ความฉลาด
ทั้งสองโมเดลนี้ถูกวางจำหน่ายภายใต้คำสัญญาเดียวกัน — คุณสามารถรันเอเจนต์เขียนโค้ดระดับจริงบนฮาร์ดแวร์ที่คุณเป็นเจ้าของได้ Ripple 65B Preview ต้องใช้หน่วยความจำประมาณ 130 GB ใน BF16 ก่อนที่คุณจะโหลดบริบทแม้แต่โทเค็นเดียว ส่วน Nemotron 3.5 Bolt 74B-A9B ต้องการเพียง 24 GB เพราะ NVIDIA บีบอัดมันเหลือ 2.0625 บิต นั่นคือความแตกต่างถึงห้าเท่าในฮาร์ดแวร์ที่คุณต้องซื้อ และมันตัดสินการเปรียบเทียบนี้ก่อนที่ตารางเบนช์มาร์กจะได้มีบทบาทเลยด้วยซ้ำ
ซึ่งเป็นส่วนที่น่าสนใจ เพราะบนเบนช์มาร์กเดียวที่ทั้งสองแล็บเผยแพร่ในเวอร์ชันเดียวกัน โมเดลขนาดเล็กไม่ได้เป็นผู้ชนะ NVIDIA's Nemotron 3.5 Bolt 74B-A9B รายงาน 50.98 บน Terminal-Bench 2.1 ขณะที่ Ricursive's Ripple 65B Preview รายงาน 80.5 บนรีวิชันเดียวกัน ห่างกันสามสิบคะแนน ข้อสอบเดียวกัน — แต่ทำภายใต้เงื่อนไขที่แตกต่างกันมากจนการตีความอย่างตรงไปตรงมาให้ภาพที่แคบกว่าที่พาดหัวข่าวบ่งชี้
การคำนวณ ก่อนสิ่งอื่นใด
Ripple 65B Preview เป็นโมเดลแบบ dense พารามิเตอร์ทั้งหมด 6.5 หมื่นล้านตัวทำงานในทุกโทเคน ดังนั้นที่ BF16 น้ำหนักเพียงอย่างเดียวคือ 65 × 2 ไบต์ = 130 GB และนั่นยังไม่รวม KV cache Ricursive มีจำหน่ายเวอร์ชัน NVFP4 ซึ่งทำให้น้ำหนักเหลือประมาณหนึ่งในสี่ของจำนวนนั้น หรือราว 33 GB บวกแคช และเป็นบิลด์ที่ทำให้การดีพลอยบน GPU เดียวหรือ DGX Spark เป็นไปได้จริง เป้าหมายที่บริษัทระบุไว้คือ DGX Spark โดยทำได้ 250 โทเคนต่อวินาทีบน B200s สองตัวที่ batch size 8 ก่อนใช้ custom kernels
Nemotron 3.5 Bolt 74B-A9B เป็นโมเดล Mixture-of-Experts ที่มีพารามิเตอร์ที่ใช้งานอยู่ 9B ซึ่งได้มาจากโมเดลแม่ Nemotron 3.5 Super VL 120B-A12B ของ NVIDIA โดยการลด top-K ของ expert จาก 22 เหลือ 9 ด้วยการค้นหาที่นำโดย router ซึ่งบริษัทเรียกว่า Star Elastic ที่ 2.0625 บิตใน IQ2_XXS โมเดลนี้มีน้ำหนักราว 19 GB และพอดีกับการ์ด 24 GB ที่ batch size 1 นั่นคือเป้าหมายการออกแบบทั้งหมด และมันก็ทำได้สำเร็จ
• หน่วยความจำ — ~130 GB BF16 / ~33 GB NVFP4 เทียบกับ ~19 GB ที่ 2.06 บิต, การ์ด 24 GB ที่แบทช์ 1
• รูปแบบ — 65B แบบ dense เทียบกับ 74B รวม / 9B active MoE
• บริบท — 1M ที่โฆษณาไว้ เทียบกับ 262,144 โดยสูตรของ vLLM แนะนำ 64K บนการ์ด 28 GB
• รูปแบบข้อมูล — ข้อความเท่านั้น เทียบกับอินพุตข้อความ รูปภาพ และวิดีโอ
• สัญญาอนุญาต — Apache 2.0 เทียบกับ OpenMDW-1.1
• ราคา — $0.20 / $0.60 ต่อล้านบน hosted endpoint แรก เทียบกับไม่มีราคาต่อโทเคนแบบ hosted เลย
harness เดียวกัน แต่เงื่อนไขต่างกัน
Terminal-Bench 2.1 เป็นกรณีที่หาได้ยากซึ่งทั้งสองแล็บอ้างอิงเวอร์ชันเดียวกัน ซึ่งทำให้การเปรียบเทียบ 80.5 กับ 50.98 มีความสมเหตุสมผลในแบบที่การพูดคุยเรื่องเบนช์มาร์กข้ามโมเดลส่วนใหญ่ไม่มี แต่ความสมเหตุสมผลไม่เหมือนกับความเป็นธรรม และมีความไม่สมมาตรสองประการที่คุณต้องคำนึงไว้
แรกสุดคือการควอนไทเซชัน ตัวเลข 50.98 ของ NVIDIA เป็นตัวเลขที่ผู้จำหน่ายรายงานสำหรับโมเดลที่เผยแพร่ส่วนใหญ่ในรูปแบบบิลด์ 2-bit; ตัวเลข GPQA ที่เป็นจุดเด่นของการ์ดนี้คือ 86.43 ซึ่งวัดจากเช็กพอยต์ที่ถูกบีบอัดนั้น Ricursive ระบุชัดเจนว่าคะแนนของตนได้มาจาก "ที่ระดับความพยายามสูงสุดใน BF16" — บิลด์ความแม่นยำเต็ม การนำการรันแบบ 2-bit มาเทียบกับการรันแบบ BF16 ก็คือการเปรียบเทียบโมเดลสองตัวที่แตกต่างกันซึ่งบังเอิญแชร์รีโพซิทอรีเดียวกัน
ข้อที่สองคือ ตัวเลขของ NVIDIA เป็นข้อกล่าวอ้างที่ระมัดระวังกว่า บริษัทเผยแพร่ตัวเลข 50.98 ที่ไม่โอ้อวดบน Terminal-Bench ขณะเดียวกันก็เผยแพร่ 86.43 บน GPQA Diamond และหลังจากนั้นผู้ประเมินอิสระได้จัดให้โมเดลนี้อยู่ที่ 21 ใน Intelligence Index ของ Artificial Analysis ซึ่งให้คะแนนบน v4.3.2 อันเป็นดัชนีคนละเวอร์ชันกับการสร้างใหม่ v5 ที่โมเดลอื่นในระดับราคานี้ถูกอ้างอิงถึง อย่านำ 21 นั้นไปวางข้างตัวเลข v5 แล้วลบกัน เวอร์ชันของดัชนีใช้แทนกันไม่ได้ และการผสมเวอร์ชันเหล่านี้เป็นข้อผิดพลาดที่พบบ่อยที่สุดในโพสต์เปรียบเทียบที่เขียนในสัปดาห์นี้
ตรงที่โมเดล 24 GB ชนะอย่างชัดเจน
GPQA Diamond เป็นกรณีที่ชัดเจนที่สุด Ripple 65B Preview รายงาน 85.2 Nemotron 3.5 Bolt 74B-A9B รายงาน 86.43 โมเดลที่รันได้บนการ์ดระดับผู้บริโภคเพียงใบเดียวนำอยู่ 1.2 คะแนนในคำถามวิทยาศาสตร์ระดับบัณฑิตศึกษา — ช่องว่างที่เล็กพอจะเป็นสัญญาณรบกวนได้ แต่ไม่ใช่ช่องว่างที่เอื้อประโยชน์ต่อ Ripple โมเดล dense ขนาด 65B ที่ฝึกตั้งแต่เริ่มต้นด้วยโทเค็น 12 ล้านล้านโทเค็น ยังไม่ได้สร้างความได้เปรียบด้านความรู้เหนือโมเดล MoE ขนาด 74B ที่ถูกบีบอัดและกลั่นมาจากโมเดลแม่ที่ใหญ่กว่า และไม่มีเหตุผลใดที่มันควรจะทำได้
Nemotron ยังรับภาพและวิดีโอด้วย ส่วน Ripple รับข้อความ หากเอเจนต์ของคุณจำเป็นต้องดูหน้าเว็บที่เรนเดอร์แล้ว กราฟ หรือภาพหน้าจอของงาน CI ที่ล้มเหลว นั่นไม่ใช่ความแตกต่างด้าน benchmark ที่คุณจะใช้ prompt หลบเลี่ยงได้
ข้อได้เปรียบของ Ripple ปรากฏให้เห็นที่อื่นบนการ์ดของมันเอง: 76.5 บน SWE-bench Verified, 71.67 บน MCP Atlas, 79.2 บน IFBench, 83.8 บน FORTRESS Adversarial ตัวเลขเหล่านี้แข็งแกร่งสำหรับโมเดล 65B และชี้ไปที่สิ่งเดียวกับที่คะแนน Terminal-Bench ชี้ — นี่คือโมเดลที่ผ่านการฝึกหลังการฝึกโดยเฉพาะสำหรับการใช้เครื่องมือและการเขียนโค้ดแบบ agentic โดยแลกกับความกว้างของความสามารถ
คำกล่าวอ้างเกี่ยวกับความเร็วที่ไม่สามารถเปรียบเทียบได้
ตัวเลข 250 โทเค็นต่อวินาทีของ Ricursive มาจาก B200 สองตัวที่ขนาดแบตช์ 8 ส่วนตัวเลข 83.99 โทเค็นต่อวินาทีของ NVIDIA มาจากเครื่อง RTX Spark ระดับแล็ปท็อปที่มีดราฟเตอร์แบบ speculative บนเบนช์มาร์กด้านการเขียนโค้ดของ AIPerf ทั้งสองไม่ใช่การวัดแบบเดียวกันบนฮาร์ดแวร์เดียวกัน และการยกมาอ้างในประโยคเดียวกันจึงไม่ซื่อตรง สิ่งที่พูดได้มีเพียงเชิงทิศทาง: Ripple จำเป็นต้องใช้ตัวเร่งความเร็วระดับศูนย์ข้อมูลเพื่อทำตัวเลขของตัวเองให้ได้ ขณะที่ Nemotron ถูกปรับแต่งให้สร้างอัตราที่ใช้งานได้บนเครื่องที่วางใต้โต๊ะได้
การแปลงให้เป็นตัวเลขที่ใช้ได้จริงคือทรูพุตต่อดอลลาร์ของฮาร์ดแวร์ และยังไม่มีใครเผยแพร่ค่านั้นสำหรับทั้งสองโมเดล หากคุณกำลังเลือกระหว่างสองโมเดล นี่คือตัวเลขที่คุณควรสร้างขึ้นเอง เพราะมันขึ้นอยู่กับขนาดแบตช์ ความยาวคอนเท็กซ์ของคุณ และคุณกำลังรันบิลด์ NVFP4 หรือ BF16 อยู่หรือไม่
สัญญาอนุญาตแบบผ่อนปรนสองฉบับ แตกต่างกันอย่างมีนัยสำคัญหนึ่งประการ
Ripple อยู่ภายใต้ Apache 2.0 ซึ่งไม่ต้องอธิบายและไม่กำหนดเกณฑ์ใด ๆ Nemotron 3.5 Bolt เผยแพร่ภายใต้ OpenMDW-1.1 ซึ่งเป็นสัญญาอนุญาตโมเดลเปิดของ NVIDIA เอง อนุญาตให้ใช้เชิงพาณิชย์ได้ แต่ไม่ใช่ค่ามาตรฐาน OSI ที่ทีมกฎหมายอนุมัติล่วงหน้าไว้แล้ว ในทางปฏิบัติทั้งสองแบบใช้งานได้ ในการจัดซื้อจัดจ้าง หนึ่งในนั้นจะใช้เวลาเพิ่มอีกสองสัปดาห์
จุดตัดความรู้ของ Nemotron คือเดือนพฤษภาคม 2026 และความครอบคลุมทางภาษาของมันเน้นภาษาอังกฤษและโค้ดเป็นอันดับแรก โดยรองรับภาษาสเปน ฝรั่งเศส เยอรมัน อิตาลี และญี่ปุ่น การ์ดของ Ripple ระบุว่าคอร์ปัสของมันเป็นภาษาอังกฤษและโค้ดเป็นหลัก แค่นั้น ทั้งสองไม่ใช่โมเดลหลายภาษา และหากนั่นคือสิ่งที่คุณต้องการ ทั้งคู่ก็ไม่ควรอยู่ในรายชื่อที่คัดเลือกไว้
เมื่อใดที่ไม่ควรเรียกใช้ทั้งสองอย่างด้วยตัวเอง
ข้อโต้แย้งที่ตรงไปตรงมาที่มีต่อทั้งสองแนวทางคือเรื่องปฏิบัติการ โมเดลบน GPU ของคุณเองคือโมเดลที่คุณต้องแพตช์ เฝ้าติดตาม วางแผนกำลังความจุ และทำให้พร้อมใช้งานอยู่เสมอ และการ์ด 24 GB ที่รัน MoE แบบ 2-bit ด้วย batch size 1 ไม่ใช่ระดับการให้บริการในโปรดักชัน แต่เป็นเครื่องสำหรับพัฒนาแสนความสามารถ ทันทีที่ทราฟฟิกของคุณเป็นแบบ bursty หรือ multi-tenant การโฮสต์แบบคิดต่อโทเคนจะชนะด้านต้นทุนรวมแม้เรตจะแพงกว่า เพราะคุณหยุดจ่ายค่า VRAM ที่ว่างอยู่
นั่นคือช่องว่างที่ OrcaRouter เติมเต็มให้กับส่วนหนึ่งของสแต็กของคุณที่จำเป็นต้องโฮสต์: API คีย์เดียวใช้ได้กับโมเดลกว่า 200 รายการในราคาตามที่ผู้ให้บริการประกาศ โดยไม่บวกเพิ่ม 0% ดังนั้นเมื่อผู้ขายลดราคา คุณจะได้รับผลในวันเดียวกัน แทนที่จะต้องรอถึงการต่อสัญญาครั้งถัดไป พร้อมการสลับไปใช้งานสำรองอัตโนมัติเมื่อผู้ให้บริการรายใดรายหนึ่งมีประสิทธิภาพลดลง ทั้งสองโมเดลนี้ยังไม่มีในแคตตาล็อกของเราในวันนี้ — Nemotron 3.5 Bolt ยังไม่มี endpoint แบบคิดตามการใช้งานที่เผยแพร่เลย และ Ripple เข้าถึง API ผ่าน endpoint ของ Ricursive เองและแพลตฟอร์มของบุคคลที่สาม สิ่งที่เราเตอร์มอบให้คุณคือทางออก: ทดลองต้นแบบในเครื่องจาก weights แล้วย้ายเส้นทางโปรดักชันไปยังโมเดลที่โฮสต์โดยไม่ต้องเขียนไคลเอนต์ใหม่
หลักการง่ายๆ
ซื้อรุ่น 24 GB ถ้าเครื่องเป็นข้อจำกัด Nemotron 3.5 Bolt 74B-A9B เป็นตัวเดียวในสองตัวนี้ที่รันบนการ์ดสำหรับผู้บริโภคเพียงใบเดียวได้โดยไม่ต้องควอนไทซ์เอง มันอ่านภาพได้ และมีคะแนน GPQA ห่างจาก Ripple ไม่ถึงหนึ่งจุด คุณต้องเสียคะแนนราวสามสิบจุดใน Terminal-Bench 2.1 และต้องยอมรับเช็กพอยต์ 2 บิต ซึ่งเป็นต้นทุนจริงในเรื่องความน่าเชื่อถือของเอเจนต์ที่ช่องว่างของเบนช์มาร์กน่าจะประเมินต่ำไป
ซื้อรุ่น 130 GB ถ้างานคือการเขียนโค้ดแบบเอเจนต์ที่เป็นข้อความล้วน และคุณมีฮาร์ดแวร์หรือปลายทางโฮสต์ราคาถูก คะแนน 80.5 ของ Ripple 65B Preview บน Terminal-Bench 2.1 คือข้อกล่าวอ้างด้านการเขียนโค้ดแบบเอเจนต์ที่แข็งแกร่งที่สุดที่ทั้งสองแล็บทำได้ในเดือนนี้ และสัญญาอนุญาต Apache 2.0 ของมันก็เป็นตัวเลือกที่ราบรื่นที่สุดเท่าที่คุณจะหาได้จากที่ไหน ๆ เพียงรันบิลด์ NVFP4 เผื่อหน่วยความจำไว้ และทำซ้ำตัวเลขนั้นบนชุดงานของคุณเองก่อนที่จะเชื่อ — ตัวการ์ดเองก็เตือนว่าการจำลองผลให้เหมือนนั้นเป็นเรื่องยาก
