Nemotron 3.5 Super vs Claude Opus 5.5: พารามิเตอร์ที่ใช้งานจริง 1.2 หมื่นล้าน เทียบกับมาตรวัด

นี่คือตัวเลขที่ตัดสินการเปรียบเทียบนี้ และมันไม่ได้อยู่ในตาราง benchmark ใด ๆ เลย N​VIDIA N​emotron 3.5 Super — เผยแพร่โดย N​VIDIA ภายใต้ชื่อเต็มว่า N​VIDIA N​emotron 3.5 Super VL และถูกจัดอยู่ในไลบรารี Ollama ในชื่อ nemotron-3.5-super/ — เปิดใช้งานพารามิเตอร์ประมาณ 1.2 หมื่นล้านตัวจากทั้งหมด 1.2 แสนล้านตัวต่อโทเค็นที่สร้างขึ้น Claude Opus 5.5 ไม่ได้เปิดเผยจำนวนพารามิเตอร์เลย และคิดราคา 4 ดอลลาร์ต่อโทเค็นอินพุตหนึ่งล้านโทเค็น และ 20 ดอลลาร์ต่อโทเค็นเอาต์พุตหนึ่งล้านโทเค็น ดังนั้น หนึ่งในโมเดลเหล่านี้มีต้นทุนส่วนเพิ่มต่อโทเค็นที่เป็นฟังก์ชันของค่าไฟฟ้า ส่วนอีกโมเดลหนึ่งมีต้นทุนส่วนเพิ่มต่อโทเค็นที่เป็นรายการในบัญชี ตัวเลขทั้งสองเป็นของจริง แต่ไม่มีตัวเลขใดบอกได้ว่าโมเดลไหนมีต้นทุนการใช้งานที่ถูกกว่า เพราะมันถูกตั้งราคาไว้ในสกุลเงินที่ต่างกัน

เหตุผลที่เรื่องนี้ควรค่าแก่การเขียนถึงตอนนี้: เวตของ N​VIDIA ถูกอัปโหลดขึ้น Hugging Face เมื่อวันที่ 12 ตุลาคม 2026 อย่างเงียบ ๆ ในรีโพซิทอรีชื่อ N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16 สามวันก่อนที่โพสต์ในนิวส์รูมของ N​VIDIA เองเมื่อวันที่ 15 ตุลาคมจะทำให้เป็นทางการ ก่อนการประกาศนั้น สิ่งยืนยันต่อสาธารณะเพียงอย่างเดียวที่ว่า N​emotron 3.5 Superมีอยู่จริงในฐานะสิ่งที่รันได้ คือชุดอาร์ติแฟกต์ในรีจิสทรี — และข้อเท็จจริงที่ว่าข้อกำหนดบางส่วนบนอาร์ติแฟกต์เหล่านั้นไม่ตรงกับข้อกำหนดบนการ์ดของผู้ขาย สิ่งที่รู้ได้จากรีโพซิทอรีนั้นมีอยู่จริงไม่น้อย: จำนวนไบต์ รูปแบบการควอนไทซ์ เกตเวอร์ชัน และสัญญาอนุญาต สิ่งที่รู้ไม่ได้จากรีโพซิทอรีใด ๆ คือพฤติกรรมของมันเมื่อเทียบกับโมเดลระดับแนวหน้าที่โฮสต์ให้บริการบนเวิร์กโหลดของคุณ ช่องว่างตรงนั้นคือสิ่งที่หน้านี้ต้องการพูดถึง

สิ่งที่ repository เก็บไว้จริง ๆ ก่อนสิ่งอื่นใด

เช็กพอยต์ที่ใช้งานได้สามรายการปรากฏขึ้นห่างกันภายในหกสิบวินาทีเมื่อวันที่ 12 ตุลาคม ได้แก่เวทอ้างอิง BF16, เวอร์ชัน Base และบิลด์ NVFP4 รีโพซิทอรีดราฟเตอร์ LiLiCorr แยกต่างหากได้ปรากฏขึ้นก่อนหน้านั้นหนึ่งวัน เมื่อวันที่ 11 ตุลาคม ซึ่งเป็นร่องรอยสาธารณะที่เก่าแก่ที่สุดของรุ่นนี้ การ์ดนี้อธิบายถึงโมเดลผสมผู้เชี่ยวชาญแบบไฮบริด Mamba-2 และ Transformer ที่มีผู้เชี่ยวชาญแบบ routed 512 รายต่อชั้น MoE, ตัวเข้ารหัสภาพ C-RADIO และตัวเชื่อมต่อด้านภาพและภาษา, พารามิเตอร์รวม 1.2 แสนล้านตัว โดยเปิดใช้งาน 1.2 หมื่นล้านตัว, คอนเท็กซ์สูงสุด 1 ล้านโทเคน, รับข้อความ รูปภาพ และวิดีโอเข้า ส่งออกเป็นข้อความ, และการถอดรหัสแบบ speculative ที่มีมาในตัวผ่านหัว Multi-Token Prediction สัญญาอนุญาตคือ OpenMDW-1.1 ซึ่งอนุญาตให้ใช้ในเชิงพาณิชย์ สเปกการติดตั้งใช้งานระบุเป็น H100 จำนวนสี่ตัว หรือ GB200 จำนวนสองตัวสำหรับ BF16

รายการ Ollama เป็นเวอร์ชันที่คนส่วนใหญ่จะได้พบเป็นอันดับแรก และเป็นจุดที่ข้อกำหนดเริ่มคลาดเคลื่อน โดยมีแท็กเก้าอัน สี่ในนั้น — :latest/, :120b/, :120b-a12b/ และ :120b-a12b-q4_K_M/ — ชี้ไปยังเลเยอร์ q4_K_M เดียวกัน ดังนั้นการ pull เริ่มต้นจึงเป็นควอนไทซ์แบบ 4 บิต และชื่อ "120b" ไม่ใช่ไฟล์ที่คุณจะได้รับ ทุกแท็ก รวมถึงแท็กที่เล็กที่สุด มีวิชันโปรเจกเตอร์ขนาด 1.6 GiB เนื่องจากเส้นทางภาพไม่ใช่ตัวเลือกเสริม การสุ่มค่าเริ่มต้นที่จัดส่งมาคือ temperature 1.0 กับ top_p 0.95 ซึ่งเป็นข้อความคำแนะนำของการ์ด — การตั้งค่าวิชันของการ์ดคือ temperature 0.6 และเกตของรันไทม์ถูกบังคับใช้: คอนฟิกประกาศว่า requires: 0.40.5/ ดังนั้นบน Ollama เวอร์ชันเก่ากว่า การ pull จะไม่ทำงานเลย

ทั้งหมดนั้นไม่ใช่ข้อบกพร่อง มันเป็นช่องว่างธรรมดา ๆ ระหว่างบันทึกประจำรุ่นของผู้ขายกับการจัดแพ็กเกจโดยชุมชน และนั่นคือเหตุผลที่ควรอ่านเอกสารทั้งสองฉบับแทนที่จะอ่านฉบับเดียว

เลขคณิตที่ตรงไปตรงมาของ 12B active

การเปิดใช้งานแบบเบาบางคือเหตุผลเชิงพาณิชย์ทั้งหมดของโมเดลนี้ และควรระบุให้ชัดเจนว่ามันให้ประโยชน์อะไรและไม่ให้ประโยชน์อะไร

สิ่งที่ได้มา: ในการอนุมาน โทเคนหนึ่งตัวจะแตะเครือข่ายเพียงประมาณหนึ่งในสิบ ดังนั้นอัตราการประมวลผลบนฮาร์ดแวร์คงที่จึงใกล้เคียงกับโมเดล dense ขนาด 12B มากกว่าโมเดลขนาด 120B และหน่วยความจำที่ใช้เป็นจุดเดียวที่พารามิเตอร์ 120 พันล้านตัวเต็มรูปแบบปรากฏขึ้น การ์ดของ N​VIDIA เองอ้างว่ามีอัตราการประมวลผลเร็วกว่าถึง 5 เท่าเมื่อเทียบกับรุ่นอื่นในคลาสเดียวกัน และเมื่อให้บริการบนสแต็ก Dynamo ของผู้จำหน่าย จะรองรับผู้ใช้พร้อมกันได้มากขึ้นถึง 8 เท่าโดยมีความหน่วงต่ำลง 85% นั่นเป็นตัวเลขจากผู้จำหน่ายที่สร้างบนฮาร์ดแวร์ของผู้จำหน่าย และเป็นสเปก ไม่ใช่การตรวจสอบ — แต่ทิศทางของข้ออ้างนั้นเป็นผลโดยตรงจากสถาปัตยกรรม ซึ่งอย่างน้อยก็เป็นเรื่องราวที่สอดคล้องกัน

สิ่งที่มันไม่ได้ให้มา: น้ำหนักยังคงต้องมีอยู่ในหน่วยความจำครบทั้งหมด เลเยอร์ BF16 GGUF มีขนาด 230.4 GiB ค่าเริ่มต้น q4_K_M อยู่ที่ 82.3 GiB บวกกับโปรเจกเตอร์ ไม่มีตัวเลขใดลดลงเพราะมีเพียง 12 พันล้านพารามิเตอร์เท่านั้นที่ทำงานต่อโทเคน ดังนั้นพื้นของฮาร์ดแวร์จึงถูกกำหนดโดยหน่วยความจำ ขณะที่อัตราการประมวลผลถูกกำหนดโดยการเปิดใช้งาน — ซึ่งเป็นเหตุผลว่าทำไมการ์ด 96 GB เพียงใบเดียวจึงสามารถเก็บโมเดล 4 บิตได้อย่างสบาย และยังสร้างโทเคนในอัตราที่จะทำให้โมเดลแบบเดนส์ที่มีขนาดรวมเท่ากันต้องอาย และยังเป็นเหตุผลว่าทำไมการ์ดเดียวกันจึงไม่สามารถเก็บโมเดลความแม่นยำเต็มได้เลย

ตอนนี้ลองวาง O​pus 5.5 ไว้ข้างๆ สิ่งนั้น โมเดลของ A​nthropic มีคอนเท็กซ์ 1 ล้านโทเคน เอาต์พุตสูงสุด 128,000 โทเคน รับอินพุตข้อความ รูปภาพ และไฟล์ และมีราคาอยู่ที่ $4/$20 โดยการอ่านแคชอยู่ที่ $0.20 ต่อล้าน ไม่มีการดาวน์โหลด ไม่มีการตัดสินใจเรื่องควอนไทเซชัน ไม่มีค่าเริ่มต้นการสุ่มที่ต้องแก้ไข และไม่มีเวอร์ชันที่ต้องปักหมุด นอกจากนี้ยังเป็นโมเดลที่ผ่านการตรวจสอบอย่างดี มันอยู่บนสุดของคณะผู้ประเมินจากบุคคลที่สามที่คนส่วนใหญ่ใช้เปรียบเทียบสิ่งเหล่านี้ สูงกว่าเทียร์ N​emotron นี้มาก

ดังนั้น การเปรียบเทียบนี้จึงไม่ใช่คำถามที่ว่า “อันไหนดีกว่า” เมื่อวัดจากความสามารถทั่วไปแล้ว เรือธงแบบโฮสต์คือฝ่ายที่ชนะ และการแสร้งว่าไม่ใช่เช่นนั้นก็เท่ากับทำให้ผู้อ่านที่กำลังจะตัดสินใจซื้อเสียประโยชน์ การเปรียบเทียบที่แท้จริงอยู่ตรงจุดที่เส้นต้นทุนทั้งสองตัดกัน

จุดที่โมเดลแบบเปิดขนาด 1.2 แสนล้านพารามิเตอร์พิสูจน์คุณค่าของตัวเอง

สามแห่ง และทั้งสามแห่งก็เฉพาะเจาะจง

• ปริมาณกับบิลแบบคงที่ เช็กพอยต์ที่โฮสต์เองเปลี่ยนต้นทุนส่วนเพิ่มให้เป็นต้นทุนคงที่ เมื่อปริมาณการใช้งานต่ำ การคิดตามมิเตอร์ชนะแบบขาดลอย — H100 สี่ตัวมีค่าใช้จ่ายต่อเดือนสูงกว่าที่ทีมส่วนใหญ่ใช้จ่ายไปกับโทเคน เมื่อปริมาณการใช้งานสูงและสม่ำเสมอ ต้นทุนคงที่จะถูกเฉลี่ยจนคุ้ม ส่วนการคิดตามมิเตอร์ไม่เป็นเช่นนั้น จุดตัดคือการคำนวณเดียวที่สำคัญตรงนี้ และมันเป็นฟังก์ชันของปริมาณโทเคนของคุณ ไม่ใช่คุณภาพของโมเดลใดโมเดลหนึ่ง

• งานด้าน Vision ที่จำนวนหน้าเป็นตัวกำหนดต้นทุน การ์ดของ NVIDIA รายงานผลว่าได้ 62.82 บน MMLongBench-Doc, 78.16 บน MathVision, 80.82 บนการให้เหตุผล CharXiv และ 68.12 บน OCRBench v2 ภาษาอังกฤษ เทียบกับ 59.15 ภาษาจีน ทั้งหมดเป็นข้อมูลที่ผู้ขายรายงานเอง บน Opus 5.5 อินพุตเดียวกันเหล่านั้นถูกคิดค่าบริการตามจำนวนโทเค็น และหนึ่งหน้าของรายงานที่สแกนมีโทเค็นจำนวนมาก หากภาระงานของคุณคือเอกสารหลายพันหน้าต่อวัน การคำนวณจะเปลี่ยนไปเร็วกว่าความแตกต่างด้านคุณภาพใด ๆ

• การปักหมุด เช็กพอยต์บนดิสก์ที่คุณควบคุมจะไม่เปลี่ยนไปเอง นั่นมีมูลค่าเป็นเงินจริงในไปป์ไลน์ที่อยู่ภายใต้การกำกับดูแล และเป็นคุณสมบัติที่โมเดลแบบโฮสต์ไม่สามารถมอบให้ได้ไม่ว่าจะจ่ายราคาเท่าใด

มีสองจุดที่มันยังไม่คู่ควรกับตำแหน่งของตัวเอง และทั้งสองจุดก็ควรค่าแก่การพูดออกมาตรง ๆ จุดแรกคืองานแบบเอเจนต์ที่ต้องทำงานในระยะยาว การ์ดของ NVIDIA รายงานคะแนน 66.70 บน Terminal-Bench 2.1, 71.10 บน SWE-bench Verified และ 51.78 บน SWE-bench Pro — น่านับถือ ยังไม่มีใครทำซ้ำได้ และยังตามหลังสุดยอดโมเดลที่ให้บริการบนโฮสต์อยู่ จุดที่สองคือทุกกรณีที่คำขอที่ล้มเหลวมีราคาแพง เพราะโมเดลที่มีเวตส์อายุสี่วันย่อมมีสี่วันแห่งความสนใจของทั้งโลกหนุนหลังอยู่ และไม่มีประวัติการใช้งานจริงเลยแม้แต่น้อย

ตัวเลขที่คุณยังไม่ควรเชื่อถือ และเพราะเหตุใด

ตารางผลการวัดที่เผยแพร่ทั้งหมดสำหรับ Nemotron 3.5 Super เป็นของผู้ขายเอง รวบรวมผ่านฮาร์เนส NeMo Gym ของ NVIDIA GPQA-Diamond 89.52 Humanity's Last Exam แบบข้อความเท่านั้น 31.79 LiveCodeBench v6 88.22 IFBench 70.86 tau2-bench 69.24 ค้าปลีก 76.50 สายการบิน 73.19 โทรคมนาคม BrowseComp 78 LMArena v3 พร็อกซี 52.67 ทุกอันเป็นข้ออ้างของผู้ขายที่แนบสูตรที่ทำซ้ำได้มาด้วย ซึ่งดีกว่าข้ออ้างเปล่า ๆ และยังไม่ใช่การวัดที่เป็นอิสระ

ภาพอิสระนั้นบางกว่ามาก และนั่นเองคือข้อเท็จจริงที่มีประโยชน์ที่สุดบนหน้านี้ คณะผู้ประเมินบุคคลที่สามที่ให้คะแนนโมเดลเหล่านี้จัดให้เช็กพอยต์นี้อยู่ที่ Intelligence Index ระดับกลาง ๆ ยี่สิบ — ประมาณ 26 — เทียบกับประมาณ 58 ของ O​pus 5.5 คณะนั้นยังบันทึกว่าการใช้โทเคนเอาต์พุตสำหรับการรันดัชนีสูงผิดปกติ ซึ่งตีความว่าเป็นความเยิ่นเย้อ และความเยิ่นเย้อเป็นรายการต้นทุน ไม่ใช่เชิงอรรถ ในทุกการติดตั้งใช้งานที่คุณจ่ายต่อโทเคนหรือรอต่อโทเคน ข้อมูลอิสระหนึ่งจุดไม่ใช่คำตัดสิน แต่เป็นข้อมูลเดียวที่ไม่ได้ถูกผลิตโดยบริษัทที่ขายโมเดลนี้

สิ่งที่ยังไม่มีใครเผยแพร่: การควอนไทซ์แบบ 4 บิตขยับคะแนนเหล่านั้นอย่างไร แท็กเริ่มต้นของ Ollama คือ q4_K_M ตัวเลขทุกตัวที่เผยแพร่เป็นของ BF16 หรือ NVFP4 ดังนั้นตัวเลขที่คนส่วนใหญ่จะได้สัมผัสจริงจึงยังไม่ถูกวัด และนั่นคือสิ่งที่ต้องจับตามองในอีกไม่กี่สัปดาห์ข้างหน้า

สิ่งที่คุณสามารถโทรได้และไม่สามารถโทรได้ในวันนี้

ควรพูดให้ชัดเจน เพราะนี่คือความเข้าใจผิดที่พบบ่อยที่สุดในหน้าแบบนี้ Nemotron 3.5 Super ไม่ได้อยู่บน OrcaRouter เราจัดเส้นทางให้โมเดลมากกว่าสองร้อยรายการเล็กน้อย และไม่มีรายการ NVIDIA Nemotron อยู่ในนั้น ดังนั้นหากคุณต้องการเช็กพอยต์นี้โดยเฉพาะ เส้นทางของคุณคือช่องทางการสร้างและจัดจำหน่ายของเจ้าของผลิตภัณฑ์เอง กับการดึงรันไทม์ในเครื่อง — ไม่ใช่เรา

O​pus 5.5 ตรงกันข้าม ใช้คีย์ของเรา ในราคาตามรายการของผู้ให้บริการที่ส่งผ่านมาโดยไม่บวกเพิ่มต่อโทเคน ซึ่งหมายความว่าราคาที่ผู้ขายเปลี่ยนแปลงจะมีผลฝั่งเราภายในวันเดียวกัน แทนที่จะรอถึงการต่อสัญญาครั้งถัดไป ความไม่สมมาตรนั้นมีประโยชน์จริง ๆ ต่อการตัดสินใจที่อยู่ตรงหน้าคุณ: ก้าวแรกที่ประหยัดที่สุดคือนำเวิร์กโหลดที่คุณกำลังจะรันบน H100 สี่ตัวไปรันกับโมเดลที่โฮสต์ไว้ก่อน ผ่าน API เดียว โดยไม่ต้องจัดซื้อจัดจ้าง หากโมเดลที่โฮสต์ไว้ทำงานได้ในราคาที่พอรับได้ คุณก็ประหยัดคลัสเตอร์ไปได้เลย หากมันทำไม่ได้ — และการอ่านเอกสารทางเทคนิคที่หนาแน่นผิดพลาดในปริมาณมากก็เป็นวิธีหนึ่งที่เป็นไปได้ที่มันจะทำไม่ได้ — ตอนนี้คุณมีหลักฐานแทนที่จะเป็นตาราง benchmark และคุณสามารถใช้การดาวน์โหลดกับกรณีที่รอดมาได้

ต้นทุนของสูตรการปรับใช้เป็นเท่าไร อย่างเป็นรูปธรรม

สูตร vLLM ของการ์ดเองก็คุ้มค่าที่จะอ่านในฐานะเอกสารงบประมาณ การทำขนานแบบเทนเซอร์ที่ 4 การใช้หน่วยความจำ GPU 0.85 จำนวนซีเควนซ์พร้อมกันสูงสุด 32 หนึ่งภาพและหนึ่งวิดีโอต่อพรอมป์ต์ การตัดวิดีโอที่ 0.5 และการถอดรหัสแบบคาดการณ์ผ่าน MTP head ด้วยโทเคนคาดการณ์สามโทเคน H100 สี่ตัวที่การใช้งาน 0.85 พร้อมขีดจำกัด 32 ซีเควนซ์ ไม่ใช่บริการขนาดใหญ่ — มันคือการดีพลอยแบบโหนดเดียวที่จริงจัง และเพดานการทำงานพร้อมกันบอกคุณว่าผู้ขายคาดหวังให้เรพลิกาเดียวรองรับอะไรได้บ้าง

รายละเอียดสองอย่างในสูตรนั้นสำคัญกว่าที่มันดู การตั้งค่าวิดีโอยอมรับวิดีโอหนึ่งรายการต่อพรอมต์ โดยตัดทิ้งที่อัตราครึ่งหนึ่ง ซึ่งเป็นเบาะแสที่ชัดเจนว่างบด้าน vision ถูกใช้ไปตรงไหนเมื่ออินพุตยาว และพาร์เซอร์สำหรับการให้เหตุผลมีชื่อว่า nemotron_v3/ ในขณะที่พาร์เซอร์สำหรับการเรียกใช้เครื่องมือมีชื่อว่า qwen3_coder/ — ผู้ให้บริการกำลังนำรูปแบบการเรียกใช้เครื่องมือที่ตัวเองไม่ได้คิดค้นขึ้นมาใช้ซ้ำ ซึ่งเป็นข่าวดีสำหรับใครก็ตามที่มีโค้ดเรียกใช้เครื่องมืออยู่แล้ว และเป็นเรื่องที่ควรรู้ก่อนจะเขียนลอจิกการแยกวิเคราะห์ใหม่

เมื่อเทียบกับสิ่งนั้น สิ่งที่ต้องจัดการในเชิงปฏิบัติการของโมเดลแบบโฮสต์ก็คือคีย์ API เท่านั้น การเปรียบเทียบระหว่าง "H100 สี่ตัวกับสูตร vLLM" กับ "คีย์หนึ่งอันกับมิเตอร์หนึ่งตัว" ไม่ได้ใกล้เคียงกันในแง่ของความพยายาม มันใกล้เคียงกันเฉพาะในแง่ของต้นทุน และเฉพาะเมื่อมีปริมาณมากเท่านั้น

อีกเรื่องหนึ่งที่รู้ได้จากรีโพซิทอรีและเป็นเรื่องที่มองข้ามได้ง่าย: ค่าการสุ่ม (sampling) ที่แนะนำนั้นแตกต่างกันไปตามโมดัลลิตี ข้อความต้องการ temperature 1.0 กับ top_p 0.95 ส่วนภาพต้องการ 0.6 กับ 0.95 การดีพลอยที่ตั้งค่าคู่เดียวแบบครอบคลุมทั้งระบบ แล้วนำไปประมวลผลทั้งแผนภูมิและหน้าที่สแกน เท่ากับว่ากำลังรันครึ่งที่เป็นฝั่งภาพของโมเดลภาพด้วยการตั้งค่าของฝั่งข้อความ ถ้าความประทับใจแรกของคุณที่มีต่อโมเดลนี้กับเอกสารนั้นย่ำแย่ นั่นคือปุ่มแรกที่ควรตรวจสอบ — ก่อนที่คุณจะสรุปสิ่งใดเกี่ยวกับเช็กพอยต์

แล้วอันไหน

ถ้างานของคุณคือการเขียนโค้ดแบบเอเจนต์ที่ต้องใช้ขอบเขตยาว หรือสิ่งใดก็ตามที่การให้เหตุผลต้องอยู่ในระดับฟรอนเทียร์ในการลองครั้งแรก Claude Opus 5.5 คือคำตอบ และระดับ N​emotron ไม่ใช่สิ่งทดแทนสำหรับมัน นี่ไม่ใช่เรื่องที่สูสีกัน และแถวเอเจนต์ที่ผู้ขายเผยแพร่เองก็ไม่ได้อ้างเป็นอย่างอื่น

ถ้างานของคุณคือการทำความเข้าใจเอกสารและรูปภาพปริมาณมาก โดยที่ตัวขับเคลื่อนต้นทุนคือจำนวนหน้ามากกว่าความยากของการให้เหตุผล นี่คือหนึ่งในเช็กพอยต์แบบเปิดที่น่าสนใจที่สุดที่ปรากฏในปีนี้: 120 พันล้านพารามิเตอร์ โดยมี 12 พันล้านที่ทำงานอยู่จริง สัญญาอนุญาตแบบผ่อนปรน เส้นทางด้านวิชันที่มีอยู่จริง ๆ ไม่ใช่แค่ต่อเติมเข้ามา และค่าเริ่มต้นแบบ 4-bit ที่พอดีกับการ์ด 96 GB ใบเดียว จุดที่ต้องระวังคือเวอร์ชันที่ทุกคนจะรันจริง — ค่าเริ่มต้น q4_K_M — ไม่มีผลการประเมินที่เผยแพร่ไว้ที่ไหนเลย โมเดลเพิ่งมีอายุได้สี่วัน และสเปกที่เผยแพร่โดยรันไทม์ก็ไม่ได้ตรงกับสเปกที่เผยแพร่โดยผู้จำหน่ายเสียทั้งหมด

ทั้งสองข้อนั้นเป็นเหตุผลให้ลองใช้ ไม่ใช่เหตุผลให้เชื่อถือ เริ่มจากวางเวิร์กโหลดบนโมเดลที่โฮสต์ไว้ก่อน เพื่อดูว่าเวิร์กโหลดนั้นเป็นแบบที่โมเดลระดับแนวหน้าแก้ได้ แต่โมเดลระดับกลางแก้ไม่ได้หรือไม่ จากนั้นจึงตัดสินใจว่ากรณีที่ยังเหลืออยู่คุ้มค่ากับคลัสเตอร์ การดาวน์โหลด หรือเวลาตั้งค่าหนึ่งช่วงเย็นหรือไม่ และถ้าคุณเอาเช็กพอยต์อายุสี่วันใส่เข้าไปในเส้นทางคำขอจริง ให้กำหนดเส้นทางไว้หลังกลไกสำรอง เพราะประกันที่ถูกที่สุดสำหรับโมเดลที่ไม่มีประวัติการใช้งานจริง คือโมเดลตัวที่สองที่อยู่เบื้องหลังการเรียกเดียวกัน

สิ่งที่ตัวเลขบอกคุณไม่ได้คือว่ามีสิ่งใดผิดพลาดไปในการใช้งานจริงหรือไม่: เหตุการณ์ AI และความล้มเหลวของเอเจนต์ที่ได้รับการบันทึกไว้เกี่ยวกับโมเดลในคลาสนี้ถูกรวบรวมไว้ใน OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มา ความรุนแรง ระดับความเชื่อมั่น และสถานะข้อโต้แย้งของตนเอง