Step 5 Preview กับ Nemotron 3 Ultra: ยี่สิบเอ็ดคะแนนดัชนีในราคายี่สิบเซนต์

หนึ่งในโมเดลเหล่านี้ที่คุณสามารถดาวน์โหลดได้บ่ายวันนี้ และมันคือตัวที่แพ้ไปยี่สิบเอ็ดคะแนน Step 5 Preview, เรือธงแบบปิดของ StepFun เปิด API เมื่อวันที่ 20 กันยายน 2026 และไม่มีไฟล์สัญญาอนุญาตให้คุณถือครอง; NVIDIA Nemotron 3 Ultra 550B A55B อยู่บน Hugging Face ตั้งแต่ 4 มิถุนายน 2026 ภายใต้สัญญาอนุญาตแบบผ่อนปรน พร้อมสูตรการเทรนที่แนบมาด้วย บน Artificial Analysis Intelligence Index คู่นี้ให้คะแนน 44 เทียบกับ 23 ในแง่ราคาเอาต์พุต คู่นี้อยู่ที่ $2.70 เทียบกับ $2.50 ต่อล้านโทเคน ยี่สิบเอ็ดคะแนนแลกกับยี่สิบเซนต์ไม่ใช่การเปรียบเทียบที่หาข้อสรุปได้อย่างชัดเจนในทิศทางใดทิศทางหนึ่ง ซึ่งเป็นเหตุผลว่าทำไมจึงคุ้มค่าที่จะทำอย่างจริงจังแทนที่จะแค่มองผ่าน ๆ สองคอลัมน์พาดหัวแล้วเลือกข้าง

ทั้งสองอย่างนี้ไม่ใช่การเปิดตัวในสัปดาห์นี้ และเรื่องนั้นสำคัญต่อวิธีที่คุณอ่านตัวเลขด้านล่าง ทั้งคู่สามารถเรียกใช้ได้มานานหลายเดือน ทั้งคู่ผ่านชุดทดสอบอิสระแบบเดียวกัน และทั้งคู่ไม่มีการเปลี่ยนแปลงเรตการ์ดในช่วงเวลานี้ สิ่งที่เปลี่ยนไปนั้นเล็กกว่าและน่าสนใจกว่า: ดัชนีที่ใช้ให้คะแนนทั้งคู่ถูกสร้างขึ้นใหม่ในเดือนกันยายน และตอนนี้ทั้งสองกำลังถูกตัดสินเทียบกับค่ามัธยฐานสองค่าที่แตกต่างกันซึ่งดึงมาจากประชากรสองกลุ่มที่แตกต่างกัน นั่นคือจุดที่การเปรียบเทียบนี้ถูกตัดสินจริง ๆ

ผลิตภัณฑ์สองประเภทที่แตกต่างกันมาก

อ่านสเปกชีตทั้งสองแบบเทียบเคียงกัน สิ่งแรกที่สังเกตได้ก็คือมันแทบจะไม่จัดอยู่ในประเภทเดียวกันเลย

• พารามิเตอร์ — จากเอกสารของ StepFun เอง Step 5 Preview มีจำนวนรวมประมาณ 6 แสนล้าน โดยมี 2.7 หมื่นล้านที่ใช้งานต่อโทเค็น; ส่วน Nemotron 3 Ultra มีจำนวนรวม 5.5 แสนล้าน โดยมี 5.5 หมื่นล้านที่ใช้งาน ตามตัวเลขที่คณะกรรมการอิสระบันทึกไว้เทียบกับการกำหนดค่าของมัน

• สถาปัตยกรรม — StepFun ไม่ได้เผยแพร่คำอธิบายโครงสร้างภายในสำหรับ Step 5 Preview การ์ดของ NVIDIA ระบุว่าเป็นสถาปัตยกรรมแบบไฮบริด: เลเยอร์ Mamba-2 แบบสลับแทรก เลเยอร์แอตเทนชันที่เลือกบางส่วน การจัดวาง LatentMoE และเฮด Multi-Token Prediction

• หน้าต่างบริบท — 1M โทเคนในตารางข้อมูลจำเพาะของ Step 5 Preview โดยมีเอาต์พุตสูงสุด 64,000 โทเคน ซึ่งได้รับการบันทึกไว้โดย StepFun เช่นกัน Nemotron 3 Ultra ถูกบันทึกไว้ที่ 262,144 โทเคนโดยผู้ประเมินที่รันมัน; การ์ดผู้ขายโฆษณาสูงสุดถึง 1M ซึ่งสามารถเข้าถึงได้ผ่านการตั้งค่าการให้บริการ ไม่ใช่โดยค่าเริ่มต้น

• อินพุต — ข้อความ รูปภาพ และวิดีโอบน Step 5 Preview สูงสุด 60 รูปภาพต่อคำขอ และไฟล์ MP4 ที่มีขนาดต่ำกว่า 128MB เฉพาะข้อความบน Nemotron 3 Ultra

• การควบคุมการให้เหตุผล — การตั้งค่าระดับความพยายามต่ำ กลาง และสูงที่มีเอกสารกำกับไว้ทางฝั่ง StepFun; แฟล็กเทมเพลตแชตทางฝั่ง NVIDIA ที่เปิดหรือปิดร่องรอยการคิด

• น้ำหนักโมเดล — ยังไม่มีการเผยแพร่สำหรับ Step 5 Preview ซึ่งเป็น proprietary และใช้ผ่าน API เท่านั้น โดย StepFun ระบุว่าจะมีเช็กพอยต์ BF16 ตามมาในวันที่ 15 ตุลาคม 2026 ส่วน Nemotron 3 Ultra มีบิลด์ BF16 และ NVFP4 รวมถึงโมเดลรางวัล GenRM บน Hugging Face ภายใต้ OpenMDW-1.1

• ขั้นต่ำในการติดตั้งใช้งาน — ไม่ใช้กับโมเดลแบบ API; สำหรับโมเดลแบบเปิด ต้องใช้ GPU ระดับ B200 หรือ GB200 จำนวนแปดตัว หรือ H100 จำนวนสิบหกตัว ตามข้อกำหนดขั้นต่ำของผู้จำหน่าย

• ตารางอัตราค่าบริการ — อินพุต $1.00, $0.10 เมื่อเกิดแคชฮิต และเอาต์พุต $2.70 สำหรับ Step 5 Preview จากหน้าภาษาอังกฤษของ StepFun ประมาณ $0.60 สำหรับอินพุต, $0.16 เมื่อเกิดแคชฮิต และ $2.50 สำหรับเอาต์พุตของ Nemotron 3 Ultra และโปรดสังเกตให้ดีว่าคู่นั้นมาจากไหน: NVIDIA ไม่ได้เผยแพร่ตารางอัตราค่าบริการ ดังนั้นมันจึงเป็นราคาผู้ให้บริการที่สังเกตได้ซึ่งคณะกรรมการอิสระบันทึกไว้ ไม่ใช่ตัวเลขจากผู้ขาย

แถวที่คนส่วนใหญ่ถือว่าเป็นตัวชี้ขาดคือแถวแรก และมันเป็นแถวที่ให้ข้อมูลน้อยที่สุดในบรรดาแปดแถว ยอดรวมสองค่านั้นต่างกันไม่เกินเก้าเปอร์เซ็นต์ ขณะที่พารามิเตอร์ที่ใช้งานจริงต่างกันเป็นสองเท่า และพารามิเตอร์ที่ใช้งานจริงคือสิ่งที่กำหนดต้นทุนการคำนวณของแต่ละโทเค็นที่สร้างขึ้น ไม่มีตัวเลขใดคาดการณ์ช่องว่าง 21 จุดได้

มัธยฐานคือทางเลือกที่ตัดสินใจไว้ก่อนที่คุณจะอ่านคะแนน

คณะกรรมการอิสระไม่ได้ให้คะแนนโมเดลเทียบกับฟิลด์เดียว แต่มันจัดโมเดลเหล่านั้นลงบักเก็ต — และบักเก็ตที่โมเดลไปอยู่จะเปลี่ยนประโยคที่พิมพ์ไว้ใต้คะแนนของมัน โดยไม่เปลี่ยนคะแนน

Step 5 Preview ถูกจัดอยู่ในคลาสการให้เหตุผลทั่วไป ซึ่งบอร์ดนับว่ามี 227 โมเดล และค่ามัธยฐานของโมเดลที่เทียบเคียงได้คือ 26 Nemotron 3 Ultra ถูกจัดอยู่ในคลาส open-weights ซึ่งนับว่ามี 117 โมเดล โดยค่ามัธยฐานคือ 18 ดังนั้นบอร์ดเดียวกันจึงอธิบายว่า 44 ว่า "สูงกว่าค่าเฉลี่ยมาก" และ 23 ว่า "สูงกว่าค่าเฉลี่ย" และคำอธิบายทั้งสองก็เป็นจริง เพราะ 44 อยู่เหนือค่ามัธยฐานของตนถึงสิบแปดจุด และ 23 อยู่เหนือค่ามัธยฐานของตนห้าจุด

นี่ไม่ใช่กลลวง และไม่ใช่ว่ากระดานจัดอันดับไม่ยุติธรรม มันเป็นวิธีที่ถูกต้องในการนำเสนอโมเดลแบบเปิด — คุณเปรียบเทียบเช็กพอยต์ที่ดาวน์โหลดได้กับเช็กพอยต์ที่ดาวน์โหลดได้อื่น ๆ เพราะทีมที่ทำได้เพียงรับไฟล์ดาวน์โหลดมาใช้ไม่ได้กำลังเลือกจาก 227 รายการ แต่ก็หมายความว่าใครก็ตามที่อ้างว่า "สูงกว่าค่าเฉลี่ย" เกี่ยวกับ Nemotron 3 Ultra และ "สูงกว่าค่าเฉลี่ย" เกี่ยวกับ 44 กำลังเปรียบเทียบสองประโยคที่ต่างกันเข้าด้วยกัน ถ้าคุณต้องการตัวเลขเดียวสำหรับคู่นี้ ให้ใช้ดัชนีดิบและยอมรับช่องว่าง 21 จุด; ถ้าคุณต้องการคำตัดสิน ให้ใช้คลาสและยอมรับว่าคุณได้เลือกสนามของคุณเองแล้ว

สิ่งที่ฮาร์เนสหนึ่งวัดบนทั้งสอง

ตารางของผู้ขายไม่สามารถนำมาลบกันได้ เนื่องจาก StepFun และ NVIDIA รันชุดทดสอบที่แตกต่างกันในวันเวลาที่ต่างกัน และเอกสารของ NVIDIA ไม่ได้มีทุกเบนช์มาร์กที่ StepFun รายงาน จุดที่ซื่อสัตย์คือส่วนที่ทับซ้อน: สิ่งที่ผู้ประเมินรายเดียวรันกับทั้งสอง

บนดัชนี Artificial Analysis Intelligence Index จุดตัดนั้นอยู่ที่ 44 เทียบกับ 23 ในด้านค่าใช้จ่ายต่องานดัชนีที่ทำสำเร็จ อยู่ที่ $1.03 เทียบกับ $0.60 ในด้านความเร็วเอาต์พุต กลับกันอย่างชัดเจน: 87 โทเคนต่อวินาทีสำหรับ Step 5 Preview เทียบกับ 135.6 สำหรับ Nemotron 3 Ultra ดังนั้นโมเดลที่ได้คะแนนสูงกว่าเกือบสองเท่าคือโมเดลที่ตอบกลับช้ากว่า โดยใช้เวลาสร้างต่อโทเคนนานขึ้นประมาณครึ่งวินาที

แถวเดี่ยวที่คมชัดที่สุดคือ Terminal-Bench 4.0 โดย Step 5 Preview ได้คะแนน 33.3 เปอร์เซ็นต์ในชุดนั้น ส่วน Nemotron 3 Ultra ได้ 0.5 เปอร์เซ็นต์ นั่นไม่ใช่ผลจากการปัดเศษของฝั่งใดฝั่งหนึ่ง และไม่ใช่ช่องว่างเล็กๆ ที่ละเอียดอ่อน — บนชุดทดสอบเทอร์มินัลเชิงเอเจนต์ชุดนั้นโดยเฉพาะ โมเดลเรือธงแบบโอเพนเวตแทบจะไม่ปรากฏคะแนนเลย กับดักก็คือกระดานเดียวกันยังแสดงโมเดลเดียวกันที่ 53.9 เปอร์เซ็นต์บน Terminal-Bench 2.1 เบนช์มาร์กสองตัวที่มีชื่อเกือบเหมือนกัน สองรุ่นที่ต่างกันของตระกูลงานเดียวกัน และโมเดลหนึ่งอยู่ที่ 53.9 บนตัวเก่าและ 0.5 บนตัวใหม่ ถ้าคุณเคยมีคนยกตัวเลข Nemotron ในช่วงห้าสิบมาอ้างกับคุณ นั่นแหละคือที่มาของมัน และมันไม่ใช่ชุดทดสอบปัจจุบัน

ความสอดคล้องหนึ่งกรณีสมควรได้รับการกล่าวถึงก็เพราะมันหายาก การ์ดของ NVIDIA เองอ้างว่าได้ 87.0 เปอร์เซ็นต์บน GPQA โดยไม่ใช้เครื่องมือ ส่วนการรันทดสอบอิสระวัดได้ 86.7 เปอร์เซ็นต์ ตัวเลขจากผู้ขายกับตัวเลขจากภายนอกที่ห่างกันเพียงสามในสิบของจุด คือลักษณะที่ตารางการประเมินที่น่าเชื่อถือควรเป็น และมันทำให้ 0.5 เปอร์เซ็นต์บน Terminal-Bench 4.0 ยอมรับได้ง่ายขึ้นว่าเป็นของจริง มากกว่าจะเป็นข้อผิดพลาดของผู้ประเมิน

เงินจริงๆ ไปไหนในการรันอินเด็กซ์

ราคาต่อโทเคนคาดการณ์ค่าใช้จ่ายของเวิร์กโหลดได้น้อยมาก และคู่นี้ก็แสดงให้เห็นประเด็นดังกล่าวได้ดีกว่าคู่อื่น ๆ ส่วนใหญ่ บอร์ดเผยแพร่การแจกแจงต้นทุนสำหรับการรันดัชนีแบบเต็มของแต่ละโมเดล และสำหรับทั้งสองโมเดลนี้ รายการต้นทุนที่มีสัดส่วนสูงสุดไม่ใช่การสร้างคำตอบ

ค่าใช้จ่าย $1.03 ต่องานของ Step 5 Preview แบ่งเป็น $0.85 สำหรับอินพุต และ $0.17 สำหรับเอาต์พุต ภายในตัวเลขอินพุต $0.62 คือการอ่านแคช $0.22 คือการเขียนแคช และมีเพียง $0.014 เท่านั้นที่เป็นอินพุตใหม่ที่ยังไม่ผ่านแคช ภายในตัวเลขเอาต์พุต $0.12 คือร่องรอยการให้เหตุผล และ $0.06 คือคำตอบสุดท้าย

ค่าใช้จ่าย $0.60 ต่องานของ Nemotron 3 Ultra แยกออกเป็น $0.53 สำหรับอินพุตและ $0.07 สำหรับเอาต์พุต และองค์ประกอบภายในบรรทัดอินพุตเกือบจะกลับกันอย่างสมบูรณ์ — $0.48 สำหรับการเขียนแคช เทียบกับเพียง $0.04 สำหรับการอ่านแคช

ได้ข้อสรุปสองประการด้วยกัน ประการแรกคือ ในการประเมินแบบระยะยาวที่มีการนำคำนำหน้า (prefix) มาใช้ซ้ำในปริมาณมาก โดยประมาณแปดสิบเปอร์เซ็นต์ของค่าใช้จ่ายที่คุณจ่ายไปนั้นอยู่ฝั่งอินพุตของบัญชี ซึ่งทำให้อัตราการเข้าถึงแคช (cache hit rate) และวินัยในการจัดการบริบท (context discipline) เป็นตัวเลขที่คุณควรปรับให้เหมาะที่สุด แทนที่จะเป็นความยาวของเอาต์พุต ประการที่สองคือ สองโมเดลนี้ไปถึงค่าบริการของตนด้วยวิธีที่ต่างกัน: Step 5 Preview ต้องจ่ายเพื่ออ่านคำนำหน้าที่ใช้ร่วมกันขนาดใหญ่ซ้ำอีกครั้ง ในขณะที่ Nemotron 3 Ultra ต้องจ่ายเพื่อเขียนเนื้อหาที่แตกต่างกันลงในแคชตั้งแต่แรก ต้นทุนที่ดูเผิน ๆ ใกล้เคียงกัน แต่เป็นใบแจ้งหนี้สองแบบที่แตกต่างกัน — และถ้าลักษณะงานของคุณดูเหมือนรูปแบบใดรูปแบบหนึ่งมากกว่าอีกแบบ การจัดลำดับที่ $1.03 กับ $0.60 ก็อาจพลิกกลับได้

ตัวเลขความยืดยาวอธิบายส่วนที่เหลือของบรรทัดเอาต์พุต Step 5 Preview สร้างโทเคนเอาต์พุตประมาณ 160 ล้านโทเคนทั่วทั้งชุดดัชนี เทียบกับค่ามัธยฐานที่ 82 ล้าน ซึ่งบอร์ดระบุอย่างตรงไปตรงมาว่ายืดยาวมาก Nemotron 3 Ultra สร้าง 110 ล้าน เทียบกับค่ามัธยฐานที่ 140 ล้าน ซึ่งบอร์ดเรียกว่าค่อนข้างกระชับ โมเดลที่ถูกกว่าคือตัวที่กระชับ และมันกระชับในทางที่มีผลกับบิล

สิ่งที่การดาวน์โหลดให้มา และสิ่งที่ต้องจ่ายเพื่อเก็บไว้

ราคาของ Nemotron 3 Ultra ไม่ใช่ $2.50 ต่อหนึ่งล้านโทเคนเอาต์พุต ถ้าคุณรับเช็กพอยต์ไป นั่นคือราคาของการเช่าการดีพลอยของมันที่คนอื่นทำไว้ พอรับไฟล์ดาวน์โหลดไป คุณก็ได้ซื้อต้นทุนอีกชุดหนึ่งและสิทธิ์อีกชุดหนึ่งที่แตกต่างออกไป

สิทธิ์เหล่านี้เป็นรูปธรรม และเป็นส่วนที่โมเดลแบบ API-only ไม่สามารถเทียบได้ไม่ว่าจะในราคาใด OpenMDW-1.1 มาพร้อมกับเวท และ NVIDIA เผยแพร่ชุดข้อมูลก่อนการฝึกและหลังการฝึก รวมถึงสูตรการฝึกไปพร้อมกัน มีบิลด์ NVFP4 ที่มีขนาดประมาณครึ่งหนึ่งสำหรับโมเดลเดียวกัน และเวท Ultra ถูกฝึกมาก่อนด้วยสูตร NVFP4 แทนที่จะทำควอนไทซ์ภายหลัง — ซึ่งเป็นเหตุผลว่าทำไมบิลด์เล็กจึงเป็นอาร์ติแฟกต์ระดับเฟิร์สคลาสบนการ์ด ไม่ใช่การทดลองของชุมชน จุดยืนทางการค้าระบุไว้อย่างชัดเจน: พร้อมสำหรับการใช้งานเชิงพาณิชย์และไม่ใช่เชิงพาณิชย์

ค่าใช้จ่ายก็เป็นรูปธรรมพอกัน การติดตั้งใช้งานขั้นต่ำคือ GPU ระดับ B200 จำนวนแปดตัว หรือ H100 จำนวนสิบหกตัว และนั่นคือขั้นต่ำที่สุดที่การ์ดระบุไว้ ไม่ใช่ข้อเสนอแนะ หน้าต่างบริบทที่คุณได้จริงนั้นขึ้นอยู่กับวิธีที่คุณตั้งค่าการให้บริการ โดยค่าเริ่มต้นคือ 256K และ 1M จะอยู่หลังการตั้งค่าที่ต้องเปิดใช้อย่างชัดเจน ทีมที่ไม่สามารถจัดสรรแร็กได้หนึ่งแร็กไม่ได้กำลังเลือกระหว่างสองโมเดลนี้ที่ราคาอินพุต $1.00 กับ $0.60 แต่กำลังเลือกระหว่างโมเดลหนึ่งกับใบสั่งซื้อหนึ่งใบ

มีอีกมุมหนึ่งของการเปรียบเทียบนี้ที่โมเดลโอเพนซอร์สชนะในแกนที่ผู้คนบอกว่าพวกเขาสนใจแต่แทบไม่เคยคิดเป็นราคา นั่นคือการพึ่งพา Step 5 Preview คือ endpoint ที่คุณเรียกใช้และเป็นผู้ขายที่คุณไว้วางใจ โดยมี checkpoint ที่ถูกสัญญาไว้มากกว่าจะถูกส่งมอบจริง หาก StepFun ปรับตารางราคา เข้มงวดขีดจำกัด เลิกใช้ ID นั้น หรือมีสัปดาห์ที่ย่ำแย่ คันโยกเดียวที่คุณมีคือการจัดการข้อผิดพลาดของคุณเอง weights ของ Nemotron 3 Ultra อยู่ในดิสก์ในคลัสเตอร์ของใครบางคนแล้ว และนั่นมีค่าจริงบางอย่าง แม้ในขณะที่โมเดลเดียวกันกำลังแพ้อยู่ถึงยี่สิบเอ็ดคะแนนดัชนี

ควรทำความเข้าใจให้ชัดเจนว่า “สัญญาไว้” หมายความว่าอย่างไรในอีกฝ่าย เพราะภาพรวมยุ่งเหยิงกว่าที่ไม่ว่าฝ่ายใดจะยอมรับ มีมิเรอร์ของบิลด์ BF16 จากบุคคลที่สามหลายแห่งปรากฏบน Hugging Face เมื่อวันที่ 20 กันยายน ซึ่งเป็นวันที่ API เปิดตัว โดยบางแห่งมีไฟล์ safetensors ขนาดเกินหนึ่งเทระไบต์ไปมาก สิ่งเหล่านั้นเป็นการอัปโหลดซ้ำโดยชุมชน ไม่ใช่การเปิดตัวจากผู้ขาย และ StepFun ไม่ได้เผยแพร่ประกาศเปิดน้ำหนักโมเดลควบคู่ไปกับสิ่งเหล่านั้น สิ่งที่สิ่งเหล่านั้นยืนยันก็คือ น้ำหนักโมเดลกำลังหมุนเวียนอยู่ และเช็กพอยต์วันที่ 15 ตุลาคมที่สัญญาไว้จะเป็นเพียงการทำให้เป็นทางการมากกว่าการเปิดเผย

ตัวเลขที่เปลี่ยนไปในขณะที่เรากำลังอ่านมันอยู่

ตัวเลขหนึ่งในชิ้นงานนี้เปลี่ยนไประหว่างการอ่านหน้าเดียวกันสองครั้ง และมันคุ้มค่าที่จะเอ่ยถึง เพราะนั่นคือวิธีที่การเปรียบเทียบค่อย ๆ กลายเป็นข้อมูลล้าสมัยอย่างเงียบ ๆ

คณะกรรมการอิสระแสดงต้นทุนที่ $0.71 ต่องานดัชนีสำหรับ Step 5 Preview ใน coverage ลงวันที่ 9 ตุลาคม 2026 เมื่ออ่านอีกครั้งในวันที่ 10 ตุลาคม หน้าเดียวกันระบุว่า $1.03 ไม่มีอะไรเปลี่ยนแปลงเกี่ยวกับโมเดลในช่วงเวลาดังกล่าว เพราะไม่มีอะไรสามารถเปลี่ยนแปลงน้ำหนักของโมเดลแบบ API-only ได้ภายในชั่วข้ามคืน สิ่งที่เปลี่ยนไปคือการบัญชีของการประเมิน: เมื่อราคาแคชของผู้ให้บริการเปลี่ยนแปลง เมื่อผู้ประเมินปรับสมมติฐานการอ่านแคชของตน หรือเมื่อการรันถูกคำนวณใหม่กับสัดส่วนโทเค็นที่ต่างออกไป ตัวเลขต่องานก็เปลี่ยน แต่คะแนนดัชนีไม่เปลี่ยน

ดังนั้น จงมองต้นทุนต่องานเป็นตัวเลขสดที่มีวันที่ประทับกำกับ มากกว่าที่จะเป็นคุณสมบัติของโมเดล ทุกตัวเลขต่องานในบทความนี้คือค่าที่อ่าน ณ วันที่ 10 ตุลาคม และถูกระบุว่าเป็นเช่นนั้น หากคุณกำลังสร้างงบประมาณจากหน้านี้ จงสร้างจากตัวเลขที่คุณดึงมาเองในวันที่คุณตัดสินใจ และหากคุณกำลังเปรียบเทียบบทความสองชิ้นจากต่างสัปดาห์ จงตรวจสอบวันที่บันทึกข้อมูลก่อนที่คุณจะสรุปว่าโมเดลถูกลง

อันไหนที่คุณจะเรียกจริงๆ

พูดส่วนที่ไม่สบายใจก่อนเลย: OrcaRouter ไม่ได้ส่งต่อ (route) โมเดลทั้งสองนี้เลย Step 5 Preview เข้าถึงได้ผ่าน API ของ StepFun เองและแพลตฟอร์มบุคคลที่สามจำนวนหนึ่ง ส่วน Nemotron 3 Ultra ให้บริการจาก endpoint ของ NVIDIA เองและจากผู้ให้บริการหลายราย และคุณสามารถตรวจสอบข้อกล่าวอ้างทั้งสองนี้กับแคตตาล็อกของเราได้ในนาทีเดียวกับที่คุณอ่านมัน

สิ่งที่เหลืออยู่คือรูปร่างของการพึ่งพา มากกว่าการเลือกโมเดล และนี่คือจุดเดียวที่เลเยอร์การจัดเส้นทางคุ้มค่าที่จะมีไว้ในกรณีนี้ พรีวิวแบบ API-only บนเส้นทางของผู้ให้บริการรายเดียวคือรูปแบบที่ช่วงเวลาที่ผู้ให้บริการมีปัญหากลายเป็นการล่มของคุณโดยตรง และประกันราคาถูกก็คือคอนโทรลเพลนที่สามารถสลับคำขอไปยังตัวสำรองที่ผ่านคุณสมบัติได้ทันทีที่เส้นทางของผู้ให้บริการเริ่มมีปัญหา นั่นคือสิ่งที่การสลับระบบสำรองอัตโนมัติ (automatic failover)มีไว้สำหรับ: ไม่ใช่ในฐานะสิ่งทดแทน Step 5 Preview แต่เป็นสิ่งที่คุณวางไว้ข้างหน้าโมเดลที่คุณเรียกใช้ได้จริง เพื่อให้ปลายทางเฉพาะของผู้ให้บริการรายใดรายหนึ่งไม่ใช่ทางเดียวสู่โปรดักชัน แค็ตตาล็อกเดียวกันที่ทำหน้าที่นั้นมีโมเดลกว่า 200 รายการอยู่เบื้องหลังคีย์เดียวและบิลเดียว โดยส่งผ่านราคาตามรายการของผู้ให้บริการที่มาร์กอัป 0 เปอร์เซ็นต์ — ซึ่งเป็นอีกครึ่งหนึ่งของข้อโต้แย้ง เพราะการเปลี่ยนแปลงเรตการ์ดที่ใดก็ตามในต้นน้ำจะมีผลทางฝั่งเราในวันเดียวกัน แทนที่จะรอถึงการต่อสัญญาครั้งถัดไป

ถ้าทั้งสองโมเดลไม่ใช่ตัวที่คุณจะเรียกใช้ ฉบับย่อก็เป็นแบบนี้ เลือก Step 5 Preview เมื่อคุณต้องการคะแนน อินพุตวิดีโอและรูปภาพ และส่วนลดแคช 90 เปอร์เซ็นต์ และยอมรับว่าคุณกำลังเช่าพรีวิวที่ไม่มีใบอนุญาตสำหรับเวต และเช็กพอยต์เดือนตุลาคมที่คุณยังไม่เคยเห็น เลือก Nemotron 3 Ultra เมื่อเวตสำคัญกว่าคะแนน — สำหรับข้อจำกัดการติดตั้งภายในองค์กร สำหรับการปรับแต่งละเอียด สำหรับใบอนุญาตที่คุณอ่านได้ — และจัดงบสำหรับแร็กก่อนที่จะจัดงบสำหรับโทเคน เพราะที่ $0.60 ต่ออินพุตหนึ่งล้านโทเคน การติดตั้งขนาด 550 พันล้านพารามิเตอร์จะถูกก็ต่อเมื่อมีคนอื่นจ่ายค่า GPU อยู่แล้ว

สิ่งที่ต้องจับตาคือวันที่ 15 ตุลาคม หาก StepFun เผยแพร่เช็กพอยต์ BF16 ที่บริษัทได้สัญญาไว้ ความไม่สมมาตรหลักของบทความนี้ — ที่ว่าในสองสิ่งนี้มีเพียงสิ่งเดียวเท่านั้นที่ดาวน์โหลดได้ — ก็จะไม่เป็นจริงอีกต่อไป และคะแนนดัชนี 21 คะแนนก็จะยากขึ้นอย่างมากที่จะโต้แย้งให้หมดไป หากวันเวลานั้นเลื่อนออกไป ข้อสนับสนุนสำหรับโมเดลแบบเปิดเผยน้ำหนักก็จะแข็งแกร่งขึ้นโดยปริยาย ซึ่งเป็นวิธีที่แปลกประหลาดสำหรับช่องว่างความสามารถที่จะปิดลง และเป็นวิธีที่พบเห็นได้ทั่วไปมาก