Step 5 Preview สามารถโฮสต์เองได้ตั้งแต่วันแรก: vLLM และ SGLang ต่างก็มีเส้นทางการให้บริการสำหรับ 600B MoE ของ StepFun

Step 5 Preview ไม่ใช่ของใหม่ในเช้าวันที่ 15 ตุลาคม 2026 โมเดลเรือธงขนาด 600 พันล้านพารามิเตอร์ของ StepFun สามารถเรียกใช้ผ่าน API ของผู้พัฒนาเองได้ตั้งแต่ 20 กันยายน 2026 และผู้ประเมินอิสระอย่าง Artificial Analysis ได้ให้คะแนนมันมาตั้งแต่ 18 กันยายน สิ่งที่ใหม่ในเช้าวันนั้นมีขอบเขตแคบกว่าและมีประโยชน์กว่าอย่างมาก: สแต็กการทำอินเฟอเรนซ์กระแสหลักสองตัวได้เผยแพร่แนวทางของตนเองสำหรับการรันมันบนฮาร์ดแวร์ที่คุณเป็นเจ้าของหรือเช่า vLLM เปิด draft pull request เพื่อเพิ่ม Step 5 Preview — 129 ไฟล์, +16,996 บรรทัด — พร้อมสูตรที่เกี่ยวข้องและอิมเมจเฉพาะ vllm/vllm-openai:step-5-preview ซึ่งขึ้น Docker Hub เมื่อ 00:51 UTC SGLang ได้ merge หน้าคุกบุ๊กที่มีสูตรการติดตั้งใช้งานสำหรับ Blackwell และ Hopper โดย pull request ที่รองรับโมเดลซึ่งอยู่เบื้องหลังถูกเปิดในชั่วโมงเดียวกัน จนถึงเช้าวันนั้น วิธีเดียวที่จะนำ Step 5 Preview ไปยัง GPU ของคุณเองได้คือการอัปโหลดเช็กพอยต์ซ้ำโดยชุมชน ซึ่งไม่มีใครให้สิทธิ์คุณในการแจกจ่ายซ้ำ

ดังนั้นพาดหัวข่าวที่ตรงไปตรงมาจึงไม่ใช่ “StepFun เปิดตัวโมเดล” StepFun เปิดตัวโมเดลนี้ในเดือนกันยายน และวันที่ของโมเดลเองก็ควรอยู่ในประโยคแรกของทุกชิ้นงานที่เขียนเกี่ยวกับมัน พาดหัวข่าวที่ตรงไปตรงมาคือ ณ วันที่ 15 ตุลาคม 2026 คำถามเรื่องการให้บริการมีคำสั่งอยู่ในคำตอบ

จริง ๆ แล้วมีอะไรเปลี่ยนแปลงไปเมื่อวันที่ 15 ตุลาคม

เอกสารสี่ชิ้น ล้วนลงวันที่ในวันเดียวกัน และเป็นสิ่งที่ควรค่าแก่การแยกออกจากกัน เพราะมันแสดงถึงระดับของความมุ่งมั่นที่แตกต่างกัน

• การรองรับโมเดล vLLM — pull request #61727 ชื่อ "Add Step-5 Preview support" เปิดโดย jeejeelee เมื่อ 01:18 UTC และมีสถานะเป็นdraft ซึ่งเป็น commit เดียวแบบ squashed ที่แตะ 129 ไฟล์ และยังไม่ถูก merge PR แบบ draft คือผู้เขียนที่ขอให้รีวิว ไม่ใช่คำสัญญาจากผู้ดูแล

• สูตร vLLM — พูลรีเควสต์ #1122 ใน vllm-project/recipes เปิดเมื่อสองนาทีก่อนเวลา 01:16 UTC และยังเปิดอยู่ เพิ่ม models/stepfun-ai/Step-5-Preview.yaml พร้อมเวอร์ชันเริ่มต้น FP8 และเวอร์ชัน NVFP4 นี่คือเอกสารที่มีตัวเลขอยู่ในนั้น และเป็นเอกสารที่บทความนี้ส่วนใหญ่อ้างอิงถึง

• อิมเมจคอนเทนเนอร์ — vllm/vllm-openai:step-5-preview ซึ่งพุชเมื่อ 2026-10-15 เวลา 00:51 UTC เป็น manifest แบบสองสถาปัตยกรรม: linux/amd64 ขนาด 8.56 GB เมื่อบีบอัด และ linux/arm64 ขนาด 9.58 GB พร้อมกับ step-5-preview-x86_64-cu130 และ step-5-preview-arm64-cu130 อยู่เคียงข้างกัน อิมเมจที่เผยแพร่แล้วเป็นสัญญาณที่แรงกว่า PR ที่เปิดอยู่: มันหมายความว่ามีใครบางคนสร้างสิ่งนี้และพุชมันไปแล้ว ไม่ว่าการรีวิวจะเสร็จเมื่อใด

• SGLang cookbook — pull request #44357 "Add Step 5 Preview cookbook" ถูก merge เข้า main เมื่อ 01:21 UTC หลังจากผ่านการรีวิว โดยเพิ่มหน้า deployment ที่เอกสาร SGLang ให้บริการอยู่ในตอนนี้ที่ docs.sglang.ai/cookbook/autoregressive/StepFun/Step-5-Preview และติดแท็กเป็น NEW PR สนับสนุนที่มาคู่กัน #44356 ยังเปิดอยู่ หน้าคู่มือระบุไว้อย่างชัดเจนว่า "การรองรับ Step 5 Preview ยังไม่ถูกปล่อยใน SGLang release ใด ๆ ดังนั้นการ pip install sglang แบบปกติจึงไม่สามารถให้บริการมันได้" — ซึ่งเป็นประโยคที่สำคัญที่สุดเพียงหนึ่งเดียวบนหน้านั้น

อ่านทั้งสี่สิ่งนี้รวมกัน แล้วคุณจะได้ภาพที่สอดคล้องกัน: StepFun กำลังตั้งระบบให้บริการแบบเปิดสำหรับโมเดลที่ API เปิดใช้งานมาเกือบหนึ่งเดือนแล้ว ไม่มีอะไรตรงนี้ที่เป็นประกาศเปิดตัว และไม่มีอะไรตรงนี้ที่เป็นการทดสอบประสิทธิภาพ มันคือโครงสร้างพื้นฐานที่กำหนดว่าโมเดลนี้เป็นสิ่งที่คุณรันได้หรือไม่

Step 5 Preview คืออะไร ในแง่ที่วิศวกรผู้ให้บริการถามถึงเป็นอันดับแรก

เอกสารภาษาอังกฤษของ StepFun เองมีรายละเอียดด้านสถาปัตยกรรมค่อนข้างน้อย — มีการเผยแพร่ model ID, หน้าต่างบริบทขนาด 1M โทเคน, อินพุตข้อความ/รูปภาพ/วิดีโอ, เอาต์พุตข้อความเท่านั้น, เอาต์พุตสูงสุด 64k โทเคน, การรองรับ JSON Schema, prompt caching และตัวควบคุม reasoning_effort ที่มีค่าตั้ง low, medium และ high แต่ไม่ได้เผยแพร่จำนวนพารามิเตอร์ ตัวเลขสถาปัตยกรรมด้านล่างมาจากเอกสารด้านการให้บริการของผู้พัฒนาเองสองฉบับที่เผยแพร่ในวันนี้ ซึ่งจำเป็นต้องอ่าน checkpoint เพื่อเขียนตัวโหลด และเอกสารทั้งสองฉบับสอดคล้องกัน

• ขนาด — พารามิเตอร์ทั้งหมด 600B โดยมี 27B ที่แอ็กทีฟต่อโทเคน เป็นการออกแบบ sparse mixture-of-experts สูตรของ vLLM ระบุไว้อย่างเป็นอิสระว่า 604B "นับจากรูปร่างเทนเซอร์ของเช็กพอยต์" และตัวเลขทั้งสองเป็นตัวเลขเดียวกันที่ถูกปัดเศษต่างกัน

• ความลึกและการจัดเส้นทาง — 92 เลเยอร์ แต่ละเลเยอร์ MoE จะจัดเส้นทางโทเคนไปยังผู้เชี่ยวชาญ 8 จาก 352 ราย บวกกับผู้เชี่ยวชาญที่ใช้ร่วมกันอีกหนึ่งราย จำนวนผู้เชี่ยวชาญนี้เป็นเหตุผลที่ PR ของ vLLM มีการเปลี่ยนแปลงเคอร์เนล router-GEMM: โดยเพิ่ม (4096, 352) เป็นคู่ (hidden_dim, num_experts) ที่รองรับ ควบคู่กับ (3072, 256) และ (6144, 128) ที่มีอยู่เดิม

• Attention — รูปแบบซ้ำสี่ชั้น: สามชั้นแบบ sliding-window ที่ให้ความสนใจกับ 512 โทเคนล่าสุด จากนั้นเป็นหนึ่งชั้นแบบ sparse attention ชั้น sparse จะแบ่งประวัติ KV ออกเป็นภูมิภาคขนาด 8 โทเคน ให้คะแนนสรุปของแต่ละภูมิภาคด้วย indexer น้ำหนักเบา และเลือกภูมิภาคย้อนหลังได้สูงสุด 512 ภูมิภาคเพื่อให้ความสนใจในระดับโทเคน SGLang เรียกสิ่งนี้ว่า region-sparse attention ผลในทางปฏิบัติคือบริบทขนาด 1M โทเคนยังคงมีค่าใช้จ่ายด้านหน่วยความจำที่จ่ายไหว

• การถอดรหัสแบบคาดการณ์ล่วงหน้า — สามเลเยอร์ MTP “MTP สามเลเยอร์” ของ SGLang และ --spec-method mtp --spec-tokens 3 ของสูตร vLLM ต่างเป็นข้อกล่าวอ้างเดียวกันจากสองทิศทาง

• ความแม่นยำ — น้ำหนักของ routed-expert เป็น FP8 (E4M3, สเกลบล็อก 128×128) ยกเว้นในเลเยอร์ MoE สามเลเยอร์สุดท้าย ซึ่งยังคงเป็น BF16 เช็กพอยต์ NVFP4 แยกต่างหากชื่อ stepfun-ai/Step-5-Preview-NVFP4 ถูกอ้างอิงโดยสูตรของ vLLM ในฐานะตัวแปรหนึ่ง ทั้งสองสแตกปล่อยให้การแยกเลเยอร์แบบความแม่นยำผสมคงอยู่เหมือนเดิม แทนที่จะอัปแคสต์มัน

• พฤติกรรมการให้เหตุผล — โมเดลจะคิดก่อนตอบเสมอ reasoning_effort กำหนดความลึก และ ค่าเริ่มต้นเป็น highเมื่อไม่ได้ตั้งค่า ซึ่งเป็นค่าที่มีแนวโน้มจะทำให้คุณประหลาดใจมากที่สุดเมื่อมีงบด้านความหน่วง การสุ่มที่แนะนำของ StepFun คือ temperature=1.0, top_p=0.95, top_k=0 และคู่มือของ SGLang ระบุว่าค่าเหล่านี้เป็นข้อมูลประกอบมากกว่าที่จะนำไปฮาร์ดโค้ด

ระดับฮาร์ดแวร์ขั้นต่ำคือส่วนที่ตัดสินว่าสิ่งนี้สำคัญกับคุณหรือไม่

นี่คือจุดที่สูตรของ vLLM พิสูจน์คุณค่าของตัวเอง เพราะไม่มีใครอื่นเผยแพร่ค่าขั้นต่ำแบบตายตัวไว้เลย

• ขั้นต่ำของ FP8 — VRAM 773 GB โดยมี GPU ขั้นต่ำ 4 ตัว และเป้าหมายฮาร์ดแวร์เริ่มต้นคือ B300 มีการระบุคอนฟิกูเรชันที่ผ่านการตรวจสอบแล้วสำหรับ H200, B300 และ GB300 บน B300 สี่ตัว สูตรนี้มีเลย์เอาต์ TP4, TEP4 หรือ DEP4; น้ำหนัก FP8 ไม่พอดีกับ H200 สี่ตัว ดังนั้นเส้นทาง Hopper จึงต้องใช้ GPU แปดตัว

• ค่าต่ำสุดของ NVFP4 — VRAM 473 GB สำหรับเช็กพอยต์แบบควอนไทซ์ ต่ำกว่า FP8 อยู่ 300 GB สิ่งที่ต้องแลกมาคือบริบท: ตัวแปร NVFP4 ทำงานด้วย --max-model-len 320000 ดังนั้นคุณต้องสละโทเค็นประมาณ 724,000 จาก 1,048,576 ที่โฆษณาไว้ เพื่อให้พอดีกับพื้นที่หน่วยความจำที่เล็กลง

• Expert parallelism — บน Blackwell เลย์เอาต์ TEP และ DEP จะถูกกำหนดเส้นทางผ่าน MegaMoE ด้วย --moe-backend deep_gemm_mega_moe; ส่วนเลย์เอาต์ tensor-parallel แท้ ๆ จงใจไม่ทำเช่นนั้น เพราะ MegaMoE จำเป็นต้องมี expert parallelism จึงจะมีอะไรให้แยก บน H200 สูตรนี้จะถอยกลับไปใช้ Triton MoE สำหรับทุกเลเยอร์ expert รวมถึงเลเยอร์ BF16 ทั้งสาม เพราะเคอร์เนล TRT-LLM MoE มีเฉพาะบน Blackwell

• ต้นทุนการเริ่มต้น — คู่มือ SGLang ระบุว่าการเริ่มครั้งแรกใช้เวลาประมาณ 15 นาทีสำหรับการคอมไพล์ FlashInfer บน B300 และลดลงเหลือประมาณ 6 นาทีในการเริ่มครั้งถัดไป พร้อมแนะนำให้คุณคง FLASHINFER_WORKSPACE_BASE และ ~/.cache/sglang ไว้ข้ามการรีสตาร์ต หากคุณทำ autoscaling จากศูนย์ นั่นคือพื้นขั้นต่ำของ cold start ไม่ใช่ความคลาดเคลื่อนจากการปัดเศษ

• สิ่งที่ยังไม่รองรับ — recipe ของ vLLM ระบุว่าทั้ง Simple และ LMCache KV offload ว่าไม่รองรับสำหรับโมเดลนี้ ส่วนเส้นทาง HiCache ของ SGLang มีเอกสารระบุว่าใช้งานได้ใน cookbook ซึ่งเป็นความแตกต่างด้านความสามารถจริงระหว่างทั้งสองสแตก ณ สถานะปัจจุบัน

ความหมายในทางปฏิบัติ: Step 5 Preview คือการติดตั้งใช้งานตัวเร่งความเร็ว 4 ถึง 8 ตัว ไม่ใช่โปรเจกต์งานอดิเรกแบบโหนดเดียว ถ้าประโยคนี้ทำให้คุณหมดความสนใจ ส่วน API ด้านล่างคือเนื้อหาที่เหลือของบทความ

การเรียกใช้งานมัน และค่าใช้จ่ายของแต่ละโทเคน

หน้าค่าราคาของ StepFun เองระบุว่า step-5-preview อยู่ที่ 1.00 ดอลลาร์ต่อโทเค็นอินพุตหนึ่งล้านโทเค็นเมื่อแคชมิส, 0.10 ดอลลาร์เมื่อแคชฮิต และ 2.70 ดอลลาร์ต่อโทเค็นเอาต์พุตหนึ่งล้านโทเค็น — ตัวเลขจากผู้ขายเอง ไม่ใช่จากตัวแทนจำหน่าย รายละเอียดสองอย่างเปลี่ยนการคำนวณ อย่างแรก การคิดราคาอินพุตแบบแคชมิส รวมการเขียนเนื้อหาใหม่ลงในแคช ดังนั้นการประมวลผลรอบแรกกับเอกสารยาวจะคิดราคาเพียงครั้งเดียวและถูกกว่าในรอบที่สอง อย่างที่สอง โทเค็นเอาต์พุตรวมการใช้เหตุผลของโมเดลตลอดจนคำตอบ ซึ่งสำคัญตรงนี้มากกว่าโมเดลที่ตอบโดยตรง

Artificial Analysis ผู้ประเมินที่เป็นกลางรายเดียวที่มีผลการรันเผยแพร่ ให้คะแนน Step 5 Preview ที่ Intelligence Index 43.7 — แสดงเป็น 44 — ด้วยความเร็วเอาต์พุตมัธยฐาน 88.5 โทเคนต่อวินาที และเวลาถึงโทเคนคำตอบแรก 24.7 วินาที เทียบกับโทเคนการคิดวิเคราะห์ประมาณ 2,000 โทเคนต่อการตอบหนึ่งครั้ง ตัวเลขความเร็วนับว่าดี แต่ความหน่วงของโทเคนคำตอบไม่ดีเลย: โมเดลที่คิดก่อนเสมอเหมาะกับงานแบบแบตช์และงานแบบเอเจนต์ มากกว่าการเติมข้อความอัตโนมัติแบบโต้ตอบ ซึ่งเป็นตำแหน่งที่ StepFun วางโมเดลนี้ไว้อย่างแม่นยำพอดี นี่คือตัวเลขอิสระบนชุดทดสอบของบุคคลที่สาม และเป็นตัวเลขชุดเดียวที่มีให้ใช้ — StepFun ไม่เผยแพร่ตารางเกณฑ์มาตรฐานสำหรับโมเดลนี้เลยแม้แต่ตารางเดียว

ในส่วนที่เรื่องราวยังนุ่มนวล และมันไม่ได้นุ่มนวลในแบบเดียวกันทั้งหมด

มีสามเรื่องที่ควรค่าแก่การชี้ให้เห็นมากกว่าจะกลบเกลื่อน เพราะแต่ละเรื่องมีอายุขัยต่างกัน

ประการแรกคือเช็คพอยต์ของผู้ขายสามารถดาวน์โหลดได้จริงหรือไม่ เอกสารการให้บริการของเจ้าของเองทั้งสองฉบับอ้างอิง stepfun-ai/Step-5-Preview และ stepfun-ai/Step-5-Preview-NVFP4 เป็นเช็คพอยต์มาตรฐาน และคู่มือของ SGLang ลิงก์ไปยัง LICENSE.txt ภายใต้ StepFun Model License 1.0 สิ่งที่หน้านี้ทำไม่ได้คือยืนยันจาก Hugging Face ว่า repository เหล่านั้นเปิดให้อ่านแบบสาธารณะในปัจจุบัน: API ของ Hugging Face ส่งคืน 401 Invalid username or password แบบเดียวกันสำหรับ stepfun-ai/Step-5-Preview เช่นเดียวกับที่ส่งคืนสำหรับ repository id ที่ไม่เคยมีอยู่ ดังนั้นการตอบสนองจึงไม่สามารถแยกแยะโมเดลแบบ gated ออกจากโมเดลที่ไม่มีอยู่ได้ คำแนะนำของเรซิพีเอง — "ใช้ hf auth login หากเช็คพอยต์ต้องมีการยืนยันตัวตน" — เป็นข้อความเดียวเกี่ยวกับการเข้าถึง และเป็นแบบมีเงื่อนไข ให้ถือว่าการดาวน์โหลดนี้ได้รับการอ้างอิงโดยผู้ที่เขียนตัวโหลด และยืนยันการเข้าถึงด้วยตัวคุณเองก่อนที่คุณจะวางแผนเปิดใช้งานโดยอิงจากมัน

อย่างที่สองคือวันที่เปิดตัว ซึ่งสามแหล่งให้ไว้สามแบบ: เอกสารประกาศของ StepFun ระบุว่าการเปิดตัวคือวันที่ 20 กันยายน 2026; Artificial Analysis ระบุวันที่ของโมเดลเป็น 18 กันยายน 2026 ในเมทาดาทาของตนเอง และแสดงข้อความ "Released September 2026"; ส่วนตัวรวบรวมเมทาดาทาของโมเดลที่เครื่องมือส่วนใหญ่อ่านนั้นมีวันที่ 16 กันยายน 2026 ไม่มีแหล่งใดในสามแหล่งนี้อธิบายความต่างนี้ บทความนี้ใช้ 20 กันยายนของผู้ขายในจุดที่ต้องระบุวันที่ และเป็นเรื่องที่ควรรู้ว่าเครื่องมือที่คุณกำลังอ่านอยู่นั้นได้ตัวเลขใดมา

ข้อที่สามคือความสมบูรณ์ และตรงนี้สองสแต็กไม่ได้เทียบเท่ากัน คุกบุ๊กของ SGLang ถูก merge แล้วและ merge เข้า main แล้ว แต่ข้อความของ SGLang เองระบุว่าการสนับสนุนยังไม่ได้ออกในรีลีส ดังนั้นเส้นทาง Python จึงเป็นเพียงอิมเมจ Docker พรีวิวเท่านั้น ไม่มีอย่างอื่น สูตรของ vLLM เปิดอยู่ PR ของโมเดลเป็นฉบับร่างที่ยังไม่ถูก merge ซึ่งขณะนี้ GitHub รายงานว่ามี merge conflict และต้อง rebase และผู้รีวิวของตัวเองได้ยกประเด็นที่ยังเปิดอยู่สามข้อต่อสูตรนี้แล้ว ได้แก่ เกตฮาร์ดแวร์ FP8, โปรไฟล์ B300 เริ่มต้นที่ส่งคำสั่งแบบแปด GPU ขัดกับคู่มือสี่ GPU และเพดาน context ของ NVFP4 ที่ไม่ได้ถูกเข้ารหัสไว้ในอาร์กิวเมนต์ของ variant ไม่มีข้อใดในนั้นที่ทำให้ตัดสิทธิ์ ทั้งหมดนี้สนับสนุนให้ถือว่าการดีพลอยแบบ self-hosted ครั้งแรกในสัปดาห์นี้เป็นการประเมิน ไม่ใช่การโยกย้าย

จะทำอะไรกับสิ่งนี้ในสัปดาห์นี้ดี

หากคุณมี B300 สี่ตัวหรือ H200 แปดตัวอยู่แล้ว และมีเวิร์กโหลดที่หน้าตาเหมือนการวิเคราะห์เอกสารยาว การเรียกใช้เครื่องมือแบบหลายรอบ หรือการรันเอเจนต์ข้ามคืน สูตรของ vLLM ก็ใกล้เคียงกับ runbook เลย: ดึง vllm/vllm-openai:step-5-preview ออกมา คัดลอกคำสั่ง TP4 หรือ TEP4 แล้วตรวจสอบว่า --max-model-len 1048576 ยังรอดเมื่อเจองบ KV จริงของคุณหรือไม่ ก่อนที่คุณจะไปสัญญากับใครว่าได้หนึ่งล้านโทเคน หากคุณมี Hopper ไม่ใช่ Blackwell ให้เริ่มจากเช็กพอยต์ NVFP4 และยอมรับคอนเท็กซ์ 320k หรือไม่ก็จัดงบสำหรับ H200 แปดตัว ไม่ว่าจะทางไหน ให้ตั้ง reasoning_effort อย่างชัดเจนในทุกคำขอ แทนที่จะปล่อยให้สืบทอดค่าเริ่มต้นแบบ high และวัดค่า time-to-answer-token ที่ 24.7 วินาทีบนทราฟฟิกของคุณเอง ก่อนที่คุณจะสรุปอะไรจากตัวเลข 88.5 โทเคนต่อวินาที

หากคุณไม่มีฮาร์ดแวร์นั้น API ก็ไม่ใช่รางวัลปลอบใจ — มันคือน้ำหนักโมเดลเดียวกัน คิดค่าบริการตามโทเค็น ในราคา $1.00 ขาเข้า และ $2.70 ขาออก พร้อมส่วนลดแคช 90% สำหรับบริบทที่ใช้ซ้ำ และนี่คือส่วนของหน้านี้ที่คำตอบตรงไปตรงมาเกี่ยวกับเราควรอยู่: Step 5 Preview ไม่ปรากฏอยู่ในรายการโมเดลที่ให้บริการจริงของ OrcaRouter ณ วันนี้ แคตตาล็อกของเรามี 207 โมเดลจาก 13 ผู้ให้บริการ และปัจจุบันไม่มีโมเดลของ StepFun เลย ดังนั้นสำหรับโมเดลนี้โดยเฉพาะ API ของผู้จำหน่ายเองจึงเป็นเส้นทางเดียวที่เรียกใช้ได้ และไม่มีข้อความใดในหน้านี้ที่ควรตีความเป็นข้ออ้างว่าเราให้บริการโมเดลนี้ สิ่งที่เราจัดเส้นทางให้คือการตัดสินใจโดยรอบ: เมื่อคุณกำลังเลือกว่าโมเดลระดับแนวหน้าตัวใดจะรับงานเวิร์กโหลดโปรดักชัน ข้อโต้แย้งสำหรับการเข้าถึงผ่านปลายทางเดียวคือ ราคาตามรายการของผู้ให้บริการถูกส่งผ่านด้วยมาร์กอัป 0% ดังนั้นการเปลี่ยนแปลงราคาของผู้จำหน่ายก็คือราคาของคุณในวันเดียวกัน และที่ว่า การสลับไปใช้ผู้ให้บริการรายอื่นอัตโนมัติเมื่อเกิดความขัดข้อง หมายความว่าช่วงเวลาที่โมเดลใดโมเดลหนึ่งมีปัญหาก็ไม่ใช่ระบบล่มของคุณ นั่นคือข้อความเกี่ยวกับโมเดลที่เราให้บริการจริง และจงใจไม่ใช่ข้อความเกี่ยวกับโมเดลนี้

สิ่งที่ต้องจับตาต่อไปนั้นแคบและตรวจสอบได้ ไม่ว่า stepfun-ai/Step-5-Preview จะชี้ไปยังรีโพซิทอรีที่อ่านได้ซึ่งมีไฟล์ใบอนุญาตที่คุณชี้ให้ทีมกฎหมายดูได้หรือไม่ ไม่ว่า #61727 ของ vLLM จะผ่านสถานะ draft และความขัดแย้งในการ merge หรือไม่ ไม่ว่า PR สนับสนุน #44356 ของ SGLang จะเข้าสู่รีลีสที่ติดแท็กหรือไม่ ซึ่งเป็นจุดที่เรซิปีหยุดเป็นอิมเมจพรีวิวและกลายเป็นสิ่งที่ CI ของคุณปักหมุดได้ ข้อใดข้อหนึ่งในสามข้อนี้จะเปลี่ยน "คุณน่าจะรันมันได้" ของสัปดาห์นี้ให้เป็นคำว่า "ได้" แบบตรง ๆ และจนกว่าจะถึงตอนนั้น ข้อกล่าวอ้างเดียวที่คุ้มค่าจะกล่าวคือข้อที่หลักฐานสนับสนุน: เมื่อวันที่ 15 ตุลาคม 2026 สแตกการให้บริการสองรายได้เผยแพร่เส้นทางของตนเองไปยังโมเดลที่เรียกใช้ได้มาตั้งแต่ 20 กันยายน 2026

การเลือกที่จะรันโมเดลขนาด 600 พันล้านพารามิเตอร์บนฮาร์ดแวร์ของคุณเองก็เป็นอีกหนึ่งการตัดสินใจที่ประวัติผลงานมีความสำคัญ เพราะเหตุการณ์ด้าน AI และความล้มเหลวของเอเจนต์ที่ได้รับการบันทึกไว้เกี่ยวกับโมเดลในระดับนี้ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive ซึ่งแต่ละรายการมีแหล่งอ้างอิง ระดับความรุนแรง เกรดความเชื่อมั่น และธงข้อโต้แย้งเป็นของตัวเอง