การให้บริการ Beam 1.0 ใน Day Zero: สูตรของ SGLang กำหนดอะไรไว้กันแน่

เช็กพอยต์ที่คุณดาวน์โหลดได้ไม่ใช่โมเดลที่คุณนำไปดีพลอยได้ และระยะห่างระหว่างสองสิ่งนี้มักวัดกันเป็นสัปดาห์ของการทำงานกับเฟรมเวิร์กโดยใครก็ตามที่ใจร้อนพอจะลงมือทำ Reflection Beam 1.0 เป็นกรณีหายากที่งานส่วนนั้นมาพร้อมกับเวตต์เลย Reflection ประกาศเปิดตัวโมเดลเมื่อวันที่ 5 ตุลาคม 2026 และในวันที่ 16 ตุลาคม 2026 เวตต์ สัญญาอนุญาต Apache 2.0 เอนด์พอยต์ของเจ้าของเอง และการรองรับตั้งแต่วันแรกบนสแต็กสำหรับการอนุมานเจ็ดตัวก็ลงจอดพร้อมกันทั้งหมด และหนึ่งในสแต็กเหล่านั้น — SGLang ซึ่งบัญชีโปรเจกต์ของตัวเองระบุเมื่อวันที่ 16 ว่าให้บริการ Beam ในสภาพแวดล้อมโปรดักชันที่ Reflection — ได้ปล่อยสูตรที่ละเอียดพอจะเอาไว้โต้แย้งได้

สูตรนั้นเป็นอาร์ติแฟกต์ที่น่าสนใจยิ่งกว่าตาราง benchmark โพสต์เปิดตัวบอกคุณว่าโมเดลดี เมทริกซ์การดีพลอยบอกคุณว่าการค้นหาคำตอบมีค่าใช้จ่ายเท่าไร และทางเลือกที่คุณทำจะกำหนดความหน่วงของคุณอย่างเงียบๆ เอกสาร SGLang ของ Reflection Beam 1.0 เป็นตัวสร้าง: คุณเลือกแพลตฟอร์มฮาร์ดแวร์และกลยุทธ์ แล้วมันจะสร้างคำสั่ง Docker ที่ปักหมุดไว้ ตัวเลือกที่มันบังคับให้คุณต้องเลือกคือข่าวจริงสำหรับใครก็ตามที่ตั้งใจจะรันมันเองมากกว่าจะแค่เรียกใช้

สามแกนที่สูตรไม่ยอมซ่อน

หน้านี้ถามถึงแพลตฟอร์มฮาร์ดแวร์ กลยุทธ์ และการควอนไทซ์ จากนั้นจึงสร้างคำสั่งขึ้นมา นั่นเป็นพื้นที่การตัดสินใจที่เล็กกว่าที่การเปิดตัวโมเดลส่วนใหญ่ยอมรับ และแต่ละแกนมีผลที่ตามมาจริง:

• แพลตฟอร์มฮาร์ดแวร์ — B300, GB300 หรือ H200 ส่วน Blackwell ใช้บิลด์ NVFP4 โดยกำเนิด; H200 เป็นเส้นทางของ FP8 และ BF16 นี่คือพื้นฐานเดียวกันกับที่บันทึกประจำรุ่นของ Reflection อธิบายไว้ โดยเขียนใหม่เป็นเมนูแบบเลื่อนลง

• กลยุทธ์ — ความหน่วงต่ำหรือปริมาณงานสูง และนี่คือแกนที่การปรับใช้ส่วนใหญ่เลือกผิดโดยค่าเริ่มต้น ความหน่วงต่ำจะใช้การขนานแบบเทนเซอร์โดยเปิดใช้งาน DFlash2 drafter ที่ขนาดบล็อก 8 ปริมาณงานสูงจะปิดการใช้งาน DFlash2 ทั้งหมด

• การควอนไทซ์ — NVFP4, FP8 หรือ BF16 ซึ่งจะต้องสอดคล้องกับแพลตฟอร์มและกลยุทธ์ มากกว่าที่จะสามารถผสมผสานกันได้อย่างอิสระ

พรีเซ็ตกลยุทธ์สองแบบไม่ใช่ปุ่มปรับประสิทธิภาพ แต่เป็นการเปลี่ยนอัลกอริทึม การถอดรหัสแบบคาดการณ์แลกความหน่วงในการถอดรหัสกับงานของโมเดลร่างที่เพิ่มขึ้นต่อขั้น เมื่อใช้ขนาดบล็อก 8 กับตัวร่างขนาด 1.93B พารามิเตอร์ การแลกเปลี่ยนนั้นคุ้มค่าที่จะทำเมื่อคุณให้บริการผู้ใช้ทีละคน และคุ้มค่าที่จะปฏิเสธเมื่อคุณทำแบตช์อย่างหนักหน่วง การปิด DFlash2 สำหรับสูตรที่เน้นอัตราการประมวลผลไม่ใช่การลดระดับ แต่เป็นคำตอบที่ถูกต้องสำหรับคำถามที่ต่างออกไป

จุดที่สูตรต่าง ๆ ใช้แทนกันไม่ได้อีกต่อไป

อ่านผ่านพรีเซ็ตไป แล้วหน้าเว็บได้อธิบายการแยกการตั้งค่าคอนฟิกูเรชันจำนวนหนึ่งซึ่งมีอยู่ด้วยเหตุผลด้านฮาร์ดแวร์ที่เป็นรูปธรรม และสิ่งเหล่านั้นคุ้มค่าที่จะรู้ก่อนที่คุณจะคัดลอกคำสั่ง Docker คำสั่งแรกที่คุณเห็น:

• H200 BF16 รันด้วย TP8 พร้อมสัดส่วนหน่วยความจำแบบคงที่อัตโนมัติ เช็กพอยต์ BF16 ขนาด 933.81 GiB ไม่พอดีกับอุปกรณ์จำนวนที่น้อยกว่า และสัดส่วนหน่วยความจำนั้นถูกคำนวณขึ้นมาแทนที่จะเปิดให้ปรับ — ซึ่งหมายความว่านี่คือสูตรเดียวที่คุณไม่สามารถปรับแต่งด้วยมือได้โดยไม่หลุดออกจากเส้นทางที่รองรับ

• สูตรอื่นทั้งหมดใช้ tensor parallelism ร่วมกับ DPA โดย DPA ในที่นี้คือรูปแบบการจัดวาง attention แบบ data-parallel ที่แยก attention ออกจากการแบ่งแบบ expert-parallel และนี่คือเหตุผลที่สูตรที่ไม่ใช่ BF16 ทนจำนวนอุปกรณ์ได้ในระดับที่สูตร BF16 ทนไม่ได้

• Blackwell NVFP4 ยังเปิดใช้งาน expert parallelism และ FlashInfer MegaMoE เพิ่มเติม นี่คือชุดค่าผสมที่คู่มือของ Reflection เองชี้ไปที่ และจะใช้งานได้ก็ต่อเมื่อ checkpoint เป็นบิลด์ 4-bit แบบ packed ที่ 273 GiB แทนที่จะเป็น FP8 ที่ 468.72 GiB

ผลลัพธ์ในทางปฏิบัติก็คือ "เราใช้ Beam 1.0 บน SGLang" ไม่ใช่ข้อความเกี่ยวกับฮาร์ดแวร์ สองทีมสามารถพูดแบบเดียวกันได้ทั้งคู่ในขณะที่ใช้ความแม่นยำที่ต่างกัน รูปแบบการขนานที่ต่างกัน และขั้นตอนวิธีถอดรหัสที่ต่างกัน และหนทางเดียวที่จะเทียบข้อมูลกันได้คือต้องระบุทั้งสามอย่างนี้

“เดย์ซีโร” มีค่าเพียงใด และไม่ใช่สิ่งใด

การรองรับของเฟรมเวิร์กในวันเดียวกับที่เวตส์เปิดตัวถือเป็นสัญญาณจริง และเป็นสัญญาณชนิดเฉพาะเจาะจง การที่ SGLang รองรับ Beam 1.0 เกิดขึ้นเพราะวิศวกรของ Reflection ทำงานร่วมกับชุมชน SGLang ก่อนการเปิดตัว — นั่นคือสิ่งที่โปรเจกต์ SGLang กล่าวต่อสาธารณะเมื่อวันที่ 16 ตุลาคม และสอดคล้องกับการที่ Reflection ระบุชื่อ SGLang ไว้ในบรรดาพันธมิตร day-zero ของตน ควบคู่ไปกับ Transformers, vLLM, Unsloth, Axolotl, TokenSpeed และ N​VIDIA Dynamo พร้อมสูตรการใช้งานที่เขียนไว้สำหรับ SGLang, vLLM และ TokenSpeed รวมถึง Helm chart สำหรับ Kubernetes

• สิ่งที่มันสร้างขึ้น — เส้นทางที่มีการบันทึกและดูแลรักษาจาก checkpoint ที่เผยแพร่แล้วไปยัง endpoint ที่ให้บริการ บนฮาร์ดแวร์ที่ระบุชื่อ โดยคำนึงถึงรูปแบบการควอนไทซ์ที่แตกต่างกัน นั่นเป็นมากกว่าที่การเปิดตัวแบบโอเพนซอร์สส่วนใหญ่ทำได้ในสัปดาห์แรกจริงๆ

• สิ่งที่มันไม่ได้ยืนยัน — ว่าคอนฟิกูเรชันนี้เหมาะสมที่สุด หรือว่าตัวเลขปริมาณงาน (throughput) ที่คุณจะได้จะตรงกับของคนอื่น ๆ ข้อกล่าวอ้างเรื่อง production-at-Reflection เป็นของผู้ขายและของเฟรมเวิร์ก ซึ่งรายงานโดยผู้ที่ให้บริการจริง เรายังไม่เห็นการทำซ้ำอย่างอิสระของข้อกล่าวอ้างนี้ และยังไม่มีการเผยแพร่เบนช์มาร์กจากบุคคลที่สามสำหรับการติดตั้งใช้งาน Beam แบบ self-hosted

ความแตกต่างนี้มีความสำคัญตรงนี้มากกว่าปกติ เพราะนี่คือ sparse mixture of experts ขนาด 501.3 พันล้านพารามิเตอร์ ที่มีพารามิเตอร์ทำงานอยู่ 23.4 พันล้านตัวต่อโทเคน และคุณค่าทั้งหมดของสถาปัตยกรรมนี้ก็คือ ต้นทุนการให้บริการของคุณเป็นเพียงเศษเสี้ยวของชื่อรุ่นเท่านั้น การรองรับในเฟรมเวิร์กคือสิ่งที่เปลี่ยนข้อกล่าวอ้างนั้นจากแผนภาพสถาปัตยกรรมให้กลายเป็นงบประมาณหน่วยความจำ แต่ไม่ได้เปลี่ยนให้มันกลายเป็นตัวเลข throughput ที่วัดได้ และไม่มีเอกสารจากผู้พัฒนาหลักชิ้นใดที่เราค้นหาเจอที่เผยแพร่ตัวเลขดังกล่าวสำหรับการ inference ตัวเลข tokens-per-second ที่เป็นรูปธรรมเพียงตัวเดียวในข่าวการเปิดตัวนี้อธิบายถึง LoRA supervised fine-tuning บนโหนดเดียวที่มี GPU B300 จำนวน 8 ตัว ซึ่งเป็นขั้นตอนการเทรน ไม่ใช่อัตราการให้บริการ

รูปแบบความล้มเหลวที่สแตก day-zero แบบโฮสต์เองมีอยู่จริง

มีวิธีเฉพาะที่เรื่องนี้จะผิดพลาด และมันไม่ใช่ตัวโมเดล มันคือสัปดาห์ที่สอง อิมเมจ Docker ที่ปักหมุดซึ่งสร้างขึ้นสำหรับควอนไทเซชันแบบเดียวและเลย์เอาต์การขนานแบบเดียวไม่ใช่ทางถอยให้กับตัวมันเอง: หากดราฟเตอร์มีปฏิสัมพันธ์ที่ไม่ดีกับรูปแบบทราฟฟิกของคุณ หากการอัปเดตไดรเวอร์เปลี่ยนสิ่งที่สัดส่วนหน่วยความจำจัดสรร หรือหากความจุของคุณถูกจัดคิวอยู่ข้างหลังผู้เช่ารายอื่น คุณจะไม่เหลือการกำหนดค่าใดให้ถอยกลับไป — คุณมีเหตุการณ์ระบบล่มโดยมีโมเดลที่ความสามารถสูงมากนั่งอยู่ในนั้น

Beam 1.0 ไม่ใช่หนึ่งในเส้นทางของเรา เราจึงไม่สามารถให้บริการมันกับคุณได้ และไม่มีสิ่งใดในที่นี้ที่ควรถูกตีความว่าเป็นการยืนยันความพร้อมใช้งานจากเรา สิ่งที่เราทำได้คือวางทางเลือกสำรองไว้ในที่ที่มีประโยชน์ OrcaRouter ใช้คีย์ที่เข้ากันได้กับ OpenAI เพียงคีย์เดียวกับโมเดลกว่า 200 รุ่น โดยส่งต่อราคาตามรายการของผู้ให้บริการโดยไม่บวกเพิ่ม และสลับไปยังผู้ให้บริการรายอื่นโดยอัตโนมัติเมื่อเกิดปัญหา ดังนั้นไพลอต Beam ที่โฮสต์เองซึ่งหยุดตอบสนองจึงกลายเป็นเพียงการเปลี่ยนเส้นทาง ไม่ใช่เหตุการณ์ผิดปกติ โมเดลที่การติดตั้งใช้งาน Beam ถูกนำมาแทนที่บ่อยที่สุด และสามารถเข้าถึงได้ด้วยวิธีนั้น มาพร้อมกับตารางราคาที่เผยแพร่ไว้แล้ว:

• GLM-5.2 — 1.40 ดอลลาร์ต่อล้านโทเคนอินพุต และ 4.40 ดอลลาร์ต่อล้านโทเคนเอาต์พุต พร้อมหน้าต่างบริบท 1,000,000 โทเคน โมเดลที่คำกล่าวอ้างเรื่องประสิทธิภาพของ Reflection เองถูกนำมาเปรียบเทียบด้วย และเป็นตัวเลือกทดแทนที่ตรงที่สุดสำหรับงานเขียนโค้ดบริบทยาวของ Beam

• Kimi K3 — ราคา 3.00 ดอลลาร์ต่ออินพุตหนึ่งล้านโทเค็น, แคช 0.30 ดอลลาร์, เอาต์พุต 15.00 ดอลลาร์ พร้อมหน้าต่าง 1,048,576 โทเค็นโพสต์เปิดตัวของ Reflection ยอมรับว่า K3 ยังคงนำหน้าอยู่ในแง่ความสามารถดิบ

• Qwen3.8-Max — $2.00 ต่ออินพุตหนึ่งล้านโทเค็น และ $6.00 ต่อเอาต์พุตหนึ่งล้านโทเค็น ที่หน้าต่าง 1,000,000 โทเค็น ตัวเลือกแบบปิดระดับเรือธงสำหรับทีมที่ต้องการความสามารถนี้โดยไม่ต้องมีตู้แร็ก

สิ่งที่สูตรอาหารยังไม่บอกคุณ

มีช่องว่างสามประการที่ควรค่าแก่การเอ่ยถึง เพราะแต่ละช่องว่างคือการตัดสินใจที่คุณจะต้องลงเอยด้วยการทำโดยมีข้อมูลน้อยกว่าที่คุณต้องการ

ประการแรกคือราคา เอนด์พอยต์ของ Reflection มีเอกสารประกอบและเข้ากันได้กับ OpenAI โดยมีระดับความพยายามในการให้เหตุผล ได้แก่ max, xhigh, high, medium และ low การให้เหตุผลแบบบังคับที่นำโดยค่าเริ่มต้นเป็น max และขีดจำกัดต่อองค์กรที่ใช้ร่วมกันในทุกคีย์ มันไม่มีอัตราต่อล้านโทเค็นที่เผยแพร่ ดังนั้นกรณีด้านประสิทธิภาพของ Beam 1.0 จึงไม่สามารถสรุปให้เสร็จเป็นโจทย์การคำนวณได้ โมเดลที่ให้เหตุผลเสมอและมีค่าเริ่มต้นเป็นความพยายามสูงสุดเป็นข้อเสนอเชิงพาณิชย์ที่แตกต่างกัน ขึ้นอยู่กับว่าโทเค็นเอาต์พุตมีราคาหนึ่งดอลลาร์หรือสิบดอลลาร์

ประการที่สองคือการวัดที่เป็นอิสระ Artificial Analysis ระบุโมเดลนี้ว่ามี Intelligence Index อยู่ที่ 30 โดยไม่มีตัวเลขความเร็วและไม่มีราคา และบันทึกว่าไม่มี API ที่เปิดให้สาธารณะใช้สำหรับโมเดลนี้ — ซึ่งเป็นข้อความจากบุคคลที่สามว่าบริการที่โฮสต์ไว้นั้นยังไม่ปรากฏต่อผู้ที่วัดสิ่งเหล่านี้ จุดข้อมูลด้านประสิทธิภาพหนึ่งจุดที่นับอย่างอิสระของโมเดลนี้เป็นของจริง: Beam สร้างเอาต์พุตโทเคน 79M ในการทดสอบ Intelligence Index ของ AA เทียบกับค่ามัธยฐานที่ 130M สำหรับกลุ่มเปรียบเทียบ สิ่งนี้สนับสนุนข้ออ้างเรื่อง "ใช้โทเคนการให้เหตุผลน้อยลง" แต่ไม่ได้บอกว่ามีโทเคนออกมาเร็วแค่ไหน

ข้อที่สามคือการคลาดเคลื่อนของเวอร์ชัน สูตรที่เผยแพร่เหล่านั้นเขียนขึ้นโดยอิงกับ checkpoint เฉพาะเจาะจงและบิลด์ SGLang เฉพาะเจาะจง และ drafter ก็เป็นรีโพซิทอรีของตัวเอง เมื่อสิ่งใดสิ่งหนึ่งเปลี่ยนไป สูตรที่คุณปักหมุดไว้ในเดือนตุลาคมก็กลายเป็นคอนฟิกูเรชันที่ไม่มีใครเคยทดสอบในเดือนพฤศจิกายน มองคำสั่ง Docker เป็นเพียงจุดเริ่มต้นที่มีวันหมดอายุ ไม่ใช่การดีพลอย

ใครควรดำเนินการกับเรื่องนี้ตอนนี้ และใครควรรอ

หากคุณมีขีดความสามารถ Blackwell อยู่แล้ว สูตร SGLang ก็เพียงพอจริง ๆ ที่จะเริ่มต้นได้: B300 จำนวนสี่ตัวคือการกำหนดค่า NVFP4 มาตรฐานอ้างอิง การคำนวณหน่วยความจำได้รับการเผยแพร่แล้ว ชุดทดสอบความสอดคล้องมีอยู่ และความเสี่ยงขาลงถูกจำกัดอยู่ที่เวลาทางวิศวกรรม หากคุณไม่มีฮาร์ดแวร์ การคำนวณก็ยังไม่ลงตัว เพราะตัวเลือกแบบโฮสต์ไม่มีตารางอัตราค่าบริการให้เปรียบเทียบกับการซื้อสินทรัพย์ลงทุน — และการสนับสนุนเฟรมเวิร์กตั้งแต่วันแรก แม้จะดีเพียงใด ก็ไม่ใช่สิ่งทดแทนราคา

สิ่งที่ต้องจับตามองไม่ใช่การที่เฟรมเวิร์กอีกรายประกาศการสนับสนุน แต่เป็นตัวเลขที่เผยแพร่เป็นครั้งแรกซึ่งไม่ได้มาจาก Reflection หรือจากโปรเจกต์เฟรมเวิร์ก: การวัดปริมาณงานอย่างอิสระบนการกำหนดค่าที่ระบุชื่อ หรือตารางราคาบนเอนด์พอยต์ของเจ้าของบริการ อย่างใดอย่างหนึ่งจะเปลี่ยนสิ่งนี้จากการทดลองที่มีเอกสารบันทึกไว้อย่างดีให้กลายเป็นรายการทางบัญชี จนกว่าจะถึงตอนนั้น การตีความวันที่ 16 ตุลาคมที่ถูกต้องคือ งานวิศวกรรมที่ยากลำบากได้ส่งมอบตรงตามกำหนด — และกรณีเชิงพาณิชย์คือส่วนที่ยังอยู่ระหว่างการสร้าง

ไม่มีสิ่งใดในนั้นที่เป็นเพียงข้อสันนิษฐาน: ความล้มเหลวของ AI และเหตุการณ์ที่เกี่ยวข้องกับเอเจนต์ซึ่งได้รับการบันทึกไว้ ที่อยู่เบื้องหลังการเปิดตัวแบบนี้ ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง ระดับความเชื่อมั่น และสถานะข้อโต้แย้งของตนเอง