การ์ดชื่อเรื่องของ ERNIE 5.5 Flash ระบุว่า 'ERNIE 5.5 Flash: เส้นทาง FP4 ที่รองรับเฉพาะ Blackwell ปรากฏขึ้นก่อนที่โมเดลแชตจะเปิดตัว' พร้อมชิป 'SGLang PR #51236 · เปิดเมื่อ 18 พ.ย. 2026', 'expert แบบ MXFP4 เฉพาะ SM100', 'เทมเพลตแชตเรนเดอร์ด้วย Python', 'เช็กพอยต์แชต: ยังไม่เผยแพร่' ส่วนท้ายระบุว่า 'ที่มา: sgl-project/sglang PR #51236 เปิดอยู่และยังไม่ได้ merge'
Guides & Insights

ERNIE 5.5 Flash: เส้นทาง FP4 ที่รองรับเฉพาะ Blackwell ปรากฏขึ้นก่อนที่โมเดลแชทจะเปิดตัว

ผู้เขียน

jinhao.song

วันที่เผยแพร่

โมเดลล่าสุด · 20ดูโมเดลทั้งหมด →
เบนช์มาร์ก: Artificial Analysis · อัปเดตทุกวัน
กลับไปยังโพสต์ทั้งหมด

สิ่งที่เป็นรูปธรรมที่สุดเท่าที่มีการเผยแพร่เกี่ยวกับERNIE 5.5 Flashในสัปดาห์นี้คือข้อความแสดงข้อผิดพลาด ภายใน pull request ขนาด 525 บรรทัดที่เปิดในรีโพซิทอรี SGLang เมื่อวันที่ 18 พฤศจิกายน 2026 คือการปฏิเสธอย่างเด็ดขาด: --moe-a2a-backend megamoe ถูกปฏิเสธบนอุปกรณ์ใดก็ตามที่ไม่ใช่ SM100 GPU เพราะเคอร์เนลเหล่านั้นโดยปกติจะรันการคำนวณ SwiGLU และ experts ของโมเดลนี้ใช้ SiTU บรรทัดนั้น และส่วนที่เหลือของ PR #51236 คือคำอธิบายสาธารณะครั้งแรกว่าการเปิดตัวเวอร์ชันแชทของ ERNIE 5.5 Flash — ซึ่งต่างจาก ERNIE 5.5 Flash Base เช็กพอยต์ที่ Baidu เผยแพร่เมื่อวันที่ 5 พฤศจิกายน และ ERNIE 5.5 Flash Preview เอนด์พอยต์ที่เปิดเมื่อวันที่ 11 พฤศจิกายน — ถูกกำหนดให้ให้บริการอย่างไร ตัวโมเดลเองยังไม่ออกมา แต่ข้อกำหนดการให้บริการของมันเปิดเผยแล้วในตอนนี้

นี่คือบทความสรุปสิ่งที่เรารู้ถึงตอนนี้ ไม่ใช่การรายงานข่าวเปิดตัว ทุกอย่างด้านล่างมาจาก pull request ที่เปิดอยู่ ยังไม่ถูก merge และยังไม่ผ่านการรีวิว เพียงรายการเดียว จากเอกสาร SGLang ที่เขียนควบคู่ไปกับการรองรับ Base ก่อนหน้านี้ และจากหน้าเว็บที่ Baidu เผยแพร่เอง ไม่มีสิ่งใดในนี้ถูกนำไปรันกับเช็กพอยต์แชตที่ดาวน์โหลดได้ เพราะไม่มีเช็กพอยต์ลักษณะนั้นให้ดาวน์โหลด ตัวเลขใดที่เป็นของ Baidu ก็จะระบุว่าเป็นของ Baidu

สิ่งที่ pull request เพิ่มเข้ามาจริง ๆ

{{1}}PR #51236{{/1}} มีชื่อว่า "{{2}}[Feat] ERNIE-5.5-Flash: เพิ่มการเข้ารหัสเทมเพลตแชท Python และการให้บริการ MegaMoE แบบ FP4{{/2}}" และถูกเปิดโดย {{3}}chang-wenbin{{/3}} ผู้มีส่วนร่วม เมื่อเวลา {{4}}12:12 UTC วันที่ 18 พฤศจิกายน{{/4}} โดยแตะไฟล์ {{5}}14 ไฟล์{{/5}} เพิ่ม {{6}}525 บรรทัด{{/6}} และลบ {{7}}24{{/7}} บรรทัด ไม่มีการอนุมัติ การรัน CI ทั้งหมดถูกข้ามโดยรอป้ายกำกับ และทั้งส่วน {{8}}accuracy-test{{/8}} และ {{9}}speed-test{{/9}} ของคำอธิบายเป็นคอมเมนต์เทมเพลตที่ยังไม่ได้กรอก เมื่ออ่านเป็นหลักฐานแล้ว เรื่องนี้สำคัญ: นี่คือโค้ดที่ผู้เขียนเชื่อว่าจำเป็น ไม่ใช่โค้ดที่ใครตรวจสอบแล้ว

นี่คือ pull request ของ ERNIE 5.5 ตัวที่สี่ในรอบสองสัปดาห์ #48546 เพิ่มสูตรการติดตั้งใช้งานลงใน SGLang cookbook และถูก merge เมื่อวันที่ 5 พฤศจิกายน ซึ่งเป็นวันเดียวกับที่ weights ของ Base ถูกอัปโหลดขึ้น #48547 เพิ่มตัวโมเดลเอง — Ernie5_5_MoeForCausalLM, attention backend, KV-cache pool, โมดูล draft DSpark — และถูก merge เมื่อวันที่ 6 พฤศจิกายน #49807 ขยาย NVIDIA LiteTopK prefill ไปยัง "LongCat, ERNIE 5.5, HY-4-family, Kimi K3.1" เมื่อวันที่ 11 พฤศจิกายน และยังเปิดอยู่ PR วันที่ 18 พฤศจิกายนเป็นตัวแรกในสี่ตัวที่ไม่ได้เกี่ยวกับ Base checkpoint เลย

เทมเพลตแชทเป็น Python และสิ่งนั้นเปลี่ยนว่าใครสามารถรันได้

เช็กพอยต์ของ ERNIE 5.5 Flash สามารถบรรจุเทมเพลตแชตในรูปแบบ Python แทนที่จะเป็นสตริง Jinja ได้ โดยอยู่ในคลาส tokenizer ที่ PR ระบุชื่อว่า ErnieChatTokenizer เส้นทางปกติของ SGLang จะเรนเดอร์พรอมต์โดยเรียก apply_chat_template กับเทมเพลต Jinja ในคอนฟิกของ tokenizer ส่วนการเข้ารหัสแชต ernie5_5 แบบใหม่จะเรียก tokenizer ของเช็กพอยต์เองแทน และเลือกใช้เองโดยอัตโนมัติจากสตริงสถาปัตยกรรมหรือชนิดโมเดล ernie5_5_moe ผลในทางปฏิบัติตามคำพูดของ PR เองคือ ต้องโหลด tokenizer ด้วย --trust-remote-code และการให้บริการแชตด้วย --skip-tokenizer-init จะถูกปฏิเสธทันทีพร้อมข้อผิดพลาดที่อธิบายเหตุผล

นั่นคือข้อจำกัดด้านการดีพลอยที่ผู้อ่านนำไปปฏิบัติได้ โมเดลที่เรนเดอร์พรอมป์ใน Python จะรันโค้ดจากรีโพซิทอรีของ checkpoint ในเวลาที่มีคำขอ ดังนั้นใครก็ตามที่รันแบบ air-gapped ภายใน hardened image หรืออยู่หลังนโยบายที่ห้าม remote code ต้องเลือกอย่างใดอย่างหนึ่งระหว่างการจัดหา tokenizer มาใช้เองหรือยอมรับแฟล็กนี้ checkpoint Base ไม่มีปัญหานี้: tokenizer_config.json ที่เผยแพร่ไม่มี chat template เลย และประกาศเป็น PreTrainedTokenizerFast ธรรมดา ซึ่งเป็นสิ่งที่คาดได้จาก checkpoint ที่ให้บริการผ่าน completions endpoint

รายละเอียดเล็ก ๆ สามข้อในไฟล์เดียวกันมีค่ามากกว่าที่เห็น Adapter รองรับข้อความระบบแบบอินไลน์ — เทิร์นระบบกลางบทสนทนาที่เรนเดอร์ ณ ตำแหน่งนั้น ไม่ถูกผสานเข้ากับข้อความแรก — ซึ่งมีเพียงอีกสอง encoding ในทรีของ SGLang ที่ทำได้ มันใช้การต่อเนื่องแบบเนทีฟของ renderer สำหรับ continue_final_message เพราะเส้นทาง prefix-append ทั่วไปจะทำให้ prefix หายไปภายใน think block ที่เปิดอยู่ และมันตั้งใจทิ้ง chat_template_kwargs ที่ renderer จะปฏิเสธ เนื่องจาก ErnieChatTokenizer โยนข้อผิดพลาดเมื่อเจอคีย์เวิร์ดที่ไม่รู้จัก ขณะที่เทมเพลต Jinja เพิกเฉยต่อคีย์นั้นอย่างเงียบ ๆ — PR ระบุกรณีที่พังคือ frontend ที่ส่ง thinking สไตล์ DeepSeek

การแก้บั๊กที่ตามมาจากเรื่องนี้คือบรรทัดเดี่ยวใน diff ที่เผยให้เห็นมากที่สุด ตัวจัดการคำขอของ SGLang อ่านคีย์ thinking และตั้งค่าเริ่มต้นเป็นปิด ขณะที่ตัวแยกวิเคราะห์เหตุผลของ ernie55 อ่าน enable_thinking และตั้งค่าเริ่มต้นเป็นเปิด ดังนั้นการฉีดค่าเริ่มต้นของตัวจัดการจึงสร้างพรอมป์ต์แบบ thinking-off ภายใต้ตัวแยกวิเคราะห์เหตุผลที่คาดว่าจะมี reasoning และคำตอบทั้งหมดของโมเดลถูกแยกวิเคราะห์เข้าไปใน reasoning_content โดย content ถูกปล่อยว่างไว้ นั่นคือรูปแบบความล้มเหลวแบบเดียวกับที่ผู้ใช้ปลายทาง Preview รายงานมาตั้งแต่วันที่ 11 พฤศจิกายน — คำตอบธรรมดามาในรูปของ content ว่าง — และการแก้บั๊กนี้บ่งชี้ว่าเช็กพอยต์แชตคิดโดยค่าเริ่มต้น

การให้เหตุผลและการเรียกใช้เครื่องมือก็ได้รับการเลือก parser โดยอัตโนมัติเช่นกัน: ernie55 สำหรับการให้เหตุผล โดยอ่านแท็ก <ernie:think> และ ernie55 สำหรับการเรียกใช้เครื่องมือ โดยอ่าน <ernie:tool_call> docstring ของ adapter ระบุว่ารองรับข้อความ การเรียกใช้เครื่องมือ และสวิตช์การคิด และสาขามัลติโมดัลของเทมเพลตนั้น "ถูกปล่อยไว้สำหรับการอัปเกรดในภายหลัง" — ดังนั้น ณ PR นี้ โมเดลแชตจึงถูกให้บริการในลักษณะที่ Baidu อธิบายไว้ในที่อื่น ๆ: โมเดลข้อความ

ทำไมผู้เชี่ยวชาญสี่บิตจึงล็อกเส้นทางเร็วไปยัง Blackwell

ครึ่งหลังของ PR เกี่ยวข้องกับ routed experts ที่จัดเก็บใน MXFP4 ซึ่งรันเป็น w4a8 — น้ำหนักสี่บิต แอ็กติเวชันแปดบิต — ผ่าน all-to-all ของ MegaMoE ใน DeepGEMM ข้าม GPU ตัวเลือกในการนำไปใช้งานสองข้อสื่อข้อมูลเกี่ยวกับตัวโมเดลเอง

• {{1}}การควอนไทซ์ถูกตรวจหาอัตโนมัติจากส่วนหัวของ safetensors เนื่องจาก checkpoint ไม่มีคีย์ routed_experts_quant_method{{/1}} ซึ่งสอดคล้องกับคอนฟิก {{2}}Base{{/2}} ที่เผยแพร่ ซึ่งไม่มีฟิลด์ดังกล่าว; ตัวโหลดจะอ่าน dtype ของ expert จากส่วนหัวไฟล์และตั้งค่า {{3}}is_fp4_experts{{/3}} จากข้อมูลนั้น

• เส้นทาง MegaMoE ถูกปฏิเสธบน SM90 และบน ROCm ไม่ใช่ถูกทำให้ลดประสิทธิภาพลง เนื่องจากเคอร์เนล SM90 FP8 และ ROCm MegaMoE ฮาร์ดโค้ด SwiGLU ไว้ ในขณะที่ experts เหล่านี้ถูกกระตุ้นด้วย SiTU ความคิดเห็นใน PR ระบุค่าคงที่ที่ DeepGEMM ฝังไว้อย่างเจาะจง: SiTU beta 4.0 และ linear beta 25.0 config.json ของ Base checkpoint เองประกาศ activation_situ_beta: 4.0 และ activation_situ_linear_beta: 25.0 ดังนั้นค่าคงที่ของเคอร์เนลและน้ำหนักจึงสอดคล้องกัน — ซึ่งเป็นการตรวจสอบไขว้แบบที่ทำให้การรั่วไหลดูเหมือนงานวิศวกรรมมากกว่าการคาดเดา

โหมดความล้มเหลวที่กำลังถูกป้องกันอยู่นั้นคือแบบที่เงียบสงบ เคอร์เนล SM90 ที่คำนวณ SwiGLU บนน้ำหนัก SiTU จะไม่พัง แต่จะคืนข้อความที่ลื่นไหลแต่ผิดเล็กน้อย การปฏิเสธที่จะเริ่มทำงานเป็นผลลัพธ์ที่ดีกว่า และนี่คือเหตุผลที่เรื่องราวของ FP4 ถูกจำกัดด้วยฮาร์ดแวร์แทนที่จะเป็นสากล

ความหมายในเชิงพาณิชย์ของเรื่องนี้แคบกว่าคำกล่าวที่ว่า “ERNIE 5.5 Flash จำเป็นต้องใช้ Blackwell” แต่จริง ๆ แล้วไม่ใช่ SGLang cookbook ซึ่งเขียนขึ้นสำหรับ Base checkpoint ได้เผยแพร่สูตรแบบ single-node บน B300, GB300, B200, GB200 และ H100 และสูตร H100 FP8 ใช้แปด GPU เพราะ weights แบบ FP8 มีขนาดประมาณ 280 GB ส่วนเส้นทาง FP4 experts เป็นเส้นทางเดียวที่มีเฉพาะบนชิ้นส่วน SM100 และ SGLang ยังไม่ได้เผยแพร่ตารางหน่วยความจำสำหรับ FP4 checkpoint เพราะยังไม่เคยเห็น checkpoint แบบนั้นมาก่อน ให้ถือการคำนวณใด ๆ ที่ว่า “fits on one B200” ที่คุณเห็น รวมถึงการประมาณการที่ชัดเจนว่าการลดไบต์ของ expert ลงครึ่งหนึ่งจะทำให้โมเดลขนาด 280 GB เหลือใกล้ 150 GB เป็นเพียงการประมาณการ ไม่ใช่สูตร

วันนี้มีอะไรให้ดาวน์โหลดได้จริง ๆ บ้าง

• ERNIE 5.5 Flash Base — เปิดเผยเวตโมเดลตั้งแต่ 5 พฤศจิกายน 2026 ในรูปแบบ FP8 และ BF16 บน Hugging Face และ ModelScope มีพารามิเตอร์รวม 280B เปิดใช้งานจริง 14B จำนวน 43 เลเยอร์ (FFN แบบ dense 1 ชั้น, MoE 42 ชั้น) มี routed experts 512 ตัว โดยเลือก top-10 บวกกับ shared expert อีก 1 ตัว ใน latent space ขนาด 2,048 มิติ ใช้ attention แบบไฮบริด: 37 ชั้นเป็น attention ที่บีบอัดอย่างหนัก 6 ชั้นเป็น MLA พร้อม DSA sparse attention สัญญาอนุญาตคือ ERNIE 5.5 Flash Base Model License Agreement v1.0 — ไม่ใช่ Apache 2.0

• ERNIE 5.5 Flash Preview — ใช้ผ่าน API เท่านั้นตั้งแต่วันที่ 11 พฤศจิกายน บน Baidu Qianfan โดยระบุบริบท 1M โทเค็น และขีดจำกัดอัตราที่ 300 คำขอและ 3 ล้านโทเค็นต่อนาที โพสต์เปิดตัวของ Baidu ระบุว่าเวตจะ "เปิดซอร์สภายใต้ Apache 2.0 ในเร็วๆ นี้" ณ วันนี้ยังไม่ได้รับการเปิดซอร์ส รุ่นฟรีของ Preview สามารถเรียกใช้ผ่านแค็ตตาล็อกของบุคคลที่สามได้ตั้งแต่วันที่ 10 พฤศจิกายน

• ERNIE 5.5 Flash — โมเดลที่พูลรีเควสต์นี้เกี่ยวข้อง ยังไม่เปิดตัว คุกบุ๊กของ SGLang ระบุไว้เป็น "ERNIE-5.5-Flash (FP8 / FP4 / BF16, เร็ว ๆ นี้) พร้อมความสามารถด้านการให้เหตุผล การเรียกใช้เครื่องมือ และ DSpark draft ที่รวมมาให้" และรายการโมเดลของ Qianfan มีรายการ ERNIE 5.5 อยู่เพียงรายการเดียวเท่านั้น คือ ernie-5.5-flash-preview ไม่มีหน้า Artificial Analysis สำหรับโมเดล ERNIE 5.5 รุ่นใดเลย และแถว ERNIE ล่าสุดในลีดเดอร์บอร์ดของ arena คือ ERNIE 5.1 ที่ 1467 — ดังนั้นตัวเลขสมรรถนะทุกตัวที่แนบมากับโมเดลนี้จึงยังคงเป็นของ Baidu เอง

The SGLang cookbook page for ERNIE-5.5-Flash, showing the model-introduction section that lists ERNIE-5.5-Flash-Base in FP8 and BF16 as released, and ERNIE-5.5-Flash in FP8, FP4 and BF16 marked 'coming soon', above the GPU recipe grid running from two B300s to eight H100s.

อะไรคือการอ่านแบบตรงไปตรงมาของ PR ทั้งหมด: มันถูกเขียนขึ้นสำหรับ checkpoint ที่ไม่มีใครดาวน์โหลดได้ โค้ดตรวจจับ FP4, ตัวโหลดดราฟต์ DSpark ที่สร้าง main_proj ด้วยการกำหนดค่าควอนไทซ์ FP8 และทำควอนไทซ์ feature_projection แบบ BF16 ตอนโหลด และการวอร์มアップตาราง encode ที่แบกรับต้นทุน 0.8 วินาทีซึ่งวัดได้ตอนเริ่มระบบแทนที่จะเป็นตอนคำขอแรก — ทั้งหมดนี้มุ่งเป้าไปยังอาร์ติแฟกต์ที่ถูกอ้างถึงในคอมเมนต์โค้ดเพียงว่า "the 1110 checkpoint" Baidu ได้ประกาศอาร์ติแฟกต์นั้นแล้วและยังไม่ได้เผยแพร่มัน

A single-column scoreboard titled 'ERNIE 5.5 Flash — what the serving PR reveals', with six rows: Chat checkpoint state 'not released, listed coming soon', Chat template 'Python (ErnieChatTokenizer), needs --trust-remote-code', Expert format 'MXFP4 routed experts, run as w4a8', Fast path 'MegaMoE on SM100 only; refused on SM90 and ROCm', Reasoning format '<ernie:think> tags, thinking on by default', and DSpark draft 'bundled, loader being fixed'. Footer reads 'All rows from SGLang PR #51236 (open, unmerged) and SGLang docs; Baidu figures unaudited.'

สิ่งนี้มีค่าแค่ไหนสำหรับคนที่กำลังเลือกโมเดลในวันนี้

ในฐานะการตัดสินใจซื้อนั้นแทบไม่มีน้ำหนักเลย และในฐานะการตัดสินใจด้านการจัดตารางเวลาก็มีน้ำหนักพอสมควร รีลีสที่จะทำให้ ERNIE 5.5 Flash เป็นตัวเลือกไม่ใช่ pull request นี้ แต่คือ chat checkpoint บวกกับราคาที่ Baidu ตั้งไว้ บวกกับการประเมินอิสระหนึ่งครั้ง สิ่งที่ PR นี้ตัดสินได้จริงคือรูปร่างของการดีพลอยที่คุณจะต้องลงชื่อเข้าร่วมหากวางแผนจะ self-host: tokenizer แบบ Python ที่ต้องใช้ remote code, fast path แบบ FP4 ที่ต้องใช้ฮาร์ดแวร์ SM100, DSpark speculative draft ที่ถูกบันเดิลไว้ในตระกูล checkpoint เดียวกัน และ reasoning parser ที่สมมติว่าโหมดคิดเปิดอยู่ ทีมที่เคยสมมติว่า “เรามี H100s เราจะรันเวอร์ชันควอนไทซ์ราคาถูก” ตอนนี้รู้แล้วว่าเวอร์ชันควอนไทซ์ราคาถูกคือเวอร์ชันที่ฮาร์ดแวร์ของพวกเขารองรับไม่ได้

หากคุณไม่อยากเดิมพันเส้นทางโปรดักชันกับทั้ง endpoint หรือโค้ดเสิร์ฟที่ยังไม่ถูก merge รูปแบบที่สมเหตุสมผลคือการเก็บโมเดลไว้หลังเลเยอร์จัดเส้นทาง (routing layer) ระหว่างที่มันพิสูจน์ตัวเอง แคตตาล็อกของ OrcaRouter ไม่มีโมเดล ERNIE ใด ๆ เลย — รายการโมเดลคืนค่า 218 รายการ และไม่มีแถวของ Baidu — ดังนั้นนี่ไม่ใช่การอ้างว่าคุณเรียกใช้งานมันที่นี่ได้ตั้งแต่วันนี้ สิ่งที่แพลตฟอร์มมอบให้คุณสำหรับโมเดลในสถานะนี้คือการออกแบบการทดลอง: endpoint เดียวที่เข้ากันได้กับ OpenAI ไว้ข้างหน้าโมเดลอื่นอีกกว่า 200 ตัว, การ failover อัตโนมัติข้ามผู้ให้บริการต่าง ๆ ภายใต้ endpoint เดียวกันนั้น และ มาร์กอัป 0% โดยส่งต่อราคาตามรายการของผู้ให้บริการ ดังนั้นหากผู้ขายปรับราคา สิ่งที่คุณจ่ายคือราคานั้นในวันที่เกิดขึ้น ไม่ใช่หลังจากบวกกำไรเข้าไปแล้ว หากภายหลัง ERNIE 5.5 Flash ไปอยู่บนผู้ให้บริการที่คุณจัดเส้นทางอยู่แล้ว การลองใช้มันก็กลายเป็นการเปลี่ยนสตริงชื่อโมเดล ไม่ใช่การอินทิเกรตครั้งที่สอง

The GitHub pull request page for sgl-project/sglang PR #51236, titled 'ERNIE-5.5-Flash: Add Python chat template encoding and FP4 MegaMoE serving', showing the header line 'chang-wenbin wants to merge 1 commit into sgl-project:main from chang-wenbin:support-ernie55-1118', the tab strip with Checks 133 and Files changed 14, +525 −24, the top of the Motivation section describing ErnieChatTokenizer, MXFP4 routed experts and a bundled DSpark draft, and — further down — the CI States panel listing the Base, Extra and AMD ROCm 10 test runs as Skipped pending a run-ci label.

อะไรจะทำให้สิ่งนี้กลายเป็นเรื่องราวการเปิดตัว

สี่เรื่อง โดยเรียงตามคร่าว ๆ ว่าสิ่งไหนจะเปลี่ยนภาพรวมได้มากน้อยแค่ไหน การที่ pull request ถูก merge พร้อม CI และการรันตรวจสอบความแม่นยำที่ผ่านการรีวิว จะเปลี่ยนจาก “มีคนเขียนสิ่งนี้ขึ้นมา” เป็น “SGLang ให้บริการสิ่งนี้ได้” ซึ่งเป็นความแตกต่างที่การรองรับ Base ก่อนหน้านี้สร้างขึ้นเมื่อวันที่ 6 พฤศจิกายน การปรากฏของเช็กพอยต์ MXFP4 บน Hugging Face จะทำให้ครึ่งที่เป็น FP4 ของ PR ถูกทดสอบได้โดยใครก็ตามที่มี B200 น้ำหนัก Apache 2.0 ที่ Baidu สัญญาไว้สำหรับ Preview จะยุติคำถามเรื่องสัญญาอนุญาตที่การเปิดตัว Base ยังคงค้างไว้ และคะแนนอิสระชุดแรก — หน้า Artificial Analysis, รายการจัดอันดับในอารีนา, เกณฑ์มาตรฐานแบบเอเจนต์ที่ทำซ้ำได้จากคนที่ไม่ใช่ Baidu — จะแทนที่ตารางจากผู้ขายด้วยหลักฐาน

จนถึงตอนนั้น คำถามที่น่าสนใจไม่ใช่ ERNIE 5.5 Flash ดีหรือไม่ แต่คือว่าโมเดลหนึ่งจะเปิดตัวโดยมีสัญญาการให้บริการระบุไว้ครบถ้วน ในขณะที่น้ำหนักของมันยังไม่ถูกเผยแพร่ได้หรือไม่ และสิ่งนั้นส่งผลอย่างไรต่อผู้ที่วางแผนฮาร์ดแวร์ตามประกาศต่าง ๆ สัปดาห์นี้คำตอบคือใช่ และสัญญานั้นคือเทมเพลตแชตใน Python, expert แบบสี่บิตบน GPU รุ่นหนึ่ง และการปฏิเสธที่จะเริ่มต้นที่ใดอื่น ก้าวต่อไปของ Baidu คือน้ำหนักโมเดล ส่วนของ SGLang คือการรีวิว

© 2026 OrcaRouter

สำหรับผู้ให้บริการ

ให้บริการแพลตฟอร์มการอนุมานอยู่หรือไม่ นำโมเดลของคุณขึ้น OrcaRouter

[email protected]

เข้าร่วมคอมมูนิตี้ของเรา

Discord[email protected]XLinkedInGitHubYouTube