ERNIE-5.5-Flash-Base: Baidu เปิดเช็กพอยต์ขนาด 280B แล้วจำกัดขอบเขตที่คุณจะใช้งานได้

เป็นเวลาสองสัปดาห์ สิ่งที่น่าสังเกตที่สุดเกี่ยวกับ ERNIE-5.5-Flash-Base ก็คือ Baidu พูดถึงมันน้อยมาก โดยรีโพซิทอรีบน Hugging Face ถูกสร้างขึ้นเมื่อวันที่ 21 ตุลาคม 2026 และแทบว่างเปล่าจนถึงวันที่ 2 พฤศจิกายน โดยมีเพียง README เท่านั้น ชิ้นส่วนน้ำหนักชุดแรกมาถึงในเช้าวันนั้น และเช็กพอยต์ FP8 ที่แบ่งเป็น 128 ส่วนก็อัปโหลดเสร็จในวันถัดไป เพิ่งวันที่ 5 พฤศจิกายน ที่ Baidu เผยแพร่บล็อกทางเทคนิคและโมเดลการ์ดที่อธิบายว่าจริง ๆ แล้วตนได้ใส่อะไรไว้ที่นั่น: เช็กพอยต์ sparse mixture-of-experts ขนาด 280B พารามิเตอร์ โดยมี 14B พารามิเตอร์ที่ใช้งานต่อโทเคน ซึ่งผ่านการ pretrain ตั้งแต่ต้นด้วย 33.5 ล้านล้านโทเคน

ภายในเช้าวันนั้น รีโพซิทอรีหลักถูกดาวน์โหลดไปแล้วสี่ครั้ง เมื่อเทียบกับจำนวนไลก์ที่อยู่ในช่วงปลายห้าสิบ ระยะห่างระหว่างตัวเลขสองตัวนั้นคือภาพย่อของการเปิดตัวครั้งนี้ ผู้คนจำนวนมากกำลังจับตาการหันสู่โมเดลน้ำหนักเปิดเป็นครั้งที่สองของ Baidu และแทบยังไม่มีใครนำน้ำหนักโมเดลกลับบ้านไปเลย

มีสองสิ่งที่อธิบายความลังเล และทั้งสองเป็นคุณสมบัติของตัวรีลีสเอง ไม่ใช่กระแสพูดคุยรอบ ๆ สิ่งแรกคือนี่คือ baseเช็กพอยต์ — จุดสิ้นสุดของการพรีเทรน โดยไม่มีมิดเทรนและไม่มีโพสต์เทรน — ดังนั้นจึงไม่ใช่โมเดลแชตและไม่ได้มีพฤติกรรมเหมือนโมเดลแชต อย่างที่สองคือสัญญาอนุญาต ไม่ใช่ Apache 2.0 ไม่ครอบคลุมสหภาพยุโรป สหราชอาณาจักร หรือเกาหลีใต้ และข้อกำหนดเชิงพาณิชย์จะเปลี่ยนเมื่อรายได้ที่เกี่ยวข้องของคุณเกิน 50 ล้านดอลลาร์สหรัฐต่อปี

Baidu เผยแพร่สิ่งใด และในลำดับใด

ประวัติคอมมิตในรีโพซิทอรีเป็นบันทึกการเผยแพร่ที่ชัดเจนกว่าประกาศใด ๆ คอมมิตแรกเมื่อวันที่ 21 ตุลาคม README เมื่อวันที่ 26 ตุลาคม ตามมาด้วยการอัปโหลดโฟลเดอร์ในอีกสองนาทีถัดมา และจากนั้นก็เป็นการลบภาพสถาปัตยกรรมและประสิทธิภาพ — ความวุ่นวายปกติของการที่ใครสักคนกำลังประกอบหน้าเพจขึ้นมา ไฟล์การกำหนดค่ามาถึงเมื่อวันที่ 2 พฤศจิกายน เวลา 06:29 ชาร์ดน้ำหนักตามมาทันที และชิ้นสุดท้ายของทั้ง 128 ชิ้นก่อน 09:00 ของเช้าวันถัดไป ตัวเลข benchmark และสถาปัตยกรรมถูกอัปโหลดเมื่อวันที่ 4 พฤศจิกายน โลโก้ การปรับแต่ง tokenizer และการตรวจทาน README รอบสุดท้ายมาถึงเมื่อวันที่ 5 พฤศจิกายน ภายในไม่กี่ชั่วโมงหลังโพสต์บล็อกเผยแพร่

ดังนั้นลำดับคือ: น้ำหนักโมเดลมาก่อน เอกสารประกอบเป็นลำดับที่สอง และการประกาศเป็นลำดับที่สาม Baidu ไม่ได้จัดงานเปิดตัวแล้วค่อยลากไฟล์ออกมาตามหลัง แต่เอา 280B checkpoint ขึ้นอินเทอร์เน็ต แล้วค่อยเขียนคำอธิบายทีหลัง เรื่องนี้ควรพูดให้ชัด เพราะกรอบการนำเสนอที่คุณจะเห็นในสื่อภาษาจีน — การประกาศเปิดโอเพนซอร์สอย่างมีชัย — อธิบายสิ่งที่เกิดขึ้นในวันที่ 5 พฤศจิกายน ไม่ใช่สิ่งที่เกิดขึ้นในวันที่ 2 พฤศจิกายน

มีอยู่สองรีโป และการแยกกันครั้งนี้สำคัญกว่าที่เคยเป็น baidu/ERNIE-5.5-Flash-Base เผยแพร่เป็นไฟล์ safetensors แบบ FP8 ผสมความแม่นยำ ส่วน baidu/ERNIE-5.5-Flash-Base-BF16 เผยแพร่เช็กพอยต์เดียวกันในรูปแบบ BF16 ทั้งสองรีโปไม่มีการจำกัดการเข้าถึง ทั้งคู่รองรับเฉพาะข้อความ และทั้งคู่ประกาศจำนวนพารามิเตอร์รวม 280B และจำนวนที่เปิดใช้งาน 14B เท่ากัน นอกจากนี้ยังมีชุดน้ำหนักชุดที่สามอยู่ในโมเดลในฐานะพารามิเตอร์ ECHO จำนวน 0.36B ซึ่ง Baidu ตัดออกจากการนับจำนวนพารามิเตอร์หลักอย่างชัดเจน

วิธีนับเหล่านี้ควรกำหนดให้ชัด เพราะมันขัดแย้งกันในหน้าเดียวกัน ตัวเลข 280B ของ Baidu นับรวม input embedding และ output head ส่วนตัวเลข activated 14B ของ Baidu นับ output head แต่ไม่นับการ lookup embedding วิดเจ็ตขนาดโมเดลของ Hugging Face เองแสดง 286B ซึ่งเป็นวิธีนับอีกแบบที่ใช้กับไฟล์ชุดเดียวกัน ไม่มีอันไหนผิด ทั้งสองกำลังตอบคำถามที่ต่างกันเล็กน้อย และสเปกชีตที่ผสมทั้งสองวิธีเข้าด้วยกันจะบวกกันไม่ลงตัว

Base checkpoint ไม่ใช่แชตบอต และความแตกต่างนี้ไม่ใช่แค่เรื่องผิวเผิน

บรรทัดที่ส่งผลกระทบมากที่สุดเพียงบรรทัดเดียวบนการ์ดโมเดลกลับเป็นบรรทัดที่ดูน่าตื่นเต้นน้อยที่สุด: นี่คือ "เช็กพอยต์เมื่อสิ้นสุดการพรีเทรน ก่อนการเทรนช่วงกลางหรือหลังการเทรนใด ๆ" วัตถุประสงค์ที่ Baidu ระบุไว้คือการปรับให้เข้ากับโดเมน การปรับแต่งตามคำสั่ง และการวิจัยด้านการเรียนรู้แบบเสริมกำลัง มันคือจุดเริ่มต้น ที่ถูกขายในฐานะจุดเริ่มต้น

ในทางปฏิบัติ นั่นหมายความว่าคุณไม่สามารถนำมันไปสลับใช้ในผลิตภัณฑ์แชตแล้วคาดหวัง ERNIE ได้ การ์ดโมเดลให้บริการผ่าน endpoint /v1/completions แทน chat completions และระบุว่าอินพุตต้องมีโทเค็น BOS ดังนั้นการทำโทเค็นไลเซชันจึงต้องคง add_special_tokens=True ไว้ โมเดลฐานจะต่อข้อความเท่านั้น มันไม่ทำตามคำสั่ง ไม่ปฏิเสธคำขอ หรือสนทนาโต้ตอบ เพราะไม่มีอะไรสอนมันให้ทำเช่นนั้น

ยังไม่มีรุ่นพี่น้องที่ผ่านการ post-train อีกด้วย และนี่คือส่วนที่ผู้อ่านมักเข้าใจผิดบ่อยที่สุดเมื่อเห็นตัวเลข benchmark บล็อกของ Baidu ระบุว่า ERNIE 5.5 Flash ที่ผ่านการ post-train “จะตามมาในภายหลัง” แต่ปัจจุบันยังไม่มีอยู่จริง ไม่มี hosted API สำหรับรุ่นนี้บน Qianfan ที่เอกสารเปิดตัวระบุชื่อไว้ ไม่มี chat model ให้เปรียบเทียบ และไม่มีแถวสำหรับ ERNIE 5.5 Flash บน Artificial Analysis — ฉันตรวจสอบดัชนีโมเดลเมื่อวันที่ 5 พฤศจิกายน แล้วพบว่ามี ERNIE 4.5 300B A47B และ ERNIE 5.0 Thinking Preview และไม่มีสิ่งใดจากสาย 5.5

ดังนั้น คำอธิบายที่ตรงไปตรงมาของ 5.5 Flash ในฐานะตระกูลผลิตภัณฑ์ ณ วันที่ประกาศ คือ: มี base checkpoint เพียงหนึ่งเดียว, open weights, ไม่มีโมเดล instruct, ไม่มี endpoint ส่วนสิ่งอื่น ๆ ล้วนเป็นคำสัญญาเกี่ยวกับภายหลัง

ภายในสถาปัตยกรรม โดยย่อ

Baidu ทุ่มความพยายามด้านวิศวกรรมไปกับต้นทุนของบริบทแบบยาว และการออกแบบนั้นก็เข้าใจได้อย่างชัดเจน แม้คุณจะไม่เคยฝึกมันเลย

• Attention — 37 จาก 43 เลเยอร์ใช้ Heavily Compressed Attention ซึ่งแคชหนึ่งรายการต่อ 128 โทเค็น ขณะที่ 6 เลเยอร์ยังคงเข้าถึงระดับโทเค็นผ่าน MLA ด้วย sparse attention (DSA) ภายใต้งบประมาณ KV-cache ที่เท่ากัน Baidu รายงานว่า HCA ที่จับคู่กับ MLA ดีกว่า HCA ที่จับคู่กับ compressed sparse attention

• รูปทรงของหัว — เลเยอร์ HCA ที่มีต้นทุนต่ำและถูกบีบอัด 128 เท่าจะได้หัวที่มีความกว้าง 512 มิติ ส่วนเลเยอร์ MLA ระดับโทเคนที่มีต้นทุนสูงจะได้หัวที่แคบเพียง 256 มิติ ความกว้างของหัวถูกจับคู่ให้สอดคล้องกับต้นทุนแอตเทนชันจริงของแต่ละเลเยอร์

• ผู้เชี่ยวชาญ — ผู้เชี่ยวชาญที่ถูกจัดเส้นทาง 512 รายต่อเลเยอร์ MoE ด้วยการจัดเส้นทางแบบ top-10 พร้อมผู้เชี่ยวชาญที่แชร์หนึ่งราย ถูกดิสแพตช์และรวมในพื้นที่แฝงขนาด 2,048 มิติ ที่ครึ่งหนึ่งของ hidden width การปรับสมดุลโหลดไม่มี auxiliary loss

• เรซิดิวและเอาต์พุต — Manifold-Constrained Hyper-Connections ที่มีกระแสเรซิดิวแบบขนานสี่สายจะแทนที่เส้นทางเรซิดิวมาตรฐาน และหัว MultiMax ที่มีอุณหภูมิแบบแบ่งช่วงซึ่งเรียนรู้ได้จะทำให้การกระจายของคำศัพท์คมชัดขึ้น

• ECHO — แทนที่จะเป็นโมดูลพยากรณ์หลายโทเคนแยกต่างหาก เลเยอร์สุดท้ายของ backbone เองจะพยากรณ์โทเคนในอนาคตและยังทำหน้าที่เป็นโมเดลฉบับร่างสำหรับ speculative decoding ด้วย นี่คือ {{1}}0.36B{{/1}} ที่อยู่นอก{{2}}จำนวนพารามิเตอร์{{/2}}

• โทเค็นไนเซอร์ — ประมาณ 201,000 รายการ BPE โดยตัวเลขจะถูกแบ่งเป็นโทเค็นจากขวาไปซ้ายเป็นกลุ่มละไม่เกินสามหลัก

เรื่องราวของบริบทคือพาดหัวเชิงปฏิบัติ: 128K ระหว่างการฝึก และ 1M สำหรับการไฟน์ทูนและการอนุมาน โดยการกำหนดค่าที่เผยแพร่แล้วเปิดใช้การตั้งค่า 1M อยู่แล้ว นั่นเป็นหน้าต่างบริบทที่ใหญ่จริง ๆ สำหรับเช็กพอยต์แบบเปิดในขนาดนี้ และเป็นความสามารถที่ Baidu สร้างสถาปัตยกรรมขึ้นมารองรับตั้งแต่แรก ไม่ใช่สิ่งที่เติมเข้ามาทีหลัง

ตาราง benchmark นั้นมีอยู่จริง และมันไม่ใช่ตัวเลขที่คุณคิดว่ามันเป็น

Baidu เผยแพร่ 30 แถว ครอบคลุมการสอบ ความรู้ STEM การให้เหตุผล หลายภาษา โค้ด และบริบทยาว เทียบกับโมเดลฐานร่วมสมัยสามตัว ได้แก่ DeepSeek-V4-Flash-Base ที่มีพารามิเตอร์รวม 284B และเปิดใช้งาน 13B, Hy3-preview-Base ที่ 295B และ 21B และ MiMo-V2.5-Base ที่ 310B และ 15B ทั้งสี่ตัวถูกนำไปรันผ่านไปป์ไลน์การประเมินเดียวด้วยพรอมป์ต์และค่าตั้ง few-shot ชุดเดียวกัน — ซึ่งเป็นวิธีที่ถูกต้องในการสร้างตาราง และยังเป็นเหตุผลว่าทำไมตารางนี้จึงนำไปวางในลีดเดอร์บอร์ดข้างโมเดลแชตไม่ได้

ERNIE-5.5-Flash-Base นำอยู่ใน 24 จาก 30 แถว ส่วนต่างที่สำคัญที่สุดอยู่ที่งานโค้ดและความรู้เชิงข้อสอบ ซึ่งโดยปกติความแตกต่างระหว่างโมเดลฐานมักมีน้อย:

• HumanEval+ (1-shot, Pass@1) — ERNIE 82.3 เทียบกับ DeepSeek 69.5, Hy3 78.0, MiMo 74.4

• MMLU-Pro (5-shot, EM) — ERNIE 78.4 เทียบกับ DeepSeek 69.2, Hy3 66.9, MiMo 65.7

LiveCodeBench (1-shot, Pass@1) — ERNIE 40.1 เทียบกับ DeepSeek 31.9, Hy3 33.5, MiMo 32.4

• RepoQA (0-shot, Pass@1) — ERNIE 91.7 เทียบกับ DeepSeek 81.0, Hy3 91.3, MiMo 56.5

มันยังแพ้ไปหกครั้ง และหกครั้งเหล่านั้นให้ข้อมูลที่เป็นประโยชน์กว่าชัยชนะเสียอีก ChineseSimpleQA ตกเป็นของ DeepSeek ที่ 75.3 เทียบกับ 73.0 ของ ERNIE BBH แบบ chain-of-thought ตกเป็นของ Hy3 ที่ 90.0 เทียบกับ 89.2 INCLUDE-lite เป็นการแพ้แบบต่างกันเพียงการปัดเศษให้ DeepSeek 79.8 ต่อ 79.5 FullStackBench ตกเป็นของ Hy3 ที่ 56.7 เทียบกับ 54.6 HELMET-Rerank คือความพ่ายแพ้ที่ห่างที่สุด 60.0 ต่อ 56.2 InfiniteBench 48.0 ต่อ 46.5 ก็ตกเป็นของ DeepSeek เช่นกัน — ซึ่งเป็นผลลัพธ์ที่เสียดแทงสำหรับโมเดลที่มีเป้าหมายการออกแบบหลักคือบริบทยาว

ตัวเลขทุกตัวเหล่านั้นเป็นของ Baidu เอง ผลิตโดย Baidu บนฮาร์เนสที่ Baidu ตั้งค่าเอง และเผยแพร่ควบคู่กับเวต ไม่มีบุคคลที่สามรายใดทำซ้ำได้แม้แต่ส่วนเดียว นั่นไม่ใช่ข้อกล่าวหา มันเป็นสภาวะปกติของโมเดลที่เพิ่งมีอายุได้ไม่กี่ชั่วโมง และเป็นสภาวะที่ตารางจากผู้ขายถูกอ้างอิงราวกับว่าเป็นผลการวัดจริงบ่อยที่สุด

การเปรียบเทียบที่มีประโยชน์จริง ๆ ยังไม่มีอยู่ และไม่ใช่การเปรียบเทียบที่ตารางชวนให้ทำ ทั้งหมดนี้เป็น baseโมเดล คะแนน 93.3 บน MMLU สำหรับเช็กพอยต์ฐานไม่ใช่ 93.3 บนโมเดลแชต และการนำมันไปวางข้างคะแนน Artificial Analysis Intelligence Index — ซึ่งคำนวณจากโมเดลที่ผ่านการฝึกภายหลังซึ่งทำงานเชิงเอเจนต์และการให้เหตุผล — จะเป็นการผิดประเภท Baidu ได้เผยแพร่การเปรียบเทียบภายในหมวดหมู่เดียวกันอย่างรอบคอบ ข้อผิดพลาดที่ทุกคนที่อ่านมันสามารถทำได้คือการมองว่ามันเป็นการเปรียบเทียบข้ามหมวดหมู่

ใบอนุญาตคือส่วนที่จะหยุดผู้คนได้จริง

หากตัดประกาศออกไป เอกสารที่ใช้บังคับกับการเปิดตัวครั้งนี้คือ ERNIE 5.5 Flash Base Model License Agreement v1.0 โดยระบุวันที่ 5 พฤศจิกายน 2026 — ตัวสัญญาอนุญาตเองเป็นหลักฐานยืนยันวันที่ประกาศที่เชื่อถือได้มากที่สุด — และเป็นข้อตกลงที่กำหนดขึ้นเอง ไม่ใช่สัญญาอนุญาตที่ได้รับการรับรองจาก OSI

สามอนุประโยคนี้ทำงานส่วนใหญ่

• ดินแดน การอนุญาตนี้กระทำ "ภายในดินแดนเท่านั้น" ซึ่งข้อ 1.11 กำหนดให้หมายถึงทุกพื้นที่ทางภูมิศาสตร์ทั่วโลก ยกเว้นสหภาพยุโรป สหราชอาณาจักร และเกาหลีใต้ การแจกจ่ายซ้ำภายใต้ข้อ 3.1 จำกัดอยู่ในดินแดนเดียวกัน นี่คือข้อที่อาจสำคัญที่สุดสำหรับบริษัทที่อ่านคำว่า "open weights" และวางแผนการติดตั้งใช้งาน

• เกณฑ์ 50 ล้านดอลลาร์สหรัฐ การใช้งานที่ไม่ใช่เชิงพาณิชย์ไม่มีค่าใช้จ่าย การใช้งานเชิงพาณิชย์ก็ไม่มีค่าใช้จ่ายเช่นกัน ตราบใดที่รายได้ต่อปีของคุณจากผลิตภัณฑ์หรือบริการที่เกี่ยวข้องอยู่ในระดับไม่เกิน 50 ล้านดอลลาร์สหรัฐ โดยมีเงื่อนไขว่าคุณต้องส่งหนังสือแจ้งการใช้งานครั้งเดียวถึง Baidu ก่อนการใช้งานเชิงพาณิชย์ครั้งแรก และแสดงข้อความตามตัวอักษรว่า "Powered by ERNIE" ไว้ในตำแหน่งที่เข้าถึงได้ง่าย — เช่น UI หน้าเกี่ยวกับ หรือสำหรับ API และบริการแบ็กเอนด์ ให้ระบุในเอกสารสำหรับนักพัฒนาของคุณ หากเกิน 50 ล้านดอลลาร์สหรัฐ คุณต้องได้รับอนุญาตเป็นลายลักษณ์อักษรล่วงหน้าแยกต่างหากก่อนเริ่มใช้งาน และค่าธรรมเนียมจะเป็นไปตามข้อตกลงแยกต่างหาก

• การนับรายได้ ข้อ 1.7 รวมทุกนิติบุคคลภายใต้การควบคุมร่วมกัน — คือถือหุ้นหรือสิทธิออกเสียงเกิน 50% — เป็นผู้ประกอบการรายเดียว นอกจากนี้ยังนับรายได้ทั้งหมดของผลิตภัณฑ์ที่เกี่ยวข้อง แม้ผลิตภัณฑ์นั้นจะใช้โมเดลอื่นร่วมกับ ERNIE ด้วย คุณไม่สามารถจัดสรรเพื่อให้ต่ำกว่าเกณฑ์ได้โดยอ้างถึงสัดส่วนทราฟฟิกที่แตะน้ำหนักเหล่านี้

ความแตกต่างเมื่อเทียบกับประวัติศาสตร์ของ Baidu เองคือสิ่งที่ทำให้เรื่องนี้น่าติดตามมากกว่าจะเป็นเรื่องปกติ ERNIE 4.5 ซึ่งเปิดตัวเมื่อวันที่ 30 มิถุนายน 2025 ส่งมอบสิบรูปแบบภายใต้ Apache 2.0 — แบบเปิดกว้างอย่างแท้จริง ไม่มีข้อจำกัดด้านดินแดน ไม่มีเงื่อนไขรายได้ ไม่มีข้อกำหนดการระบุที่มา ERNIE 5.0 ในเดือนพฤศจิกายน 2025 ไปในทิศทางตรงกันข้ามโดยสิ้นเชิงและไม่ได้เผยแพร่ค่าน้ำหนักใด ๆ เลย ERNIE-5.5-Flash-Base เป็นจุดยืนที่สาม: ค่าน้ำหนักที่คุณดาวน์โหลดได้ ภายใต้เงื่อนไขที่ทำให้คำว่า "open" เป็นคำกล่าวเกี่ยวกับความพร้อมใช้งานมากกว่าการอนุญาต

หากคุณกำลังประเมินโมเดลนี้เพื่อการใช้งานเชิงพาณิชย์ใด ๆ โปรดอ่านหัวข้อ 1.7, 1.11 และ 4 ก่อนที่คุณจะอ่านตาราง benchmark ตารางนี้บอกคุณว่าโมเดลทำอะไรได้บ้าง สามหัวข้อนั้นบอกคุณว่าคุณได้รับอนุญาตให้ค้นหาหรือไม่

สิ่งที่ต้องใช้ในการรัน

เวตมีขนาดใหญ่พอที่คำถามเรื่องฮาร์ดแวร์จะตอบตัวเองได้ และเล็กพอที่คำตอบจะไม่ไร้เหตุผล ที่ FP8 พารามิเตอร์ 280B คือเวตประมาณ 280 GB ก่อนจะมี KV cache ใด ๆ — เป็นการคำนวณ ไม่ใช่การวัด — ซึ่งพอดีกับโหนดสี่ GPU ที่ใช้การ์ด 80 GB โดยมีพื้นที่เหลือที่ตึงกว่าที่ฟังดูเมื่อคุณเปิดบริบท 128K รีโพซิทอรี BF16 เพิ่มเป็นสองเท่าคือประมาณ 560 GB และต้องใช้การ์ดแปดใบ

Baidu มีช่องทางการให้บริการสองเส้นทาง และทั้งสองเส้นทางก็มีความยุ่งยากที่ควรรู้ไว้ก่อนเริ่มต้น

• SGLang — อิมเมจสำเร็จรูป lmsysorg/sglang:dev-ernie-55-flash เปิดใช้งานด้วย tensor parallelism 4 และ attention data parallelism 4 เป็นแท็ก dev ไม่ใช่รีลีสที่ปักหมุดไว้

• vLLM — vLLM 0.32.0 พร้อมปลั๊กอินที่ติดตั้งจากรีโป vLLM-ERNIE ของ Baidu แฟล็กสำหรับเปิดใช้งานประกอบด้วย FP8 KV cache, expert parallelism และ --moe-backend humming

ไม่มีเส้นทางไหนที่ติดตั้งได้ในบรรทัดเดียว และเส้นทางผ่าน vLLM โดยเฉพาะจะตรึงคุณไว้กับ vLLM เวอร์ชันที่กำหนดและปลั๊กอินที่ Baidu ดูแล ซึ่งเป็นเรื่องปกติสำหรับโมเดลที่มีโครงสร้าง attention และ MoE แบบใหม่ และเป็นรายละเอียดประเภทที่ตัดสินว่าการประเมินสองสัปดาห์จะล่าช้าออกไปหนึ่งสัปดาห์หรือไม่ ตัวอย่างการ fine-tuning ด้วย Megatron-Bridge ถูกลิงก์จาก model card ด้วยเหตุผลเดียวกัน: checkpoint นี้มีไว้เพื่อนำไปเทรน ไม่ใช่แค่ให้เสิร์ฟ

ใครควรดาวน์โหลด และใครควรรอ

ดาวน์โหลดได้เลยหากคุณพร้อมสำหรับการ fine-tune เช็กพอยต์ฐาน 280B-A14B ที่ฝึกด้วยโทเคน 33.5T มีหน้าต่าง inference 1M โทเคน และข้อกำหนดเชิงพาณิชย์ที่ใช้ได้เมื่อรายได้ต่ำกว่าเกณฑ์และอยู่นอกดินแดนที่ถูกยกเว้น ถือเป็นจุดเริ่มต้นที่จริงจังสำหรับ domain adaptation หรือการรัน RL — และ activation ratio หมายความว่าต้นทุนการฝึกและการให้บริการของคุณจะอิงกับ 14B ไม่ใช่ 280B งานด้านประสิทธิภาพที่ Baidu ทำกับ attention และ KV cache มุ่งเป้าโดยตรงไปที่เวิร์กโหลดแบบ long-context และ agentic ซึ่งมีค่าใช้จ่ายสูงในการรันบนโมเดล dense ที่มีคุณภาพเทียบเคียงกัน

รอก่อนนะ ถ้าคุณต้องการโมเดลที่เรียกใช้ได้ ยังไม่มีเวอร์ชัน instruct ไม่มี API และไม่มีการประเมินผลที่เป็นอิสระ ใครก็ตามที่ต้องการ ERNIE 5.5 Flash ในฐานะผลิตภัณฑ์กำลังรอรีลีสหลังการฝึกที่ Baidu สัญญาไว้แต่ยังไม่กำหนดวันที่

และตรวจสอบแผนที่ก่อนด้วยเช่นกัน หากผู้ใช้ นิติบุคคล หรือโครงสร้างพื้นฐานของคุณตั้งอยู่ในสหภาพยุโรป สหราชอาณาจักร หรือเกาหลีใต้ ใบอนุญาตไม่ได้ให้สิทธิ์ที่ปุ่มดาวน์โหลดสื่อเป็นนัยแก่คุณ

มีทางสายกลางที่ใช้ได้จริงสำหรับทีมที่คำถามจริงไม่ใช่ "เรารันสิ่งนี้ได้ไหม" แต่เป็น "สิ่งนี้ดีกว่าสิ่งที่เราจ่ายอยู่แล้วหรือไม่" การเปรียบเทียบที่คุณต้องการคือกับโมเดลแบบโฮสต์ที่คุณจะนำมาแทนที่ และกับโมเดลที่คุณเรียกใช้ได้ในวันนี้ OrcaRouter นำโมเดลกว่า 200 รุ่นมาไว้เบื้องหลัง API เดียวโดยบวกเพิ่ม 0% — ราคาตามรายการของผู้ให้บริการถูกส่งผ่านโดยตรง ดังนั้นการลดราคาของผู้ขายจึงมีผลในวันเดียวกัน — ซึ่งทำให้การทดสอบเทียบเคียงกับโมเดลที่ใช้งานจริงในปัจจุบันของคุณเป็นเพียงการเปลี่ยนสตริงโมเดล แทนที่จะต้องเซ็นสัญญาฉบับที่สอง สำหรับเช็กพอยต์ที่คุณตั้งใจจะไฟน์ทูนและโฮสต์เอง เลเยอร์การกำหนดเส้นทางคือวิธีที่คุณทำให้โมเดลเดิมยังคงอยู่ในวงจร while คุณค้นหาว่าการไฟน์ทูนนั้นดีกว่าจริงหรือไม่ พร้อมการสลับไปใช้สำรองอัตโนมัติหากไม่ดีกว่า ERNIE-5.5-Flash-Base ไม่ได้อยู่บน OrcaRouter; มันคือชุดน้ำหนักที่คุณรันเอง และไม่มีสิ่งใดในที่นี้เปลี่ยนข้อเท็จจริงนั้น

ดูอะไรดี

ตัวแปรที่น่าสนใจไม่ใช่ว่า base checkpoint นั้นดีหรือไม่ — จาก{{1}}ตัวเลขของ Baidu เอง{{/1}} มันแข่งขันได้กับ base model ที่นำมาเปรียบเทียบด้วย และชนะในแถวส่วนใหญ่ ตัวแปรคือ Baidu ทำอะไรกับโมเดลที่ผ่าน post-training เพราะนั่นคือจุดที่{{2}}เงื่อนไขสัญญาอนุญาต{{/2}}เริ่มมีผลผูกพันกับผลิตภัณฑ์จริง และเป็นจุดที่{{3}}คะแนนที่เป็นอิสระ{{/3}}จะเกิดขึ้นในที่สุด

มีสองวันที่ควรค่าแก่การจดจำ วันแรกคือ ERNIE 5.5 Flash เวอร์ชัน post-trained ซึ่ง Baidu กล่าวว่าจะตามมาและยังไม่ได้กำหนดตารางเวลา วันที่สองคือการทำซ้ำผลลัพธ์โดยบุคคลที่สามเป็นครั้งแรกสำหรับแถวใดก็ตามในตาราง 30 แถวนั้น — ช่วงเวลาที่ตัวเลขเหล่านั้นเลิกเป็นของ Baidu และเริ่มเป็นของทุกคน จนกว่าจะถึงตอนนั้น บทสรุปที่ตรงไปตรงมาของ ERNIE-5.5-Flash-Base ก็คือ Baidu ได้เผยแพร่เช็กพอยต์ pretraining ขนาดใหญ่ที่ได้รับการออกแบบอย่างพิถีพิถันต่อสาธารณะ อธิบายไว้อย่างถูกต้อง และแนบสัญญาอนุญาตซึ่งเปิดกว้างน้อยกว่าที่วลี "open weights" มักสื่อถึงอย่างมาก