
Ling-3.0-flash: สิ่งที่เรารู้ตอนนี้เกี่ยวกับ MoE ระดับความเร็วสูงแบบ Open-Weight ของ Ant Group
- Orcaใหม่OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 ต่อ 1 ล้านโทเค็น · 186 tok/s
- openaiใหม่OpenAI: GPT-6.2 Astra2026-11-17$8.00 / $40.00 ต่อ 1 ล้านโทเค็น · 86 tok/s
- openaiใหม่OpenAI: GPT-6.2 Sol2026-11-17$2.00 / $10.00 ต่อ 1 ล้านโทเค็น · 151 tok/s
- tencentใหม่Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 ต่อ 1 ล้านโทเค็น · 192 tok/s
- Alibabaใหม่Qwen: Qwen4 Max2026-11-16$1.50 / $4.50 ต่อ 1 ล้านโทเค็น · 86 tok/s
- Googleใหม่Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 ต่อ 1 ล้านโทเค็น · 705 tok/s
- Anthropicใหม่Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 ต่อ 1 ล้านโทเค็น · 246 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 ต่อ 1 ล้านโทเค็น · 97 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 138 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 ต่อ 1 ล้านโทเค็น · 85 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 ต่อ 1 ล้านโทเค็น · 122 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 102 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 70 tok/s
- openaiOpenAI: GPT-6.1 Terra2026-10-26$1.00 / $5.00 ต่อ 1 ล้านโทเค็น · 35 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 89 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 38 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447ความฉลาด
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 231 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929ความฉลาด
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 ต่อ 1 ล้านโทเค็น · 101 tok/s
Ling-3.0-flash — โมเดล MoE ระดับเร็วของ InclusionAI ในเครือ Ant Group ซึ่งประกาศเมื่อวันที่ 24 กรกฎาคม 2026 และเปิดซอร์สภายใต้สัญญาอนุญาต MIT เมื่อวันที่ 7 สิงหาคม — ตอนนี้มีเส้นทางการติดตั้งใช้งานบนอุปกรณ์เดี่ยวที่ชัดเจนแล้ว เมื่อวันที่ 27 ตุลาคม NVIDIA ได้เผยแพร่สูตรทางเทคนิคที่แสดงให้เห็นว่าโมเดลเวอร์ชัน FP4 สามารถถอดรหัสได้ที่ 53.89 โทเคนต่อวินาทีบน DGX Spark เครื่องเดียว เพิ่มขึ้น 42.5% จาก 37.81 โทเคนต่อวินาที ครอบคลุมคำถาม GSM8K ทั้ง 1,319 ข้อ โดยความแม่นยำไม่เปลี่ยนแปลงอย่างมีนัยสำคัญทางสถิติ นี่เป็นการวัดของ NVIDIA เองบนฮาร์ดแวร์ของตนเอง ไม่ใช่การทดสอบโดยบุคคลที่สามอิสระ และใช้กับขนาดแบตช์ 1 เท่านั้น ตัวเลขเหล่านี้ไม่ได้แทนที่ตัวเลขจาก API แบบโฮสต์ด้านล่าง อย่างไรก็ตาม ตัวเลขเหล่านี้ได้เปลี่ยน "เส้นทางการติดตั้งใช้งานบน DGX Spark เครื่องเดียว" ที่ก่อนหน้านี้คลุมเครือให้กลายเป็นการกำหนดค่าที่เผยแพร่แล้ว พร้อมค่าพื้นฐาน โปรโตคอล และโหมดความล้มเหลวที่มีการบันทึกไว้
ตัวโมเดลเองไม่ได้เปลี่ยนแปลงไป เป็นโมเดลผสมผู้เชี่ยวชาญแบบไฮบริดรีซันนิงโดยกำเนิดที่มีพารามิเตอร์รวม 124B และมีพารามิเตอร์ที่ใช้งานต่อโทเคน 5.1B สร้างขึ้นเป็นรุ่นระดับเร็วและประหยัดของตระกูล Ling น้ำหนักโมเดลที่ได้รับอนุญาตแบบ MIT อยู่บน Hugging Face และ ModelScope ตั้งแต่ 7 สิงหาคม สิ่งที่เปลี่ยนไปนับจากเวอร์ชันเดือนสิงหาคมของโพสต์นี้คือบันทึกที่เกี่ยวข้องโดยรอบ การประเมินของ Artificial Analysis ซึ่งโพสต์นี้อ้างถึงในเดือนสิงหาคม ให้คะแนน Ling-3.0-flash ที่ 38 บน Intelligence Index และจัดให้อยู่บนพรมแดน Pareto ของโมเดล open-weights ในมิติความฉลาดเทียบกับจำนวนพารามิเตอร์ทั้งหมด หน้าสดของ AA ตอนนี้ทำเครื่องหมายว่าโมเดลเลิกใช้แล้วโดยหันไปใช้ Ling-3.1-flash ชี้ผู้อ่านไปที่นั่น และไม่แสดง Intelligence Index ปัจจุบันอีกต่อไป คะแนน 38 ยังเป็นคะแนนอิสระล่าสุดที่เช็กพอยต์นี้ได้รับ ไม่ใช่ตัวเลขสด
การแก้ไขครั้งนี้ได้รวมการวัด DGX Spark ประจำเดือนตุลาคมเข้าไว้ด้วย และแก้ไขส่วนต่างๆ ของโพสต์เดือนสิงหาคมที่เปลี่ยนแปลงไป — ตัวเลขความเร็วปัจจุบันของ AA และสถานะการเลิกใช้งานของมัน — โดยคงป้ายกำกับแหล่งที่มาไว้เหมือนเดิม ในกรณีที่ Ant Group หรือ NVIDIA เป็นแหล่งเดียวสำหรับตัวเลขหนึ่งๆ ประโยคนั้นจะระบุไว้เช่นนั้น
สรุปสั้น ๆ Ling-3.0-flash เป็น MoE แบบเปิดน้ำหนักระดับเร็วของ Ant Group: พารามิเตอร์รวม 124B / ใช้งานจริง 5.1B สัญญาอนุญาต MIT บริบทเนทีฟ 256K (262K เมื่อให้บริการ) ปัจจุบันไม่ใช่ Ling รุ่นใหม่ที่สุดแล้ว — AA ระบุว่าล้าสมัยและแทนที่ด้วย Ling-3.1-flash — แต่ยังคงมีให้ใช้งาน มีเอกสารประกอบ และตอนนี้มีสูตรการใช้งานบนอุปกรณ์เดียวที่วัดผลแล้ว การกำหนดค่า DGX Spark ของ NVIDIA เมื่อวันที่ 27 ตุลาคม ทำงานที่ 53.89 tok/s ที่ขนาดแบตช์ 1 บน GSM8K สูงกว่าค่าพื้นฐานของตัวเอง 42.5% ตามที่ผู้ขายรายงาน บน API ที่โฮสต์ AA ระบุปัจจุบันที่ 243 tok/s เอาต์พุต และเวลาไปยังโทเค็นแรก 2.79 วินาที ยังคงเป็นข้อมูลจากผู้ขายเท่านั้น: คำกล่าวอ้างปริมาณงานสูงสุด 1,100+ tok/s ของ Ant ตัวเลข TTFT ต่ำกว่า 100 มิลลิวินาที และตารางเกณฑ์มาตรฐานในโมเดลการ์ด ราคา API ของผู้ให้บริการเองอยู่ที่ 0.075 ดอลลาร์สำหรับอินพุต / 0.22 ดอลลาร์สำหรับเอาต์พุตต่อ 1 ล้านโทเค็น (ลด 80% เมื่อแคชฮิต) ระดับฟรีช่วงเปิดตัวสิ้นสุดวันที่ 3 สิงหาคม และโปรโมชัน Ling Studio ลด 75% สิ้นสุดวันที่ 31 สิงหาคม
ประเด็นสำคัญ
• เป็นรุ่นระดับเร็ว/ประหยัด ไม่ใช่รุ่นเรือธง รุ่นเรือธงขนาด 1T พารามิเตอร์จากรุ่นก่อนยังคงเป็นโมเดลที่ใหญ่ที่สุดของ InclusionAI ส่วน Ling-3.0-flash เป็นรุ่นน้องที่เล็กกว่าและเร็วกว่า ซึ่งมุ่งเป้าไปที่งานข้อความปริมาณมากและการเรียกใช้เครื่องมือ
• น้ำหนักโมเดลยังเปิดให้ใช้ภายใต้สัญญาอนุญาต MIT โดยเผยแพร่บน Hugging Face (inclusionAI/Ling-3.0-flash) และ ModelScope เมื่อวันที่ 7 สิงหาคม และบิลด์ MXFP4 ที่ NVIDIA ระบุไว้สำหรับ DGX Spark ก็จัดส่งมาพร้อมกับเช็กพอยต์ BF16 และ FP8
• คะแนนอิสระนั้นกลายเป็นข้อมูลในอดีตแล้ว การทดสอบของ AA ที่โพสต์นี้อ้างถึงในเดือนสิงหาคมให้คะแนนไว้ที่ 38 เพิ่มขึ้น 24 จาก Ling-2.6-flash และจัดให้อยู่บนพรมแดนพาเรโตของโมเดลโอเพนเวตส์; ขณะนี้หน้าสดของ AA ระบุว่าโมเดลนี้เลิกใช้แล้วโดยหันไปใช้ Ling-3.1-flash และไม่แสดงดัชนีความฉลาดในปัจจุบัน
• ความเร็วมีจุดอ้างอิงสามจุด และทั้งสามจุดใช้แทนกันไม่ได้ AA ระบุอยู่ในปัจจุบันว่า 243 output tok/s บน hosted API; NVIDIA วัดได้ 53.89 tok/s บน DGX Spark หนึ่งเครื่องที่ batch size 1; ส่วน Ant ยังคงอ้างว่าได้ 1,100+ tok/s บนฮาร์ดแวร์คลัสเตอร์ที่ระบุไว้
• ราคาได้รับการกำหนดแล้ว และโปรโมชันต่างๆ ก็สิ้นสุดลงแล้ว $0.075 ต่ออินพุต / $0.22 ต่อเอาต์พุต ต่อ 1M โทเคน พร้อมส่วนลด 80% สำหรับแคชที่ตรงกัน ชั้นฟรีช่วงเปิดตัวสิ้นสุดเมื่อวันที่ 3 สิงหาคม และช่วงลด 75% ของ Ling Studio สิ้นสุดเมื่อวันที่ 31 สิงหาคม
• เป็นส่วนหนึ่งของตระกูลโมเดลสามรุ่น โดย InclusionAI แบ่งไลน์อัปออกเป็น Ling (MoE สำหรับข้อความทั่วไปและเครื่องมือ ซึ่งก็คือโมเดลนี้), Ring (การให้เหตุผล) และ Ming (มัลติโมดัล)
หมายเหตุเกี่ยวกับวิธีอ่านอัปเดตนี้: นี่คือฉบับแก้ไขของตัวอย่างก่อนเผยแพร่เมื่อวันที่ 24 กรกฎาคม และฉบับแก้ไขวันที่ 8 สิงหาคมที่มาก่อนหน้านั้น ผลลัพธ์ DGX Spark วันที่ 27 ตุลาคมเป็นเนื้อหาใหม่ ส่วนการแก้ไข AA เป็นงานจัดระเบียบทั่วไป เพื่อให้โพสต์นี้ไม่อ้างอิงคะแนนสดที่ไม่มีอยู่แล้ว ข้อมูลจำเพาะ การทดสอบประสิทธิภาพ และราคาทุกรายการด้านล่างมีป้ายกำกับแหล่งที่มา
สิ่งที่เรารู้จริงๆ
สถาปัตยกรรมได้รับการจัดทำเอกสารอย่างครบถ้วนบนการ์ดโมเดล Ling-3.0-flash ใช้สแตกแอตเทนชันแบบไฮบริด-ลิเนียร์เนทีฟ — เลเยอร์ Kimi Delta Attention (KDA) และ Gated MLA สลับกันในอัตราส่วน 5:1 (KDA 35 เลเยอร์ + MLA 7 เลเยอร์ รวม 42 เลเยอร์) พร้อมการเกตแบบทแยงมุมละเอียดของ KDA — อยู่บนพื้นฐานของ MoE แบบสแปร์ส 1/64 (ผู้เชี่ยวชาญแบบ routed 512 ตัว เปิดใช้งาน 8 ตัวต่อโทเคน บวกผู้เชี่ยวชาญแบบแชร์อีก 1 ตัว) นี่คือวิธีที่ทำให้มีพารามิเตอร์รวม 124B โดยเปิดใช้งานเพียง 5.1B หน้าต่างบริบทอยู่ที่ 256K โดยธรรมชาติ ให้บริการที่ 262,144 โทเคนในสูตรการอนุมาน และ Ant อ้างว่าสถาปัตยกรรมขยายได้ถึง 1M ไม่เปิดเผยความยาวเอาต์พุตสูงสุด โมเดลนี้รองรับข้อความเท่านั้นพร้อมการเรียกใช้เครื่องมือ ส่วนอินพุตมัลติโมดัลอยู่ในสาย Ming แยกต่างหาก
แล็บเผยแพร่รูปแบบน้ำหนักสองแบบ — BF16 (ประมาณ 255GB) และ FP8 (ประมาณ 128GB) — และมีลิงก์ไปยังตัวแปรที่ชุมชนควอนไทซ์จากโมเดลการ์ด สูตร DGX Spark ใช้แบบที่สาม: บิลด์ MXFP4 ที่พอดีกับหน่วยความจำแบบรวม 121GB ของอุปกรณ์ สูตรการติดตั้งใช้งานของแล็บเองกำหนดเป้าหมายไปที่ SGLang และ vLLM; เส้นทาง Spark ของ NVIDIA ใช้บิลด์ SGLang จาก InclusionAI ที่เพิ่มแบ็กเอนด์ Humming MoE เข้าไป
ความพร้อมใช้งาน: น้ำหนักโมเดลแบบเปิดภายใต้สัญญาอนุญาต MIT
เมื่อวันที่ 7 สิงหาคม ทีม InclusionAI ของ Ant Group ได้เปิดซอร์สเวตภายใต้สัญญาอนุญาต MIT บน Hugging Face (inclusionAI/Ling-3.0-flash) และ ModelScope นี่คือสัญญาอนุญาตแบบเปิดกว้างที่ใช้เชิงพาณิชย์ได้ — เป็นฉบับเดียวกับที่ Ling 2.0 และ Ling 2.6 ใช้เผยแพร่ — และหมายความว่าคุณสามารถโฮสต์เอง ฟайн-ทูน และดีพลอย Ling-3.0-flash ได้ด้วยตัวเอง แทนที่จะเช่าใช้ผ่าน API โมเดลนี้ยังเรียกใช้ได้ผ่าน API สำหรับนักพัฒนาของ Ant เองและแพลตฟอร์มบุคคลที่สามหลายแห่ง สำหรับโมเดลระดับเร็วในราคานี้ คำถามที่น่าสนใจไม่ใช่แล้วว่าคุณโฮสต์เองได้หรือไม่ แต่คืออุปกรณ์ 121GB เครื่องเดียวเพียงพอหรือไม่ ตอนนี้ Ling Cookbook ของ InclusionAI มีโน้ตบุ๊ก DGX Spark ที่ให้เครดิตแก่ Ant Group และ NVIDIA ร่วมกัน และเช็กพอยต์ MXFP4 ที่ใช้ก็เผยแพร่เคียงข้างรูปแบบอื่นๆ ส่วนด้านล่างนี้คือคำตอบที่วัดผลได้เป็นครั้งแรกสำหรับคำถามนั้น

คะแนนอิสระ: ผลลัพธ์เดือนสิงหาคมที่กลายเป็นประวัติศาสตร์แล้ว
การเปลี่ยนแปลงที่ใหญ่ที่สุดเพียงอย่างเดียวจากโพสต์ในเดือนกรกฎาคมคือการปรากฏขึ้นของตัวเลขที่เป็นอิสระ การประเมินของ Artificial Analysis ซึ่งโพสต์นี้ได้อ้างถึงในเดือนสิงหาคม ให้คะแนน Ling-3.0-flash ที่ 38 ใน Intelligence Index — สูงกว่ารุ่น fast-tier ก่อนหน้า Ling-2.6-flash (14) อยู่ 24 คะแนน และอยู่ในระดับเดียวกับ MiMo-V2.5 และ Qwen 3.6 27B ขณะที่เปิดใช้งานพารามิเตอร์เพียงเศษเสี้ยวของทั้งสองรุ่น AA ยังจัดให้โมเดลนี้อยู่บนพรมแดน Pareto ของ open-weights สำหรับความฉลาดเทียบกับจำนวนพารามิเตอร์ทั้งหมด ในขณะนั้นไม่มีโมเดล open-weights ใดที่มีจำนวนพารามิเตอร์ทั้งหมดน้อยกว่าที่ได้คะแนนสูงกว่า ผู้นำ open-weights ระดับ flash-tier บน AA อย่าง DeepSeek V4 Flash ได้คะแนนสูงกว่าอีก (Index 52 ที่ความพยายามในการใช้เหตุผลสูงสุด)
บันทึกนั้นถูกยกเลิกใช้งานแล้วมากกว่าจะถูกพลิกกลับ หน้าปัจจุบันของ AA สำหรับ Ling-3.0-flash ระบุว่าโมเดลนี้เลิกใช้แล้วและแนะนำให้ใช้ Ling-3.1-flash ชี้ผู้อ่านไปยังโมเดลที่ใหม่กว่า และไม่แสดง Intelligence Index ปัจจุบัน คะแนน 38 ยังคงเป็นคะแนนอิสระล่าสุดที่ checkpoint นี้ได้รับ ควรอ่านเป็นผลลัพธ์ ณ เวลาหนึ่ง ไม่ใช่การจัดอันดับสด หากวันนี้คุณกำลังเลือกโมเดล Ling สิ่งที่ควรนำมาเปรียบเทียบคือ Ling-3.1-flash ซึ่ง AA ครอบคลุมอยู่ในปัจจุบัน
ผลลัพธ์ด้าน agentic และ long-context จากการประเมินนั้นก็แข็งแกร่งในเชิงทิศทางเช่นกัน บนชุดทดสอบ τ3-Bench Banking ของ AA นั้น Ling-3.0-flash ทำคะแนนได้ 27% เป็นอันดับสองในกลุ่มโมเดล open-weights ระดับ flash รองจาก DeepSeek V4 Flash (39%) บน GDPval-AA v2 ทำ Elo ได้ 1108 เพิ่มขึ้นจาก 545 ของ Ling-2.6-flash Ant ฝึกโมเดลนี้ในสภาพแวดล้อมแบบโต้ตอบกว่า 10,000 แบบ (ตามข้อมูลที่ผู้ขายรายงาน) และนำเสนอเป็นโหนดประมวลผลสำหรับเวิร์กโฟลว์ของเอเจนต์ — เร็ว ราคาถูก และใช้แล้วทิ้งได้ โดยปล่อยงานที่ต้องใช้การให้เหตุผลหนัก ๆ ให้โมเดลเรือธงขนาดใหญ่กว่า
ข้อควรระวังประการหนึ่งเกี่ยวกับการระบุแหล่งที่มา: ตาราง benchmark บน model card ของ Ant — SWE-Bench Pro 56.6, SWE-bench Multilingual 72.4, MathArena AIME 2026 93.2, HLE 22.7 — เป็นข้อมูลที่ผู้จำหน่ายรายงานเองและยังไม่ได้รับการทำซ้ำอย่างอิสระ ควรถือเป็นคำกล่าวอ้างของห้องแล็บเอง ในหมวดเดียวกับตัวเลขความเร็วสูงสุดด้านล่าง
ความเร็ว: สามตัวเลข สามการตั้งค่าที่แตกต่างกัน
เรื่องราวความเร็วตอนนี้มีตัวเลขสามตัว และสิ่งแรกที่ต้องทำคือเลิกมองว่าพวกมันเป็นการวัดเดียวกัน
บน API แบบโฮสต์ Artificial Analysis ระบุอยู่ในปัจจุบันที่ 243 โทเค็นเอาต์พุตต่อวินาที และเวลาไปถึงโทเค็นแรก 2.79 วินาที ซึ่งต่ำกว่า 368 tok/s และ 1.98 วินาทีที่โพสต์นี้รายงานไว้ในเดือนสิงหาคม แผงผู้ให้บริการและการรันของ AA มีการเปลี่ยนแปลง และหน้าเว็บสดคือแหล่งที่ควรอ้างอิงในวันนี้ ยังคงจัดอันดับโมเดลนี้ไว้ใกล้จุดสูงสุดของคลาสความเร็ว
บน DGX Spark เครื่องเดียว NVIDIA รายงานว่าอัตราการถอดรหัส (decode) อยู่ที่ 53.89 โทเคนต่อวินาที ที่ขนาดแบตช์ 1 บน GSM8K ซึ่งเพิ่มขึ้น 42.5% เมื่อเทียบกับค่าพื้นฐานของตัวเอง นี่เป็นตัวเลขสำหรับผู้ใช้คนเดียวบนเครื่องโลคอล ไม่สามารถนำไปเทียบกับตัวเลขทรูพุตของ API ได้ และไม่ใช่ผลลัพธ์จากภาวะการทำงานพร้อมกัน ส่วนถัดไปจะอธิบายเรื่องนี้โดยละเอียด
บนฮาร์ดแวร์คลัสเตอร์ที่ระบุ Ant อ้างว่ามีอัตราเอาต์พุตเฉลี่ยสูงกว่า 1,100 โทเคนต่อวินาที และเวลาไปยังโทเคนแรกต่ำกว่า 100 มิลลิวินาที ด้วยเลเยอร์แคชแบบลำดับชั้นที่สร้างบน SGLang HiCache และ Mooncake ข้อมูลนี้ยังคงเป็นของผู้ขายเท่านั้น — วัดบนฮาร์ดแวร์และการตั้งค่าการประมวลผลแบบแบตช์ที่ Ant ควบคุมเอง โดยไม่มีการเผยแพร่การทดสอบซ้ำโดยอิสระ สำหรับการวางแผน ให้ใช้ตัวเลข AA สำหรับงานที่โฮสต์ ใช้ตัวเลข NVIDIA สำหรับ Spark เครื่องเดียว และถือว่า 1,100+ tok/s เป็นเพดานที่ต้องตรวจสอบกับเวิร์กโหลดของคุณเอง
DGX Spark หนึ่งเครื่อง: 42.5% นั้นวัดอะไรกันแน่
เมื่อวันที่ 27 ตุลาคม บล็อกทางเทคนิคของ NVIDIA ได้เผยแพร่สูตรสำหรับการให้บริการ Ling-3.0-flash-fp4 บน DGX Spark หนึ่งเครื่อง — ระบบเดสก์ท็อป GB10 ที่มีหน่วยความจำแบบรวม 121GB — และ Ling Cookbook ของ InclusionAI มีโน้ตบุ๊กที่เกี่ยวข้อง ซึ่งระบุเครดิตให้ทั้ง Ant Group และ NVIDIA บัญชีของ Ant Group เองอธิบายงานนี้ว่าเป็นความร่วมมือทางเทคนิคกับ NVIDIA นี่คือการทดสอบ benchmark อย่างพิถีพิถันมากกว่าการสาธิต: คำถาม GSM8K ทั้ง 1,319 ข้อ, chain-of-thought แบบ five-shot, batch size 1, temperature 0.6, top-p 0.95, top-k 29 และขีดจำกัด 32,768 โทเคน
ค่าพื้นฐานคือบิลด์ W4A8 ที่ให้บริการด้วยเคอร์เนล MXFP4 MoE ของ FlashInfer, CUTLASS dense GEMM และ LM head แบบ 32 บิต บนค่าพื้นฐานนั้น การถอดรหัสทำงานที่ 37.81 tok/s เมื่อนำการเปลี่ยนแปลงสามอย่างมาซ้อนกัน มันทำงานที่ 53.89 tok/s — ซึ่งคือ 42.5% ในพาดหัวข่าว เวลาเฉลี่ยต่อโทเค็นเอาต์พุตลดลงจาก 26.45ms เป็น 18.56ms (−29.8%) เวลาแฝงแบบ end-to-end เฉลี่ยจาก 15.21s เป็น 11.49s (−24.5%) P50 จาก 8.36s เป็น 6.11s และ P95 จาก 50.20s เป็น 38.60s ความแม่นยำ GSM8K เปลี่ยนจาก 96.89% เป็น 96.82% ซึ่งเป็นความแตกต่าง 0.08 จุดที่ NVIDIA อธิบายว่าไม่สามารถตรวจพบได้ในทางสถิติ เวลาเฉลี่ยถึงโทเค็นแรกแทบจะคงที่ จาก 0.207s เป็น 0.214s เหล่านี้คือการปรับปรุงด้านการถอดรหัส ไม่ใช่ด้าน prefill
การเปลี่ยนแปลงทั้งสามนี้มุ่งเป้าไปที่ต้นทุนที่แตกต่างกัน:
• เคอร์เนล Humming MXFP4 MoE มาแทนที่แบ็กเอนด์ FlashInfer โดย Humming จะคอมไพล์เคอร์เนลขณะรันไทม์ด้วย NVRTC ให้ตรงกับขนาดจริงของโมเดล รวมถึงขนาดกลางของ MoE ที่กว้างเพียง 768 และแคชไว้ใน ~/.humming/cache ในการทดสอบสังเคราะห์ของ NVIDIA เพียงอย่างเดียวก็เพิ่มปริมาณงานได้ 9.3%
• การควอนไทซ์ FP8 แบบออนไลน์ของ LM head โดย head ยังคงเป็น BF16 ใน checkpoint และ GEMM ขนาด 157,184 × 2,560 ของมันจะอ่านบล็อกน้ำหนักทั้งหมดในทุกโทเคน การควอนไทซ์เป็น FP8 ตอนโหลดจะลดการอ่านนั้นลงครึ่งหนึ่ง เปิดใช้งานด้วย SGLANG_ENABLE_FP8_LM_HEAD=1 ซึ่งขัดแย้งกับ --enable-fp32-lm-head ของ baseline และเพิ่มขึ้น 11.4% เมื่อเทียบกับ Humming เพียงอย่างเดียว
• การทำนายหลายโทเคนแบบ NEXTN เลเยอร์ NEXTN ที่มีอยู่ในโมเดลจะร่างโทเคนสามตัวและตรวจสอบหน้าต่างสี่โทเคน บน GSM8K ความยาวร่างที่ได้รับการยอมรับโดยเฉลี่ยคือ 2.68 โทเคนต่อรอบ
ในโพสต์เดียวกันยังมีตัวเลขที่เด่นชัดกว่าเป็นตัวที่สอง: งานทดสอบสังเคราะห์แบบ 32K เข้า / 2K ออก ที่ขนาดแบตช์ 1 เพิ่มจาก 36.09 เป็น 102.88 tok/s หรือ +185.1% NVIDIA เองเตือนไม่ให้เหมารวมตัวเลขนี้ การรันนั้นใช้การถอดรหัสแบบ greedy เอาต์พุตคงที่ 2K และข้อความที่มีการซ้ำกัน โดยอัตราการยอมรับแตะ 3.90 โทเคนต่อรอบ เทียบกับ 2.68 บน GSM8K ตัวเลข 42.5% บน GSM8K คือตัวที่ควรใช้ในการวางแผน ส่วน 185.1% เป็นเพดานกรณีดีที่สุดจากงานสังเคราะห์
กับดักในการใช้งานจริงหนึ่งข้อสำคัญกว่าความเร็วที่เพิ่มขึ้น การควอนไทซ์ LM-head แบบ FP8 และ MTP จะทำงานร่วมกันได้ก็ต่อเมื่อโมเดลดราฟต์ใช้โมดูล LM-head ทั้งหมดของโมเดลเป้าหมายร่วมกัน ไม่ใช่แค่เทนเซอร์น้ำหนักของมันเท่านั้น หากไม่มีอินเทอร์เฟซนั้น เฟรมเวิร์กจะถอยกลับไปใช้ค่าตั้งต้นอย่างเงียบ ๆ อ่านน้ำหนัก FP8 เป็น BF16 ทำให้อัตราการยอมรับลดลงเหลือ 1.00 และอาจช้ากว่าค่าพื้นฐานที่ยังไม่ได้ปรับแต่งด้วยซ้ำ คำแนะนำของ NVIDIA คือให้ตรวจสอบว่าการปรับแต่งทุกอย่างทำงานอยู่จริงตั้งแต่ตอนเริ่มระบบ แทนที่จะอนุมานจากเวลาที่วัดได้ในภายหลัง
สิ่งที่สิ่งนี้เปลี่ยนสำหรับผู้อ่าน: เส้นทาง single-Spark ไม่ใช่สไลด์ของผู้ขายอีกต่อไป มันเป็นสูตรที่เผยแพร่พร้อม baseline โปรโตคอลการวัด และโหมดความล้มเหลวที่ระบุไว้ — เพียงพอที่จะทำซ้ำหรือปฏิเสธบนอุปกรณ์ของคุณเอง สิ่งที่มันไม่เปลี่ยน: มันยังคงเป็นการวัดของ NVIDIA เอง บนอุปกรณ์เดียว ที่ batch size 1 สำหรับ decode ไม่ได้กล่าวถึงการให้บริการแบบ concurrent, throughput ของ long-context หรือ hosted API และมันเฉพาะเจาะจงกับบิลด์ FP4; checkpoint BF16 และ FP8 มีโปรไฟล์หน่วยความจำและแบนด์วิดท์ที่แตกต่างกัน
ราคา: ถูก และโปรโมชั่นสิ้นสุดแล้ว
Artificial Analysis ระบุว่า API แบบ first-party อยู่ที่ $0.075 ต่อ 1M โทเคนอินพุต และ $0.22 ต่อ 1M โทเคนเอาต์พุต โดยการแคชฮิตอยู่ที่ $0.015 (−80%) — ทั้งหมดเป็นราคาที่ผู้ขายกำหนด ชั้นฟรีช่วงเปิดตัว (โทเคนฟรี 500k ต่อวัน, การเข้าถึง API ฟรี) สิ้นสุดวันที่ 3 สิงหาคม ช่วงลด 75% ชั่วคราวบน Ling Studio ดำเนินไปจนถึงวันที่ 31 สิงหาคม 2026 และราคาตามรายการมีผลตั้งแต่ 1 กันยายนเป็นต้นมา แม้ที่ราคาตามรายการเต็ม $0.075/$0.22 ก็ทำให้ Ling-3.0-flash อยู่ในระดับราคาถูกอย่างชัดเจนสำหรับโมเดลที่มี Index 38 ในการประเมินนั้น
ในราคาที่ต่ำขนาดนี้ ค่าใช้จ่ายในการสลับสำคัญกว่าราคาต่อโทเคน หน้าที่ของ OrcaRouter คือทำให้ฝั่งโฮสต์ของการเปรียบเทียบนั้นซื่อตรง: API เดียวสำหรับโมเดล 200+ รุ่น ราคาตามรายการของผู้ให้บริการที่ส่งผ่านโดยไม่บวกเพิ่ม 0% และการสลับไปยังผู้ให้บริการรายอื่นโดยอัตโนมัติเมื่อเกิดปัญหา การติดตั้ง DGX Spark ในเครื่องต้องเอาชนะราคาตลาดจริงในปัจจุบัน ไม่ใช่สไลด์ของผู้ขาย และเมื่อผู้ให้บริการโฮสต์เปลี่ยนราคา การส่งผ่านราคาจะแสดงให้เห็นบนคีย์เดียวกันในวันเดียวกัน
ครอบครัว Ling / Ring / Ming
Ling-3.0-flash ไม่ได้มีอยู่โดยลำพัง — InclusionAI จัดกลุ่มการเปิดตัวโมเดลออกเป็นสามตระกูลที่มีชื่อเรียก โดยแต่ละตระกูลมุ่งเป้าไปที่งานที่แตกต่างกัน Ling เป็นสาย MoE อเนกประสงค์สำหรับการสร้างข้อความและการเรียกใช้เครื่องมือในชีวิตประจำวัน และ Ling-3.0-flash อยู่ที่ปลายด้านเร็ว/ประหยัดของสายนี้ ซึ่งต่ำกว่าธงเรือธงขนาด 1T พารามิเตอร์ของรุ่นก่อนอยู่หนึ่งขั้น Ring เป็นสายที่เน้นการให้เหตุผล สร้างขึ้นสำหรับ chain-of-thought แบบหลายขั้นตอน Ming เป็นสายมัลติโมดัล หากงานของคุณต้องการการให้เหตุผลที่หนักขึ้นหรืออินพุตรูปภาพ โมเดล InclusionAI ที่เหมาะสมอาจไม่ใช่ Ling-3.0-flash — มันถูกสร้างมาเพื่อปริมาณและความเร็วภายในเลนข้อความและเครื่องมือ
สำหรับใคร: สี่สถานการณ์
1. ไปป์ไลน์ข้อความหรือการเรียกใช้เครื่องมือที่มีปริมาณสูงและไวต่อความหน่วง
นี่คือจุดที่โมเดลนี้ถนัดที่สุด ด้วยสัญญาอนุญาต MIT สูตรการรันบน Spark เครื่องเดียวที่เผยแพร่แล้ว และดัชนีอิสระที่มีการระบุวันที่และมีคะแนน 38 การเดิมพันในระดับเร็วจึงทดสอบได้ ไม่ใช่แค่สมมติฐาน — ลองรันชุดประเมินของคุณเองกับมัน หรือดึงเวตและโฮสต์เอง เพียงอย่าสร้างระบบโดยอิงเพดาน 1,100+ tok/s ของผู้ขายจนกว่าคุณจะวัดกับงานของคุณเองแล้ว
2. ทีมที่ต้องการบริบทระยะยาวโดยมีงบประมาณจำกัด
บริบทเนทีฟ 256K (ให้บริการ 262K) พร้อมเส้นทางที่ระบุไว้สู่ 1M ในราคา $0.075/$0.22 ถือเป็นcombination ที่น่าสนใจสำหรับงานที่เน้นการดึงข้อมูลหรือการประมวลผลเอกสาร ตัวเลขบริบทระยะยาวในการ์ดโมเดลเป็นข้อมูลที่ผู้ขายรายงานเอง ดังนั้นควรใส่ไว้ในรายการตัวเลือกเพื่อเทียบกับตัวเลือกบริบทระยะยาวที่ได้รับการพิสูจน์แล้ว และตรวจสอบกับคลังข้อมูลของคุณเองก่อนตัดสินใจใช้งานจริง
3. ผู้ติดตามที่กำลังติดตามภูมิทัศน์ MoE ของจีนและแผนงาน InclusionAI
คำถามในเดือนกรกฎาคม — InclusionAI จะยังเปิดอยู่หรือไม่ — ตอนนี้มีคำตอบแล้ว: ใช่ ภายใต้ MIT และเร็ว การที่ Ling-3.0-flash ขึ้นสู่พรมแดน Pareto ของ AA ด้วยพารามิเตอร์ที่ใช้งาน 5.1B เป็นข้อมูลเพียงจุดเดียว สูตร DGX Spark เดือนตุลาคมเป็นจุดที่สอง: โมเดล 124B ถอดรหัสที่ 53.89 tok/s บนเดสก์ท็อปเครื่องเดียวที่ batch size 1 โดยเผยแพร่สูตรแล้ว
4. ทีมที่มี DGX Spark เพียงเครื่องเดียวบนโต๊ะทำงาน
ถ้าคุณมีเครื่องนี้อยู่แล้ว สูตรของ NVIDIA คือคอนฟิกแรกที่ควรทำตาม: บิลด์ MXFP4, SGLang fork ของ InclusionAI, เคอร์เนล Humming MoE, FP8 LM head และ NEXTN MTP ให้ถือว่านี่คือการวัดของเจ้าของผลิตภัณฑ์หนึ่งรายที่ batch size 1 และตรวจสอบตอนเริ่มระบบว่า FP8 กับ MTP ทำงานอยู่จริง — โหมดล้มเหลวแบบ fallback เงียบ ๆ เป็นเรื่องจริง ถ้าคุณไม่มี Spark สูตรนี้เป็นเพียงข้อมูลจุดหนึ่งว่าหน่วยความจำรวม 121GB ให้อะไรได้ ไม่ใช่เหตุผลที่จะซื้อเครื่อง
ยังมีอะไรที่ไม่ได้รับการยืนยัน?
รายการสั้น ๆ ตอนนี้ช่องว่างใหญ่ถูกปิดแล้ว ข้ออ้างเรื่องความเร็วสูงสุดของ Ant (1,100+ tok/s, TTFT ต่ำกว่า 100ms) ยังไม่มีการวัดซ้ำโดยอิสระ ตาราง benchmark ใน model card ยังเป็นข้อมูลที่ผู้ขายรายงานเอง บิลด์ FP4/INT4 และเส้นทาง DGX-Spark เครื่องเดียวไม่คลุมเครือแล้ว — NVIDIA เผยแพร่การกำหนดค่าและ InclusionAI เผยแพร่โน้ตบุ๊ก — แต่ตัวเลข 53.89 tok/s และ 96.82% เป็นการวัดของ NVIDIA เองบนอุปกรณ์หนึ่งเครื่องที่แบตช์ขนาด 1 ไม่ใช่การทำซ้ำโดยบุคคลที่สาม คะแนนอิสระเป็นข้อมูลในอดีต: การประเมินที่โพสต์นี้อ้างถึงในเดือนสิงหาคมให้คะแนน 38 และหน้าปัจจุบันระบุว่าโมเดลนี้เลิกใช้แล้วโดยให้ใช้ Ling-3.1-flash แทน และในด้านความรู้ Omniscience Index จากการประเมินนั้นแสดงว่าการปรับปรุงเมื่อเทียบกับรุ่นก่อนเกิดจากการไม่ตอบเป็นหลัก — การ hallucinate ลดลง (97% → 44%) ขณะที่ความแม่นยำเพิ่มขึ้นเพียงเล็กน้อย (16% → 18%) — ดังนั้นอย่าคิดว่าคะแนน Index ที่เพิ่มขึ้นในพาดหัวคือการก้าวกระโดดของความรู้ในทุกด้าน
เมื่อใดที่ไม่ควรใช้
ข้าม Ling-3.0-flash สำหรับงานมัลติโมดัล — นั่นคือสาย Ming ข้ามมันหากคุณต้องการเรือธงด้านการให้เหตุผลระดับหนักแทนที่จะเป็นตัวดำเนินการที่เร็ว — นั่นคือสายของ Ring หากคุณวางแผนจะโฮสต์เอง ให้เตรียมงบสำหรับฮาร์ดแวร์จริง: BF16 ใช้ประมาณ 255GB, FP8 ประมาณ 128GB และบิลด์ MXFP4 คือตัวที่พอดีกับ DGX Spark ขนาด 121GB หากคุณกำลังเลือกโมเดล Ling ใหม่ตั้งแต่ต้นแทนที่จะดูแลการติดตั้งที่มีอยู่ ให้เทียบกับ Ling-3.1-flash ก่อน; AA ได้ย้ายความครอบคลุมไปที่นั่นแล้ว และหากข้อกล่าวอ้างใดสำคัญกับคุณ ให้ตรวจสอบ — ตัวเลขความเร็วสูงสุดและบริบท{long}เป็นของ Ant จนกว่าห้องแล็บอิสระจะรันซ้ำ
คำถามที่พบบ่อย
Ling-3.0-flash เป็น open weight หรือไม่?
ใช่ ค่าน้ำหนักของโมเดลถูกเปิดเป็นโอเพนซอร์สเมื่อวันที่ 7 สิงหาคม ภายใต้สัญญาอนุญาต MIT บน Hugging Face (inclusionAI/Ling-3.0-flash) และ ModelScope ซึ่งเป็นสัญญาอนุญาตแบบให้สิทธิ์กว้างและสามารถใช้งานเชิงพาณิชย์ได้ — แบบเดียวกับที่ Ling 2.0 และ Ling 2.6 ใช้เผยแพร่ภายใต้สัญญานี้
Ling-3.0-flash มีประสิทธิภาพบนเกณฑ์มาตรฐานอย่างไร?
การประเมินของ Artificial Analysis ซึ่งโพสต์นี้อ้างถึงในเดือนสิงหาคม ให้คะแนนมัน 38 บน Intelligence Index เพิ่มขึ้น 24 คะแนนจาก Ling-2.6-flash และจัดให้อยู่บนพาเรโตฟรอนเทียร์แบบ open-weights สำหรับความฉลาดเทียบกับจำนวนพารามิเตอร์ทั้งหมด หน้าปัจจุบันของ AA ระบุว่าโมเดลนี้ถูกยกเลิกการใช้งานแล้วโดยหันไปใช้ Ling-3.1-flash แทน และไม่แสดง Intelligence Index ปัจจุบัน ดังนั้น 38 จึงเป็นผลลัพธ์เชิงประวัติศาสตร์ ตาราง benchmark บน model card ของ Ant (เช่น SWE-Bench Pro 56.6) เป็นข้อมูลที่ผู้ขายรายงานเองและยังไม่ได้รับการทำซ้ำอย่างอิสระ
มันเร็วแค่ไหนจริงๆ?
มีตัวเลขที่แตกต่างกันสามตัวสำหรับการตั้งค่าที่แตกต่างกันสามแบบ ปัจจุบัน AA ระบุว่าได้ 243 โทเค็นเอาต์พุตต่อวินาที และเวลาในการได้โทเค็นแรก 2.79 วินาทีบน API ที่โฮสต์ไว้ NVIDIA รายงานว่าได้ 53.89 โทเค็นถอดรหัสต่อวินาทีที่ขนาดแบตช์ 1 บน DGX Spark หนึ่งเครื่อง Ant อ้างว่าได้มากกว่า 1,100 โทเค็นต่อวินาทีและ TTFT ต่ำกว่า 100 มิลลิวินาทีบนฮาร์ดแวร์คลัสเตอร์ที่ระบุไว้ มีเพียงตัวเลขของ AA เท่านั้นที่เป็นอิสระ อีกสองตัวเป็นการวัดโดยผู้จำหน่ายบนฮาร์ดแวร์ที่แตกต่างกัน
Ling-3.0-flash ราคาเท่าไหร่?
AA ระบุว่า API ของบริษัทเองมีราคา $0.075 ต่อ 1M โทเค็นอินพุต และ $0.22 ต่อ 1M โทเค็นเอาต์พุต พร้อมส่วนลด 80% สำหรับแคชที่ตรงกัน ชั้นฟรีช่วงเปิดตัวสิ้นสุดวันที่ 3 สิงหาคม และช่วงลด 75% ชั่วคราวบน Ling Studio สิ้นสุดวันที่ 31 สิงหาคม 2026
อะไรคือความแตกต่างระหว่าง Ling, Ring, และ Ming?
Ling เป็นสายโมเดล MoE สำหรับงานข้อความทั่วไปและการเรียกใช้เครื่องมือของ InclusionAI โดย Ling-3.0-flash อยู่ที่ปลายด้านที่เร็วและประหยัดของสายนี้ Ring เป็นสายที่เน้นการให้เหตุผล Ming รับผิดชอบงานมัลติโมดัล ทั้งหมดนี้เป็นตระกูลแยกจากกันสำหรับงานที่แตกต่างกัน ไม่ใช่ระดับชั้นของโมเดลเดียว
Ling-3.0-flash สามารถรันบน DGX Spark เครื่องเดียวได้หรือไม่
ใช่ NVIDIA เผยแพร่สูตรเมื่อวันที่ 27 ตุลาคม สำหรับบิลด์ MXFP4 บน DGX Spark หนึ่งเครื่อง (หน่วยความจำแบบรวม 121GB) โดยใช้เคอร์เนล Humming MXFP4, FP8 LM head และการทำนายหลายโทเคน NEXTN รายงานว่าถอดรหัสได้ 53.89 tok/s ที่ batch size 1 จากคำถาม GSM8K จำนวน 1,319 ข้อ เพิ่มขึ้น 42.5% ด้วยความแม่นยำ 96.82% ผลลัพธ์เป็นของ NVIDIA เอง ไม่ได้ถูกทำซ้ำโดยอิสระ และเป็นจริงเฉพาะที่ batch size 1 เท่านั้น การรวม FP8 กับ MTP จำเป็นต้องให้ draft แชร์ LM head แบบเต็ม มิฉะนั้นอัตราการประมวลผลอาจต่ำกว่า baseline ที่ไม่ได้ปรับแต่ง
ฉันควรใช้ Ling-3.0-flash ในระบบ production วันนี้หรือไม่
เป็นโมเดลแบบเปิดเผยน้ำหนักที่成熟แล้ว แต่ไม่ใช่ Ling รุ่นใหม่ล่าสุดอีกต่อไป: AA ระบุว่ามodelนี้ถูกเลิกสนับสนุน (deprecated) และให้ใช้ Ling-3.1-flash แทน หากคุณใช้งาน Ling-3.0-flash อยู่แล้ว สูตร DGX Spark ถือเป็นการปรับแต่งที่ konkret และคุ้มค่าที่จะทำซ้ำ หากคุณกำลังเลือกใช้ใหม่ ให้เปรียบเทียบกับ Ling-3.1-flash และรันชุดการประเมินของคุณเอง สัญญาอนุญาต MIT และราคา $0.075/$0.22 ยังคงทำให้มันเป็นตัวเลือกระดับราคาถูกที่น่าเชื่อถือ
ประเด็นสำคัญ
Ling-3.0-flash ไม่ใช่ Ling รุ่นใหม่ที่สุดอีกต่อไป และหน้าสดของ AA ก็ระบุเช่นนั้น สิ่งที่มันมีซึ่งโมเดล open-weight ส่วนใหญ่ไม่เคยมีคือการกำหนดค่าบนอุปกรณ์เดียวที่วัดจริง: DGX Spark หนึ่งเครื่อง, 53.89 decode tok/s ที่ batch size 1, 96.82% บน GSM8K พร้อมทั้ง baseline, โปรโตคอล และโหมดความล้มเหลวที่เผยแพร่ควบคู่กัน ควรอ่าน 42.5% เป็นผลลัพธ์ของ NVIDIA เอง ไม่ใช่คำตัดสินอิสระ และอ่านดัชนีเดือนสิงหาคมที่ 38 เป็นข้อมูลในอดีต ภายในขอบเขตเหล่านั้น โมเดลนี้ยังคงเป็นตัวเลือกชั้นเร็วในเครื่องที่เชื่อถือได้ หากคุณเริ่มต้นใหม่ การเปรียบเทียบที่ควรทำก่อนคือ Ling-3.1-flash
