การ์ดชื่อเรื่องแบบฮีโร่สำหรับ LFM2.5-24B-A2B-DSpark ที่มีข้อความว่า 'shipped quietly' พร้อมแคปซูลสถิติสำหรับพารามิเตอร์ดราฟต์ 327.7M ขนาดบล็อก 9 และอัตราทรูพุตเฉลี่ย 2.38x ที่การทำงานพร้อมกัน 1 เหนือส่วนท้ายที่มีข้อความว่า 'Vendor-reported, benchmarked on NVIDIA B300 with the FP8 target' และโลโก้ OrcaRouter ที่คอมโพสิตไว้มุมขวาล่าง
Guides & Insights

LFM2.5-24B-A2B-DSpark พร้อมใช้งานแล้วบน Hugging Face — Liquid AI ยังไม่ได้ประกาศเรื่องนี้เลย

ผู้เขียน

Elias Hawthorne

วันที่เผยแพร่

โมเดลล่าสุด · 20ดูโมเดลทั้งหมด →
เบนช์มาร์ก: Artificial Analysis · อัปเดตทุกวัน
กลับไปยังโพสต์ทั้งหมด

การ์ดโมเดลของโมเดลที่ใหญ่ที่สุดของ Liquid AI ยังระบุว่า drafter สำหรับ speculative decoding ของโมเดลนี้ กำลังจะมาเร็ว ๆ นี้ แต่ drafter ตัวนั้นไม่ได้กำลังจะมา LFM2.5-24B-A2B-DSpark มี repository สาธารณะมาตั้งแต่ 2026-10-19 มี checkpoint BF16 ขนาด 655 MB ตาราง benchmark แบบครบถ้วน มี GGUF sidecar ที่เผยแพร่ในเย็นวันถัดมา และมี launch flags สำหรับ SGLang ที่เขียนไว้ในการ์ดของมัน สิ่งที่มันไม่มีคือการประกาศ LFM2.5-24B-A2B ซึ่งเป็นโมเดล mixture-of-experts ขนาด 24B ที่ drafter นี้มีไว้เพื่อเร่งความเร็ว ได้มีโพสต์บล็อก การเปิดตัวที่ระบุวันที่ รายการราคา และลิงก์ playground ในวันที่ 2026-10-13 ส่วน drafter ของมันได้ repo และการ์ดโมเดลมา และหน้าเอกสารของ Liquid AI เองสำหรับ speculative decoding ยังระบุว่ารองรับเฉพาะเป้าหมาย 1.2B, 2.6B, 8B และ VL-3B เท่านั้น ความล้มเหลวของ AI และเหตุการณ์ที่เกี่ยวกับ agent ซึ่งมีเอกสารบันทึกไว้เบื้องหลังการเปิดตัวลักษณะนี้ ถูกรวบรวมไว้ใน OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง เกรดความเชื่อมั่น และธงข้อโต้แย้งของตัวเอง

ช่องว่างตรงนี้คือประเด็นสำคัญ และควรระบุให้ชัดว่ามันหมายถึงอะไรและไม่หมายถึงอะไร ที่เก็บโค้ดซึ่งเปิดน้ำหนักโมเดลไว้ ผลทดสอบมาตรฐานสามารถทำซ้ำได้จากไฟล์ CSV ที่วางอยู่ข้างโมเดล และเส้นทางการอนุมานถูกรวมเข้ากับต้นทางแล้วนั้นคือการเปิดตัวจริง ไม่ใช่การรั่วไหล แต่ยังไม่มีสิ่งใดเกี่ยวกับเรื่องนี้ที่ได้รับการยืนยันจากผู้พัฒนาเป็นลายลักษณ์อักษร ยังไม่มีบุคคลที่สามวัดผล และตัวเลขใน model card ก็เป็นตัวเลขของทีมเดียวกัน ซึ่งวัดบนฮาร์ดแวร์เดียวกันที่พวกเขาเลือกเอง บทความนี้แยกสองสิ่งออกจากกัน: สิ่งที่ที่เก็บโค้ดยืนยันได้ กับสิ่งที่ยังเป็นเพียงข้อกล่าวอ้าง

จริงๆ แล้วมีอะไรอยู่ในรีโพซิทอรี

เช็กพอยต์มีขนาดเล็กพอที่รายการไฟล์เองก็ให้ข้อมูลได้แล้ว ทั้งหมดคือ model.safetensors ไฟล์เดียวขนาด 655,421,522 ไบต์ — พารามิเตอร์ 327.7M ใน BF16 — บวกกับคอนฟิก ใบอนุญาต และไดเรกทอรี benchmarks ไม่มีอย่างอื่นอีก ไม่มี tokenizer ไม่มีเมทริกซ์ embedding และไม่มี LM head เพราะสถาปัตยกรรมนำทั้งสามอย่างกลับมาใช้จากโมเดลเป้าหมายตอนโหลด นั่นคือการออกแบบ: drafter มีหน้าที่เพียงรู้วิธีเดาบล็อกโทเคนถัดไปในคำศัพท์ของโมเดลเป้าหมาย ไม่ใช่รู้วิธีแทนโลก

การกำหนดค่ายืนยันรูปร่างที่บทความ DSpark ประจำเดือนสิงหาคมอธิบายไว้ มีเลเยอร์ full-attention ห้าชั้นที่ hidden size 2,048 และ intermediate size 6,144 พร้อม SiLU/SwiGLU; attention แบบ grouped-query ที่มี 32 heads และ 8 KV heads ที่ head dimension 64; Markov head แบบแรงก์ 256 และ confidence head แยกต่างหาก; block size 9; vocabulary 128,000; และ maximum position embedding 131,072 ซึ่งตรงกับ context window ของเป้าหมายพอดี ฟิลด์เดียวที่เฉพาะกับ นี้ drafter คือ target_layer_ids: [2, 10, 18, 26, 34] เทียบกับ num_target_layers: 40 — ห้าเลเยอร์ของโมเดล 24B ที่ hidden states ซึ่ง drafter อ่านเป็นบริบท ดัชนีเหล่านี้คือเหตุผลว่าทำไม drafter ที่ฝึกสำหรับโมเดล LFM2.5 ตัวหนึ่งจึงไม่สามารถชี้ไปยังอีกตัวหนึ่งได้เฉย ๆ

A capture of the Hugging Face repository page for LiquidAI/LFM2.5-24B-A2B-DSpark showing the model card, its 327.7M draft parameter specification, the lfm1.0 licence badge and a file listing containing a single model.safetensors of roughly 655 MB.

สัญญาอนุญาตคือ lfm1.0 ซึ่งเป็นสัญญาอนุญาตแบบกำหนดเองเดียวกันกับส่วนที่เหลือในตระกูลนี้ และน่าสังเกตสำหรับผู้ที่วางแผนจะแจกจ่ายอาร์ติแฟกต์แบบบันเดิลที่รวมโมเดลเป้าหมายกับดราฟเตอร์ แทนที่จะใช้ภายในเท่านั้น

ตารางเบนช์มาร์ก เมื่ออ่านเป็นตารางของผู้ขาย

การ์ดนี้เผยแพร่อัตราทรูพุตสำหรับแปดชุดข้อมูลที่จำนวนการทำงานพร้อมกัน 1, 32 และ 256 บน NVIDIA B300 เครื่องเดียว vớiเป้าหมาย FP8, แคช KV แบบ BF16 และอุณหภูมิ 0 ตัวเลขทุกตัวด้านล่างเป็นของ Liquid AI เองและยังไม่มีการทำซ้ำภายนอกบริษัท; แถวข้อมูลดิบอยู่ในรีโปที่ benchmarks/b300-fp8.csvหากคุณต้องการตรวจสอบการคำนวณด้วยตัวเอง

• ค่าเฉลี่ยเลขคณิตจากชุดข้อมูลทั้งแปด — 2.38× ที่จำนวนงานพร้อมกัน 1, 2.69× ที่จำนวนงานพร้อมกัน 32, 1.71× ที่จำนวนงานพร้อมกัน 256

• เซลล์เดี่ยวที่ดีที่สุด — MBPP ที่ concurrence 32, 3.28× โดย MATH-500 ตามมาใกล้ ๆ ที่ 3.04×

• เซลล์เดี่ยวที่แย่ที่สุด — LiveCodeBench ที่จำนวนงานพร้อมกัน 256, 1.34× และ AIME ที่ 256, 1.36×

• จำนวนโทเค็นที่ได้รับการยอมรับในแต่ละขั้น — เฉลี่ย 5.16 เมื่อเทียบกับเพดาน 10 ที่กำหนดโดยขนาดบล็อกบวกกับโทเค็นโบนัสของเป้าหมาย

• อัตราการยอมรับสูงสุด — MBPP ที่ 6.70 โทเคนต่อขั้น; ต่ำสุด — LiveCodeBench ที่ 4.02

มีสองสิ่งเกี่ยวกับตารางนั้นที่น่าสนใจกว่าพาดหัวข่าว สิ่งแรกคือความเร็วที่เพิ่มขึ้นเฉลี่ยสูงกว่าที่ระดับการทำงานพร้อมกัน 32 เมื่อเทียบกับที่ระดับการทำงานพร้อมกัน 1 — 2.69× เทียบกับ 2.38× — ซึ่งตรงกันข้ามกับเรื่องราวปกติของการถอดรหัสแบบคาดการณ์ล่วงหน้า ที่การประมวลผลเป็นชุดมักกลืนผลประโยชน์ไป สิ่งที่สองคือมันดิ่งลงที่ 256 ที่คำขอพร้อมกัน 256 รายการ โมเดลเป้าหมายเพียงอย่างเดียวก็สร้างโทเคนประมาณ 15,000 โทเคนต่อวินาทีบน GPU นั้นสำหรับ MATH-500 แล้ว และส่วนช่วยของโมเดลร่างลดลงเหลือ 1.79× ทีมให้บริการที่อ่านเพียง "2.4×" จะกำหนดขนาดคลัสเตอร์ผิด ตัวเลขที่สำคัญสำหรับปลายทางแบบประมวลผลเป็นชุดคือ 1.71× และแม้แต่นั้นก็เป็นตัวเลขของ B300 ที่มีโปรไฟล์การทำงานพร้อมกันซึ่งการติดตั้งใช้งานส่วนใหญ่จะไม่ตรงกัน

ประโยคที่เปลี่ยนแปลงไปตั้งแต่เดือนสิงหาคม

เมื่อ Liquid AI เปิดตัวดราฟเตอร์ DSpark สำหรับโมเดลเป้าหมายขนาด 1.2B, 2.6B และ 8B-A1B เมื่อวันที่ 2026-08-20 โพสต์บล็อกของบริษัทได้กล่าวอ้างอย่างหนักแน่นว่า เนื่องจากโมเดลเป้าหมายตรวจสอบทุกโทเค็นที่เสนอและแทนที่โทเค็นที่ถูกปฏิเสธด้วยตัวเลือกของตัวเอง "ดังนั้น ลำดับที่ส่งออกจึงเหมือนกับ baseline greedy ทุกประการโดยโครงสร้าง" การ์ดโมเดลของดราฟเตอร์ 8B ย้ำเจตนารมณ์เดียวกัน โดยสัญญาว่า "ผลลัพธ์เหมือนกันทุกประการ"

การ์ดของดราฟเตอร์ 24B ไม่ได้ระบุเช่นนั้น การ์ดระบุว่าโมเดลเป้าหมายจะตรวจสอบทุกโทเคนที่เสนอ จากนั้นจึงกล่าวว่า “ความแตกต่างของเลขทศนิยมลอยตัวระหว่างการตรวจสอบแบบแบตช์และการถอดรหัสตามปกติอาจทำให้ได้ข้อความที่แตกต่างกัน รวมถึงภายใต้การสุ่มแบบ greedy” และเสริมว่าการวัดเหล่านั้นประเมินประสิทธิภาพ ไม่ใช่ความแม่นยำของงาน

นี่เป็นประโยคที่รอบคอบกว่า และเป็นประโยคที่ถูกต้อง การตรวจสอบแบบเป็นชุดไม่ได้ดำเนินการแบบจุดลอยตัวชุดเดียวกันในลำดับเดียวกับการถอดรหัสแบบลำดับ ดังนั้นความเหมือนกันระดับบิตจึงเป็นสมมติฐานที่ใช้ได้ในการคำนวณแบบแม่นตรง และไม่เสมอไปบนฮาร์ดแวร์จริง การที่การ์ดรุ่นใหม่ระบุเช่นนั้นในขณะที่รุ่นเก่าไม่ได้ระบุ อาจเป็นการแก้ไขเอกสารหรือสิ่งที่ค้นพบระหว่างการฝึกดราฟเตอร์ตัวนี้ — รีโพซิทอรีไม่ได้บอกว่าเป็นอย่างไหน และ Liquid ยังไม่ได้เผยแพร่คำอธิบาย ความหมายในทางปฏิบัติจึงแคบแต่เป็นเรื่องจริง: หากชุดทดสอบรีเกรสชันของคุณเปรียบเทียบเอาต์พุตของโมเดลแบบไบต์ต่อไบต์ การเพิ่มดราฟเตอร์ตัวนี้อาจทำให้ชุดทดสอบล้มเหลว และนั่นเป็นคุณสมบัติของการดำเนินการทางคณิตศาสตร์ มากกว่าจะเป็นบั๊กในดราฟต์

ทำไมดราฟเตอร์จึงมาถึงหลังจากโมเดลของตัวเองหกวัน

ไทม์ไลน์นี้ควรค่าแก่การวางให้เห็นภาพ เพราะมันอธิบายความเงียบได้ดีกว่าการคาดเดาใด ๆ เกี่ยวกับกลยุทธ์

• 2026-08-20 — Liquid เปิดตัวตระกูล DSpark: ดราฟเตอร์สำหรับ LFM2.5-1.2B-Instruct, LFM2.5-2.6B และ LFM2.5-8B-A1B โดยยังไม่มีเป้าหมายขนาด 24B ในตอนนี้

• 2026-08-31 — SGLang รวม PR #31041 ซึ่งเพิ่มการรองรับการถอดรหัสแบบคาดการณ์ DSpark สำหรับ LFM2 และ LFM2-MoE เส้นทาง MoE ที่โมเดล 24B ต้องการถูกนำเข้ามาที่นี่ หนึ่งเดือนครึ่งก่อนโมเดลที่มันจะให้บริการ

• 2026-10-13 — LFM2.5-24B-A2B เปิดตัวพร้อมบล็อกโพสต์และราคา ในวันเดียวกัน SGLang ได้ merge PR #43939 ซึ่งช่วยให้เซิร์ฟเวอร์นำการกำหนดค่า LFM2-MoE ของ Hugging Face มาใช้ซ้ำได้โดยตรง

• 2026-10-19 — รีโพซิทอรี LFM2.5-24B-A2B-DSpark ปรากฏขึ้น พร้อมเวตและเบนช์มาร์ก

• 2026-10-20 — GGUF sidecar พร้อมใช้งานแล้ว: ไฟล์ F16 ขนาด 664 MB เพียงไฟล์เดียวสำหรับ llama.cpp

• 2026-10-21 — การ์ดโมเดลเป้าหมายมีแถว drafter เพิ่มขึ้น ยังคงแสดงเป็น เร็ว ๆ นี้.

อ่านลำดับเหตุการณ์นั้นแล้ว คำอธิบายที่เป็นไปได้มากที่สุดก็คือคำอธิบายแสนธรรมดา — โครงสร้างพื้นฐานถูกปล่อยออกมาก่อนตัวชิ้นงาน ตัวชิ้นงานถูกปล่อยเมื่อการเทรนเสร็จสิ้น และการประกาศเป็นภารกิจทางการตลาดที่ยังไม่ได้เกิดขึ้น ไม่มีสิ่งใดในรีโพซิทอรีบ่งชี้ถึงการเปิดตัวแบบเงียบๆ โดยเจตนา — การ์ดโมเดลนั้นครบถ้วน ผลการทดสอบประสิทธิภาพถูกจัดทำเอกสารละเอียดถึงระดับโปรโตคอล และคำสั่งเรียกใช้ SGLang กับ llama.cpp ก็เขียนไว้ครบทั้งหมด คำว่าเงียบในที่นี้หมายถึงยังไม่ประกาศ ไม่ใช่ซ่อนไว้

A capture of Liquid AI's DSpark blog post dated August 20, 2026, headed 'LFM2.5-DSpark: Up to 3.2x Faster Inference from H100 to MacBook', showing that the release covered draft models for LFM2.5-1.2B-Instruct, LFM2.5-2.6B and LFM2.5-8B-A1B only — not the 24B target.

สิ่งที่ยังไม่อาจรู้ได้

ขอบเขตอย่างตรงไปตรงมาของชิ้นงานนี้คือรายการสั้น ๆ และแต่ละข้อคือช่องว่างจริง而非เพียงพิธีการ

ไม่มีการวัดผลอย่างอิสระ ไม่มีรายการใน Artificial Analysis ไม่มีการรันตรวจรับจากบุคคลที่สาม และไม่มีการทำซ้ำตาราง throughput ณ วันที่ 2026-10-21 รีโพซิทอรีแสดงยอดดาวน์โหลดเจ็ดครั้งและมีผู้กดถูกใจหนึ่งครั้ง ทุกการเพิ่มความเร็วในบทความนี้เป็นข้อมูลของผู้จำหน่าย บน GPU ที่ผู้จำหน่ายเลือก และด้วยความแม่นยำเป้าหมายที่ผู้จำหน่ายเลือก

ไม่มีการประกาศ จึงไม่มีการวางกรอบใด ๆ เราไม่ทราบว่า Liquid ตั้งใจให้สิ่งนี้เป็นคำแนะนำสำหรับการใช้งานจริงของโมเดล 24B หรือเป็นเพียงผลงานเชิงวิจัย น้ำเสียงของโมเดลการ์ด — แฟล็กการเปิดตัวแบบเต็มรูปแบบ ตารางตระกูลโมเดล ลิงก์ติดต่อ — บ่งชี้ว่าเป็นอย่างแรก แต่นั่นเป็นการอนุมาน

ไม่มีราคา เพราะไม่มีทางมีได้ ดราฟเตอร์ไม่ใช่โมเดลที่ให้บริการ มันไม่มีอัตราต่อโทเคนหนึ่งล้านโทเคน และจะไม่มีวันปรากฏในแคตตาล็อกโมเดลในฐานะเอนด์พอยต์ที่เรียกใช้ได้ ต้นทุนของมันคือ VRAM หรือหน่วยความจำแบบรวม 655 MB ที่มันครอบครองอยู่ข้างโมเดลเป้าหมาย บวกกับการประมวลผลเพิ่มเติมในการตรวจสอบทีละบล็อกแทนที่จะเป็นทีละโทเคน

ไม่มีตัวเลขของ Apple-silicon นี่คือช่องว่างที่ใหญ่ที่สุด และหัวข้อถัดไปจะอธิบายว่าทำไมมันจึงสำคัญกว่าจุดอื่น ๆ

หมายเลข Mac ที่หายไปคือการละเว้นที่น่าสนใจ

โมเดล 24B ถูกจำหน่ายในฐานะโมเดลที่ทำงานบนอุปกรณ์ โพสต์เปิดตัวของ Liquid นำเสนอด้วย 184 โทเคนต่อวินาทีบน Apple M5 Max และเรียกมันว่าสร้างมาสำหรับเอเจนต์ส่วนตัวที่รวดเร็วบนอุปกรณ์ ในทางกลับกัน การ์ดของดราฟเตอร์รายงานเฉพาะตัวเลข B300 เท่านั้น สำหรับดราฟเตอร์ 8B ในเดือนสิงหาคม Liquid เผยแพร่ผลลัพธ์ทั้งบน H100 และ M4 Max และเปิดเผยอย่างตรงไปตรงมาเกี่ยวกับช่องว่างระหว่างทั้งสอง: ความเร็วที่เพิ่มขึ้นเฉลี่ย 2.54× บน H100 กลับกลายเป็น 1.18× บน MacBook เหตุผลที่ระบุไว้เป็นเชิงกลไก — การตรวจสอบ k โทเคนจะกระตุ้นเอ็กซ์เพิร์ตมากกว่าขั้นตอนถอดรหัสเพียงครั้งเดียว ดังนั้นเป้าหมาย MoE จึงต้องรับภาระทราฟฟิกน้ำหนักต่อโทเคนที่ตรวจสอบแล้วมากขึ้น และ Metal backend ของ llama.cpp ยิ่งทำให้แย่ลงไปอีก

LFM2.5-24B-A2B ก็เป็นโมเดลแบบ mixture of experts เช่นกัน: มีผู้เชี่ยวชาญ 64 ตัวต่อบล็อก โดยใช้การจัดเส้นทางแบบ top-4 กลไกเดียวกันนี้ก็ใช้เช่นกัน และ {{1}}24B{{/1}} ก็เป็น{{2}}โมเดลที่ใหญ่กว่า{{/2}}ซึ่งมี{{3}}ชุดผู้เชี่ยวชาญที่ใหญ่กว่า{{/3}}ให้ไล่โหลดทีละหน้า นั่นไม่ได้พิสูจน์ว่า{{4}}ความเร็วที่เพิ่มขึ้นบนอุปกรณ์{{/4}}นั้นน้อย — ตัว drafter ถูกฝึกมาเฉพาะสำหรับเป้าหมายนี้ และอัตราการยอมรับดีกว่าของ {{5}}8B{{/5}} ในตอนแรกมาก — แต่ก็หมายความว่า{{6}}ตัวเลขตัวเดียว{{/6}}ที่ผู้ใช้แล็ปท็อปต้องการคือ{{7}}ตัวเลขตัวเดียว{{/7}}ที่การ์ดไม่ได้ระบุไว้ ให้ถือว่าสมมติฐานใด ๆ ที่ว่า{{8}}อัตราส่วนของ B300{{/8}}จะใช้ได้กับ Mac เช่นกันนั้นยังไม่ได้รับการยืนยัน

การรันมัน และแฟล็กหนึ่งตัวที่จะทำให้คุณเจ็บตัว

บน GPU สูตรที่เผยแพร่คือ SGLang โดยใช้ target แบบ FP8 และแนบ drafter ไว้ด้วย ขนาดบล็อก 9 และ draft token สิบตัว SGLang ที่ติดตั้งต้องใหม่พอที่จะมีเส้นทาง LFM2-MoE DSpark จาก PR #31041 และการนำการกำหนดค่ากลับมาใช้ซ้ำจาก PR #43939; หากเป็นบิลด์เก่า เซิร์ฟเวอร์จะไม่รู้จักสถาปัตยกรรมของ drafter เลย โปรดทราบว่าตัวเลข benchmark สมมติว่าใช้ target แบบ FP8 — target แบบ BF16 จะทำงานแตกต่างออกไป และไม่จำเป็นต้องดีกว่า เพราะ drafter ถูกฝึกกับรูปแบบการกระจายของ target logits ที่เฉพาะเจาะจง

บน CPU และ Apple silicon เส้นทางคือ llama.cpp พร้อม sidecar แบบ F16 GGUF sidecar จะอ่าน block size จาก metadata ของตัวเองและ clamp --spec-draft-n-max ให้เข้ากับค่านั้น ดังนั้นการตั้งความยาว draft เป็น 12 จะไม่ได้ 12 จริง การจับเวลาแบบราย-response เปิดเผย draft_n และ draft_n_accepted ซึ่งเป็นฟิลด์ที่ควรจับตาใน workload ของคุณเอง: หาก acceptance บนทราฟฟิกของคุณต่ำกว่าค่าเฉลี่ย 5.16 ของการ์ดมาก drafter กำลังทำให้คุณเสีย forward pass หนึ่งครั้งและได้ผลตอบแทนเพียงเล็กน้อย และทางเลือกที่ตรงไปตรงมาคือถอดมันออก

สิ่งนี้หมายความว่าอย่างไรหากคุณกำลังเลือกโมเดลในสัปดาห์นี้

สำหรับทีมส่วนใหญ่ ผลกระทบในทางปฏิบัติมีน้อย เพราะดราฟเตอร์เปลี่ยนความเร็ว ไม่ได้เปลี่ยนความสามารถ LFM2.5-24B-A2B คือสิ่งที่ตอบพรอมต์ ส่วนดราฟเตอร์เพียงเปลี่ยนจำนวนคำตอบเหล่านั้นที่คุณได้รับต่อวินาที หากสัปดาห์ที่แล้ว 24B ไม่ได้อยู่ในรายการที่คุณพิจารณา เวอร์ชันที่เร็วกว่าของมันก็ไม่ได้ทำให้มันเข้าไปอยู่ในรายการนั้น

หากมันอยู่ในช็อตลิสต์ของคุณ drafter จะช่วยเสริมเหตุผลให้กับการโฮสต์เอง และไม่ได้ช่วยอะไรเลยกับกรณี API ความแตกต่างนี้ควรพูดให้ชัดเจน: speculative-decoding checkpoint มองไม่เห็นสำหรับใครก็ตามที่เรียกใช้ endpoint แบบโฮสต์ เพราะ serving stack เป็นตัวตัดสินว่าจะแนบมันหรือไม่ สิ่งที่คุณเปรียบเทียบได้บนเงื่อนไขเดียวกันคือตัวโมเดลเองกับทางเลือกที่คุณจะเปลี่ยนไปใช้แทน — และหากคุณกำลังประเมินมันเทียบกับบางอย่างเช่น Qwen3.6-35B-A3B ซึ่งเป็นโมเดลที่ Liquid ใช้เป็นเกณฑ์เปรียบเทียบในห้าจากแปดงานแบบ agentic OrcaRouter มีเป้าหมายการเปรียบเทียบนั้นให้บริการผ่านคีย์เดียวที่ ราคาบวกเพิ่ม 0% เหนือราคาตามรายการของผู้ให้บริการ พร้อมการ failover อัตโนมัติระหว่างผู้ให้บริการ เราไม่ได้ให้บริการตระกูล LFM2.5 ในปัจจุบัน ดังนั้นตัว 24B เองจะต้องมาจาก API ของผู้จำหน่ายเองหรือ GPU ของคุณเอง; สิ่งที่เราเสนอคืออีกด้านของการเปรียบเทียบโดยไม่ต้องมีสัญญาที่สอง

อะไรจะเปลี่ยนแปลงภาพนี้

สามสิ่ง เรียงตามว่าสิ่งใดจะเปลี่ยนเรื่องราวได้มากที่สุด โพสต์บล็อกจาก Liquid จะช่วยปิดประเด็นการวางกรอบว่าเป็นคู่ที่แนะนำสำหรับโปรดักชันหรือเป็นรีลีสเพื่อการวิจัย การวัดบน Mac ที่เผยแพร่ได้จะช่วยปิดข้อกล่าวอ้างที่สำคัญต่อกลุ่มเป้าหมายที่ 24B ถูกสร้างมาเพื่อ และการรันทดสอบการยอมรับแบบอิสระบนทราฟฟิกจริง แทนที่จะเป็นชุดข้อมูลเบนช์มาร์กแปดชุดที่ temperature 0 จะบอกคุณว่า 5.16 tokens per step ยังคงทนได้เมื่อเจอกับพรอมป์ที่ยุ่งเหยิง ยาว และเรียกใช้เครื่องมือ ซึ่งเป็นสิ่งที่โมเดลนี้ถูกขายมาเพื่อใช้งานจริงหรือไม่

จนถึงตอนนั้น รีโพซิทอรีก็เป็นสาธารณะ ดาวน์โหลดเวตได้ ไฟล์ CSV ก็อยู่ตรงนั้น และการ์ดโมเดลของผู้ขายเองก็เป็นที่สุดท้ายที่คุณควรไปดูข่าวเกี่ยวกับมัน นั่นเป็นสภาวะที่ผิดปกติสำหรับรีลีสหนึ่ง ๆ — แต่มันเป็นสภาวะที่มีอยู่จริง และอาร์ติแฟกต์ไม่ได้กลายเป็นของจริงน้อยลงเพียงเพราะไม่มีใครเขียนบล็อกโพสต์

A single-column scoreboard for LFM2.5-24B-A2B-DSpark with six rows: draft parameters 327.7M, block size 9, mean tokens accepted per step 5.16 of a possible 10, throughput 2.38x at concurrency 1 and 1.71x at concurrency 256, target LFM2.5-24B-A2B, and status shipped without a vendor announcement, above a footer reading vendor-reported on NVIDIA B300 with the FP8 target and not independently reproduced, with the OrcaRouter logo composited bottom-right.
© 2026 OrcaRouter

สำหรับผู้ให้บริการ

ให้บริการแพลตฟอร์มการอนุมานอยู่หรือไม่ นำโมเดลของคุณขึ้น OrcaRouter

providers@orcarouter.ai

เข้าร่วมคอมมูนิตี้ของเรา

Discordsupport@orcarouter.aiXGitHubYouTube