MiniMax M3.1 Flash เปิดให้บริการบน Tenstorrent แล้ว: สิ่งที่โมเดลขนาด 428B บน Tensix พิสูจน์ได้จริง

โพสต์ในนิวส์รูมของ Tenstorrent ลงวันที่ 22 ตุลาคม 2026 และกล่าวถึงสิ่งที่ไม่กว้างและน่าสนใจกว่า "มีคลาวด์อีกรายเพิ่มโมเดลอีกตัว": MiniMax M3.1 Flash โมเดลแบบ mixture-of-experts ขนาด 428 พันล้านพารามิเตอร์ที่ MiniMax เปิดตัวเมื่อวันที่ 19 ตุลาคม ตอนนี้พร้อมใช้งานบน Tenstorrent Cloud แล้ว โดยทั้ง prefill และ decode ทำงานบนระบบ Blackhole Galaxy ไม่มีตัวเร่งความเร็ว NVIDIA ปรากฏอยู่ที่ใดเลยในเส้นทางการให้บริการนั้น สิ่งที่ Tenstorrent เผยแพร่คือสถาปัตยกรรม แผนการควอนไทซ์ และระเบียบวิธีปรับแต่ง สิ่งที่ไม่ได้เผยแพร่คือตัวเลขทรูพุตเพียงตัวเดียว ตัวเลขเลเทนซี หรือราคาสำหรับการให้บริการของตนเอง การละเว้นนั้นคือส่วนที่ตัดสินว่านี่คือหมุดหมายสำคัญหรือเดโม และมันควรค่าแก่การให้ความสนใจมากกว่าตารางเบนช์มาร์กของโมเดล

Tenstorrent เป็นบริษัทชิปที่นำโดย Jim Keller และข้อเสนอของบริษัทก็คือการประมวลผล AI ไม่ควรเป็นสแต็กของผู้ขายรายเดียว จนถึงประกาศนี้ ข้อเสนอดังกล่าวมีปัญหาด้านความน่าเชื่อถือในระดับบน: โมเดลเปิดที่ใหญ่ที่สุดมักถูกให้บริการบนฮาร์ดแวร์ NVIDIA เป็นประจำ โดยมี AMD เป็นทางเลือก และทุกอย่างอื่นถูกจำกัดอยู่แค่การทดลองกับโมเดลขนาดเล็ก โมเดล mixture-of-experts ขนาด 428B พารามิเตอร์ที่รัน prefill และ decode บนซิลิคอน Tensix เชื่อมต่อด้วยอีเทอร์เน็ตแทนแฟบริกแบบกรรมสิทธิ์ เป็นการติดตั้งใช้งานครั้งแรกที่ทำให้ข้อเสนอนี้เป็นจริงได้ด้วยโมเดลที่มีขนาดและความใหม่ระดับนี้

สิ่งที่ Tenstorrent ระบุไว้อย่างเป็นทางการ

ประกาศฉบับนี้ระบุชัดเจนเกี่ยวกับโทโพโลยีการให้บริการ แต่คลุมเครือเกี่ยวกับตัวเลขทุกตัวที่ผู้ซื้อจะนำไปใช้ เริ่มจากรายละเอียดเฉพาะก่อน เพราะสิ่งเหล่านี้เป็นข้อกล่าวอ้างทางวิศวกรรมที่เป็นของจริง:

• ความพร้อมใช้งาน — Tenstorrent Cloud ที่ console.tenstorrent.com ผ่าน Playground หรือเชื่อมต่อกับ agent harness

• เส้นทางการให้บริการ — ทั้ง prefill และ decode ทำงานบน Tenstorrent Galaxy โดยเฉพาะซูเปอร์คลัสเตอร์ของ Blackhole Galaxies ระบบถูกแบ่งตามภาระงาน: พูลหนึ่งจัดการ prefill อีกพูลหนึ่งจัดการ decode และงานจะย้ายระหว่างพูลผ่านลิงก์อีเทอร์เน็ตความหน่วงต่ำโดยตรง

• หน่วยความจำ — Blackhole Galaxy แต่ละเครื่องมี DRAM 1 TB พร้อม SSD หลายเทระไบต์ เวตและ KV cache พักอยู่ใน DRAM อย่างถาวร ส่วน SSD เก็บ KV cache ที่ offload ไว้ เพื่อให้เมื่อเอเจนต์กลับมาในเทิร์นถัดไปไม่ต้องคำนวณบริบทใหม่

• การควอนไทซ์ — น้ำหนักของ MLP, น้ำหนักของ attention, indexer และ shared expert ถูกจัดเก็บใน MXFP8; ส่วน routed experts ถูกจัดเก็บใน NVFP4

• โครงสร้างโมเดล — attention แบบ sparse เข้าแทนที่ attention แบบ global grouped-query และ MLP แบบ dense ปรากฏเฉพาะในสามเลเยอร์แรก

• ข้อมูลการปรับแต่ง — Tenstorrent กล่าวว่าพวกเขาได้ปรับแต่งการปรับใช้บนเทรซของเอเจนต์เขียนโค้ด AgentX ของ SemiAnalysis ซึ่งหมายถึงเซสชันหลายรอบจริงและการกระจายงานไปยังเอเจนต์ย่อย แทนที่จะเป็นเบนช์มาร์กแชตสั้น ๆ

• ราคาที่ระบุ — $0.15 ต่อล้านโทเคนอินพุต, $0.60 ต่อล้านโทเคนเอาต์พุต, $0.015 ต่อล้านโทเคนอินพุตที่แคชไว้ นี่คือราคาตามรายการของ MiniMax; ประกาศดังกล่าวไม่ได้เผยแพร่อัตราเฉพาะของ Tenstorrent ดังนั้นจึงยังไม่สามารถระบุได้ว่าการรันโมเดลที่นี่มีค่าใช้จ่ายมากกว่าหรือน้อยกว่าการรันบน GPU หรือไม่

การดีพลอยมีอยู่เพราะค่าน้ำหนักถูกเปิดเผยออกมา

ข้อเท็จจริงสำคัญที่สุดเพียงข้อเดียวเบื้องหลังประกาศนี้ไม่ใช่ตัวซิลิคอน แต่คือการที่ MiniMax เผยแพร่เวตออกมาเลยต่างหาก รีโพซิทอรีขนาด 252.4 GB ขึ้นบน Hugging Face เมื่อวันที่ 23 ตุลาคม และโพสต์ของ Tenstorrent ลงวันที่ก่อนหน้าหนึ่งวัน ซึ่งบ่งชี้ว่าการพอร์ตนั้นสร้างขึ้นด้วยสิทธิ์เข้าถึงในฐานะพาร์ตเนอร์มากกว่าการดาวน์โหลดจากสาธารณะ ผู้จำหน่ายฮาร์ดแวร์บุคคลที่สามไม่สามารถพอร์ตโมเดลที่ตนไม่สามารถเข้าถึงได้ และ Tenstorrent ก็ไม่ใช่บริษัทย่อยของ MiniMax ที่ให้บริการเช็กพอยต์ของตนเอง นี่คือกลไกที่เวตแบบเปิดสร้างการแข่งขันด้านฮาร์ดแวร์: ทุกห้องแล็บที่เผยแพร่เช็กพอยต์จะเปลี่ยนผู้จำหน่ายชิปที่เต็มใจทุกรายให้กลายเป็นช่องทางจัดจำหน่ายที่มีศักยภาพ และผู้จำหน่ายชิปทุกรายที่รองรับโมเดลก็ทำให้เวตของห้องแล็บนั้นมีคุณค่ามากขึ้นตามไปด้วย

ตรรกะเดียวกันนี้อธิบายว่าทำไมโมเดลระดับแนวหน้าแบบปิดจึงไม่ปรากฏในประกาศแบบนี้ ผู้ขายให้คุณเช่า API endpoint สำหรับโมเดลที่เป็นกรรมสิทธิ์ได้ แต่ไม่สามารถควอนไทซ์เวตให้เป็นรูปแบบตัวเลขของตนเอง ปรับแต่งเคอร์เนลให้เข้ากับรูปแบบ sparse attention ของโมเดล หรือแยก prefill และ decode กระจายไปบน fabric ของตนเองได้ การพอร์ตคือผลิตภัณฑ์ และการพอร์ตต้องใช้ไฟล์

นั่นก็เป็นเหตุผลว่าทำไมคำว่า "open" ในเรื่องนี้จึงต้องแยกออกเป็นสองสิ่งที่แตกต่างกัน ซอฟต์แวร์สแต็กของ Tenstorrent — TT-Metalium, TT-NN, TT-Forge — เป็นโอเพนซอร์ส และนั่นคือสิ่งที่ทำให้การพอร์ตโดยบุคคลที่สามเป็นไปได้จริง เวตของ MiniMax เป็นโอเพนเวตส์ ไม่ใช่โอเพนซอร์ส รีพозитори... คลังเก็บมีขนาด 252.4 GB กระจายอยู่ทั่ว 48 safetensors shard บวกกับดราฟเตอร์สำหรับ speculative decoding ขนาด 2.3 GB และเผยแพร่ภายใต้ MiniMax Community Licence ซึ่งกำหนดให้ต้องระบุที่มาเมื่อนำไปติดตั้งใช้งานเชิงพาณิชย์ และต้องได้รับอนุญาตเป็นลายลักษณ์อักษรล่วงหน้าเมื่อรายได้ต่อปีเกิน 20 ล้านดอลลาร์ โอเพนสองแบบ เส้นทางการให้บริการเดียว

ทำไมเส้นทางการให้บริการจึงถูกแบ่งออกเป็นสองส่วน

การแยก prefill/decode ไม่ใช่ลักษณะเฉพาะของ Tenstorrent; มันเป็นคำตอบมาตรฐานสำหรับปัญหาที่เวิร์กโหลดของเอเจนต์สร้างขึ้น prefill ถูกจำกัดด้วยพลังประมวลผลและเกิดขึ้นครั้งเดียวต่อพรอมป์ต์ ส่วน decode ถูกจำกัดด้วยแบนด์วิดท์หน่วยความจำและเกิดขึ้นครั้งเดียวต่อโทเค็นที่สร้างขึ้น ตราบใดที่คำตอบยังทำงานอยู่ หากวางทั้งสองไว้บนอุปกรณ์เดียวกันและมีพรอมป์ต์ยาวเข้ามากลางสตรีม มันจะแย่งพลังประมวลผลไปจากผู้ใช้ทุกคนที่กำลัง decode อยู่ ซึ่งเป็นอาการสะดุดแบบเดียวกับที่ทำให้ผลิตภัณฑ์เอเจนต์รู้สึกว่าใช้งานไม่ได้

การแยกพูลออกจากกันทำให้แต่ละฝั่งถูกจัดสรรทรัพยากรให้สอดคล้องกับคอขวดของตัวเอง คำอธิบายของ Tenstorrent ระบุชัดเจนว่าพูล prefill กระจายพรอมต์ไปยังชิปหลายตัวโดยใช้แบนด์วิดท์ระหว่างอุปกรณ์สูง ขณะที่พูล decode เก็บเวตต์และ KV cache ไว้ใน DRAM และรันแต่ละสเต็ปอย่างเป็นอิสระ ลิงก์อีเทอร์เน็ตทำหน้าที่รับส่งข้อมูลในช่วงส่งต่อ

อีเทอร์เน็ตเป็นตัวเลือกที่น่าสนใจ แฟบริกแบบ scale-up ที่เป็นกรรมสิทธิ์เฉพาะให้แบนด์วิดท์สูงกว่าและความหน่วงต่ำกว่าอีเทอร์เน็ตcommodity และสถานะของ NVIDIA ในด้านการประมวลผล AI ก็ขึ้นอยู่ส่วนหนึ่งกับการเป็นเจ้าของแฟบริกนั้น Tenstorrent โต้แย้งว่าสำหรับเวิร์กโหลดนี้ — โมเดล mixture-of-experts ที่มีพารามิเตอร์ที่ใช้งานจริง 2.3 หมื่นล้านตัว และแผนการให้บริการที่แยก prefill ออกจาก decode อยู่แล้ว — อีเทอร์เน็ตมาตรฐานก็ดีพอ และเศรษฐศาสตร์ของการ scale-out ก็ดีกว่า เพราะอินเทอร์คอนเนกต์ไม่ใช่การล็อกอินครั้งที่สอง นั่นเป็นข้อโต้แย้งที่ฟังขึ้น แต่ยังไม่ได้รับการพิสูจน์ มันจะกลายเป็นข้อพิสูจน์ได้เมื่อมีคนเผยแพร่ตัวเลข tokens ต่อวินาทีต่อดอลลาร์ across การติดตั้งแบบหลายโหนด และยังไม่มีใครทำ

การคำนวณที่ทำให้ 428B พอดีในแร็คเดียว

โมเดลนี้มีพารามิเตอร์ทั้งหมด 4.28 แสนล้านตัว และเปิดใช้งาน 2.3 หมื่นล้านตัวต่อโทเคน ใน BF16 นั่นคิดเป็นประมาณ 856 GB ก่อนจะรวม KV cache หรือโอเวอร์เฮดขณะรันใด ๆ Blackhole Galaxy หนึ่งระบบประกอบด้วย Blackhole ASIC 32 ตัว โดยแต่ละตัวมี GDDR6 32 GB — ซึ่งก็คือ 1 TB ที่ Tenstorrent ระบุ — ดังนั้นสำเนาใน BF16 จะกินหน่วยความจำของระบบราว 84% และเหลือพื้นที่ประมาณ 170 GB สำหรับอย่างอื่นทั้งหมด เมื่อใช้บริบท 1 ล้านโทเคน พร้อม KV cache ที่ต้องอยู่รอดหลายรอบของเอเจนต์ นั่นไม่ใช่ระยะเผื่อที่สบายนัก

ไฟล์ดาวน์โหลดที่เผยแพร่มีขนาด 252.4 GB นี่คือตัวเลขที่ทำให้การติดตั้งใช้งานลงตัว: เหลือพื้นที่ประมาณ 770 GB จากเทระไบต์ของ Galaxy สำหรับ KV cache, activations และ speculative-decoding drafter รูปแบบ mixed-precision คือสิ่งที่สร้างพื้นที่นั้นขึ้นมา — MXFP8 สำหรับ weights ที่ใช้ร่วมและฝั่ง attention, NVFP4 สำหรับ routed experts ซึ่งเป็นส่วนใหญ่ของพารามิเตอร์และเป็นส่วนที่ถูกแตะเพียงเบาบางเท่านั้น Sparse attention และ dense MLP ที่จำกัดอยู่ในสามเลเยอร์แรกช่วยลด memory traffic ลงอีก

การคำนวณนี้เป็นของเรา จากตัวเลขที่เผยแพร่แล้ว ไม่ใช่คำกล่าวอ้างของ Tenstorrent แต่มันอธิบายลักษณะของการประกาศได้เป็นอย่างดี: การพอร์ตครั้งนี้มีความน่าเชื่อถือก็เพราะ routed experts แบบ 4-bit เปลี่ยนโมเดลขนาด 856 GB ให้กลายเป็นไฟล์ 252 GB ที่พอดีกับระบบ 32 ชิป และยังเหลือที่ว่างสำหรับ context ขนาดยาว

สิ่งที่ Tenstorrent ไม่ได้เผยแพร่

ไม่มีตัวเลขโทเคนต่อวินาที ไม่มีตัวเลขเวลาถึงโทเคนแรก ไม่มีตัวเลขการทำงานพร้อมกัน และไม่มีราคาสำหรับ endpoint ที่โฮสต์โดย Tenstorrent สำหรับการดีพลอยที่มีสมมติฐานทั้งหมดว่า ซิลิคอนที่ไม่ใช่ NVIDIA สามารถให้บริการโมเดลเปิดระดับแนวหน้าได้ ตัวเลขสี่ตัวนั้นคือสิ่งที่Would settle the argument ได้ การไม่มีตัวเลขเหล่านั้นไม่ใช่หลักฐานว่าการดีพลอยช้า แต่เป็นหลักฐานว่าประกาศดังกล่าวเป็นถ้อยแถลงเรื่องความสามารถมากกว่าผลการทดสอบประสิทธิภาพ และผู้อ่านควรจัดประเภทให้สอดคล้องกัน

ตัวเลขความเร็วสาธารณะเพียงชุดเดียวสำหรับ MiniMax M3.1 Flash อธิบายถึงการติดตั้งใช้งานที่แตกต่างออกไป MiniMax อ้างว่าค่ามัธยฐานสูงกว่า 170 โทเคนเอาต์พุตต่อวินาที และค่าสูงสุดสูงกว่า 200 บน API ของตนเอง Artificial Analysis ซึ่งวัด API ที่โฮสต์ไว้แทนที่จะเป็นฮาร์ดแวร์ของ Tenstorrent บันทึกค่า 95.6 โทเคนเอาต์พุตต่อวินาที โดยมีเวลาไปยังโทเคนแรก 1.48 วินาที นั่นเป็นช่องว่างประมาณ 1.8 เท่าระหว่างคำกล่าวอ้างของผู้จำหน่ายกับการวัดอิสระบนเส้นทางการให้บริการที่แตกต่างกัน ซึ่งเป็นเครื่องเตือนใจที่มีประโยชน์ว่า "โมเดลเร็ว" และ "การติดตั้งใช้งานนี้เร็ว" เป็นคำกล่าวอ้างที่แยกจากกัน

สิ่งที่ Artificial Analysis ยืนยันได้เกี่ยวกับโมเดลนี้มีความเกี่ยวข้องกับกรณีการใช้งานของ Tenstorrent มากกว่าตัวเลข benchmark พาดหัวข่าว M3.1 Flash ได้ 43 คะแนนบน Intelligence Index มีต้นทุนประมาณ $0.22 ต่องาน index ที่ทำเสร็จหนึ่งงาน และได้ 16 คะแนนบน AA-Omniscience โดยมีอัตราการ hallucinate 93% — หมายความว่าเมื่อมันไม่รู้คำตอบ มันมักสร้างคำตอบที่ผิดออกมาแทนที่จะปฏิเสธ Tenstorrent ปรับแต่งการ deploy นี้บน agent traces ลูปของเอเจนต์เป็นจุดที่คำตอบผิดอย่างมั่นใจมีต้นทุนสูงที่สุด เพราะการเรียกเครื่องมือครั้งถัดไปจะรับช่วงข้อผิดพลาดนั้นไป เส้นทางการให้บริการที่เร็วและถูกไม่ได้แก้ปัญหานี้ แต่ทำให้ชั้นการตรวจสอบสำคัญยิ่งขึ้น

จะทำอย่างไรกับสิ่งนี้หากคุณกำลังซื้อ inference

สำหรับทีมส่วนใหญ่ คำตอบที่ใช้ได้จริงในสัปดาห์นี้คือ “ทดลองใช้มัน อย่าย้ายไปใช้มัน” Playground เป็นวิธีที่ประหยัดที่สุดในการดูว่าพฤติกรรมของโมเดลเหมาะกับภาระงานของคุณหรือไม่ และส่วนที่น่าสนใจให้ลองตรวจสอบคือการผสานรวม agent-harness ของ Tenstorrent เพราะการติดตั้งใช้งานนี้ถูกปรับแต่งมาสำหรับการใช้เครื่องมือแบบหลายรอบ (multi-turn tool use) มากกว่าการแชตแบบครั้งเดียว นำ trace ของคุณเองมาด้วย การจูนของ SemiAnalysis AgentX บอกคุณว่า Tenstorrent ปรับแต่งเพื่ออะไร แต่ไม่ได้บอกว่าพรอมป์ของคุณจะทำงานอย่างไร

อย่าเพิ่งวางเส้นทางสู่โปรดักชันจนกว่าจะมีสองสิ่งนี้: ตัวเลข throughput และ latency ที่เผยแพร่จาก Tenstorrent และการวัดคุณภาพต่อแต่ละงานของคุณเอง ข้อแรกเป็นเรื่องที่รอผู้ขายตอบ ข้อที่สองมีเพียงคุณเท่านั้นที่ตอบได้

ขอพูดตรง ๆ หนึ่งเรื่องเกี่ยวกับตำแหน่งของ OrcaRouter ในกรณีนี้ M3.1 Flash ไม่ได้อยู่ในแค็ตตาล็อกของเรา สายผลิตภัณฑ์ MiniMax ที่นั่นหยุดอยู่ที่ MiniMax-M3 ดังนั้นวิธีเรียกใช้โมเดลใหม่ในวันนี้คือ Tenstorrent Cloud และ API ของ MiniMax เอง และเราไม่ใช่หนึ่งในนั้น สิ่งที่ OrcaRouter มีให้คือพื้นฐานการเปรียบเทียบที่คุณต้องมีก่อนตัดสินใจ: MiniMax-M3 และ โมเดลอื่นอีกกว่า 200 รายการ ภายใต้คีย์เดียว ในราคาตามรายการของผู้ให้บริการโดยคิดมาร์กอัป 0% ดังนั้นคำถามที่ว่า "โมเดลใหม่ดีกว่าสำหรับเวิร์กโหลดของฉันจริงหรือไม่ เมื่อเทียบกับโมเดลที่ฉันใช้อยู่" จึงตอบได้โดยไม่ต้องมีสัญญาฉบับที่สองและความสัมพันธ์ด้านการเรียกเก็บเงินชุดที่สอง

ตัวเลขที่จะเปลี่ยนท่าเรือให้กลายเป็นราคา

Tenstorrent ได้แสดงให้เห็นสิ่งที่เป็นรูปธรรมแล้ว: โมเดล mixture-of-experts ขนาด 428B ซึ่งควอนไทซ์เป็นรูปแบบ 4/8-bit แบบผสม ที่รันการอนุมานทั้งสองครึ่งบนซิลิคอน Tensix ผ่านอีเทอร์เน็ต พร้อมเครื่องมือโอเพนซอร์สและระเบียบวิธีปรับแต่งที่เผยแพร่แล้ว นั่นคือข้อพิสูจน์ด้านความสามารถในการพอร์ต และเป็นครั้งแรกในระดับขนาดโมเดลนี้ที่ไม่ต้องส่งผ่าน CUDA

ยังไม่มีการแสดงให้เห็นว่าการพอร์ตนี้มีต้นทุนต่ำกว่า เร็วกว่า หรือเชื่อถือได้มากกว่าเส้นทาง GPU Galaxy เป็นระบบ BlockFP8 ขนาด 6U จำนวน 32 ASIC ประมาณ 23 PFLOPS ซึ่งตั้งราคาไว้ที่ 110,000 ดอลลาร์เมื่อเปิดให้ใช้งานทั่วไปในเดือนเมษายน 2026 ก่อนที่จะบวกค่าเครือข่ายซูเปอร์คลัสเตอร์ที่การติดตั้งนี้ใช้งาน ฮาร์ดแวร์นั้นเมื่อรันโมเดลนี้จะให้ต้นทุนต่อล้านโทเค็นที่ดีกว่าคลัสเตอร์ H100 หรือ MI300X หรือไม่นั้นเป็นคำถามเชิงพาณิชย์ทั้งหมด และประกาศดังกล่าวก็ปล่อยให้เป็นคำถามที่ยังไม่มีคำตอบ

ดังนั้นสิ่งถัดไปที่ต้องจับตาจึงไม่ใช่โมเดลอีกตัวบนฮาร์ดแวร์เดิม แต่เป็นตัวเลขโทเคนต่อวินาทีและเรตการ์ดจาก Tenstorrent ตามด้วยผู้จำหน่ายซิลิคอนรายที่สองที่ทำการพอร์ตเดียวกัน เมื่อสิ่งเหล่านี้เกิดขึ้น open weights จะกลายเป็นการแข่งขันด้านฮาร์ดแวร์อย่างแท้จริง จนถึงตอนนั้น คำอธิบายที่ถูกต้องคือการสาธิตสถาปัตยกรรมที่น่าเชื่อถือ โดยที่ครึ่งเชิงพาณิชย์ยังไม่ถูกเผยแพร่