Inkling 2 Small Weights เปิดให้ดาวน์โหลดแล้ว: 394 GB, Apache 2.0 และบิลค่าใช้จ่ายขนาดเท่าโหนด

คอมมิตน้ำหนักครั้งแรกในรีโพซิทอรี Inkling 2 Small ถูกประทับเวลา 19:53 UTC ของวันที่ 12 พฤศจิกายน 2026 — เก้าชั่วโมงก่อนที่ข้อความนี้จะถูกเขียนขึ้น จนถึงตอนนั้น โมเดลเป็นเพียงตารางราคาและตาราง benchmark: Thinking Machines Lab เปิดตัวมันเมื่อวันที่ 5 พฤศจิกายน ด้วยน้ำหนักแบบปิด endpoint ของ Tinker และความตั้งใจที่ระบุไว้ว่าจะเผยแพร่เช็กพอยต์ภายใต้ Apache 2.0 ในสัปดาห์หน้า ดังนั้นตัวโมเดลเองจึงมีอายุแปดวัน สิ่งใหม่คือคุณสามารถดาวน์โหลดมันได้ และไฟล์ที่ดาวน์โหลดก็ไม่ใช่ไฟล์เล็ก

มีรีโพซิทอรีสองแห่งที่เปิดเป็นสาธารณะ เช็กพอยต์หลักมีขนาด 393.5 GB กระจายอยู่ใน 36 ไฟล์ โดย 24 ไฟล์เป็นแชร์ดของ safetensors ตัวแปร MXFP8 มีขนาด 622.8 GB ทั้งสองแห่งระบุว่าเป็น Apache 2.0 ในเมทาดาทาการ์ดโมเดล นั่นคือทั้งหมดของประกาศจนถึงตอนนี้ — การ์ดโมเดล รีโพซิทอรี และอัปเดตหนึ่งย่อหน้าที่ต่อท้ายโพสต์เปิดตัว ทุกอย่างด้านล่างนี้อ่านมาจากแหล่งต้นทางเหล่านั้นบวกกับคู่มือการให้บริการสองเล่มที่มาพร้อมกัน และควรพูดตรง ๆ ถึงสิ่งที่ยังขาดอยู่: การทดสอบความปลอดภัยจากภายนอกซึ่งเป็นเงื่อนไขเบื้องต้นที่ระบุไว้สำหรับการเปิดเวทเหล่านี้ ยังไม่ได้รับการเผยแพร่

ในไฟล์ดาวน์โหลดมีอะไรจริง ๆ

เริ่มจากขนาดก่อน เพราะเป็นสิ่งแรกที่ตัดสินว่าโมเดลนี้จะพร้อมให้คุณใช้ได้เลยหรือไม่ และเลย์เอาต์แบบความแม่นยำผสมก็อธิบายตัวเลขนั้นได้เกือบจะตรงเป๊ะ ซึ่งเป็นสัญญาณดีว่าตัวเลขที่เผยแพร่ออกมาสอดคล้องกันเอง มากกว่าจะเป็นข้อความทางการตลาด

• การแยก Checkpoint — Expert แบบ NVFP4 ในเลเยอร์ 0 ถึง 39, Expert แบบ MXFP8 ในเลเยอร์ 40 ถึง 47 ตามคู่มือ SGLang

• ขนาดที่คาดการณ์ — การเฉลี่ย 5.33 บิตต่อพารามิเตอร์จากการแบ่ง 40/48 และ 8/48 จะได้ 396 GB สำหรับพารามิเตอร์ 594B

• ขนาดที่วัดได้ — 393.5 GB สำหรับรีโพซิทอรีหลัก รวมถึงไฟล์โทเค็นไนเซอร์และไฟล์กำหนดค่า

• รีโพซิทอรี MXFP8 — 622.8 GB และดัชนี safetensors นับพารามิเตอร์ที่จัดเก็บไว้ 612.4B เทียบกับ 383.1B ของรีโพซิทอรีหลัก เนื่องจากการแพ็กน้ำหนัก expert ให้เป็นสี่บิตช่วยลดจำนวนองค์ประกอบที่นับได้ ไม่ใช่ตัวโมเดล

สถาปัตยกรรมภายใต้คือทรานส์ฟอร์เมอร์แบบ decoder-only จำนวน 48 เลเยอร์ พร้อมบล็อกฟีดฟอร์เวิร์ดแบบ sparse mixture-of-experts: ผู้เชี่ยวชาญที่ถูก route 384 ตัว, เปิดใช้งาน 8 ตัวต่อโทเคน, ความกว้างซ่อน 4,608, หัว attention 48 หัวบนหัว key-value 8 หัว ที่มิติละ 128 และคลังคำศัพท์ 201,024 โทเคน attention เป็นแบบ hybrid ไม่ใช่แบบ uniform — 40 จาก 48 เลเยอร์ใช้หน้าต่างเลื่อนขนาด 1,024 โทเคน และมีเพียง 8 เลเยอร์ที่เป็น global ซึ่งเป็นที่มาของงบประมาณบริบทยาว หอภาพ (vision tower) เป็นทรานส์ฟอร์เมอร์แยกต่างหาก 23 เลเยอร์ มีความกว้างซ่อน 1,024 และ 16 หัว อ่านแพตช์ขนาด 20×20 พิกเซลด้วยการรวมแบบ 2×2 ดังนั้นแต่ละโทเคนภาพครอบคลุมพื้นที่ 40×40 พิกเซล; การ์ดระบุให้ใช้ภาพที่มีด้านละ 40 ถึง 4,096 พิกเซล

นอกจากนี้ยังมีหัวทำนายหลายโทเค็น (multi-token-prediction head) ที่ติดตั้งเพิ่มเพื่อการถอดรหัสเชิงคาดการณ์ (speculative decoding) — ห้าชั้น ขนาดบล็อก 8 อันดับมาร์คอฟ 256 และเลเยอร์เป้าหมายที่ 5, 11, 17, 23, 29, 35, 41 และบล็อกสุดท้าย ทั้งแปดนี้คือเลเยอร์ global-attention พอดี ซึ่งเป็นรายละเอียดที่บอกว่าหัวดราฟต์ถูกออกแบบโดยอิงกับสแต็กไฮบริด ไม่ใช่เพิ่มเข้ามาทีหลัง Thinking Machines เรียกตัวถอดรหัสที่ได้ว่า "DSpark"

มีเรื่องที่ต้องจัดการเล็กน้อยสำหรับใครก็ตามที่การตรวจสอบทางกฎหมายต้องการเอกสารประกอบ โดยสัญญาอนุญาตได้รับการประกาศไว้ในเมทาดาทาของการ์ดโมเดลว่าเป็น Apache 2.0 และการ์ดมีลิงก์ออกไปยังเอกสารสัญญามาตรฐาน แต่ไม่มีไฟล์ LICENSE, LICENSE.md, LICENSE.txt หรือ NOTICE อยู่ในโครงสร้างไดเรกทอรีของรีโพซิทอรี ทั้งสี่รายการค้นหาแล้วไม่พบสิ่งใดเลย คำประกาศนั้นมีอยู่จริงและชัดเจนไม่กำกวม แต่สิ่งที่ทีมกฎหมายส่วนใหญ่คาดว่าจะพบกลับไม่มีอยู่

รายการฮาร์ดแวร์ และจุดที่ผู้ขายกับคุกบุ๊กไม่ตรงกัน

การ์ดโมเดลระบุค่าขั้นต่ำของ VRAM ส่วนสูตรการเสิร์ฟระบุโทโพโลยี ทั้งสองไม่ใช่ตัวเลขเดียวกัน และช่องว่างระหว่างทั้งสองคือสิ่งที่มีประโยชน์ในทางปฏิบัติที่สุดบนหน้านี้

• NVFP4 เป็นหลัก — VRAM รวมอย่างน้อย 500 GB; ตัวอย่างบนการ์ดคือ 2× B300 หรือ 4× H200

• รุ่น MXFP8 — อย่างน้อย 800 GB; ตัวอย่างเช่น 4× B300 หรือ 8× H200

• SGLang, โทโพโลยีต่อ GPU — GB200, GB300 และ B300 ที่ TP 4 / EP 4; B200 ที่ TP 4 / EP 4 โดยแนะนำ TP 8 เพื่อให้มี KV headroom; H200 พร้อม NVFP4 ที่ TP 8 / EP 8; MI350X และ MI355X ที่ TP 8 / EP 8; Vera Rubin ที่ TP 4 / EP 4; TPU7x ที่ 8 / 8 บนโฮสต์แบบสี่ชิป

• MXFP8 บน B200 หรือ GB200 — TP 8 / EP 8 โดยมีน้ำหนักประมาณ 151 GB ต่อ GPU

• ข้อจำกัดที่อยู่เบื้องหลังทั้งหมดนี้ — expert parallelism ต้องเท่ากับ tensor parallelism เนื่องจากสเกลการเปิดใช้งานของ expert ใน NVFP4 ครอบคลุมความกว้างอินพุตทั้งหมดของแต่ละ expert และไม่สามารถแบ่งแบบ tensor-parallel ได้

ดังนั้น ตัวอย่าง 4× H200 ของการ์ดผ่านเกณฑ์ขั้นต่ำ 500 GB แต่ไม่ใช่โทโพโลยีที่ cookbook ตรวจสอบรับรอง; H200 ถูกระบุไว้ที่แบบ 8-way เกณฑ์ขั้นต่ำด้านพื้นที่จัดเก็บและหน่วยความจำบอกคุณว่ามันพอดีหรือไม่ แต่ไม่ได้บอกว่ามันจะรันได้หรือไม่ และสำหรับ checkpoint นี้ ตัวเลขที่สองเป็นสองเท่าของตัวเลขแรกบนฮาร์ดแวร์ที่คนส่วนใหญ่มี หากคุณกำลังจัดเตรียมระบบ ให้วางแผนตาม recipe ไม่ใช่ตามเกณฑ์ขั้นต่ำ

เส้นทาง AMD มีอายุได้สองวันแล้วและยังไม่ถูก merge

เรดาร์ที่ทำให้ชิ้นงานนี้ถูกหยิบขึ้นมาพบเจอ pull request การสนับสนุนของ AMD มากกว่าการปล่อยเวต และการวางกรอบอย่างตรงไปตรงมาของ PR นั้นโดยตัวมันเองก็คือว่ามันเป็นงานระดับเอนจิน — สิ่งประเภทที่ไม่ใช่ข่าว มันสำคัญตรงนี้เพียงเพราะมันลงในสัปดาห์เดียวกับที่เช็กพอยต์ลง และเพราะมันเป็นผู้จำหน่ายซิลิคอนรายที่สองที่มีอิมเมจคอนเทนเนอร์

{{1}}คำขอรวมโค้ด{{/1}}นี้เพิ่มการรองรับ gfx950 สำหรับ MI350X และ MI355X โดยต่อยอดจากพอร์ตพื้นฐานของ Inkling 2 Small สิ่งที่เปลี่ยนแปลง: เคอร์เนล ROCm อยู่ในโมดูล *_hip.py แยกต่างหากที่เข้าถึงได้เฉพาะภายใต้ HIP ส่วนเส้นทาง CUDA และ NPU ไม่ถูกแตะต้อง พูล KV แบบรวมศูนย์และการทำ prefill แบบ full-graph กลายเป็นค่าเริ่มต้นตอนเปิดใช้งาน MegaMoE จะถูกปฏิเสธแทนที่จะพยายามดำเนินการ และการควอนไทซ์ quick-reduce จะถูกเพิกเฉยเว้นแต่แฟล็กสภาพแวดล้อมจะอนุญาต จำเป็นต้องมี gfx950 เว้นแต่ตัวแปรสภาพแวดล้อมตัวที่สองจะเขียนทับ ซึ่งหมายความว่าการ์ดระดับ MI300 จะถูกปฏิเสธตอนเปิดใช้งาน และ{{2}}ผู้เขียน PR กล่าวว่า gfx942 "ยังไม่ได้ถูกเรียกใช้"{{/2}}

การวัดใน PR ซึ่งเป็นข้อมูลของผู้เขียนเองและยังไม่ผ่านการตรวจทาน: ยูนิตเทสต์ 426 รายการผ่านบน MI350X หนึ่งเครื่อง, 98.0% บน GSM8K-200 ที่โหมด balanced effort และ 97.5% ด้วย DSpark ที่ความยาวการยอมรับ 4.04, และเวลาต่อโทเคนเอาต์พุตที่อินพุต 2,048 และเอาต์พุต 512 อยู่ที่ 5.15 ms ในโหมด balanced เทียบกับ 2.10 ms เมื่อใช้ DSpark ค่าเหล่านี้แปลงเป็นประมาณ 194 และ 476 โทเคนเอาต์พุตต่อวินาทีบนสตรีมเดียวเมื่อใช้แอกเซลเลอเรเตอร์แปดตัว เมื่อเปิดใช้งาน AITer ตัวเลขความแม่นยำจะเปลี่ยนเป็น 97.5% และ 96.5%

สถานะของ PR อยู่ในฉบับร่าง CI ยังไม่ได้รันบน PR นี้ — งาน base ถูกบล็อกเนื่องจากยังขาด label และไม่มีการบันทึกการรันบน AMD สำหรับ commit ที่อยู่ระหว่างการตรวจสอบ — และ code owner ทั้งหมดที่ระบุไว้ยังรอการตรวจสอบอยู่ มองว่าการรองรับ MI350X เป็นสิ่งที่คุณสามารถสร้างจากซอร์สได้ภายในสัปดาห์นี้ ไม่ใช่สิ่งที่คุณซื้อได้

การเสิร์ฟสิ่งนี้หมายถึงอิมเมจสำหรับงานพัฒนา ไม่ใช่รีลีส

สแตกหลักทั้งสองมีการรองรับตั้งแต่ Day Zero และยังไม่มีตัวไหนปล่อยออกมา SGLang ระบุชัดเจนว่ายังไม่มีการรองรับนี้ในรีลีสใดเลย และชี้ไปที่บิลด์ dev-inkling-2-small โดยมีอิมเมจแยกสำหรับ Hopper และ Blackwell, Vera Rubin, MI35x และ TPU7x ส่วน vLLM กำหนดให้ใช้ nightly หรือใหม่กว่า หรืออิมเมจ vllm/vllm-openai:inkling-2-small ซึ่งเป็นเรื่องปกติสำหรับโมเดลขนาดนี้และใหม่ขนาดนี้ แต่มันเปลี่ยนความหมายของคำว่า "supported": คุณกำลังติดตามสาขาหนึ่ง และการ rebase อาจทำให้การดีพลอยของคุณพังได้

รายละเอียดด้านการปฏิบัติงานที่จะสร้างปัญหาจริง ๆ:

• บริบท — สูตร TP 4 ของ vLLM จำกัดไว้ที่ 262,144 โทเคนบนเทรย์เดียว ส่วนหน้าต่างแบบเต็ม 1,048,576 โทเคนต้องใช้ TP 8 ข้ามสองโหนด ที่ TP 4 คำขอขนาด 1M โทเคนเพียงคำขอเดียวต้องใช้ KV cache 64.47 GiB ซึ่งมากกว่าพื้นที่ที่เหลืออยู่ในเทรย์หนึ่ง

• การถอดรหัสแบบคาดการณ์ (speculative decoding) — SGLang ตรวจสอบ 8 โทเคนต่อขั้นตอนด้วยหัว DSpark ที่มาพร้อมกัน ส่วนสิ่งที่เทียบเท่าใน vLLM ตั้งค่าโทเคนคาดการณ์ 7 โทเคนด้วยการร่างแบบความน่าจะเป็น สูตรเตือนว่าอัตราการยอมรับลดลง 15 ถึง 25% ที่อุณหภูมิ 1.0 หากคุณร่างแบบ greedy

• ตัวแยกวิเคราะห์ — การให้เหตุผลใช้ inkling การเรียกเครื่องมือใช้ inkling2 และ SGLang จะเลือกทั้งสองโดยอัตโนมัติเมื่อไม่ได้ตั้งค่า ตัวแยกวิเคราะห์การเรียกเครื่องมือของ vLLM เป็นแบบต้องเปิดใช้เอง และสูตรระบุว่าการเรียกเครื่องมือยังไม่ได้รับการทดสอบประสิทธิภาพแบบครบวงจร แต่ทดสอบเฉพาะระดับหน่วยเท่านั้น

• การแยกส่วน prefill/decode — ตรวจสอบความถูกต้องเฉพาะในรูปแบบ 1P1D บน GB300 tray สี่ GPU, NVFP4, ไม่มี MegaMoE โดยบังคับสัดส่วนหน่วยความจำแบบสแตติกให้ลดลงเหลือ 0.86 เนื่องจากค่าอัตโนมัติ 0.963 เกิดหน่วยความจำไม่พอ การแยกนี้ไม่พอดีกับ checkpoint MXFP8

• การแยก Encoder ออกเป็นส่วนๆ — ยังไม่มีในอิมเมจ และ language server จะหยุดทำงานหากไม่สามารถเข้าถึง encoder ที่มีสถานะปกติได้

• พื้นที่หน่วยความจำเหลือเผื่อ — บนรุ่น B200 หรือ GB200 ขนาด 192 GB ที่ TP 4 ความจุ KV จะอยู่ที่ประมาณหนึ่งในสามของสิ่งที่เทรย์ GB300 ให้ ซึ่งเป็นข้อจำกัดที่แท้จริงต่อการรองรับงานพร้อมกันแบบบริบทยาว ไม่ใช่ขนาดหน้าต่างที่ระบุไว้บนการ์ด

นอกจากนี้ยังมีรายงานจากชุมชนหนึ่งรายการบนการ์ดโมเดลเอง จากช่วงชั่วโมงแรกหลังอัปโหลด โดยมีชื่อว่า “การ์ด Hopper ยังไม่เข้ากันได้กับอิมเมจ vllm” ไม่ปรากฏการตอบกลับจากผู้ดูแล และฉันไม่สามารถจำลองปัญหานี้ได้ ดังนั้นให้ถือเป็นสัญญาณเตือนมากกว่าข้อค้นพบ และตรวจสอบก่อนที่คุณจะคอมมิตโหนด Hopper ฝั่ง SGLang ระบุ H200 ที่ 8-way ไว้จริง ดังนั้นเส้นทาง Hopper จึงไม่ได้ถูกปิด — เพียงแต่ไม่ใช่เส้นทางที่สูตรของ vLLM อธิบายไว้

การโฮสต์ด้วยตนเองมีต้นทุนอะไรบ้าง และทำไมคำตอบจึงแทบไม่เคยอยู่ที่ราคา

เหตุผลที่ต้องดาวน์โหลด 394 GB คือการควบคุม ไม่ใช่เศรษฐศาสตร์ต่อหน่วย และการคำนวณก็ทำให้เห็นได้ชัดเจนในทันที

บน Tinker โมเดลนี้มีราคาตามรายการที่ $0.30 ต่ออินพุตหนึ่งล้านโทเค็น, $0.03 ต่ออินพุตแคชหนึ่งล้านโทเค็น และ $1.00 ต่อเอาต์พุตหนึ่งล้านโทเค็น ที่บริบท 256K Artificial Analysis วัดได้ 84 เอาต์พุตโทเค็นต่อวินาที และ 67.71 วินาทีถึงโทเค็นคำตอบแรก ที่ $1.18 ต่องาน index และ 29.6 นาทีต่องาน เทียบกับ 154M เอาต์พุตโทเค็นตลอดทั้งชุดทดสอบ และค่ามัธยฐานของคู่เทียบที่ 89.8M จำนวนโทเค็นนั้นเป็นตัวบอกชัด: นี่คือโมเดลที่คิดยาวก่อนจะตอบ และที่ราคาเอาต์พุตตามรายการ สตรีมเดียวที่ทำงานเต็มกำลังเป็นเวลาหนึ่งชั่วโมงจะผลิตได้ประมาณ 302,000 โทเค็น หรือคิดเป็นเอาต์พุตประมาณสามสิบเซนต์ เพื่อเอาชนะโหนดที่ราคาหนึ่งดอลลาร์ต่อชั่วโมง คุณต้องมีสตรีมทำงานอยู่ประมาณสี่สตรีม; เพื่อเอาชนะโหนดที่ราคายี่สิบดอลลาร์ต่อชั่วโมง คุณต้องใช้หกสิบหกสตรีม มีงานประเมินผลน้อยมาก และงานแบบเอเจนต์ยิ่งน้อยกว่า ที่จะรักษาภาระพร้อมกันระดับนั้นไว้กับโมเดลที่มีเวลาถึงโทเค็นแรก 67 วินาที

สิ่งที่คุณได้มาเมื่อเป็นเจ้าของน้ำหนักโมเดลเองแทน: หน้าต่างบริบท 1M แบบเต็มตามเงื่อนไขของคุณเอง แทนที่จะเป็นระดับการให้บริการ 256K ของ Tinker, ไม่มีรายการรอเบตากั้นหน้าสภาพแวดล้อมโปรดักชัน, การปรับแต่งโมเดลบนสแต็กของคุณเอง, ข้อมูลที่ไม่เคยออกจากเครือข่ายของคุณ และการรันประเมินผลแบบกวาดครบชุดที่ไม่คิดค่าตามโทเคน สิ่งที่คุณต้องแลกไป: บิลด์รีลีสที่ใช้งานได้, โทโพโลยีแบบแปดทางที่คุณต้องซื้อแทนการเช่า และสแต็กการให้บริการที่ตอนนี้คุณต้องดูแลเอง

นั่นคือภาพที่ตรงไปตรงมาของการตัดสินใจ และนั่นคือจุดที่ชั้นการกำหนดเส้นทางเข้ามาได้พอดีโดยไม่ต้องถูกขอให้แสร้งทำเป็นว่าโฮสต์บางสิ่งที่ไม่ใช่ของมัน Inkling 2 Small ไม่ได้อยู่ในแค็ตตาล็อกของ OrcaRouter — เราได้ตรวจสอบรายการโมเดลแบบสดเมื่อสัปดาห์นี้ และไม่มีรายการ inkling อยู่ในบรรดา 215 รายการ — ดังนั้นเส้นทาง API สำหรับโมเดลนี้จึงยังคงเป็นแพลตฟอร์ม Tinker ของ Thinking Machines เอง และตามประกาศเปิดตัว ผู้ให้บริการ inference บุคคลที่สามหลายราย สิ่งที่ มากกว่า 200 โมเดลที่อยู่เบื้องหลังคีย์เดียว มอบให้คุณคือทางเลือกสำรอง: คุณสามารถรันการทดลองโฮสต์เองบนโหนดเดียวและเก็บงานโปรดักชันไว้บนโมเดลที่เรากำหนดเส้นทาง โดยมี failover อัตโนมัติหากการทดลองล้มเหลว และบนโมเดลที่เรากำหนดเส้นทาง ราคาตามรายการของผู้ให้บริการจะถูกส่งผ่านโดยไม่เปลี่ยนแปลง เมื่อโฮสต์ที่สองและที่สามรับช่วงต่อ checkpoint เหล่านี้ ขา failover ก็เลิกเป็นเพียงทฤษฎี — และการล็อกกับผู้ขายซึ่งเป็นเหตุผลหลักในการดาวน์โหลด 394 GB ตั้งแต่แรกก็จะอ่อนลง

ตอนนี้มันตั้งอยู่ตรงไหนแล้วในเมื่อมันเปิดแล้ว

คะแนนไม่ได้เปลี่ยนเมื่อน้ำหนักโมเดลถูกเผยแพร่ออกมา สิ่งที่เปลี่ยนคือตอนนี้มันอยู่ในกระดานอันดับที่ก่อนหน้านี้มันถูกตัดออกไป ในการจัดอันดับ open-weights ของ Artificial Analysis นั้น Inkling 2 Small อยู่อันดับสี่จาก 28 ด้วย Intelligence Index ที่ 31 เทียบกับค่ามัธยฐานของชุดเปรียบเทียบที่ 24

• Kimi K3.1 Pro — 46.

• DeepSeek V4.1 Flash 1017 ที่ระดับความพยายามสูงสุด — 33

• GLM-5.3 ที่ความพยายามสูงสุด — 32

• Inkling 2 Small — 31.

• MiMo-V2.6-Pro และ Ling 3.1 Flash 1019 — อย่างละ 30

• Mistral Large 4 ที่ระดับความพยายามสูง — 26.

• Qwen3.8 27B ที่ระดับ xhigh — 20.

คอลัมน์ที่น่าสนใจในรายการนั้นไม่ใช่ส่วนบนสุด ทุกโมเดลที่อยู่เหนือ Inkling 2 Small มาจากห้องปฏิบัติการจีน และโมเดลแบบเปิดน้ำหนักที่ดีที่สุดจากห้องปฏิบัติการที่ไม่ใช่จีนคือ Mistral Large 4 ที่ 26 การเปิดน้ำหนักเหล่านี้ปิดช่องว่างเฉพาะจุดนั้นจากยี่สิบจุดเหลือสิบห้าจุด และขยับตำแหน่งสูงสุดของคอลัมน์ที่ไม่ใช่จีน มันไม่ได้แตะพรมแดนแนวหน้า: โมเดลแบบเปิดที่ดีที่สุดนำอยู่สิบห้าจุด และโมเดลแบบปิดยังอยู่ห่างออกไปอีก

ตารางการประเมินของผู้จำหน่ายเองนั้นยาวกว่าและดูยกย่องตัวเองมากกว่า และทุกตัวเลขในตารางถูก Thinking Machines รันบนฮาร์เนสของตนเองด้วยความพยายามสูง — ยังไม่มีการทำซ้ำ จึงเป็นเพดานสูงสุดมากกว่าจะเป็นสิ่งที่ควรคาดหวัง แถวที่สำคัญสำหรับงานแบบ agentic: SWE-bench Pro v2 Hard 86.3%, DeepSWE v1.1 72.1%, Vibe Code Bench v1.1 81.6%, BrowseComp 90.2% และ DeepSearchQA 90.9% โดยทั้งคู่ใช้ compaction, MCP Atlas 85.4% แบบ full และ 85.0% แบบ public, HLE 44.1% แบบข้อความเท่านั้น, FrontierCode v2.0 25.4% แถวที่สวนทางคือ Terminal Bench Science ที่ 5.7% ซึ่งต่ำในเชิงค่าสัมบูรณ์ และสอดคล้องกับโปรไฟล์แบบระยะยาวและการไตร่ตรองยาวนาน มากกว่าจะเป็นข้อกล่าวอ้างความสามารถแบบกว้าง ผู้จำหน่ายพิมพ์ 30.6 สำหรับ Intelligence Index ขณะที่บอร์ดสดแสดง 31 — เป็นความต่างของสแนปช็อต ไม่ใช่ข้อโต้แย้ง

อะไรจะทำให้การประเมินนี้เปลี่ยนไป

สามเรื่อง เรียงตามระดับความสำคัญ

กระบวนการด้านความปลอดภัยที่ควรจะเป็นด่านก่อนการเปิดตัวนี้ยังไม่ได้รับการเผยแพร่ โพสต์ของ Thinking Machines ในเดือนกรกฎาคมเกี่ยวกับเส้นทางที่ปลอดภัยสู่การเปิดน้ำหนัก (open weights) อธิบายถึงสี่องค์กรภายนอกที่ทำการทดสอบก่อนการใช้งานกับ Inkling รุ่นแรก และโพสต์เปิดตัวเมื่อวันที่ 5 พฤศจิกายนเชื่อมโยงการเปิดตัวนี้กับ “การทดสอบความปลอดภัยจากภายนอกและการ red-teaming” อัปเดตเมื่อวันที่ 12 พฤศจิกายนที่ประกาศการเปิดน้ำหนักมีเพียงหนึ่งประโยคและหนึ่งลิงก์ — ไปยังที่เก็บ Hugging Face — และไม่มีผลการประเมิน ไม่มีข้อค้นพบจากการ red-team และไม่มีการแก้ไขเงื่อนไขก่อนหน้า นั่นไม่ได้หมายความว่าการทดสอบไม่ได้เกิดขึ้น แต่หมายความว่าผู้อ่านไม่สามารถตรวจสอบได้ และองค์กรที่มีนโยบายจัดซื้อจัดจ้างซึ่งเรียกขอหลักฐานจะไม่พบหลักฐานที่นี่

การสนับสนุนระดับพร้อมใช้งานจริงจะเปลี่ยนว่าใครบ้างสามารถนำไปใช้ได้ ตอนนี้ทางเลือกคือ dev branch ใน SGLang, nightly ใน vLLM หรือการสร้างเส้นทาง AMD จากซอร์สโดยอิง draft ที่ยังไม่ถูก merge ทันทีที่การสนับสนุนเข้าสู่ tagged release โมเดลนี้จะกลายเป็นการตัดสินใจด้าน deployment มากกว่าโครงการวิศวกรรม และ topology แบบแปดทางก็จะไม่ใช่การตั้งค่าสำหรับงานวิจัยอีกต่อไป

การทำซ้ำอย่างอิสระด้วยการตั้งค่าเริ่มต้นจะบอกคุณได้ว่า 31 มีค่าแค่ไหนในทางปฏิบัติ แถวแบบ agentic คือสิ่งที่ต้องจับตา — SWE-bench Pro ที่ 86.3 และ DeepSWE ที่ 72.1 เป็นข้อกล่าวอ้างที่แข็งแรงสำหรับโมเดลที่มีพารามิเตอร์ที่ใช้งานจริง 17B และค่าเหล่านี้ได้มาจากความพยายามสูงสุด การรันโดยบุคคลที่สามที่ระดับความพยายามเริ่มต้นจะออกมาต่ำกว่าเสมอ คำถามคือต่ำกว่าแค่ไหน และยังไม่มีใครนอก Thinking Machines ที่ตอบคำถามนี้

จนกว่าอย่างน้อยหนึ่งในนั้นจะเกิดขึ้นจริง คำอธิบายที่ถูกต้องของ Inkling 2 Small จึงแม่นยำอย่างผิดปกติ: เช็กพอยต์ Apache 2.0 ที่คุณดาวน์โหลดได้วันนี้ ซึ่งยังไม่มีสแต็กการให้บริการใดที่เปิดตัวแล้วรองรับ คำกล่าวอ้างที่หนักแน่นที่สุดมาจากห้องแล็บที่สร้างมันขึ้นมา และด่านใบอนุญาตของมันก็เปิดออกโดยไม่มีเอกสารประกอบที่ควรจะมาก่อนหน้านั้น นั่นคือการเปิดตัวจริงและช่องว่างจริง และช่องว่างคือส่วนที่ควรจับตา