Ming-3.0-audio-tiny รันบน GPU เดียวได้แล้ว — และคอนฟิกของมันก็ระบุ 128K ในที่สุด

เช็กพอยต์ที่อยู่เบื้องหลัง Ming-3.0-audio-tiny สามารถดาวน์โหลดได้ตั้งแต่ 3 กันยายน 2026 — แชร์ด safetensors สองชิ้น ขนาด 17.7 GB ถูกพุชเก้านาทีหลังจากสร้างรีโพซิทอรีขึ้นมา สิ่งที่ยังไม่มีจนถึงสัปดาห์นี้คือเกือบทุกอย่างที่บอกวิธีรันมัน ระหว่างวันที่ 16 ถึง 19 ตุลาคม 2026 inclusionAI ได้แทนที่คอนฟิกที่จัดส่งในเดือนกันยายน โดยเปลี่ยนตัวแปรแบบ video-language-audio ที่มีหน้าต่าง 8,192 โทเคนให้เป็นแบบ audio-only ที่อ้างว่ามี 131,072 เพิ่ม Talker ที่สร้างเสียงพูด เพิ่มคลิปเสียงอ้างอิงสองคลิปพร้อมบทถอดเสียง และ — หลังจากสามวันที่รีโพซิทอรีไม่มีการ์ดโมเดลเลย — ได้เขียนขึ้นมาหนึ่งฉบับ โค้ดที่เอกสารเหล่านั้นชี้ไปถึงมาถึง GitHub เมื่อวันที่ 15 ตุลาคม ในรีโพซิทอรีที่ตั้งชื่อตามพี่ใหญ่ Ming-3.0-audio-flash และมีโปรไฟล์การดีพลอยสามแบบสำหรับโมเดล tiny ที่ตัวโมเดล tiny ไม่เคยมี ไม่มีใครประกาศเรื่องใด ๆ เหล่านี้ ดังนั้นคำถามที่คุ้มค่าจะตอบจึงไม่ใช่สิ่งใหม่คืออะไร เพราะน้ำหนักโมเดลมีอายุเจ็ดสัปดาห์และเหมือนกันทุกไบต์กับวันที่มันถูกอัปโหลด แต่คือสิ่งที่ผู้อ่านสามารถรันได้ตอนนี้ซึ่งเมื่อวันจันทร์ที่แล้วยังรันไม่ได้ และต้องแลกด้วยความแม่นยำแค่ไหนเมื่อทำเช่นนั้น ความล้มเหลวของ AI และเหตุการณ์ของเอเจนต์ที่ได้รับการบันทึกไว้เบื้องหลังการปล่อยเวอร์ชันเช่นนี้ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง เกรดความเชื่อมั่น และธงข้อโต้แย้งของตัวเอง

มีอะไรเปลี่ยนแปลงบ้าง โดยระบุวันที่ตามคอมมิต

บันทึกการคอมมิตของ Hugging Face สั้นพอที่จะอ่านได้ทั้งหมด และรูปร่างของมันก็แปลก: สามคอมมิตในเดือนกันยายน ไม่มีอะไรเลยเป็นเวลาสามสัปดาห์ จากนั้นก็หกคอมมิตในสี่วัน

• 3 กันยายน 11:45 และ 11:49 UTC — มีการสร้าง repository ขึ้น จากนั้น shard ทั้งสองถูกวางไว้ภายใต้ "Add files using upload-large-folder tool" README ที่มาพร้อมกับ shard เหล่านั้นมีชื่อว่า "Ming Audio V3" ระบุสัญญาอนุญาต Apache 2.0 ติดแท็ก repo ว่า automatic-speech-recognition และระบุว่า repository "ปัจจุบันเอกสารประกอบอธิบายเส้นทาง ASR"

• 17 กันยายน — examples/ โฟลเดอร์ถูกลบแล้ว หลังจากนี้ repository จะเหลือเพียง weights โค้ดสำหรับสร้างโมเดลแบบกำหนดเอง และการ์ดสั้น ๆ เท่านั้น ไม่มีสิ่งอื่นใดอีก

• 16 ตุลาคม 08:14 ถึง 08:20 UTC — ช่วงที่มีนัยสำคัญconfig.json ถูกเขียนใหม่: max_position_embeddings บนแกนหลักข้อความเปลี่ยนจาก 8,192 เป็น 131,072, transformers_version จาก 4.56.2 เป็น 5.14.1 และ audio_config.model_type จาก bailing_moe_v3_vl_audio เป็น bailing_moe_v3_audio — ประเภทวิดีโอ-ภาษา-เสียงที่ไม่ได้อธิบายโมเดลนี้อีกต่อไปแล้ว ในการพุชครั้งเดียวกันนี้ auto_map ได้รับรายการ AutoModel และ AutoProcessor ที่ไม่เคยมีมาก่อน processor_config.json ปรากฏขึ้น และ talker/ โครงสร้างก็มาถึง: โมเดลเสียงพูดขนาด 1.4 GB, VAE ขนาด 1.6 GB, ตัวเข้ารหัสผู้พูด CAM++, ทรานสดิวเซอร์สถานะจำกัดสำหรับการปรับข้อความภาษาอังกฤษและภาษาจีนให้เป็นมาตรฐาน README ฉบับเก่าถูกนำออกไปในการพุชเดียวกัน — สามวันถัดจากนั้นรีโพซิทอรีไม่มีโมเดลการ์ดเลยแม้แต่ฉบับเดียว

• 17 ตุลาคม 11:44 UTC — "เพิ่มพรีเซ็ตเสียง" ไฟล์ WAV อ้างอิงสองไฟล์ US_James.wav และ 灵楷.wav พร้อมไฟล์ JSON ที่เก็บข้อความถอดเสียงแบบคำต่อคำของไฟล์เหล่านี้

• 19 ตุลาคม 10:36, 11:44 และ 11:49 UTC — คอมมิตล้างข้อมูลและอัปโหลด 3 ครั้ง

• 19 ตุลาคม 13:19 UTC — "เพิ่มการ์ดโมเดล Ming-3.0-audio-tiny" 8,514 ไบต์ และเป็นเอกสารฉบับแรกในประวัติของรีโพซิทอรีที่อธิบายโมเดลด้านเสียงพูดและเสียง แทนที่จะเป็นเส้นทาง ASR

ฝั่ง GitHub มีไทม์ไลน์ของตัวเอง และเริ่มช้ากว่าinclusionAI/Ming-3.0-audio-flash ถูกสร้างขึ้นเมื่อวันที่ 15 ตุลาคม เวลา 03:50 UTC — หกสัปดาห์หลังจากที่น้ำหนักโมเดลมีอยู่แล้ว — และยังคงถูกพุชอยู่เมื่อวันที่ 19 ตุลาคม เวลา 14:53 UTC โดยมีดาวแปดดวง ไฟล์สัญญาอนุญาต MIT และไดเรกทอรี deploy/ ที่มีโปรไฟล์ YAML หกไฟล์ โดยสามไฟล์ระบุชื่อเช็กพอยต์ขนาดเล็ก ไม่มี inclusionAI/Ming-3.0-audio-tiny รีโพซิทอรี; URL นั้นส่งคืน 404 และโค้ดของโมเดลขนาดเล็กอยู่ในรีโพซิทอรี flash เคียงข้างโค้ดของโมเดลพี่น้อง

การเขียน config ใหม่ต่างหากคือเรื่องจริง

การที่ฟิลด์ความยาวคอนเท็กซ์เพิ่มขึ้นเป็น 16 เท่าเป็นความเปลี่ยนแปลงแบบที่อาจเป็นเพียงเรื่องผิวเผินหรือเป็นเรื่องเชิงโครงสร้าง และในกรณีนี้ส่วนที่เหลือของ diff บอกว่าเป็นเชิงโครงสร้าง ในเดือนกันยายน คลังโค้ดได้ปล่อย modeling_bailing_moe_v3_audio.py และ processing_bailing_moe_v3_audio.py ไว้ในทรี แต่คอนฟิกของมันระบุออดิโอทาวเวอร์ชนิด bailing_moe_v3_vl_audio ซึ่งเป็นของตกค้างจากบิลด์วิดีโอ-ภาษา และการ์ดของมันบอกให้สร้างอินสแตนซ์โมเดลด้วย trust_remote_code=False ซึ่งไม่ใช่สิ่งที่ไฟล์โมเดลลิงก์แบบกำหนดเองต้องการ คอนฟิกของเดือนตุลาคมเป็นตัวแรกที่ชนิดที่ประกาศไว้ รันไทม์ที่ประกาศไว้ และเส้นทางโค้ดสอดคล้องตรงกัน

• Backbone — 24 เลเยอร์, ขนาด hidden 1,536, attention heads จำนวน 16 หัว, routed experts 128 ตัว โดยเปิดใช้งาน 8 ตัวต่อโทเค็นและ shared expert 1 ตัว, ขนาด intermediate ของ expert 512, dense layer แรกอยู่ที่ดัชนี 1, routed scaling factor 2.5, ขนาดคำศัพท์ 157,184

• Attention — MLA ซึ่งมี KV latent กว้าง 512 และ query latent กว้าง 256, rope_theta 6,000,000, partial_rotary_factor 0.5. รูปแบบ KV แบบแรงก์ต่ำคือเหตุผลที่หน้าต่าง 131,072 โทเคนยังพอเป็นไปได้บนการ์ดใบเดียว: แคชเก็บ latent ไม่ใช่คีย์และแวลูต่อหัว

• หอเสียง — 32 เลเยอร์ ความกว้าง 1,280, 20 หัว บริบท 3,000 เฟรม และ 128 mel bins พร้อมตัวดาวน์แซมเปลอร์ที่มีเคอร์เนล [3,3,3] และสไตรด์ [2,2,2] รหัสโทเคนเสียง 157,168

• ขนาด — พารามิเตอร์ทั้งหมด 9.3B, เปิดใช้งาน 2.7B ต่อโทเคน, ใช้ bfloat16 ตลอด, ประกาศเทียบกับ Transformers 5.14.1

• อินพุตและเอาต์พุต — รับเสียงพร้อมคำสั่งข้อความเข้า; ส่งออกเป็นข้อความ หรือข้อความพร้อมเสียงสังเคราะห์ผ่าน Talker แบบเสริม ภาษาจีนและอังกฤษ รวมถึงสำเนียงและภาษาถิ่น ตามที่ระบุบนการ์ด

สิ่งที่การเขียน config ใหม่ไม่ได้ทำ คือการเพิ่ม weights ใด ๆ ไฟล์ safetensors สี่ไฟล์ใน repository — shard ของ Thinker สองไฟล์, Talker และ VAE — มีขนาดเท่าเดิมในทุก revision ที่ผมตรวจสอบ ย้อนกลับไปจนถึงการอัปโหลดครั้งแรก นี่เป็นการเปลี่ยนแปลงด้านเอกสารและการแพ็กเกจกับ checkpoint ที่ไม่มีการเปลี่ยนแปลง ซึ่งเป็นเหตุผลพอดีว่าทำไมการกระโดดจาก 8,192 ไปเป็น 131,072 จึงน่าเชื่อถือ: ไม่มีใครฝึกโมเดลใหม่เลย ดังนั้นข้อกล่าวอ้างนี้จึงทดสอบได้ด้วยการโหลดโมเดลแล้วขอ context ยาว ๆ แทนที่จะเชื่อแบบไม่ตรวจสอบ

เอกสารหนึ่งชิ้นยังคงไม่สอดคล้องกัน แท็กไปป์ไลน์ Hugging Face ระดับบนสุดของรีโพซิทอรีระบุว่า ข้อความเป็นเสียง ในขณะที่คำสรุปบนการ์ดของโมเดลเองเรียกมันว่าเป็นโมเดลภาษา-เสียงที่รับคำสั่งและส่งคืนข้อความหรือเสียงพูด แท็กนี้เป็นสิ่งตกค้างจากการที่ Talker เป็นความสามารถที่ถูกแก้ไขล่าสุด และมันเป็นเรื่องประเภทที่ไม่มีใครให้ความสำคัญเลย ยกเว้นผู้ที่กรอง Hub ตามประเภทงาน

GPU หนึ่งตัวสำหรับข้อความ สองตัวสำหรับเสียงพูด

นี่คือจุดที่โมเดลจิ๋วสมชื่อ และจะมองเห็นได้ก็เพราะโปรไฟล์การติดตั้งใช้งานกลายเป็นสาธารณะแล้วเท่านั้น โปรไฟล์ข้อความของโมเดล flash ทำงานบนอุปกรณ์: "0,1,2,3,4,5,6,7" ด้วยtensor_parallel_size: 8 — การ์ดความจุ 80 GB จำนวนแปดใบ ซึ่งเป็นสิ่งที่น้ำหนัก bf16 ขนาด 256 GB บังคับไว้ก่อนที่จะมีการจัดสรรแคชใด ๆ โมเดลจิ๋วมีโปรไฟล์ของตัวเองสามโปรไฟล์ และสองในนั้นขอใช้การ์ดเพียงใบเดียว

• ข้อความและ ASR, vLLM-Omni — สเตจเดียวบน อุปกรณ์: "0", ขนาด tensor parallel 1, max_model_len 131,072, max_num_batched_tokens 32,768, gpu_memory_utilization 0.92, การสุ่มตัวอย่างที่อุณหภูมิ 0.6 และสูงสุด 65,536 โทเคนเอาต์พุต

• เสียงเต็มรูปแบบพร้อมเอาต์พุตเสียงพูด — สองขั้นตอน โดย Thinker บน อุปกรณ์: "0" ที่ 0.78 ของการ์ด และ Talker บน อุปกรณ์: "1" ที่ 0.18 โดยขั้นตอน Talker ถูกจำกัดไว้ที่หนึ่งโทเค็นเอาต์พุตและอุณหภูมิ 0.0 เนื่องจากไม่ได้สร้างข้อความ

• การทำซ้ำผล ASR — ไปป์ไลน์แบบ thinker-only ที่เสริมตัวประมวลผลลอจิตแบบไม่ให้ซ้ำ 10-gram เข้าไป โดยจำกัดเสียงเป็นหนึ่งคลิปต่อพรอมป์ต์ max_model_len 131,072, อุณหภูมิ 0.0, โทเคนเอาต์พุต 32,768 นี่คือการกำหนดค่าที่ใช้เก็บตัวเลขการรู้จำของผู้จำหน่าย และควรคัดลอกให้ตรงเป๊ะหากคุณต้องการเปรียบเทียบ

• SGLang — GPU หนึ่งตัว อุปกรณ์ที่มองเห็นได้หนึ่งอุปกรณ์ แสดงผลเป็นข้อความเท่านั้น การ์ดระบุชัดเจนว่าไม่มีเอาต์พุตเสียงในเส้นทางนี้

โปรไฟล์เหล่านั้นเป็นไฟล์ ไม่ใช่ข้อความบรรยาย และปรากฏให้เห็นในdeploy/ ไดเรกทอรีของรีโพซิทอรี flash — โปรไฟล์ YAML หกโปรไฟล์ โดยสามโปรไฟล์ตั้งชื่อตาม checkpoint ขนาดจิ๋ว

อ่านตัวเลขหน่วยความจำกันตามจริง 0.92 เป็นสัดส่วนของความจุการ์ดใดก็ตามที่คุณกำหนดให้สเตจใช้ ไม่ใช่ข้อกำหนด: ชาร์ดของ Thinker รวมกันได้ 17.74 GB น้ำหนักจึงใส่พอดีในการ์ด 24 GB และเหลือประมาณ 6 GB สำหรับแคชและแอคติเวชัน การจอง 0.92 ถูกคำนวณขนาดสำหรับหน้าต่าง 131,072 โทเคน บวกแบทช์ 32,768 โทเคนในคราวเดียว และค่านี้จะลดลงหากคุณลด max_model_lenสิ่งที่ทำไม่ได้บนการ์ดเดียวคือการสร้างเสียงพูด เพราะ Talker และ VAE ของมันเป็นโปรเซสที่สองซึ่งมีชุดน้ำหนักชุดที่สอง — 3 GB ก่อนจะถึงตัวเข้ารหัส CAM++ และทรานสดิวเซอร์ — และโปรไฟล์อ้างอิงให้อุปกรณ์แยกของตัวเองแก่ทั้งสอง ข้อความบน GPU หนึ่งตัว สนทนาออกเสียงบนสองตัว: นั่นคือการคำนวณตามจริง และเป็นรายการงบประมาณที่ต่างจากเลขแปดของโมเดลพี่น้อง

ในไฟล์ดาวน์โหลดมีอะไรจริง ๆ

รีโพซิทอรีมีขนาดรวม 20.78 GB โดย Thinker มีขนาด 17.74 GB แบ่งเป็นสองชาร์ดขนาด 9.55 GB และ 8.19 GB; Talker เพิ่มอีก 1.40 GB, VAE ของมัน 1.56 GB, speaker encoder 28 MB และไฟล์ tokenizer กับ normaliser เป็นส่วนที่เหลือ ไม่มีเวอร์ชันควอนไทซ์ ไม่มีเช็กพอยต์ที่เล็กกว่า และไม่มีไฟล์แปลง GGUF ที่ผู้จำหน่ายเผยแพร่ ดังนั้นตัวเลข bf16 จึงเป็นระดับต่ำสุด เว้นแต่คุณจะควอนไทซ์เอง

• กำลังโหลด — AutoProcessor.from_pretrained(..., trust_remote_code=True, use_fast=False) และ AutoModelForCausalLM.from_pretrained(..., dtype=torch.bfloat16, device_map="auto", trust_remote_code=True) จากนั้นโค้ดตัวอย่างของการ์ดเองก็แคสต์ audio_feats ไปยัง dtype ของโมเดลด้วยมือ ซึ่งเป็นสัญญาณเล็ก ๆ ว่าพาธของโปรเซสเซอร์ไม่ใช่สิ่งที่ให้ความสำคัญอันดับแรก

• สัญญา ASR — พรอมต์ที่ผ่านการตรวจสอบแล้วขอให้โมเดลระบุภาษาที่พูด และใส่แท็บระหว่างป้ายกำกับภาษากับข้อความถอดเสียง หากคุณกำลังสร้างฮาร์เนสสำหรับการประเมินผล แท็บนั้นคือตัวแยกวิเคราะห์ของคุณ คำสั่งทั่วไปอย่าง "ถอดเสียงนี้" ไม่ใช่การกำหนดค่าที่ inclusionAI วัดผล

• เสียง — ค่าเริ่มต้นของ vLLM-Omni คือเสียงในตัวชื่อ 灵小柔 และไดเรกทอรีโมเดลมีพรีเซ็ตอ้างอิงสองแบบคือ 灵楷 และ US_James พร้อมข้อความถอดเสียง การโคลนเสียงต้องใช้ไฟล์ WAV อ้างอิงพร้อมข้อความถอดเสียงที่ตรงกันทุกคำ การ์ดเตือนว่าคุณไม่สามารถรวมการเลือกเสียงในตัวเข้ากับคลิปอ้างอิงในคำขอเดียวได้

• สัญญาอนุญาต — MIT ในเมทาดาทาของการ์ดและใน LICENSEของรีโพซิทอรี GitHub ซึ่งลงวันที่ 2025 สังเกตสิ่งที่ขาดหายไป: รีโพซิทอรี Hugging Face ไม่มีไฟล์ LICENSEเป็นของตัวเอง ข้อความสัญญาอนุญาตเดียวที่อยู่จริงภายในนั้นเป็นของโมเดลระบุภาษาที่รวมมาไว้ใต้ talker/data/ การอ้างสิทธิ์ MIT นั้นเป็นจริง แต่มันอยู่ห่างออกไปเพียงคลิกเดียว ในรีโพซิทอรีที่ตั้งชื่อตามโมเดลอีกตัว

• การตอบรับ — สามดาวน์โหลดและห้าไลก์ ณ สัปดาห์นี้ โมเดล flash มี 22 ดาวน์โหลดและแปดไลก์ ตัวเลขทั้งสองไม่ใช่หลักฐานเกี่ยวกับคุณภาพ ทั้งสองเป็นหลักฐานว่าการอัปโหลดในเดือนกันยายนที่ไม่มี card และไม่มีประกาศไม่ได้แพร่กระจายออกไป

ภาพเกณฑ์มาตรฐาน และคอลัมน์ที่หายไป

ไฟล์ PNG สามไฟล์ใน assets/บรรจุผลการประเมิน และทั้งสามไฟล์คือการรันของ inclusionAI เอง ผู้จำหน่ายทำเครื่องหมายรายการที่ประเมินเองด้วยเครื่องหมายดอกจัน และระบุว่าโมเดลสำหรับเปรียบเทียบถูกทำซ้ำโดยใช้พรอมต์และการตั้งค่าการถอดรหัสของตนเอง ดังนั้นตัวเลขเหล่านั้นอาจแตกต่างจากรายงานทางการ ไม่มีการเผยแพร่การประเมินอิสระของเช็กพอยต์นี้ที่ฉันหาเจอ — ไม่มีรายการในอารีนา ไม่มีคะแนนจากบุคคลที่สาม — ซึ่งหมายความว่าตัวเลขทุกตัวด้านล่างคือผู้จำหน่ายที่กำลังอธิบายโมเดลของตัวเอง นั่นไม่ใช่เหตุผลที่จะเพิกเฉยต่อสิ่งเหล่านั้น แต่เป็นเหตุผลที่จะอ่านสิ่งเหล่านั้นเป็นบรีฟการออกแบบมากกว่าคำตัดสิน

การเปรียบเทียบที่มีประโยชน์นั้นเล็กน้อยเมื่อเทียบกับรุ่นพี่น้องของมันเอง เพราะทั้งคู่รันฮาร์เนสเดียวกัน ด้านการรู้จำ โมเดลที่เล็กกว่าจะด้อยกว่าเล็กน้อย และด้านการให้เหตุผลกับเสียงยาวจะด้อยกว่ามาก

• ค่าเฉลี่ย ASR ภาษาจีน — อัตราข้อผิดพลาดระดับอักขระอยู่ที่ 3.79 สำหรับ Ming-3.0-audio-tiny เทียบกับ 3.45 สำหรับ Ming-3.0-audio-flash ค่ายิ่งต่ำยิ่งดี ดังนั้น tiny จึงตามหลังอยู่ 0.34 จุด

• ค่าเฉลี่ย ASR ภาษาอังกฤษ — 4.36 เทียบกับ 3.69 ค่าเฉลี่ยภาษาถิ่น — 10.29 เทียบกับ 9.40

• BigBenchAudio — 99.20 เทียบกับ 99.40 ถือว่าเสมอกัน และเป็นแถวเดียวที่ความแตกต่างด้านขนาดไม่แสดงออกมา

• MMAU — 75.90 เทียบกับ 82.00 MMAR — 67.70 เทียบกับ 74.40 MMSU — 73.06 เทียบกับ 78.82 MMAU-Pro — 56.42 เทียบกับ 66.41

• ความแม่นยำเสียงยาว — 56.39 เทียบกับ 66.30. LongAudioSpan — 35.45 เทียบกับ 41.12. คะแนน Long-audio Chain — 10.56 เทียบกับ 12.31.

• การโต้ตอบด้วยเสียง — URO-Bench-Pro 54.15 เทียบกับ 81.92 ซึ่งลดลง 27.8 จุด VoiceBench 74.29 เทียบกับ 86.74 SpeechFCEval 69.80 เทียบกับ 82.60

• การเรียกใช้เครื่องมือ — BFCL-v3 Audio 79.80 เทียบกับ 81.40 • ดนตรี — MuchoMusic 58.07 เทียบกับ 65.65

แถวภาษาถิ่นเป็นข้อยกเว้นที่น่าสนใจ เพราะ tiny ไม่ได้แพ้อย่างสม่ำเสมอ มันชนะรุ่นพี่ที่ใหญ่กว่าในอานฮุย (5.42 เทียบกับ 5.76), แมนดารินตะวันออกเฉียงเหนือ (4.21 เทียบกับ 4.28), เจียงซู (11.44 เทียบกับ 12.15), ส่านซี (5.81 เทียบกับ 6.00), ชานตง (10.17 เทียบกับ 10.69) และยูนนาน (11.28 เทียบกับ 11.53) และแพ้อย่างหนักในแคะ (24.08 เทียบกับ 16.51), ฮกเกี้ยน (14.15 เทียบกับ 12.84) และเซี่ยงไฮ้ (12.49 เทียบกับ 11.15) การที่โมเดลที่มีพารามิเตอร์ใช้งานจริง 2.7B ชนะใน 6 จาก 15 แถวภาษาถิ่นเมื่อเทียบกับโมเดลที่มีพารามิเตอร์ใช้งานจริง 6.5B นั้นเป็นสิ่งที่ดีที่สุดในผลการประเมินทั้งหมด และมันถูกฝังอยู่กลางตารางที่ค่าเฉลี่ยกลบมันไว้

มีช่องว่างสองประการที่ควรระบุไว้ เพราะตรวจสอบได้ และการ์ดไม่ได้ชี้ให้เห็น ประการแรก ห้าแถวในภาพการรู้จำไม่มีค่า tiny เลย — แถว speaker-diarization และ concatenated minimum-permutation สำหรับ AISHELL-4, AliMeeting และ AMI ถูกพิมพ์เป็นขีด (-) ไม่ว่าประสิทธิภาพของโมเดล tiny ในงาน "ใครพูดเมื่อไร" จะเป็นอย่างไร ก็ยังไม่มีการเผยแพร่ ประการที่สอง ภาพ text-intelligence มีสี่คอลัมน์ และไม่มีคอลัมน์ใดเป็นโมเดล tiny: คอลัมน์เหล่านั้นคือ Ming-3.0-audio-flash, Qwen3.8-Omni Flash, Qwen3.5-Omni Plus และ Qwen3.5-Omni Flash ส่วนการประเมินของการ์ดระบุว่าตัวเลขด้านล่างรวมผลลัพธ์ของทั้งสองเวอร์ชัน Ming ซึ่งเป็นจริงสำหรับภาพเสียงทั้งสองภาพ แต่ไม่จริงสำหรับภาพข้อความ หากคุณต้องการทราบว่าแกนหลัก tiny สามารถสนทนาเชิงเหตุผลได้หรือไม่ inclusionAI ยังไม่ได้บอกคุณ

สิ่งที่สัปดาห์นี้มอบให้คุณจริง ๆ

ก่อนวันที่ 16 ตุลาคม ผู้อ่านที่ต้องการทดสอบเช็กพอยต์นี้ต้องดาวน์โหลดขนาด 17.7 GB มีคอนฟิกที่อธิบายโมเดลภาษา-วิดีโอที่มีหน้าต่าง 8K และมีการ์ดที่แนะนำให้โหลดโค้ดกำหนดเองโดยไม่เปิดใช้งานโค้ดกำหนดเอง หลังวันที่ 19 ตุลาคม พวกเขามีคอนฟิกที่ตรงกับไฟล์โมเดลของตัวเอง คำกล่าวอ้าง 128K ที่ทดสอบได้กับน้ำหนักโมเดลที่ไม่เปลี่ยนแปลง โปรไฟล์การติดตั้งใช้งานสามแบบที่ระบุชื่อไว้ รวมถึงแบบ GPU เดียว ชุดเสียงพร้อมข้อความถอดเสียง และการ์ดที่บอกว่าโมเดลนี้มีไว้เพื่ออะไร ไม่มีสิ่งใดในนั้นเป็นโมเดลใหม่ ทั้งหมดนั้นคือความแตกต่างระหว่างเช็กพอยต์บนดิสก์กับเช็กพอยต์ที่ใครสักคนสามารถประเมินได้ภายในบ่ายเดียว

ต้นทุนคือส่วนที่การเลือกขนาดซ่อนเอาไว้ ในตารางของผู้ขายเอง การเปลี่ยนจากโมเดล 6.5B-active ไปเป็น 2.7B-active ทำให้จำนวน GPU ลดลงเหลือหนึ่งในแปด แต่ต้องแลกมาด้วยคะแนน URO-Bench-Pro 27.8 คะแนน VoiceBench สิบคะแนน และคะแนน Chain สำหรับเสียงยาวประมาณหนึ่งในห้า นั่นเป็นการแลกที่สมเหตุสมผลสำหรับบริการถอดเสียง เป็นการแลกที่ไม่ดีสำหรับสิ่งใดก็ตามที่ต้องให้เหตุผลข้ามเสียงยาวหนึ่งชั่วโมง และผู้ขายพิมพ์ทั้งสองคอลัมน์ไว้ติดกันเพื่อให้คุณตัดสินใจได้ว่ากำลังสร้างสิ่งไหน

ที่ที่เราเตอร์สมควรมีที่ยืน และที่ที่มันไม่สมควร

OrcaRouter ไม่ให้บริการ Ming-3.0-audio-tiny โดยโมเดลนี้ไม่อยู่ในแคตตาล็อกของเรา เราไม่สามารถให้ endpoint สำหรับโมเดลนี้แก่คุณได้ และไม่มีสิ่งใดในที่นี้ที่ควรตีความเป็นข้อเสนอที่จะให้บริการดังกล่าว สิ่งที่เราเตอร์มีประโยชน์ในไปป์ไลน์ที่สร้างขึ้นรอบเช็กพอยต์แบบนี้คือส่วนที่ไม่ใช่เช็กพอยต์ ระบบเสียงส่วนใหญ่เป็นงานเกี่ยวกับข้อความ ทั้งพรอมป์ที่ตัดสินใจว่าจะถามอะไรกับเสียง พาร์เซอร์ที่เปลี่ยนป้ายภาษาที่คั่นด้วยแท็บให้เป็นเอาต์พุตแบบมีโครงสร้าง สรุปที่เขียนจากข้อความถอดเสียง และการจำแนกประเภทที่ตัดสินใจว่าไฟล์เสียงจะไปที่โมเดล 2.7B หรือ 126B สิ่งเหล่านี้คือการเรียกข้อความธรรมดา และ API เดียวสำหรับ มากกว่า 200 โมเดลโดยบวกเพิ่ม 0% — ราคาตามรายการของผู้ให้บริการถูกส่งผ่านโดยตรง ดังนั้นการลดราคาของผู้ขายจึงมีผลฝั่งเราในวันเดียวกัน — เป็นสิ่งที่ต่อสายได้ง่ายกว่ากองสัญญาผู้ขายหลายฉบับ การสลับไปใช้ระบบสำรองอัตโนมัติ คือสิ่งที่ช่วยให้คุณวางโมเดลที่เพิ่งมีเอกสารประกอบไว้รองรับส่วนหนึ่งของไปป์ไลน์ โดยไม่ต้องเดิมพันทั้งเส้นทางกับโมเดลนั้น

ขอบเขตนี้ควรกล่าวให้ชัดเจน: checkpoint ขนาด 17.7 GB ที่คุณรันบน GPU ของตัวเองคือโครงสร้างพื้นฐาน ไม่ใช่การเรียก API เราเตอร์จัดเส้นทางการเรียก但它ไม่ได้เปลี่ยนโมเดลเสียงแบบ open-weights ให้เป็นโมเดลที่โฮสต์ให้บริการ และไม่ได้เปลี่ยนการดาวน์โหลดสามครั้งให้เป็นหลักฐานระดับโปรดักชัน

ดูอะไรดี

สามสิ่งจะเปลี่ยนภาพนี้ และทั้งสามอย่างล้วนตรวจสอบได้ หนึ่ง คะแนนที่เป็นอิสระ: ทันทีที่อารีนาหรือผู้ประเมินภายนอกระบุ checkpoint นี้ ช่องว่าง 27.8 จุดในการโต้ตอบด้วยเสียงก็จะเลิกเป็นรายงานตนเองของผู้ขาย และกลายเป็นจุดข้อมูลหนึ่งจุด จนกว่าจะถึงตอนนั้น พึงสังเกตว่าผู้ขายรายเดียวกันยังเผยแพร่แถวภาษาถิ่นถึงหกแถวที่โมเดลเล็กกว่าชนะ สอง ไฟล์ LICENSE ภายในรีโพซิทอรี Hugging Face ซึ่งจะย้าย MIT จากการเป็นลิงก์ในบัตรโมเดลไปเป็นข้อเท็จจริงในอาร์ติแฟกต์ที่กระบวนการจัดซื้อจัดจ้างอ่านจริง สาม รีโพซิทอรี GitHub ขนาดเล็กที่เจาะจง: ทุกวันนี้โปรไฟล์การดีพลอยที่ทำให้ข้ออ้างเรื่อง GPU เดียวเป็นจริงนั้นอยู่ในรีโพซิทอรีที่ตั้งชื่อตามโมเดลที่ใหญ่กว่า ซึ่งก็ไม่เป็นไรจนกว่าจะมีใครเปลี่ยนชื่อมัน

จนกว่าหนึ่งในสิ่งเหล่านั้นจะเกิดขึ้นจริง คำอธิบายที่แม่นยำก็ไม่หรูหราเลย น้ำหนักชุดเดียวกับวันที่ 3 กันยายน Thinker ขนาดประมาณ 18 GB หน้าต่าง 131,072 โทเคนที่ปรากฏในคอนฟิกแทนที่จะอยู่ในเช็กพอยต์ โปรไฟล์การให้บริการสามแบบ โดยแบบข้อความพอดีกับการ์ดใบเดียวและแบบเสียงพูดพอดีกับการ์ดสองใบ MIT ในเอกสาร ห้าแถวอ้างอิงที่มันปฏิเสธที่จะเผยแพร่ และการ์ดโมเดลที่อายุน้อยกว่าคอนฟิกที่มันอธิบายอยู่สามวัน สัปดาห์นั้นไม่ได้ทำให้โมเดลดีขึ้น แต่ทำให้มันอ่านเข้าใจได้ และสำหรับเช็กพอยต์แบบน้ำหนักเปิดที่ไม่มีใครประกาศไว้ การทำให้อ่านเข้าใจได้คือผลิตภัณฑ์ทั้งหมด