Granite Speech 5.0 2B vs Whisper large-v3-turbo: IBM ชนะในเบนช์มาร์ก ส่วน Whisper ชนะใน 99 ภาษา

สำหรับตัวเลขสองตัวที่คนส่วนใหญ่ดูเป็นอันดับแรก Granite Speech 5.0 2B เอาชนะ Whisper large-v3-turbo และไม่ใช่แค่เฉือนกันเท่านั้น โมเดลของ IBM มีอัตราคำผิดพลาดเฉลี่ย 5.06% จากชุดทดสอบภาษาอังกฤษแบบสั้นเก้าชุดของ Open ASR Leaderboard ที่ 570 RTFx; เช็กพอยต์ turbo ของ OpenAI มีค่าเฉลี่ย 7.83% ที่ 200 RTFx บนกระดานเดียวกัน เร็วกว่าและแม่นยำกว่าบนเบนช์มาร์กเดียวกัน โดยมีวันเปิดตัวห่างกันราวสองปี หากไฟล์เสียงของคุณเป็นภาษาอังกฤษและมีคุณภาพเสียงที่ดี นั่นคือการเปรียบเทียบทั้งหมด และคุณหยุดอ่านได้เลย ความล้มเหลวของ AI และเหตุการณ์เกี่ยวกับเอเจนต์ที่มีการบันทึกไว้ ซึ่งอยู่เบื้องหลังการเปิดตัวในลักษณะนี้ ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มาของตนเอง ระดับความรุนแรง ระดับความเชื่อมั่น และสถานะข้อโต้แย้ง

เหตุผลที่หน้านี้ยังต้องมีอยู่คือตัวเลขตัวที่สาม: 99 Whisper large-v3-turbo รองรับเก้าสิบเก้าภาษา; Granite Speech 5.0 2B รองรับหกภาษาสำหรับการถอดความและแปลเป็นอีกสองภาษา ความได้เปรียบด้าน WER 2.8 จุดในภาษาอังกฤษไม่มีค่าอะไรเลยถ้าเสียงนั้นเป็นภาษาเวียดนาม ดังนั้นคำถามจริง ๆ ไม่ใช่ว่ารุ่นไหนดีกว่า — แต่คือชุดภาษาของคุณพอดีกับกรอบจำกัดหกภาษาหรือไม่ และหากพอดี ค่าการย้ายระบบจะอยู่ที่เท่าไร

Whisper large-v3-turbo จริง ๆ แล้วคืออะไร

ตรงนี้ควรพูดให้ชัดเจน เพราะชื่อนี้มักถูกนำไปใช้เรียกสิ่งที่ไม่ใช่ตัวมัน Whisper large-v3-turbo คือเวอร์ชันที่ผ่านการ pruning มาจาก large-v3 ของ OpenAI: encoder ไม่เปลี่ยนแปลง แต่ decoder มี 4 เลเยอร์แทนที่จะเป็น 32 การเปลี่ยนแปลงเพียงอย่างเดียวนี้ทำให้โมเดลลดจาก 1,550M พารามิเตอร์เหลือ 809M และเพิ่ม throughput ได้ประมาณสามเท่า โดยสูญเสียความแม่นยำค่อนข้างน้อยเมื่อเทียบกัน — นี่คือเหตุผลว่าทำไมมันจึงกลายเป็นเช็กพอยต์ fast-ASR ค่าเริ่มต้นทั่วทั้งระบบนิเวศภายในไม่กี่เดือนหลังเปิดตัวในเดือนตุลาคม 2024

คุณสมบัติสามประการเกิดขึ้นจากการออกแบบนั้น และทั้งหมดล้วนสำคัญต่อการเปรียบเทียบนี้:

• มันเป็นโมเดลแปลที่บังเอิญถูกตัดทอน จึงสืบทอดความสามารถด้านการถอดเสียงและการระบุภาษาสำหรับ 99 ภาษา — แต่รุ่น turbo นั้นไม่ได้รับการฝึกสำหรับการแปล ต่างจาก large-v3 ที่ถอดเสียงและระบุภาษาได้ แต่ไม่ได้แสดงคำพูดในภาษาหนึ่งเป็นข้อความในอีกภาษาหนึ่ง ทีมต่าง ๆ มักค้นพบสิ่งนี้หลังจากนำไปสร้างต่อยอด

• ตัวถอดรหัสเป็นแบบ autoregressive โดยเขียนโทเค็นครั้งละ 4 เลเยอร์ ซึ่งเป็นเหตุให้ทรูพุตอยู่ที่ 200 RTFx ไม่ใช่ระดับหลักพัน ความเร็วของ Whisper มาจากการตัดเลเยอร์ออก ไม่ใช่จากการเปลี่ยนกระบวนทัศน์การถอดรหัส

• ได้รับสัญญาอนุญาตแบบ MIT ซึ่งในทางปฏิบัติแล้วผ่อนปรนกว่าสัญญา Apache 2.0 ในแง่หนึ่งที่ทีมกฎหมายบางทีมให้ความสำคัญ นั่นคือ ไม่มีข้อกำหนดเรื่องการให้สิทธิ์สิทธิบัตรให้ต้องวิเคราะห์ และไม่มีไฟล์ระบุที่มาที่ต้องส่งมอบไปด้วย

ข้อได้เปรียบที่แท้จริงของ Whisper ไม่เคยอยู่ที่ benchmark เลย แต่คือเครื่องมือที่สั่งสมมาสองปี — faster-whisper, whisper.cpp, managed endpoint ของทุกคลาวด์, สูตร quantization, ไลบรารี timestamp ระดับคำ, สแตก diarization ที่สร้างต่อยอดบนมัน ระบบนิเวศนั้นเป็นต้นทุนการสลับที่แท้จริง และการเปรียบเทียบนี้ต้องคำนึงถึงสิ่งนั้นอย่างตรงไปตรงมา

จุดใดที่ช่องว่างนี้เป็นของจริง และจุดใดที่เป็นเพียงอาร์ติแฟกต์จากฮาร์เนส

การเปรียบเทียบ 5.06% กับ 7.83% นั้นอยู่บนลีดเดอร์บอร์ดเดียวกัน ซึ่งทำให้มันน่าเชื่อถือกว่าตัวเลขข้ามผู้ขายส่วนใหญ่ — แต่มันไม่ใช่การรันแบบเทียบกันได้ตรง ๆ และรายละเอียดก็มีน้ำหนักได้ทั้งสองทาง

• ตัวเลขของ Granite มาจากการรันประเมินของ IBM เองที่ส่งเข้าสู่ลีดเดอร์บอร์ด ซึ่งบล็อกประกาศระบุว่า "{{1}}ไม่เป็นทางการ ณ วันที่ 15 ตุลาคม 2026{{/1}}" การ์ดโมเดลเรียกผลลัพธ์เดียวกันนี้ว่า "{{2}}เป็นทางการ{{/2}}" ณ วันที่ 20 ตุลาคม จะเลือกคำคุณศัพท์คำไหนก็ตามใจ แต่ไม่มีใครนอก IBM ที่ทำซ้ำผลนี้ได้

• ตัวเลขของ Whisper คือผลลัพธ์ที่เผยแพร่บนกระดานผู้นำสำหรับเช็กพอยต์นั้น ซึ่งรันโดยฮาร์เนสของกระดานผู้นำเอง ซึ่งเป็นไปป์ไลน์ที่แตกต่างจากของ IBM

• ตัวเลขทั้งสองเป็นค่าเฉลี่ยจากชุดทดสอบสาธารณะเก้าชุด ซึ่งส่วนใหญ่เป็นเสียงอ่านภาษาอังกฤษจาก LibriSpeech, Gigaspeech, SPGISpeech, Earnings-22, AMI และ VoxPopuli จุดอ่อนของ Whisper บนตารางนี้ได้รับการบันทึกไว้อย่างดีและเป็นเชิงโครงสร้าง: มันถูกฝึกด้วยเสียงเว็บที่มีการกำกับแบบอ่อนจำนวน 680,000 ชั่วโมง ซึ่งให้ความครอบคลุมแลกมากับการจัดรูปแบบที่แม่นยำ

• ในเสียงระยะไกลและเสียงที่มีสัญญาณรบกวน ลำดับยังคงเดิม บอร์ด FFASR — ซึ่งเฉลี่ยจาก near-field, SNR สูง, SNR กลาง และ SNR ต่ำ — จัดให้ whisper-large-v3 อยู่ที่ 18.02% โดย Granite Speech 5.0 2B อยู่ที่ 14.80% โปรดทราบว่านั่นคือ large-v3 ไม่ใช่ turbo; โดยทั่วไป turbo จะแย่กว่าตัวแม่เล็กน้อยในเสียงที่ยาก เพราะมีเลเยอร์ตัวถอดรหัสน้อยกว่าในการกู้คืนจากการคาดเดาเชิงอะคูสติกที่ผิดพลาด

ดังนั้นช่องว่างด้านความแม่นยำอาจมีอยู่จริงในเชิงทิศทาง และอาจเล็กกว่า 2.8 จุดในการเปรียบเทียบที่ยุติธรรม สิ่งที่ไม่มีข้อสงสัยคือมันมาจากไหน: ตัวถอดรหัสของ Whisper ถูกขอให้ทำการระบุภาษา ถอดเสียง ใส่เครื่องหมายวรรคตอน กำหนดตัวพิมพ์ใหญ่-เล็ก และจัดแนวเวลา พร้อมกันด้วยสี่เลเยอร์ ขณะที่สถาปัตยกรรมของ Granite แยกงานด้านเสียง (ตัวเข้ารหัส CTC ที่มีหัวอักขระและหัว BPE) ออกจากงานสร้างข้อความ (โมเดลภาษา 1B)

กล่องภาษาในเชิงปริมาณ

นี่คือจุดที่การตัดสินใจเกิดขึ้นจริง ดังนั้นจึงควรได้รับมากกว่าตัวเลขในหัวข้อบูลเล็ตเพียงอย่างเดียว

• Granite Speech 5.0 2B ถอดเสียงภาษาอังกฤษ ฝรั่งเศส เยอรมัน สเปน โปรตุเกส และญี่ปุ่น และแปลระหว่างหกภาษานั้นกับภาษาอังกฤษ รวมถึงแปลจากภาษาอังกฤษเป็นอิตาลี และจากภาษาอังกฤษเป็นภาษาจีนกลาง

• Whisper large-v3-turbo ถอดเสียงได้เก้าสิบเก้าภาษาและระบุว่ากำลังได้ยินภาษาใดอยู่ แต่ไม่แปลภาษา

• Granite Speech 5.0 470M TurboCTC ซึ่งเป็นรุ่นพี่น้องเจ็ดภาษาของ Granite ได้เพิ่มภาษาอิตาลีเข้าในชุดการถอดความ — ดังนั้นตระกูลนี้จึงครอบคลุมภาษายุโรปและภาษาญี่ปุ่นรวมกันเจ็ดภาษา ไม่ใช่หกภาษา

เก้าสิบเก้าต่อเจ็ดคือเหตุผลทั้งหมดที่สนับสนุน Whisper และมันเป็นเหตุผลที่หนักแน่น แต่การกระจายในทางปฏิบัติสำคัญกว่าจำนวน หากเสียงของคุณเป็นภาษาอังกฤษ ฝรั่งเศส เยอรมัน สเปน โปรตุเกส ญี่ปุ่น และอิตาลี Granite รองรับได้ หากคุณต้องการภาษาฮินดี อาหรับ เกาหลี ตุรกี โปแลนด์ เวียดนาม อินโดนีเซีย ดัตช์ สวีเดน หรือภาษาใด ๆ ในอีกเก้าสิบกว่าภาษาที่เหลือ Whisper คือหนึ่งในสองตัวนี้เพียงตัวเดียวที่ใช้งานได้ — และความได้เปรียบเรื่อง WER ในภาษาอังกฤษมากแค่ไหนก็ไม่เปลี่ยนสิ่งนั้น

กรณีกลางคือกรณีที่ทีมส่วนใหญ่อยู่จริง ๆ: ผลิตภัณฑ์ที่ภาษาอังกฤษเป็นหลักและมีภาษาหางยาวที่เข้ามาเพียงไม่กี่เปอร์เซ็นต์ของเวลา การใช้สองโมเดล หนึ่งโมเดลต่อระดับ คือคำตอบที่ปกติและถูกต้อง — และถูกกว่าที่ฟังดู เพราะหางยาวคือจุดที่ปริมาณต่ำ

ออดิโอความยาวมาก การประทับเวลา และสิ่งที่พังเมื่อขยายสเกล

เรื่องราวการนำ Whisper ไปใช้งานจริงนั้นมีความสมบูรณ์ในแง่มุมที่ไม่มี benchmark ใดวัดได้ การประทับเวลาระดับคำ การตรวจจับกิจกรรมเสียง การแยกผู้พูด การสตรีมด้วยการถอดรหัสแบบแบ่งเป็นชังก์ — ทั้งหมดนี้มีอยู่จริง ผ่านการทดสอบใช้งานจริงมาแล้ว และหลายส่วนก็ตั้งสมมติฐานบนหน้าต่าง 30 วินาทีและโทเค็น timestamp ของ Whisper

Granite Speech 5.0 2B มีรูปแบบที่แตกต่างออกไป IBM แนะนำให้ใช้เซกเมนต์ยาวสูงสุดประมาณสองนาที และแบ่งด้วย VAD สำหรับการบันทึกที่ยาวขึ้น และโมเดลภาษาจะมองเห็น embedding ความถี่ 10 Hz ภายในบริบทที่ขยายด้วย YaRN ขนาด 16k ไม่มีส่วนหัวสำหรับ timestamp ระดับคำบน checkpoint 2B พื้นฐาน — รุ่นที่สร้าง 4.1 ได้จัดส่งตัวแปร "-plus" แยกต่างหากสำหรับ ASR ที่ระบุผู้พูดและ timestamp ระดับคำ และยังไม่มีตัวแปร 5.0 ที่เทียบเท่าในขณะนี้

นั่นเป็นช่องว่างที่สำคัญจริง ๆ หากคุณกำลังสร้างคำบรรยาย ถอดเสียงการประชุมพร้อมป้ายชื่อผู้พูด หรือสิ่งใดก็ตามที่ต้องค้นหาไปยังวลีหนึ่ง บล็อก 5.0 อธิบายถึงการปรับปรุงการประทับเวลาไว้จริง แต่การปรับปรุงเหล่านั้นเป็นของ granite-speech-4.1-2b-plus ที่รีเฟรชแล้ว ไม่ใช่ของ 5.0 2B

• ต้องการการประทับเวลาในระดับคำ — วันนี้ใช้ Whisper large-v3-turbo; Granite 4.1-2b-plus หากคุณต้องการตระกูล Granite และยอมรับโมเดลอะคูสติกที่เก่ากว่าได้

• ต้องระบุผู้พูด — คำตอบเดียวกัน; 5.0 2B ไม่ทำสิ่งนี้

• หากต้องการความแม่นยำกับเสียงยาวเกินกว่าสองสามนาที — คำแนะนำของ Granite ที่ให้แบ่งเซกเมนต์ละสองนาทีถือเป็นขีดจำกัดในทางปฏิบัติ และการตัดข้อมูลเป็นช่วง ๆ ละ 30 วินาทีของ Whisper พร้อมการใช้ข้อความก่อนหน้าเป็นเงื่อนไขก็มีจุดล้มเหลวที่รู้กันดีอยู่ในตัว (วนซ้ำเมื่อเจอความเงียบ) ไม่มีตัวไหนดีไปกว่าอย่างชัดเจน ทั้งสองแบบจำเป็นต้องมี VAD อยู่ข้างหน้า

สองฟีเจอร์ที่ Granite มีแต่ Whisper turbo ไม่มี

การให้น้ำหนักคำหลัก Granite Speech 5.0 2B รองรับรายการคำหลักได้สูงสุด 2,000 คำต่อพรอมต์ และได้รับการฝึกด้วยข้อมูลเสียงที่ให้น้ำหนักกับคำหลักจำนวน 23,600 ชั่วโมง ครอบคลุมกลุ่มภาษายุโรปและภาษาญี่ปุ่น Whisper ไม่มีอินเทอร์เฟซที่เทียบเท่า — สิ่งที่ใกล้เคียงที่สุดคือสตริงพรอมต์ที่ช่วยปรับสไตล์และคำศัพท์ โดยไม่มีการฝึกใด ๆ รองรับอยู่เบื้องหลัง สำหรับการนำไปใช้งานจริงในการถอดเสียงชื่อผลิตภัณฑ์ ชื่อยา รหัสตั๋ว หรืออภิธานศัพท์ของลูกค้าเอง นี่คือความแตกต่างที่มีประโยชน์ที่สุดระหว่างสองโมเดลนี้ และมันไม่ปรากฏในค่าเฉลี่ย WER ใด ๆ

การระบุภาษาด้วยพรอมป์ต์ คุณสามารถบอก Granite ได้ว่าเสียงอยู่ในภาษาใด และสั่งให้ถอดความแทนการแปล Whisper จะตรวจจับภาษาโดยอัตโนมัติ และในรุ่น turbo จะทำหน้าที่ถอดความเท่านั้น สำหรับคลังข้อมูลผสมหลายภาษา ซึ่งคุณทราบภาษาจากเมทาดาทาอยู่แล้ว การบังคับระบุภาษาจะขจัดข้อผิดพลาดประเภทหนึ่งออกไปได้ทั้งหมด — เพราะบางครั้ง Whisper ระบุภาษาของคลิปสั้น ๆ ผิดพลาด แล้วจึงถอดความออกมาอย่างมั่นใจในภาษาที่ผิด

การย้ายระบบ ในขั้นตอนที่ใช้งานได้จริง

หากประเด็นเรื่องภาษาได้รับการคลี่คลาย การสลับจะเจ็บปวดน้อยกว่าที่ช่องว่างของระบบนิเวศบ่งชี้ เพราะไปป์ไลน์ที่ใช้ Whisper ส่วนใหญ่มีจุดเชื่อมต่อที่คุณต้องการอยู่แล้ว

1. เก็บ VAD ของคุณไว้ โมเดลทั้งสองต้องการส่วนย่อย ไม่ใช่ไฟล์ สิ่งใดก็ตามที่คุณใช้แบ่งเสียงเป็นช่วงสำหรับ Whisper จะใช้ได้กับ Granite ที่ความยาวสูงสุดสองนาทีต่อส่วน แทนที่จะเป็นสามสิบวินาที

2. แทนที่การเรียก decode ไม่ใช่โครงสร้างเชื่อมต่อภายใน Granite โหลดผ่าน AutoModelForSpeechSeq2Seq และ AutoProcessor ใน transformers>=4.52.1 หรือผ่าน vLLM, llama.cpp ที่ Q8_0 หรือ mlx-audio บน Apple Silicon หากบริการของคุณส่งคำสั่งออกไปยัง faster-whisper คุณกำลังสลับการเรียกโมเดลโลคัลตัวหนึ่งไปเป็นการเรียกอีกตัวหนึ่ง

3. เขียนพรอมป์ใหม่ Granite ขับเคลื่อนด้วยคำสั่ง และพรอมป์เป็นตัวเลือกโหมด เช่น ข้อความถอดเสียงดิบ ข้อความถอดเสียงที่ใส่เครื่องหมายวรรคตอนแล้ว โหมดเน้นคำสำคัญ หรือโหมดกำหนด language-ID ไว้ตายตัว นี่คือขั้นตอนที่ทีมต่างๆ มักข้ามไป แล้วพวกเขาก็สรุปว่าโมเดลแย่ลง เพราะพวกเขาป้อนพฤติกรรมค่าเริ่มต้นของ Whisper ให้กับมัน

4. ตั้ง baseline ของ WER ใหม่โดยใช้เสียงของคุณเอง ไม่ใช่ LibriSpeech นี่ไม่ใช่เรื่องพิธีการ จุดอ่อนของ Whisper บน leaderboard คือการจัดรูปแบบและการคลาดเคลื่อนเมื่อถอดข้อความยาว หากเสียงของคุณเป็นคลิปภาษาอังกฤษสะอาดความยาว 30 วินาที และขั้นตอนปลายทางของคุณเป็นโมเดลภาษาที่แก้ไขการจัดรูปแบบ ช่องว่างที่วัดได้อาจใกล้ศูนย์ — หรือหากเสียงของคุณมีสำเนียงและเป็นเสียงระยะไกล ช่องว่างอาจมากกว่า 2.8 points

5. ต้องมีเส้นทางสำรองไว้ด้วย ความครอบคลุมภาษาที่ไม่ใช่ภาษาอังกฤษของ Granite Speech 5.0 2B ถือเป็นขอบเขตที่ตายตัว และในผลิตภัณฑ์ที่รองรับหลายภาษา การมีตัวตรวจจับภาษาวางอยู่หน้าโมเดลถือเป็นสิ่งจำเป็น ไม่ใช่ทางเลือก ข้อความใดก็ตามที่อยู่นอกเหนือจากเจ็ดภาษานี้จะถูกส่งต่อไปยัง Whisper

จุดที่เลเยอร์การกำหนดเส้นทางพิสูจน์คุณค่าของตัวเอง

ขั้นที่ห้าคือส่วนของการย้ายระบบครั้งนี้ที่กลายเป็นสถาปัตยกรรม การดิสแพตช์ตามภาษาและคุณภาพที่วางอยู่หน้าโมเดลเสียงสองตัว บวกกับโมเดลภาษาตัวใดก็ตามที่คอยทำความสะอาดข้อความถอดเสียงในภายหลัง รวมกันเป็นการเรียกโมเดลสามครั้งต่อไฟล์ และการผสานรวมผู้ให้บริการแยกกันสามรายคือหนทางที่ไปป์ไลน์ง่าย ๆ จะกลายเป็นปัญหาด้านการบำรุงรักษา

OrcaRouter เป็นปลายทางเดียวที่เข้ากันได้กับ OpenAI รองรับโมเดลมากกว่า 200+ โมเดลในราคาตามรายการของผู้ให้บริการโดยไม่มีการบวกเพิ่ม ดังนั้นขั้นตอนหลังการประมวลผล — การทำความสะอาด การสรุป และการดึงข้อมูลฟิลด์ — จึงสามารถสลับหรือทดสอบ A/B ได้โดยไม่ต้องแตะโค้ดด้านเสียง และหากผู้ให้บริการขัดข้อง ระบบจะสลับไปใช้ตัวสำรองแทนที่จะทำให้งานล้มเหลว DSL สำหรับการกำหนดเส้นทางสามารถเก็บกฎการส่งต่อได้เอง: ตรวจจับภาษา ส่งภาษาที่รองรับทั้งเจ็ดภาษาไปยังเช็กพอยต์ Granite ที่โฮสต์เอง ส่งส่วนที่เหลือไปยัง Whisper และส่งข้อความถอดเสียงให้โมเดลทำความสะอาดใดก็ตามที่งานนั้นต้องการ ฮ็อปสุดท้ายคือส่วนที่เราให้บริการได้จริงในวันนี้ ทั้ง Granite Speech 5.0 2B และ Whisper large-v3-turbo ไม่มีอยู่ในแค็ตตาล็อกของเรา ดังนั้นโมเดลด้านเสียงจึงอยู่บนฮาร์ดแวร์ของคุณเอง และการกำหนดเส้นทางจะเริ่มต้นที่ปลายน้ำหนึ่งขั้น ซึ่งยังช่วยขจัดงานบูรณาการส่วนใหญ่ได้

ใครควรเปลี่ยน และใครไม่ควร

เปลี่ยนมาใช้หากเสียงของคุณเป็นภาษาอังกฤษบวกกับหกภาษาของ Granite ความแม่นยำสำคัญกว่าความคุ้นเคยกับระบบนิเวศของคุณ คุณต้องมี keyword biasing หรือ forced language และตอนนี้คุณอยู่ได้โดยไม่มี word-level timestamps ตัวเลข 5.06% เทียบกับ 7.83% เป็นช่องว่างจริงในทิศทางที่สำคัญ และ 570 RTFx เทียบกับ 200 RTFx หมายความว่าการเปลี่ยนมาใช้นี้น่าจะลดค่าใช้จ่าย GPU ของคุณได้ในเวลาเดียวกัน

อย่าสลับไปใช้หากคุณต้องการภาษาใดภาษาหนึ่งจากอีกเก้าสิบสองภาษา การประทับเวลาในระดับคำ การระบุผู้พูด หรือปลายทางแบบมีการจัดการ — ณ เวลาที่เขียนนี้ Granite Speech 5.0 2B ยังไม่ถูกให้บริการโดยผู้ให้บริการ inference รายใด และการโฮสต์ด้วยตนเองเป็นทางเดียวที่จะเข้าถึงได้ในวันนี้ Whisper large-v3-turbo มีให้ใช้ทุกที่ รวมถึงสถานที่ที่ไม่ให้คุณรัน GPU ของตนเอง

ทำทั้งสองอย่างหากคุณมีหางภาษาที่ยาว การ dispatch มีต้นทุนต่ำ หางมีปริมาณต่ำตามคำจำกัดความ และมันขจัดข้อโต้แย้งเดียวที่ Whisper ยังเหลืออยู่