Phonon לעומת Whisper Large v3 Turbo: שני חצאים של לולאת קול לא מקוונת

השוואה בין Phonon 31M לWhisper Large v3 Turbo היא שגיאת קטגוריה, וזו שגיאת הקטגוריה השימושית ביותר בהנדסת דיבור כרגע. Phonon 31M, שפורסם על ידי Gradium ב-20 באוקטובר 2026, הופך טקסט לאודיו. Whisper Large v3 Turbo, שפורסם על ידי OpenAI ב-1 באוקטובר 2024, הופך אודיו לטקסט. הם אינם מתחרים. הם שני הקצוות של אותה לולאה, ושניהם קטנים מספיק ומהירים מספיק כדי לרוץ על חומרה שבבעלותך.

יש סיבה שנייה לכך שהזיווג הזה מבלבל אנשים. שניהם מפרסמים מספר שנקרא WER, ושני המספרים אומרים דברים הפוכים. עבור Whisper, שיעור שגיאות המילה מודד באיזו תדירות התמלול שגוי. עבור Phonon, הוא מודד באיזו תדירות מתמלל שומע לא נכון את הדיבור שהמודל יצר. מספר נמוך יותר עדיף בשני המקרים, אבל אלו אינם אותו מדד, והצבתם באותה עמודה היא הדרך שבה נוצרות השוואות גרועות.

אחד מקשיב, אחד מדבר

Whisper Large v3 Turbo הוא מודל לזיהוי דיבור. הוא שומר על המקודד המלא של Whisper large-v3 ומצמצם את המפענח מ-32 שכבות לארבע, ומייצר 809 מיליון פרמטרים במקום 1.55 מיליארד. הוא מכסה 99 שפות, מזהה שפה אוטומטית, ואינו מאומן לתרגום. התיעוד של OpenAI מתאר אותו כמהיר בערך פי שמונה מהמודל הגדול עם ירידה קטנה בדיוק; החברה לא פרסמה מכפיל מדויק בכרטיס המודל, כך שכל נתון מהירות מדויק הוא בדיקה של צד שלישי.

Phonon 31M הוא מודל סינתזת דיבור. הוא מקבל טקסט וקול ומפיק שמע מונו ב-24 kHz באמצעות שנאי flow-matching מעל לטנטים של Mimi. יש לו 31 מיליון פרמטרים לא כולל הטוקנייזר, הוא נשלח כ-q8 GGUF בגודל 64.5 MB, והוא ברישיון Apache 2.0. אין לו יכולת האזנה כלל — הוא אינו יכול לתמלל, לבצע דיאריזציה או לזהות שפה.

הדבר היחיד שהם חולקים הוא מטרת תכנון: שניהם בנויים לפעול ללא מרכז נתונים. Whisper Turbo הוא החבר המהיר והזול במשפחה שהפכה לברירת המחדל כבסיס ASR פתוח. Phonon הוא ניסיון להפוך את חצי הסינתזה לזול באותה מידה.

אותן שלוש אותיות, שתי מידות שונות

Whisper Large v3 Turbo מדווח על WER ממוצע של 7.83 בלוח ה-English Open ASR Leaderboard, לעומת 7.44 עבור large-v3 המלא. ב-LibriSpeech test-clean הנתונים הם בסביבות 2.0%. המספרים הללו מתארים באיזו תדירות המודל כותב את המילה הלא נכונה כשהוא שומע דיבור נקי.

Phonon 31M מדווח על 0.51% ב-Seed-TTS ועל 1.5% בסט קשה יותר בכרטיס המודל שלו, או 1.70% באותו סט קשה בבלוג ההשקה. המספרים האלה מתארים באיזו תדירות whisper-large-v3 כותב מילה שגויה כשהוא שומע את הפלט של Phonon. שימו לב שהמודד הוא Whisper עצמו. המתודולוגיה של Gradium היא מעגלית באופן בלתי נמנע: כדי למדוד מודל TTS צריך מודל ASR, ושיעור השגיאות של מודל ה-ASR עצמו מציב רצפה לאיכות שבה ה-TTS יכול להיראות.

לכן TTS WER של 0.5% ו-ASR WER של 7.8% אינם ברי השוואה, ולכן יש לקרוא TTS WER מתחת לכ-1% כ"למתמלל לא הייתה שום בעיה", ולא כ"הדיבור כמעט מושלם". מאזינים אנושיים ומדרגים אוטומטיים חלוקים בדעותיהם, במיוחד לגבי פרוזודיה, שאותה שום WER אינו לוכד.

• משימה — טקסט לדיבור עבור Phonon 31M; דיבור לטקסט עבור Whisper Large v3 Turbo.

• פרמטרים — 31M, לא כולל הטוקנייזר, עבור Phonon 31M; ‏809M עבור Whisper Large v3 Turbo.

• שפות — אנגלית בלבד עבור Phonon 31M; 99 עבור Whisper Large v3 Turbo.

• פלט — אודיו מונו ב־24 קילו־הרץ עבור Phonon 31M; טקסט עם חותמות זמן עבור Whisper Large v3 Turbo.

• דיוק שדווח — 0.51% WER של Seed-TTS עבור Phonon 31M, כפי שנמדד באמצעות Whisper; 7.83 WER אנגלי ממוצע עבור Whisper Large v3 Turbo ב-Open ASR Leaderboard.

• רישיון — Apache 2.0 עבור Phonon 31M; MIT עבור Whisper Large v3 Turbo.

הערכת היקף ללופ קולי לא מקוון

אם המטרה היא עוזר קולי שעובד ללא חיבור לרשת, רשימת הרכיבים כוללת שלושה מודלים, לא שניים. זיהוי דיבור, יצירת שפה וסינתזת דיבור.

Whisper Large v3 Turbo הוא מודל בעל 809 מיליון פרמטרים, עם כ-1.6 GB של משקלים ברמת דיוק של 16 סיביות. הסקה על GPU בדרך כלל מקצה כמה גיגה-בייטים של זיכרון עבודה עבור אקטיבציות ועיבוד בקבוצות; גרסאות GGUF מכומתות מקטינות את טביעת הרגל עוד יותר במחיר קטן של דיוק. זה אינו מודל ברמת טלפון בצורת ה-Turbo שלו, אם כי וריאנטים קטנים יותר של Whisper וגרסאות מזוקקות כן.

Phonon 31M הוא 64.5 MB. זה בערך אחד חלקי עשרים וחמישה מקובץ המשקולות של Whisper Turbo, והוא פועל על ליבת CPU, על Neural Engine של iPhone או על Raspberry Pi.

מודל השפה שבאמצע הוא המשתנה. מודל instruct בגודל 1B עד 4B שעבר קוונטיזציה לארבעה ביטים נכנס בכמה גיגה-בייטים והוא הבחירה המקובלת עבור עוזר לא מקוון. הלולאה המלאה — Whisper Turbo, מודל instruct קטן, Phonon — נכנסת לטווח שמחשב נייד או טלפון מתקדם יכולים להכיל, כאשר ASR הוא הרכיב הכבד ביותר.

האסימטריה הזו היא התובנה המעשית. החצי של הלולאה שאנשים דואגים ממנו — הסינתזה, החלק שצריך להישמע אנושי — הוא כעת החצי הזול. הזיהוי הוא היקר.

תקציב ההשהיה

הנתונים מטעם הספק של Phonon מציבים את זמן האודיו הראשון ב-5 עד 7 מ״ש בליבת M5 של MacBook Air וב-9 מ״ש ב-iPhone 16 Pro, עם תפוקה שבין פי 11.6 ל-41 מזמן אמת, בהתאם למסמך של Gradium שקוראים. מהירותו של Whisper Turbo תלויה מאוד בחומרה ובבקאנד: OpenAI מתארת אותו כמהיר בערך פי שמונה מ-large-v3, ומבחני קהילה עם builds כמותיים (quantized) מדווחים על פי עשרות מזמן אמת על Apple silicon ועל נתונים איטיים בהרבה על CPU.

בלולאת שיחה, שלב הזיהוי הוא הדומיננטי. אמירה בת שלוש שניות אורכת כמה מאות מילישניות לתמלול על GPU של מחשב נייד, וקרוב לזמן אמת על CPU חלש. שלב הסינתזה הוא למעשה מיידי בהשוואה. צוותים שמבצעים אופטימיזציה ל-TTS קודם כל מבצעים אופטימיזציה לקצה הלא נכון.

כיסוי השפות הוא האילוץ הקשיח.

Whisper מתמודד עם 99 שפות. Phonon 31M מתמודד עם שפה אחת, והכרטיס של Gradium מזהיר ששפות אחרות מבוטאות באופן שגוי. לכן לא ניתן לבנות עוזר קולי רב-לשוני מצמד זה: הזיהוי עובד ביפנית, הסינתזה לא.

התשובה של Gradium היא משפחת Phonon 40M, אשר מכסה אנגלית, צרפתית, גרמנית, ספרדית ופורטוגזית. אלו חמש שפות, לא 99, וצ'קפוינטי ה-40M הם CC BY-NC 4.0 — לא שמישים במוצר מסחרי ללא הסכם נפרד. הפער הרב-לשוני בין ASR פתוח ל-TTS פתוח הוא אחד מהרחבים ביותר בסטאק, ושום דבר ששוחרר החודש לא סוגר אותו.

היכן שהם נפגשים במוצר אמיתי

היישום הטבעי הוא כלי תמלול והשמעה: הקליטו פגישה או פתק קולי, תמללו אותו עם Whisper, ואז קראו סיכום בקול רם עם Phonon. שניהם פועלים באופן מקומי, שניהם ברישיון מתירני, ואף אחד מהם אינו שולח אודיו לצד שלישי. כלי הכתבה רפואית, מקליט שטח, אפליקציית נגישות לחירשים וכבדי שמיעה, או צעצוע ללימוד שפות במצב לא מקוון — כולם מתאימים לאותה תבנית.

היישום השני הוא סוכן קולי עם מעבר ראשון מקומי וגיבוי בענן. Whisper מתמלל במכשיר; אם רמת הביטחון נמוכה, האודיו עובר ל-ASR מתארח. מודל השפה מנסח תשובה; אם הוא זקוק למודל גדול יותר, הבקשה מנותבת החוצה. Phonon משמיע את התוצאה; אם המכשיר עובר האטה תרמית, TTS מתארח משתלט. לכל שלב יש אפשרות מקומית ואפשרות מרוחקת, והמוצר מחליט באיזו להשתמש לכל בקשה.

שכבת הטקסט ביניהם

Whisper מפיק תמלול, Phonon צורך תסריט, ומשהו חייב להפוך את האחד לאחר. ה"משהו" הזה הוא מודל שפה, והוא החלק היחיד בלולאה שמרוויח מלהיות גדול.

OrcaRouter אינה מארחת אף אחד מהמודלים האלה — Whisper Large v3 Turbo פועל דרך מחסנית ההסקה שלכם, ו-Phonon פועל על המכשיר — כך שאף אחד מהם אינו מופיע בקטלוג שלנו. מה שהפלטפורמה מכסה הוא האמצע: API אחד ליותר מ-200 מודלים של שפה במחיר המחירון של הספק עם 0% תוספת, מעבר אוטומטי בין ספקים, ו-DSL לניתוב שיכול לשלוח מודל זול לתורות השגרתיות ומודל חזק יותר לקשות. בעיצוב offline-first, השכבה הזו היא החלק שנשאר מקוון.

מה בעצם להשוות

אם אתם בוחרים מודל דיבור, השוו את Phonon למערכות TTS אחרות ואת Whisper Turbo למערכות ASR אחרות. אם אתם בונים מוצר, השוו את הלולאות: סך הזיכרון, סך השהיה, סך הרישיונות, סך השפות. לפי מדד זה, הצמד קוהרנטי לעבודה באנגלית בלבד, לא מקוונת, עם רישיון מתירני, ואינו קוהרנטי לכל דבר רב-לשוני או מסחרי ברמת 40M.

הטעות שיש להימנע ממנה היא לקרוא את שיעור שגיאות המילים (WER) של Phonon, 0.51%, לצד 7.83% של Whisper ולהסיק שהסינתזה עברה את הזיהוי. המספרים נוצרים בתהליכים שונים שמודדים דברים שונים, ואחד מהם נמדד על ידי האחר. השאלה השימושית אינה איזה מודל טוב יותר. היא אם הלולאה שאפשר להרכיב מחלקים פתוחים החודש טובה מספיק עבור המוצר שעומד לנגד עיניך — ועבור אנגלית, באופן לא מקוון, על מחשב נייד, התשובה רק עכשיו השתנתה.