Nemotron 3.5 Transcribe לעומת Whisper Large v3 Turbo: פי 40 בגודל הטביעה עבור נקודת WER אחת

אם משימת התמלול שלך היא תיקייה של קליפי ראיונות מונו באורך שלוש דקות, והמכונה שיש לך היא כרטיס תחנת עבודה בנפח 24GB, ההשוואה בין Nemotron 3.5 Transcribe ל-Whisper Large v3 Turbo מוכרעת עוד לפני שהדיוק נכנס לתמונה. המודל החדש של NVIDIA הוא מערכת דיבור בת 34 מיליארד פרמטרים שאומתה על מאיץ בנפח 80GB. גרסת הטורבו של OpenAI היא מודל בן 809 מיליון פרמטרים שנכנס בתוך 0.8GB של משקלי int8 ורץ על CPU. משווים ביניהם השבוע מפני ששיעורי השגיאה שלהם הגיעו לטווח של כנקודת אחוז זו מזו, וזו העובדה הכי פחות שימושית לגבי ההשוואה הזו.

Nemotron 3.5 Transcribe הופץ ב-2026-10-28 כמשקולות פתוחות תחת רישיון OpenMDW-1.1, המתיר שימוש מסחרי. Whisper Large v3 Turbo הוא מ-2024-10-01 ובעל רישיון MIT; הוא אינו חדשות — הוא קו הבסיס שכל מודל דיבור חדש נמדד מולו. השאלה שהמאמר הזה משיב עליה אינה איזה מהם מקבל ציון טוב יותר — שני הספקים היו רוצים שתקראו זאת כך — אלא איזה מהם ניתן להריץ בפועל, ובאיזו עלות, על האודיו שברשותך.

מה כל מודל הוא בפועל

ההבדל בארכיטקטורה אינו פער דורות. זהו הבדל קטגוריאלי, והוא מסביר כמעט כל פשרה במורד הזרם.

• ארכיטקטורה — מודל שפה גדול (LLM) היברידי מסוג תערובת מומחים Mamba–Transformer עם מקודד דיבור ומקודד דיאריזציה קפוא בנפח 99M המוטמעים בו, כ־34B בסך הכול עם 4.3B פעילים לכל טוקן, לעומת מקודד–מפענח שמזוקק מ-large-v3 כאשר המפענח שלו נחתך מ־32 שכבות ל־4.

• חלון אודיו — הקלטות של עד שעה מעובדות במעבר יחיד, לעומת חלון קבוע של 30 שניות עם פענוח מקוטע של צורה ארוכה עבור כל הקלטה ארוכה יותר.

• תוויות דובר — מובנות בפלט, עד 8 דוברים, ב-13 שפות, לעומת היעדר מוחלט; ל-Whisper אין טוקן דובר באוצר המילים שלו, ולכן מפריד דוברים נפרד הוא חובה.

• תזמון ברמת מילה — מתאם CTC קל-משקל מיישר את התמלול המוגמר לאודיו, לעומת אסימוני חותמת זמן ברמת מקטע בלבד, כאשר תזמון ברמת מילה מחייב יישור כפוי.

• כיסוי שפות — 40 שפות מתומללות, 31 מתורגמות אל האנגלית או ממנה, 13 עם ייחוס דובר, לעומת 99 שפות מתומללות וללא תרגום.

משקלים בדיסק — כ־68GB ב־BF16 תחת OpenMDW-1.1, לעומת 1.6GB ב־fp16, 0.81GB ב־int8, תחת MIT.

מספרי הדיוק אינם תואמים, וזו בדיוק הנקודה

Artificial Analysis מפעילה את האינדקס הציבורי היחיד שבו שני המודלים מופיעים על אותו סולם, והמספרים שלה ראויים לקריאה מדוקדקת משום שהם אינם מתיישבים זה עם זה. בטבלת לוח הדירוג, Whisper Large v3 Turbo רשום ב-4.6% AA-WER בנקודת קצה אחת של הסקה מהירה וב-5.5% בנקודת קצה שנייה. Nemotron 3.5 Transcribe רשום ב-3.4% עבור נקודת קצה מתארחת. בהודעה של NVIDIA עצמה מצוטט 2.80% AA-WER, בשוויון במקום הראשון מבין מודלים במשקלים פתוחים, והחלק הפרוזאי של אותו לוח דירוג חוזר על 2.8% בעוד שהטבלה שלו מציגה 3.4% — פער בתוך עמוד אחד, לפני שמישהו בכלל מתחיל להשוות בין ספקים.

קח את הטבלה כפשוטה, ו-Nemotron 3.5 Transcribe טוב בכ-1.2 נקודות. עכשיו שים לב ששתי הרשומות של Whisper Large v3 Turbo עצמו נבדלות ב-0.9 נקודות על אותו מודל בדיוק. רוב הפער לכאורה בין שתי המערכות הוא בתצורת נקודות קצה — עיבוד באצוות, הגדרות פענוח, עיבוד מקדים של אודיו — ולא בארכיטקטורה. כל מי שמצטט הפרש WER בודד כפסק דין מצטט מספר שזז בכמעט אותה כמות כשמחליפים מארחים.

לוח המובילים Open ASR Leaderboard מספר סיפור שנשמע גדול יותר. הממוצע של Whisper Large v3 Turbo בקטעי אנגלית קצרים עומד שם על כ-7.8%, בעוד ש-NVIDIA מדווחת על 4.71% עבור המודל שלה על פני תשע ערכות מבחן בעמוד המחקר, ועל 5.33% WER ממוצע באנגלית בפוסט הנלווה ב-Hugging Face. אלו תערובות מבחן שונות עם נרמול שונה, כך שהפער של שלוש נקודות הוא כיווני במקרה הטוב. מה שחשוב יותר הוא מה שלא קיים: השוואה ישירה של ספק מול Whisper Large v3 Turbo. NVIDIA משווה את המודל שלה למערכות דיאריזציה משורשרות ולמודלי דיבור אחרים עם משקלים פתוחים, ולא לצ'קפוינט turbo שרוב הצוותים מריצים היום. כל נתון "מנצח את Whisper" שנמצא בתפוצה הוא הסקה חוצת-בנצ'מרקים, כולל שלנו.

פער היכולות ש-Whisper אינו יכול לסגור

אם שמים בצד את הפלט המונחה-פרומפט, ההבדל המהותי הוא ש-Nemotron 3.5 Transcribe מפיק תמלילים עם ייחוס דוברים במעבר אחד. תגי הדובר מגיעים מהמקודד הדיאריזציה הקפוא שממוזג לתוך תכונות האודיו, התגובה נושאת מקטעי דובר גולמיים לצד התמליל המתויג, והמודל מתייג אותם כ-<spk:0> עד <spk:7>. עבור פודקאסט של שני אנשים זהו נוחות. עבור שימוע משמעתי של 60 דקות, ביקור אצל קלינאי או שיחת מכירות עם מספר משתתפים, זה המוצר.

Whisper Large v3 Turbo אינו יכול לייצג דובר כלל. תמלולי האימון שלו מעולם לא נשאו תוויות דובר, והקלט שלו ממוזג למונו ב-16kHz, מה שמשמיד את הרמז הפיזי היחיד שאולי היה שורד. כשמבקשים ממנו להפיק תוויות מתקבל טקסט שנראה תקין ואין לו בסיס באודיו. העקיפה המקובלת היא WhisperX: יישור כפוי לתזמון מילים בתוספת מודל דיאריזציה המתארח בנפרד, המחוברים בגבולות הקטעים. זה עובד, זה נפרס באופן נרחב, ואלו שלושה חלקים נעים לעומת Nemotron 3.5 Transcribe שהוא אחד.

אותו יתרון מבני חל גם על אודיו ארוך. שעה אחת במעבר יחיד עדיפה על חיבור חלונות בני 30 שניות, ולחיבור חלונות יש מצב כשל ידוע: פענוח ללא אסימוני חותמות זמן מפיל מילים כמעט בכל גבול — הרצאה אחת באורך 20 דקות שנמדדה איבדה בדרך זו כ-3% ממילותיה. מתאם ה-CTC של Nemotron 3.5 Transcribe קיים בדיוק כדי להימנע מסוג זה של שגיאה, עם זאת יש לציין שחותמות זמן של מילים לא היו חלק מתמיכת vLLM הראשונית.

במשימות שלשמן נבנה, המספרים המדווחים של NVIDIA חזקים ומדווחים על ידי הספק: 18.26% DER ב־21 שפות במבחן הדיאריזציה של David AI, המתואר כטוב ביותר מבין 14 מערכות; 32.4% cpWER ב־VoiceArena, גם הוא הטוב ביותר מבין 14. רשימות ישויות הקשריות, המסופקות בפרומפט, זוכות לייחוס של הפחתה של פי שישה בשגיאות ישויות בעלות שם ב־ContextASR-Bench. שום דבר מכך טרם זכה לשחזור בלתי־תלוי, וכל זה הוא טענה לגבי מודל בן יומו.

היכן ש־Whisper Large v3 Turbo עדיין מנצח באופן מוחלט

רוחב השפות הוא התשובה הראשונה, והוא פחות משעמם ממה שזה נשמע. Whisper Large v3 Turbo מכסה 99 שפות. Nemotron 3.5 Transcribe מכסה 40 שפות לתמלול, 31 לתרגום ו-13 לייחוס דובר. אם בתור שלך יש קזחית, טמילית, סווהילית או ולשית, ההשוואה נגמרת שם: מודל ה-turbo מתמלל אותן, והמודל החדש והגדול יותר אינו טוען לכך.

התשובה השנייה היא חיכוך פריסה. Whisper Large v3 Turbo פועל תחת whisper.cpp, faster-whisper ו-MLX, על CPU, על מחשב נייד, על Jetson. Nemotron 3.5 Transcribe דורש את vLLM 0.32.0 בתוספת התוסף NeMo Speech, או את SGLang-Omni 0.2.0, על H100 עם 80GB ב-BF16, על L40S ב-FP8, או על RTX 5090 ב-NVFP4. אלה אינן התחייבויות תפעוליות ברות השוואה.

השלישי הוא שמחירו של turbo הוא תעריף שעתי מפורסם ומשעמם. נקודות קצה מתארחות מחייבות כ-$0.04 לשעת אודיו עם מינימום של עשר שניות, והוא פועל במהירות של בערך פי 250 מזמן אמת בנקודת קצה מהירה. אלף שעות אודיו עולות כ-$40. ל-Nemotron 3.5 Transcribe אין מחיר מחירון גלוי עבור ה-checkpoint המלא, ונקודות הקצה המתארחות שמציעות אותו אינן מפרסמות תעריפים לפי דקה.

בדוק איזה Nemotron 3.5 אתה מריץ בנצ'מרק

השגיאה הנפוצה ביותר בסיקור של השבוע היא השוואה לדגם הלא נכון. חלק גדול מההשוואות שפורסמו ל"Nemotron 3.5" למעשה בוחן את nvidia/nemotron-3.5-asr-streaming-0.6b — דגם סטרימינג בנפח 0.6B עם מודעות ל-cache, מגרסה קודמת, עם המספרים שלו והחולשות שלו. אם טבלה מזכירה מקטעים של 80ms עד 1120ms, היא אינה בוחנת את Nemotron 3.5 Transcribe. זה חשוב מכיוון שדגם הסטרימינג מפסיד ל-Whisper Large v3 Turbo בדיוק גולמי בהשוואות בעולם האמיתי (3.35% מול 2.55% בטבלת דירוג רב-לשונית אחת) ומפסיד בפער גדול ביישור מילים, בעוד שהדגם הנדון כאן הוא מערכת אחרת, שאינה סטרימינג, בת 34B.

המלכודת השנייה היא ההגשה. המסלול הקל, SGLang-Omni 0.2.0, נותן לך נקודת קצה עובדת בלי NeMo — ובלי חותמות זמן, תוויות דובר או תרגום. המסלול המלא, vLLM 0.32.0 עם תוסף NeMo Speech, נותן לך את כל שלושת אלה, אבל חותמות זמן ברמת המילה הגיעו כהמשך מאוחר יותר ולא ב-PR הראשון. שלושה מתכוני פריסה שנקראים "Nemotron 3.5 Transcribe" יכולים אפוא להתנהג כמו שלושה מוצרים שונים. אם ייחוס דובר הוא הסיבה שאתה עובר, ודא את המסלול הזה לפני שאתה מקדיש לו זמן הנדסי.

כמה זה עולה להפעיל, בכנות

ההשוואה בין שירותים מתארחים היא כמעט טריוויאלית: Whisper Large v3 Turbo במחיר של כ-$0.04 לשעת אודיו הוא כ-$40 לאלף שעות, בלי צורך להחזיק חומרה. Nemotron 3.5 Transcribe עדיין לא נמכר בדרך הזו, כך שצוות שרוצה אותו מתמחר GPU, לא חשבון.

הטענה של NVIDIA עצמה בדבר התפוקה היא רצפת החישוב: 2,238 שניות של אודיו לכל שניית זמן GPU, NVFP4 עם ה-DFlash2 drafter על RTX PRO 6000 Blackwell, מה שמסתכם לכ-100 שעות אודיו בפחות משלוש דקות. במחיר של כ-2 דולר לשעת GPU לפי דרישה, זה מרמז על רצפה הרבה מתחת לסנט לשעת אודיו — ב-batching מלא, וכך לא מתנהג תור ייצור. התייחסו לזה כתקרה של מה שהחומרה מסוגלת לעשות, ולא כקצב שתגיעו אליו.

מה שאומר שההשוואה האמיתית אינה בין Whisper Large v3 Turbo לבין Nemotron 3.5 Transcribe. היא בין Nemotron 3.5 Transcribe לבין Whisper Large v3 Turbo יחד עם מודל דיאריזציה, מיישר כפוי, קוד למיזוג מקטעים והכוונון לכל שפה שקוד החיבור מחייב. אם אתם כבר מריצים WhisperX בייצור, שילמתם את רוב העלות הזו, והטיעון לעבור חלש מכפי שפער ה-WER מרמז. אם לא בניתם אותו, מודל ה-30B מתחרה בצינור עיבוד שהייתם צריכים אחרת לאייש בכוח אדם.

הערה מעשית אחת למי שמפעיל את שניהם במהלך מיגרציה: החזקת שני בקאנדים לתמלול מאחורי נקודת קצה אחת תואמת OpenAI הופכת את המעבר לשינוי תצורה במקום חוזה ספק שני. זו השכבה ש-OrcaRouter נועד לספק — מפתח אחד ונקודת קצה אחת על פני הספקים שאליהם הוא מנתב, עם מחיר המחירון של הספק מועבר בתוספת של 0% ומעבר אוטומטי בין השניים. זה לא משנה איזה מודל טוב יותר. זה משנה מה העלות של לגלות, ומה העלות של לטעות בזה.

מי אמור לבחור מה

• הקלטות פגישות, משפטיות, קליניות או של מרכזי קשר עם מספר דוברים ושרשרת ביקורת — Nemotron 3.5 Transcribe. ייחוס דוברים ותזמוני מילים במעבר אחד הוא היכולת שהייתם צריכים להרכיב בעצמכם, וחלון של שעה אחת מסיר לחלוטין את לוגיקת החיתוך.

• אודיו מונו בנפח גבוה, כיסוי שפות רחב, פריסה על לפטופ או CPU, חיוב צפוי מראש לפי שעה — Whisper Large v3 Turbo. עם 809M פרמטרים ותעריף של $0.04 לשעה, זוהי התשובה הנכונה הזולה ביותר לחלק עצום מתעבורת התנועה האמיתית, והיא נבחנה בשטח במשך שנתיים.

• עומסי עבודה מעורבים — הריצו את turbo על הכול, והפנו למודל הגדול יותר רק את האודיו שדורש דוברים, רשימות ז'רגון או תרגום. כלל הבחירה הוא מאפייני האודיו, לא יוקרתו של המודל: מספר הדוברים, קיומו של מילון מונחים תחומי, ואורך ההקלטה.

שאלות שכדאי לשאול לפני שאתם מהגרים

האם Nemotron 3.5 Transcribe יכול לרוץ על כרטיס מסך יחיד בנפח 24GB?

לא בנוחות. NVIDIA אימתה BF16 על H100 עם 80GB, FP8 על L40S, ואת נקודת הבדיקה NVFP4 על RTX 5090, שהוא כרטיס של 32GB. התקן של 24GB נמצא מתחת לכל תצורה מאומתת, ומגדל האודיו מועתק לכל ראנק ב-tensor-parallel, כך שפיצול (sharding) על פני מספר כרטיסים אינו מציל כרטיס יחיד קטן.

האם Whisper Large v3 Turbo מבצע תיוג דוברים או תרגום?

לא זה ולא זה. גרסת ה-turbo אומנה על תמלול בלבד, ולכן העברת משימת תרגום אליה מפיקה פלט שאינו שמיש — תרגום דורש את נקודת הבדיקה המלאה large-v3. תוויות דובר דורשות כלי דיוריזציה נפרד כגון pyannote, וחיבור התורות שלו לחותמות הזמן הגסות של מקטעי Whisper הוא החלק בצינור העיבוד שלוקח את הזמן הרב ביותר לעשות נכון.

האם פער הפרמטרים בא לידי ביטוי כהשהיה?

לא לפי דקת אודיו, לא. Whisper Large v3 Turbo מחזיר חלון של 30 שניות בהרבה פחות משנייה בנקודת קצה מארחת מהירה, ו-Nemotron 3.5 Transcribe מעבד קובץ של שעה במעבר אחד בתפוקה ש-NVIDIA מתארת באלפי שניות-אודיו לכל שניית GPU. ההבדל הבולט נמצא במקום אחר: ל-Turbo אין מצב סטרימינג, וגם לא ל-Nemotron 3.5 Transcribe, ולכן כתוביות בזמן אמת מחוץ לתחום עבור שניהם.

איזה מהם עדיף לאודיו שאינו באנגלית?

אף אחת מהתשובות אינה בטוחה. Whisper Large v3 Turbo מכסה 99 שפות באיכות שמשתנה מאוד משפה לשפה, ו-Nemotron 3.5 Transcribe מכסה 40 שפות עם תוצאות רב-לשוניות שדווחו על ידי הספק ומתכון להתאמה — NVIDIA מדווחת כי תחום רפואי שנשמר לבדיקה השתפר מ-22.44% ל-12.17% WER לאחר כיוונון עדין על GPU אחד במשך כמה שעות. אין עדיין השוואה רב-לשונית בלתי תלויה ראש בראש, ולכן עבור כל שפה שאינה אנגלית הצעד האחראי הוא מבחן עיוור על האודיו שלך.

מה היה משנה את פסק הדין הזה?

שלושה דברים, לפי סדר הסבירות. חותמות זמן ברמת המילה שייכנסו ל-API התמלול של vLLM יהפכו את נתיב ההגשה המלא לברירת המחדל, ויקטינו את הפער בין שלושת מתכוני הפריסה. צ'ק-פוינטים מכומתים שיופצו באופן רחב יורידו את רצפת החומרה מכרטיס של 80GB לעבר התקנים צרכניים. והשוואה רב-לשונית עצמאית באמת, ראש בראש, מול Whisper Large v3 Turbo תחליף השערות במדידה.

עד שאחד מאלה יתממש, ההחלטה אינה קרובה לעשירית נקודת WER. זו שאלה לגבי האודיו שלך: אם יש בו יותר מקול אחד, ואתה צריך לדעת איזה קול אמר מה, Nemotron 3.5 Transcribe הוא המודל הפתוח הראשון שעושה זאת במעבר אחד בלי pipeline מאחוריו. אם לא, מודל 809M שיצא לפני שנה עדיין עושה את העבודה תמורת ארבעים דולר לאלף שעות, והמודל 34B הוא כמות גדולה של חומרה לקנות בשביל מספר שמשתנה כשמחליפים מארחים.