כרטיס כותרת שנוצר עבור Nemotron 3.5 Transcribe, שיצא ב-28 באוקטובר 2026, עם כרטיסים שעליהם כתוב 34B בסך הכול / 4.3B פעילים, 40 שפות / אודיו של שעה ו-OpenMDW-1.1 עם משקולות פתוחות, ובנוסף ארבעה צ׳יפים מתויגים — תמלול, הפרדת דוברים, תרגום, שו״ת אודיו — שמתכנסים לצומת בודד שמסומן במעבר אחד, וללוגו של OrcaRouter.
Engineering & Research

Nemotron 3.5 Transcribe מחליף צנרת בת חמישה מודלים. בגרסה הפתוחה עדיין יש חורים.

מחבר

Gideon Frost

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

שיחת דירקטוריון בת 45 דקות עם שישה דוברים נדרשה בעבר לחמישה רכיבים נעים: זיהוי פעילות קולית, מודל ASR, מפריד דוברים, מיישר כפוי ומודל שפה שיסדר את הפלט הגולמי למשהו שאדם יקרא. NVIDIA Nemotron 3.5 Transcribe, שיצא לאור ב-28 באוקטובר 2026 תחת רישיון OpenMDW-1.1, הוא ניסיון של NVIDIA לכווץ את המערך הזה למעבר קדימה יחיד. מה שהופך את השחרור לראוי לקריאה שנייה הוא לא הכיווץ עצמו. זו רשימת הדברים שנתיב ההגשה בקוד פתוח עדיין לא עושה.

הצ'קפוינט הוא מודל שפה מתוגבר־דיבור ולא מודל ASR עם תוספות שהודבקו לו. 34 מיליארד הפרמטרים שלו הם ברובם Nemotron 3.5 Lightning 30B-A3B — שלד היברידי Mamba–Transformer מסוג תערובת מומחים; כ־4.3 מיליארד מהם פעילים לכל טוקן, כולל כ־800 מיליון בפרמטרים של מקודד האודיו. שם המאגר עדיין מציין 30B-A4B, שמונה את הדקודר ולא את המערכת המורכבת. מטריצת התמיכה של NVIDIA עצמה, טבלאות הבנצ'מרק והרישיון נמצאים כולם בכרטיס המודל, והכרטיס הזה הוא המסמך השימושי ביותר במהדורה.

חמישה תפקידים, נקודת ביקורת אחת

הרעיון הוא שהפרומפט בוחר את התמלול. NVIDIA מאמנת חמישה סגנונות פלט לתוך אותם משקלים, והקורא בוחר אחד מהם באמצעות הוראות בשפה טבעית במקום מודל נפרד או סקריפט לעיבוד לאחר מכן:

• מילולי — שימור גמגומים, התחלות שווא וחזרות כפי שהם, לצורכי תיעוד משפטי וציות רגולטורי.

• צורת כתיבה — פיסוק ורישיות נקיים, לכתוביות ולפרוטוקולים קריאים.

• הקשרי — רשימת ישויות שמסופקת בהנחיה קובעת את האיות של שמות, מוצרים ומונחים מקצועיים.

• מיוחס לדובר — כל מקטע נושא תג דובר, שנוצר במהלך ריצת ה-ASR.

• Rich — סגנון "הכול כולל הכול" שנושא יחד תוויות דובר, פיסוק, רישיות ועיצוב.

מעבר לתמלול, אותו צ'קפוינט מבצע תרגום דיבור בשני הכיוונים בין אנגלית ל-31 שפות, זיהוי שפה מדוברת והבנת אודיו — מענה על שאלות וביצוע הוראות מדוברות על גבי ההקלטה. הוא מטפל בהקלטות באורך של עד שעה בתוך הקשר של 65,536 טוקנים, תוך שימוש במקטעי פענוח פנימיים בני 30 שניות שהם פרט הנדסי ולא מגבלת הקלטה. חותמות זמן של מילים מגיעות ממתאם CTC קל-משקל לאחר הפענוח.

מאיפה בעצם מגיעות תוויות הדובר

רוב הטענות ש"מודל אחד עושה הכול" מתפוררות בדיאריזציה, מפני שזהות הדובר היא בעיית אשכול ואילו תעתיק הוא בעיית רצף, ובדרך כלל פותרים את השתיים בנפרד. התשובה של NVIDIA היא מקודד מומחה מקבילי: מודל Nemotron 3 Diarization קפוא מפיק ייצוגים של פעילות דובר שמוזרקים לפלט של מקודד הדיבור, כך שעמוד השדרה הלשוני רואה מי מדבר בזמן שהוא מחליט מה נאמר. ה-LLM עצמו אינו מאומן מחדש למשימה.

התכנון הזה הוא הסיבה לכך שהחברה יכולה להצהיר על מעבר יחיד במקום על קסקדה. NVIDIA מדווחת על שיעור שגיאות מילים ממוצע ומשורשר של תמורה מינימלית (minimum-permutation) של 15.80 במערכת ההערכה הרב-דוברית שלה, לעומת 16.83 עבור הקסקדה המיוחדת הטובה ביותר של ASR בתוספת מפריד דוברים (diarizer), ומתארת את התוצאה כמודל השפה הגדול הראשון לדיבור שמנצח מערכת מסוג זה בתמלול עם ייחוס דוברים ודיבור חופף. אלה מספרי ספק מתוך מערכת הערכה שנבנתה בידי הספק, ואף מעבדה ניטרלית טרם שחזרה אותם. יש להתייחס לכיוון כסביר ולמרווח כזמני.

המספרים, עם התוויות המצורפות

הכרטיס של NVIDIA מדווח על שיעור שגיאות מילים ממוצע של 4.71% על פני תשע קבוצות המבחן הציבוריות באנגלית של Open ASR Leaderboard. הפיזור שמתחת לממוצע הזה רחב וכדאי להכיר אותו לפני שמצטטים אותו: LibriSpeech test-clean עומד על 1.09% ו-SPGISpeech על 1.91%, בעוד AMI מגיע ל-7.81% ו-URGENT24 ל-11.00%. הלוח הרב-לשוני עומד בממוצע על 4.62% על פני שבע שפות, כאשר גרמנית על 2.81% והינדי על 9.15% לפי מדד אוצר המילים החוץ-מילוני שלה.

סיקור העיתונות של ההשקה ציטט גם 5.33% עבור הלוח האנגלי. זוהי צבירה שונה על פני הרכב סט שונה, לא תיקון, ואת השניים אסור להציב באותה שורה. 4.71% של הכרטיס הוא המספר שיש לצטט אם מצטטים את הכרטיס.

הטענה בדבר הנחיה קונטקסטואלית היא הדבר המוחשי ביותר בהודעה. ב-ContextASR-Bench, שיעור שגיאות המילים (WER) הכולל עובר מ-3.33% ללא רשימת ישויות ל-1.71% עם רשימה מפורטת; WER של ישויות בשם יורד מ-12.21% ל-2.20%, ושיעור השליליים הכוזבים של ישויות בשם מ-14.99% ל-1.32%. זהו מנגנון אמיתי שניתן לבדוק — תנו למודל את שמות המוצרים שלכם והוא מפסיק לנחש מה הם — גם אם הציונים המוחלטים מגיעים ממערכת הבדיקה של NVIDIA.

התמונה העצמאית פחות מחמיאה ויותר שימושית. Artificial Analysis מציגה את Nemotron 3.5 Transcribe ב-3.4% בטבלת AA-WER v2 הלא-זורמת שלה, בשוויון במקומות 20 עד 23 בערך, בעוד שה-FAQ שלה עצמה מתארת את המודל ב-2.8%. שני המספרים שייכים לאותו לוח באותו עמוד. הפער הוא הבדל ביעד המדידה — נקודת קצה, קוונטיזציה או חתך הערכה — והוא בערך ברוחב הרעש שהאינדקס הזה הראה לאורך תצורות שירות שונות. נכון לזמן כתיבת הדברים, הלוח גם מציג מחיר אירוח של $2.00 לכל 1,000 דקות אודיו, שמסתכם בכ-$0.12 לשעה.

A generated single-column scoreboard for Nemotron 3.5 Transcribe with seven rows: parameters 34B total and about 4.3B active; languages 40 for ASR with 13 carrying speaker labels; audio per pass 1 hour and 65,536 tokens; English mean WER 4.71% on nine sets, vendor-reported; multilingual WER 4.62% across seven languages, vendor-reported; independent score 3.4% AA-WER around 20th; streaming none, offline model.

הטענה בדבר התפוקה היא מה שצוותי התפעול יתעניינו בו: 2,238 שניות של אודיו מעובדות בכל שנייה על GPU יחיד מסוג RTX PRO 6000 Blackwell, באמצעות צ'קפוינט NVFP4 ומודל הטיוטה DFlash2. ההסתייגות של NVIDIA עצמה היא שמחסנית ההגשה המותאמת אינה בגרסת הקוד הפתוח, ואינטגרציית הפיתוח שסופקה צפויה לפעול בערך פי שניים לאט יותר. חצו את המספר לפני שאתם מתכננים קיבולת.

היכן שהבנייה הפתוחה נעצרת

זהו החלק שסיקור ההשקה מדלג עליו. הצ'קפוינט מסוגל; האינטגרציות סביבו אינן אחידות, וכרטיס המודל אומר זאת בפשטות.

• ללא סטרימינג — "זהו מודל לא מקוון", מציין הכרטיס, ומוסיף כי חלוקת האודיו הפנימית אינה הופכת אותו לשירות סטרימינג בזמן אמת. כל שנייה בהקלטה חייבת להתקיים לפני תחילת הפענוח.

• אינטגרציית SGLang-Omni היא לתמלול בלבד — היא מספקת תמלול של קובץ שלם, אך לפי הכרטיס אינה כוללת חותמות זמן ברמת המילה, פלט עם ייחוס דובר, תרגום או פענוח ספקולטיבי. מסלול vLLM כן תומך בלכידת חותמות זמן. סביבת ההרצה שתבחרו קובעת אילו תכונות תקבלו.

• חותמות זמן ו-DFlash2 סותרים זה את זה — חותמות זמן אינן זמינות כאשר מודל הטיוטה של הפענוח הספקולטיבי נמצא בשימוש. מהיר או מיושר, לא שניהם, בתצורה הנשלחת.

• הבנת אודיו היא באנגלית בלבד — חשיבה, ביצוע הוראות מדוברות ומענה על שאלות אודיו "עלולים שלא לעבוד באופן אמין בשפות אחרות," מזהיר הכרטיס, למרות שהתמלול מכסה 40.

• הוא עלול להיכשל בעצירה — הכרטיס ממליץ על מנגנון הגנה לניקוי משום שהמודל יכול לעיתים להיכנס ללולאה בלי לסיים. זוהי דרישה תפעולית, ולא הערת שוליים.

• שעה אחת היא מגבלה מעשית נוקשה — הביצועים מעבר ל־65,536 טוקנים או להקלטה באורך שעה "אינם מובטחים להכליל". בדפוזיציה שנמשכת יום שלם תפצל את הקובץ ותתאים את הדוברים בעצמך.

ייחוס הדוברים גם הוא מצומצם יותר מכותרת 40 השפות: 13 מתוך 40 השפות מסומנות כמפיקות פלט רב-דוברים במטריצה של NVIDIA, ותערובות האימון מכסות עד שמונה דוברים. אם הפגישה שלכם בטורקית או בווייטנאמית, תוכלו לתעתק אותה היטב ועדיין לא לקבל תוויות.

A screenshot of the Hugging Face blog post 'NVIDIA Nemotron 3.5 Transcribe and Granary v2: Intelligent Multilingual Transcription You Can Prompt and Adapt', published October 28 2026, with the subtitle 'One open model for multilingual transcription, speaker attribution, translation, and audio Q&A' and a sidebar listing the 34B model card and NVIDIA Nemotron 3 Diarization.

פריסה ומה שהיא עולה

המשקלים חינמיים לשימוש מסחרי ולא-מסחרי תחת OpenMDW-1.1, ופורסמו ב-BF16, FP8, NVFP4 ו-GGUF, עם תצורת ייחוס על H100 80 GB אחד ותמיכה בדגמי Ampere, Hopper, Blackwell ו-Lovelace. קיים גם קונטיינר NIM לצוותים שמעדיפים שלא להרכיב את מחסנית ההגשה בעצמם, ו-NeMo Speech לכוונון עדין — NVIDIA מדווחת על התאמת המודל ל-17 משימות בקצב של 0.5 עד 2.3 שעות GPU למשימה על GPU אחד, מספר מהסוג שמאפשר התאמה לתחום באופן מעשי ולא תיאורטי.

התמונה הכלכלית מתפצלת בצורה ברורה. בשירות מתארח (Hosted), הרישום של Artificial Analysis של $2.00 ל-1,000 דקות הוא כ-$0.12 לשעת אודיו — זול יותר מרוב שירותי התמלול המנוהלים וכשליש בערך ממה שחיוב STT טיפוסי בענן עומד עליו. באחסון עצמי (Self-hosted), העלות השולית היא זמן GPU: בתפוקה של 2,238-to-1 של הספק, אלף שעות אודיו הן פחות מחצי שעה של מחשוב בכרטיס המתאים, כך שהשאלה מפסיקה להיות שאלת מחיר והופכת לשאלה אם אתם מחזיקים בחומרה בבעלותכם או שוכרים אותה, והאם מותר לאודיו לצאת מהרשת שלכם. שני המסלולים לגיטימיים; הם לא קרובים זה לזה בגיליון אלקטרוני.

החצי מהעבודה שהצ'קפוינט לא עושה

תמלול מפיק טקסט, והטקסט הוא המקום שבו יושבת רוב העלות במורד הזרם: סיכום השיחה, חילוץ פריטי פעולה, השחרת מידע אישי, תרגום הפלט באנגלית עבור משרד אזורי, ובדיקה שתגיות הדובר שרדו את המסירה. אלה עומסי עבודה רגילים של מודלי טקסט, והם אינם צריכים לרוץ על אותה מכונה שעליה רץ ה-ASR.

כאן המקום שבו נתב מוכיח את ערכו. OrcaRouter מעמיד את אותן קריאות במורד הזרם מאחורי מפתח אחד עם 0% תוספת מחיר — מחיר המחירון של הספק מועבר כמו שהוא, כך ששינוי מחיר של ספק נכנס לתוקף באותו יום — עם מעבר אוטומטי לגיבוי כאשר ספק אחד נחלש וכן DSL לניתוב שיכול לשלוח תמצות, הסתרת מידע ותרגום למודלים שונים בתוך תהליך עבודה אחד. ליתר בהירות: NVIDIA Nemotron 3.5 Transcribe אינו בקטלוג של OrcaRouter, ואין כאן דבר שמרמז אחרת. מה שאנחנו מנתבים הוא שכבת הטקסט לאחר שהתמליל קיים, וזו השכבה שרוב הצוותים ממעיטים בחשיבותה כשהם מתקצבים צינור תמלול.

אם אתה מעריך את המודל עצמו, הדרך הכנה היא נקודת קצה מתארחת תחילה והחומרה שלך אחריה. המספרים של הכרטיס עצמו נבדלים ביותר מנקודה בין מדידות היצרן לבין מדידות בלתי תלויות, והאודיו היחיד שמכריע בכך הוא שלך.

מה היה משנה את ההמלצה

שלושה דברים שווים מעקב ברבעון הקרוב. ראשית, האם מחסנית ההגשה בקוד פתוח תדביק את נתיב ה-NIM הממוטב — עד שזה יקרה, התפוקה המפורסמת היא מספר המיועד לאירוח בלבד והגרסה הפתוחה היא כמחצית ממנו. שנית, האם מישהו מחוץ ל-NVIDIA משחזר את ה-15.80 cpWER ואת השיפור פי שישה בזיהוי ישויות בשם; שתי אלו טענות חזקות שנשענות כרגע על מערך בדיקות של מעבדה אחת. שלישית, האם הבנת אודיו תתרחב מעבר לאנגלית, מפני שהיכולת הזו — לשאול שאלות על הקלטה ולא רק לתעתק אותה — היא החלק שאף צ'ק-פוינט פתוח מתחרה אינו מציע בגודל הזה.

בינתיים, המסקנה המעשית צרה ולא זוהרת. אם אתם צריכים תמלול רב־לשוני של שעה עם תיוג דוברים, ואתם יכולים להסתפק בתהליך עבודה באצווה, הצ'קפוינט הזה הוא האפשרות הפתוחה החזקה ביותר הזמינה, ומנגנון ההנחיה ההקשרית הוא באמת גורם מבדל. אם אתם צריכים כתוביות חיות, סוכן סטרימינג או יישור ברמת המילה לצד פענוח מהיר ככל האפשר, הגרסה עדיין לא נותנת לכם מענה, והמוצרים שכן נותנים מענה הם עדיין אלה שכדאי לפנות אליהם.

A screenshot of the Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B, showing the 40 languages, NeMo and text2text-generation tags, an OpenMDW-1.1 licence badge, and the opening paragraph describing an open-weight offline speech model for 40 languages, recordings up to one hour, a 65,536-token context and approximately 4.3B active parameters released in BF16, FP8 and NVFP4.