Nemotron 3.5 Transcribe مقابل Granite Speech 5.0 470M TurboCTC: 64× عدد المعاملات، و43× أبطأ

الشيء الأكثر فائدة في هذه المقارنة هو ملف بحجم 279 ميغابايت. وهو تكميم Q4_K_M لـGranite Speech 5.0 470M TurboCTC، متعرّف الكلام من IBM القائم على المُشفّر فقط، وسينسخ الإنجليزية على وحدة معالجة مركزية لحاسوب محمول دون GPU، ودون بيئة Python ذات قيمة تُذكر، ودون عقد خدمة. Nemotron 3.5 Transcribe، الذي نشرته NVIDIA كأوزان مفتوحة في 28 أكتوبر 2026، هو نموذج لغوي معزّز بالكلام ذو 30 مليار معامل، ويحتاج إلى مسرّع من فئة مراكز البيانات ونحو ستين غيغابايت من أوزان BF16. نموذج NVIDIA أكبر بمقدار 64 مرة، ووفقًا لأرقام الإنتاجية التي تنشرها كل شركة مصنّعة، فإنه أبطأ بنحو 43 مرة لكل ثانية GPU. وهو أيضًا الوحيد بين الاثنين القادر على إخبارك بمن كان يتحدث.

لا تُعد أي من هاتين الحقيقتين ضربة قاضية. فهما تصفان جهازين مختلفين يُصادف أنهما يُقاسان على لوحة الصدارة نفسها، وكل المسألة تتعلق بما إذا كان عبء عملك يحتاج إلى المساحة أم إلى الكلمات فقط.

نموذج CTC غير تلقائي الانحدار مقابل نموذج لغوي كبير كلامي توليدي

يتألف Granite Speech 5.0 470M TurboCTC من ستة عشر كتلة Conformer مع طبقة إخراج BPE مكوّنة من 16,384 قطعة، وقد دُرّب على هدف CTC ويُفكّ ترميزه بطريقة جشعة. لا يوجد نموذج لغوي، ولا مُسقِّط، ولا حلقة توليد: يدخل الصوت، ويخرج تسلسل تسميات متزامن مع الإطارات، بعد تقليل معدل العينات من 100 هرتز إلى 12.5 هرتز. هذا التصميم هو السبب في سرعته، وصغر حجمه، وعدم قدرته على أداء أي شيء لا تغطيه مجموعة التسميات. ليس لديه مفهوم للمُوجّه (prompt)، ولا نمط إخراج، ولا هدف ترجمة، ولا حقل متحدث.

يُعدّ Nemotron 3.5 Transcribe العمارة المعاكسة، والاختلاف ليس فجوة بين الأجيال. يُغذّي مُرمِّز كلامٍ نموذجَ Nemotron 3 Diarization المجمّد، وتُحقن إشارة نشاط المتحدث الخاصة به في المُرمِّز عبر Parallel Expert Encoder، ويُنتج مفكِّك ترميز هجين لمزيج الخبراء من نوع Mamba–Transformer النصَّ المنسوخ نصًّا، مع نشاط نحو 4 مليارات من معاملاته البالغ عددها 30 مليارًا لكل رمز. ولأن المخرجات تُولَّد بدلًا من أن تُصنَّف، يمكن تزويده بتعليمات: الشكل الحرفي أو المكتوب، أو قائمة كيانات متوقعة، أو هدف ترجمة، أو مخرجات منسوبة إلى المتحدث، أو إجابة منطوقة عن سؤال يتعلق بالصوت.

• المعاملات — حوالي 30 مليارًا إجمالًا، ونحو 4 مليارات نشطة لكل رمز مقابل 470 مليونًا لنموذج مُرمِّز فقط.

• فك الترميز — توليد تلقائي انحداري باستخدام 30B MoE مقابل CTC جشع غير انحداري.

• الترخيص — OpenMDW-1.1 مقابل Apache-2.0 (الأكثر تسامحًا بين الاثنين؛ نظير -nc المنفصل لدى IBM هو CC-BY-NC-SA-4.0).

• البصمة — نحو 60GB في بناءات BF16 وNVFP4 وGGUF المتاحة، مقابل 279MB عند Q4_K_M في نسخة GGUF مجتمعية.

• اللغات — 40 لغة مفرغة نصيًا، و31 لغة مترجمة مقابل 7 لغات (الإنجليزية والفرنسية والألمانية والإسبانية والبرتغالية والإيطالية واليابانية) بعد التحديث متعدد اللغات في 21 أكتوبر 2026.

• المتحدثون — حتى 8، مع إسناد الكلام إليهم، بـ13 لغة مقابل لا شيء؛ يتطلب التمييز بين المتحدثين نموذجًا منفصلًا.

• الطوابع الزمنية — على مستوى الكلمة عبر محوّل CTC بعد فك التشفير مقابل عدم استخدامه؛ مواضع قمم CTC ليست حدودًا للكلمات.

• البث — لا شيء، الصوت المسجّل فقط مقابل لا شيء.

فجوة الدقة أصغر من فجوة الحجم، ولا تتطابق المتوسطات.

تذكر IBM متوسط معدل خطأ كلمات قدره 5.51% عبر تسع مجموعات اختبار إنجليزية عامة لإصدار TurboCTC متعدد اللغات، وهو محسّن من 5.78% عند إطلاق أغسطس. وتذكر NVIDIA متوسط معدل خطأ كلمات إنجليزي WER قدره 5.33% على لوحة Hugging Face Open ASR Leaderboard، و4.71% عبر تسع مجموعات اختبار عامة على صفحة أبحاثها الخاصة. كلا الرقمين مُبلّغ عنهما من قبل المورّد، والمتوسطان ليسا نفس المزيج: فمجموعات IBM التسع ومدخل NVIDIA ذو المجموعات الثماني في لوحة الصدارة يختلفان في التكوين والتطبيع، ورقم المجموعات التسع المنفصل في صفحة الأبحاث يختلف مرة أخرى عن مدخله الخاص في لوحة الصدارة. لا تطرحهما وتسمِّ الفرق فجوة جودة. العبارة القابلة للدفاع أضيق — على لوحة الصدارة الإنجليزية العامة للنصوص القصيرة، هذان الرقمان ضمن بضعة أعشار نقطة من بعضهما، وهو نتيجة ملحوظة لنموذج أصغر بـ64 مرة وتحذير بشأن مقدار ما في متوسط لوحة الصدارة من كلام مقروء نظيف على غرار LibriSpeech.

كما أن معدل خطأ الكلمات يخفي ما يفصل بينهما فعليًا. فـ Granite مصنّف: يُخرج تسلسل التسميات الأكثر احتمالًا، وحين تكون الإشارات الصوتية ملتبسة يُخرج شيئًا معقولًا. أما Nemotron فيولّد النص بوجود نموذج لغوي خلفه، ولهذا فإن ادعاءه المتعلق بالتوجيه السياقي — انخفاض أخطاء الكيانات المسماة على ContextASR-Bench بمقدار ستة أضعاف عند تضمين قائمة كيانات في الموجه — ممكن أصلًا. وفي نص مكالمة مبيعات مليء بأكواد المنتجات، لا يملك النموذج الصغير آلية للتحيز، بينما يملكها النموذج الكبير.

الإنتاجية: 19,870 RTFx مقابل 462

يحمل مدخل Nemotron 3.5 Transcribe في لوحة صدارة Hugging Face قيمة RTFx قدرها 462.09 — أي أن النموذج يعالج نحو 462 ثانية من الصوت لكل ثانية من الحوسبة على منصة الاختبار الخاصة بلوحة الصدارة. ويُفيد تحديث IBM لشهر أكتوبر بأن TurboCTC يحقق 19,870 RTFx على وحدة H200 واحدة، ارتفاعًا من نحو 12,600 عند الإطلاق بعد تحسين إعادة استخدام الرسم البياني أحادي الكتلة. وهذا فرق قدره ثلاثة وأربعون ضعفًا، وعلى خلاف أرقام WER، فإنه على الأقل مقيس على مسرّعين تنافسيين بدلًا من مزيجَي اختبار مختلفين.

عنوان NVIDIA الرئيسي نفسه يمثل رقمًا من نوع مختلف: ما يصل إلى 2,238 ثانية من الصوت لكل ثانية على بطاقة RTX PRO 6000 Blackwell واحدة، باستخدام نقطة حفظ NVFP4 ونموذج مسودة DFlash2. وهذا أعلى من رقم لوحة الصدارة البالغ 462 لأنه قياس مختلف — مقاطع مدتها 30 ثانية عند تزامن عالٍ، كما تذكر منشور NVIDIA نفسه على Hugging Face، مع تفعيل فك التشفير التخميني وتكميم كان لا يزال يوصف بأنه قادم. وبقراءة الرقمين معًا، فإن الاستنتاج الصادق هو أن إنتاجية Nemotron تعتمد على التكوين بفارق يبلغ مرتبة قدرية، بينما إنتاجية TurboCTC خاصية من خصائص بنيتها. فالنموذج الذي لا يحتوي على حلقة انحدار ذاتي لا يمكن أن يكون بطيئًا بالطريقة التي يمكن أن يكون بها نموذج MoE بحجم 30B.

ما الذي يمنحك إياه 470 مليون معامل ولا يستطيع 30 مليار معامل منحه؟

الإجابة الأولى هي شكل النشر. يعمل ملف GGUF بحجم 279MB على وحدة CPU، أو على جهاز طرفي مجاور للهاتف، أو داخل تطبيق سطح مكتب، أو على لوحة من فئة Raspberry Pi إن كنت صبورًا. توجد الآن منافذ GGUF مجتمعية وعائلة بيئات تشغيل C++ تتعامل مع النموذج كمحرك من الدرجة الأولى. يعمل Nemotron 3.5 Transcribe ضمن vLLM مع إضافة NeMo Speech، أو SGLang-Omni، على مسرّع سعة 80GB بدقة BF16 أو بطاقة Blackwell بدقة NVFP4. هذه ليست نقطتين على طيف واحد؛ بل فئتان مختلفتان للتوريد.

الثاني هو الحد الأدنى لزمن الاستجابة. يعيد نموذج CTC نصًا مكتوبًا في تمريرة أمامية واحدة. أما النموذج التوليدي فيعيد رمزًا واحدًا في كل مرة، ويتحكم في زمن استجابته الفعلي على ملف قصير حلقة فك التشفير بدلًا من الصوت. وهذا غير مهم بالنسبة لأرشيفات المعالجة الدفعية. أما بالنسبة لأي شيء تفاعلي — مربع إملاء، أو مراقب جودة مكالمات، أو أداة ترجمة مصاحبة يجب أن تواكب التمرير — فإن النموذج الصغير هو الوحيد من الاثنين الذي ينتهي قبل أن يلاحظ المستخدم.

الثالث هو وضوح الترخيص. Apache-2.0 هو الترخيص الذي وافقت عليه الأقسام القانونية بالفعل؛ أما OpenMDW-1.1 فهو جديد بما يكفي لترغب بعضها في مراجعته. وإذا كانت عقبتك هي نموذج شراء وليس اختبار أداء، فإن نموذج IBM يجتازها بشكل أسرع.

ما الذي يوفّره لك 30 مليار معامل ولا يوفّره 470 مليون معامل

المتحدثون، أولاً وبشكل حاسم. لا يملك TurboCTC أي تمثيل للمتحدثين على الإطلاق. للحصول على نصوص منسوبة إلى المتحدثين، تحتاج إلى نموذج فصل المتحدثين (diarization) أمامه، وخطوة دمج، وميزانية أخطاء لعملية الدمج — أي السلسلة المتتالية القياسية. أما Nemotron 3.5 Transcribe فيُدمج نموذج فصل متحدثين مُجمَّداً داخل المُرمِّز ويُصدر تسميات المتحدثين مباشرةً، بما يصل إلى ثمانية متحدثين، في 13 لغة، مع توقيت كلمات منسوب إلى المتحدثين من محوّل CTC بعد فك التشفير. معدل خطأ فصل المتحدثين المعلن من NVIDIA هو 18.26% عبر 21 لغة على معيار David AI، وهو الأفضل بين 14 نظاماً، وأقرب منافس هو نموذج Nemotron 3 Diarization الخاص بها عند 18.38%. هذه أرقام المورّد على منصة تقييم من المورّد، ولم يُعَد إنتاجها بشكل مستقل. والمقارنة المتسلسلة التي توحي بها — نموذج واحد مقابل ثلاثة — ليست ادعاءً معيارياً على الإطلاق، بل هي وصف لعملية النشر.

اللغات والترجمة ثانيًا. تغطي TurboCTC سبع لغات بعد تحديثها في أكتوبر؛ وتغطي Nemotron أربعين لغة للنسخ وواحدًا وثلاثين للترجمة من الإنجليزية أو إليها. إذا كان طابورك أوروبيًا وأحادي اللغة، فسبع لغات كافية. وإذا لم يكن كذلك، تنتهي المقارنة.

ثالثًا، الضبط الدقيق. تُبلِغ NVIDIA عن التكيّف على وحدة GPU واحدة بما يتراوح بين 0.5 و2.3 ساعة GPU لكل مهمة، وعن مثال على الكلام الطبي أدّى فيه الضبط الدقيق إلى خفض معدل خطأ الكلمات من 30.8% إلى 11.8% على 3,619 مقطعًا، مع تحسُّن المتحدثين المحتفظ بهم للاختبار من 22.44% إلى 12.17%. كما أن TurboCTC من IBM قابل للضبط الدقيق أيضًا — فهو Apache-2.0 — لكنك ستضبط رأس CTC ضبطًا دقيقًا على نموذج أصغر بكثير، والسقف لما يمكن أن يجلبه السياق الإضافي أقل لأنه لا يوجد نموذج لغوي لإقناعه.

نموذج التكلفة الذي يحسم الأمر

اقتصاديات TurboCTC تكاد تكون مملة. خادم H200 واحد يقدّم 19,870 RTFx يشبع طابورًا ضخمًا جدًا؛ ونسخة مُكمّمة بحجم 279MB على وحدات CPU متوفرة تجاريًا تكلف تقريبًا لا شيء لكل ساعة صوت، والكهرباء هي بند التكلفة. لا يوجد أي عدّاد لكل دقيقة في أي مكان في المنظومة.

اقتصاديات Nemotron لها الشكل نفسه على نطاق مختلف: لا يوجد عدّاد لكل دقيقة، بل مسرّع أكبر بكثير وسقف إنتاجية أصغر بكثير. بطاقة Blackwell واحدة تعالج 2,238 ثانية من الصوت في الثانية، وتغطي 100 ساعة في أقل من ثلاث دقائق عند التزامن العالي، وأقل بكثير في الاجتماعات التي تستغرق ساعة مع التداخل.

• عمل في قائمة الانتظار بمقدار 20 ساعة شهريًا — TurboCTC على CPU مجانية فعليًا؛ أما Nemotron فيحتاج إلى مسرّع مستأجر أو مملوك يظل خاملًا معظم الشهر.

• أرشيف بحجم 2,000 ساعة شهريًا بدون متطلبات خاصة بالمتحدثين — TurboCTC على وحدة معالجة رسومات واحدة، أو مجموعة صغيرة من وحدات المعالجة المركزية، هو التكوين الأقل تكلفة والأسرع بفارق كبير.

• أرشيف يبلغ 2,000 ساعة شهريًا لاجتماعات من ستة أشخاص — TurboCTC مع أداة فصل المتحدثين مع طبقة دمج، مقارنةً بـ Nemotron على بطاقة واحدة. هذا هو التكوين الوحيد الذي يمكن فيه تبرير سعر النموذج الكبير، وحتى هنا فإن التسلسل أرخص على مستوى العتاد.

• أي شيء يخضع لقيد سرية يحظر رفع الصوت — فكلاهما قابل للاستضافة الذاتية، وبذلك يُستوفى القيد في كلتا الحالتين، ويعود القرار إلى المتحدثين واللغات.

النصف الخاص بالمعالجة اللاحقة من خط الأنابيب هو حيث تُثبت طبقة التوجيه جدواها بغض النظر عن محرك التعرف الذي تختاره. تُلخَّص النصوص المفرغة وتُوسَّم وتُوجَّه، ويضع OrcaRouter أكثر من 200 نموذج نصي ومتعدد الوسائط خلف مفتاح واحد مع تمرير أسعار القائمة من المزوّدين دون أي هامش ربح (0%)، التحويل التلقائي عند الفشل، ولغة توجيه (DSL) يمكنها إرسال فئة معينة من النصوص المفرغة إلى أداة تلخيص رخيصة وأخرى إلى نموذج أقوى دون تكامل ثانٍ. لا يُقدَّم Nemotron 3.5 Transcribe ولا Granite Speech 5.0 470M TurboCTC ضمن ذلك الكتالوج — نحن لا نستضيف تحويل الكلام إلى نص — لذا يبقى اختيار الكلام عقدًا منفصلًا ولا تصبح قابلة للنقل إلا الطبقة التي تعلوه.

اختر حسب طبيعة العمل، لا حسب لوحة المتصدرين.

إذا كانت المهمة هي "تحويل كمية كبيرة من الصوت النظيف، الذي يكون معظمه بالإنجليزية، إلى نص بأقل تكلفة وأسرع وقت ممكن"، فإن Granite Speech 5.0 470M TurboCTC يفوز، والمقارنة ليست متقاربة — فهو نموذج بحجم 279MB مرخّص تحت Apache يتفوق على نظام بحجم 30B بأكثر من أربعين مرة، ولا يتنازل تقريبًا عن شيء في متوسط الأداء العام على الإنجليزية. أما السلسلة المتتالية التي تبنيها للمتحدثين فهي ثمن تلك الكفاءة، وإذا لم تكن بحاجة إلى المتحدثين يومًا، فلن تدفع ذلك الثمن أبدًا.

إذا كانت المهمة هي «إنتاج نصّ منسوب ومُوقّت ومنظّم من تسجيل صعب بإحدى أربعين لغة»، فإن Nemotron 3.5 Transcribe هو الوحيد من بين الاثنين الذي يحاول ذلك، وأرقام تمييز المتحدثين لدى البائع — التي لم يُعِد إنتاجها بشكل مستقل بعد — تشير إلى أنه يفعل ذلك على نحو أفضل من الأنظمة المتتالية التي يحلّ محلها. تكلفة الإنتاجية حقيقية، وتكلفة العتاد حقيقية، ولكن بالنسبة إلى عبء عمل يغلب عليه الاجتماعات، لا يشكّل أيٌّ منهما عائقًا.

الخطأ الذي يجب تجنّبه هو التعامل مع هذا كأنه منافسة بين أجيال. فنموذج CTC بحجم 470M ليس نسخة قديمة من نموذج LLM للكلام بحجم 30B؛ بل هو أداة مختلفة يحصل، على سبيل المصادفة، على نتيجة مشابهة في معيار تقييم مُكوَّن في معظمه من كلام مقروء نظيف. ولن يجعل الإصدار التالي منه عتيقًا. تسجيلك الأسوأ هو ما سيخبرك بأي النموذجين كنت تحتاج.