بطاقة عنوان مُولَّدة تحمل النص Nemotron-Labs-Sigma-distill-8B-nfe4 مقابل Nemotron-Labs-Sigma، وعنوانها الفرعي سلالة واحدة، عقدا فك ترميز، مع أربعة مربعات إحصائية: الأساس بـ 8.49B معلمة وخطوات DDIM قابلة للضبط، والمقطَّر بـ 9.03B مع 4 عمليات تقييم إزالة تشويش ثابتة لكل كتلة، وتنزيلات الأساس 106 مقابل 5 للمقطَّر، وتذييل يذكر أن جميع الأرقام من بطاقات طرازات NVIDIA ولا يوجد أي اختبار قياسي مستقل لأيٍّ منهما.
Guides & Insights

Nemotron-Labs-Sigma-distill-8B-nfe4 مقابل Nemotron-Labs-Sigma: سلالة الأوزان نفسها، عقدان لفك الترميز

الكاتب

jinhao.song

تاريخ النشر

أحدث النماذج · 20عرض جميع النماذج →
المعايير: Artificial Analysis · يُحدَّث يوميًا
العودة إلى جميع المقالات

المربك في Nemotron-Labs-Sigma-distill-8B-nfe4 أنه ليس نسخة أفضل من Nemotron-Labs-Sigma-8B. فهو ملف مختلف بعقد مختلف، أُنتج من نموذج معلّم من السلالة نفسها، والفرق بينهما ليس الدقة، بل عدد مرات تشغيل الشبكة لإخراج كلمة. نُشر نموذج 8B الأساسي في 5 أكتوبر 2026 بوصفه نموذجًا بحثيًا مدرَّبًا مسبقًا: 8.49B معامل، وخطوات إزالة ضوضاء قابلة للضبط، وتوجيه خالٍ من المصنّف يتعين ضبطه يدويًا، وبطاقة لا تنشر أي درجات على الإطلاق وتُحيل إلى arXiv:2610.02665 بدلًا من ذلك. وصل النموذج المقطَّر nfe4 في 12 نوفمبر 2026 بـ 9.03B معامل، وعدد خطوات مضمّن في نقطة الحفظ، وهو الجدول الوحيد لكل معيار أداء وضعته NVIDIA على بطاقة Sigma. كلاهما إنجليزي فقط، وكلاهما محدود بـ 4,096 توكن، وكلاهما تحت الترخيص نفسه. الاختيار بينهما اختيار لكيفية رغبتك في أن يستهلك النموذج موارده الحسابية.

ما الذي يختلف فعليًا، ملفًا بملف

يوفّر كلا المستودعين نفس model_type — nemotron_labs_sigma — ويتم تحميل كليهما بالطريقة نفسها، باستخدام trust_remote_code وملف نمذجة بحجم 40 KB من المستودع. وتختلف ملفات الإعداد (configs) بطرق تؤثر في الاستدلال ولا تكاد تؤثر إطلاقًا في العمود الفقري (backbone):

• العمود الفقري — البنية نفسها في كليهما: 34 طبقة، وحجم مخفي 4,096، وFFN بحجم 14,336، و32 رأس استعلام و8 رؤوس مفتاح-قيمة، وSwiGLU، وRoPE، ومفردات من 131,072 رمزًا.

• المعاملات — 8.49B (8,489,947,136 BF16 بالإضافة إلى 2,097,186 F32) للنسخة الأساسية، و9.03B (9,026,818,048 BF16 بالإضافة إلى العدد نفسه من F32) للنسخة المقطّرة. الـ537M الإضافية هي رأس القراءة الانحداري الذاتي المساعد الذي تحتفظ به النسخة المقطّرة إلى جانب رأس الانتشار.

• الأوزان على القرص — 16.99 GB مقابل 18.06 GB، بواقع أربع شظايا لكلٍّ منها.

• السياق — 4,096 رمزًا لكل من base وdistill. ترفع نسخة instruct في المجموعة نفسها هذا إلى 8,192 وتضيف قالب محادثة؛ لا يمتلك أيٌّ من النموذجين هنا واحدًا.

• steps — يكشف النموذج الأساسي عن steps وblock_length وقت الاستدعاء، وتنشر بطاقته جدولًا حسب الميزانية؛ أما النموذج المقطّر فلا يقبل أي تجاوز على الإطلاق.

• التوجيه — يحتاج النموذج الأساسي إلى توجيه خالٍ من المصنّف (3.0 عند 32 و16 خطوة، و2.0 عند 4 خطوات) وإلى درجة حرارة نتيجة مضبوطة؛ أما النموذج المقطّر فيعمل عند CFG 1 ودرجة حرارة نتيجة 1، أي بلا توجيه وبلا ضبط.

• أداة أخذ العينات — الأساس موثّق لـ DDIM على شبكة log_snr مع كتل من 64 رمزًا افتراضيًا؛ أما النموذج المقطَّر فيستخدم fresh_x0 مع self-conditioning يُنقل بين الخطوات وكتل من 32 رمزًا.

عدد الخطوات ليس إعدادًا في النموذج المقطّر

هذه هي الجملة في بطاقة النموذج التي تعيد تأطير المقارنة بأكملها: "عدد خطوات إزالة الضوضاء محدد بالتدريب: هذه النسخة مدرَّبة على NFE=4 فقط، وكود الاستدلال المرفق لا يتيح عمدًا تجاوزًا تعسفيًا لعدد الخطوات (إذ ستقيّم أعداد الخطوات الأخرى نقاط نهاية طور غير مدرَّبة)."

يقوم Phased DMD بتقطير مسار، والمسار المقطَّر له نقاط نهاية طورية عند مستويات ضجيج محددة. إذا طلبت من طالب مُدرَّب على أربع خطوات أن ينفّذ ثماني خطوات، فأنت لا تشغّله ببطء أكبر للحصول على جودة أفضل — بل تطلب منه التقييم عند مستويات ضجيج لم يتدرّب عليها قط. تقول البطاقة إن المخرجات تتدهور. لا يوجد مقبض ضبط.

النموذج الأساسي هو العكس. فبطاقته تعطيك الجدول — DDIM-32 مع CFG 3 ودرجة حرارة النتيجة 0.3، وDDIM-16 مع CFG 3 و0.4، وDDIM-8 مع CFG 3 و0.6، وDDIM-4 مع CFG 2 و0.8 — ثم تضيف التحذير بأن النماذج المدربة مسبقًا تفقد الجودة بشكل ملحوظ دون نحو 16 خطوة تقريبًا، وبأن التوليد بعدد خطوات قليل ينبغي أن يستخدم النسخ المقطرة بدلًا من ذلك.

إذا قُرئا معًا، فإن هذين البيانين الصادرين عن المؤسسة نفسها يمثلان تقسيمًا للعمل: فـ base هو ما تقوم بضبطه، أما distill فهو ما لا تقوم بضبطه. إذا أردت مقبض ضبط، فخذ base. وإذا أردت ثابتًا، فخذ distill.

A generated diagram comparing the decoding contracts of the two models: the base Nemotron-Labs-Sigma-8B shown as a configurable path of 32, 16, 8 or 4 denoising steps per 64-token block with classifier-free guidance of 3, 3, 3 or 2 and score temperatures of 0.3, 0.4, 0.6 and 0.8, against the distilled nfe4 shown as a single fixed path of 4 denoising evaluations plus one readout per 32-token block at guidance 1 and temperature 1.

الحساب الذي يفصل بينهم

ضع العقدين في الوحدات نفسها، وسيتضح سبب وجود الملف المقطّر.

• الإعداد الأساسي عند ضبطه الموصى به — 33 استدعاءً لمُزيل الضوضاء لكل كتلة من 64 رمزًا (32 خطوةً بالإضافة إلى قراءة)، أي 1.9 رمز لكل تمريرة أمامية.

• الأساس عند 4 خطوات — 5 استدعاءات لكل كتلة من 64 رمزًا، و12.8 رمزًا في كل تمريرة، لكن البطاقة تحذر من انخفاض الجودة بشكل ملحوظ دون 16 خطوة.

• تقطير nfe4 — 5 استدعاءات لكل كتلة من 32 رمزًا، و6.4 رموز لكل تمريرة، بجودة تنشرها البطاقة.

• Distill nfe8 — 9 استدعاءات لكل كتلة من 32 رمزًا، و3.6 رموز لكل تمريرة، وأفضل بـ4 نقاط على متوسط المهام الست.

إذن يقع nfe4 المقطَّر بين نقطة التشغيل الآمنة لنموذج الأساس ونقطة التشغيل غير الآمنة: عدد تمريرات أمامية لكل رمز أقل بثلاث مرات من إعدادات الأساس الموصى بها، مع عدد خطوات دُرِّب النموذج عليه فعليًا. هذا هو المبدأ الكامل للإصدار، وهو مبدأ يتعلق بالحوسبة لا بالذكاء.

ما ليست عليه هو إنتاجية مقاسة. تفيد البطاقة الأساسية بنحو 120–140 رمزًا في الثانية لـ 256 رمزًا مولّدًا على وحدة H100 واحدة باستخدام DDPM عند 32 خطوة لكل كتلة من 64 رمزًا. ولا تنشر البطاقة المقطّرة أي رقم لعدد الرموز في الثانية. نسب عدد الاستدعاءات أعلاه هي حسابات حسابية على أعداد الخطوات المنشورة؛ تعامل معها على هذا الأساس.

أي منها يحتوي على أرقام، وما قيمتها؟

هنا تتباعد البطاقتان بشكل حاد، وفي اتجاه غير مريح للقاعدة.

لا تنشر Nemotron-Labs-Sigma-8B أي جدول لمعايير الأداء. يتكوّن قسم التقييم لديها من جملتين تقولان إن النتائج «مُبلّغ عنها في التقرير التقني». كل ما يمكنك معرفته عن دقتها عليك أخذه من arXiv:2610.02665 — ورقة تغطي عائلة 3B و8B، سواء الأساسية أو المقطّرة، ويؤكد ملخصها أن النماذج تتفوق على نماذج اللغة الانتشارية المقنّعة وخطوط الأساس الانحدارية الذاتية بأكبر مكاسب متسقة في البرمجة.

بطاقة nfe4 المقطّرة تنشر أرقامًا، عند عشرة بذور مع خطأين معياريين: GSM8K 86.86 ± 0.28، وMATH 61.52 ± 0.20، وHumanEval 60.61 ± 1.43، وHumanEval+ 57.99 ± 1.20، وMBPP 57.50 ± 0.61، وMBPP+ 73.70 ± 1.07، ومتوسط المهام الست 66.36 ± 0.46. تسع من قيم البذور العشر تقع في النطاق 42 إلى 51، لذا فإن البروتوكول موصوف بدقة كافية لإعادة الإنتاج.

لذا لا يمكن لبطاقتي النموذج، باعتبارهما زوجًا، أن تخبرك بتكلفة التقطير. هذا هو الرقم الأكثر فائدة على الإطلاق في هذه المقارنة، وهو غائب، لأن بطاقة المعلّم لا تحتوي على جدول يمكن الطرح منه. الورقة البحثية هي المكان الوحيد الذي يعيش فيه هذا الادعاء، وصياغتها اتجاهية: تسريع بنحو 8× في الرياضيات و4× في البرمجة ناتج عن التقطير بمطابقة التوزيع «مع خسارة دقة طفيفة». معاملات التسريع هذه مُبلَّغ عنها في الورقة لا في البطاقة، وهي تشير إلى تجارب العائلة نفسها لا إلى مقارنة مضبوطة بين نقطتي التحقق المحددتين بعينهما على المنصة اليوم.

ثمة التفاف إضافي في سلسلة التقطير نفسها: النموذج الشقيق nfe16 موسوم بـ pending_ten_seed_six_task_validation. ومتوسطه البالغ 74.50 عبر المهام الثلاث يأتي من تشغيل واحد بالبذرة 42، وتنص البطاقة على عدم مقارنته بمتوسطات البذور العشر الخاصة بالمتغيرات الأخرى. لذا فإن «الأكبر هو الأفضل» قراءة ترفض البطاقة صراحةً دعمها.

الخيار الثالث الذي لا يسميه أحد

تحتوي المجموعة على نسخة لا تنتمي إلى أي من النموذجين في هذه المقارنة، ويمكن القول إنها الملف الأكثر إثارة للاهتمام فيها: Nemotron-Labs-Sigma-distill-spec-8B. فهو النموذج المعلّم نفسه MS-SUSReg-8B، وقد وُقطّر باستخدام هدف قبول إضافي، وبدلاً من أن يعمل كعيّان خالص بعدد خطوات قليل، فإنه يصوغ كتلة من 32 رمزًا باستخدام رأس الانتشار لديه ويتحقق منها باستخدام رأس الانحدار الذاتي الخاص به. تكلّف كل جولة استدعاء انتشار واحدًا، وتُصدر الرموز المقبولة دون تمريرة أمامية إضافية. تنص بطاقة النموذج على أن النص المُعاد هو بالضبط مخرجات الانحدار الذاتي الجشعة — فالقبول يغيّر الإنتاجية، ولا يغيّر المحتوى أبدًا.

أرقام القبول المنشورة، في لقطة واحدة: متوسط الطول المقبول 7.91 على HumanEval، و11.86 على GSM8K، و13.37 على MBPP، مع تضمين رمز المكافأة، واستبعاد جولة bootstrap. تلك مقاييس إنتاجية، وليست مقاييس دقة، وهي غير قابلة للمقارنة بجدول دقة nfe4 — وهو تمييز تُبرزه البطاقة بخط عريض.

عمليًا، هذه هي النسخة التي ينبغي مراقبتها إذا كان السؤال هو: «هل يمكن لرأس انتشار أن يسرّع نموذجًا دون تغيير ما يقوله؟». وهي ليست بديلًا جاهزًا للاستخدام المباشر لأي من النموذجين في هذه المقارنة: فهي تحتاج إلى generate_speculative، وإلى كلا الرأسين، وإلى أن يكون self-conditioning معطّلًا.

Screenshot of the Hugging Face model card for nvidia/Nemotron-Labs-Sigma-8B, showing the description of an 8-billion-parameter continuous diffusion language model that denoises in a 16-dimensional continuous token-embedding space and decodes in parallel blocks using DDPM or DDIM samplers, the note that this is the base pretrained model rather than an instruction follower, and the NVIDIA Nemotron Open Model License.

كيف تختار عمليًا

يتلخص القرار في أربعة فحوص، والفحص الأول يستبعد أحد الجانبين تمامًا لدى معظم القراء:

• هل تبحث في عملية أخذ العينات نفسها — جداول الإرشاد، وأعداد الخطوات، وتوجيه المسارات، وسلوك الإرشاد الخالي من المصنّف؟ الأساس هو النموذج، لأنه هو الذي يملك المقابض وجدول الميزانية لكل ميزانية.

• هل تبني شيئًا يولّد النصوص بتكلفة ثابتة لكل رمز ولا تريد سطح ضبط؟ إن nfe4 distill هو النموذج، لأن CFG 1 ودرجة حرارة النتيجة 1 يشكّلان إعدادًا كاملًا.

• هل تحتاج إلى مساعد؟ لا، ليس أيٌّ منهما. لا يوجد قالب محادثة في أيٍّ من المستودعين، ولا موجّه نظام، ولا استدعاء أدوات، وتقول البطاقة الأساسية بوضوح إنه ليس متتبّعًا للتعليمات. أما نسخ instruct ذات السياق البالغ 8,192 رمزًا فهي المقصودة بذلك.

• هل تحتاج إلى معيار يمكنك الاستشهاد به؟ النموذج المقطّر فقط لديه واحد، وهو معيار NVIDIA نفسه.

لا يسأل أيٌّ من الأسئلة الأربعة عن عدد المعاملات، وهذا ما يكشف أن الأمر ليس مقارنة حجم. وفرق الـ537M معامل هو ثمن الإبقاء على الرأس الانحداري التلقائي داخل الملف، ولا يجلب أي فائدة لمسار الانتشار النقي الخاص بـnfe4 — فهو موجود لأن البنية نفسها تقوم عليها أيضًا نسخة spec.

النقطة الخاصة بالزوج

بنت NVIDIA نموذجًا أساسيًا واحدًا وأصدرته مرتين: مرة كشيء يُدرَس، ومرة كشيء يُشغَّل. تلك استراتيجية متماسكة، وهي السبب في أن البطاقتين تُقرأان على نحو مختلف جدًا — فالبطاقة الأساسية مكتوبة لباحث سيغيّر أداة أخذ العينات، وبطاقة التقطير لمطوّر لن يفعل ذلك.

ما يزال ينقص هذا الزوج هو الشيء الذي يتيح لك التحقق من المقايضة بأمانة: درجة المعلّم. وإلى أن تحمل بطاقة base 8B جدول المهام الست نفسه الذي تحمله نسخة التقطير، فإن كل ادعاء حول ما حققه التقطير هو ادعاء يتعلق بتجارب الورقة على مستوى العائلة بدلًا من هذين الملفين. وإذا أضافت NVIDIA ذلك الجدول — وآخر تعديل على بطاقة base في 16 نوفمبر يشير إلى أن المستودعات ما تزال تُصان — فإن هذه المقارنة تصبح عملية طرح بدلًا من إعادة بناء.

في الوقت الحالي، القراءة العملية ضيقة ومفيدة: اختر النسخة الأساسية إذا أردت استكشاف كيف يتصرف نموذج لغوي انتشاري مستمر في ظل ميزانيات خطوات مختلفة، واختر nfe4 إذا أردت 6.4 رموز ثابتة لكل تمريرة أمامية عند دقة منشورة، وتجاوز كليهما إذا كنت بحاجة إلى نموذج محادثة أو نافذة سياق أطول من مذكرة طويلة. لا يوجد أي منهما في كتالوج OrcaRouter اليوم، ولن يوجد أي منهما حتى يتوفر مسار خدمة لمعمارية انتشار الكتل — ما يوفره OrcaRouter فعلاً هو أكثر من 200 نموذج انحدار ذاتي يمكنك أن تقارن أيًا منهما بها، عبر مفتاح واحد ووفق سعر قائمة المزود دون أي هامش ربح، ومع تحويل تلقائي عند الفشل إذا أردت عزل التجربة عن مسار الإنتاج.

A generated two-column scoreboard titled Nemotron-Labs-Sigma-distill-8B-nfe4 vs Nemotron-Labs-Sigma, contrasting the distill at 9.03B parameters and 18.06 gigabytes, a fixed 4 denoising evaluations per 32-token block, guidance 1 and no tuning, a published six-task mean of 66.36, five downloads and a 12 November 2026 release, against the base at 8.49B and 16.99 gigabytes, configurable steps from 4 to 32, guidance 3 and tuned score temperature, no published benchmark table, 106 downloads and a 5 October 2026 release, with a footer noting all figures are NVIDIA-reported.