Nemotron 3.5 Super على Ollama: نموذج رؤية بحجم 120B كان بإمكانك تشغيله قبل أن تعلن NVIDIA عنه

لنحو عشرين ساعة، كان المسار المحلي إلى NVIDIA Nemotron 3.5 Super موجوداً قبل الإعلان عن وجوده. نشرت Ollama نقطة الحفظ إلى مكتبتها في 14 أكتوبر 2026 في الإصدار v0.40.5، مُضمِّنةً تحديثاً لـ llama.cpp أضاف دعم Nemotron 3.5 ودفعت بتسعة وسوم لنموذج بصري-لغوي بمعاملات تبلغ 120 ملياراً — ollama run nemotron-3.5-super وها أنت تشغّله. أما منشور غرفة أخبار NVIDIA نفسه عن الأوزان ذاتها، المنشور تحت الاسم الأكمل NVIDIA Nemotron 3.5 Super VL، فقد ظهر على الموقع بعد ظهر اليوم التالي، 15 أكتوبر، عند الساعة 15:00 بالتوقيت العالمي المنسّق. وكانت الأوزان نفسها قابعة على Hugging Face منذ 12 أكتوبر، في مستودع باسم NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16، حيث كان حقل تاريخ الإصدار في بطاقة النموذج نفسها يقرأ بالفعل 10/15/2026.

لا شيء من ذلك يُعد فضيحة. إنه الشكل الطبيعي لإصدار مفتوح الأوزان الآن: يصل النموذج، وتتسابق الأطر لدعمه، ويلحق التسويق بذلك. لكنه يغيّر ما يستحق إدراج Ollama أن يُقرأ من أجله. ما وصل في 14 أكتوبر ليس إعلان منتج مرفقًا به وقت تشغيل — بل وقت تشغيل مرفق به منتج، والوثيقتان تختلفان حول عدة أمور مهمة إذا كنت على وشك إنفاق 90 غيغابايت من مساحة القرص عليه.

ما الذي تم إصداره فعليًا في v0.40.5

ملاحظة إصدار Ollama محددة بشكل غير معتاد، وهو أمر مريح. فهي تصف Nemotron 3.5 Super بأنه نموذج لغوي بصري للبرمجة والاستدلال واستخدام الأدوات وفهم المستندات، مبني على بنية أساسية هجينة من Mamba-2/Transformer بمزيج من الخبراء، بـ12 مليار معامل نشط لكل رمز من إجمالي 120 مليار، مقترن بمشفّر رؤية C-RADIO. ويعلن عن استدعاء الأدوات، ووضع تفكير قابل للتشغيل/الإيقاف، وسياق يصل إلى مليون رمز. السطران الأكثر أهمية لأي شخص يشغّل Ollama بالفعل مدفونان في الأسفل: تحديث llama.cpp (مع إضافة دعم Nemotron 3.5) وMLX.

هذا السطر الوحيد هو السبب الكامل وراء نجاح السحب. يمرّر Ollama نقطة التحقق هذه عبر llamacpp، المشغّل بصيغة GGUF — بيان السجل يقول ذلك صراحةً — لذا فإن "Ollama يدعم Nemotron 3.5 Super" و"llama.cpp يدعم Nemotron 3.5 Super" جملة واحدة. إذا كنت على أي إصدار من Ollama أقدم من 0.40.5، فأنت لست كذلك. تحمل كتلة إعدادات النموذج "requires":"0.40.5"، لذا فإن بوابة الإصدار مفروضة بدلاً من مجرد التوصية بها.

تذكر المذكرة الإصدارية نفسها أيضًا شقيقًا هو Nemotron 3.5 Bolt، يقطّر Super إلى 74B معاملًا مع 9B نشطة، ووفقًا للمذكرة، تم ضبطه ليناسب وحدة معالجة رسومات NVIDIA بسعة 24 GB مع فك تشفير تخميني عبر نموذج مسودة مضمّن. ذلك سحب مختلف وفئة عتاد مختلفة؛ أبقِه منفصلًا في ذهنك، لأن التسمية تثير الارتباك.

القطع الأثرية التسع، ووزن كل واحدة منها فعليًا

تعرض صفحة المكتبة سلّمًا للأحجام. وتُظهر بيانات السجل الوصفية الكامنة خلفها أعداد البايتات الفعلية، ولا يتم تقريبهما بالطريقة نفسها، لذا إليك الأرقام من بيانات السجلات نفسها بدلًا من الشارات المقربة:

• q4_K_M — 88,419,818,592 بايت، أو 82.3 GiB (تعرض صفحة المكتبة 80GB–90GB). أسماء الوسوم :latest، :120b، :120b-a12b و:120b-a12b-q4_K_M كلها تشير إلى هذه الطبقة نفسها، لذا أربعة من الإدخالات التسعة هي أثر واحد يحمل أربعة أسماء.

• q8_0 — 131,601,243,232 بايت، 122.6 GiB، يُطبع كـ 133GB.

• bf16 — 247,403,355,232 بايت، 230.4 GiB، ويُطبع كـ 249GB. هذه هي نقطة التحقق كاملة الدقة في ثوب GGUF، وهو الوسم الوحيد هنا الذي لا يقترب بأي حال من عتاد المستهلكين.

• MLX nvfp4 — الإجمالي 79.56 GB، وهو الأصغر في المجموعة، وNVFP4 هو التنسيق الذي تُشحن به بطاقة NVIDIA نفسها كنقطة تحقق من الدرجة الأولى بدلاً من تكميم لاحق.

• MLX mxfp8 — 129.60 GB إجمالًا، ونظير MLX بحجم q8_0 تقريبًا.

• MLX bf16 — 248.92 GB إجمالًا، أكبر بشكل طفيف من GGUF bf16 لأن MLX تخزّن الموترات بطريقة مختلفة.

• المُسقِط — كل وسم، دون استثناء، يحمل، بحجم 1,733,696,896 بايت، mmproj-bf16.gguf طبقة وسائط. أي أن 1.61 GiB من مُرمِّز الرؤية يرافق كل تنزيل، بما في ذلك أصغرها. مسار الصور ليس اختياريًا وليس سحبًا منفصلًا.

ثلاثة من المدخلات التسعة — تلك الخاصة بـ MLX — موسومة لـ Apple silicon بدلاً من CUDA، وكل منها مُسمّى ببساطة "MLX" في صفحة المكتبة. إذا كنت تختار وسمًا على جهاز Mac، nvfp4 بسعة 79.56 GB هو الذي يناسب جهازًا بذاكرة موحّدة سعتها 96 GB أو 128 GB مع مساحة إضافية، و mxfp8 بسعة 129.60 GB لا يناسب جهازًا بذاكرة 128 GB على الإطلاق عند احتساب ذاكرة KV cache.

لا تتفق صفحة المكتبة وملف البيان على طول السياق

تُعلن وسوم GGUF عن نافذة سياق بسعة مليون توكن. أما وسوم MLX الثلاثة فلا تُعلن عن أي نافذة سياق — يعرض العمود «- نافذة السياق» بينما تعرض الأخرى «1M». إما أن مسار MLX لم يُهيَّأ لإعداد السياق الطويل، أو أن الصفحة ببساطة لم تُملأ، لكن من الخارج لا يمكن التمييز بين الحالتين، والموقف الصادق هو أن ادعاء السياق الطويل مُتحقَّق منه لوسوم GGUF وغير مُتحقَّق منه لوسوم MLX.

هناك فجوة ثانية في الاتجاه نفسه. تُصرِّح كتلة الإعدادات (config blob) الخاصة بالوسم الافتراضي بـ"model_type":"123.6B" بينما تقول كل تسمية موجهة للبشر 120B. هذا ليس تباينًا في الأوزان؛ بل هو تباين في كيفية تقريب عدد المعاملات بين النظامين، ومن المفيد معرفة أي رقم تقتبسه أداة معينة لك.

والثالث، وهو الأكثر ترجيحًا أن يسبب مشكلة: كتلة المعاملات تأتي {"draft_num_predict":3,"temperature":1,"top_p":0.95}. قيم أخذ العينات تلك هي الإعدادات الموصى بها في بطاقة النموذج — من أجل النص. توصي البطاقة بزوج مختلف للعمل البصري، الحرارة 0.6 مقابل top_p 0.95. لذا فإن إعداد Ollama الافتراضي مضبوط على النصف النصي لنموذج تسوّقه Ollama كنموذج بصري. إذا كانت تجربتك الأولى معه على المخططات أو الصفحات الممسوحة ضوئيًا مخيبة للآمال، فهذا هو المقبض الأول الذي يجب تعديله، قبل أن تستنتج أي شيء عن نقطة التحقق.

draft_num_predict: 3 الحقل يستحق سطرًا خاصًا به. إنه معامل لفك التشفير التخميني، ولا تحمل القائمة طبقة نموذج مسودة منفصلة — فقط ملف GGUF للنموذج والمشروع. لذا فإن أي تخمين يقوم به وقت التشغيل يعتمد على رأس التنبؤ متعدد الرموز المدمج في النموذج بدلاً من أداة LiLiCorr المستقلة التي تذكر بطاقة NVIDIA أنها تُشحن جنبًا إلى جنب مع نقاط التحقق BF16 و NVFP4. هذا خيار هندسي معقول، ويعني أيضًا أن مسار Ollama ليس التكوين الدقيق الذي تصفه أرقام الإنتاجية الخاصة بالبائع.

ما تخبرك به كتلة الإعدادات بصمت

أربعة حقول في إعداد البيان أكثر إفادة مما يوحي به حجمها.

• عائلة_النموذج: nemotron_h_moe — سلسلة العائلة ليست مجرد nemotron. أي شيء في حزمتك يبدّل حسب عائلة النموذج لاختيار قالب دردشة أو مُرمِّز لن يتطابق مع بادئة ساذجة.

• المُصيّر: nemotron-3.5-super — مُصيّر مخصص، لذا فإن قالب الدردشة خاص بهذا الطراز حقًا وليس افتراضيًا موروثًا.

• المحلل: nemotron-3-nano — وهنا تم استعارة المحلل من الشقيق الأصغر Nano. كان تنسيق الإخراج الخاص بوضع التفكير واستدعاء الأدوات مستقرًا بدرجة كافية عبر العائلة بحيث لم يحتج إلى محلل جديد. وهذا يعني أيضًا أنه إذا كنت قد أنشأت بالفعل معالجة لاستدعاء الأدوات لـ Nemotron 3 Nano، فمن المرجح أن تعمل دون تغيير هنا.

• نوع الملف: Q4_K_M — الوسم الافتراضي هو تكميم بأربع بتات، وهذا هو التكوين الذي سيقيّم معظم الناس هذا النموذج بناءً عليه.

طبقة الترخيص عبارة عن كتلة بحجم 2,618 بايت تحمل اتفاقية ترخيص OpenMDW الإصدار 1.1، وهي الترخيص نفسه الذي تسميه بطاقة Hugging Face باسم openmdw-1.1. إنها متسامحة، ويُسمح بالاستخدام التجاري، وتستحق القراءة قبل أن تفترض أنها Apache-2.0 لأن بيئة Ollama المحيطة بها في الغالب كذلك.

معايير القياس: إحدى المجموعتين تابعة للبائع، والأخرى ليست كذلك.

الجدول الذي نشرته NVIDIA بنفسها واسع النطاق ومُبلَّغ عنه ذاتيًا بالكامل. وفيه يسجّل النموذج 89.52 على GPQA-Diamond، و31.79 على Humanity's Last Exam للنص فقط، و76.91 على MMLU-ProX، و88.22 على LiveCodeBench v6، و71.10 على SWE-bench Verified، و67.72 على SWE-bench Multilingual، و51.78 على SWE-bench Pro، و66.70 على Terminal-Bench 2.1، و70.86 على IFBench، و62.82 على MMLongBench-Doc، و78.16 على MathVision، و68.12 على OCRBench v2 باللغة الإنجليزية مقابل 59.15 بالصينية. صفوف الأداء الوكيلي قوية: 69.24 للبيع بالتجزئة، و76.50 للطيران، و73.19 للاتصالات على tau2-bench. وتزعم الشركة أيضًا أنه على لوحة صدارة Artificial Analysis Intelligence Index يحقق النموذج إنتاجية أسرع تصل إلى 5 أضعاف من غيره في فئته، وأن تشغيله على NVIDIA Dynamo يتيح للمؤسسات خدمة ما يصل إلى 8 أضعاف من المستخدمين بزمن استجابة أقل بنسبة 85%. هذه أرقام مورّد، أنتجها المورّد، على البنية التحتية للمورّد — عاملها كمواصفات، لا كتدقيق.

الصورة المستقلة أقل شمولاً لكنها أكثر فائدة، تحديدًا لأنها أقل شمولاً. يضع Artificial Analysis حاليًا نقطة التفتيش هذه عند Intelligence Index قدره 26، وهو ما تصفه بأنه أعلى بكثير من الوسيط البالغ 8 لنماذج مفتوحة الأوزان ذات الحجم المماثل — فجوة حقيقية، وفجوة ذات مغزى إذا كنت تفترض أن نموذجًا مفتوحًا بحجم 120B من مورّد أجهزة يستقر في مكان ما قرب منتصف الساحة. وتسجّل الصفحة نفسها استهلاك 170M من رموز الإخراج عند تشغيل المؤشر مقابل وسيط قدره 100M، وهو ما تفسّره بأنه "مُسهب إلى حد ما": فهذا نموذج استدلالي بوضع تفكير موسّع، والإسهاب بند تكلفة، وليس حاشية. ويؤكد سياق 1.0M، والإجمالي 120B مع 12B نشطة، وإدخال الصور مع إخراج نصي، ورخصة OpenMDW-1.1.

الشيء الوحيد الذي لا تستطيع تلك الصفحة إخبارك به هو تكلفة الرمز الواحد، لأنه لا يوجد سعر استضافة يمكن الاقتباس به. وجواب Artificial Analysis نفسه عن ما إذا كان النموذج متاحًا عبر API هو أنه نموذج بأوزان مفتوحة يمكن استضافته ذاتيًا. تلك هي القصة الاقتصادية كاملة في جملة واحدة: تكلفتك الحدية هي الكهرباء وساعة GPU، وتكلفتك الثابتة هي التنزيل.

ما يتطلبه تشغيله فعليًا

توصي بطاقة النموذج بأربع وحدات H100 أو وحدتي GB200 لنقطة التحقق الصادرة، مع وصفة vLLM تحدد التوازي التنسوري بقيمة 4 وإعداد تخميني للطريقة mtp. هذه هي إجابة مراكز البيانات وهي موجهة إلى BF16. السؤال المثير للاهتمام لأي شخص يقرأ قائمة Ollama هو الطرف الآخر من السلم.

عند q4_K_M، يكفي 82.3 GiB من الأوزان زائد 1.61 GiB من المُسقِط لوضع النموذج داخل بطاقة واحدة بسعة 96 GB أو جهاز Mac بذاكرة موحّدة بسعة 128 GB، مع هامش لذاكرة KV cache المؤقتة يتقلص بسرعة كلما رفعت السياق. عند الحد المعلن وهو 1M توكن، لن تتسع الذاكرة المؤقتة إلى جانب الأوزان على هذه الفئة من العتاد، أيًّا كان ما تقوله الشارة — فالسياق الطويل على جهاز واحد يعني التضحية بالتزامن، لا تحقيقه مجانًا. خطّط لسياق عملي أقل بكثير من السقف، وتعامل مع رقم 1M باعتباره حدّ البنية المعمارية، لا حدّ عملية النشر الخاصة بك.

وسم MLX nvfp4 عند 79.56 غيغابايت هو الخيار العملي لأجهزة أبل سيليكون، وهو أيضًا التنسيق الذي توفره الشركة المصنعة أصليًا، مما يجعله الأقل عرضة بين الوسوم الصغيرة لمفاجأتك من حيث الجودة.

أين يندرج هذا إذا كنت تستخدم التوجيه بدلًا من الاستضافة الذاتية

إن NVIDIA Nemotron 3.5 Super متاح عبر قنوات البناء والتوزيع الخاصة بالمورّد نفسه، وعبر السحب من Ollama الموصوف أعلاه. وهو غير موجود على OrcaRouter — فنحن نوجّه ما يزيد قليلاً على 200 نموذج، وهذا ليس أحدها — لذا إذا كنت تحتاج تحديدًا إلى نقطة التحقق هذه، فالسحب المحلي هو طريقك، ولا شيء في هذه المقالة يشير إلى أنه يمكنك استدعاؤه باستخدام مفتاحنا.

ما الغرض الحقيقي من المنصة هنا هو القرار المحيط بها. إن تقييم نموذج كهذا له تكلفة ثابتة لا تمحوها أي جدول مقارنات: تنزيل بحجم 90 غيغابايت، وأمسية من الإعداد، ومجموعة من مطالباتك الخاصة قبل أن تعرف أي شيء. الخطوة الأولى الأرخص هي تشغيل عبء عملك الفعلي على النماذج المستضافة التي يمكنك الوصول إليها بالفعل —واجهة برمجية واحدة عبر أكثر من 200 نموذج، مع سعر قائمة المزوّد يُمرَّر دون أي هامش ربح لكل رمز، لذا فإن خفض أحد المزوّدين لأسعاره يصبح ساريًا على جانبنا في اليوم نفسه — ودع ذلك يخبرك ما إذا كان عبء العمل مما يحسّنه نموذج استدلال بحجم 120B على الإطلاق. ثم أنفق التنزيل على الحالات التي صمدت.

وإذا أدخلتَ فعلًا نموذجًا مفتوحًا صدر حديثًا في مسار الإنتاج قبل أن تثق به، فإن التحويل التلقائي عند الفشل يهم أكثر من السعر. النموذج الذي صدر في 14 أكتوبر لم ينل سوى يومين من انتباه العالم؛ وتوجيهه خلف مسار احتياطي هو وسيلتك للحصول على مزاياه دون المراهنة بمسار الطلبات عليه.

الملخص الصادق لما تم تأكيده وما لم يتم تأكيده

مؤكّد مباشرةً من السجل وملاحظات الإصدار: الوسوم، وبصماتها، وأعداد البايتات فيها، والحد الأدنى للإصدار 0.40.5، وتنسيق GGUF من خلال llamacppالمشغّل، ومُسقط الرؤية المشترك، وسلسلة عائلة النموذج، والمُصيّر، ومُحلّل Nano الموروث، وترخيص OpenMDW-1.1. ومؤكّد من غرفة أخبار NVIDIA نفسها وبطاقة النموذج الخاصة بها: البنية المعمارية، وتقسيم المعاملات، والترخيص، وإعدادات أخذ العينات الموصى بها، ونطاق التدريب — نحو 26 تريليون رمز عبر التدريب المسبق والتدريب المسبق المستمر، ثم التدريب اللاحق على نحو 3.8 مليون عينة مع التعلّم المعزّز عبر عشرات البيئات — وتغطية اللغات: الإنجليزية، والإسبانية، والفرنسية، والألمانية، والإيطالية، واليابانية.

غير مؤكد: كل رقم من أرقام المعايير، وهو مُبلَّغ عنه من البائع، مع اعتبار مؤشر Artificial Analysis البالغ 26 وإسهاب 170M-token هما القياسين المستقلين الوحيدين في هذا المقال. غير مؤكد: أن وسوم MLX تدعم طول السياق المُعلَن عنه، لأن صفحة المكتبة لا تدّعي ذلك لها. غير مؤكد: أن مسار الرؤية مضبوط جاهزًا للاستخدام، لأن إعدادات أخذ العينات الافتراضية المُضمَّنة هي الخاصة بالنص. وغير مؤكد: كيف يغيّر التكميم 4-bit الدرجات المنشورة، وهو الرقم الذي يهتم به فعلًا معظم قرّاء قائمة Ollama، والذي لم ينشره أحد.

إذا كانت لديك بطاقة بسعة 96 GB، وسبب لرغبتك في نموذج رؤية-لغة مفتوح بعمود فقري حقيقي بحجم 120B، ولا تمانع من وجود تبعية في الأسبوع الأول، فهذا أقوى شيء في فئته الوزنية يظهر هذا الشهر، وسحبه بسيط للغاية. وإذا كنت تحتاج إلى التكوين الدقيق الذي أجرت NVIDIA اختباراتها عليه، أو تحتاج إلى أن تعمل الرؤية من المحاولة الأولى، أو لا يمكنك تحمّل قضاء أمسية تكتشف فيها أيّ من هذين المستندين هو المرجع المعتمد — فانتظر تقييمات التكميم وتقارير المجتمع. عمر الأوزان أربعة أيام، وعمر دعم وقت التشغيل يومان.