Nemotron 3.5 Bolt 24GB: ما الذي وضعته NVIDIA فعليًا في ملف بحجم 24GB

الرقم البارز ليس عدد المعلمات. بل هو عدد البايتات. في 15 أكتوبر 2026، أصدرت NVIDIA NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB، وهو نموذج وكيل لغوي-بصري تشغل معلماته البالغة 74 مليارًا حيزًا قدره 23.75 جيجابايت في الصيغة التي سيحمّلها معظم الناس فعليًا — ملف GGUF بحجم 22.02 جيجابايت زائد ملف مُسقِط رؤية بحجم 1.73 جيجابايت. كلا الرقمين مأخوذان من قائمة ملفات المستودع المنشور نفسه، لا من منشور المدونة، وهما السببان في أن الاسم ينتهي برقم. هذا ما يمنحه ذلك الرقم، وما يخفيه، وما لا يشمله.

ما الذي تم إصداره، ومتى؟

صاغت غرفة أخبار NVIDIA يوم 15 أكتوبر باعتباره توسعًا لعائلة بدلًا من إطلاق نموذج واحد: Nemotron 3.5 Super VL، وهو نموذج متعدد الوسائط بـ 120 مليار معامل مع 12 مليار معامل نشط، وصل إلى جانب نقطة تفتيش Bolt، وشقيق أصغر بكثير، Nemotron 3.5 Bolt E4B 4GB، محدد بتاريخ 23 أكتوبر. ينضم Bolt إلى Nemotron 3.5 Lightning (أغسطس) وNemotron 3 Ultra في عائلة تغطي الآن الاستدلال في مراكز البيانات، والخدمة عالية الإنتاجية، ووكلاء الحافة المحليين.

الإصدار جديد حقًا، وهو أيضًا أقدم قليلًا من الإعلان. مستودع Hugging Face nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB أُنشئ في 7 أكتوبر 2026؛ وبطاقة الطراز بداخله تحمل تاريخ إصدار هو 15 أكتوبر، وهو التاريخ نفسه الذي خُتمت به صفحة أبحاث NVIDIA الخاصة بعبارة "Published". ثمانية أيام من الملفات المتروكة في مرأى العام قبل كلمة شرح واحدة هي نمط طبيعي لمورّد يشحن تحت تنسيق حظر النشر مع العتاد — فأجهزة RTX Spark المحمولة بتاريخ 16 أكتوبر، أي اليوم التالي للإعلان — ومن الجدير معرفة أي نصف من السجل العام لهذا الطراز جاء من قرار تسويقي وأي نصف جاء من قائمة ملفات.

كيف تتسع 74 مليار معلمة في 24 جيجابايت

آليتان، وهما قابلتان للفصل.

الأول بنيوي. إن Bolt ليس نموذجًا أصغر مدرَّبًا من الصفر؛ بل هو النموذج الأب Super 3.5 VL مضغوطًا بواسطة خوارزمية تسميها NVIDIA باسم Star Elastic، وهي بحث معماري موجَّه بالراوتر كان عليه أن يحقق قيدًا واحدًا — بصمة نشر أقل من 24GB عند حجم دفعة 1 وسياق 128K — مع خسارة أقل قدر ممكن من دقة تقطير المعرفة. وما أنتجه هو خليط خبراء هجين بإجمالي 74B / 9B نشط، مع تثبيت top-K للخبراء عند 9 حيث استخدم النموذج الأب 22. وصياغة NVIDIA نفسها للنتيجة صريحة وقابلة للتحقق: في ظل ميزانية ذاكرة ثابتة، يتفوق ضغط نموذج كبير على تدريب نموذج صغير.

الثاني هو الدقة، وهي حيث يكمن معظم التوفير.

• أوزان الخبراء — طبقات FC1 وFC2 الموجَّهة والمشتركة، مكمَّمة إلى IQ2_XXS بمعدل 2.0625 بت لكل عنصر، وهي الجزء الأكبر من النموذج من حيث عدد المعلمات.

• طبقات Mamba — NVFP4، تنسيق الفاصلة العائمة رباعي البتات، وفقط على الطبقات التي تستحق فيها الدقة الإضافية المزيد من البايتات.

• التضمينات، ورأس الإخراج، والانتباه، وأوزان MoE الكامنة — Q8_0.

• الاستعادة — تقطير واعٍ بالتكميم بدلاً من تمريرة تقريب إلى أقرب عدد تُجرى بعدياً، وهو الفرق بين نموذج مضغوط ونموذج معطوب.

اقرأ هذه معًا، وعندئذٍ يتوقف "24GB" عن كونه ملخصًا تسويقيًا ويصبح تخصيصًا للميزانية. الخبراء بعرض 2 بت رخيصون لكل بايت وعددهم كبير؛ أما الطبقات المهمة للاستقرار فتبقى عند 4 أو 8 بتات.

رقم 24GB، بعد التحقق منه مقابل الملفات

الادعاء يصمد أمام التدقيق، وهذا ليس صحيحًا دائمًا.

• أوزان GGUF — 22,018,326,528 بايت، أو 22.02GB بالنظام العشري، في ملف واحد.

• مُسقِط الرؤية — 1,733,692,736 بايت، أو 1.73GB، يُشحن بشكل منفصل باسم mmproj، وهي الطريقة التي يستقبل بها llama.cpp مدخلات الصور والفيديو.

• بناء Safetensors — النموذج نفسه في أجزاء جاهزة لـ vLLM بإجمالي 24.12GB عبر 90 ملفًا، متجاوزًا الرقم الرئيسي بشكل طفيف.

• مرجع BF16 — ‏149.8GB موزّعة على 63 جزءًا، منشور بشكل منفصل لأي شخص يرغب في الضبط الدقيق بدلًا من الاستدلال.

هناك تحذيران صادقان يعلوان ذلك. أولًا، الأوزان ليست نموذجًا قيد التشغيل. فوصفة vLLM التي تنشرها NVIDIA تثبّت ذاكرة KV المؤقتة على fp8 وتضبط السياق المُخدَّم على 262,144 رمزًا مع max-num-seqs 1 — تسلسل متزامن واحد. هذا هو الفرق بين أن يتّسع في 24GB وأن يعمل بسرعة في 24GB، وهو نوع التفاصيل التي لا يحملها عنوان حجم الذاكرة أبدًا. ثانيًا، 24GB هو الرقم الذي أُعطي لبحث المعمارية، وليس رقمًا مقيسًا على جهازك: فحِمل تعريف التشغيل ونظام التشغيل وكل ما هو آخر على الحاسوب المحمول كلها خارج ذلك، وهذا تحديدًا سبب كون العرض الترويجي «شغّله إلى جانب تطبيقاتك» بدلًا من «شغّله بدلًا منها».

ادعاء السرعة، والجهاز الذي قيست عليه

صمّمت NVIDIA هذا ليحقق 80 رمزًا في الثانية على الأقل، وتُبلغ عن 83.99 على AIPerf SPEED-Bench-Coding. يحتاج هذا الرقم إلى ثلاث قطع من السياق قبل أن يكون له أي معنى: فقد أُنتِج باستخدام llama.cpp على Windows 11 ARM x64، وعلى Surface Laptop Ultra بذاكرة 128GB، مع إرفاق المُسوّد التخميني LiLiCorr وسبعة رموز مُسوَّدة في كل خطوة. المُسوّد ليس زينة اختيارية — فهو نقطة تفتيش مرافقة بحجم 1.13B غرضها الوحيد هو رفع طول القبول (تُبلغ NVIDIA عن متوسطات 4.68 في فك التشفير الجشع و4.25 مع أخذ العينات عند تزامن 64 في vLLM). إذا أزلت المُسوّد من المعادلة، فأنت تقيس نموذجًا مختلفًا.

الرقم الثاني للسرعة هو الأكثر إثارة للاهتمام، لأنه زمن إكمال وليس معدلًا: 600.80 ثانية من مدة إعادة التشغيل على AA-AgentPerf Local، مقابل 453.97 لـ Qwen3.6 35B-A3B، و480.68 لـ Gemma 4 26B-A4B، و1,043.28 لـ Qwen3.8 27B — كلها من جدول NVIDIA نفسه، وكلها على العتاد نفسه. يفوز Bolt في ذلك الصف بإنهائه مسارات الوكيل نفسها أسرع من نموذج أصغر، ويخسر صف الإنتاجية أمام النموذجين الآخرين عند 83.99 مقابل 96.63 و100.56 رمزًا في الثانية. السريع والعاجل ليسا القياس نفسه، وهذا نموذج يقايض الثاني مقابل الأول.

ما يقوله القياس المستقل

ثمة رقم واحد في السجل العام عن Bolt لم تنتجه NVIDIA: يمنحه مؤشر Artificial Analysis Intelligence Index درجة قدرها 21، وهو ما يضعه في المرتبة الرابعة من بين 67 نموذجًا في فئته. كما لا تذكر تلك اللوحة أي سرعة أو تكلفة له، لأنه لا توجد واجهة برمجة تطبيقات عامة لاستدعائه — وتُدرج طريقة إدخال النموذج كنص وصورة، وليس فيديو، وهو تفسير أضيق من تفسير المورّد.

تشير الصفحة نفسها إلى أن النموذج ولّد 230 مليون رمز أثناء تقييمه، وهو ما تصفه بأنه مطوّل للغاية مقابل وسيط قدره 100 مليون. إن الاستدلال الذي ينتج رموزًا أكثر في المهمة نفسها ليس أسوأ تلقائيًا، لكنه يكلّف شيئًا على جهاز محلي حيث تُولَّد كل رمز بواسطة مروحة.

كل ما عدا ذلك من المتداوَل مصدره المورّد. جدول المعايير الثلاثة عشر الخاص بـ NVIDIA، الذي يتصدّر فيه Bolt فئة الذاكرة الخاصة به في PinchBench ويحلّ ثانياً في WebArena وBrowseComp، يقارن بنماذج اختيرت جزئياً لأنها تتّسع ضمن 24GB عند 4-bit — وهي مجموعة أقران يحدّدها قيد صُمّم Bolt ليلبيَه. إنه ليس غير نزيه؛ كما أنه ليس تصنيفاً لنماذج الوكلاء عموماً، والخانة الوحيدة التي تسير في الاتجاه المعاكس ذات دلالة: عند 16.90 في دقة AA-Omniscience، يتخلف Bolt عن Gemma 4 26B-A4B عند 22.17 في الجدول نفسه.

ما ليس في الصندوق؟

لا توجد نقطة نهاية. لا تسعير حسب الاستخدام، ولا مزوّد يقدّمها، ولا طريقة لتقييمها على حركة المرور الخاصة بك دون إكمال النشر. ما يوجد بدلاً من ذلك هو دعم وقت التشغيل الذي جاء عند الإطلاق وليس بعد أشهر: llama.cpp ونقطة تفتيش GGUF، وOllama، وLM Studio، وUnsloth للضبط الدقيق، وvLLM لنقطة التفتيش المكمَّمة على DGX Spark ونقطة تفتيش BF16 في مكان آخر. تذكر مدوّنة NVIDIA نفسها هذه الخمسة بالاسم، والاتساع هو المنتج الحقيقي هنا — فملف بحجم 24 غيغابايت لا يكون مفيداً إلا إذا كان الشيء الذي يحمّله موجوداً بالفعل على جهازك.

نطاق الأجهزة أوسع مما توحي به قصة يوم الإطلاق حول حواسيب RTX Spark المحمولة: فكلٌّ من حواسيب GeForce RTX الشخصية، وDGX Spark، وDGX Station، ومحطات عمل RTX PRO مذكورة بالاسم، كما تُدرج بطاقة الطراز Ampere وHopper وBlackwell لمسار vLLM.

الترخيص هو OpenMDW-1.1، وهو متساهل بما يكفي للبناء عليه، وغير مألوف بما يكفي لتصبح المراجعة القانونية خطوة حقيقية لا مجرد إجراء شكلي — يستحق معرفته قبل أن يعتمد قرار معماري عليه.

زلة نسخ ولصق في مدونة NVIDIA التقنية نفسها تضع قائمة نقاط الحفظ تحت عنوان "Nemotron 3.5 Super VL 74B-A9B 24GB" بدلًا من Bolt. إنه خطأ مطبعي في إصدار سريع، وليس تشعّبًا في العائلة، لكنه تذكير مفيد بأن صفحات المورّدين المكتوبة يوم الإعلان ليست سوى مسودات تحمل تاريخ نشر.

للفرق التي تستدعي أيضًا نماذج لا تملكها

عادةً ما يكون النصف الذي يعمل محليًا من مكدس وكيل والنصف المستضاف المشروع نفسه، وBolt يعالج واحدًا منهما فقط. لا تستضيف OrcaRouter أي نقطة تفتيش Nemotron — وقد تم التحقق من ذلك مقابل كتالوجنا الخاص بدلًا من افتراضه — لذا لا شيء هنا عرض ترويجي لنموذج نقدّمه. ما نقوم به هو الجانب الآخر من عملية نشر مختلطة: مفتاح واحد عبر أكثر من 200 نموذج بسعر قائمة المزوّد دون أي هامش ربح مضاف، تحويل احتياطي تلقائي عندما يتذبذب مزوّد في منتصف الطلب، ولغة توجيه (DSL) لوصف سلسلة احتياطية كتهيئة بدلًا من شيفرة التطبيق. إذا كان Bolt يشغّل النصف المحلي، فذاك هو النصف الذي لا يظهر أبدًا في الفاتورة؛ أما مسألة التوجيه فهي ما يحدث للباقي.

ماذا تشاهد

ثلاثة أمور ستحدد سمعة هذا الطراز، ولا واحد منها في الإعلان.

الأول هو زمن الاستجابة المستقل على عتاد حقيقي. إن 83.99 توكنًا في الثانية لدى NVIDIA هو قياس أداء مضبوط مع نموذج مسودة تخمينية مرفق؛ سينشر شخص ما في النهاية ما يفعله على حاسوب محمول يشغّل متصفحًا ومحررًا في الوقت نفسه، وسيكون ذلك الرقم أكثر أهمية من هذا الرقم. الثاني هو نسخة E4B في 23 أكتوبر، والتي تختبر ما إذا كانت وصفة الضغط تتدرّج نحو الأحجام الأصغر أم تعمل فقط عند حجم واحد. الثالث هو ما إذا كان أي شخص خارج NVIDIA يجري تدريبًا لاحقًا على نقطة تفتيش BF16 — لأن مخرَج نشر بحجم 24GB برخصة مفتوحة ومخرَج تخصيص بحجم 150GB بجانبه يمثلان إصدارًا متعمدًا على مسارين، والمسار الثاني هو الذي يحدد ما إذا كان هذا سيصبح منصة أم مجرد نقطة تفتيش.

في الوقت الحالي، تقف الحقيقة بذاتها. وكيل متعدد الوسائط بـ74 مليار معامل يتّسع في ذاكرة حاسوب محمول يكلّف أقل من محطة عمل، ويعمل بنحو 84 رمزًا في الثانية عند إرفاق مُسوّد به، ويحرز 21 في المؤشر المستقل الوحيد الذي قاسه، ولا يمكن لأي أحد استدعاؤه بوصفه API. هذا مزيج محدد وغير معتاد، ويستحق أن تكون دقيقًا بشأن أي نصف منه تحتاج.

لا شيء من ذلك افتراضي: تم جمع إخفاقات الذكاء الاصطناعي الموثقة وحوادث الوكلاء الكامنة وراء إصدارات مثل هذا في OrcaRouter AI Incident Archive، حيث يحمل كل مدخل مصادره الخاصة ودرجة خطورته ودرجة ثقته وعلامة النزاع الخاصة به.