بطاقة عنوان تحمل النص: Moondream 3 مقابل MiniCPM-V 4.7: فاتورة تخزين MoE التي لا يذكرها أحد، مع شرائح تشير إلى 9B إجمالاً مع 2B نشطة، و35B إجمالاً مع نحو 3B نشطة، وشعار OrcaRouter في الزاوية.
Engineering & Research

Moondream 3 مقابل MiniCPM-V 4.7: فاتورة تخزين MoE التي لا يذكرها أحد

الكاتب

Alistair Wren

تاريخ النشر

أحدث النماذج · 20عرض جميع النماذج →
المعايير: Artificial Analysis · يُحدَّث يوميًا
العودة إلى جميع المقالات

كل من Moondream 3 Preview وMiniCPM-V 4.7 هما نموذجان لغويان بصريان قائمان على مزيج الخبراء، ويُروَّج لكل منهما برقم صغير للمعاملات النشطة يجعلهما يبدوان وكأنهما يناسبان عتادًا متواضعًا. يُنشّط Moondream 3 Preview 2 مليار من معاملاته البالغة 9 مليارات لكل رمز. أما النسخة الأبرز من MiniCPM-V 4.7، وهي MiniCPM-V 4.7 35B-A3B، فتُنشّط نحو 3 مليارات من أصل 35 مليارًا. اقرأ هاتين الجملتين وستتوقع أن تكون نقطة تفتيش Moondream هي الأسهل في النشر. لكن ما إذا كان الأمر كذلك يعتمد كليًا على سؤال لا يبدأ به أي من منشوري الإطلاق: أين يعيش الخبراء النائمون؟

هذا السؤال هو النقطة التي يختلف عندها هذان النموذجان اختلافًا حقيقيًا، والإجابة هي السبب الكامل وراء وجود MiniCPM-V 4.7 بالشكل الذي هو عليه. إصداره — MiniCPM-V 4.7 35B-A3B وMiniCPM-V 4.7 1B، من OpenBMB، المنشور في 6 أكتوبر 2026 — مبني حول تشغيل MoE بحجم 35B بسلاسة على هاتف دون تدهور أدائه. أما Moondream 3 Preview، الذي أطلقته Moondream في 18 سبتمبر 2025 والذي أصبح الآن جزءًا من Prime Intellect بعد استحواذ أكتوبر 2026، فقد سلك المسار المعاكس: إبقاء MoE صغيرًا وتشغيله على وحدات معالجة الرسوميات (GPU) باستخدام Photon، محرك الاستدلال الخاص بـ Moondream. لا يُعد أي من الخيارين خاطئًا. فكلاهما إجابتان لقيود مختلفة، والقيد الذي تخضع له هو ما يحسم المقارنة بالنسبة لك.

البارامترات النشطة هي رقم حسابي، وليست رقم تخزين

هذه هي الحسابات التي تجعل MoE على الجهاز صعبًا، وتوضحها OpenBMB في بطاقة نموذجها الخاصة: يمكن أن يحتوي نموذج MoE على عدد إجمالي من المعاملات أكبر بكثير مما ينشطه لرمز واحد، لكن متطلبات التخزين على الجهاز لديه لا تقتصر على تلك المعاملات النشطة. تختار الرموز المختلفة خبراء مختلفين في طبقات مختلفة، وغالبًا ما لا تستطيع ذاكرة الجهاز استيعابها جميعًا.

• Moondream 3 Preview — 9B إجمالي، 2B نشط. 24 طبقة، الأربع الأولى كثيفة، الباقي كتل تغذية أمامية MoE مع 64 خبيراً و8 مفعّلين لكل رمز. البعد المخفي 2048، بعد GeGLU الداخلي/البوابة 1024.

• MiniCPM-V 4.7 35B-A3B — إجمالي 35B، مع ما يقرب من 3B نشط. أول MoE في سلسلة MiniCPM-V. النسخة 1B في الإصدار نفسه كثيفة وليست MoE، وهذا ما يهم فيما يلي.

• التناقض — اقسم المعلمات النشطة على الإجمالي، فيبدو Moondream 3 Preview النموذج الأخف بفارق كبير. اقسم البايتات على البايتات، تجد أن MiniCPM-V 4.7 35B-A3B هو الذي يحمل أربعة أضعاف الأوزان.

• لماذا لا يحسم هذا الأمر شيئًا — فالمجموعة المقيمة هي ما يقيّد الجهاز، وهي أقرب إلى الإجمالي من العدد النشط. فنموذج MoE بحجم 9B لا يتّسع في الذاكرة التي يتّسع فيها نموذج كثيف بحجم 2B، بغض النظر عمّا يفعّله الموجّه.

إذن، "2B active" عبارة عن تصريح حول الحوسبة لكل توكن. وهي ليست تصريحًا حول الذاكرة التي تحتاج إليها، والتعامل معها على هذا الأساس هو أكثر الطرق شيوعًا التي تخطئ بها الفرق في تقدير حجم نشر MoE.

هاجمت OpenBMB مشكلة التخزين مباشرةً.

من الأفضل قراءة تصميم MiniCPM-V 4.7 على أنه ثلاث تقنيات تستهدف هذه الفجوة تحديدًا. تستخدم تقنية Lookahead Expert Scheduling التنبؤ بالتوجيه عبر الطبقات لتحميل الخبراء الذين يُرجَّح أن تحتاجهم الطبقة التالية مسبقًا، وتمنح الأولوية للخبراء الذين جرى تحميلهم مسبقًا بنجاح من بين أولئك الذين اختارهم الموجّه الفعلي — فالتنبؤ لا يوجّه سوى التحميل المسبق والجدولة، بينما لا يزال الحساب يتبع التوجيه الأصلي للنموذج على مستوى الرمز/التوكن، ويُحمَّل أي خبير مطلوب فاته التنبؤ ويُقيَّم كالمعتاد. يقلّل التكميم الدقيق على مستوى الطبقات من بصمة التخزين وحركة الذاكرة لأوزان الخبراء. وأُدمجت تقنية DSpark speculative sampling في المسار على الجهاز لتحسين كفاءة فك الترميز علاوةً على كلتا التقنيتين.

النتيجة المذكورة هي أكثر من 13 رمزًا في الثانية مع نحو 3 جيجابايت من الذاكرة على iPhone 17 Pro Max، وهو ما تصفه OpenBMB بأنه أول نموذج MoE مفتوح المصدر يعمل بسلاسة على الجهاز دون المساس بالأداء. ومقارنته صريحة وتستحق الملاحظة لما هي عليه: في وضع Instruct، يصل MiniCPM-V 4.7 35B-A3B إلى درجة إجمالية أعلى في وقت استدلال أقل من Qwen3.6 35B-A3B. هذا ادعاء معلن من البائع ضمن الفئة نفسها من حيث الحجم، وهو النوع الأكثر فائدة لأن كلا النموذجين يُقاسان على نفس منصة الاختبار.

بقية قصة النشر واسعة النطاق على نحو غير معتاد. فالنظام مدعوم على iOS وAndroid وHarmonyOS، مع دعم من اليوم الأول لمنصات الشرائح من Rockchip وHoumo وIntel وAMD وArm. ويعمل الاستدلال على SGLang وvLLM وllama.cpp وOllama؛ بينما يتم الضبط الدقيق على SWIFT وLLaMA-Factory. وتُتاح تكميمات GGUF وBNB وAWQ وGPTQ، إضافة إلى FP8. أما نسخة الـ1B فهي طرح منفصل مجددًا — كثيفة، وليست MoE، وتضعها OpenBMB على أنها تواصل التحسن على MiniCPM-V 4.6 مع تفوق كبير على Qwen3.5 0.8B في كل من النتيجة الإجمالية وكفاءة الاستدلال، وهي المقارنة الأمينة لطراز دون 1B.

كان جواب Moondream هو نقل العتاد، وليس الأوزان

لم تحاول Moondream جعل 9B MoE يتّسع على هاتف. فقد أبقت على البنية وغيّرت مكان التشغيل: Photon، محرّك الاستدلال الخاص بها، يُصرّف كل نموذج إلى برنامج GPU واحد بنوى مخصّصة، ويعمل محليًا على وحدات NVIDIA GPUs بدءًا من Ampere فصاعدًا وعلى أجهزة Apple Silicon Macs، مع نفس API الخاص بـ Moondream Cloud.

هذه استراتيجية قابلة للدفاع، ويوضح إعلان استحواذ Prime Intellect سبب كونها جاذبة: بنى فريق Moondream برنامج Photon ومترجم النواة العملاقة الذي يقف خلفه، وحجة Prime لشراء الشركة هي أن الخدمة، وليس البنية، هي ما يحدد مدى فائدة النموذج. أرقام الإنتاجية في ذلك المنشور — أكثر من 60 استدلالاً من Moondream في الثانية على وحدة H100 واحدة، وإجابات في غضون عشرات المللي ثانية، وMoondream 3.1 بمعدل 34 طلباً في الثانية — هي أرقام Prime الخاصة وأصبحت الآن مادة بيعية، لذا ضع لها التصنيف المناسب. لكن الاتجاه لا لبس فيه: كان رهان Moondream هو أنك تفضل نموذجاً سريعاً مدعوماً بوحدة معالجة الرسومات على نموذج بحجم الهاتف.

هناك فرق ثانٍ، وهو ليس في بطاقة النموذج على الإطلاق. سيتم إغلاق نقطة النهاية المستضافة لـ Moondream 3 Preview، وهي Moondream Cloud، في 13 نوفمبر 2026 بعد الاستحواذ، مع ردّ الأرصدة المشتراة غير المستخدمة. لا يوجد لدى MiniCPM-V 4.7 أي اعتماد من هذا القبيل، لأنه لم يكن في الأساس منتجًا مستضافًا — بل هو مجموعة أوزان مرفقة بقصة نشر واسعة على الأجهزة. إذا كان تقييمك يتضمن سهولة استدعاء نقطة نهاية، فإن هذه السهولة آخذة في الانتهاء على أحد جانبي هذه المقارنة.

قدرة المهمة: البطاقتان صادقتان بشأن أمور مختلفة

المهارات الأصلية الأربع لـ Moondream 3 Preview هي query وcaption وpoint وdetect، وجميعها تُرجع مخرجات منظّمة، ويركّز منشور الإطلاق على الكشف والتأشير. تعمل مهارة query في وضع الاستدلال افتراضيًا، مع علامة reasoning=False موثّقة للأسئلة البسيطة، وتتبعات الاستدلال مستندة — فهي تشير إلى أجزاء محددة من الصورة، ولهذا يسميه Moondream استدلالًا بصريًا مستندًا إلى الصورة بدلًا من الاستدلال عمومًا. سعة السياق 32 ألف توكن، ارتفاعًا من نحو 2K في الجيل السابق، باستخدام مُرمِّز SuperBPE مخصص؛ ويقرّ منشور الإطلاق بصراحة بأن التدريب اللاحق لا يستغل النافذة الطويلة بالكامل، وأن الـ32 ألف كاملة موجودة في الأساس من أجل الضبط الدقيق.

تأتي بطاقة MiniCPM-V 4.7 في الصدارة من حيث الكفاءة والاتساع بدلاً من ذلك: فهم الصور الفردية والصور المتعددة والفيديو، مع ضغط رموز مرئية مختلط بنسبة 4x/16x يتيح لك المقايضة بين التفاصيل المرئية وتكلفة الاستدلال لكل مهمة، وضغط مبكر داخل ViT من LLaVA-UHD v4 يقلّل الحساب في طبقات المُشفّر اللاحقة. كما تتضمن طريقة ضبط دقيق — Self-Replay Fine-Tuning، تهدف إلى توسيع قدرات النموذج بتكلفة منخفضة مع تقليل نسيان ما كان يعرفه بالفعل.

• الكشف والإشارة المُسنَدان — Moondream 3 Preview: مهارات أصيلة في البنية، إحداثيات مُهيكلة، تتبعات استدلال مُسنَدة. MiniCPM-V 4.7: فهم الصور المتعددة والفيديو هما نقطتا القوة المُعلنتان؛ ولا تتصدّر البطاقة في الكشف بالمفردات المفتوحة.

• فيديو — يدعم MiniCPM-V 4.7 إدخال الفيديو، مع مثال موثّق يستخدم 128 إطارًا. توثّق بطاقة Moondream 3 Preview مهارات الصور مع تخزين مؤقت لترميز الصور للاستعلامات المتكررة على الصورة نفسها.

• تفاصيل قابلة للتحكم — MiniCPM-V 4.7: معامل downsample_mode، بقيمة 16x افتراضيًا و4x لتفاصيل أدق، يُختار لكل استدعاء. Moondream 3 Preview: دمج قنوات متعددة الاقتصاصات في مُشفّر الرؤية، مع ملاحظة منشور الإطلاق أن الخطوط الصغيرة جدًا قد تُربك المُشفّر.

• الترخيص — MiniCPM-V 4.7: Apache 2.0، لكلا النسختين. Moondream 3 Preview: Business Source License 1.1 مع Additional Use Grant، وهو ما يسمح بالاستخدام التجاري والإنتاجي ويمنع تقديم Moondream مستضافًا لأغراض عامة. انتقل Moondream 3.1 إلى Moondream Model License 1.0 مع القيد الجوهري نفسه بصياغة أكثر وضوحًا.

خط الترخيص ليس حاشية سفلية في هذه المقارنة. إذا كنت تنوي استضافة النموذج لأشخاص آخرين، فإن Apache 2.0 وشروط Moondream المتاحة المصدر ليستا نقطة انطلاق متشابهة بأي شكل، وهذا صحيح بغض النظر عن أيهما يحقق نتائج أفضل في اختبارات مهمتك.

الضبط الدقيق هو النقطة التي تشير إليها كلتا البطاقتين، ولأسباب متعارضة.

يخبرك كلا البائعين أن الطراز الأساسي ليس المنتج، وهو أمر منعش وأيضًا تلميح إلى أين تكمن القيمة.

تسرد منشور إطلاق Moondream قابلية التدريب كأحد أربعة أهداف، على أساس أن مهام الرؤية الحقيقية تحتاج إلى تخصص — تفسير الأشعة السينية، ورصد الأشخاص المتعثرين في حشد — وأن حتى البشر يحتاجون إلى تدريب لأجل ذلك. أطلقت الشركة Lens لهذا الغرض، ومضى إطلاق Moondream 3.1 أبعد من ذلك: فقد أُنتجت درجات معيار 3.1 المنشورة عبر الضبط الدقيق لـ LoRAs لكل مهمة على مجموعة التدريب الخاصة بكل معيار من خلال Lens، ثم طي ما تعلمته مرة أخرى في الأوزان الأساسية عبر التقطير وفق السياسة بحيث تحقق نقطة التحقق القابلة للتنزيل درجات جيدة دون أي ضبط. هذا يستحق القراءة مرتين. إنه سير عمل مشروع وإفصاح شفاف غير معتاد، وهو يعني أيضًا أن تلك الأرقام ليست أرقامًا باردة خارج الصندوق — فقد تم تغذية مجموعات التدريب الخاصة بالمهام المعنية إلى النموذج.

المكافئ لدى OpenBMB هو Self-Replay Fine-Tuning، ويستهدف مشكلة مختلفة: إضافة قدرة دون نسيان القدرة القائمة، وبتكلفة منخفضة. وادعاؤه الرئيسي يتعلق بالاحتفاظ بالأداء وليس بتحقيق أعلى نتيجة.

إذا كنت ستجري ضبطًا دقيقًا لأي من النموذجين، فإن الفرق العملي هو نفسه الذي يسري في هذه المقارنة بأكملها. يفترض مسار Moondream وجود وحدة معالجة رسومات (GPU) وخدمة مستضافة. أما مسار MiniCPM-V 4.7 فيفترض أنك تستطيع الضبط الدقيق على أطر العمل التي تشغّلها بالفعل، ثم النشر إلى الأجهزة التي تستهدفها بالفعل، مع طرح منشور للتكميم على الجهاز يحملك إلى هناك.

أين تستحق طبقة التوجيه مكانها

لا يُقدَّم أيٌّ من النموذجين هنا عبر OrcaRouter — فكلاهما نقطة تحقق مفتوحة الأوزان تستضيفها بنفسك، وأحدهما سيفقد نقطة نهايته المستضافة الشهر المقبل. وهذا ما يجعل السؤال المثير للاهتمام هو ذاك الذي تتجنّبه كلتا البطاقتين: ماذا يحدث للطلبات التي يتعامل معها النموذج الذي اخترته بشكل سيئ؟

الجواب القياسي هو نموذج ثانٍ، والتكلفة القياسية لنموذج ثانٍ هي التكامل: SDK آخر، ومخطط مصادقة آخر، وسياسة إعادة محاولة أخرى. إنه نوع من العمل يستهلك بهدوء سبرنت كاملًا ثم يصبح صيانة دائمة. يوجد دمج النماذج في OrcaRouter للنسخة الأضيق من تلك المشكلة — مجموعة من النماذج تجيب معًا على الاستدعاءات التي لا تكون إجابة نموذج واحد فيها موثوقة بما يكفي وحدها — وللنسخة الأوسع، يوجد DSL التوجيه الذي يتيح لك تركيب عدة نماذج في استدعاء واحد بحيث يتولى نموذج محلي رخيص الأغلبية السهلة ويتولى شيء أكبر الباقي.

خلف مفتاح واحد هناك أكثر من 200 نموذج بسعر قائمة المزود دون إضافة أي هامش ربح، مما يعني أن تخفيض سعر المورّد يصلك في نفس اليوم بدلاً من دورة الفوترة التالية، ويكون تجاوز الفشل بين المزودين تلقائيًا عندما يتدهور المصدر الأعلى. بالنسبة لنموذج VLM مستضاف ذاتيًا، تقع طبقة التوجيه فوق النموذج بدلاً من استبداله. هذا هو الوصف الصادق لموقعها في هذه المقارنة، وبالنسبة لنظام يكون فيه MiniCPM-V 4.7 35B-A3B على الجهاز ويغطي نموذج مستضاف الحالات الفائتة، فهو الجزء الذي يمنع الاثنين من أن يصبحا نظامين.

أيّ واحد، يحدده القيد الذي لديك فعلاً

A two-column comparison scoreboard titled Moondream 3 vs MiniCPM-V 4.7 — the scoreboard, with matched rows for total parameters, active parameters, on-device claim, context length, licence and hosted endpoint, and a footer noting that both sets of figures are vendor-reported and that the on-device figure was measured on an iPhone 17 Pro Max.

إذا كان على النموذج أن يعمل على الجهاز، MiniCPM-V 4.7 35B-A3B هو الجواب، والفرق ليس ضئيلاً. بنت OpenBMB الإصدار بأكمله حول مشكلة التخزين التي تمنع تشغيل نموذج MoE بحجم 35B على هاتف — جدولة الخبراء، والتكميم طبقة بطبقة، وفك الترميز التخميني — ونشرت الرقم الناتج عن ذلك: أكثر من 13 رمزاً في الثانية في حوالي 3 غيغابايت. لا شيء في Moondream 3 Preview يعالج هذه المشكلة، لأن Moondream اختارت ألا تواجهها.

إذا كانت وحدة معالجة رسومات (GPU) في الصورة وكانت المهمة هي الكشف المُسنَد، Moondream 3 Preview هو الأداة الأكثر تخصصًا. الكشف والتأشير الأصليان بإحداثيات منظمة وتتبعات استدلال مُسنَدة قابلة للفحص هما منتج مختلف عن نموذج متعدد الوسائط عام يقرأ النص في الصور أيضًا، وإذا راجع إنسان المخرجات، فإن التتبع هو الميزة.

إذا كنت مترددًا بين الاثنين، فلا تقرر بناءً على جداول القياس المرجعية. شغّل صورك الخاصة عبر كليهما باستخدام مطالباتك الخاصة، وقيّم المخرجات، لأن الرقم الوحيد في هذه المقارنة الذي سيبقى صامدًا عند التلامس مع عبء عملك هو الرقم الذي تنتجه بنفسك. وافحص الترخيص قبل النموذج، لأن Apache 2.0 وترخيصًا متاح المصدر مع قيد على الخدمة المستضافة يمثلان قرارًا مختلفًا تمامًا — فقد يُنهي أحدهما التقييم قبل أن تصبح أرقام الدقة مهمة.

The Hugging Face model card for MiniCPM-V-4.7-35B-A3B under the Apache 2.0 licence, showing the description of Lookahead Expert Scheduling with fine-grained layer-wise quantisation and DSpark speculative sampling, the claim of 13-plus tokens per second with just 3 GB of memory on an iPhone 17 Pro Max, the intra-ViT early compression from LLaVA-UHD v4, mixed 4x/16x visual token compression, and the explanation that on-device storage requirements are not limited to the active parameters.The Moondream pricing page showing Photon and the open models as free, the Cloud pay-per-token table with Moondream 3.1 9B A2B and Moondream 3 Preview rates, and the Lens rollout and training rates, alongside the hosted Cloud tier description.

المقارنات من هذا النوع هي أيضًا المكان الذي تظهر فيه أنماط الفشل: فالحوادث الموثّقة للذكاء الاصطناعي وإخفاقات الوكلاء الكامنة خلف النماذج في هذه الفئة تُجمع في OrcaRouter AI Incident Archive، حيث يحمل كل مُدخل مصادره الخاصة ودرجة خطورته وتصنيف الثقة الخاص به وعلامة كونه متنازعًا عليه.