כרטיס Hero שנוצר עם הכותרת 'מודל ששומע ומודל שנכנס לכיס' ועם כתובית המשנה 'Ming-3.0-audio-flash לעומת MiniCPM-V 4.7 35B-A3B'. שני פאנלים בציור קו מתחת לכותרת מסומנים 'שמונה GPUs' ו'טלפון אחד'. הלוגו של OrcaRouter מולחם בפינה הימנית התחתונה.
Guides & Insights

Ming-3.0-audio-flash לעומת MiniCPM-V 4.7: מודל ששומע ומודל שנכנס לכיס שלך

מחבר

Elias Hawthorne

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

אם אתם בוחרים בין Ming-3.0-audio-flash לבין MiniCPM-V 4.7 35B-A3B, ההחלטה אינה צמודה באף ציר שבדרך כלל הייתם שוקלים, כי הם לא מתחרים על אותו חריץ. האחד הוא תערובת מומחים של שפה-שמע בעלת 126 מיליארד פרמטרים — 6.5 מיליארד פעילים — ש-inclusionAI העלתה ב-3 בספטמבר 2026 ותיעדה שישה שבועות לאחר מכן, ושזקוקה לשמונה כרטיסי GPU של 80 GB בתצורת הייחוס שלה. האחר הוא מודל ראייה-שפה דליל בעל 35.2 מיליארד פרמטרים, ש-OpenBMB שחררה ב-Hugging Face בערב 6 באוקטובר 2026 ללא כרטיס מודל כלל, פרסמה את כרטיס המודל ב-12 באוקטובר, והוא טוען לפענוח של יותר מ-13 טוקנים בשנייה ב-iPhone 17 Pro Max תוך שימוש בכ-3 GB זיכרון. האחד מאזין ויושב בארון שרתים. האחר מסתכל ונכנס לכף יד. מה שהופך אותם לראויים להופיע באותו עמוד הוא ששניהם הושקו בשקט על ידי מעבדות סיניות באותם שישה שבועות, שניהם עם משקלים פתוחים, ושניהם נבחנים על ידי צוותים שיש להם בדיוק חריץ אחד בארכיטקטורה שלהם. כשלי ה-AI ותקריות הפריסה המתועדים שמאחורי השוואות כמו זו מרוכזים בOrcaRouter AI Incident Archive שבו כל רשומה נושאת את המקורות, רמת החומרה, דרגת הביטחון וסימון המחלוקת שלה.

הנה כלל ההחלטה מראש, ולאחריו הראיות עבורו. אם הקלט הוא שמע — שיחות, פגישות, דיאלקטים, מוזיקה, קריינות שנוצרה ושעליך לאמת — רק אחד מהמודלים האלה יכול להתחיל. אם הקלט הוא תמונה, מסמך, תרשים, צילום מסך או פריים מווידאו, רק האחר יכול. החפיפה היא צינור עיבוד שמטפל בשניהם, ובצינור כזה הם שני שלבים ולא שני מועמדים. כל נתון להלן מדווח על ידי הספק: זה של inclusionAI מתוך תמונות ההערכה שלה, זה של OpenBMB מכרטיס שפורסם ב-12 באוקטובר, ואף אחד מהם לא שוחזר על ידי צד שלישי.

מה כל אחד מסרב לעשות

הדרך המהירה ביותר לראות את ההבדל היא לפרט את הדברים שכל דגם לא יקבל, כי רשימות מפרטים נכתבות כדי להסתיר זאת.

• Ming-3.0-audio-flash לא יסתכל על שום דבר. הקלטים שלו הם הוראות אודיו וטקסט; אין מקודד תמונות במאגר, אין מגדל ראייה בקונפיגורציה, ואין נתיב וידאו מאז שההעלאה מחדש ב-15 באוקטובר הסירה את גרסת הווידאו-שפה ואת אסימון הטלאי שלה. אם פריים כלשהו חשוב, המודל הזה עיוור לו.

• MiniCPM-V 4.7 35B-A3B לא יקשיב לשום דבר. הוא מתויג כ-image-text-to-text, המעבד שלו מטפל בתמונות ובפריימים של וידאו, ואין שום מגדל אודיו, נתיב ASR או ראש TTS בכל 70.4 GB של משקולות. קובץ WAV אינו קלט שיש לו ייצוג עבורו.

• Ming-3.0-audio-flash לא ייצור תמונה, עריכה או נכס תלת-ממד. הפלט האופציונלי שלו מעבר לטקסט הוא דיבור, דרך מודול Talker עם קולות מובנים וקולות ייחוס.

• MiniCPM-V 4.7 35B-A3B לא מדבר. הוא קורא עמוד ועונה בטקסט. כדי לקבל קול תצטרכו לחבר בנפרד סינתיסייזר, וזו החלטת מוצר אחרת.

זו כל הצורה של ההשוואה. כל השאר — הקשר, דלילות, רישוי, חומרה — משני לעובדה שקבוצות המודאליות אינן נחתכות.

שתי דרכים שונות מאוד להיות דלילים

שני המודלים הם עיצובי mixture-of-experts, והמילה מסתירה הימורי הנדסה מנוגדים.

Ming-3.0-audio-flash הוא דליל משום שהוא עצום: 42 שכבות, גודל מוסתר 2,560, 512 מומחים עם 8 נבחרים לכל אסימון, 126B בסך הכול ו-6.5B פעילים, ובנוסף מקודד אודיו בסגנון Whisper עם 32 שכבות ורוחב 1,280 עם 128 סלי מל. הדלילות קונה תפוקה במודל שאחרת לא היה ניתן לאמן או להגיש, אבל היא לא הופכת אותו לקטן. עשרים וחמישה מקטעי bfloat16 בתוספת זוג Talker ו-VAE מסתכמים לבערך 259 GB בדיסק, ופרופיל ההגשה 128K של הספק הוא מקביליות טנזורית על פני שמונה כרטיסי H800 עם 80 GB.

MiniCPM-V 4.7 35B-A3B הוא דליל מסיבה הפוכה: 35.2 מיליארד פרמטרים מאוחסנים, כאשר לכל טוקן מנותבים 8 מתוך 256, לאורך יותר מ-40 שכבות טקסט עם תבנית קשב בקצב של שלוש לינאריות לאחת מלאה, מאחורי מגדל ראייה בן 27 שכבות בגודל חבוי 1,152 שמשתלב בשכבה 6 של מחסנית הטקסט. הטענה הנלווית לעיצוב הזה אינה תפוקה באשכול אלא היתכנות בטלפון. Lookahead Expert Scheduling של OpenBMB חוזה אילו מומחים יידרשו לשכבה הבאה, מביא אותם מראש וחופף את הטעינה עם החישוב — מהסוג שממציאים רק כאשר צוואר הבקבוק הוא רוחב פס זיכרון במכשיר נייד, ולא FLOPs במרכז נתונים.

• סך כל הפרמטרים — Ming-3.0-audio-flash 126B; MiniCPM-V 4.7 35B-A3B 35.2B.

• פרמטרים פעילים — 6.5B לעומת כ-3B (8 מתוך 256 מומחים בתוספת מומחה משותף).

• הקשר — 131,072 אסימונים לעומת 262,144.

• משקלים בדיסק — כ־259 GB לעומת 70.4 GB ב־16 שרדים.

• חומרת ייחוס — שמונה H800 בנפח 80 GB לעומת iPhone 17 Pro Max בקצב של 13+ טוקנים לשנייה וכ־3 GB.

• רישיונות — MIT לעומת Apache-2.0, שניהם מוצהרים בכרטיסים המתאימים.

A generated two-column infographic titled 'Ming-3.0-audio-flash vs MiniCPM-V 4.7 35B-A3B — the scoreboard'. The left column, headed 'Ming-3.0-audio-flash', reads 'Modality: audio in, text out', 'Total / active: 126B / 6.5B', 'Context: 131,072 tokens', 'Weights on disk: about 259 GB', 'Reference hardware: 8x 80 GB H800', 'Licence: MIT'. The right column, headed 'MiniCPM-V 4.7 35B-A3B', reads 'Modality: image in, text out', 'Total / active: 35.2B / about 3B', 'Context: 262,144 tokens', 'Weights on disk: 70.4 GB', 'Reference hardware: iPhone 17 Pro Max', 'Licence: Apache-2.0'. The footer reads 'Vendor-reported specs; no independent benchmark of either model.' The OrcaRouter logo is composited in the bottom-right corner.

היכן שהעבודה בשפה הסינית למעשה שונה

שני המודלים נבנו על ידי מעבדות סיניות ושניהם החזקים ביותר בסינית, אך הם חזקים בדברים שונים, וטבלאות הספקים מבהירות זאת באופן יוצא דופן.

Ming-3.0-audio-flash הוא החזק ביותר בדיוק במקומות שבהם הדיבור נעשה קשה. בתמונות ההערכה שלו עצמו הוא מדווח על שיעור שגיאות ממוצע של 3.45 ל-ASR בסינית ועל ממוצע של 9.40 בניבים — קנטונזית 4.09, שנגחאית 11.15, הוקיאן 12.84, חוביי 9.46, חונאן 8.76 — לעומת ייחוס של 48.41 ב-Gemini 3.8 Flash בממוצע הניבים. אותן תמונות מראות שהוא מפסיד בדיאריזציה של דוברים (AMI 25.29 לעומת 11.16 ב-MiMo-V2.6 Pro) ובהסקה על אודיו ארוך (ציון Chain 12.31 לעומת 34.54 ב-Qwen3.8-Omni Flash). לכן הקריאה הכנה היא: מצוין בתמלול עם מבטא, בינוני בזיהוי מי דיבר ומה משמעות ההקלטה.

MiniCPM-V 4.7 35B-A3B הוא החזק ביותר בסינית חזותית צפופה: OCRBench 91.20, OCRBench_v2 68.47, OmniDocBench v1.6 94.24, CCOCR 81.14, MMMU 80.22, MathVista 88.00, CharXiv reasoning 75.60, TextVQA 84.99 — הכול מתוך התרשים של OpenBMB עצמו, כולם לא שוחזרו, וכמה שורות מסומנות כעוקפות דגמי Qwen ו-Gemma ברמת 35B בפערים צרים. ה-downsampling המעורב של טוקנים ב-4x/16x במגדל הראייה הוא המנגנון: 16x ממזג טוקנים לשם מהירות, 4x שומר פי ארבעה יותר טוקנים עבור פרטים עדינים, ויש להעביר את ההגדרה גם ל-processor וגם ל-generate(), אחרת השניים לא יתאימו זה לזה.

החפיפה ביכולות בסינית היא אפוא צרה וממשית: מסמך סיני סרוק עם הערת קול מצורפת הוא בעיה של שני מודלים, ואף אחד מהמודלים לא מטפל בחצי השני.

A screenshot of the Hugging Face model card for inclusionAI/Ming-3.0-audio-flash, showing an MIT licence, 22 downloads last month, a model-size badge reading 128B params, and a model summary table listing inclusionAI as developer, a native audio-language mixture of experts as model type, 126B total parameters with 6.5B activated per inference step, audio and text instructions as input, text or optional synthesized speech as output, and Chinese and English with varied accents and dialects as primary languages. The Inference Providers panel states the model isn't deployed by any provider.

מה העלות להעלות אחד מהם לייצור

אלה לא מספרים ברי השוואה, והעמדת פנים אחרת היא הכשל הרגיל של יצירה מהסוג הזה.

Ming-3.0-audio-flash עולה צומת אחד. שמונה כרטיסי H800 בנפח 80 GB הם הפרופיל של הספק עבור הקשר של 128K; חלופת SGLang המאומתת משתמשת בארבעה מעבדים גרפיים ומחזירה טקסט בלבד. האח התאום בעל 9.3B פרמטרים בסך הכול ו-2.7B פעילים, Ming-3.0-audio-tiny, נכנס לכרטיס גדול אחד, אך המספרים שפורסמו שלו גרועים באופן עקבי באותן טבלאות — Chain לשמע ארוך 10.56 מול 12.31, LongAudioSpan 35.45 מול 41.12, URO-Bench-Pro 54.15 מול 81.92 — לכן זהו מוצר אחר, ולא מוצר זול יותר.

MiniCPM-V 4.7 35B-A3B דורש טלפון, או GPU בודד, או כלום אם המשתמשים שלך מביאים את המכשיר. יש לו מערכת אקולוגית פעילה שאין ל-Ming: גרסאות GGUF, FP8, int4, GPTQ ו-AWQ שפורסמו בתוך ימים, מודל טיוטה ל-decoding ספקולטיבי בשם DSpark, תמיכה ב-llama.cpp וב-Ollama וכן ב-vLLM וב-SGLang, 76,000 הורדות ולמעלה מאלף לייקים במאגר הראשי. יהיה אשר יהיה, זהו מודל שאנשים אחרים כבר מריצים.

ההבדל הזה באימוץ הוא העובדה הרלוונטית ביותר לקבלת החלטות במאמר, ואין לו שום קשר לאיכות. למודל עם 76,000 הורדות יש קהילה שכבר נתקלה בבאג שלך. למודל עם 22 הורדות יש מאגר וכרטיס.

A screenshot of the Hugging Face model card for openbmb/MiniCPM-V-4.7-35B-A3B, tagged image-text-to-text, Transformers, Safetensors, multimodal, on-device, lightweight, mixture of experts and conversational under an Apache-2.0 licence, with 105k likes and 5.83k followers. The card body describes Lookahead Expert Scheduling with fine-grained layer-wise quantization and DSpark speculative sampling, claiming 13+ tokens per second with just 3 GB of memory on an iPhone 17 Pro Max, and lists support for SGLang, vLLM, llama.cpp and Ollama inference frameworks, GGUF, BNB, AWQ and GPTQ formats, and chip platforms from Rockchip, Houmo, Intel, AMD and Arm.

אז איפה הם נפגשים?

בארכיטקטורה אחת בדיוק: אפליקציה שצריכה גם לשמוע וגם לראות. המקרה הברור הוא צינור תמיכה או ציות — שיחה מוקלטת במנדרינית עם דובר דיאלקט, בתוספת טופס סרוק שהמתקשר העלה, וסיכום שצריך לחבר בין השניים. Ming מתמלל ועונה על שאלות לגבי האודיו; MiniCPM קורא את הטופס ומחלץ שדות. אף אחד מהם לא יכול לעשות את החצי של השני, והחיבור ביניהם הוא טקסט.

החיבור הזה הוא החלק שרוב הצוותים מזלזלים בו. שני צ'קפוינטים במשקלים פתוחים משמעותם שני סקרי רישיון, שני סיפורי פריסה, שני מצבי כשל ועוד קריאה אחת למודל כדי להחליט איזה מסמך הולך לאן. המסלול של Ming הוא Transformers עם trust_remote_code=True ורצפת זיכרון במאות ג'יגה-בייט; זה של MiniCPM הוא קובץ מקוונטז על מחשב נייד. הניגוד התפעולי בין שני החצאים של אותו צינור עיבוד גדול מהניגוד בין רוב המודלים המתחרים.

שכבת הניתוב, ומגבלותיה

OrcaRouter לא מארח אף אחד משני ה-checkpoints. שניהם משקלים פתוחים שאתם מריצים בעצמכם, אף אחד מהם אינו בקטלוג שלנו, ואין לקרוא אף משפט כאן כהצעת נקודת קצה. מה שנתב כן מגיע אליו הוא הרקמה המקשרת: המסווג שמחליט אם נכס נכנס הוא אודיו או תמונה ושולח אותו לצומת הנכון, הפרומפט שממסגר את החילוץ, המסכם שממזג את שני הפלטים לדוח אחד.

אלה קריאות טקסט רגילות, וההצדקה להעמיד אותן מאחורי API אחד ליותר מ-200 מודלים ללא תוספת מחיר היא פשוטה — מחיר המחירון של הספק מועבר הלאה כפי שהוא, כך שהנחת מחיר של ספק נכנסת לתוקף אצלנו באותו יום, מפתח אחד במקום שלושה חוזים. ה-DSL לניתוב הוא החלק שמתאים בדיוק לבעיה הזו: צינור עם ענף לאודיו וענף לתמונות הוא בעיית ניתוב לפני שהוא בעיית מודלים, ומעבר אוטומטי לגיבוי משאיר את ה-dispatcher פעיל כשמודל הסיווג מגמגם, וזו הקריאה היחידה בשרשרת שאתה לא יכול להרשות לעצמך לאבד.

המגבלה פשוטה באותה מידה. ניתוב לא הופך צ'קפוינט של 259 GB למתארח, והוא לא הופך מודל ראייה בגודל טלפון למערכת ASR.

הגרסה הקצרה

Ming-3.0-audio-flash הוא המודל השאפתני יותר והפחות שמיש כיום: זיהוי דיבור בדיאלקטים סיניים טוב יותר מכל דבר אחר שיש לו נתונים שפורסמו בקטגוריה שלו, בלי אימות עצמאי, בלי אינטגרציית הגשה שמוזגה, ודרישת חומרה שמוציאה אותו מהישג ידו של כל מי שאין לו צומת GPU. MiniCPM-V 4.7 35B-A3B הוא המוצר הגמור יותר: כרטיס, קוונטיזציות, תמיכת מסגרות, נרטיב מחשוב על-מכשיר שהוא באמת חדשני, וקהילה. הוא גם מודל ראייה, כלומר הוא לא יכול לעשות את הדבר שלשמו האחר קיים.

בחר לפי מודאליות וההשוואה תיקח שלושים שניות. בחר לפי שאפתנות ותבלה חודש בלגלות שלאפשרות השאפתנית יש 22 הורדות.

השוואות במאמר הזה1

זוהה מתוך המאמר הזה · בנצ'מרקים: Artificial Analysis · מתעדכן יומית