MiniCPM-V 4.7 35B-A3B מול Qwen2.5-Omni: תשעה עשר חודשים לאחר מכן, אחד מהם עדיין שומע אותך

אם תעמידו את MiniCPM-V 4.7 35B-A3B לצד Qwen2.5-Omni בגיליון מפרט, המודל החדש יותר מנצח כמעט בכל שורה. יש לו חלון הקשר גדול פי שמונה, ארכיטקטורה דלילה שמפעילה אחת משתים-עשרה מהפרמטרים שלה לכל טוקן, ועשור של כלי הסקה שלא היו קיימים כשהמודל הישן יותר הושק. ואז מגיעים לשורת האודיו, ול-MiniCPM-V 4.7 35B-A3B אין שם כלום בכלל. Qwen2.5-Omni, שיצא בסוף מרץ 2025, קולט אודיו ומזרים בחזרה דיבור טבעי; MiniCPM-V 4.7, שמשקולותיו הופיעו באוקטובר 2026, קולט טקסט, תמונות וווידאו ומחזיר טקסט. תשעה-עשר חודשים של התקדמות בצמד המסוים הזה לא הניבו מודל אומני טוב יותר. הם הניבו מודל ראייה טוב יותר שלא עושה את הדבר שהמודל הישן יותר נבנה סביבו.

המסגור הזה אינו עקיצה לאף אחד מהשניים. זה כל צורת ההשוואה, וזו הסיבה שקורא שזקוק לקול וקורא שזקוק לקרוא אלף עמודים סרוקים אמורים לצאת עם תשובות שונות. בעניין המקורות: הנתונים של Qwen2.5-Omni הם של הספק ממרץ 2025, כיום בני תשעה עשר חודשים, ומאומתים חלקית על ידי פריסה רחבה. ואלה של MiniCPM-V 4.7 35B-A3B הם של OpenBMB, שפורסמו בכרטיס דגם ב-12 באוקטובר 2026 — הכרטיס הראשון שלו, עשרה ימים לאחר שהמשקלים הופיעו לראשונה — ואף אחד מהם לא שוחזר מחוץ למעבדה.

מה היה הדגם הישן יותר למעשה

Qwen2.5-Omni היה המודל האומני-מודאלי הראשון מקצה לקצה באותה סדרה, והמסגור של הספק באותה עת היה מפורש: הוא היה התשובה לבעיית "גן החיות של המומחים", שבה תמלול, ראייה וקול נזקקו כל אחד למודל נפרד ולשכבת דבק נפרדת. מודל ה-7B קיבל כקלט טקסט, תמונות, אודיו וווידאו, והשיב בטקסט או בדיבור טבעי בזרימה, עם שני קולות קבועים, Chelsie ו-Ethan. הוא הצהיר על תוצאות מתקדמות ביותר בבנצ'מרק המיזוג OmniBench, שהקדימו את Gemini-1.5-Pro, ועל ציון איכות של יצירת דיבור של 4.51, שאותו תיאר הספק כברמה אנושית.

ההנדסה החזיקה מעמד משום שהיא תוכננה עבור האילוץ ולא סביבו. Thinker-Talker פיצל את המשימה לשניים: טרנספורמר Thinker מיזג את מקודדי השמע והתמונה והפיק סמנטיקה וטקסט, בעוד Talker הזרים אסימוני דיבור מהמצבים החבויים של Thinker ושיתף את היסטוריית השיחה המלאה. RoPE מולטימודלי מיושר-זמן שזר בין מיקומי וידאו ואודיו, כך ששני הזרמים נשארו מסונכרנים, וזרימה מבוססת בלוקים אפשרה למקודדים לבצע עבודת תפיסה בזמן שמודל השפה טיפל ברצפים ארוכים — וזה מה שאיפשר בכלל תשובות מדוברות בהשהיה נמוכה.

הגבולות היו ממשיים בדיוק באותה מידה, והם היו זיכרון ולא הקשר. הטבלאות של הספק עצמו מציבות הסקת BF16 עם FlashAttention-2 בכ-31 GB של זיכרון GPU עבור סרטון של 15 שניות, 42 GB עבור 30 שניות, ו-60 GB עבור דקה שלמה, לעומת חלון הקשר של 32,768 אסימונים. דקה של וידאו על מודל 7B, על אחד מכרטיסי ה-GPU הבודדים הגדולים ביותר שאפשר לשכור, היא המספר שצריך לשמור לנגד העיניים — זה המספר שכל מה שאחריו נבנה כדי להרוס.

מה שהמודל החדש עושה במקום זאת

MiniCPM-V 4.7 35B-A3B הולך בכיוון ההפוך לחלוטין. זהו ה-MoE הראשון של OpenBMB בסדרת MiniCPM-V: 256 מומחים עם 8 פעילים לכל טוקן לאורך 40 שכבות, חלון הקשר של 262,144 טוקנים ואוצר מילים של 248,144 טוקנים, מה שמסתכם בכ-3B פרמטרים פעילים מתוך 35.2B בסך הכול. הראייה פועלת דרך מודול SigLIP2 עם דחיסה מוקדמת בתוך ה-ViT של LLaVA-UHD v4 ומצב דחיסת טוקנים משולב של 4x/16x לבחירה — 16x כברירת מחדל, 4x כאשר פרטים עדינים מצדיקים את הטוקנים. הוא מטפל בתמונות בודדות, בקבוצות של תמונות מרובות ובווידאו. הוא עונה בטקסט.

הטענה המרכזית של הכרטיס היא שזהו מודל MoE בקוד פתוח הראשון עם הסקה חלקה וללא אובדן על המכשיר, שהושגה באמצעות Lookahead Expert Scheduling, קוונטיזציה עדינה שכבה-אחר-שכבה ודגימה ספקולטיבית דרך טיוטות ה-DSpark הנפרדות, בקצב מדווח של 13+ טוקנים לשנייה ב-iPhone 17 Pro Max. המספר הזה מדווח על ידי הספק, לא משוחזר וללא הסתייגות — אין פורמט קוונטיזציה, אין build, אין פרומפט, אין שיטת מדידה. הכרטיס גם טוען לציון כולל גבוה יותר במצב Instruct מאשר Qwen3.6 35B-A3B בזמן הסקה קצר יותר, וטענה זו מוצגת בתוך תמונת תרשים ולא בטבלה, כך שאי אפשר לצטט אותה כנתון ואסור להתייחס אליה ככזו.

שבעה ממדים, שני הצדדים

• מודאליות קלט — Qwen2.5-Omni מקבל טקסט, תמונות, אודיו וווידאו; MiniCPM-V 4.7 35B-A3B מקבל טקסט, תמונות וווידאו, ללא נתיב אודיו כלל.

• פלט — טקסט בתוספת דיבור טבעי בזרימה בשני קולות קבועים, לעומת טקסט בלבד.

• הקשר — 32,768 טוקנים לעומת 262,144, עלייה פי שמונה.

• פרמטרים — נתון ה-7B שלפיו היצרן מכנה את הדגם, לעומת 35.2B בסך הכול, עם 3B פעילים בצד של MiniCPM. המאגר עצמו מפרט 11B פרמטרים עבור ה-checkpoint, מפני שה-7B סופר את מודל השפה ולא את מקודדי הראייה והשמע שיושבים לצידו — תזכורת שימושית ש"7B" כאן הוא שם לא פחות מאשר מדידה.

• טביעת זיכרון — הטבלאות של הספק עצמו מראות כ־31 GB עבור סרטון של 15 שניות ו־60 GB עבור דקה; MiniCPM-V 4.7 הוא כ־70 GB של משקולות BF16 לפני כל KV cache, ולכן הגרסאות המקוונטנות שלו והנרטיב של עיבוד על המכשיר תופסים חלק כה גדול מהכרטיס.

• רישיון — Apache-2.0 על שניהם, וזו השורה היחידה שבה הם מסכימים ללא הסתייגות.

• כלי פריסה — תשעה עשר חודשים של כימותים קהילתיים וכלים עבור תמיכה ב-SGLang, vLLM, llama.cpp, Ollama ו-OpenVINO, בניות GGUF/BNB/AWQ/GPTQ/FP8, ואפליקציות ל-iOS, Android ו-HarmonyOS.

• הערכה ציבורית — עמדת OmniBench בת תשעה־עשר חודשים של 0.561, שצוטטה בהרחבה, לעומת כרטיס שאין בו כלל טבלת הערכה שאפשר לצטט.

חור האודיו הוא כל ההחלטה

אם הפייפליין שלך צריך מודל שישמע משהו, ההשוואה הזו מסתיימת בפסקה הראשונה. Qwen2.5-Omni הוא היחיד מבין השניים שקולט אודיו, היחיד שמדבר, והיחיד שיש מאחוריו מחסנית דיבור מבוססת — Thinker-Talker, TMRoPE, סטרימינג block-wise, שני קולות קבועים. הוא גם היחיד מבין השניים שמישהו הטמיע בקנה מידה, ותשעה עשר חודשים של קוונטיזציות וכלים מהקהילה שווים יותר מדף מפרט כשאתה מנסה להכניס מודל לאפליקציה ברבעון הזה.

מה ש-MiniCPM-V 4.7 מציע בתמורה הוא זיכרון ארוך בהרבה ופרופיל חישוב זול בהרבה לכל טוקן עבור מסמכים חזותיים ארוכים. חלון של 262K ו־3B פרמטרים פעילים הוא כלי שונה בתכלית מחלון של 32K מעל מודל צפוף של 7B — ולעומס עבודה שהוא אלפי תמונות של עמודים, צילומי מסך או תמלולי וידאו ארוכים, הצורה של המודל החדש היא הנכונה. הוא פשוט לא יכול להיות המודל שעונה לטלפון.

זו העסקה, בפשטות: טווח מול רוחב. הדגם הישן מכסה יותר חושים. הדגם החדש מכסה יותר עמוד.

שני מסלולי ראיות שונים מאוד

כאן האסימטריה פועלת בכיוון ההפוך, וראוי לדייק בעניין.

המספרים של Qwen2.5-Omni ותיקים דיים כדי שאומתו חלקית על ידי שימוש. מודל בן תשעה-עשר חודשים עם מיקום בנצ'מרק מצוטט בהרחבה, עשור של קוונטיזציות downstream ובסיס מותקן גדול אינו כמות מוכחת בשום מובן פורמלי, אבל לטענותיו היה זמן רב להיות מופרכות והן לא הופרכו. נתוני הזיכרון במיוחד פורסמו כאילוצים הנדסיים, לא כשיווק, והם התנהגו כאילוצים הנדסיים.

המספרים של MiniCPM-V 4.7 קיימים כבר שבועיים, עם אפס אימות חיצוני. המודל הגיע ללא תיעוד ב-6 באוקטובר, והכרטיס, הרישיון ומדור הטענות פורסמו ב-12 באוקטובר. עדיין אין טבלת הערכה, אין דוח טכני, ואף צד שלישי לא פרסם תוצאה. המקום היחיד עם מספרים ממשיים שפורסמו הוא נקודת הביקורת הנפרדת של DSpark, שנתוני האסימונים המאושרים לכל צעד שלה הם של OpenBMB עצמה, ושאותם המעבדה לא פרסמה עבור מודל האב.

אז העמדה הנכונה כלפי המודל החדש היא: להתייחס לארכיטקטורה כאל נתון ידוע (היא נמצאת בקובץ התצורה), להתייחס להפצה כאל אמיתית (המשקלים קיימים בשישה פורמטים), ולהתייחס לכל נתון ביצועים כאל טענה שממתינה לחוות דעת שנייה. החלק האחרון אינו מצב קבוע. זה רק מצב הדברים נכון ל-13 באוקטובר.

הרצה של כל אחד מהם, ולשם מה נועד הראוטר

שני אלה הם קבצים שאתה מגיש בעצמך. לא MiniCPM-V 4.7 35B-A3B ולא Qwen2.5-Omni נמצאים בקטלוג המתארח של OrcaRouter, ואין לקרוא שום דבר כאן כטענה שאנו מנתבים אותם — MiniCPM-V 4.7 הוא צ'קפוינט בן שבועיים שתזדקק לשני מאיצים כדי להריץ אותו ללא קוונטיזציה, ו-Qwen2.5-Omni הוא מודל במשקלים פתוחים משנת 2025 שהבית המעשי שלו הוא מופע vLLM שאתה מפעיל.

המקום שבו נתב מצדיק את עצמו הוא בצד השני של הקו הזה. רוב הצוותים שמריצים מודל ראייה באירוח עצמי עדיין זקוקים למודל מתארח למקרים שהמודל המקומי אינו יכול להתמודד איתם — הסקה לטווח ארוך, שימוש בכלים, קלטי האודיו ש-MiniCPM-V 4.7 אינו מקבל. OrcaRouter מעמיד יותר מ-200 מודלים מתארחים מאחורי מפתח אחד, מעביר הלאה את מחיר המחירון של כל ספק ללא תוספת מחיר מצדנו, ומבצע מעבר אוטומטי לגיבוי כאשר ספק מתדרדר, מה שאומר שהוספת המודל השני היא שינוי בניתוב ולא חוזה נוסף. הצורה המתארחת הקרובה ביותר למודל MiniCPM היא Qwen3.6 35B A3B — 35B סה"כ, 3B פעילים, הקשר של 262K, קלט טקסט-תמונה-וידאו — במחיר של 0.25 דולר למיליון טוקני קלט ו-1.48 דולר למיליון טוקני פלט, שהיא אמת מידה הוגנת למה שאירוח עצמי באמת חוסך לך.

איזה מהם, ומתי

קח את Qwen2.5-Omni אם אתה צריך אודיו או דיבור בכלל, אם אתה רוצה מודל עם תשעה עשר חודשים של פריסה מאחוריו, או אם 32K טוקנים ותקרה של 60 GB לדקה של וידאו נכנסים לתקציב שלך. המגבלות שלו ידועות ומתועדות, וזה יתרון כשאתה משיק.

קחו את MiniCPM-V 4.7 35B-A3B אם הבעיה שלכם היא הקשר חזותי ארוך ופלט טקסט, אם אתם רוצים את הרישיון המתירני, ואם אתם מוכנים להיות מוקדמים — כי מוקדמים זה מה שתהיו. שום צד שלישי לא הריץ אותו, הטענה על המכשיר לא שוחזרה, והבנצ'מרקים לא קיימים. מה שאתם מקבלים בתמורה הוא מודל מתועד, שניתן לכימות, עם תמיכה במספר סביבות הרצה, חלון של 262K וסיפור יעילות סביר, ואתם תזכו להיות אלה שמגלים אם הסיפור מחזיק.

מה ישנה את התשובה: טבלת בנצ'מרק מ-OpenBMB, או אורך קבלה משוחזר מהטיוטה של DSpark — עדיין הדרך הזולה ביותר למספר חיצוני במשפחה הזו. מה שלא ישנה את התשובה הוא עוד זמן. תשעה עשר חודשים לא העניקו ל-MiniCPM-V 4.7 את היכולת לשמוע, ושום דבר במפת הדרכים לא מרמז שזה בדרך.