MiniCPM-V 4.7: OpenBMB העלתה מודל חזותי-לשוני 35B-A3B ללא כרטיס מודל, ללא רישיון וללא בנצ'מרקים

MiniCPM-V 4.7 הופיע ב-Hugging Face בערב ה-6 באוקטובר 2026 כמאגר openbmb/MiniCPM-V-4.7-35B-A3B — וזה אחד הדברים המוזרים ביותר שסדרת MiniCPM אי פעם שלחה, כי כמעט שום דבר לא נשלח איתו. אין כרטיס מודל. אין README. אין רישיון מוצהר. אין טבלאות בנצ'מרק, אין פוסט השקה, אין דוח טכני, ואין ערך בתיעוד GitHub של OpenBMB עצמה, שנכון לשבוע זה עדיין מכנה את MiniCPM-V 4.6 "המודל האחרון והיעיל ביותר בסדרת MiniCPM-V". מה שכן קיים הוא 16 שברים של משקולות bfloat16, 70.4 GB מהם, המתארים מודל שפה-חזות מסוג mixture-of-experts עם 35.2 מיליארד פרמטרים, חלון הקשר של 256K ועיצוב attention היברידי אגרסיבי באופן יוצא דופן. זה מספיק כדי לומר מה המודל הוא. זה עדיין לא מספיק כדי לומר במה הוא טוב, והמאמר הזה מפריד בין שני הדברים האלה באופן קפדני.

מה שבאמת נחת, בייט אחר בייט

המאגר נוצר בשעה 18:36 UTC ב-6 באוקטובר 2026, והקומיט האחרון שלו היה שתים עשרה דקות לאחר מכן, בשעה 18:48 UTC. בין לבין, המעלה דחף את קבצי המשקלים ואת הקונפיגורציה הדרושה לטוען Transformers, והפסיק. רשימת הקבצים המלאה מונה שמונה עשרה פריטים:

• משקלים — שישה-עשר safetensors פלחים בשם model-00001-of-00016 עד model-00016-of-00016, עם קובץ האינדקס model.safetensors.index.json שמדווח על גודל טנזור כולל של 70,425,751,648 בתים.

• מספר פרמטרים — ה-API של Hugging Face קורא 35,212,875,824 פרמטרים, כולם ב-BF16. שים לב שזהו המספר הכולל של הפרמטרים, אשר עבור MoE דליל אינו מספר הפרמטרים הפעילים בכל טוקן נתון.

• תצורה — config.json (2,984 בתים), generation_config.json (186 בתים), preprocessor_config.json, processor_config.json.

• טוקנייזר — tokenizer.json (20 MB), tokenizer_config.json וchat_template.jinja (7,250 בתים).

• חסר — README.md. שליפה ישירה של הקובץ הגולמי מחזירה HTTP 404. ב-Hugging Face, README חסר משמעו שאין כרטיס דגם, מה שאומר שאין שדה רישיון, מה שאומר שהמאגר אינו נושא license: תג בכלל.

למאגר יש שלושה לייקים, אפס הורדות, ולשונית דיונים ריקה. העלאה קהילתית של צ'קפוינט בנפח 70 GB בדרך כלל מושכת תגובות בתוך שעות — שאלות על קוואנטים, על סרווינג, ועל מהו הרישיון. זה לא קרה כאן, מה שמתיישב עם כך שזה זוהה על ידי קומץ אנשים שעוקבים אחרי openbmb כארגון, במקום שמישהו הכריז עליו.

הארכיטקטורה, כפי שנקראת ישירות מ-config.json

מכיוון שאין כרטיס לפרפרזה, קובץ התצורה הוא המקור העיקרי, והוא עשיר במידע באופן יוצא דופן. המחלקה היא MiniCPMV4_7ForConditionalGeneration, סוג המודל הוא minicpmv4_7, והוא נשמר על ידי Transformers 5.2.0 — כל אלה מעידים שזהו צ'קפוינט של OpenBMB ממקור ראשון בשושלת הראשית של MiniCPM-V, ולא כיוונון עדין קהילתי שעוטה את השם.

• עמוד שדרה לשוני — model_type: qwen3_5_moe_text. מודל MoE דליל הנגזר מ-Qwen3.5, הפעם הראשונה שסדרת MiniCPM-V משתמשת במערך טקסט של Qwen-MoE ולא בגרסאות ה-Qwen הקטנות והצפופות שהניעו את MiniCPM-V 4.5 ו-4.6.

• דלילות — 256 מומחים, 8 בכל, עם גודל ביניים של מומחה ומומחה משותף באותו גודל. 35B סה"כ בתבנית של 8 מתוך 256 מפעיל חלק קטן בכל מעבר קדימה, וזו הנקודה של השם A3B: המשקלים גדולים, החישוב לא.

• עומק ורוחב — 40 שכבות חבויות, גודל חבוי 2048, 16 ראשי קשב עם 2 ראשי מפתח/ערך וממד ראש של 256.

• קשב היברידי — ה־layer_types הוא מערך באורך 40 רשומות, ומפעיל שלושה linear_attention שכבות לכל שכבה אחת של full_attention במרווח קבוע של 4. עשר מתוך ארבעים השכבות מבצעות קשב קונבנציונלי; שלושים האחרות משתמשות במסלול ליניארי בסגנון Mamba עם קרנל קונבולוציה בגודל 4. זו הבחירה העיצובית בעלת ההשלכות הרבה ביותר בקובץ, והיא אותו כיוון שאליו נע התחום הרחב יותר במהלך 2026.

• קידוד מיקומי — RoPE עם תטא של 10,000,000 ו־partial_rotary_factor: 0.25, כלומר רק רבע מממדי כל ראש עוברים סיבוב. RoPE רב-מודאלי מופעל עם mrope_interleaved: true, פיצול מקטעים של [11, 11, 10], ו־mrope_mode: canvas.

• הקשר — max_position_embeddings: 262144, וה-model_max_length של הטוקנייזר תואם. 256K טוקנים.

• חיזוי ריבוי טוקנים — mtp_num_hidden_layers: 1, ראש פענוח ספקולטיבי בודד, אותו טריק ש-MiniCPM-V 4.6 הציגה.

• מגדל ראייה — minicpmv4_7_vision, גודל חבוי 1152, 27 שכבות, אקטיבציות GELU-tanh, גודל טלאי 14 עם image_size של 980, ו-insert_layer_id של 6, שהוא המקום שבו ההטמעות החזותיות מושתלות לתוך מחסנית השפה. צורתו של המגדל קרובה לזו שב-MiniCPM-V 4.6, כך שצד הראייה הוא אבולוציה ולא בנייה מחדש.

• דחיסת ראייה — downsample_mode: "16x" ו-max_slice_nums: 9 במעבד התמונה. MiniCPM-V 4.6 הציג סכימת דחיסת טוקנים 4x/16x הניתנת להחלפה; תצורת 4.7 מציינת את הגדרת 16x כברירת מחדל, כאשר ה-slicer מאפשר עד תשע תמונות משנה לקלטים ברזולוציה גבוהה.

• אוצר מילים — 248,144 טוקנים, עם <|image_pad|> במזהה 248,056 ו<|video_pad|> במזהה 248,057. וידאו הוא קלט מן השורה הראשונה, בדיוק כפי שהוא מאז MiniCPM-V 4.5.

• שארית מסקרנת — תצורת הטוקנייזר עדיין מצהירה על <|audio_start|>, <|audio_end|> ו-<|audio_pad|>. זה כמעט בוודאות אומר שאוצר המילים משותף עם ענף ה-omni MiniCPM-o ולא ש-MiniCPM-V 4.7 מדבר אודיו. לפרש זאת כתכונת אודיו תהיה טעות שתצורה לבדה אינה יכולה לשלול.

מה שהמשפחה מספרת לנו ומה שהמאגר הזה לא

הדור 4.6 הוא נקודת הייחוס, והניגוד הוא הסיפור. MiniCPM-V 4.6 שוחרר ב-11 במאי 2026 כמודל בעל 1.3 מיליארד פרמטרים, המבוסס על מקודד חזותי SigLIP2-400M ומודל שפה Qwen3.5-0.8B, תחת Apache-2.0, עם מסר מפורש: הוא משיג ציון 13 במדד Artificial Analysis Intelligence Index — נתון הנמסר על ידי היצרן — תוך שימוש בפחות טוקנים באופן דרמטי ממודלים קטנים דומים, והוא פועל ב-iOS, Android ו-HarmonyOS עם קוד התאמת הקצה בקוד פתוח. כל הזהות שלו הייתה "קטן, יעיל, על המכשיר".

MiniCPM-V 4.7 הוא 1.3B מוכפל בכ-27 בערך. השם 35B-A3B מציב אותו באותה קטגוריה שבה נמצאים דגמי דגל דלילים, לא טלפונים. האם בכוונת OpenBMB ליעד אותו כבן לוויה בצד השרת לקו הקצה, כמורה למודל קטן עתידי, או כמבחן תקרת יכולות — לא נאמר בשום מקום, ובמאגר אין שום רמז לכאן או לכאן.

מה שבאמת חדש, וראוי לסמן לכל מי שעוקב אחרי הסדרה, הוא עמוד השדרה Qwen-MoE יחד עם יחס 3:1 בין קשב לינארי לקשב מלא. שניהם חריגות. כל מה ש-OpenBMB מפרסמת על המשפחה עדיין כתוב סביב 4.6, כך שהצ'קפוינט הזה רץ לפני התיעוד של עצמו.

מה שלא ניתן לדעת עדיין — ולמה הרשימה הזאת חשובה

כדאי להיות ישירים לגבי גודל הפער כאן, כי הפיתוי עם צ'קפוינט של 70 GB הוא למלא אותו בהסקה סבירה.

• אין רישיון. זה לא עניין של פורמליות. MiniCPM-V 4.6 הוא Apache-2.0, והקהילה כבר מצפה לכך מהסדרה הזו. מאגר בלי license: תג הוא, כברירת מחדל, כל הזכויות שמורות ברוב תחומי השיפוט — לא ניתן לבנות עליו בבטחה עד שהתג יופיע. הקובץ הבודד החסר הזה הוא ההיעדרות המשמעותית ביותר במאגר.

• אין בנצ'מרקים, בין אם מדווחים על ידי הספק ובין אם לא. אין אפילו מספר אחד להתווכח עליו. כל מי שמצטט ציון MMMU או OCRBench עבור MiniCPM-V 4.7 היום מצטט משהו שלא קיים במקור.

• ללא הערכה בלתי תלויה. Artificial Analysis וכלים דומים לניטור מאנדקסים מודלים לפי שם; צ'קפוינט בלי כרטיס ובלי הכרזה בדרך כלל נותר בלתי מדוד במשך זמן מה.

• אין מתכון הגשה. האם המשקולות ששוחררו פועלות כמות שהן ב-vLLM, SGLang או llama.cpp לא נבדק על ידי אף אחד מחוץ ל-OpenBMB. נתיבי הקוד המותאמים אישית (MiniCPMV4_7ForConditionalGeneration, MiniCPMV4_7Processor, MiniCPMV4_7ImageProcessor, MiniCPMV4_7VideoProcessor) כולם דורשים trust_remote_code, ושילוב MoE עם attention ליניארי אינו צורה שלכל מנוע הסקה יש kernel עבורה.

• ללא קוונטיזציות. MiniCPM-V 4.6 סופק עם וריאנטים GGUF, AWQ, GPTQ ו-BNB, והגיע לספרייה של Ollama ביוני 2026. עבור 4.7 לא קיימים כאלה. עבור מודל של 35B זה ההבדל בין מחשב נייד לאשכול.

• לא צוין כל קשר ל-4.6. OpenBMB עשויה להחליף את קו ה-edge, להרחיב אותו, או לבדוק משהו אורתוגונלי. המאגר לא אומר זאת, וגם לא ה-README של GitHub, שנכון לקומיט שלו מ-8 בספטמבר 2026 עדיין מפרט את 4.6 כגרסה הנוכחית.

קיימת גם פרשנות סבירה אך לא מאומתת של ציר הזמן: הפער של שתים־עשרה דקות בין יצירת ה־repo לבין ה־commit האחרון, היעדרו של כרטיס, והיעדרו של כל פוסט הם מה שנראית נקודת ביקורת כאשר היא מוכנה להשקה ולא לאחריה. זו השערה בנוגע לכוונה, לא עובדה בנוגע לארטיפקט, ויש להתייחס אליה ככזו.

איך היית מריץ את זה בפועל, כשיש משהו להריץ

שום דבר כאן עדיין אינו ניתן לציטוט כנתיב נתמך, אך התצורה כן מגבילה את האפשרויות. צ'קפוינט BF16 עם 35B פרמטרים זקוק לכ-70 ג'יגה-בייט של זיכרון מאיץ לפני מטמון KV, כך שפריסה חובבנית על GPU בודדת אינה באה בחשבון עד שיגיעו הקוונטיזציות. הקונטקסט של 256K ויחס תשומת-הקשב הליניארי של 3:1 פירושם שמטמון ה-KV גדל לאט בהרבה מאשר בטרנספורמר קונבנציונלי באותו עומק, וזו בדיוק הסיבה שהארכיטקטורה הזו שווה את המורכבות — עבודה מולטימודלית עם קונטקסט ארוך היא המקום שבו העיצוב מצדיק את עצמו. כשכרטיס יופיע, הדברים הראשונים שכדאי לבדוק הם הרישיון, האם פורסם מתכון רשמי של vLLM או SGLang, והאם ניתן להחליף את ברירת המחדל של דאונסמפל פי-16 בהגדרת הפי-4 שנחשפה ב-4.6.

עבור צוותים שרוצים להעריך מודל כמו זה ברגע שהוא הופך לשמיש, הבעיה המעשית אינה המשקולות, אלא התשתית שסביבן. מודל שיושב על ה-GPU שלך עדיין זקוק לכל מה שסביבו — נתב שמעמיד יותר מ-200 מודלים מתארחים מאחורי מפתח אחד, במחיר המחירון של כל ספק בלי תוספת שלנו מעל, ושעובר אוטומטית לספק חלופי כשספק מתדרדר. לשם כך נועד OrcaRouter, וכדאי לומר בבירור ש-MiniCPM-V 4.7 עצמו אינו מודל מתארח: זהו צ'קפוינט במשקולות פתוחות שאתה מגיש בעצמך. הנתב חשוב כאן כחצי השני של הארכיטקטורה — מודל החזית שקופסת ה-4.7 שלך מעבירה אליו את המקרים הקשים, נגיש דרך אותו לקוח שכבר כתבת.

מצב העניינים, והקובץ האחד שיש לרענן

MiniCPM-V 4.7 קיים. המשקלים שלו ניתנים להורדה היום, מספר המשקלים שלו מדויק, ובחירות העיצוב מתקופת האימון שלו — MoE דליל, תשומת לב לינארית ביחס 3:1, הקשר של 256K, דחיסה חזותית של פי 16 — כולן קריאות מקובץ התצורה. מה שלא קיים הוא כל הצהרה מ-OpenBMB על מה שהמודל עושה, מה העלות של הרצתו בפועל, או מה מותר לך לעשות איתו. עבור מעבדה שהמודל החזותי האחרון שלה היה מהדורת קצה 1.3B תחת Apache-2.0 עם טבלת השוואה מלאה, זהו פער צורם, והעמדה ההגיונית היא לעקוב אחר המאגר ולא אחרי השיח. הקובץ היחיד שכדאי להמשיך לרענן הוא README.md: ברגע שהוא יופיע, הוא יישא את הרישיון, את מדדי הביצועים, וכנראה גם את ההסבר למה עושה MiniCPM-V בגודל 35B בסדרה שנבנתה על מודלים קטנים.

עד אז, הסיכום הישר הוא המשעמם. זהו צ'קפוינט אמיתי ממעבדה אמיתית, שהועלה בשקט, ולשאלה המעניינת — האם הוא טוב — אין תשובה שפורסמה.

OrcaRouter מגיע ליותר מ-200 מודלים מתארחים באמצעות מפתח אחד, כאשר מחיר המחירון של כל ספק מועבר ישירות ללא תוספת של 0% ומעבר אוטומטי בין ספקים במקרה תקלה. מחיר מחירון של ספק מועבר ישירות ללא תוספת של 0% MiniCPM-V 4.7 אינו אחד מהם - הוא צ'קפוינט במשקולות פתוחות שאתה מארח בעצמך, והראוטר הוא זה שנמצא בצד המרוחק של ההעברה.