Nemotron Sports Tennis נגד North Micro Vision Instruct: קורא טניס 31B מול מומחה מסמכים 2.4B

תשובה קצרה תחילה: NVIDIA NemotronLabs AI for Media - Sports Tennis ו-North Micro Vision Instruct אינם תחליפים, ואיש שבוחר ביניהם לא באמת בוחר ביניהם. האחד הוא מודל מולטימודלי בגודל 31B שאותו כיווננה NVIDIA כדי לענות על שאלות על נקודות טניס, זקוק לבערך 80 GB של זיכרון GPU, וקורא אנגלית בלבד. האחר הוא מודל שפה-חזות בגודל 2.4B מבית Cohere שנכנס לכרטיס תחנת עבודה בודד, מטפל באחת-עשרה שפות, ונבנה מעל הכול כדי לקרוא מסמכים — עמודים, תרשימים, טבלאות, OCR.

הם משתייכים לאותה קטגוריה רחבה וכמעט לשום מקום אחר. להלן הגרסה הכנה של ההשוואה: היכן ששני אלה באמת נבדלים, מה כל ספק פרסם ומה לא פרסם, והמצב האחד שבו הבחירה אמיתית.

מה כל מודל נועד לעשות

North Micro Vision Instruct מצמד מודל שפה של 2B — North Micro LLM של Cohere, בהתאם לארכיטקטורת Command A+ — עם מקודד ראייה בעל 400M פרמטרים שאומן באופן מותאם אישית מ-SigLIP 2 SO400M, עבור 2.4B סה"כ. מסלול הראייה שלו הוא ברזולוציה מקורית, תוך שמירה על יחסי רוחב-גובה במקום שינוי גודל לרשת קבועה, ומקרן DeepStack מזריק הטמעות טלאים משכבות מקודד מרובות אל שכבות השפה המוקדמות המתאימות במקום להוסיף ייצוג יחיד בתחילה. המסגור המוצהר של Cohere הוא בסיס קומפקטי לאב-טיפוס ולכיוונון עדין למשימות ספציפיות, עם הבנת מסמכים כיכולת הדגל. כרטיס המודל גלוי באופן יוצא דופן לגבי התקרה: North Micro Vision Instruct הוא במפורש לא מודל הסקה, אין לו קריאה לכלים, והוא לא אומן עם הנחיות מערכת.

Sports Tennis הוא הצורה ההפוכה בכל מימד. NVIDIA התחילה מצ'קפוינט Nemotron 3 Nano Omni 30B-A3B-Reasoning שלה — תערובת מומחים היברידית של Mamba2-Transformer, 31B סה"כ עם כ-3B פעילים לכל טוקן — וכיווננה אותה על קורפוס טניס קנייני שתויג ידנית. מקודד הראייה (C-RADIOv4-H) ומקודד הדיבור (Parakeet) הוקפאו שניהם; רק פרמטרי מודל השפה זזו. התוצאה היא מודל צר במכוון: הוא עונה על שאלות מרובות-ברירה מובנות ושאלות פתוחות על קליפ של נקודת טניס שלמה, הכוללות מכניקת חבטות, מיקום במגרש, תנועת שחקנים, עובדות משחק, ידע בחוקים ורמזים קוליים. NVIDIA מתארת אותו כעובד בצורה הטובה ביותר כאשר נקודה שלמה — מההגשה ועד סוף הראלי — מועברת כקלט.

הממדים שלמעשה מפרידים ביניהם

• פרמטרים — North Micro Vision Instruct: 2.4B (2B שפה, 400M ראייה). Sports Tennis: 31B סה"כ, ~3B פעילים לכל טוקן.

• קלטים — North Micro Vision Instruct: טקסט ותמונות משתלבים, רזולוציה מקורית, ריבוי תמונות. Sports Tennis: וידאו עד 2 דקות, אודיו עד שעה, תמונות, טקסט.

• פלט — שניהם מחזירים טקסט. North Micro Vision Instruct מחזיר בנוסף תיבות תוחמות של עיגון בקנה מידה מנורמל של 0–1000.

• שפות — North Micro Vision Instruct: 11+, כולל אנגלית, גרמנית, צרפתית, ספרדית, איטלקית, פורטוגזית, הינדית, יפנית, קוריאנית, סינית וערבית. Sports Tennis: אנגלית בלבד.

• הקשר — North Micro Vision Instruct: עמוד שדרה לשוני של 128K טוקנים, אך Cohere מסמנת את הטווח המולטימודלי המאומת כעד 8K טוקנים, כאשר הקשרים מולטימודליים ארוכים יותר נשענים על אקסטרפולציה ואינם נבדקים בבנצ׳מרק. ספורט טניס: עד 256k טוקנים.

• טביעת רגל — North Micro Vision Instruct: כ־4.97 GB ב־BF16, בערך 2.17 GB ב־4-bit. Sports Tennis: כ־62 GB ב־BF16, נדרש GPU אחד של 80 GB.

• רישיון — North Micro Vision Instruct: Apache 2.0. Sports Tennis: OpenMDW-1.1, כאשר הכרטיס מציין שימוש מסחרי ולא מסחרי.

מדדים: למודל אחד יש אותם, ולשני יש פרוטוקול

כאן זה המקום שבו שני הכרטיסים לא יכולים להיות שונים יותר ביציבה.

Cohere מפרסמת מספרים עבור North Micro Vision Instruct. DocVQA 0.921, ChartQA 0.808, OCRBench 0.792 — ו-MMMU 0.329. כולם מדווחים על ידי הספק, אף אחד מהם לא שוחזר באופן עצמאי, ו-Cohere עצמה מציינת שתוצאות OCR משתנות בחדות לפי הפיצול. כדאי להתעכב על הנתון האחרון: ציון MMMU של 0.329 הוא נמוך, והוא עקבי עם כל השאר שהכרטיס אומר על העיצוב של המודל. מדובר במומחה קריאה, לא במודל הסקה כללי, והחברה שבנתה אותו אומרת זאת. גילוי נאות מסוג זה שימושי יותר ממספר מחמיא.

NVIDIA אינה מפרסמת דבר. כרטיס ה-Sports Tennis מתאר בקפידה את ההערכה שלו — מחיצת בדיקה של 12 משחקים שהוצאו במלואם מחוץ לאימון, 2,689 קליפים ברמת נקודה ו-80,872 שאלות ממשחקים ללא חפיפה עם האימון, הנמדדת לפי דיוק אוטומטי בבחירה מרובה ו-pass@9 של LLM-as-judge על תשובות פתוחות, כאשר פיצול המשחקים הנראו הוצא במפורש מהבדיקה המדווחת — ואז אינו מדווח שום תוצאה מכל זה. צד האימון מפורט באותה מידה: 1,312,129 דוגמאות שו״ת, 1,226,081 רב-ברירה ו-86,048 פתוחות, שנאספו מ-43,084 קליפים ברמת נקודה ב-239 משחקים, שתויגו לפי 38 קטגוריות תיוג.

אפילו אם NVIDIA הייתה מפרסמת ציונים, הם לא היו ברי-השוואה. אין בנצ'מרק שבו מופיעים גם מודל להבנת מסמכים וגם מודל לניקוד נקודות טניס. החפיפה בין שני סיפורי ההערכה האלה היא אפס.

פריסה: היכן שההבדל המעשי מתבטא

המודל 2.4B הוא, בפער ניכר, הדבר הקל יותר לתפעול. בערך 5 GB של משקולות BF16 אומר שכרטיס מסך בודד של תחנת עבודה מודרנית מתמודד איתו, וגרסת ה-4-bit בכ-2.17 GB הופכת קטנה עוד יותר. קיימים פורטים עצמאיים עבור Core AI runtime של אפל, עם דיווח של ~18.2 טוקנים/שנייה ב-int8 על iPhone 17 Pro, וקוונטיזציה int4 נכשלת לחלוטין. החיכוך הוא בתוכנה: North Micro Vision Instruct דורש Transformers 5.16.0 — ניתן להתקין מקוד המקור עד שיגיע ל-PyPI — ותמיכת vLLM ציבורית עדיין תוארה כ'בקרוב' בכרטיס. כיוונון עדין נתמך באמצעות Axolotl. אין API מתארח של צד ראשון; הדרך המעשית היא אירוח עצמי.

Sports Tennis הוא הדבר הקשה יותר להפעלה, ואין דרך לעקוף זאת. GPU אחד של 80 GB ב-BF16, לא פורסם צ'קפוינט מכומת, אנגלית בלבד, לינוקס בלבד, על PyTorch/Transformers או NeMo או Megatron. NVIDIA בדקה על פני A100, H100, H200, B200, GB200 NVL72, RTX PRO 6000 SE, L40S, DGX Spark, Jetson Thor ו-RTX 5090 — רשימת חומרה שאומרת יותר על מה ש-NVIDIA רצתה לאמת מאשר על מה שצוות רגיל יכול להקצות. גם מדיניות ההסקה המוגדרת כברירת מחדל של הכרטיס היא מינימלית: 2 פריימים לשנייה עד 128 פריימים, 256 טוקנים חדשים, פענוח חמדני.

אף אחד משני המודלים לא מוגש ב-OrcaRouter. ל-North Micro Vision Instruct אין נקודת קצה של צד ראשון והוא אינו בקטלוג שלנו; ל-Sports Tennis אין נקודת קצה בשום מקום, מכיוון ש-NVIDIA פרסמה משקלים ולא שירות מתארח. שניהם החלטות של אירוח עצמי.

המקום שבו שכבת ניתוב כן עוזרת הוא בצינור העיבוד שסביבם — לא משנה איזה מהם תריצו באופן מקומי, מודלי התמלול, הסיכום, האחזור והיישום שמקיפים אותו מתארחים אצל ספק חיצוני, והצבתם מאחורי מפתח API אחד עם מעבר אוטומטי לגיבויחוסכת הקמה של סט הרשאות וחוזה נפרדים לכל אחד מהם. אנחנו מעבירים את מחיר המחירון של הספק ללא תוספת, ברווח של 0%, על המודלים שאנחנו כן מספקים, כך שהחלקים בערימה שאתם לא מארחים בעצמכם נשארים במחיר הספק.

כשהבחירה אמיתית

יש תרחיש אחד שבו ההכרעה בין השניים היא החלטה של ממש, וכדאי להיות קונקרטיים לגביו, כי זה לא מובן מאליו.

זה המקרה של ארגון מדיה או ספורט שכבר מעבד מסמכים ורוצה להוסיף הבנת וידאו ברמת נקודה. שדרן עם צינור עיבוד ארכיוני, ליגה עם דוחות משחק וקובצי PDF סטטיסטיים, בעל זכויות עם גם טקסט וגם קטעי וידאו — עבורם, North Micro Vision Instruct כבר סביר שנמצא בסט הטכנולוגי שלהם עבור OCR וחילוץ תרשימים, ו-Sports Tennis היא היכולת החדשה שהם יוסיפו. השאלה אינה "איזה מהם" אלא "מה עולה לי השני בתשתיות", והתשובה היא GPU של מרכז נתונים ומגבלה של אנגלית בלבד.

מחוץ למקרה הזה, המודלים פשוט לא מתחרים. אם אתה צריך שמסמכים ייקראו באחת עשרה שפות בכרטיס תחנת עבודה, North Micro Vision Instruct הוא התשובה ו-Sports Tennis אינו רלוונטי עבורך. אם אתה צריך לשאול שאלות מובנות על נקודות טניס עם הקשר אודיו, Sports Tennis הוא היחיד מבין השניים שעושה זאת, והעובדה שחסרים לו בנצ'מרקים מפורסמים היא סיכון שתקבל על עצמך, ולא סיבה לבחור במודל האחר.

מה לבחור

בחרו ב-North Micro Vision Instruct אם העבודה שלכם כוללת מסמכים, תרשימים, OCR, grounding או הבנת תמונות רב-לשונית, ואם אתם מעריכים ספק שמפרסם את המספרים החלשים שלו לצד החזקים. הוא קטן, תחת Apache 2.0, מתועד היטב, וכנה לגבי היותו לא מודל חשיבה. ה-MMMU שלו של 0.329 אינו פגם שאתם מגלים בדיעבד; Cohere אומרת לכם זאת מראש.

בחר ב-NVIDIA NemotronLabs AI for Media - Sports Tennis רק אם אתה זקוק ספציפית להסקת טניס ברמת הנקודה עם אודיו, יש לך GPU של 80 GB שאתה יכול להקדיש, ואתה מרגיש בנוח להיות האדם הראשון שמעריך אותו. איש לא פרסם ציון עבור המודל הזה, כך שההורדה עצמה היא הניסוי. זו אינה סיבה להימנע ממנו — מומחה צר עם סט אימון מתויג בקפידה של 43,084 קליפים הוא בדיוק סוג המודל שיכול לנצח כללי במשימה שלו עצמו — אבל זו סיבה להתייחס לפריסה הראשונה כאל ניסוי ולא כמחויבות.

הדבר האחד שאסור לך לעשות הוא להתייחס אליהם כאל ניתנים להחלפה, משום שעל הכרטיס של שניהם כתוב "מודל חזותי-לשוני". קורא מסמכים ואנליסט טניס מעולם לא היו אותו מוצר, ובזוג הזה הפער במה שהם עושים גדול בהרבה מהפער בכמה טוב הם עושים זאת.