כרטיס כותרת שנוצר שכותרתו 'MAI Decision 1 vs Nimble v3' עם כותרת המשנה 'מודד מתארח מול רישיון שאי אפשר להפיץ', מחולק לשני פאנלים מעוגלים סביב דיסקית 'vs'. הפאנל השמאלי, 'Microsoft-Decision-1.1', נושא את שורת המשנה 'מתארח, לפי טוקן' ואת השורות '$0.042 למיליון טוקנים', 'נקודת קצה Foundry', '67.78 ב-AA v2.1' ו'תנאי שימוש'; הפאנל הימני, 'Bespoke-Nimble-9B-v3', נושא 'מתאם להורדה', 'CC BY-NC 4.0', 'LoRA של חמישה קבצים', '56.88 ב-DI 0.2.1' ו'GPU משלך'. בתחתית נכתב 'שני הציונים שפורסמו מגיעים מערכות הערכה שונות, ולכן אינם ברי השוואה.' הלוגו של OrcaRouter מוטמע ברצועה הלבנה שמתחת לגרפיקה.
Engineering & Research

MAI Decision 1 לעומת Nimble v3: כלי ניקוד מתארח מול רישיון שאי אפשר להפיץ

מחבר

jinhao.song

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

הדבר הראשון שמבדיל MAI Decision 1 — המודל ש-Microsoft שחררה ב-Ignite בשם Microsoft-Decision-1.1 — מNimble v3, שהוגש ב-Hugging Face בשם Bespoke-Nimble-9B-v3, אינו מדד ביצועים. זהו סעיף רישיון. Nimble v3 הוא מתאם LoRA שמשוחרר תחת CC BY-NC 4.0, שכרטיס המודל מפרש כ"אסור להשתמש בו למטרות מסחריות". המודל של Microsoft הוא נקודת קצה מתארחת ששוכרים לפי טוקן, כך ששאלת הרישיון לא עולה כלל וגם שאלת האירוח העצמי לא עולה. אחד מאלה אפשר לשים במוצר; את האחר אפשר לשים במחברת. כל השאר בהשוואה הזאת נובע מהפיצול הזה, כולל מדוע אין להפחית את הציונים המפורסמים שלהם זה מזה.

מה כל אחד מהם בעצם, מבחינה מכנית

Microsoft-Decision-1.1 הוא פריסת Foundry, פעיל מאז 17 בנובמבר 2026, שעבר אימון-המשך על ידי Microsoft על Gemma 4 26B-A4B. אתם שולחים מצב ושאלות מוקלדות לנקודת קצה של החלטות, מקבלים בחזרה הסתברויות מכוילות, והחיוב הוא $0.042 למיליון אסימוני קלט ב-Global Standard או $0.05 באזורי הנתונים EU ו-APAC. אין הורדה, אין מסלול כוונון עדין, ואין אפשרות לאחסון עצמי בכרטיס המודל. זמן ההשהיה הוא 123 מ״ש למשימה לפי המדידה של Artificial Analysis; ההקשר הוא 32,768 אסימוני קלט; הוא קורא גם תמונות וגם טקסט.

Nimble v3 הוא מתאם PEFT בן חמישה קבצים עבור Qwen3.5-9B, שהועלה ב-30 בספטמבר 2026 ללא הודעה נלווית, ללא פוסט בבלוג וללא הערת שחרור מטעם Bespoke Labs. המאגר מכיל README, קונפיגורציית מתאם, משקולות מתאם, קונפיגורציית סכימה וקובץ gitattributes — זו הרשימה המלאה. את מודל הבסיס, מנוע ההסקה וה-GPU אתה מביא בעצמך. מאגר מערך הנתונים הנלווה מכיל את ריצת ה-Decision Index המלאה, את המנוע ואת הוראות השחזור, שזו שקיפות רבה יותר מזו שרוב הספקים מציעים, וגם עבודה רבה יותר מזו שרוב הקונים מצפים לה.

• משקלים — מתארחים בלבד, ללא הורדה, לעומת מתאם BF16 בנפח 20 GB שאתם מרכיבים על Qwen3.5-9B

• רישיון — תנאי השירות של Microsoft לעומת CC BY-NC 4.0, לא-מסחרי, עם בסיס Apache 2.0 שאינו מרפה מההגבלה של המתאם

• ממשק — נקודת קצה לקבלת החלטות עם שאלות מטויפסות והסתברויות לעומת קוד ההסקה שלך, מקובעת לקובצי פרומפט ולטוקנים של קודי-אפשרות לפי hash

• הקשר — 32,768 אסימונים לעומת 32,768 אסימונים, כאשר בקשות גדולות מדי נדחות ולא מקוצצות

• תמונות — עד 8 לשאלה, 280 עד 1,568 פיקסלים לכל צד לעומת טקסט בלבד

• מחיר — $0.042 למיליון טוקנים, קלט בלבד, לעומת חומרה, חשמל ומהנדס

• ציון שפורסם — 67.78 ב-AA Decision Index v2.1 לעומת 56.88 ב-Decision Index 0.2.1

A screenshot of the Hugging Face model card for Bespoke-Nimble-9B-v3, showing the bespokelabs organisation, 15 likes, the PEFT and Safetensors tags, the license: cc-by-nc-4.0 badge, the card text describing the model as a LoRA adapter for Qwen/Qwen3.5-9B that returns a probability for each option, the line 'Decision Index 0.2.1: 56.88' with the pointer to the bespokelabs decision-index repository, and the licence paragraph stating it may not be used for commercial purposes while the base model is Apache 2.0.

שני המספרים אינם על אותו סרגל

התבליט האחרון הוא זה שמתעללים בו בפוסטי השוואה, ולכן כדאי להיות בוטים: 56.88 ו-67.78 אינם ברי השוואה. הנתון של Nimble v3 מגיע מ-Decision Index 0.2.1, ערכת הקוד הפתוח ש-Bespoke Labs מריצה בעצמה, על ההרנס שלה, עם מימוש הייחוס שלה. הנתון 67.78 של Microsoft מגיע מ-Artificial Analysis Decision Index v2.1, הרכב שונה של הערכות עם משקלים שונים, פונקציית ניקוד שונה וקבוצה שונה של מודלים בתחום.

שני הלוחות מודדים את אותה משפחת התנהגות — בוחרים מבין אפשרויות תחומות ומקבלים ניקוד על דיוק שמופחת לפי כמה הביטחון שהצהרתם עליו החמיץ. אבל צירוף משוקלל של שש הערכות עם איבר סימטריה אינו אותו מכשיר כמו הרצת ערכה ציבורית, והפחתת האחד מהשני יוצרת "פער" של 10.9 נקודות שהוא בעיקר הבדל בסרגלים. כל מי שמציג לכם את החיסור הזה הוא או רשלן או מוכר משהו.

מה שאפשר לומר בלי להפריז מצביע רק על כיוון. הכרטיס של Nimble v3 עצמו מדווח על מספר אחד וללא פירוט, במשפחה שה-checkpoint המוקדם שלה פרסם טבלה מלאה בהרבה: 90.12% התאמה לתוויות ייחוס לעומת 93.21% של Jev 1.13.0 על 324 זוגות ניגודיים שנשמרו מחוץ לאימון, ו-75.7% לעומת 76.0% על 3,880 החלטות שתויגו בידי אדם על פני שלושה עשר מערכי נתונים ציבוריים. אלה המספרים של ה-Nimble הראשון, לא של v3, והפרויקט מתייג אותם כמדידות של עצמו. Decision 1.1, לעומת זאת, מציג ציון עצמאי של 67.78 עם שישה ציוני משנה שפורסמו ו-Brier של 0.160 בלוח דירוג שמדרג גם את המתחרים שלו באותו אופן. אם צריך מספר שאפשר לעמוד מאחוריו בסקירת רכש, רק אחד מאלה מספק מספר כזה.

A generated two-column comparison scoreboard titled 'MAI Decision 1 vs Nimble v3 — the scoreboard'. The Microsoft-Decision-1.1 column reads Licence Microsoft service terms, Weights hosted only, Deployment Foundry endpoint, Images up to 8 per question, Published score 67.78 on AA v2.1, Price $0.042 per M tokens; the Nimble v3 column reads CC BY-NC 4.0, 20 GB adapter, your own GPU stack, text only, 56.88 on DI 0.2.1, hardware and electricity. The footer reads 'Nimble v3 figures per Bespoke Labs' model card; Decision 1.1 per Artificial Analysis.' The OrcaRouter logo is composited in the white strip below the artwork.

הרישיון הוא ההחלטה כולה, והוא גרוע מכפי שהוא נראה

CC BY-NC 4.0 על המתאם משמעו אין שימוש מסחרי. זה לא אזור אפור שאפשר לתרץ סביבו, והעקיפה המובנת מאליה לא עובדת: מודל הבסיס, Qwen3.5-9B, הוא Apache 2.0, וכרטיס המודל של Bespoke אומר זאת במפורש — אבל בסיס מתירני אינו מרפה מתאם לא-מסחרי, והמתאם הוא המקום שבו מתקיימת התנהגות קבלת ההחלטות. הסירו את המתאם ותישארו עם מודל 9B כללי שאינו מודל קבלת החלטות כלל.

קיימת בעיה שנייה, שפחות דנים בה. מאגר ה-GitHub של פרויקט Nimble אינו מדווח על רישיון כלשהו דרך ה-API, מה שאומר שלקוד האימון והאוצרות אין תנאים מוצהרים גם כן. אם הצוות המשפטי שלך ישאל מה מותר לך לעשות עם צינור העיבוד שיצר את המשקלים, התשובה היא שהפרויקט לא אמר.

העמידו זאת מול המודל של מיקרוסופט: אי אפשר להוריד אותו, ולכן אי אפשר לפצל אותו, אבל גם אי אפשר בטעות לבנות מוצר על בסיס רישיון שאינו מתיר את המוצר. עבור צוות שמתלבט בין השניים, המסגור המעשי הוא שאחד הוא רכישה והשני הוא תוצר מחקר. אם עומס העבודה הוא מסחרי, ההשוואה מסתיימת כאן והמודל המתארח מנצח כברירת מחדל. אם לא — מערך הערכה פנימי, מחקר אקדמי, אב־טיפוס שאתם מתכוונים להחליף — אז המתאם באמת מעניין, וטביעת הרגל שלו של 20 GB אומרת שהוא רץ על GPU בודד שאולי כבר יש לכם.

מציאות הפריסה בכל צד

הרצה נכונה של Nimble v3 אינה עניין של טעינת המתאם ושיחה איתו. כרטיס הנתונים מציין במפורש שהמנוע בונה את ההנחיות שתצורת הסכימה שלו נועלת לפי גיבוב, וקורא כל בקשה באמצעות דפוס הקשבה שאיתו אומן המודל; טעינת המשקלים כמודל צ'אט רגיל, או יצירת טקסט, אינה משחזרת את תשובותיו. המנוע מסרב להיטען אם קובצי ההנחיות או אסימוני קוד האפשרויות שונים מהאימון. תזדקקו ל-CUDA, BF16, torch 2.8, transformers 5.17.0, peft ושתי ליבות קשב, ובקשות מעל מגבלת ההקשר נדחות ולא מקוצרות.

זו מחויבות הנדסית אמיתית והיא קונה לך משהו שהמודל המתארח לא יכול להציע: היכולת לפעול בלי יציאת רשת, על החומרה שלך, עם האפשרות לבדוק כל פרומפט. בסביבות מפוקחות שבהן קריאה למודל לא יכולה לצאת מהבניין, זהו היחיד מבין השניים שאפילו מהווה מועמד — והרישיון הלא-מסחרי עדיין עלול לפסול אותו, וזה המלכוד.

בצד של Microsoft העלות שונה וקטנה יותר. פריסת Foundry, נקודת קצה, שם פריסה, מפתח או אסימון Entra. אם השהיה חשובה, הצב את משאב Foundry באותו מיקום כמו האפליקציה שלך; השתמש בפריסה של אזור נתונים אם ההסקה חייבת להישאר באזור, בתעריף של $0.05 למיליון אסימונים במקום $0.042. האינטגרציה שלך היא קריאת HTTPS עם גוף JSON, וצורת התגובה היא הסתברויות שעליהן מחילים סף.

• זמן עד לקריאה הראשונה — פחות משעה ב-Foundry לעומת הגדרת GPU, שרשרת כלים מוצמדת והרצת שחזור

• מצב כשל — מגבלת קצב או השבתת אזור לעומת CUDA OOM או אי-התאמה בגרסת קרנל

• מסלול שדרוג — אין: הספק משחרר גרסה חדשה לעומת תג מתאם חדש שאפשר לנעוץ או להתעלם ממנו

• נתיב יציאה — אין; אירוח בלבד לעומת הישארות המשקלים במקומם, בכפוף לרישיון

כאשר היורש מסבך את הסיפור

Nimble v3 אינו המודל הנוכחי של Bespoke Labs, ולכך יש חשיבות לכל מי שמעריך אותו כעת. Nimble-v4-max, שהועלה ב-3 בנובמבר 2026, הוא כוונון עדין מלא של Qwen3.8-27B ולא אדפטר, ופורסם עם היסטוריית תגיות וטבלת בנצ'מרקים: 72.74 ב-Decision Index 0.3 public, עלייה מ-68.46 ב-v4.0, על פני 43 בנצ'מרקים שציוניהם לכל בנצ'מרק מסופקים בקובץ JSON. הוא דורש כ-55 GB ב-BF16 וכרטיס GPU יחיד בנפח 80 GB. הוא גם תחת CC BY-NC 4.0.

אז ההערכה הכנה לגבי Nimble v3 היום היא שהוא הדור הקודם של קו שכבר התקדם פעמיים, והציון המפורסם היחיד שלו הוא על גרסת ערכה שהמודל הנוכחי כבר השאיר מאחור. השוואה בין מוצר דגל מתארח בן שלושה שבועות של ספק לבין מתאם שהועלה בשקט ושהוא בן שתי גרסאות אינה מאבק הוגן באף אחד מהצירים. שאלת המוצר היא באמת Microsoft-Decision-1.1 מול Nimble-v4-max, וגם שם תשובת הרישוי אינה משתנה.

מפתח אחד, כשעדיין מתלבטים

אף אחד מהמודלים אינו בקטלוג של OrcaRouter, והטקסט הזה לא ירמוז אחרת: Microsoft-Decision-1.1 הוא בלעדי ל-Foundry, ומתאם מסוג CC BY-NC אינו משהו שראוטר מסחרי יכול לספק. מה שהקטלוג כן מציע הוא הסביבה הסמוכה, וזה בדיוק המקום שבו רוב ההערכות למעשה מתחילות.

השכונה עדיין שימושית, כי שני הצדדים של ההתמודדות הזו מגדירים את עצמם מול אותו יריב. Jev 1.14 הוא היריב הזה: Microsoft-Decision-1.1 מנצח אותו ב-1.55 נקודות בלוח התוצאות העצמאי, והצ'קפוינט המוקדם יותר של Bespoke מדד את עצמו מול Jev 1.13.0 ב-README שלה. Jev 1.14 עונה ב-$0.042 למיליון טוקנים בקלט ובפלט. הבסיס Gemma 4 26B A4B, שעליו Microsoft ביצעה אימון-המשך, ניתן לניתוב ב-$0.25 למיליון טוקני קלט ו-$2.90 פלט. שימו את J​ev ומודל כללי על התעבורה המתויגת שלכם מאחורי נקודת קצה אחת, עם מעבר אוטומטי לגיבוי, ותלמדו במהלך אחר צהריים אחד אם מודל החלטות מצדיק את מקומו במסלול — לפני מחזור רכש, ולפני רכישת GPU. אם כן, הנתב נשאר לפני כל מודל החלטות שתפרסו, כך שמגבלת הקצב של ספק אחד היא ניתוב מחדש ולא תקרית.

A screenshot of the OrcaRouter model page for typesafe/jev-1.14, showing the OrcaRouter navigation, the models breadcrumb for the typesafe vendor, the model name typesafe/jev-1.14, HF and ZDR badges, a Data retention panel describing Zero Data Retention, and the page's Code samples, Pricing, Performance, Public benchmarks and How it compares sections.

מה שמערך הבדיקות הזה לא יגיד לך הוא איך Decision 1.1 עצמו מתנהג על הנתונים שלך. לשם כך אתה צריך פריסת Foundry ואת התוויות שלך, ואין קיצור דרך בכל הנוגע לתיוג.

איך לבחור

בחרו ב-Microsoft-Decision-1.1 אם עומס העבודה מסחרי, אם אתם רוצים ציון מכויל שאפשר להצביע עליו מול ועדה בלתי תלויה, אם אתם זקוקים לקלט תמונה, או אם אתם מעדיפים לשכור 123 ms מאשר להחזיק צינור עיבוד GPU משלכם. זה רוב הצוותים.

שקול את Nimble v3 רק אם כל שלושת התנאים האלה מתקיימים: השימוש אינו מסחרי, קריאת המודל אינה יכולה לצאת מהתשתית שלך, ואתה מוכן להריץ את המנוע של הפרויקט עצמו ולא מטעין גנרי. אם אחד מהם נכשל, הרישיון או הצד ההנדסי כבר הכריעו בשבילך — ואם אתה בוחר ב-Nimble היום בכלל, בדוק קודם את Nimble-v4-max, כי הציון המפורסם היחיד של v3 הוא המספר הוותיק ביותר בהשוואה.

{{1}}הדבר שצריך להתנגד לו הוא הטבלה המסודרת.{{/1}} {{2}}‏56.88 לעומת 67.78 נראה כמו הכרעה, וזה לא; אלה שתי ערכות שונות, שני גילאים שונים ושני רישיונות שונים מחופשים למירוץ סוסים.{{/2}} {{3}}המודל שנשלח במוצר שלך הוא המודל המתארח, והמודל שרץ במעבדה שלך הוא המודל הפתוח — זה הפיצול האמיתי, ואף מבחן לא מזיז אותו.{{/3}}