ScaleDown Classify מול Microsoft-Decision-1: האחד מפרסם מספרים, והאחר מפרסם שיטה

ScaleDown Classify ו-Microsoft-Decision-1 הם שתי האפשרויות הסגורות והמתארחות בהשוואה הזו. אף אחד מהם לא מספק משקלים, אף אחד מהם אינו משהו שמורידים, ושניהם בנויים על אותה הנחה: שהחלטה — איזו קטגוריה, איזו אפשרות, איזה מאלה — צריכה להיקרא מתוך ההסתברויות של המודל ולא להיכתב כטקסט על ידי לולאת יצירה. Microsoft-Decision-1 זמין באופן כללי ב-Microsoft Foundry מאז 8 באוקטובר 2026 כמודל פענוח צפוף (dense decoder) בעל 9 מיליארד פרמטרים שעבר אימון-המשך (post-training) על ידי Microsoft, עם 25 שפות נתמכות והקשר של 32,768 טוקנים. ScaleDown Classify הוא מנוע רובריקות מתארח במחיר של $0.05 למיליון טוקני קלט ו-$0 למיליון טוקני פלט, עם מגבלת קלט של מיליון טוקנים ותקרה של עשרים תוויות. מה שמפריד ביניהם אינו היכולת. זה מה שכל חברה מוכנה לפרסם על המודל של עצמה, והן בחרו בחצאים מנוגדים.

היפוך הגילוי

התיעוד של Microsoft-Decision-1 ב-Foundry מתאר את ההערכה שלו בפירוט יוצא דופן. בנצ'מרקים ציבוריים וקהילתיים לקבלת החלטות בתוספת סטים פנימיים שנשמרו בנפרד. מדדים הכוללים דיוק ושגיאת כיול. סדר האפשרויות משתנה. מבחנים סטטיסטיים מזווגים. מערכת בדיקה זהה עבור כל מודל שאליו הוא מושווה. ואז הוא מדווח שהמודל "מתפקד באותה רמה כמו מודלים מובילים של קבלת החלטות ולפני מודלים פתוחים אחרים של קבלת החלטות שנבחנו באותה מתודולוגיה" — ולא מציג שום מספרים בכלל. אין נתון דיוק, אין שגיאת כיול, אין טבלה לפי בנצ'מרק.

מה שמיקרוסופט כן מפרסמת הוא רשימת מגבלות, והיא טובה. הציונים משתנים בהתאם לניסוח ולסדר האפשרויות. שאלה בניסוח לקוי עדיין מחזירה ציון. הכיול הוא החזק ביותר בסוגי משימות מוכרים. לא מופקים הסברים. החוזקות המוצהרות של המודל הן הסקה, יישום כללים ועמידות לעיצוב פרומפט; החולשות המוצהרות הן ידע תחומי מיוחד וביצועים בשפות שאינן אנגלית.

ScaleDown Classify מיישם את תמונת הראי של אותה מדיניות. התיעוד שלו נכנס לפרטים תפעוליים לגבי איך לכתוב בקשה — המחוון מתואר כחלק החשוב ביותר בבקשת סיווג, מנוסח כשאלת כן/לא ישירה, תוך הימנעות משלילות, ונשמר ללא חפיפה כך שמסת ההסתברות אינה מתפצלת באופן בלתי צפוי — והשיווק של הספק כולל טענות דיוק ועלות, כולל מודל עם כחצי מיליארד פרמטרים המגיע ל-91.7% במשימת סיווג פשוטה לעומת 88.6% עבור מודל עם 72 מיליארד פרמטרים. אף אחד מאלה אינו מצורף למתודולוגיה מתוארת, ול-ScaleDown Classify אין שגיאת כיול צפויה מפורסמת על שום מערכת בדיקה ציבורית.

אז הבחירה היא בין ספק שאומר לך כיצד הוא מדד ולא מה הוא מצא, לבין ספק שאומר לך מה הוא מצא ולא כיצד הוא מדד. אף אחד מהם אינו גילוי מלא, ואין להתייחס לאף אחד מהם ככזה.

שפות: האחת מפרסמת ספירה, והאחרת לא מפרסמת דבר

Microsoft-Decision-1 מפרט 25 שפות נתמכות ומצהיר במפורש שכיסוי, איכות וכיול "עשויים להשתנות משפה לשפה", ומציין שפות שאינן אנגלית ובמיוחד שפות דלות משאבים כתחומי ביצועים נמוכים. זהו גילוי שמיש: הוא אומר לך שהמודל הוא רב-לשוני, הוא אומר לך בערך עד כמה רב-לשוני, והוא אומר לך היכן לא לסמוך עליו.

תיעוד ה-Classify של ScaleDown אינו מפרסם רשימת שפות. אין דבר בתיעוד ה-API שמציין אילו שפות ניקוד הרובריקה מטפל בהן, או אם ניסוח רובריקה בשפה שאינה אנגלית מתנהג באותו אופן, והנחיות הרובריקה — נסחו אותה כשאלת כן/לא ישירה, הימנעו משלילות — כתובות באופן שמניח במשתמע שקורא דובר אנגלית כותב רובריקות באנגלית. עבור מסווג שבפועל יופנה לכרטיסי תמיכה בינלאומיים, זהו הפער שיש לסגור לפני שאתם מתחייבים, וזהו פער שרק ההערכה שלכם עצמכם יכולה לסגור.

אם אתה זקוק לטביעת רגל לשונית מתועדת, ההשוואה הזו מסתיימת כאן, והניצחון כברירת מחדל הוא של Microsoft. אם אתה דובר אנגלית בלבד, המספר אינו מהווה גורם, ושאר ההחלטה נוגעת לאורך הקלט ולספים.

הקשר: 32,768 טוקנים מול מיליון

Microsoft מתעדת קריאה בודדת של עד 32,768 טוקנים. ScaleDown מתעדת מגבלת קלט של 1M טוקנים, ומציינת כי כיול לכל מקטע זהה בין אם מקטע נשלח לבדו ובין אם כחלק מאצווה של חמישים מקטעים, כאשר הפרופיל המשותף מחויב פעם אחת לכל בקשה. על פי המספר הגולמי, זהו הבדל של פי שלושים, וזהו הפער הגדול ביותר בין שני המוצרים.

מה שזה נותן הוא לא תפוקה — זה אם אתה צריך שכבת חלוקה למקטעים. שרשור תמיכה, כרטיס עם ההיסטוריה שלו, קטע קצר שנשלף: כל זה נכנס בתוך 32k עם מקום לסכימת שאלה, ושתי המודלים שקולים בערך בגודל הזה. חוזה מלא, מסמך מדיניות רב-עמודי, הקשר ארוך שנשלף או טופס סרוק: שום דבר מזה לא נכנס ב-32k, ומסלול המסמכים של Classify — base64 JPEG, PNG, TIFF או PDF, יחיד או רב-עמודי, כשהטקסט המופק מוחזר בשדה ocr_text — אומר שהמסמך יכול להיכנס כבייטים ולא כטקסט מעובד מראש.

שני הנתונים הם של הספקים עצמם. הטענה של ScaleDown בדבר מיליון טוקנים לא אומתה באופן בלתי תלוי, ורישומים בקטלוגים של צד שלישי עבור המודל מציגים את אורך ההקשר כלא ישים במקום לחזור על המספר, וזו מגבלה של הקטלוג ולא סתירה.

הסברים: אחד מסרב, אחד גובה כפול

Microsoft-Decision-1 אינו מייצר הסברים, ועמוד המודל מפרט זאת כמגבלה ולא כבחירה עיצובית. ScaleDown Classify יחזיר הסבר בן משפט אחד על התווית המובילה שלו, והתיעוד מקפיד להבהיר מהו אותו משפט: הוא נוצר לאחר שהתווית המובילה נקבעה, כך שהוא מסביר את ההחלטה במקום להטיל בה ספק, הוא בצורה חופשית, והוא שולח מחדש את התוויות והרובריקות בקלט מחויב של פי 2 טוקנים. הוא זמין רק בבקשות עם תווית בודדת וקלט טקסט או מסמך בודד — בקשות מרובות תוויות וקבוצתיות לעולם אינן מחזירות אותו.

עבור תור בדיקה אנושית, המשפט הזה הוא לעתים קרובות ההבדל בין סוקר שמאשר סיווג לבין סוקר שעושה אותו מחדש, מה שהופך את תוספת התשלום הכפולה לקלה להצדקה על החלק בתעבורה שמגיע לאדם. עבור צינור אוטומטי, זהו נטל מת על החשבון, וצריך לכבות אותו.

שניהם סגורים, וזה משנה את מה שאפשר לבדוק

• משקלים — אף אחת מהן לא מספקת אותם; ScaleDown מציעה אירוח עצמי ארגוני ורישוי לפי בקשה, והעמוד של מיקרוסופט אינו מתעד כלל מסלול של כיוונון עדין

• תקרת אפשרויות — ScaleDown מגביל ל-20 תוויות לבקשה, 16 במצב ריבוי תוויות, המדורגות באופן עצמאי; תקרת סט האפשרויות של Microsoft-Decision-1 אינה מצוינת בעמוד המודל

• הסקה באצווה — ScaleDown מתעדת עד 50 מקטעים לבקשה כנגד פרופיל תוויות משותף; העמוד של מיקרוסופט מפרט הסקה באצווה כמושבתת

• גילוי חיוב — התעריף של Classify מודפס, בעלות של $0.05 למיליון טוקנים בקלט ו-$0 למיליון טוקנים בפלט; התעריף לפי טוקן של Foundry אינו מודפס בדף המודל

• מבנה תמחור — Classify מוכפל במספר התוויות שלך במצב ריבוי תוויות ומוכפל פי שניים כאשר reasoning מופעל; התעריף של Foundry הוא לפי טוקן, ללא מכפיל תוויות מפורסם

• תשובה ריקה — Classify מחזיר מנצח גם כאשר שום דבר לא מתאים, לכן אתה כותב את הסף; ההתנהגות המוצהרת של Microsoft היא ששאלה מנוסחת בצורה גרועה עדיין מחזירה ציון

התוצאה של היות שניהם סגורים זהה בשני המקרים: אינך יכול לבדוק את הארטיפקט, כך שהאימות היחיד שלך הוא התנהגותי. זה הופך סט מוחזק של נתונים מתויגים משלך לחובה, וזה הופך את העלות של החלפת ספקים להרצה חוזרת של אותה הערכה ולא לשינוי בקוד.

היכן OrcaRouter ממוקם בצינור עיבוד הבנוי על אחד מ־

אף אחד מהמודלים האלה אינו בקטלוג שלנו, ושום דבר כאן אינו הצהרת זמינות — שניהם נקודות קצה לניקוד מובנה ולא יעדי chat-completions, ושכבת ניתוב היא לא מה שאף אחד מהם צריך. מה שאנחנו כן מספקים הוא השכבה שמעליהם: יותר מ-200 המודלים הגנרטיביים מאחורי מפתח אחד תואם OpenAI, אלה שמייצרים את הטיוטה שהמסווג שופט, לפי מחיר המחירון של הספק כפי שהוא, עם 0% תוספת, עם DSL לניתוב לשילוב כמה מודלים לקריאה אחת ומעבר אוטומטי לגיבוי כשמסלול שירות נפגע. אם מודל החלטה משמש כשער שקובע מה שכבת הייצור שלך רשאית לשחרר, אז שכבת הייצור היא המקום שבו חי הסיכון לזמן הפעילות שלך, וזה החצי שמפתח אחד יכול לאחד.

איזה אחד לבחור?

בחר ב-Microsoft-Decision-1 אם אתה זקוק לטביעת רגל לשונית מתועדת, אם אתה כבר נמצא בתוך Azure, או אם עמדת הציות של ספק גדול חשובה יותר לרכש שלך מאשר נתון דיוק מפורסם. קבל את העובדה שתעריך אותו כולו על הנתונים שלך בלבד, מכיוון ש-Microsoft בחרה שלא לתת לך שום דבר אחר.

בחר ב-ScaleDown Classify אם הקלטים שלך עוברים 32k טוקנים, אם אתה רוצה ששלב החילוץ ישולב בתוך קריאת הסיווג, או אם אתה רוצה מחוון לכל תווית שתוכל לכתוב מחדש בלי לאמן מחדש דבר. קבל שהטיעון בדבר הדיוק הוא של הספק עצמו ושאינו משוחזר, שלא מפורסם מספר כיול, ושאתה תכתוב סף ביטחון משלך ותווית תופסת-הכל.

המדידה שהייתה מכריעה את הסוגיה — שני המודלים על אותם קלטים, אותו סדר אפשרויות, אותה סריקת ספים, כשהיא מופעלת על ידי מישהו חסר אינטרס — לא פורסמה על ידי אף אחד מהספקים. עד שאחד מהם יריץ אותה, הקריאה ההוגנת היא שמיקרוסופט היא ברירת המחדל הבטוחה יותר ו-ScaleDown הוא הכלי בעל היכולות הרבות יותר.

גם בהשוואות כמו זו מתגלים מצבי הכשל: התקריות המתועדות ב-AI וכשלי סוכנים מאחורי מודלים בקטגוריה הזו נאספים ב-OrcaRouter AI Incident Archive, שם כל רשומה נושאת את מקורותיה, החומרה, דרגת הוודאות ודגל המחלוקת שלה.