pplx-decider-flash מול Laya: שני סוגים של מודל החלטה, השוואה שגויה אחת

המספרים שמסתובבים הם מסודרים וחסרי תועלת. מדד השוואה אחד נותן לLaya ציון 69.5 ולpplx-decider-flash-v1.2 ציון 68, כמעט תיקו. מדד אחר נותן ל-Flash 73.7 ומדרג אותו ראשון מתוך 48. מדד שלישי נותן ל-Flash 451 מתוך 504 לעומת 240 של Laya multilingual. שלושה מקורות, שלושה פסקי דין, כי כל אחד מודד מודל אחר על סט משימות אחר — ולפחות שניים מתוך השלושה מודדים גרסה של Laya בלי לומר איזו. זו ההשוואה שבאמת חשובה, והמשפט הישר הראשון הוא שאיש עדיין לא הריץ אותה כראוי.

מה שאפשר להשוות הוא הצורה של שתי המערכות: מה הן נועדו לעשות, כמה עולה להפעיל אותן, ומה כל אחת דורשת ממך לפני שהיא מפיקה הסתברות שמישה. בצירים האלה הן אינן יריבות קרובות. הן מוצרים שונים שבמקרה חולקים אותו תואר משרה.

פסקה אחת לכל אחד

pplx-decider-flash-v1.2 הוא מודל החלטות מולטימודלי בדרגת 4B מבית Perplexity, הבנוי על שלד Qwen3.5-4B עם ראש קריאה נפרד בעל 255 דרכים. אתם נותנים לו מצב — טקסט, JSON או תמונה של עד 1.6 מגה-פיקסל — ושאלות עם טיפוסים, והוא מחזיר הסתברויות מכויילות במעבר קדימה אחד. הוא מתוכנן לעבוד ללא דוגמאות (zero-shot): הטמפרטורה השמורה היא 1.554, והכרטיס מדווח על דיוק של 88.8% עם שגיאת כיול צפויה של 0.021 על סט פיתוח של 1,497 שאלות. הוא ברישיון Apache-2.0, בגודל של כ-9 GiB ב-BF16, ועולה $0.01 למיליון טוקני קלט ב-API של Perplexity כאשר הפלט בחינם.

Laya היא משפחה של מקודדי החלטות לא-אוטורגרסיביים מבית Convai Innovations, שיצאה לאור ב-18 בספטמבר 2026 וגם היא תחת רישיון Apache-2.0. הצ'ק-פוינט האנגלי הוא ModernBERT-large מכוונן בעל 421 מיליון פרמטרים עם חלון הקשר של 512 טוקנים; המודל הרב-לשוני הוא mmBERT-base בעל 322 מיליון פרמטרים עם 1,024 טוקנים; צ'ק-פוינט שלישי, laya-typed-decisions, הוא זה שמציג את ציוני הכותרת. הוא עונה על כל השאלות בשיחה במעבר קדמי אחד בעזרת טוקני מסכה לכל אפשרות, ללא שלב יצירה וללא קלט תמונה.

למה טבלאות ההשוואה לא מסכימות

אי-ההתאמה מתחילה במדד שכל ספק בנה. Perplexity מדרגת את המודלים שלה לפי Decision Index 0.3, מדד משולב של ידע, שפה, אחזור, כלים ואמנויות. Convai מדרגת את Laya לפי מדד של 400 מקרים ו-2,000 החלטות מתויגות שהיא גם מפרסמת. אף אחד מהמודלים לא הורץ בפומבי על מערכת הבדיקה של האחר.

המדדים של צד שלישי ממלאים את הפער הזה בצורה גרועה. המדד המשולב של Anchor Terminal מציב את Laya במקום הרביעי עם 69.5 ואת Flash במקום השישי עם 68, הבדל של 1.5 נקודות שנמצא היטב בתוך הרעש של מדד משולב שאיש אינו יכול לבחון. Ollaya Bench מדווח על 73.7 בסך הכול ועל דירוג ראשון מתוך 48 עבור Flash, עם דיוק מאקרו של 82.4%, אך אינו מפרסם מערך בדיקות. מערך משימות שנכתב על ידי Jev מעניק ל-Flash ציון 451/504 ול-Laya multilingual ציון 240 — תבוסה מוחצת, במערך שנכתב על ידי מתחזקי מודל מתחרה. העמוד של PublicAI מצליח לתעד ש-Flash מנצח את Laya 322M ואת Laya multilingual ובמקביל גם מפסיד 3–0 ל"Laya" לא מזוהה.

הרשומה האחרונה היא הבעיה כולה בזעיר אנפין. "Laya" אינה מודל אחד. השוואת Flash למקודד אנגלי של 421M, למקודד רב-לשוני של 322M, ולמומחה בנצ'מרק שעבר כוונון עדין מניבה שלוש תשובות שונות, ורק אחת מהן היא מה שבאמת תפרוס.

לוח התוצאות שאנו יכולים להגן עליו

אלה הממדים שבהם שתי המערכות אכן נבדלות זו מזו, עם הנתונים שכל צד פרסם בעצמו והמקור המצוין.

• פרמטרים — pplx-decider-flash-v1.2 הוא בדרגת 4B (תיעוד ה-API אומר 4B, כותרת הכרטיס אומרת 5B ב-BF16) לעומת Laya עם 421M באנגלית ו-322M רב-לשוני.

• הקשר — 262,144 טוקנים ב-Flash, מאומן לכ-32,000 לעומת 512 טוקנים ב-Laya English ו-1,024 ברב-לשוני.

• מודאליות — Flash מקבל טקסט, JSON ותמונות עד 1.6 מגה־פיקסל, לעומת Laya שמקבל טקסט בלבד.

• שימוש ללא אימון מוקדם — Flash נשלח מכויל, עם טמפרטורה שמורה ומדדי שגיאה מפורסמים לעומת נקודות הבדיקה הבסיסיות של Laya, שאותם הכרטיס עצמו מכנה "בסיס מהיר להתמחות, לא מנוע החלטות ללא אימון מוקדם".

• השהיה — Laya ב-32.8 מילישניות לשאלה אחת על T4, 72.3 מילישניות לעשר, 103–332 שאלות בשנייה בבאצ'ים, ו-193–464 מילישניות על CPU לעומת Flash ללא נתון רמת שירות מפורסם מ-Perplexity; הנתון היחיד שהספק מפרסם הוא בדיקת תיעוד שבה כ-248,000 אסימוני קלט לקחו 16 שניות.

• מחיר — Flash במחיר $0.01 למיליון טוקני קלט, פלט בחינם, ב-API של Perplexity לעומת Laya ללא מחיר מתארח כי זהו שחרור משקלים שאתה מריץ בעצמך.

השהיה וחומרה: היכן ש-Laya אינה קרובה

כל הטיעון של Laya הוא שהחלטה אינה זקוקה למודל גנרטיבי, ונתוני ההשהיה תומכים בכך. שאלה אחת ב-32.8 ms על T4 עבור הצ'קפוינט הרב-לשוני, 39.5 ms עבור אנגלית; עשר שאלות ב-72.3 ms; 103 עד 332 שאלות בשנייה כאשר עובדים באצווה. על CPU, כשהוא טעון מראש, זה פועל ב-193 עד 464 ms. מקודד 322M קטן מספיק כדי לשבת בתוך נתיב בקשה שאינו יכול להרשות לעצמו GPU.

Flash הוא סוג אחר של פריסה. תשעה גיגה-בייטים של משקולות BF16 נכנסים בכרטיס צרכני של 16 GB, ובנצ'מרק של צד שלישי אחד מדווח על כ-10.4 GB של VRAM ועל 90–127 ms לכל החלטה ב-RTX 5090. זה מכובד עבור מודל 4B, ופי שלושה בערך מהשהיה של Laya על T4 בחומרה שעולה פי כמה יותר. אם האילוץ שלך הוא מילישניות בחומרה זולה, הוויכוח נגמר לפני שדיוק נכנס לתמונה.

שאלת הכוונון העדין

זהו החלק שטבלאות ההשוואה מסתירות, והוא מכריע.

הדיוק המוביל של Laya, ‏0.766, שייך ל-laya-typed-decisions, צ'ק פוינט שכוונן על פיצול האימון של המבחן עצמו. הצ'ק פוינט הבסיסי באנגלית מקבל 0.362 באותו מבחן, לעומת קו בסיס של מחלקת הרוב של 0.461 וניחוש אקראי של 0.318. במילים אחרות, המודל שאתם מורידים כמות שהוא גרוע מלענות תמיד בתגית הנפוצה ביותר. Convai אומרת זאת ישירות בכרטיס. מחקר שחזור בלתי תלוי ב- arXiv דיווח גם הוא שמדד כותרת אחד — דיוק רך של 0.509 לעומת 0.471 שפורסם — לא שוחזר, וטען שנתוני הכיול מזוהמים מעצם בנייתם.

הטענה של Flash היא בצורה ההפוכה: 60.05 שדווח על ידי ספק ב-Decision Index עם שאלה אחת לכל בקשה, ממודל שאמור לשמש כפי שהוא מסופק. הטענה הזו אינה מאומתת — Perplexity בנתה את המבחן, והכרטיס שלה אומר שעבודת האימון כללה את חלוקות האימון הרשמיות של כמה ממשימות Decision Index, עם דה-קונטמינציה מול ערכות המבחן. זו פרקטיקה ניתנת להגנה שנאמרה בפשטות, אבל היא גם אומרת שהמודל ראה נתונים מתוך התחום עבור המבחן שעליו הוא מדורג, והדה-קונטמינציה היא טענה של Perplexity עצמה ולא עובדה מאומתת בביקורת. אבל הנטל שונה. עם Laya עליך לבצע כוונון עדין ולכייל מחדש לפני שלמספרים שפורסמו יש משמעות; הכרטיס ממליץ על התאמת טמפרטורה משום שההסתברויות הגולמיות נוטות לביטחון יתר, כאשר ECE יורד מ-0.466 ל-0.081 לאחר כיוול מחדש. עם Flash אתה סומך על הכיול של ספק על נתונים שלא ראית.

אף אחד מהם אינו בחינם. האחד עולה זמן הנדסה, והשני עולה זמן אימות.

שפה וקרדינליות

Laya multilingual תומך באופן עקרוני ביותר מ-100 שפות, ובפועל ב-45 מתוך 51, לפי סף ה"שמישות" של הכרטיס עצמו — פי שלושה מאקראי. ציון ה-XNLI מחוץ לאנגלית הוא 0.731, לעומת 0.521 עבור נקודת השמירה לאנגלית בלבד, ודיוק הכוונות ב-MASSIVE ב-13 שפות נוספות הוא 0.451. אלה מספרים צנועים, אבל הם קיימים, ול-Flash אין כלל הערכת רב-לשוניות שפורסמה. אם התעבורה שלך אינה באנגלית, הספק עם הערכת הרב-לשוניות הוא נקודת ההתחלה הבטוחה יותר, גם כשציוניו נמוכים.

קרדינליות פועלת בכיוון ההפוך. Laya נחלשת באופן חמור בשאלות בחירה בעלות קרדינליות גבוהה: 0.425 על 72 התוויות של Banking77 לעומת 0.870 של Jev, מפני ש-77 אפשרויות בהגדרות ברירת המחדל מקבלות כשלושה עד ארבעה טוקנים כל אחת. הכרטיס ממליץ להעלות את תקציב האפשרויות או לפצל מגס לדק. Flash מקבל עד 255 אפשרויות ואין לו מדד קרדינליות גבוהה שפורסם, ולכן הפרשנות הבטוחה היא ש-Flash תוכנן למקרה ש-Laya מתעדת כחולשה ולא הציג את העבודה.

מה המחיר של אלף החלטות

ל-Laya אין מחיר לכל החלטה כי אתה מארח אותה. על T4 בקצב של 103–332 שאלות לשנייה, מיליון החלטות הן בין 50 דקות לשלוש שעות של זמן GPU. בתעריפי ענן סטנדרטיים זה סנטים עד כמה דולרים, בתוספת העבודה ההנדסית לפריסה ולניטור.

Flash ב-API קל לחישוב. מצב של 400 טוקנים, שאלה אחת: 1,000 החלטות הן 400,000 טוקני קלט, שבתעריף של $0.01 למיליון מסתכמות ב-$0.004. מיליון החלטות מסתכמות בכ-$4. אירוח עצמי של המשקולות מסיר את העלות לכל טוקן אך מחזיר אותך ל-GPU עם משקולות של כ-9 GiB ודפוס קשב לא-סיבתי ששרתי causal סטנדרטיים אינם משחזרים.

המלכודת היא עיבוד בקבוצות. Flash מחייב שוב על המצב עבור כל שאלה, כך ששלוש שאלות לכל מצב משלשות את החשבון. אם השער שלך שואל כמה דברים בבת אחת, המודל הזול אינו זול.

זו גם השכבה שבה עולה שאלת הניתוב. מודל החלטה הוא שער לפני הייצור, וצד הייצור הוא המקום שבו מרוכזת רוב ההוצאה. OrcaRouter מציב יותר מ-200 מודלים מאחורי מפתח אחד ללא תוספת מחיר על מחירי המחירון, כך שמחולל זול יותר או הורדת מחיר מצד ספק חלים באותו יום, ומעבר אוטומטי לגיבוי מונע מבקשה שנותבה באופן שגוי להיכשל כליל. איננו מארחים את pplx-decider-flash או את Laya. מודל ההחלטה היחיד שאנחנו כן מספקים הוא Jev של TypeSafe, בתור jev-1.13 ו-jev-1.14, וזה שווה לדעת אם אתם רוצים מכריע מתארח בלי להקים GPU.

איך לבחור, לפי הסדר

• תנועה שאינה באנגלית — התחילו עם Laya הרב-לשונית, ואז מדדו. זה הצד היחיד עם מספרים חוצי-שפות שפורסמו.

• מתחת ל-100 מ״ש על חומרה מדף — Laya. על T4 היא עונה תוך 33 מ״ש; Flash דורש GPU מודרני ולפי הדיווח לוקח לו 90–127 מ״ש שם.

• תמונות במצב — Flash, ללא תחרות אמיתית. ל-Laya אין נתיב חזון.

• מצבים ארוכים — Flash. חלון של 512 טוקנים פוסל את Laya עבור כל דבר שמזכיר מסמך.

• אין נתונים מתויגים ואין זמן לכוונון עדין — Flash, לפחות כנקודת התחלה. נקודת הביקורת הבסיסית של Laya נמוכה מבסיס הרוב.

• יותר מ-20 אפשרויות לכל שאלה — Flash, או Laya עם תקציב אפשרויות מוגדל ופיצול מגס לדק.

הסיכום הכנה הוא שהמודלים האלה מתחרים על אותו תיאור תפקיד וכמעט אף פעם לא על אותה פריסה. Laya הוא מקודד מהיר וזעיר שניתן לכיוונון עדין לסיווג בנפח גבוה בשפות שאפשר לבדוק. Flash הוא שופט רב-מודלי כללי ומכויל עם הקשר גדול ולוח ניקוד של ספק מאחוריו. טבלאות ההשוואה שמפרידות ביניהם ב-1.5 נקודות אינן כל כך שגויות אלא חסרות משמעות: הן מוחקות במיצוע בדיוק את התכונות שמכריעות את הבחירה.