Jev לעומת Laya: 33 מילישניות על T4, וקו בסיס אקראי

כרטיס המודל של Laya מכיל את המשפט שמכריע את ההשוואה הזו, והוא נכתב על ידי האנשים שיצרו את Laya. "Laya היא בסיס מהיר להתמחות, לא מנוע החלטות zero-shot." Convai Innovations שחררה את Laya ב-18 בספטמבר 2026, שלושה ימים לאחר ש-TypeSafe AI השיקה את Jev 1.13 (typesafe/jev-1.13), תחת Apache 2.0, עם משקלות ב-Hugging Face ונקודת כניסה של pip install laya. היא עונה על שאלות מטופסות במעבר קדימה בודד ללא פענוח טוקן-אחר-טוקן, וזה אותו הימור ארכיטקטוני ש-Jev עושה. הטענה המרכזית היא השהיית p50 של 32.8 מילישניות להחלטה על Tesla T4, מוצגת כפי 7.8 מהר יותר מה-p50 שפורסם של Jev, 236–276ms, דרך ה-API המתארח שלו. הטענה אמיתית והיא גם מודדת שני דברים שונים — GPU מקומי מול קריאת רשת — ותמונת הדיוק שמתחתיה היא החלק שאמור לקבוע אם תורידו אותו. Zero-shot, Laya מקבלת 0.362 בבנצ'מרק ההחלטות המטופסות של TypeSafe. ניחוש אקראי מקבל 0.318. קו הבסיס של מחלקת הרוב מקבל 0.461. Laya, מחוץ לקופסה, קרובה יותר לאקראי מאשר לקו הבסיס הטריוויאלי. מה שחדש הוא לא אף אחד מהמודלים אלא היכן שניתן לקרוא לאחד מהם: ב-24 בספטמבר 2026, OrcaRouter הוסיפה את typesafe/jev-1.13 לקטלוג שלה — המודל עצמו הוא של TypeSafe, מ-15 בספטמבר — וזה הדבר היחיד בהשוואה הזו שהשתנה לאחרונה.

מהי לייה בעצם

Laya מגיעה כשני צ'קפוינטים מאחורי נתב מובנה שמנתב כל קלט אל הנכון מביניהם. צ'קפוינט האנגלי הוא ModernBERT-large עם 421M פרמטרים וחלון הקשר של 512 טוקנים. הווריאנט הרב-לשוני הוא mmBERT-base עם 322M פרמטרים וחלון של 1,024 טוקנים בלמעלה מ-100 שפות. שניהם אינם אוטורגרסיביים: מעבר קדימה בודד מחזיר את התשובה, כך שאין לולאת פענוח, אין JSON לפענח, ואין מרחב שבו ניתן לפלוט טקסט מחוץ לטיפוס המוצהר. התכונה האחרונה הזו היא אותה ערובה מבנית ש-Jev מציע, שהושגה מכיוון אחר, והיא באמת בעלת ערך לכל מי שכתב לוגיקת ניסיונות חוזרים סביב מודל שלעתים שוכח לסגור סוגר מסולסל.

Jev הוא המקביל הסגור, וההבחנה שחשובה בין השניים היא מי מריץ את המודל, לא מי מהשניים משיג ציון גבוה יותר. המודל הראשון של TypeSafe AI מסוג System One, שהושק ב-15 בספטמבר 2026, מתארח — אין משקולות להורדה — וניתן לנתב אותו דרכנו כ-typesafe/jev-1.13 באמצעות POST /v1/systemone, ללא סטרימינג, מול חלון הקשר של 65,536 טוקנים. Laya הוא ההסדר האחר: משקולות Apache 2.0 פתוחות שאתם מריצים בעצמכם, על חומרה שכבר ברשותכם, בלי שום endpoint בנתיב כלל. Jev מקבל שלושה פרימיטיבים עם טיפוסים — Choice מתוך רשימה שאתם מספקים, Score על מחוון סדור, ו-Noul, טענת כן/לא עם הסתברות מכוילת. כל השאלות מוערכות במקביל מול קריאה משותפת אחת של המצב. התמחור הוא $0.042 למיליון טוקני קלט, כשהפלט מחויב באפס, כי אין טוקני פלט למדוד. הארכיטקטורה, מספר הפרמטרים וחישוב האימון שלו אינם נחשפים, ו-TypeSafe אמרה שהפרטים נשמרים בסוד, עם מאמר שאולי יגיע מאוחר יותר.

טענת ההשהיה, מדודה כראוי

ה-32.8ms p50 של Laya על T4 הוא מספר אמיתי וטוב. ההשוואה של פי 7.8 מול 236–276ms של Jev היא המקום שבו נדרשת זהירות, והכרטיס של Laya עצמה כנה באופן יוצא דופן לגבי הסיבה: נתוני Jev הם מספרים שפורסמו על ידי צד שלישי ש-Convai מעולם לא מדדה בעצמה, וההשוואה מעמידה מעבר קדימה מקומי על GPU מול קריאת API מתארחת שכוללת הלוך-חזור ברשת ותורים. אם מוציאים את הרשת מהמשוואה, ההשוואה הארכיטקטונית היא בין שני מודלים חד-מעבריים, אחד עם 421M פרמטרים ואחד בגודל שלא נחשף ואשר TypeSafe מעולם לא פרסמה.

יש גם מספר באצ'ינג שכדאי להכיר: בבאצ' של עשרה, Laya מדווחת 7.2 מ״ש לשאלה. זה האופי של המוצר. Laya בנויה לרוץ מקומית בהיקף גבוה, ופורטים קהילתיים על המכשיר כמו laya-mlx מרחיבים זאת ל-Apple Silicon. טענות ויראליות ל"מהירות פי 50 מ-Jev" אינן נתמכות על ידי מדדי הביצועים המפורסמים של הפרויקט עצמו, והמסגור הכנה הוא פער גדול בין מקומי לענן, שחלקו ארכיטקטוני וחלקו פשוט ההבדל בין ה-GPU שלך ל-API של מישהו אחר.

מה מספרי הדיוק אומרים, לפי הסדר

כאן ההשוואה מפסיקה להיות מחמיאה, וכדאי לפרוס אותה ברצף, מפני שלסדר יש חשיבות.

• זירו-שוט בבנצ'מרק typed-decisions של TypeSafe — Laya 0.362, אקראי 0.318, מחלקת-רוב 0.461, Jev 0.727. Laya מעל לרמת הניחוש ומתחת לקו הבסיס הטריוויאלי.

• מכוונן עדין על מחיצת האימון של הבנצ'מרק עצמו — Laya 0.766 לעומת 0.727 של Jev. Laya מנצחת, והניצחון מגיע מצ'קפוינט שראה את נתוני האימון של הבנצ'מרק, מה שהופך את זה להצהרה על כיוונון עדין, לא על מודל הבסיס.

• סיווג כוונות Banking77, שבו מערך האפשרויות גדול — Laya 0.425 לעומת 0.870 של Jev. Laya מתדרדרת בחדות מעבר ל-20 אפשרויות בערך, ושדות ה-Choice של Jev מתועדים להתמודד עם עד 255 לפני שנדרש דפוס הניקוד הדו-שלבי.

• כיול — Laya מגיעה עם שגיאת כיול צפויה ממוצעת של 0.466, המשתפרת ל-0.081 רק לאחר התאמת טמפרטורה מחדש לפי סוג שאלה. Jev מאומן בשיטה ש-TypeSafe מכנה RLCD, Reinforcement Learning for Calibrated Decisions, ומספק כל תשובה עם התפלגות הסתברות — אם כי TypeSafe גם אומרת למשתמשים לאמת ספים על הנתונים המתויגים שלהם, וביקורת בלתי תלויה אחת מצאה כי הכיול של Jev משתנה בחדות לפי משימה.

התבנית חד-משמעית. Laya הוא בסיס חזק לכוונון עדין ומנוע החלטות חלש ב-zero-shot, וזה גם מה שהוא מצהיר על עצמו. Jev הוא מנוע החלטות חזק ב-zero-shot, אך הכיול שלו עדיין צריך להיבדק בכל פריסה. אלה מוצרים שונים עם מבני תמחור שונים, והבחירה ביניהם היא בעיקר שאלה של האם יש לך נתונים מתויגים ולולאת אימון.

חשבון העלויות אינו באותה צורה כמו זה של ג׳ב

Jev עולה $0.042 למיליון אסימוני קלט, כאשר הפלט בחינם — שהם $42 למיליארד — וקריאה בגודל מקסימלי בתקציב הבקשה המתועד של 64K אסימונים עולה הרבה פחות מסנט. המספר שמצוטט בדרך כלל כבערך 32,000 אסימונים הוא התקרה על המצב בתוספת השאלה הארוכה ביותר הבודדת, לא התקרה על הבקשה — TypeSafe מתעדת 64K אסימונים לבקשה על פני המצב וכל השאלות יחד, וכרטיס המודל שלנו עבור typesafe/jev-1.13 מפרט הקשר של 65,536 אסימונים. הבדיקה העצמאית של Every ביצעה 777 שיפוטים על פני 37 מסמכים בעלות של כערבע מסנט.

העלות לכל קריאה של Laya היא אפס בשוליים ולא-אפס במצטבר, והמצטבר אינו קטן. מודל עם 421 מיליון פרמטרים על T4 זול להרצה ועדיין עולה לך GPU, ושלב הכיוונון העדין שהופך את Laya לתחרותי הוא המקום שבו יושבת ההוצאה האמיתית — תיוג הנתונים, הרצת האימון, מערך ההערכה, והתאמת הטמפרטורה מחדש לפי סוג שאלה, שלוקחת את שגיאת הכיול מ-0.466 ל-0.081. עבור טקסונומיה קבועה שלעולם אינה משתנה, זוהי עלות חד-פעמית שמחזירה את עצמה בנפח שימוש. עבור טקסונומיה שנסחפת, זוהי עלות חוזרת, וקו הבסיס זירו-שוט של Jev של 0.727 הופך לעסקה טובה בהרבה.

יש עלות שלישית שקל לפספס: לצ'קפוינט האנגלי של Laya יש חלון הקשר של 512 טוקנים. זה לא מודל החלטות עם תקציב הקשר קטן — זה מודל החלטות בגודל של פסקה. תקציב הבקשות של Jev, 64K טוקנים, גדול יותר מפי מאה, ואפילו הוא נמוך בסדר גודל מהמודלים הגנרטיביים ששניהם מתומחרים מולם. אם המצב שלך הוא שרשור תמיכה ולא הודעת תמיכה, החלון של אף אחד מהמודלים אינו האילוץ שאתה צריך לבצע מולו אופטימיזציה.

שאלת הפריסה היא ההבדל האמיתי

הטיעון החזק ביותר של Laya אינו השהיה. הוא שמשקולות Apache 2.0 ב-Hugging Face משמעותן שההחלטה לעולם אינה יוצאת מהתשתית שלך ונקודת הקצה לעולם אינה כפופה למגבלת קצב. עבור החלטת ניתוב שמתבצעת על רשומה רפואית, מסמך משפטי או היסטוריית החשבון של לקוח, זו אינה העדפה — זהו הגורם המכריע, ואף נקודת קצה מתארחת, בכל מחיר, אינה מנצחת בטיעון הזה. דף הבית של TypeSafe עצמו עדיין מתאר את Jev כנמצא בגישה מוקדמת, והתיעוד של הספק מציין שמגבלות הקצב שלו מתכווננות באופן דינמי ויכולות להשתנות ללא הודעה מוקדמת.

הטיעון הנגדי הוא מה שאתה מוותר עליו. הארכיטקטורה הגדולה יותר של Jev, שלא נחשפה, עושה את העבודה שפרמטרי ה-421M של Laya לא יכולים לעשות: פער ה-zero-shot של 0.727 לעומת 0.362 ופער ה-Banking77 של 0.870 לעומת 0.425 הם שניהם מדדים לכמה ידע טמון בתוך המודל לפני שאתה מאמן אותו. התשובה של Laya היא שאתה מספק את הידע הזה בעצמך באמצעות כיוונון עדין, ובתחום צר וקבוע התשובה הזו עובדת — תוצאת ה-0.766 לאחר כיוונון עדין היא ההוכחה.

היכן שכבת ההחלטה יושבת בסטאק אמיתי

אף אחד מהמודלים אינו מייצר טקסט, כך שאף אחד מהם אינו מהווה את כל זרימת העבודה. התבנית ששניהם מיועדים לה היא שני מודלים: שכבת החלטה שמבצעת את הקריאה עם הטיפוסים, ומודל גנרטיבי שמטפל בחלק שזקוק לפרוזה, לקוד או להסבר. הפיצול הזה נהג להצריך חוזה ספק נוסף, מכיוון שחצי ההחלטה לא היה משהו שיכולת לקרוא לו מאותו מפתח כמו החצי הגנרטיבי. כעת זה אפשרי. Jev ניתן לניתוב דרכנו בתור typesafe/jev-1.13 דרך POST /v1/systemone — ללא סטרימינג, הקשר של 65,536 אסימונים, $0.042 למיליון אסימוני קלט כשהפלט מחויב באפס. רשומת ההגשה שלנו של שבעה ימים עבור הנתיב הזה מראה p50 של 151 אלפיות שנייה, שזו התעבורה שלנו על החומרה שלנו ולא מדד ביצועים. זו מדידת רשת ושונה מזו של מעבר קדימה מקומי של 32.8ms שלמעלה. Laya נשארת הסידור האחר: משקלים פתוחים שאתה מריץ בעצמך, שאנחנו לא מארחים ואין לנו צורך לארח. החצי הגנרטיבי של התבנית הזו הוא בדיוק מה שאנחנו מכסים: יותר מ-200 מודלים מאחורי מפתח אחד תואם OpenAI ב-מחיר מחירון של הספק מועבר הלאה עם 0% תוספת, כך ששינוי מחיר של ספק חי אצלנו באותו יום. הארכיטקטורה של שני המודלים ניתנת לבדיקה ללא חוזה ספק שני — עבור חצי ההחלטה באותה מידה כמו החצי הגנרטיבי — ועם מעבר אוטומטי לגיבוי, הנתיב הגנרטיבי לא הופך לנקודת כשל יחידה בזמן שאתה מחליט אם שכבת ההחלטה הזולה מכוילת מספיק טוב כדי להסתמך עליה באוטומציה.

פסק הדין

אם יש לך טקסונומיה קבועה וצרה, דוגמאות מתויגות, ודרישת פרטיות או השהיה ששוללת API באירוח חיצוני, Laya היא הבחירה המוצדקת יותר והמספרים של הכוונון העדין תומכים בכך. אם אתה צריך שההחלטה תעבוד מיד ללא הגדרה, אם מערכי האפשרויות שלך חורגים מעשרים קטגוריות, או אם המצב ארוך מפסקה, כרטיס המודל של Laya עצמה אומר לך שזה לא המוצר למשימה הזאת — וציון ה-zero-shot של 0.362 לעומת בסיס רוב של 0.461 הוא המספר שכדאי לשמור לנגד העיניים כאשר מישהו מצטט בפניך את נתון ההשהיה של פי 7.8.

מה שמשותף לשניים שימושי יותר ממה שמפריד ביניהם. שניהם מחסלים את סוג השגיאה שנובע מעיצוב הפלט, ואינם עושים דבר בנוגע לסוג הנובע משיקול דעת. שניהם מספקים הסתברויות, ולאף אחד מהם אין תרשים מהימנות מפורסם שאפשר לסמוך עליו בלי לבדוק. בדקו את הכיול על מקרים מתויגים משלכם לפני שאתם מאוטמטים מול מי מהם — זמן האחזור כבר הפך לסחורה זולה, וערך הביטחון הוא החלק שצריך להרוויח בכל פריסה.