pplx-decider מול Kev: שני מודלים של System One שאתה כבר יכול למשוך

התאונה המועילה בהתמודדות הזו היא שאפשר להכריע בה על החומרה שלכם כבר אחר הצהריים. pplx-decider, מודל ההחלטות 27B של Perplexity, הופיע ב-2026-10-01 בלי הודעה מצורפת וגרסת v1.1 ב-2026-10-05, ושניהם נמצאים בספריית Ollama. Kev, קו השחזור של Jared Palmer, נמצא ב-Ollama מאז ש-v2 יצא ב-2026-09-30 ומכסה מ-0.5B עד 27B. הם מדברים באותה צורת קריאה — מצב פלוס רשימה של שאלות בעלות שמות, מעבר קדימה אחד, הסתברות בחזרה, בלי טקסט מיוצר — מה שאומר שאותה תשתית הרצה יכולה להריץ את שניהם. מה ששונה הוא כל מה שמתחת: איך הפלט מיוצר, מה המחברים תיעדו, וכמה GPU זה דורש.

התחל בדבר שמאפשר בכלל קיום תחרות השוואתית. אף אחד מהמודלים אינו כותב טקסט. אתה מוסר מסמך ושואל שאלות לפי שם, כשכל שאלה מצהירה על סוג התשובה שלה — בחירה מבין 2 עד 255 אפשרויות מתויגות, קריאה של כן/לא/לא ידוע, או ציון על פני 2 עד 10 רמות מתוארות. התשובה מגיעה כהסתברות, בסדר שבו שאלת. כרטיס עם שישים שאלות הוא מעבר אחד על המודל, לא שישים קריאות.

איזה חלק מכל מודל באמת מקבל את ההחלטה?

הכרטיס של Kev מפורש לגבי האופן שבו הוא נבנה באופן נדיר מחוץ לתיעוד פנימי, וכדאי לקרוא את הפרטים לפני שסומכים על מספר ממנו. צ׳קפוינט ה-27B הוא כיוונון עדין בפיקוח במשקלים מלאים על Qwen/Qwen3.8-27B, ואז ממוצע משקלים — 0.85 מהמודל החדש ממוזגים עם 0.15 מ-v1 ב-fp32. הגדלים הקטנים יותר, מ-0.8B עד 9B, מגיעים כמתאמי LoRA על בסיסי Qwen3.5 ולא כצ׳קפוינטים מלאים.

החלק שקובע כיצד מעוצב הפלט נפרד מעמוד השדרה הלשוני. Kev נושא ראש מצביע — כ-2.6M פרמטרים ב-fp32, היושבים על גבי עמוד שדרה של 25.6B כדי להרכיב 26B — וזה מה שהופך מצב חבוי להסתברות על פני האפשרויות הנקובות בשם שלך. pplx-decider עושה את אותה עבודה עם ראש קריאה משוחרר של [255, 5120]: 255 אפשרויות על פני מצב חבוי ברוחב 5,120, ב-bf16.

שתי ארכיטקטורות, רעיון אחד: מודל השפה קורא, ראש קטן מחליט. זו הסיבה שאף אחת מהן אינה מייצרת פרוזה, וזו גם הסיבה שציון בנצ'מרק מאחת אינו עובר לאחרת גם כששתיהן מובאות מול אותו מודל ייחוס.

העימות היחיד המתועד, ולמה אי אפשר להחסיר אותו

שני הפרויקטים מדווחים ביחס ל-Jev, מה שמפתה ליישר ביניהם. אל תעשו זאת.

הכרטיס של Kev עצמו מכיל שורת Decision Index 0.2 שמציבה את Kev-27B v2 ב-52.3 לעומת 50.2 עבור v1, את Jev ב-54.0, ואת AutoJev-27B ב-50.0. זו השוואה נקייה, באותה סוויטה ובאותה גרסה, והיא אומרת ש-Kev v2 השתפר בכ-שתי נקודות ועדיין מפגר אחרי Jev.

הכרטיסים של pplx-decider מדווחים על ציון כולל משוקלל לפי סוללת המבחנים של 61.56 עבור v1.1, לעומת 56.4 עבור v1 ו-57.9 עבור Jev. לפי המספרים שלהם עצמם, מדובר ברווח של יותר מחמש נקודות בעדכון אחד וביתרון על Jev של יותר משלוש וחצי.

אי אפשר לחסר את שתי הפסקאות האלה זו מזו. חבילות שונות, תמהילי משימות שונים, שקלול שונה — ואף אחד מהפרויקטים לא מפרסם את השקלול. מה שכן אפשר לומר הוא צר יותר ועדיין שימושי: שניהם נעו באותו כיוון באותו חלון זמן, שניהם עשו זאת על ידי שינוי באופן שבו ה-readout מאומן ולא על ידי החלפת ה-backbone, והפער המוצהר של pplx-decider מול Jev גדול מהגירעון הנמדד של Kev. זו סיבה לבדוק את pplx-decider, לא סיבה להאמין לו.

רק לאחד מהשניים יש שכפול עצמאי שמצורף לאחד מהמספרים שלו. התגיות של Kev ב-Ollama מפרסמות מספרי מעבר של JevBench לכל תג — 205 מתוך 231 עבור kev:27b-nvfp4, כולל 86 מתוך 111 בחלוקה הקשה, ועד 146 מתוך 231 עבור kev:0.8b — עם הערה מפורשת שהם מחריגים 303 משימות אטומות או מדורגות על ידי שופט שאינן זמינות, ושאינם ציון רשמי של לוח דירוג. זו הרצה עצמית, אבל זו הרצה עצמית שאפשר לחזור עליה. אין שום דבר בר־השוואה עבור pplx-decider.

מה Kev מתעד ש-pplx-decider לא מתעד

• טמפרטורה — Kev מגיע עם T = 1.32, מרווח של 90% של [1.20, 1.45], מיושם בזמן הטעינה, כך שההסתברויות שאתם מקבלים כבר מותאמות בקנה מידה. הקלפים של pplx-decider אינם מפרסמים טמפרטורה כלל, מה שאומר שכל כיול שתזדקקו לו — עליכם להתאים אותו בעצמכם.

• תיעוד אימון — Kev v2 הוא 129 שעות-GPU על 8× H200, תקופה אחת (epoch) על פני 145,840 רשומות ו-337,130 שאלות, תוויות שהופקו על ידי GLM-5.3, DeepSeek-V4-Pro, Inkling, Mistral Large 3, gpt-oss-120b ו-MiMo-V2.6-Pro, כאשר לא נעשה שימוש בפלט Jev, ומסנן זיהום שהסיר 6,388 רשומות ב-102 מחיצות הערכה. pplx-decider מתעד צינור שנבנה על Bespoke Nimble של Bespoke Labs עם תת-קבוצות בנצ'מרק שנעוצות לפי מזהה רשומה וסכום ביקורת, ומייחס את השיפורים של v1.1 להסרת המסכה הסיבתית בתוספת נתוני אימון — אך אינו מפרסם מספר רשומות, שעות-GPU או רשימת מתייגים.

• דיווח רגרסיה כן — הכרטיס של Kev מציג את הפספוסים של עצמו: transfer-v4 ירד ב-0.8 נקודות, CUAD ירד ב-1.6, שגיאת כיול צפויה ב-breadth-v1 עומדת על 0.015 לעומת 0.053 ב-CUAD, גרוע פי שניים עד ארבעה מ-v1, והוא מציין את אופטימיות הבחירה בהערכה של עצמו. הטבלה של pplx-decider v1.1 מראה ש-tools יורדים מ-79.3 ל-78.88 בעוד כל קטגוריה אחרת עולה, ושום דבר בכרטיס לא מתייחס לכך.

• מצבי כשל — הכרטיס של Kev מפרט את היקף סינון הזיהום ואת התנאים שבהם הופקו המספרים שפורסמו שלו. משפחת Decider, הסדרה של Mapika, מרחיקה לכת ומציינת צורות קלט ספציפיות ששוברות אותו; pplx-decider שותק בנושא.

שום דבר מזה לא אומר ש-pplx-decider גרוע יותר. תיעוד אינו יכולת — למעבדה שיש לה פוסט השקה בטיוטה יש תמריצים שונים מאלה של אדם פרטי שמפרסם הערות ל-Hugging Face. אבל כששני מודלים טוענים לתוצאה מאותו סוג ורק אחד מהם מספר לך את הטמפרטורה שלו, זה שמספר לך הוא זה שאפשר להעלות לפרודקשן החודש.

חשבונאות ההקשר, וזה המקום שבו השניים נבדלים זה מזה באופן החריף ביותר.

• Kev — 65,536 טוקנים של מצב, ובנוסף לפחות 8,192 טוקנים לכל שאלה, עם אימון של עד 32,768. במצב של 64k טביעת הרגל בזיכרון מגיעה לכ-87.1 GB בשיא, זמן המודל 9.4 שניות, 733 ms בפגיעת מטמון, ו-21.1 בקשות בשנייה אצל לקוח בודד לעומת 36.4 אצל שישים וארבעה לקוחות.

• pplx-decider — 8,192 אסימונים עבור טקסט ותמונות יחד, כאשר קלטים גדולים מדי נדחים ולא נחתכים. גרסת Ollama מפרטת חלון הקשר של 256K, שדבר במאגר אינו מסביר, ושאינו מתיישב עם המגבלה של הכרטיס עצמו.

הפער הזה הוא ההבדל המשמעותי ביותר בין השניים עבור עומסי עבודה אמיתיים. Kev בנוי למצבים ארוכים ולשאלות רבות לגביהם. pplx-decider הוא מודל צפוף בנפח 27B עם תקציב קלט קטן יחסית, מה שדוחף אותו לעבר מסמכים קצרים, תמונות ובקשות שנכנסות בתוך כמה אלפי טוקנים.

• שפה — אנגלית בלבד בשניהם, מוצהר כמגבלה בשניהם.

• ראייה — pplx-decider מקבל טקסט, JSON ותמונות, כאשר טוקני ראייה עולים בערך רוחב × גובה / 1024, והגדרת הערכה מוגבלת ל-512×512. ל-Kev אין ראייה בקו ה-27B.

• רצפת הגשה — Kev-27B זקוק ל-GPU בדרגת 80 GB: 51.3 GB של משקולות bf16, כ-65.5 GB בזיכרון, 87.1 GB במצב 64k, והשרת שלו נקשר באופן פתוח אלא אם KEV_API_KEY מוגדר. המשקולות bf16 של pplx-decider הן בסביבות 49 GiB, כך שהרצפה דומה; גרסת Ollama המקוונטטת מגיעה ל-17 GB, שזו מכונה שונה לחלוטין.

• שלבים — Kev משתרע על פני 0.5B, 0.6B, 0.8B, 4B, 8B, 9B ו-27B, כאשר הגדלים הקטנים הם מתאמי LoRA. pplx-decider הוא גודל אחד, שתוקן פעמיים.

להריץ את תחרות האפייה בלי להמר עליה

שני המודלים זמינים כמשקלים מקומיים, וזה בדיוק המצב שבו שכבת ניתוב מצדיקה את עצמה. OrcaRouter אינה מגישה את pplx-decider ואינה מגישה את Kev — אף אחד מהם אינו בקטלוג, ואין לקרוא כאן דבר כאילו אנחנו מארחים אותם. מה שכן נמצא אצלנו במחלקה הזו הוא typesafe/jev-1.13, החשוף דרך אותה צורת קריאה POST /v1/systemone במחיר $0.042 למיליון טוקני קלט, והוא זרוע הביקורת הטבעית: אותו ממשק, אותם סוגי שאלות, בלי GPU משלך.

זה הופך השוואה תלת-כיוונית לזולה להקמה. הציבו pplx-decider מקומי ו-Kev מקומי מאחורי אותה תשתית בדיקה מול typesafe/jev-1.13 מנותב, דרגו את שלושתם על המסמכים שלכם, ותנו לאי-ההסכמה ביניהם לספר לכם היכן הספים שלכם באמת נמצאים. מעבר אוטומטי לכשל חשוב יותר מהרגיל בסידור הזה, כי 27B מקומי על כרטיס בודד הוא הרכיב הכי פחות אמין בשרשרת; ניתוב הגיבוי דרך API אחד ל-200+ מודלים — מחיר מחירון של הספק מועבר הלאה עם 0% תוספת — מונע מהניסוי להפוך לתקלה. וכאשר מודל כמו pplx-decider מגיע בסופו של דבר לנקודת קצה מתארחת, אותו מפתח שמפעיל את זרוע הביקורת מפעיל אותו, בלי חוזה שני ובלי שינוי בקוד.

מה ישנה את התשובה

ארבעה דברים, וכולם ניתנים לבדיקה ולא עניין של טעם.

אם pplx-decider מגיע לספק הסקה, טבלת הבנצ'מרק הבלתי מאומתת שלו הופכת לשאלה של מחיר מול השהיה, ופער התיעוד מפסיק להיות חשוב — היית משלם עבור פלט מתארח, לא עבור תחזוקה שלו. אם גורם בלתי תלוי משחזר את מספרי JevBench של אחד מהמודלים על הרנס מפורסם, כל ההשוואה מצטמצמת לחבילת בדיקות אחת במקום לשתיים שאינן תואמות.

אם חולשת ה-ECE המתועדת של Kev ב-CUAD מתבררת כניתנת לתיקון באמצעות התאמה מחדש ולא אימון מחדש, הטיעון בדבר כיול נגדו נעלם במידה רבה, מפני ש-Kev כבר מספק את הטמפרטורה שלו ומצבי הכשל שלו הם גדלים ידועים. ואם אתה צריך מודל החלטה על כרטיס אחד ולא על שניים, הבנייה המכומתת בנפח 17GB של pplx-decider היא האפשרות היחידה כאן — לא משום שהיא טובה יותר, אלא משום שהיא נכנסת למקום שבו 27B ב-bf16 לא נכנס.

עד שאחד מאלה יקרה, הקריאה המעשית היא לא זוהרת. Kev הוא זה שאת המספרים שלו אפשר לשחזר היום, וזה שאפשר לסמוך שהכיול שלו מתועד; pplx-decider הוא זה עם התקרה המוצהרת הגבוהה יותר והתיעוד החלש יותר. בחרו בראשון אם אתם משחררים החודש. הכניסו את השני לאותה רתמת בדיקות אם אתם מהסוג של צוות שמעדיף למדוד שחרור שקט מאשר לחכות לפוסט השקה.

ניתוב הגיבוי דרך מחיר המחירון של הספק המועבר הלאה עם תוספת של 0% מונע מהשוואה תלת-כיוונית להפוך להשבתה כאשר נקודת הביקורת המקומית היא הרכיב הפחות אמין בשרשרת.

השוואה תלת-כיוונית היא גם רגע סביר לשאול מה כבר נכשל בסוג הזה: תקלות הבינה המלאכותית המתועדות וכשלי הסוכנים הכרוכים במודלים של קבלת החלטות מרוכזים בthe OrcaRouter AI Incident Archive, שבו כל רשומה נושאת את המקורות, חומרת האירוע, דירוג המהימנות ודגל המחלוקת שלה.