pplx-decider-flash: השופט השקט 4B של Perplexity, כפי שנקרא מתוך הרפו

Perplexity העלתה pplx-decider-flash-v1.2 אל Hugging Face בשעה 16:57 UTC ב-15 באוקטובר 2026, כ-9 שעות לאחר שהעלתה pplx-decider-v1.2, מודל ההחלטות הגדול שהשיווק מכנה 27B וכרטיס המודל מכנה 26B. לא הצלחנו למצוא פוסט השקה בבלוג החברה. מה שבא לאחר מכן היה שרשור מחשבון המפתחים ב-X, סעיף בתיעוד ה-API של Decisions, והמרת GGUF כעבור שלושה ימים. זהו כל התיעוד הציבורי, והוא מספיק כדי לתאר את המודל בדיוק אך לא מספיק כדי לומר לכם אם הוא טוב עבור הנתונים שלכם.

הטקסט שלהלן מפריד בין שלושת הדברים שאנשים נוטים לטשטש יחד: מה שהמאגר מוכיח, מה שהתיעוד של הספק מצהיר, ומה שאיש מחוץ ל-Perplexity לא אימת. הקטגוריה האחרונה גדולה משתי הראשונות.

מה בעצם יצא לשוק, ובאיזה יום

ציר הזמן של המאגר חד-משמעי. Perplexity יצרה את pplx-decider-v1-27b ב-1 באוקטובר 2026, pplx-decider-v1.1-27b ב-5 באוקטובר, את שני הצ'קפוינטים של v1.2 ב-15 באוקטובר, ואת pplx-decider-flash-gguf-v1.2 ב-18 באוקטובר. צ'קפוינט Flash היה ההעלאה השנייה באותו יום, וזה המבנה הרגיל של מהדורה מזווגת: ספינת הדגל ראשונה, והאח הקטן המזוקק מאחוריה, כך ששניהם נוחתים תחת אותה הכרזה.

סדר הדברים הזה חשוב להמסגור. זה אינו מודל שהודלף או מאגר תועה שחמק אל מחוץ לניירת שלו. מדובר בשחרור מתואם עם נוכחות ציבורית מכוונת וקלה במיוחד — שרשור מפתחים ולא מאמר השקה, תיעוד ולא מרכז בנצ'מרקים. ה-API של Hugging Face מדווח על 4,667 הורדות של נקודת הביקורת הבסיסית ועל 9,428 הורדות של המרת ה-GGUF נכון ל-4 בנובמבר, וכן 63 לייקים. ספירות הורדות ב-Hugging Face הן אות חלש: הן סופרות בקשות, לא משתמשים ייחודיים, ותעבורת מראות מנפחת אותן. הן עולות בקנה אחד עם קהל אמיתי אך צנוע של משקלים פתוחים, ולא עם שחרור ויראלי.

מה שהמאגר מספר לך

כרטיס המודל טכני באופן חריג עבור פרסום של ספק, ורוב מה שאפשר לדעת מגיע ממנו.

• Backbone — Qwen3.5-4B, עם ראש קריאה נפרד מסוג BF16 בצורה [255, 2560] במקום ראש מודל שפה עם אוצר מילים מלא. זהו צ'קפוינט החלטה, לא מודל צ'אט עם עטיפת סיווג.

• גודל — 25 קבצים בסך כולל של כ-9 GiB ב-BF16, וזה מה שנדרש כדי להחזיק את המשקולות; זיכרון העבודה מתווסף על כך.

• מספר פרמטרים — התיעוד של ה-API אומר 4B, הכותרת בכרטיס המודל אומרת 5B ב-BF16, ואינדקס של צד שלישי אחד מפרט 4.5B. מודל הבסיס הוא מודל 4B. התייחס ל"מחלקת 4B" כתיאור כן ואל תצטט נתון בודד כאילו נמדד.

• קשב — שכבות קשב מלא פועלות באופן לא־סיבתי על פני הבקשה כולה, בעוד ששכבות קשב לינארי נשארות סיבתיות. זה הפרט שינשך אתכם: מערך הגשה סיבתי סטנדרטי יפיק מספרים שונים, ופרומפטים שנכתבו עבור v1.1 לא עוברים כמו שהם.

• מיקום קריאה — הראש מופעל בכל סמן <|fim_suffix|> ולא בטוקן הסופי, וכך מעבר קדימה בודד יכול לתת ציון למספר שאלות מול מצב אחד.

• הקשר — max_lengthברירת המחדל של max_length היא 262,144 טוקנים, בהתאמה ל-backbone. האימון השתמש ברצפים של עד כ-32,000 טוקנים, וכרטיס המודל מבהיר במפורש שקלטים ארוכים יותר נתמכים אך פחות מאומתים.

• תמונות — מוגבל ל-1.6 מגה-פיקסל (1,638,400 פיקסלים), מינימום 65,536 פיקסלים, כאשר תמונה של 1.6 MP צורכת בערך 1,600 מיקומים.

• כיול — טמפרטורה שמורה של 1.554. על סט פיתוח בן 1,497 שאלות, הכרטיס מדווח על דיוק של 88.8%, שגיאת כיול צפויה של 0.021 וציון Brier של 0.163; ללא הטמפרטורה, השגיאה עולה ל-0.057. ספק שמפרסם את מספרי הכיול שלו ואת המחיר של דילוג עליהם מספר לך משהו אמיתי על השימוש המיועד.

שורה אחת בכרטיס אינה שורדת מפגש עם ה-API. היא אומרת שהמאגר פרטי וזקוק לטוקן עם הרשאה. ה-API של Hugging Face מחזיר gated: false ו-private: false, והמשקלים מורדים בלי בקשת גישה. שורה מיושנת בכרטיס היא דבר קטן, אבל זה מסוג הדברים הקטנים שמעידים שהכרטיס נכתב לפני הפרסום ולא נקרא שוב לאחריו.

מה תיעוד ה-API מוסיף

התמחור הוא המקום שבו מתחיל הטיעון של Flash. ב-Decisions API, pplx-decider-flash-v1.2 עולה 0.01 דולר למיליון טוקני קלט. טוקני פלט הם בחינם ואין חיוב לכל בקשה, כי אין טוקני פלט במובן הרגיל — המודל מחזיר הסתברויות וציון צפוי, והתיעוד סופר כל שאלה כטוקן פלט אחד לצורכי חשבונאות.

אותו עמוד מגדיר את מעטפת הפעולה:

• כינוי — pplx-decider-flash-latest עוקב אחר הגרסה העדכנית ביותר, כך שסף שכיוונת בשבוע שעבר עלול להצביע בשקט על מודל אחר לאחר עדכון. הצמד את המזהה המגורסן בכל דבר שחשוב.

• מגבלות קצב — 4,000,000 טוקנים לדקה ו-240,000,000 לשעה, עם תקרה של 10 בקשות בשנייה המשותפת לשני מודלי קבלת ההחלטות ברמת הארגון.

• סוגי שאלות — noul מחזיר P(yes) מ־0 עד 1, choice מחזיר הסתברויות על פני עד 255 אפשרויות, ו־score מחזיר התפלגות על פני רמות הרובריקה.

• מכסת שאלות — התיעוד ממליץ על שאלה אחת לכל בקשה. זו אינה הערת סגנון; זה ההבדל בין המחיר שהוצע לך לבין המחיר שאתה משלם.

כלל החיוב שהופך את ההמלצה

מודל ה-27B עונה על כל שאלה בבקשה במעבר מקובץ אחד ומחייב את המצב פעם אחת. Flash עונה על כל שאלה בנפרד, בלי לראות את האחרות, ומחייב את המצב שוב עבור כל שאלה. התיעוד מספק את הדוגמה המחושבת: שלוש שאלות מול מצב של 10,000 טוקנים עולות כ-30,000 טוקני קלט ב-Flash.

בצעו את החשבון. שאלה אחת על מצב של 10,000 טוקנים עולה $0.0001 ב-Flash ו-$0.0002 ב-27B. שתי שאלות עולות $0.0002 ב-Flash ו-$0.0002 במודל הגדול יותר — תיקו מוחלט. שלוש שאלות עולות $0.0003 ב-Flash ו-$0.0002 ב-27B. נקודת המעבר היא שתי שאלות לכל מצב. התיעוד של Perplexity עצמו אומר שהמודל הגדול יותר "בדרך כלל עולה פחות מ-Flash" בשלוש שאלות או יותר; הנקודה המדויקת היא שאלה אחת מוקדם יותר, והיא תקפה בכל מחיר מחירון שבו התעריף של Flash הוא בדיוק חצי מהתעריף של 27B.

זה הדבר השימושי ביותר בשחרור הזה, וקל לפספס אותו כי הכותרת היא הנחה של 50%. מודל 4B בחצי מחיר הוא זול יותר רק כל עוד שואלים אותו דבר אחד בכל פעם.

המספר שאין לסמוך עליו

Perplexity מדווחת על ציוני Decision Index 0.3 עבור שני המודלים. Flash משיג 60.05 עם שאלה אחת לכל בקשה ו-58.88 עם בקשות משותפות; המודל 27B משיג 68.09 במשותף ו-67.75 במצב של שאלה אחת לכל בקשה. במדד Vision Decision Index, Flash הוא 72.53 לעומת 77.43.

פילוח הקטגוריות מאלף יותר מהכותרת, משום שהוא מראה היכן ה-4B נסוג. במספרי ההרצה המשותפת של Flash לעומת מספרי ההרצה המשותפת של 27B:

• ידע — 42.0 לעומת 56.3. זהו הפער הרחב ביותר, 14.3 נקודות, וזה שמכריע האם המודל מסוגל להתמודד עם ידע עולם פתוח בכלל.

• שפה — 63.3 לעומת 72.8.

• אחזור — 64.8 לעומת 68.4. הפער הצר ביותר, 3.6 נקודות, שמתאים למשימה המיועדת: לשפוט אם קטע עונה על שאלה היא משימה קלה יותר מאשר לדעת את התשובה.

• כלים — 76.7 לעומת 84.4.

• אמנויות — 46.8 לעומת 56.2.

• בסך הכל — 58.88 לעומת 68.09.

כל אחד מהנתונים האלה מגיע מבנצ'מרק ש-Perplexity מתחזקת. כרטיס ה-27B — המורה בדיסטילציה הזו — מפתיע בכנותו בנוגע לצד האימון: חלק מהעבודה, כך נאמר בו, הביא את המודל "לתוך התחום" עבור כמה ממשימות Decision Index על ידי הכללת פיצולי האימון הרשמיים שכמה בנצ'מרקים מספקים, כשהפיצולים "עברו דקונטמינציה מול מערכי הבדיקה" כדי שההשוואה תישאר הוגנת. זו עמדה זהירה יותר ממה שהסיקור סביב ההשקה רמז, והיא עדיין משאירה את לוח התוצאות בידי הספק. אף צד שלישי לא בדק את משמעת הפיצולים, ואף אחד לא שחזר את המספרים.

יש מוזרות קטנה יותר בתוך המספרים של הספק עצמו שמנוגדת לחומר השיווקי. הציון של Flash הוא גבוה יותר כשהוא עונה על שאלה אחת בכל פעם — 60.05 לעומת 58.88. קיבוץ פוגע ב-4B בכללותו אף שהוא עוזר במשימות "בחר את כל המתאימים" עם תלות הדוקה, וזה בדיוק מה שהתיעוד אומר. המודל נמכר על מהירות של בקשות משותפות ונמדד טוב יותר בלעדיה.

מה שעדיין אינו ניתן לדעת

הפערים ספציפיים, והם הסיבה לכך שזהו טקסט של „מה שאנו יודעים” ולא סקירה.

• אין מדד בלתי תלוי. שום גורם מחוץ ל-Perplexity לא פרסם שחזורים של Decision Index או השוואה ראש בראש בהרנס ניטרלי.

• אין רמת שירות לשהות. נתון המהירות היחיד שהספק מפרסם הוא בדיקת תיעוד מ-19 באוקטובר, שבה כ-248,000 אסימוני קלט לקחו 16 שניות ב-Flash לעומת 53 שניות ב-27B. זוהי מדידה מצד הספק, ללא ציון חומרה או אחוזון.

• אין הערכה רב־לשונית. הכרטיס והמסמכים מתארים טקסט ותמונות; אף אחד מהם אינו מדווח על דיוק מחוץ לאנגלית.

• לא פורסם היקף נתוני האימון. הכרטיס אומר ש-Flash זוקק מה-27B על בקשות האימון של המודל הגדול יותר, כאשר התלמיד למד את התפלגויות ההסתברות המלאות של המורה ולא רק את תשובותיו, ושכמה ריצות שולבו באמצעות מיצוע לפי משקל. הוא אינו אומר כמה נתונים היו מעורבים בכך, מאיפה הם הגיעו, או היכן נמצאת נקודת החיתוך.

• לא פורסם ניתוח שגיאות. עבור מודל שהפלט שלו הוא הסתברות שתחיל עליה סף, אין פירוט היכן הוא נכשל — לפי סוג שאלה, לפי מספר אפשרויות, לפי שפה או לפי תוכן התמונה.

היכן מודל כזה ממוקם בסטאק

כדאי להיות ברור לגבי מה ש-Flash נועד, מפני שהשם יוצר ציפייה שגויה. הוא לא כותב דבר. אתה מוסר לו מצב — טקסט, JSON, תמונות — ושאלה אחת או יותר עם טיפוס, והוא מחזיר הסתברות או התפלגות שקוד שלך מחיל עליה סף. הארכיטקטורה הטבעית היא שער זול לפני משהו יקר: לסווג את הבקשה, להחליט אם לאחזר, לבחור כלי, ואז לייצר.

השער הזה אינו מחליף את שכבת היצירה, וכאן נודעת חשיבותו של הניתוב. OrcaRouter מציגה יותר מ-200 מודלי יצירה מאחורי מפתח API אחד ללא תוספת מחיר על מחירי המחירון של הספקים, כך שהורדת מחיר מכל ספק במעלה הזרם נכנסת לתוקף באותו יום במקום להמתין לגיליון של משווק מחדש. אם השער מסווג באופן שגוי, מעבר אוטומטי לגיבוי (failover) מונע מהבקשה למות בהופ הבא. מה שאנחנו לא עושים הוא לארח את pplx-decider-flash: הוא אינו בקטלוג שלנו, והדרך הישרה להריץ אותו היום היא ה-API של הספק עצמו או משקולות Apache-2.0 על ה-GPU שלך.

החישוב של אירוח עצמי הגיוני אם כבר יש לך את החומרה. כ-9 GiB של משקולות BF16 נכנסים בכרטיס צרכני של 16 GB, והסיקור של ההשקה חזר על טענה של המנכ״ל של Perplexity ש-Flash פועל על M4 Mac עם 16 GB של זיכרון. אין נתוני תפוקה שפורסמו שמגבים זאת, והקשב הלא-סיבתי אומר שאינך יכול פשוט להכניס אותו לשרת הסקה סיבתי סטנדרטי ולצפות לציונים של הכרטיס.

מה ישנה את ההערכה הזו?

ארבעה דברים, לפי סדר התועלת. שחזור ניטרלי של Decision Index 0.3 שמאשר את 60.05 או מסביר את הפער. התפלגות השהיה מפורסמת מה-API ולא מבדיקת תיעוד בודדת. עדויות על קלטים רב-לשוניים, מכיוון שמסווג 4B הוא בדיוק סוג המודל שצוותים יפעילו על תעבורה שאינה באנגלית בלי לבדוק. ופוסט טכני ממקור ראשון שמתאר את נתוני האימון שמאחורי הזיקוק הזה.

עד אז, העמדה הניתנת להגנה היא צרה ושימושית: pplx-decider-flash-v1.2 הוא מודל החלטות אמיתי, להורדה, ברישיון Apache-2.0, בדרגת 4B, עם מחיר מפורסם, טמפרטורת כיול מתועדת, וכלל חיוב שהופך אותו ליקר יותר מאחיו הגדול ברגע שאתה מקבץ שאלות. כל דבר מעבר לכך הוא לוח התוצאות של Perplexity עצמה, ועליך להתייחס אליו כהשערה לבדיקה על הנתונים המתויגים שלך ולא כתוצאה.