pplx-decider-flash לעומת pplx-decider: ה-4B זול יותר עד ששואלים שלוש שאלות

במחירון, pplx-decider-flash-v1.2 עולה חצי ממה שpplx-decider-v1.2 עולה: $0.01 למיליון טוקני קלט לעומת $0.02. לפי כללי החיוב, ההנחה הזו נשמרת בדיוק לשאלה אחת. שאלו שתי שאלות על אותו מצב ושני המודלים עולים אותו דבר. שאלו שלוש והמודל 4B הוא היקר יותר, כי Flash מחייב על המצב מחדש עבור כל שאלה בעוד ש-27B מחייב עליו פעם אחת. המודל הזול זול יותר רק אם שואלים אותו שאלה קטנה אחת בכל פעם.

ההיפוך הוא החלק השימושי בהשוואה הזו. השאר הוא החלפה מוכרת בין גדלים: צ'ק-פוינט של 4B שמנצח ב-latency ובזיכרון מול מודל בעל 26 מיליארד פרמטרים שמנצח בדיוק, כששניהם נמכרים תחת אותו רישיון Apache-2.0 ואותו הקשר ברירת-מחדל של 262,144 טוקנים.

שתי נקודות ביקורת, שחרור אחד, משימות שונות

Perplexity פרסמה את שניהם ב-15 באוקטובר 2026, את המודל הגדול בשעה 07:40 UTC ואת Flash בשעה 16:57. יש להם עיצוב משותף: שלד Qwen, ראש פלט בעל 255 יציאות במקום ראש של מודל שפה, שכבות תשומת לב מלאה לא-סיבתיות, וטמפרטורת כיול שמורה. אין להם שלד משותף. pplx-decider-v1.2 בנוי על Qwen3.8-27B ומגיע בגודל של כ-52 GiB ב-BF16. pplx-decider-flash-v1.2 בנוי על Qwen3.5-4B ומגיע בגודל של כ-9 GiB.

השמות רופפים יותר מהמספרים. הדגם הגדול משווק כ־27B, אבל כרטיס הדגם שלו עצמו אומר 26B ב־BF16. Flash משווק כ־4B בתיעוד ה־API, בעוד שכותרת כרטיס הדגם שלו אומרת 5B ב־BF16 והשלד שלו הוא דגם 4B. אף אחד מהפערים לא משנה החלטת פריסה; את שניהם כדאי להכיר לפני שמצטטים מספר פרמטרים בתוכנית קיבולת.

המחירון, לפני הכוכבית

• מחיר קלט — pplx-decider-flash-v1.2 במחיר $0.01 למיליון טוקנים לעומת pplx-decider-v1.2 במחיר $0.02.

• מחיר פלט — חינם בשניהם, ללא תשלום לפי בקשה. כל שאלה נחשבת כטוקן פלט אחד לצורכי רישום בלבד.

• מגבלות קצב — 4,000,000 טוקנים בדקה ו-240,000,000 בשעה, עם תקרה של 10 בקשות בשנייה המשותפת לשני המודלים ברמת הארגון.

• כינויים — pplx-decider-flash-latest ו-pplx-decider-latest שניהם עוברים לגרסה החדשה ביותר, כך שסף שכוונן מול גרסה אחת יכול לפגוש גרסה אחרת בשקט.

הכוכבית אינה מוסתרת. התיעוד של Perplexity מציין בפשטות ש-Flash מיועד לשאלה אחת בכל בקשה, ששליחת מספר שאלות מניבה תשובות עצמאיות ללא תלות זו בזו, ושהמצב מחויב שוב עבור כל אחת מהן. הוא אף מדגים את הדוגמה: שלוש שאלות על מצב של 10,000 טוקנים עולות בכ-30,000 טוקני קלט.

כאשר השאלה השנייה מוחקת את ההנחה

הצורה הכללית פשוטה. עבור מצב של s טוקנים ו-q שאלות, Flash עולה q × s × $0.01 למיליון וה-27B עולה s × $0.02 למיליון. חשבון Flash עוקף את המודל הגדול בשאלה השלישית.

• שאלה אחת, מצב של 10,000 טוקנים — Flash ב-$0.0001 לעומת 27B ב-$0.0002. Flash מנצח בחצי.

• שתי שאלות, אותו מצב — Flash $0.0002 לעומת 27B $0.0002. תיקו, לא הנחה.

• שלוש שאלות — Flash $0.0003 לעומת 27B $0.0002. ה-4B יקר ב-50%.

• חמש שאלות — Flash $0.0005 לעומת 27B $0.0002. ה-4B עולה פי שניים וחצי.

במונחים מוחלטים אלו שברי סנט, ולכן קל לפספס את הכלל ולכן הוא מצטבר בהיקף. שער שמריץ מיליון בקשות של שלוש שאלות מול מצבים של 10,000 טוקנים עולה כ-300 דולר ב-Flash וכ-200 דולר ב-27B. המודל שנראה זול ב-50% יקר ב-50% בעומס העבודה שבו עיבוד באצוות היה בדרך כלל אופטימיזציה.

התיעוד של Perplexity אומר שהמודל הגדול יותר "בדרך כלל עולה פחות מ-Flash" בשלוש שאלות או יותר. נקודת ההצטלבות המדויקת היא שתיים. אם השאלות שלך אכן מצומדות — היבטים מסוג "בחר את כל המתאימים" של החלטה אחת — המסלול המשותף הוא גם המדויק. אם מדובר בציוני מועמדים בלתי תלויים, התיעוד ממליץ לפצל אותם לבקשות נפרדות, מה שמעלה עוד יותר את החשבון של Flash ומשאיר את זה של 27B ללא שינוי.

פער הדיוק, קטגוריה אחר קטגוריה

שני המודלים מקבלים ציון לפי Decision Index 0.3, המדד המשולב של Perplexity עצמה. מספר הכותרת הוא 60.05 עבור Flash עם שאלה אחת לכל בקשה, לעומת 68.09 עבור ה-27B עם בקשות משותפות. הפילוח לפי קטגוריות, בהשוואה בין ריצות משותפות לריצות משותפות, מראה מאין מגיע הפער של 9.2 נקודות בריצות המשותפות.

• ידע — 42.0 מול 56.3. פער של 14.3 נקודות, וזה שאמור להכריע ברוב הפריסות. אם השאלה מחייבת לדעת משהו ולא לשפוט משהו, ה-4B אינו תחליף.

• שפה — 63.3 לעומת 72.8.

• אחזור — 64.8 לעומת 68.4. הפער הצר ביותר, 3.6 נקודות. לקבוע אם קטע תומך בטענה היא המשימה ש-Flash נבנה עבורה, והמספרים משקפים זאת.

• כלים — 76.7 לעומת 84.4. שני המודלים הם החזקים ביותר כאן במונחים מוחלטים, מה שמתאים לתרחיש השימוש של ניתוב.

• אמנויות — 46.8 לעומת 56.2.

• Vision — 72.53 לעומת 77.43 במדד ההחלטות החזותיות, פער של 4.9 נקודות שקטן מפער הטקסט והופך את Flash לתחרותי יותר בתמונות מאשר בפרוזה.

ההסתייגות המובנת מאליה חלה על כל נתון שלעיל: המבחן שייך לספק, ואף צד שלישי לא שחזר אותו. כרטיס ה-27B מציין שעבודת האימון כללה את פיצולי האימון הרשמיים של כמה ממשימות Decision Index, שעברו דהקונטמינציה מול ערכות המבחן; זו פרקטיקה מוצהרת, ולא כזו שנבדקה בביקורת. התייחסו לפרופיל הקטגוריות כאל השערה באשר למקום שבו כל מודל חזק — ידע ואומנויות עבור ה-27B, שליפה וכלים עבור שניהם — ולא כאל תוצאה מדודה.

אסימטריית הבקשה המשותפת

קיבוץ שאלות עוזר למודל הגדול ומזיק לקטן, והנתונים של Perplexity עצמה מעידים על כך.

• pplx-decider-v1.2 — 68.09 משותף לעומת 67.75 בודד לכל בקשה. קיבוץ מוסיף 0.34 נקודות.

• pplx-decider-flash-v1.2 — 58.88 משותף לעומת 60.05 אחד לכל בקשה. קיבוץ עולה 1.17 נקודות.

התיעוד מסביר את המנגנון: מודל ה-4B מאבד דיוק כשהוא עונה על כמה שאלות יחד, ולכן שאלה אחת בכל בקשה היא ברירת המחדל המומלצת. מה שהמספרים מוסיפים הוא שהאובדן גדול מספיק כדי לבלוט בציון הכולל, ולא רק במקרי קצה. המודל משווק בזכות מהירות במעבר יחיד, אך נמדד טוב יותר בלי המעבר היחיד. אם בכל זאת מקבצים כדי לרדוף אחרי תפוקה, משלמים על המהירות פעמיים — פעם בטוקנים ופעם בדיוק.

כיול: קרוב יותר מכפי שפער הדיוק מרמז

שני הכרטיסים מפרסמים את הכיול בכנות, וזה נדיר מספיק כדי שיהיה ראוי לציון.

• טמפרטורה שנשמרה — 1.554 ב-Flash לעומת 1.382 ב-27B.

• דיוק בקבוצת הפיתוח — 88.8% ב-1,497 שאלות עבור Flash לעומת 91.3% עבור ה-27B.

• שגיאת כיול צפויה לאחר טמפרטורה — 0.021 עבור Flash לעומת 0.014 עבור ה-27B.

• ציון Brier — 0.163 לעומת 0.134.

Flash פחות מדויק ופחות מכויל היטב, כצפוי בגודל של שביעית, אך פער הכיול הוא 0.007 ECE — קטן מספיק כך שסף שמכוונן על ה-27B יעבור לרוב. כרטיס ה-27B גם גלוי לב שנתוני החלטה שנשמרו מחוץ לאימון עדיין בטוחים מדי במידה מסוימת, עם ECE בסביבות 0.05, כך שאף אחד מהמודלים אינו תחליף להתאמת ספים על הנתונים שלך. התיעוד של Perplexity אומר בדיוק זאת: מדוד את הביצועים של שניהם על נתונים מתויגים בספים המיועדים לך, והשאר את Flash רק אם הוא עומד ביעד הדיוק שלך.

אירוח עצמי: 9 GiB לעומת 52 GiB

שניהם ברישיון Apache-2.0, ולכן מחיר הגרסה המארחת הוא בגדר נוחות ולא נעילה. ההבדל בחומרה הוא נקודת ההבחנה החדה ביותר ביניהם.

• משקלים — כ-9 GiB ב-BF16 עבור Flash לעומת כ-52 GiB עבור ה-27B, בתוספת זיכרון עבודה בשניהם.

• חומרה — Flash מתאים לכרטיס צרכני בנפח 16 GB; ה-27B דורש מאיץ רציני או פיצול בין כמה מעבדים גרפיים.

• הגשה — אף אחד מהם לא משתלב בשרת סיבתי סטנדרטי ללא שינוי. שכבות קשב מלא פועלות באופן לא-סיבתי, ופרומפטים שנכתבו עבור v1.1 אינם עוברים כמות שהם.

• הקשר — 262,144 אסימונים בשניהם כברירת מחדל, כאשר האימון אומת רק עד כ-32,000 והכרטיסים מזהירים שקלטים ארוכים יותר נבדקו פחות.

אירוח עצמי של Flash הוא הגרסה היחידה בהשוואה הזו שבה ה-4B מנצח ללא תנאי. כרטיס בודד של 16 GB, רישיון מתירני והיעדר חיוב לפי טוקן מהווים מוצר שונה מהותית מצ'קפוינט של 52 GiB שזקוק לצוות הגשה.

כלל הכרעה שאפשר ליישם

• שאלה אחת לכל מדינה, נפח גבוה — Flash. יתרון המחיר אמיתי, והפגיעה בדיוק מרוכזת במשימות ידע שאפשר לנתב למקום אחר.

• שתיים או יותר שאלות לכל מצב — ה-27B. בשתיים יש שוויון במחיר, משלוש הוא זול יותר, והוא מדויק יותר במצב משותף; הפער גדל עם כל שאלה נוספת.

• שיפוטים עתירי ידע או עתירי רובריקה — ה-27B. פער של 14.3 נקודות בידע אינו משהו שפרומפט טוב יותר מצליח לסגור.

• בקרת אחזור ובחירת כלים — Flash הינו בר-הגנה. הפערים שם הם 3.6 ו-7.7 נקודות, ועומס העבודה הוא בדיוק מה שהמודל נבנה עבורו.

• פריסה על המכשיר או על GPU יחיד — Flash, ללא חלופה אמיתית בזוג הזה.

• ראייה — כל אחד מהם, כשה-27B מוביל ב-4.9 נקודות; אם אתם כבר מריצים את ה-27B לטקסט, העברת הראייה ל-Flash לא מוסיפה הרבה.

לא משנה באיזה צד של הפיצול תבחרו, ה-decider הוא החלק הזול בצינור. היצירה שהוא משער היא היכן שהכסף הולך, וזו השכבה שכדאי לייעל. OrcaRouter מציב יותר מ-200 מודלים מאחורי מפתח אחד ללא תוספת מחיר על מחירי המחירון של הספקים, כך שהורדת מחיר במעלה הזרם נכנסת לתוקף באותו יום, ומעבר אוטומטי לגיבוי מכסה את המקרה שבו השער שולח בקשה למודל שמצבו ירוד. ה-DSL לניתוב מרכיב מודלים שאנו מספקים; אף אחד משני ה-checkpoints של pplx-decider לא נמצא ביניהם, כך שפיצול Flash מול 27B יצטרך להיות מיושם בקוד שלכם. ה-decider המתארח בקטלוג שלנו הוא Jev של TypeSafe, בגרסאות jev-1.13 ו-jev-1.14.

הבדיקה שאף אחד מהספקים לא פרסם

כל מה שלמעלה הוא החלטה שנעשתה מתוך תיעוד של ספק. המבחן שיכריע את זה משעמם וספציפי: קחו אלף בקשות אמיתיות, תייגו אותן, והריצו את שני המודלים בסף המיועד שלכם עם שאלה אחת ועם שלוש. תעדו דיוק, שגיאת כיול וסך הטוקנים המחויבים. התחזית מהמספרים שפורסמו היא ש-Flash מנצח בעומס העבודה של שאלה אחת מבחינת עלות ומפסיד בזה של שלוש השאלות גם בעלות וגם בדיוק. אם זה מחזיק, הבחירה היא תכונה של צורת הבקשות שלכם, לא של התקציב שלכם — והצוות שמודד את זה יבחר נכון בעוד שכל מי שקורא את רשימת המחירים בוחר במודל שזול ב-50% על הנייר ויקר ב-50% בייצור.