pplx-decider על Ollama: מודל ההחלטות השקט בגודל 27B של Perplexity הופך לניתן להרצה

Perplexity פרסמה את המשקולות של pplx-decider-v1.1-27b ב-5 באוקטובר 2026, ואת נקודת הבדיקה הראשונה שהוא החליף, pplx-decider (שם המאגר pplx-decider-v1-27b), ב-1 באוקטובר 2026. שניהם פיין-טיונים של Qwen3.8-27B שמשיבים בהסתברויות במקום במשפטים, ושניהם נמצאים באותה שושלת System One כמו Jev 1.13 של TypeSafe. מה שחדש אינו המודל: נכון להיום, pplx-decider הוא ערך בספריית המודלים של Ollama עצמה, שניתן להתקין בפקודה אחת. לפני שהרשומה הזו הופיעה, הרצת נקודת הבדיקה הזו דרשה מעבד גרפי CUDA עם מקום לכ-49 GiB של משקולות bf16. כעת זו משיכה מכוייצת של 17 GB במחשב נייד. השינוי היחיד הזה הוא נושא העמוד הזה, והמודל שהוא הופך לניתן להרצה הוא בן ארבעה עשר ימים.

מה השתנה, במונחים קונקרטיים

הרשומה בספריית Ollama נקראת pplx-decider, והספרייה צברה בהתמדה מודלים של החלטות — Laya, Nimble, Kev, Clef, Strands Decider — לאורך הסתיו. זו התוספת החדשה ביותר, וברג'יסטרי המתוחזק היא חושפת שלושה תגים (pplx-decider:latest, pplx-decider:27b ו-pplx-decider:27b-q4_K_M) שמצביעות על אותו digest של מניפסט. ארטיפקט יחיד, לא סולם גדלים.

• פורמט — GGUF המוגש על ידי llama.cpp, לעומת פרוסות ה-safetensors מסוג bf16 ב-Hugging Face

• גודל ההורדה — כ-17 GB ב-q4_K_M, לעומת כ-49 GiB של משקלים בתוספת זיכרון עבודה עבור נקודת הביקורת bf16

• שכבת ראייה — המניפסט נושא מקרן נפרד בגודל ~927 MB לצד שכבת המודל, כך שקלט תמונה ארוז יחד עם משקולות הטקסט

• חומרה — מחשב צרכני ולא מכונת CUDA

הממשק של Ollama/v1/systemone הוא נקודת הקצה, שאותה הוסיפה ב-v0.35.0 והרחיבה עבור מודלי Clef ב-v0.35.1. היא גם קיבלה זה עתה ממשק שורת פקודה: v0.40.4, ששוחררה ב-2026-10-12, הוסיפה מודלי החלטה ל-ollama run, כך שניתן לשאול שאלת כן/לא, לבחור תווית או לקבל ציון לפי רובריקה ישירות מהטרמינל באמצעות --ask, --choice ו--level. הגרסה הזו בת שלושה ימים; המודל שהיא הופכת לנוח לשימוש הוא בן שבועיים.

מה שהמאגר למעשה מתעד

נקודת הביקורת אינה מודל צ'אט עם פרומפט תמציתי. הכרטיס שלה מתאר פריסת החלטה נייטיבית: עמוד השדרה Qwen3.8-27B בשם המחלקה שפורסם, בתוספת readout.safetensors נפרד שמחזיק ראש החלטה bf16 [255, 5120] — קריאה בת 255 מחלקות על חריצי האפשרויות, לא ראש שפה עם אוצר מילים מלא. אין לולאת פענוח. כל אפשרות בכל שאלה מקבלת ציון במעבר קדימה אחד, ולכן התגובה מדווחת אפס טוקני פלט.

שלושה פרטים בכרטיס חשובים יותר מטבלת הבנצ׳מרק, כי הם אלה ששוברים אינטגרציה נאיבית:

• מצב קשב. שכבות קשב מלא משתמשות במצב לא-סיבתי שמור, והכרטיס אומר במפורש שהסקה סיבתית כברירת מחדל אינה משחזרת את ההגדרה שהוערכה. הפעילו את נקודת הביקורת עם טוען סיבתי מדף ותקבלו מספרים שאינם אלה שפורסמו.

• טמפרטורת כיול. ה-DecisionModel.predict המסופק מחיל טמפרטורה שמורה. אם אתה קורא לוגיטים ישירות, החל אותה בדיוק פעם אחת — החלה פעמיים, או אי-החלה כלל, מעוותת את קנה המידה של כל הסתברות שעליה אתה מסתעף.

• מגבלת החלטה אמיתית. טקסט וכל התמונות עבור החלטה אחת חייבים להיכנס בתקציב של 8,192 אסימונים, וקלטים החורגים מהמגבלה נדחים ולא נחתכים. האימון וההערכה המדווחת הגבילו תמונות ל-512×512; העלאת המגבלה ניתנת כעת להגדרה באמצעות max_image_pixels, עם ברירת מחדל של 2048×2048, אך הכרטיס מזהיר שרזולוציות גבוהות יותר נמצאות מחוץ להתפלגות האימון.

המאגר שלם באופן יוצא דופן מבחינות אחרות עבור מודל שאיש לא הכריז עליו: אחד עשר מקטעי safetensors, קובץ decision_config.json, תבנית צ'אט, וקובץ release-manifest.json המתעד סכומי ביקורת של קבצים ומוצאן של נקודות ביקורת. הרישיון הוא Apache 2.0.

שני חלקים מהתיעוד סטו זה מזה. הכרטיס של v1.1 עדיין אומר לך לבצע אימות מול "המאגר הפרטי הזה" — המאגר פתוח לציבור היום. והכרטיס הישן יותר של v1 נושא מצביע new_version אל v1.1, וזה האות האמין לכך ש-v1 הוחלף.

הדבר האחד שצריך לבדוק לפני שמתכננים סביבו

הרשומה של Ollama מפרסמת חלון הקשר של 256K. נראה שהמספר הזה עובר בירושה מהמודל הבסיסי — Qwen3.8-27B אכן נושא 262,144 פוזיציות — והוא אינו החוזה שנקודת ביקורת ההחלטה מתעדת לעצמה. נקודת הביקורת דוחה כל החלטה שהטקסט שלה בתוספת תמונותיה חורג מ-8,192 טוקנים. תכנן צינור על 256K, האכל אותו בחוזה של 40,000 טוקנים ובארבע תמונות עמודים, והבקשה תיכשל במקום להתקצץ. הנתון הגדול מתאר את הארכיטקטורה; הנתון הקטן מתאר את ה-API שאליו אתה למעשה פונה.

לתמיכה בתמונות יש מקרה קצה דומה. כרטיס המודל של Ollama עבור pplx-decider מציג בקשת תמונה כנגד /v1/systemone, אבל דף היכולות של Ollama עצמו עבור נקודת הקצה הזו מציין שתמונות הן "רק עבור מודלי Clef". אחד משני המסמכים האלה מיושן. התייחס לקלט מולטימודלי בנתיב הזה כלא מאומת עד שתריץ אותו בעצמך — הצ'קפוינט הבסיסי בבירור מקבל תמונות, והמניפסט בבירור מגיע עם פרוג'קטור, אבל השער המתועד של סביבת ההרצה צר יותר מכפי שכרטיס המודל מרמז.

מספר ספק, ומספר אחר

ההערכה של Perplexity עצמה עבור הצ׳קפוינט v1.1 מדווחת על Decision Index של 61.56 לעומת 57.9 עבור Jev באותה סדרת מבחנים ו-56.4 עבור הצ׳קפוינט שהוחלף, כשהשיפורים הגדולים ביותר בקטגוריות היו בשפה (69.45) ובאחזור (61.26). הנתונים האלה מדווחים על ידי הספק והופקו בצד של Perplexity; עבור הצ׳קפוינט המוקדם יותר, הכרטיס מרחיק לכת ואומר שהתוצאות נמדדו דרך ה-API של Perplexity. זה דבר לגיטימי לפרסם, אבל דבר חלש להסתמך עליו.

התמונה העצמאית שימושית יותר. לוח דירוג קהילתי פתוח עבור מחלקת המודלים הזו, Jev Decision Index, ניקד את pplx-decider-v1.1-27b בפאנל משלו, ופרסום הנתונים שלו מ-2026-10-14 מדווח שהצ'קפוינט משלים 110,179 מתוך 110,201 מקרים שקיבלו ציון ב-42 בנצ'מרקים על RTX PRO 6000 בודד. בלוח הזה המודל משיג ציון מיומנות מאוזן של 62.75 ומקום שישי, כש-Jev במקום ה-12 עם 60.11. שני דברים שטבלת הספק אינה מציגה נובעים מאותם נתונים:

• היכן שהוא חזק.ARC-Easy 99.3, ARC-Challenge 97.0, החלטות כן/לא לקריאה לפונקציה (BFCL) 97.2, FinEntity 95.4, BPoMP 95.2, CLINC150 91.5. משימות סיווג ואחזור קלאסיות הן המקום שבו הצ'קפוינט הזה מצדיק את עצמו.

• היכן שזה לא כך. Humanity's Last Exam 16.2, ChessBench 17.7, SATA-Bench 28.2, ACOS 28.2, מערך הדיאלוגים המודרך בסכימה 33.2, BRIGHT 50.9, GPQA Diamond 56.1. הסקה קשה מרובת-שלבים אינה מה שקריאה חד-פעמית מניבה לך, ומערכת שמנתבת בשקט את עבודת ההסקה למודל החלטה תפיק ענפים שגויים בביטחון.

לכיול מגיעה שורה משלו, משום שהוא כל הנקודה של מודל שמחזיר הסתברויות במקום תוויות. על 34,829 החלטות שקיבלו ציון באופן עצמאי, הצ׳קפוינט השיג בממוצע דיוק של 76.1 אחוזים מול ביטחון ממוצע של 82.9 אחוזים — שגיאת כיול צפויה של 0.071 וציון Brier של 0.335, כאשר 2.0 אחוזים מהמקרים נמצאים מעל ביטחון של 0.95 ובכל זאת שגויים. זהו משטח הסתברות שמיש אך לא מושלם, והוא מכויל טוב יותר באופן מדיד מאשר ה-ECE של Jev, 0.074, על אותו לוח. אם אתם קובעים סף של 0.9 ומתייחסים אליו כאל כמעט-ודאות, אותם 2 אחוזים הם המספר שצריך לתכנן סביבו.

השהיה על אותה חומרה הסתכמה בחציון של 104 מילישניות ובאחוזון 95 של 835 מילישניות על פני 110,000 החלטות, וזהו הטיעון המעשי למודל החלטות על פני מודל שפה קטן בעמדת שער: אחוזון ה-95 הוא התקציב, לא הממוצע.

מה מחירה של החלטה

Perplexity מפעילה API Decisions מתארח משלה עבור צ'קפוינטים אלה — POST https://api.perplexity.ai/v1/decisions, כאשר pplx-decider-v1.1-27b הוא מזהה מודל ברירת המחדל והצ'קפוינט המוקדם עדיין ניתן להפניה. עמוד התמחור הזה מפרט $0.02 לכל מיליון אסימוני קלט, אסימוני פלט בחינם, וללא עמלה לפי בקשה, עם תקרה של 128 שאלות לבקשה, 262,144 אסימוני קלט ו־10 בקשות בשנייה לכל ארגון.

לעומת זאת, המסלול המקומי לא עולה דבר לכל החלטה ברגע ש-17 GB ירדו. עבור תור מיון שמריץ קומץ שאלות עם טיפוסים לכל כרטיס, החשבון הזה מדבר בעד עצמו — וכדאי לשים לב שתקרת 262,144 טוקני הקלט של הגרסה המתארחת אינה הגבול שהעותק המקומי שלך יאכוף, מפני שהתקציב של הצ'קפוינט עצמו הוא 8,192.

המקום שבו המסלול המקומי אינו הפתרון הוא שאר המחסנית שסביב ההחלטה. זהו מודל 27B שמחזיר הסתברות אחת לכל אפשרות; הוא לא ינסח את התשובה, לא יסכם את הפנייה ולא יקרא לכלי. אם אתם רוצים גם את ההחלטה וגם את הכתיבה מאחורי מפתח אחד, לשם כך נועד OrcaRouter — API אחד על פני יותר מ-200 מודלים, עם מחיר המחירון של הספק המועבר הלאה ללא תוספת מחיר לכל טוקן, ובנוסף ה-DSL של הניתוב כשאתם רוצים מודל החלטה ומודל כתיבה המשולבים לקריאה אחת. שני חלקים מהסיפור המסוים הזה כבר נמצאים בפלטפורמה: נקודת הביקורת הבסיסית מוגשת כ-Qwen3.8-27B, כך שתוכלו להשוות את הכיוונון העדין מול הבסיס שעליו הוא נשען על אותו מפתח, ומודל הייחוס שמולו הוא נמדד מוגש כ-Jev 1.13 דרך אותה צורת נקודת קצה של systemone. ה-decider של Perplexity אינו אחד שאנחנו מספקים — הוא זמין דרך ה-API של Perplexity עצמה וכמה פלטפורמות צד שלישי — כך שאם אתם צריכים אותו ספציפית, המשיכה המקומית שלמעלה ונקודת הקצה של Perplexity הם המסלולים שלכם.

שלוש שאלות שהמאגר אינו עונה עליהן

איזה צ'קפוינט נמצא בארטיפקט המכומת? הרשומה בספריית Ollama נקראת על שם המשפחה, לא על שם גרסה, ובלוק הבנצ'מרק שלה מקשר אל v1, המאגר — טבלת 11 הבנצ'מרקים מראה 85.7 אחוז, שזה הנתון הכולל של כרטיס v1 ולא חבילת Decision Index של v1.1. v1.1 הוא הצ'קפוינט החזק יותר לפי החשבון של Perplexity עצמה, וזה לא בהכרח זה שאתה מושך. בדוק את הדייג'סט לפני שאתה מסתמך על ההנחה.

האם Perplexity התכוונה שכל זה יהיה פומבי? לא צצה שום הודעה, פוסט בבלוג, רשומת יומן שינויים או הודעת זמינות API עבור המשקולות הללו. הצ'קפוינטים נקראו על ידי אלפים — 2,740 הורדות ב-v1 ו-3,154 ב-v1.1 בזמן כתיבת שורות אלה — אך תשומת לב לכרטיס מודל אינה זהה לאמירה של ספק שהוא נתמך. התייחסו למאגר הציבורי כארטיפקט הסמכותי, ולכל השאר כהשערה.

האם מגיעה גרסה רשמית מוכרזת המתארחת אצל הספק? לא ידוע. קיומו של Decisions API מתועד ומתומחר בצד של Perplexity מרמז שהמסלול המתארח הוא המוצר המיועד, והמשקלים נמצאים במעלה הזרם ממנו. אבל זו השערה לגבי כוונה, לא עובדה מתוך מסמך, והיא מסומנת ככזו.

מי צריך לזוז, ומי לא

אם הפייפליין שלך כבר מסתעף לפי החלטות ספק מטופּסות — ניתוב פניות, זיהוי החזרים, שער לשלבי סוכן — זהו צ'קפוינט בן שבועיים עם ציונים ששוחזרו באופן בלתי תלוי, רישיון Apache 2.0, ונכון להיום, נתיב של 17 GB אל חומרה שבבעלותך. ההערכה מרמזת שהוא מכויל טוב יותר ממודל הייחוס וטוב יותר בכשני דירוגים בלוח דירוגים ציבורי, והעותק המקומי מסיר לחלוטין את המחיר לכל החלטה. משוך אותו, הרץ אותו מול הדוגמאות המתויגות שלך, והשווה אותו למה שאתה משתמש בו כעת. תקציב ההחלטה של 8,192 טוקנים הוא האילוץ שכדאי לבדוק מולו תחילה, ולא ה-256K שהרשומה מפרסמת.

אם אתה זקוק להסקה ולא לסיווג, המתן. הפאנל הבלתי תלוי ממקם את הצ׳קפוינט הזה בטווח הנמוך של העשרה בבנצ׳מרקים של ידע קשה, ומשטח הסתברות שבטוח לגבי שאלה שהוא למעשה לא יכול לענות עליה גרוע יותר בסביבת ייצור ממודל איטי שחושב תחילה. הטיעון בעד מודל החלטה הוא החציון של 104 מילי־שניות והעובדה ששישים שאלות דורשות מעבר אחד — ושום דבר מזה לא עוזר כשהתשובות שגויות.

הרצת שלב קבלת ההחלטה על החומרה שלך היא גם הזדמנות טובה לבחון מה כבר השתבש בקטגוריה הזו: אירועי ה-AI המתועדים וכשלי הסוכנים הכרוכים במודלים של קבלת החלטות נאספים בOrcaRouter AI Incident Archive, שבו כל רשומה נושאת את המקורות, החומרה, דירוג הביטחון ודגל המחלוקת שלה.