כרטיס כותרת שנוצר, שעליו נכתב 'GPT-6.2 חשיבה נשמרת: ערוך את הקידומת, שלם פעמיים', עם כתובית משנה על כך שפריטי חשיבה כבולים להיסטוריית השיחה שלפניהם, מעל שלוש שורות ממוספרות: שהכבילה מתחילה עם GPT-6.2 Astra ו-GPT-6.2 Sol; שארבע עריכות קידומת רגילות מפילות את הפריטים; ושהטווח המושפע מחייב $2.00 למיליון אסימוני קלט במקום $0.10.
Guides & Insights

GPT-6.2 חשיבה משומרת: ערוך את הקידומת, שלם פעמיים

מחבר

Elias Hawthorne

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

ב-17 בנובמבר 2026, OpenAI שחררה GPT-6.2 Astra וGPT-6.2 Sol עם שינוי ב-Responses API שאין לו דבר וחצי דבר עם איכות המודל, והכול קשור לכמה שאתם משלמים עליו. החל משני המודלים האלה, פריט חשיבה נקשר להיסטוריית השיחה שלפניו. ערכו משהו מוקדם יותר בתמלול — קצרו תוצאת כלי, שכתבו הודעת מפתח, החליפו שלושה תורות ישנים בתקציר — וה-API משמיט את פריטי החשיבה שבאו אחריהם, כאמצעי הגנה. המודל אז צריך לבצע מחדש עבודה שכבר עשה. אין שגיאה, אין אזהרה בזמן הבקשה, ואין שורת חיוב. יש תשובה מעט גרועה יותר וחשבונית גדולה יותר, וקשה לחבר בין השניים.

זו אינה הוצאת־משימוש שאפשר לתזמן. זוהי התנהגות שכבר פעילה לכל מי שקורא ל-gpt-6.2-astra או ל-gpt-6.2-sol היום, והיא תגיע לכל צוות שישדרג, ולכן ראוי לקרוא אותה כפריט מיגרציה ולא כהערת שוליים ביומן שינויים.

מה באמת השתנה ב-Responses API

מודלים קודמים שמרו את פריטי ההסקה שלהם לאורך עריכת קידומת. אפשר היה לשכתב הודעת מפתח בין סבבים, או להחליף את עשרת חילופי הדברים הראשונים בסיכום, וההסקה שהמודל הפיק הייתה נשארת בהקשר. זה היה סלחני בדיוק כפי שקוד סוכן רשלן: לא משנה מה שלחת, המודל קיבל את התועלת של החשיבה המוקדמת שלו.

בהתנהגות החדשה, ה-API בודק את ההיסטוריה, וכאשר הוא מזהה שהקידומת שלפני פריט הסקה השתנתה, הוא מסיר את הפריט הזה. התיעוד של OpenAI עצמה מתאר את ההשלכה במילים פשוטות — ייתכן שהמודל "יצטרך לבצע מחדש חלק מההסקה", מה ש"עלול להגדיל את השימוש בטוקנים, את העלות ואת זמן האחזור", ואיכות התשובה עלולה לרדת "אם המודל לא יצליח לשחזר את ההסקה שאבדה".

כדאי לשנן את ארבעת הטריגרים ש-OpenAI מפרטת, מפני ששלושה מהם נראים כמו קוד מסודר ולא כמו שינוי התנהגות:

• עריכת פריטי קלט קודמים — קיצור תוצאת כלי, מחיקת פנייה, או החלפת קטע מההיסטוריה בסיכום.

• שינוי כלים — הוספה, הסרה או שינוי סדר של הגדרת כלי במהלך שיחה.

• שינוי text.format — החלפת סכימת פלט באמצע סשן.

• שינוי reasoning.effort — הורדת החוגה עבור סיבוב המשך זול, שזו אופטימיזציית העלות הנפוצה ביותר בלולאת סוכן.

שים לב למה שאינו ברשימה. הוספת תוכן חדש אחרי פריט חשיבה היא בסדר. מחיקת פריטים שלמים היא בסדר. הכלל הוא כיווני: ה-API מביט אחורה מכל פריט חשיבה, וכל דבר שהוזז לפניו מבטל אותו.

עריכת קידומת היא ארבעה שינויים רגילים בקוד

כל אחד מאותם ארבעה טריגרים הוא משהו שמהנדס מוכשר עושה בכוונה. זו הבעיה. עריכת קידומת אינה טעות שעושים רק פעם אחת; זהו דפוס עיצוב שמאמצים משום שהוא נכון בכל היבט אחר.

מקרה קיצוץ ההקשר הוא הברור ביותר. סוכן שפועל לאורך זמן ממלא את החלון שלו, ולכן אתה מפיל את התורות הישנים ביותר או מסכם אותם. זו היגיינה טובה, זה חוסך טוקנים של קלט, וב-GPT-6 Sol זה היה בחינם. ב-GPT-6.2 זה מוחק את ההנמקה שהגיעה אחרי אותם תורות, והמודל מתחיל את הצעד הבא לאחר ששכח מדוע בחר בכלי שבחר.

מקרה חוגת המאמץ גרוע יותר, מפני שזהו בקרת עלות שמתהפכת. האופטימיזציה הטבעית — להריץ תורות שגרתיות ברמה נמוכה ולהסלים לרמה גבוהה כשהעבודה נעשית קשה — היא שינוי ב-reasoning.effort בין בקשות. ב-GPT-6.2 העריכה הזו מפילה את ההיסק, כך שההסלמה היקרה מחשבת מחדש מאפס את ההיסק היקר. שילמת על גבוה וקיבלת גבוה שמתחיל קר, וזה דבר אחר ויקר יותר.

מה העלות של פריט חשיבה שנשמט

אין מחיר מפורסם עבור פריט חשיבה שהושמט, ולכן הדרך הכנה להעריך את היקפו היא להסתכל על מה שעולה חשיבה מלכתחילה. Artificial Analysis מודדת את כל החבילה, וספירות הטוקנים לכל משימה הן הדבר הקרוב ביותר למדידה ציבורית של כמות החשיבה שמודל חזיתי משקיע בעבודה קשה.

ב-Intelligence Index v5.0.1 במאמץ מקסימלי, GPT-6.2 Sol מייצר 60.9 מיליון אסימוני פלט כדי להשלים את מערך תשע ההערכות, לעומת עלות משוקללת של 1.01 דולר למשימת אינדקס ו-9.3 דקות למשימה. GPT-6.2 Astra מייצר 65.8 מיליון אסימוני פלט עבור אותו מערך, ומחייב 4.00 דולר למשימת אינדקס לפי 40 דולר למיליון אסימוני פלט. הסכומים האלה הם הרצפה של מה שעולה הערכה מלאה, וכל אחד מהאסימונים האלה נרכש בתעריף הפלט המלא. נתונים שמדווחים הספקים מצביעים לאותו כיוון — O​penAI אומרת ש-GPT-6.2 Astra משתמש ב-22% פחות אסימוני פלט מ-GPT-6 Astra בבנצ'מרק הפנימי GDPval v2 שלה — אבל זו השוואה בין מודלים, לא מדידה של מה שפריט שהושמט מוסיף בחזרה.

המנגנון הוא מה שחשוב כאן, לא המכפיל המדויק. פריט חשיבה שצריך לייצר מחדש הוא טוקנים של פלט שכבר שילמת עבורם, שנוצרים בפעם השנייה. בלולאת סוכן שמריצה עשרים תורות על משימה אחת, אובדן חשיבה בתור השישי לא עולה לך תור אחד של חשיבה; הוא עולה לך את הגזירה מחדש ועוד כל החלטות ירודות שהגיעו מההקשר הדליל יותר. שני הדברים בלתי נראים ביומן לפי בקשה.

A generated single-column scoreboard with six rows. Cached input $0.10 per million tokens; uncached input $2.00 per million tokens; cost ratio on the affected span 20x; documented triggers 4; reasoning after a prefix edit: dropped; diagnostic field comparison_response_id. A footer line attributes the behaviour to OpenAI's preserved-reasoning guide and the cache rates to the GPT-6.2 Sol model page, 17 November 2026.

השכתוב בהוספה בלבד, בחמישה מהלכים

ההנחיה של OpenAI היא להפסיק לערוך את הקידומת ולהתחיל להוסיף לה. קל לומר זאת, וזה משנה חמישה מוקדי קריאה נפרדים, אז הנה הם יחד, עם שמות השדות המדויקים.

• מאמץ חשיבה — אל תשנה את reasoning.effort בין בקשות. במקום זאת, הוסף פריט configuration_update ל-input, הנושא את המאמץ החדש. המבנה המתועד הוא {"type": "configuration_update", "reasoning": {"effort": "high"}}, ממוקם לפני הודעת המשתמש הבאה. ההגדרה נשמרת עד שעדכון אחר עוקף אותה, ואתה יכול לשנות את reasoning.effort ואת text.format באותו פריט.

• סכמת פלט — אותו פריט, אותו טיפול. יש לשנות את text.format דרך configuration_update ולא על ידי עריכת הבקשה. עדכון של רק אחד מהשניים משאיר את השני במקומו, וזו דרך עדינה לקבל סכמה לא צפויה.

• כלים — הוסף כלים באמצעות פריט additional_tools שנשלח תחת תפקיד developer, הנושא מערך tools, ומשוחזר במיקומו המקורי. שמור על ההגדרות הקיימות בסדרן המקורי, והשתמש ב-tool_choice עם allowed_tools כדי להגביל את מה שהמודל רשאי לקרוא.

• הוראות — יש לשים טקסט לשימוש חוזר בהודעת המפתח הראשונה שבתוך input, ולא בשדה ההוראות ברמה העליונה. כדי לשנות אותו, יש לצרף הודעת מפתח חדשה. ב-GPT-6.2 ואילך שדה ההוראות ברמה העליונה מצורף אחרי input, כך שעריכתו היא כשלעצמה שינוי קידומת.

• דחיסה — עם הדחיסה של OpenAI עצמה, בין אם באמצעות נקודת הקצה /responses/compact ובין אם באמצעות context_management, יכולת החשיבה שורדת את שינוי הקידומת. השמט את instructions בעת קריאה ל-/responses/compact. בדחיסה מותאמת אישית, הצב את הפריט שנדחס בסוף ההקשר. שימו לב לקצה החד: גם קיצוץ אוטומטי וגם /responses/compact דוחים היסטוריות שמכילות פריטי configuration_update, ולכן סשן שמשתמש בתבנית החדשה לא ניתן לדחוס באמצעות המסלול הישן.

אם אתה מבצע דחיסה ידנית עם פריט compaction_trigger, הוסף configuration_update חדש לאחר הדחיסה וחזור ופרט כל הגדרה ששינית. שום דבר לא עובר את הגבול עבורך.

לזהות את זה לפני שהחשבונית שלך עושה זאת

הסיבה ששינוי ההתנהגות הזה מסוכן היא שהוא נכשל בשקט. ה-API מחזיר 200. התגובה נראית רגילה. מה שצריך הוא דרך לראות את הירידה, ו-OpenAI מספקת אחת כזו: יש להגדיר את prompt_cache_options.comparison_response_id למזהה תגובה קודם, ואז לקרוא את סיבת האבחון ואת מספר הטוקנים במטמון. השדה input_transformations מפרט אילו פריטי reasoning הוסרו ומדוע, וסיבה מסוג prefix_mismatch תואמת לפי id לפריט reasoning בפלט של התגובה הקודמת.

שתי מגבלות כנות באבחון הזה. הוא מדווח על ההבדל הראשון על בסיס מאמץ מיטבי, ואינו יכול לאמת אם המודל אכן עשה שימוש חוזר בהנמקה ששמר. לכן התייחס אליו כאל גלאי עשן, לא כמד — הוא אומר לך שקרתה ירידה, לא מה היא עלתה.

החצי השני של המכשור הוא המטמון, וכאן נפגשים סיפור הטוקנים וסיפור העלויות. מטמון פרומפטים מתאים בקשות מההתחלה, כך שעריכת קידומת לא רק מפילה פריטי חשיבה; היא מסיימת את השימוש החוזר במטמון מנקודת העריכה ואילך. כל מה שאחרי הנקודה הזו מחויב לפי תעריף קלט לא שמור במטמון. ב-GPT-6.2 Sol זה $2.00 למיליון במקום $0.10 — הבדל של פי עשרים על הטווח המושפע. ב-GPT-6.2 Astra זה $8.00 במקום $0.40, אותו יחס של פי עשרים בכרטיס גדול פי ארבעה.

זה המספר שכדאי לשים לב אליו, והוא זה שפוסט השקה לעולם לא יהפוך לכותרת: החמצת המטמון היא החשבון, וההיגיון שנשמט הוא נסיגת האיכות, ושניהם נובעים מאותה עריכה. טוקנים עבור שדה ההוראות ברמה העליונה ב-GPT-6.2 ואילך מחויבים בתעריף קלט שאינו במטמון בדיוק מהסיבה הזו — השדה יושב מחוץ לקידומת השמורה במטמון.

Screenshot of the Artificial Analysis page for GPT-6.2 Sol, showing an Intelligence Index of 57 at max effort, a weighted cost of $1.01 per index task, 9.3 minutes per task, 72 output tokens per second and 60.9M output tokens used across the nine-evaluation suite.

מה זה אומר עבור פריסת Sol 6.1

שום דבר מזה אינו טיעון נגד המעבר. GPT-6.1 Sol משיג 55 ב-Intelligence Index v5.0.1 במאמץ מקסימלי, ו-GPT-6.2 Sol משיג 57, בעלות של $1.27 למשימת אינדקס לעומת $1.01, וב-24.9 דקות למשימה לעומת 9.3 — מודל מהיר יותר, זול יותר וחכם במעט יותר, על מחירון ללא שינוי של $2 לקלט, $0.10 לקלט שמור במטמון ו-$10 לפלט. השדרוג אמיתי. מה שהשתנה הוא שלשדרוג יש כעת תנאי מוקדם של נכונות, והתנאי המוקדם הוא שטיפול השיחות שלך יהיה בהוספה בלבד.

הדרך הזולה ביותר לענות על כך היא השוואת חשבוניות ולא השוואת ציונים: לשלוח נתח זעיר מתעבורה חיה אל gpt-6.2-sol כשהמכשור שלך לתיעוד append-only מופעל, ולקרוא את נתח הטוקנים שבמטמון בשתי הזרועות לאחר יום. OrcaRouter מגיש את openai/gpt-6.1-sol במחיר המחירון של הספק בלי שום תוספת, וחשבונאות המטמון לכל בקשה מגיעה בבלוק השימוש, כך שצד 6.1 של ספר החשבונות הזה אינו דורש חוזה נפרד כדי לקרוא אותו. Failover הוא מה שמונע מהנתח להפוך לתקלה: כל בקשה שהנתיב החדש לא יכול לשרת נופלת אל המודל שכבר עונה. החצי שצריך לומר בפשטות הוא ש-GPT-6.2 Sol עדיין לא נמצא בקטלוג כאן, ולכן זרוע 6.2 נקראת ישירות מול OpenAI בעוד זרוע 6.1 נקראת מולנו.

מה שכדאי לעקוב אחריו בהמשך צר מכפי שזה נשמע. ההתנהגות מתועדת, מסלול ההגירה מתועד, והאבחון קיים. מה שעדיין לא קיים הוא מדידה ציבורית של המחיר, במונחי טוקני פלט, של פריט חשיבה שהושמט במשימת אופק ארוך אמיתית; ועד שמישהו יפרסם מדידה כזו, כל אומדן של הנזק הוא מודל של המנגנון ולא קריאה ממונה. אם אתם מריצים סוכנים בהיקף גדול, יש לכם יתרון על פני כל בנצ׳מרק בהפקת המספר הזה — ואתם תפיקו אותו בין אם תרצו ובין אם לא, וזו הטענה בעד הוספת אינסטרומנטציה עכשיו.

Screenshot of OpenAI's preserved-reasoning guide, showing the section on configuration_update and additional_tools items, the list of changes that cause reasoning items to be dropped, and the append-only guidance for changing effort, tools and output schema mid-conversation.

השוואות במאמר הזה3

זוהה מתוך המאמר הזה · בנצ'מרקים: Artificial Analysis · מתעדכן יומית