גרסת 2024-08-06 של GPT-4o מציעה ביצועים משופרים בפלטים מובנים, עם יכולת לספק סכימת JSON ב-respone_format. קרא עוד [כאן](https://openai.com/index/introducing-structured-outputs-in-the-api/). GPT-4o ("o" עבור "omni") הוא...
GPT-4o (2024-08-06) הוא גרסה של המודל GPT-4o של OpenAI, ששוחררה באוגוסט 2024. זהו מודל שפה גדול מולטי-מודאלי המעבד תשומות טקסט, תמונה וקבצים. המודל נגיש דרך ממשק ה-API התואם ל-OpenAI של OrcaRouter,…
החוזקות העיקריות של המודל טמונות בחשיבה מתמטית ובהבנה מולטי-מודלית. הציון שלו במבחן MATH-500, 79.5, מעיד על יכולת חזקה לפתור בעיות מתמטיות מורכבות צעד אחר צעד. הוא יכול לפרש תמונות, דיאגרמות ותרשימים, ולספק תיאורים או ניתוחים מדויקים. חלון ההקשר של 128K מאפשר לו לעבד כמויות גדולות של מידע, כמו ספר באורך מלא או סדרת תמונות עם טקסט נלווה. הוא גם מטפל בהעלאות קבצים, מה שהופך אותו לשימושי למשימות כמו חילוץ נתונים מגיליונות אלקטרוניים או קריאת קבצי קוד. יכולות אלו מגובות באופטימיזציה המתמדת של OpenAI, והמודל נמצא בשימוש נרחב בסביבות ייצור.
GPT-4o (2024-08-06) מצטיין במשימות הדורשות שילוב של מידע חזותי וטקסטואלי. דוגמאות כוללות פתרון בעיות מתמטיות עם דיאגרמות, ניתוח צילומי מסך של ממשקי משתמש לצורך דיווחי באגים, חילוץ נתונים ממסמכים סרוקים, ומתן הסברים מפורטים על גרפים מורכבים. הוא גם יעיל ליצירת קוד וניפוי שגיאות כאשר ההקשר כולל צילומי מסך של שגיאות או מבני קבצים. יישומים חינוכיים נהנים מהיכולת שלו להסברים שלב אחר שלב. עבור משימות פשוטות המבוססות אך ורק על טקסט, כמו שאלות ותשובות בסיסיות או סיכום טקסטים קצרים, מודל זול יותר כמו GPT-4o mini עשוי להספיק. מודל זה מומלץ לשימוש בעיקר בתהליכי עבודה בעלי ערך גבוה, מרובי-מודאליים, או הדורשים חשיבה מעמיקה.
עבור משימות שאינן מנצלות ראייה, עיבוד קבצים, או חשיבה מתקדמת, מודל קטן וזול יותר הוא חסכוני יותר. לדוגמה, יישומי צ'אט פשוטים, יצירת תוכן קצר, או משימות סיווג יכולות להיות מטופלות על ידי מודלים כמו GPT-4o mini או GPT-3.5 Turbo. אם היישום שלך מעבד טקסט בלבד ואינו דורש את חלון ההקשר של 128K, מודל עם הקשר קטן יותר עשוי להפחית את זמן ההשהיה והעלות. בנוסף, אם הנתונים שלך אינם כוללים תמונות או קבצים, מודל טקסט בלבד מספיק. הערך האם מורכבות המשימה מצדיקה את המחיר הגבוה יותר לטוקן של GPT-4o. OrcaRouter מציעה מגוון מודלים עם נקודות מחיר שונות כדי להתאים למקרי שימוש שונים.
כן, המודל מקבל קבצים כקלט. ניתן להעלות קבצים כגון PDF, מסמכי Word, גיליונות אלקטרוניים, תמונות וקובצי קוד. המודל מחלץ ומבין את התוכן שבתוך קבצים אלה, ומתייחס אליו כחלק מההקשר. לדוגמה, הוא יכול לקרוא טקסט מ-PDF, לפרש מספרים בקובץ CSV, או לנתח קוד מקור בקובץ .py. בשילוב עם קלט תמונה, הוא יכול לעבד מדיה מעורבת כמו מסמך עם תרשימים מוטמעים. זה שימושי במיוחד לאוטומציה של חילוץ נתונים, סקירת מסמכים וניתוח קוד. שים לב שעיבוד קבצים נכלל במכסת חלון ההקשר של 128,000 token, כך שקבצים גדולים עלולים לצרוך מקום משמעותי.
במדד MATH-500, GPT-4o (2024-08-06) השיג ציון של 79.5. MATH-500 הוא תת-קבוצה של מערך הנתונים MATH, הכוללת 500 בעיות מתמטיקה מאתגרות ברמת תחרות המכסות נושאים כמו אלגברה, גאומטריה, תורת המספרים והסתברות. ציון של 79.5 מצביע על תשובות נכונות בארבע מתוך חמש בעיות בקירוב. דבר זה ממקם אותו בין המודלים בעלי הביצועים הטובים ביותר בתחום החשיבה המתמטית. אף על פי שלא מסופקים ציוני מדדים אחרים, מדד זה מדגים את חוזקו של המודל בהסקה לוגית שלב אחר שלב ובחשבון. משתמשים יכולים לצפות לביצועים אמינים ביישומים כבדי מתמטיקה כמו שיעורים פרטיים, אימות והפקת בעיות.
ציונים ספציפיים של מדדי ביצוע מעבר ל-MATH-500 אינם מסופקים בעובדות הזמינות. עם זאת, משפחת המודלים GPT-4o ידועה כביצועית תחרותית במגוון מדדים סטנדרטיים, כולל MMLU (הבנה לשונית רבת-משימות רחבת היקף), HumanEval (יצירת קוד), ומשימות שונות של שפה-ראייה. הגרסה מאוגוסט 2024 עשויה לכלול עדכונים המשפרים חשיבה ומעקב אחר הוראות. ללא נתונים מדויקים, על המשתמשים להפנות להערכות שפורסמו על ידי OpenAI לקבלת המידע העדכני ביותר. למטרות מעשיות, המודל נחשב למתקדם ביותר מבין המודלים הפתוחים-לממשק מבחינת יכולות משולבות של טקסט וראייה.
לא מסופקים נתונים ספציפיים על השהיה או תפוקה עבור מודל זה. באופן כללי, GPT-4o מתוכנן להיות מהיר יותר מגרסאות GPT-4 קודמות תוך שמירה על איכות. ההשהיה תלויה בגורמים כגון אורך הקלט, אורך הפלט, בקשות בו-זמניות ותשתית השרתים האחורית. כאשר ניגשים דרך OrcaRouter, הבקשות מנותבות לשרתים של OpenAI, וזמני התגובה דומים לקריאות ישירות ל-API. משתמשים יכולים לייעל על ידי שימוש בהקשר הקטן ביותר הדרוש והגדרת מגבלות max_tokens סבירות. עבור יישומים בזמן אמת, מומלץ לבדוק עם עומסי עבודה מייצגים. OrcaRouter אינה מוסיפה השהיה נוספת מעבר לניתוב הרשת.
יתרונות: היגיון מתמטי חזק (MATH-500 79.5), קלט מולטי-מודלי (טקסט, תמונות, קבצים), חלון הקשר גדול של 128K, ומגבלת טוקני פלט גבוהה (16,384). הוא יעיל במיוחד עבור היגיון מורכב, הבנה חזותית, ומשימות הדורשות הקשר לטווח ארוך. מגבלות: עלות גבוהה יותר בהשוואה למודלים קטנים יותר; עשוי לא להיות אופטימלי למשימות פשוטות או בעלות חביון נמוך; הדיוק עשוי להשתנות בקלטים מעורפלים או בפורמט גרוע; יכולות ראייה עשויות לא לפעול היטב על תמונות מעוותות או ברזולוציה נמוכה. כמו כן, כמו בכל מודלי השפה הגדולים (LLMs), הוא עשוי להפיק תשובות שנשמעות סבירות אך שגויות, במיוחד בתחומים שאינם בתחום נתוני האימון שלו. ניתן לצמצם על ידי אימות תפוקות ושימוש בהנדסת הנחיה (prompt engineering).
תמחור עבור GPT-4o (2024-08-06) מבוסס על שימוש בטוקנים. טוקני קלט מחויבים בתעריף של $2.50 לכל מיליון טוקנים. טוקני פלט מחויבים בתעריף של $10.00 לכל מיליון טוקנים. זהו התעריף של הספק (OpenAI), ו-OrcaRouter אינה מוסיפה תוספת—אתה משלם בדיוק אותו הדבר כאילו פנית ישירות ל-OpenAI. טוקנים נספרים על פי הטקסט שנשלח והתקבל. קלטים של תמונות וקבצים צורכים טוקנים באופן יחסי לגודלם ומורכבות העיבוד (עלות הטוקנים לתמונה היא לפי המדיניות של OpenAI). אין עמלות נוספות עבור שימוש בנקודת הקצה של ה-API. החיוב הוא בדרך כלל מצטבר לפי תקופת שימוש, ותוכל לעקוב אחר צריכת הטוקנים דרך לוח המחוונים של OrcaRouter.
אין עלויות או תוספות נסתרות. OrcaRouter גובה בתעריף המדויק של הספק ללא תוספת מחיר. המחירים המפורטים ($2.50/1M קלט, $10/1M פלט) כוללים הכול. אין עמלות נוספות עבור אימות, חיבור או תמיכה. עם זאת, קלטים של תמונות וקבצים כרוכים בעלויות אסימונים שנקבעות לפי מדיניות התמחור של OpenAI, שעשויות לעלות על עלות האסימונים הרגילה של טקסט בלבד. לדוגמה, תמונה בגודל 1080x1080 עשויה לעלות מספר מסוים של אסימונים מעבר לאסימוני הטקסט. יש לעיין בתיעוד של OpenAI לקבלת מחירי אסימונים מדויקים לתמונות. OrcaRouter מעביר עלויות אלו ללא תוספת מחיר. אין הנחת מטמון נכון למידע העדכני.
בחירה ב-GPT-4o (2024-08-06) על פני מודלים זולים יותר כמו GPT-4o mini או GPT-3.5 Turbo כרוכה באיזון בין ביצועים לעלות. המחיר לטוקן גבוה יותר, כך שעבור יישומים בנפח גבוה, עלולות להצטבר עלויות במהירות. עם זאת, אם המשימה דורשת את היכולות הרב-מודאליות של המודל או חלון ההקשר של 128K, ייתכן שמודלים זולים יותר לא יספיקו, מה שעלול להוביל לפלטים חלקיים או באיכות נמוכה יותר. למשימות מבוססות טקסט עם היגיון פשוט, מודל זול יותר מפחית הוצאות מבלי לפגוע באיכות רבה. OrcaRouter מאפשר לך לעבור בין מודלים בקלות, כך שתוכל להתנסות ולמצוא את האיזון הטוב ביותר בין עלות לביצועים עבור כל מקרה שימוש.
העובדות הזמינות אינן מזכירות מנגנוני שמירה במטמון או הנחה עבור מודל זה. OrcaRouter גובה לפי תעריף הספק ללא תוספת, כך שכל הנחה צפויה להגיע מתמחור של OpenAI עצמה (למשל, הנחות מדורגות עבור שימוש בהיקף גבוה, אם רלוונטי). ייתכן ש-OrcaRouter מציעה יכולות שמירה במטמון משלה, אך הדבר לא אושר עבור מודל זה. כדי למזער עלויות, כדאי לשקול צמצום שימוש באסימוני קלט על ידי קיצור היסטוריית השיחה, שימוש בהנחיות קצרות יותר והגבלת אורך הפלט באמצעות הפרמטר max_tokens. עבור שאילתות זהות חוזרות, ניתן ליישם שמירה במטמון ברמת היישום.
להתקשר ל-GPT-4o (2024-08-06) דרך OrcaRouter, השתמשו בכתובת הבסיס https://api.orcarouter.ai/v1 והגדירו את מזהה המודל ל-"openai/gpt-4o-2024-08-06". ה-API תואם באופן מלא לספריות הלקוח של OpenAI. לדוגמה, ב-Python עם ספריית openai, תגדירו openai.api_base = "https://api.orcarouter.ai/v1" ו-openai.api_key = "your-orcarouter-api-key". לאחר מכן קראו ל-openai.ChatCompletion.create(model="openai/gpt-4o-2024-08-06", messages=[...]). כל הפרמטרים הסטנדרטיים (temperature, max_tokens, top_p וכו') נתמכים. ראו בתיעוד OrcaRouter לפרטים על אימות ומגבלות קצב.
מכיוון שהמודל תומך ב-API התואם ל-OpenAI, ניתן להשתמש בכל מערכת הפרמטרים הזמינים בנקודת הקצה של השלמות הצ'אט של OpenAI. פרמטרים מרכזיים כוללים: model (מוגדר ל-ID של המודל), messages (רשימה של אובייקטים עם role ו-content), temperature (0-2), top_p (0-1), n (מספר השלמות), max_tokens (עד 16384), stop (רצפים), frequency_penalty, presence_penalty, logit_bias ו-user (למעקב שימוש). עבור קלטים רב-מודליים, יש לכלול תמונה או file_url בתוכן ההודעה באמצעות הפורמט המתאים (לדוגמה, content: [{type: "text", text: "..."}, {type: "image_url", image_url: {...}}]). יש לעיין בתיעוד של OpenAI עבור תחביר קלט תמונה וקובץ.
המעבר מ-API הישיר של OpenAI ל-OrcaRouter דורש שני שינויים: 1) הגדר את כתובת ה-base URL ל-https://api.orcarouter.ai/v1, ו-2) החלף את מפתח ה-API של OpenAI שלך במפתח API של OrcaRouter. אין צורך בשינויי קוד לעיצוב ההודעות או לפרמטרים. מזהה המודל משתנה מ-"gpt-4o-2024-08-06" ל-"openai/gpt-4o-2024-08-06". כל הלוגיקה הקיימת לטיפול ב-streaming, קריאות פונקציות וניתוח תגובות נשארת זהה. ה-API של OrcaRouter מתוכנן להיות תחליף ישיר (drop-in replacement). לאחר המעבר, תוכל גם לגשת למודלים של ספקים אחרים דרך אותו ממשק, מה שמאפשר השוואה קלה ואיזון עומסים.
האימות מתבצע באמצעות מפתח API שסופק על ידי OrcaRouter. יש לכלול אותו בכותרת בתור "Authorization: Bearer YOUR_ORCAROUTER_API_KEY". מגבלות הקצב מנוהלות על ידי OrcaRouter ועשויות להיות שונות מהמגבלות הישירות של OpenAI. בדוק את תוכנית OrcaRouter שלך לפרטים. אם תחרוג ממגבלות הקצב, תקבל תשובות HTTP 429. כדי להפחית, יישם לוגיקת ניסיון חוזר (retry) עם השהיה אקספוננציאלית (exponential backoff). OrcaRouter עשויה גם לאפשר לך להגדיר מגבלות קצב לפי משתמש באמצעות הפרמטר user. לצורכי תפוקה גבוהה, צור קשר עם תמיכת OrcaRouter להסדרים מותאמים אישית. המודל עצמו אינו בעל מגבלות קצב נפרדות; הוא כפוף למגבלות נקודת הקצה הכוללות.
GPT-4o (2024-08-06) הוא דגם הדגל המלא, בעוד ש-GPT-4o mini הוא גרסה קטנה וזולה יותר. הבדלים עיקריים: ל-GPT-4o יש חלון הקשר של 128K (ולגרסת ה-mini גם 128K, אך למגבלת פלט נמוכה יותר, בדרך כלל 16K? למעשה, גם ל-GPT-4o mini יש 128K הקשר ו-16K פלט, אך הוא פחות מסוגל בהסקה וראייה. הדגם המלא משיג 79.5 ב-MATH-500; GPT-4o mini משיג ציונים נמוכים יותר במבחני מתמטיקה. תמחור: GPT-4o יקר יותר ($2.50/$10 לעומת GPT-4o mini ב-$0.15/$0.60 למיליון טוקנים). עבור משימות הדורשות דיוק גבוה או הסקה מורכבת, הדגם המלא מוצדק. עבור משימות פשוטות יותר, ה-mini מציע חלופה חסכונית.
בהשוואה ל-GPT-4 (לדוגמה, GPT-4-0613 או GPT-4 Turbo), GPT-4o (2024-08-06) מציע מספר שיפורים: קלט מולטימודלי טבעי (טקסט, תמונות, קבצים) ללא צורך במודלי ראייה נפרדים, חלון הקשר גדול יותר (128K לעומת 32K של GPT-4 בגרסאות ישנות יותר), והסקה מהירה יותר. התמחור נמוך יותר מגרסאות GPT-4 מוקדמות, שהיו לרוב יקרות יותר. לדוגמה, GPT-4 Turbo היה בעל הקשר דומה אך תמחור גבוה יותר. מבחינת מדדי ביצועים, ציון MATH-500 של 79.5 עולה על דגמי GPT-4 ישנים יותר. עם זאת, חלק מהמשתמשים עשויים למצוא דגמים מוקדמים יותר יציבים יותר למשימות מסוימות בשל היסטוריית אימונים ארוכה יותר. בסך הכל, GPT-4o הוא יורש מודרני ויעיל יותר.
הבחירה תלויה בצרכים ספציפיים ובהעדפות הספק. GPT-4o (2024-08-06) מצטיין בהיגיון מתמטי (MATH-500 79.5) ובמשימות מולטי-מודליות עם טקסט, תמונות וקבצים. מודלים של Claude מ-Anthropic עשויים להציע תכונות בטיחות חזקות יותר או חלונות הקשר ארוכים יותר בגרסאות מסוימות, אך בדרך כלל יש להם תמחור גבוה יותר. מודלים של Gemini מ-Google מספקים יכולות מולטי-מודליות והקשר רחב, אך עשויים להיות בעלי פרופילי ביצועים שונים. באמצעות OrcaRouter, ניתן לבדוק ספקים מרובים באמצעות API יחיד. למשימות הדורשות דיוק מתמטי גבוה, GPT-4o הוא מועמד חזק. לסיכום טקסט טהור או משימות בעלות נמוכה, מודלים אחרים עשויים להיות חסכוניים יותר. הערך ציוני מדדי ביצועים ותמחור עבור מקרה השימוש שלך.
בעת שימוש ב-GPT-4o דרך OrcaRouter, הנתונים שלך נשלחים לשרתים של OpenAI לצורך הסקה (inference). OrcaRouter אינו מאחסן או מעבד את ההנחיות שלך מעבר להעברתן. מדיניות השימוש בנתונים של OpenAI חלה – בדוק את התנאים של OpenAI אם יש לך חששות בנוגע לשימוש בנתוני אימון או שמירת נתונים. אם אתה דורש שהנתונים יישארו בתחום שיפוט מסוים או להימנע מספקים מסוימים, OrcaRouter מאפשר לך לבחור מבין מספר ספקים עבור כל בקשה. תוכל גם להשתמש בתכונות הניתוב של OrcaRouter כדי להפנות בקשות לספקים העומדים בדרישות התאימות שלך. יש לעיין תמיד בתיעוד טיפול הנתונים של OrcaRouter ושל הספק הבסיסי.
תואם OpenAI — המשיכו להשתמש ב-SDK שכבר יש לכם
https://api.orcarouter.ai/v1import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="openai/gpt-4o-2024-08-06",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| קלט / 1M טוקנים | $2.50 |
|---|---|
| פלט / 1M tokens | $10.00 |
| קריאת מטמון / 1M | $1.25 |
| מטבע | USD |
הערכה מבוססת מחיר מחירון
הערכה בלבד — ספירת הטוקנים בפועל תלויה בטוקנייזר של הספק.
על מה מפתחים מדברים השבוע
GET /api/public/models/openai/gpt-4o-2024-08-06פתיחה @misc{orcarouter_gpt_4o_2024_08_06,
title = {GPT-4o (2024-08-06) API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-2024-08-06}
}OpenAI. (2024). GPT-4o (2024-08-06) API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-2024-08-06