GPT-4o (ה-"o" מייצג "omni") הוא המודל החדש ביותר של OpenAI לבינה מלאכותית, התומך בקלטים של טקסט ותמונה עם פלטי טקסט. הוא שומר על רמת האינטליגנציה של [GPT-4 Turbo](/models/openai/gpt-4-turbo) תוך שהוא מהיר פי...
GPT-4o הוא מודל שפה רב-מודאלי גדול של OpenAI. הוא מקבל קלט טקסט, תמונה וקבצים, ומוציא טקסט. המודל מיועד למשתמשים שצריכים לעבד תוכן ארוך (עד 128,000 טוקנים) ודורשים יכולות חשיבה חזקות, כולל פתרון…
GPT-4o מצטיין בחשיבה רב-מודאלית, עיבוד הקשר ארוך ופתרון בעיות מתמטיות. הקונטקסט של 128k טוקנים מאפשר לו לשמר ולהפנות למידע רב, מה שהופך אותו לשימושי למשימות כמו ניתוח מסמכים, יצירת קוד על פני פרויקטים שלמים, ושיחות מורכבות מרובות-סיבובים. המודל השיג ציון 75.9 במבחן MATH-500, המעיד על יכולת חזקה בפתרון בעיות מתמטיות. בנוסף, יכולתו לקבל תמונות וקבצים כקלט מאפשרת לו להסיק על תוכן חזותי – כגון דיאגרמות, תרשימים או תצלומים – בשילוב עם טקסט. ב-OrcaRouter, תוכלו לנצל את היתרונות הללו מבלי לשלם תוספת כלשהי מעל המחירים הרשומים של OpenAI.
GPT-4o יעיל במיוחד עבור משימות הדורשות הבנה טקסטואלית וויזואלית כאחד. דוגמאות כוללות: מענה על שאלות על דיאגרמה בספר לימוד, חילוץ נתונים מחשבונית סרוקה, יצירת קוד על בסיס תמונת סקיצה, או סיכום מאמר מחקר ארוך הכולל איורים. ההקשר הגדול שלו הופך אותו גם למתאים לניתוח מאגרי קוד שלמים או יומני שיחה ארוכים. חשיבה מתמטית היא עוד חוזקה, כפי שמעידה התוצאה 75.9 שלו במבחן MATH-500. ב-OrcaRouter, מקרי שימוש אלה קלים ליישום—אתם שולחים בקשה סטנדרטית תואמת OpenAI עם סוגי התוכן המתאימים, והמודל מחזיר תגובת טקסט.
אם המשימה שלך אינה דורשת קלט מולטימודאלי או קונטקסט גדול, דגם זול יותר יכול להיות חסכוני יותר. לדוגמה, עבור משימות פשוטות של סיווג טקסט, תמצות או תרגום שמתאימות לקונטקסט קטן יותר, דגמים כמו GPT-3.5 Turbo (המתומחרים ב-$0.50 למיליון קלט ו-$1.50 למיליון פלט) זולים משמעותית. עלות הקלט של GPT-4o היא $2.50 למיליון טוקנים, שהם פי חמישה מהעלות של GPT-3.5 Turbo. אם אתה מעבד כמויות גדולות של נתונים טקסטואליים בלבד ללא צורך בחשיבה מולטימודאלית, דגם קטן יותר יכול להפחית עלויות. OrcaRouter מציעה מגוון דגמים כך שתוכל לבחור את האיזון הטוב ביותר בין מחיר לביצועים.
GPT-4o מיועד לקבל תמונות וקבצים כקלט, מה שמאפשר לו לבצע משימות כמו מענה לשאלות חזותיות, כתוביות תמונות והבנת מסמכים. למרות שציוני benchmarks מולטי-מודליים ספציפיים אינם מסופקים בעובדות הזמינות, הארכיטקטורה של המודל תומכת בהסקה משולבת על טקסט ותמונות. לדוגמה, הוא יכול לספור עצמים בתמונה או לפרש תרשים. המודל מפיק רק טקסט, לא תמונות. ב-OrcaRouter, בקשות מולטי-מודליות נשלחות באמצעות אותם פרמטרים כמו ה-API של OpenAI: יש לכלול חלק image_url או תוכן קובץ במערך ההודעות (messages). המודל מעבד את הנתונים החזותיים ומחזיר תגובת טקסט המבוססת על הקלט המשולב.
GPT-4o משיג ציון של 75.9 במבחן MATH-500. MATH-500 הוא תת-קבוצה של מערך הנתונים MATH, המורכבת מ-500 בעיות מתמטיקה מאתגרות בנושאים שונים כמו אלגברה, גאומטריה וחשבון אינפיניטסימלי. ציון של 75.9 אומר שהמודל פותר נכון כ-76% מהבעיות הללו. הדבר מעיד על יכולת חשיבה מתמטית חזקה, אם כי לא מושלמת. לשם השוואה, מודלים קטנים רבים מקבלים ציון מתחת ל-50 במבחנים דומים. ציון זה משקף את יכולתו של המודל לבצע חשיבה רב-שלבית ולטפל בסימון מתמטי. ב-OrcaRouter, ניתן להשתמש ב-GPT-4o למשימות הקשורות למתמטיקה כמו שיעורים פרטיים, הכנה למבחנים או אימות חישובים.
כמו כל מודלי השפה הגדולים, ל-GPT-4o יש מגבלות. הוא עלול להפיק תשובות לא נכונות או הזויות, במיוחד בנושאים עם נתוני אימון מוגבלים או הדורשים ידע עדכני מאוד (תאריך החיתוך של ההכשרה שלו אינו מצוין בעובדות, אך כמודל של OpenAI יש לו חתך ידע). הוא עשוי להיות רגיש לניסוח השאלה ועלול להתקשות בהוראות עמומות. למרות הציון הגבוה שלו ב-MATH-500, הוא אינו חסין טעויות בהוכחות מתמטיות מורכבות. המודל מעבד תמונות אך אינו יוצר תמונות. בנוסף, חלון ההקשר הגדול (128k אסימונים) עלול להוביל לשימוש מוגבר באסימונים, ולהעלות עלויות אם לא מנוהל בזהירות. ב-OrcaRouter, ניתן להקל על חלק מהבעיות על ידי כוונון פרמטרים כמו טמפרטורה ו-top_p.
נתוני שהייה מדויקים עבור GPT-4o אינם מסופקים בעובדות. באופן כללי, GPT-4o הוא מודל גדול ויהיה לו זמן השהייה גבוה יותר בהשוואה למודלים קטנים יותר כמו GPT-3.5 Turbo או Llama 3.1 8B. עם זאת, סביר להניח שהוא מותאם לביצוע הסקה מהירה יותר מאשר GPT-4 המקורי. באמצעות OrcaRouter, אתה יכול לצפות לזמני תגובה דומים לאלו שהיית מקבל ישירות מ-OpenAI, שכן הפלטפורמה מנתבת בקשות ללא עיבוד נוסף. עבור יישומים בזמן אמת שבהם המהירות קריטית, שקול להשתמש במודל מהיר וזול יותר למשימות פשוטות, ולהשאיר את GPT-4o לשאילתות מורכבות הנהנות מהיכולות שלו.
ב-OrcaRouter, המחיר של GPT-4o הוא בדיוק לפי התעריפים הרשומים של OpenAI: $2.50 למיליון טוקנים של קלט ו-$10.00 למיליון טוקנים של פלט. OrcaRouter אינה מוסיפה כל תוספת מחיר. החיוב מבוסס על ספירת טוקנים המעוגלת לטוקן השלם הקרוב ביותר. טוקני קלט כוללים את הטקסט, התמונות והקבצים שאתה שולח, אם כי תמונות בדרך כלל עוברות טוקניזציה בקצב קבוע על ידי המודל (לדוגמה, כל תמונה צורכת מספר מסוים של טוקנים). טוקני פלט הם הטקסט שנוצר על ידי המודל. אתה מחויב רק על מה שאתה משתמש; אין דמי מנוי חודשיים או התחייבויות מינימום. תמחור שקוף זה מאפשר לך לתקצב במדויק עבור עומסי העבודה שלך ב-AI.
הפשרה העיקרית היא בין עלות ליכולת. GPT-4o עולה $2.50 עבור קלט ו-$10 עבור פלט לכל מיליון אסימונים. דגמים זולים יותר כמו GPT-3.5 Turbo ($0.50 קלט, $1.50 פלט) או Llama 3.1 8B חסכוניים יותר למשימות פשוטות או בעלות נפח גבוה. עם זאת, GPT-4o מציע קלט רב-מודאלי וחלון הקשר גדול יותר. אם היישום שלך דורש הבנת תמונות או עיבוד מסמכים ארוכים מאוד, GPT-4o עשוי להיות הכרחי למרות העלות הגבוהה יותר. עבור משימות מבוססות טקסט בלבד עם קלטים קצרים, דגם זול יותר יכול לחסוך כסף. ב-OrcaRouter, אתה יכול לעבור בין דגמים באמצעות שינוי פשוט של מזהה הדגם, כך שתוכל לבצע אופטימיזציה של העלות עבור כל בקשה.
לא. OrcaRouter גובה תשלום עבור GPT-4o לפי התעריף המדויק של הספק ללא תוספת. המחירים הם $2.50 ל-1M טוקני קלט ו-$10.00 ל-1M טוקני פלט. אין עמלות נסתרות, מכירות נוספות או חיובים נוספים. OrcaRouter מעביר את העלות ישירות מ-OpenAI. מדיניות זו חלה על כל המודלים הרשומים בפלטפורמה. כתובת ה-URL הבסיסית היא https://api.orcarouter.ai/v1 ומזהה המודל הוא "openai/gpt-4o". תוכל לוודא את המחירים בכל עת על ידי בדיקת לוח השימוש שלך. אין תמחור מדורג או התחייבות נדרשת—שלם רק עבור טוקנים שנצרכו.
כדי להשתמש ב-GPT-4o דרך OrcaRouter, שלח בקשת HTTP POST לכתובת ה-URL הבסיסית https://api.orcarouter.ai/v1/chat/completions. הגדר את הפרמטר model ל-"openai/gpt-4o". הבקשה שלך חייבת לכלול מפתח API (ספק את מפתח ה-API של OrcaRouter שלך בכותרת Authorization). גוף הבקשה עוקב אחר התבנית הסטנדרטית של OpenAI ל-chat completions: מערך messages עם זוגות role/content, פרמטרים אופציונליים כמו temperature, max_tokens, top_p ועוד. עבור קלטים מולטימודאליים, כלול חלקי content מסוג "text" או "image_url" (או file). התגובה היא אובייקט JSON המכיל את השלמת המודל. דוגמת פקודת curl: curl https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{"model":"openai/gpt-4o","messages":[{"role":"user","content":[{"type":"text","text":"What is in this image?"},{"type":"image_url","image_url":{"url":"https://example.com/image.jpg"}}]}]}'
בעת קריאה ל-GPT-4o דרך OrcaRouter, ניתן להשתמש באותם פרמטרים כמו ב-API של OpenAI. הפרמטרים הנפוצים כוללים: - temperature (float, 0-2): שולט באקראיות. ערכים נמוכים כמו 0.2 הופכים את הפלט לדטרמיניסטי יותר. - max_tokens (integer, ברירת מחדל 16384): המספר המרבי של אסימונים בתגובה. - top_p (float, 0-1): פרמטר דגימה גרעינית. - frequency_penalty ו-presence_penalty: מפחיתים חזרתיות. - stop (string או array): רצפי עצירה. - stream (boolean): הפעלת תגובות זורמות (true/false). - seed (integer): לדגימה דטרמיניסטית. ניתן גם להשתמש בשדה האופציונלי "user" למעקב אחר משתמשים בודדים. המודל תומך בקריאת פונקציות ובשימוש בכלים, אף על פי שאינם מופיעים באופן מפורש בעובדות. ב-OrcaRouter, כל הפרמטרים הסטנדרטיים מתקבלים.
ההעברה פשוטה מכיוון ש-OrcaRouter מציע נקודת קצה תואמת OpenAI. שלבים: 1. השג מפתח API מ-OrcaRouter (הירשם באתר שלהם). 2. שנה את כתובת הבסיס מ-https://api.openai.com/v1 ל-https://api.orcarouter.ai/v1. 3. שנה את מזהה המודל מ-"gpt-4o" ל-"openai/gpt-4o". 4. השתמש באותו פורמט של גוף הבקשה. אין צורך בשינויים בקוד מלבד נקודת הקצה ושם המודל. 5. עדכן את כותרת ה-Authorization לשימוש במפתח ה-API של OrcaRouter שלך. מומלץ לבדוק באמצעות בקשה בודדת. OrcaRouter משתמש באותם מצבי סטרימינג ואי-סטרימינג. אין הבדל בהתנהגות המודל, מכיוון שמדובר באותו מודל OpenAI הבסיסי. הפרומפטים והפרמטרים הקיימים שלך יפעלו באופן זהה.
כתובת הבסיס של API של OrcaRouter היא https://api.orcarouter.ai/v1. מזהה הדגם הספציפי לשימוש עבור GPT-4o הוא "openai/gpt-4o". יש להעביר מחרוזת מדויקת זו בפרמטר "model" של הבקשה. לדוגמה, בקריאה לנקודת קצה של chat completions, אתה מגדיר "model": "openai/gpt-4o". OrcaRouter תומך בדגם זה עבור completions בזרימה (streaming) ובלי זרימה. אם אתה משתמש ב-SDK או ספרייה של OpenAI המוגדרים להפנות לכתובת בסיס מותאמת אישית, פשוט הגדר את כתובת הבסיס ל-https://api.orcarouter.ai/v1 וספק את מפתח ה-API של OrcaRouter שלך. הקידומת "openai/" במזהה הדגם מבדילה אותו מדגמים של ספקים אחרים ב-OrcaRouter.
GPT-4o הוא היורש הרב-מודאלי של GPT-4 Turbo. לשני הדגמים חלון הקשר של 128k. עם זאת, GPT-4o מוסיף תמיכה מקורית בקלט תמונות וקבצים, בעוד GPT-4 Turbo היה בעיקרו מבוסס טקסט בלבד (עם יכולות ראייה זמינות רק בגרסאות נפרדות). ל-GPT-4o יש גם פלט מקסימלי גבוה יותר של 16,384 טוקנים בהשוואה ל-4,096 או 8,192 האופייניים של GPT-4 Turbo. התמחור שונה: GPT-4 Turbo עולה $10.00 למיליון קלט ו-$30.00 למיליון פלט, מה שהופך את GPT-4o לזול משמעותית ($2.50/$10.00). ציון MATH-500 של 75.9 עבור GPT-4o גבוה בדרך כלל מהאמות המידה המדווחות של GPT-4 Turbo, אם כי ציוני Turbo מדויקים אינם כלולים בעובדות. ב-OrcaRouter, שני הדגמים זמינים ללא תוספת מחיר.
GPT-3.5 Turbo הוא מודל זול ומהיר יותר המותאם למשימות פשוטות. חלון ההקשר שלו מכיל 16,384 טוקנים, קטן בהרבה מזה של GPT-4o עם 128k. GPT-3.5 אינו תומך בקלט תמונה – הוא מבוסס טקסט בלבד. התמחור שלו הוא $0.50 לכל 1M טוקני קלט ו-$1.50 לכל 1M טוקני פלט, מה שהופך אותו לזול בערך פי 5 בקלטים ופי 6.6 בפלטים לעומת GPT-4o. במדד MATH-500, GPT-3.5 Turbo משיג בדרך כלל ציון נמוך בהרבה (המספרים המדויקים לא סופקו). GPT-4o מתאים יותר לחשיבה מורכבת, מסמכים ארוכים ומשימות מולטי-מודאליות. השתמש ב-GPT-3.5 Turbo לאינטראקציות פשוטות בהיקף גדול. ב-OrcaRouter, תוכל לעבור בקלות ביניהם על ידי שינוי מזהה המודל.
קלוד 3.5 סונט (Claude 3.5 Sonnet) הוא מודל מתחרה של Anthropic. יש לו גם חלון הקשר של 200k (גדול יותר מ-128k של GPT-4o) והוא תומך בקלטי תמונה. התמחור של קלוד 3.5 סונט הוא בדרך כלל $3.00 למיליון קלט ו-$15.00 למיליון פלט, מה שהופך את GPT-4o לזול יותר בקלט אך יקר יותר בפלט? למעשה, GPT-4o עולה $2.50 קלט לעומת $3.00, ולכן זול יותר; פלט $10 לעומת $15, ולכן זול יותר. במדדים, קלוד 3.5 סונט משיג ביצועים דומים במתמטיקה והיגיון, אך הציונים המדויקים משתנים. שני המודלים חזקים במשימות רב-מודליות. הבחירה ביניהם עשויה להיות תלויה במאפייני ביצועים ספציפיים או בהעדפות מערכת אקולוגית. ב-OrcaRouter, שניהם נגישים דרך אותו פורמט API עם מזהי מודל שונים (למשל, "anthropic/claude-3.5-sonnet").
Llama 3.1 405B הוא מודל בעל משקלים פתוחים של Meta עם 405 מיליארד פרמטרים. הוא תומך גם בחלון הקשר של 128k ובקלט טקסט, אך היכולות הרב-מודליות שלו פחות ברורות (ייתכן שאינו תומך באופן טבעי בתמונות). Llama 3.1 405B זמין דרך OrcaRouter במחיר נמוך יותר, בדרך כלל סביב $1.00 ל-1M אסימוני קלט ו-$1.00 ל-1M אסימוני פלט (בקירוב, לא מסופק בעובדות). ציוני האמת מידה שלו ב-MATH-500 אינם ניתנים אך ככל הנראה נמוכים מ-75.9 של GPT-4o. GPT-4o הוא קנייני ומציע חשיבה רב-מודלית טובה יותר מחוץ לקופסה ודיוק גבוה יותר פוטנציאלי במשימות מורכבות. Llama 3.1 405B הוא בחירה טובה למשתמשים שרוצים מודל פתוח או צריכים לארח בעצמם. ב-OrcaRouter, תוכלו להשוות את שני המודלים זה לצד זה.
תואם OpenAI — המשיכו להשתמש ב-SDK שכבר יש לכם
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| קלט / 1M טוקנים | $2.50 |
| פלט / 1M tokens | $10.00 |
| קריאת מטמון / 1M | $1.25 |
| מטבע | USD |
הערכה מבוססת מחיר מחירון
הערכה בלבד — ספירת הטוקנים בפועל תלויה בטוקנייזר של הספק.
@misc{orcarouter_gpt_4o,
title = {GPT-4o API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o}
}OpenAI. (2024). GPT-4o API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o