GPT-4o (ה-"o" מייצג "omni") הוא המודל החדש ביותר של OpenAI לבינה מלאכותית, התומך בקלטים של טקסט ותמונה עם פלטי טקסט. הוא שומר על רמת האינטליגנציה של [GPT-4 Turbo](/models/openai/gpt-4-turbo) תוך שהוא מהיר פי...
GPT-4o (2024-05-13) הוא מודל שפה רב-מודלי של OpenAI, הנגיש דרך ה-API של OrcaRouter. הוא מעבד טקסט, תמונות וקבצים, ולכן מתאים למשימות שמשלבות נתונים חזותיים וטקסטואליים. חלון ההקשר של 128,000 טוקנים…
GPT-4o יכול לנתח תמונות שסופקו כחלק מהקלט. הוא יכול לתאר תוכן חזותי, לענות על שאלות לגבי אובייקטים, טקסט בתוך תמונות, ויחסים מרחביים. הוא גם יכול לחלץ ולתמלל טקסט ממסמכים סרוקים או תמונות. מכיוון שהוא מעבד תמונות ישירות, אינך זקוק למודל OCR או ראייה נפרד. התמונה עוברת טוקניזציה כדי להתאים לחלון ההקשר. לדוגמה, משתמש יכול להעלות צילום מסך של גרף ולבקש מהמודל לפרש את המגמות. ההבנה של המודל אינה מוגבלת לכתוביות פשוטות; הוא יכול להסיק לגבי התוכן, להשוות בין מספר תמונות, ולהשתמש ברמזים חזותיים לצד הוראות טקסטואליות. יכולת זו משולבת באותה קריאת API, תוך שימוש באותו פורמט הודעות כמו בקשות טקסט בלבד. ב-OrcaRouter, אתה שולח תמונות כנתונים מקודדים ב-base64 או כ-URLs במערך התוכן. מזהה המודל נשאר "openai/gpt-4o-2024-05-13".
GPT-4o מקבל קבצים כקלט. הפורמטים הנתמכים כוללים PDF, מסמכי Microsoft Office (Word, Excel, PowerPoint), קבצי טקסט ופורמטי תמונה. עבור קבצי PDF וקובצי Office, המודל מחלץ תוכן טקסטואלי ומנתח את הפריסה. הוא אינו מציג ישירות עיצוב מורכב אלא קורא את תוכן הטקסט. זה שימושי לעיבוד דוחות, חוזים, גיליונות אלקטרוניים או מצגות ללא חילוץ ידני. תוכן הקובץ עובר טוקניזציה ונספר במספר הטוקנים הכולל של הקלט. המודל יכול לענות על שאלות לגבי תוכן הקבצים, לסכם אותם או לבצע חישובים על נתונים בטבלאות. בעת שימוש בקבצים, אתה כולל אותם כחלק מתוכן ההודעה באמצעות השדות המתאימים של ה-API של OpenAI. OrcaRouter מטפל בהעברה ללא שינוי. שים לב שיכולות המודל תלויות באיכות הטקסט שחולץ; תמונות סרוקות בכבדות ב-PDF עשויות להיות לא קריאות במלואן אלא אם הן מכילות שכבות טקסט מוטמעות.
GPT-4o הוא דגם פרימיום בעלות גבוהה יותר מאשר חלופות כמו GPT-4o-mini או גרסאות קודמות של GPT-3.5. אם המשימה שלך אינה דורשת את היכולות הרב-מודאליות (למשל, משימות טקסט בלבד), הקשר רחב (עד 128K), או רמת ההיגיון המתמטי הנמדדת על ידי MATH-500 (79.1), ייתכן שדגם זול יותר יהיה חסכוני יותר. לדוגמה, סיווג פשוט, יצירת תוכן קצר, או שיחה בסיסית יכולים להיות מטופלים על ידי דגמים בעלות נמוכה שעדיין מייצרים איכות סבירה. כמו כן, אם היישום שלך רגיש להשהייה והדגם הקטן יותר מהיר יותר, ייתכן שהפשרה תעדיף מהירות על פני דיוק מוחלט. לבסוף, אם לעתים רחוקות אתה צריך לעבד תמונות או קבצים, היכולת הרב-מודאלית הנוספת אינה נחוצה. OrcaRouter מציעה מגוון דגמים כך שתוכל לבחור את יחס המחיר-ביצועים הטוב ביותר. הערך את דרישות מקרי השימוש שלך מול ציוני האמת מידה והתמחור כדי לקבוע אם היתרונות של GPT-4o מצדיקים את העלות הנוספת.
GPT-4o יכול לייצר עד 16,384 טוקנים לבקשה. זהו גבול נדיב המאפשר תשובות ארוכות, קוד מפורט או ניתוחים מרובי פסקאות. עם זאת, טוקני פלט מחויבים בתעריף של $15.00 למיליון, מה שהופך פלטים ארוכים ליקרים יותר. ניתן לשלוט באורך הפלט באמצעות הפרמטר max_tokens בקריאת ה-API. אם אתה צופה צורך בגנרציות ארוכות מאוד, שקול לקבץ או לפצל את הבקשה. המגבלה של 16,384 חלה על כל ההשלמה, כולל שלבי הנמקה או chain-of-thought אם התבקשו. למשימות מורכבות מאוד הדורשות חשיבה ממושכת, ייתכן שתצטרך להשתמש במספר קריאות. ב-OrcaRouter, מספר טוקני הפלט מדווח בשדה usage של תגובת ה-API, כך שתוכל לעקוב אחר עלויות במדויק. אין מגבלה נוספת המוטלת על ידי OrcaRouter; המגבלה הטבעית של המודל חלה.
GPT-4o השיג ציון של 79.1 במבחן MATH-500. מבחן MATH-500 כולל 500 בעיות מתמטיקה מאתגרות במגוון נושאים כגון אלגברה, גאומטריה, תורת המספרים והסתברות. ציון של 79.1 פירושו שהמודל ענה נכון על 79.1% מהבעיות. זוהי תוצאה חזקה המעידה על יכולת חשיבה מתמטית איתנה, במיוחד עבור מודל רב-מודאלי. המבחן בודק גם פתרון בעיות וגם חשיבה שלב-אחר-שלב. ציון זה יכול להנחות ציפיות לגבי יישומים הכוללים הדרכה במתמטיקה, חישוב מדעי או חידות לוגיות. שים לב שביצועים במבחן אינם מבטיחים תוצאות זהות במשימות בעולם האמיתי; ייתכן שיידרשו כיוונון תחום ספציפי או הנדסת פרומפטים. כאשר בוחנים מודל זה, השווה את ציון MATH-500 שלו מול מודלים אחרים שאתה מעריך. OrcaRouter אינה מספקת נתוני אמת מידה נוספים, ולכן זוהי נקודת ההתייחסות היחידה המסופקת עבור מודל זה.
שיהוי (Latency) תלוי במספר גורמים: אורך הקלט, אורך הפלט הצפוי, העומס הנוכחי על שרתי OpenAI, ונתיב הרשת בין האפליקציה שלך ל- OrcaRouter. OrcaRouter אינה מוסיפה עומס משמעותי מעבר לזמן התגובה של ספק הבסיס. עבור בקשות טיפוסיות עם קלט בינוני (כמה אלפי טוקנים) ופלט קצר (מתחת ל-1,000 טוקנים), תגובות מגיעות לרוב תוך מספר שניות. פלטים ארוכים יותר (קרוב ל-16,384 טוקנים) ייקחו באופן טבעי יותר זמן משום שהמודל מייצר טוקנים ברצף. קלטי תמונה גם מגבירים את השיהוי בגלל טוקניזציה ועיבוד. ניתן לייעל את השיהוי על ידי צמצום אורך הפלט, שימוש ב-prompts קצרים יותר, או איגום בקשות (batching). OrcaRouter מספקת נקודות קצה API סטנדרטיות המחזירות תוצאות באופן אסינכרוני באמצעות streaming במידת הצורך. עבור יישומים אינטראקטיביים בזמן אמת, שקול שימוש במצב streaming (stream: true) כדי להתחיל בעיבוד מיד עם הגעת הטוקנים. לא מסופקים מספרי שיהוי ספציפיים בעובדות המודל, ולכן אלה הערכות איכותניות.
חוזקות: קלט מולטי-מודלי (טקסט, תמונה, קובץ), חלון הקשר גדול של 128K, יכולות מתמטיות חזקות (MATH-500: 79.1), ומגבלת אאוטפוט גבוהה (16,384 טוקנים). הוא מטפל ביעילות במסמכים ארוכים ובשיחות מרובות-סיבובים. ה-API תואם ל-OpenAI הסטנדרטי, מה שמקל על אינטגרציה. מגבלות: עלות גבוהה יותר בהשוואה למודלים קטנים יותר. לא מותאם למשימות שאינן נהנות מרב-מודליות או מהקשר גדול. לא מסופק מידע על ביצועים בשפות שאינן אנגלית או על מדדי בטיחות ספציפיים. הבנת תמונה עשויה להיות מוגבלת לסצנות מורכבות מאוד או לתמונות ברזולוציה נמוכה. כמו כן, המודל עלול להפיק תשובות שגויות בבעיות מחוץ להתפלגות האימון שלו. אין אחריות מוצהרת על השהיה. למשתמשים הזקוקים לשהיה נמוכה במיוחד או לעלות נמוכה במיוחד, מודל אחר עשוי להתאים יותר. ציון המדד 79.1 ב-MATH-500 מצביע על מקום לשיפור בבעיות המתמטיקה הקשות ביותר. הערך האם פשרות אלו תואמות את הדרישות של היישום שלך.
GPT-4o מחויב לפי אסימון (token), עם תעריפים נפרדים לאסימוני קלט ואסימוני פלט. אסימוני קלט עולים $5.00 לכל מיליון אסימונים. אסימוני פלט עולים $15.00 לכל מיליון אסימונים. אלה תעריפי הספק, המועברים על ידי OrcaRouter ללא תוספת מחיר. העלות לכל בקשה = (אסימוני קלט/1e6 * 5) + (אסימוני פלט/1e6 * 15). לדוגמה, שיחה עם 4,000 אסימוני קלט ו-200 אסימוני פלט תעלה (0.004*$5) + (0.0002*$15) = $0.02 + $0.003 = $0.023. אין עמלות נוספות על קריאות API עצמן; אתה משלם רק על האסימונים שנצרכו. התמחור מתעדכן באופן דינמי על פי שינויים אצל הספק; OrcaRouter מעביר כל התאמה עתידית. מכיוון שאין תוספת מחיר, המשתמשים נהנים מאותם תעריפים כמו לקוחות ישירים של OpenAI, אך עם הנוחות של ניהול וחיוב מאוחדים של OrcaRouter. יש לשים לב שתמונות וקבצים עוברים אסימוניזציה ותורמים לכמות אסימוני הקלט, לעיתים קרובות מעלים את העלות בהשוואה לקלט מבוסס טקסט בלבד.
לא. OrcaRouter אינו מציע הנחות, אסימונים שמורים במטמון (cached tokens) או תמחור מופחת עבור קלטים חוזרים. כל אסימון מחויב בתעריף הסטנדרטי של הספק. אין עלות נפרדת עבור מטמון או תוספת תשלום כלשהי עבור נפח גבוה. התעריפים $5/$15 למיליון אסימונים הם תעריפים קבועים. משתמשים הזקוקים לתפוקה גבוהה מאוד עשויים לברר על הסדרים מותאמים אישית, אך השירות הסטנדרטי אינו כולל הנחות נפח. בנוסף, אין עמלות נסתרות כגון דמי חיבור או מינימום חודשי. התמחור שקוף וקשור ישירות לצריכת אסימונים. לאופטימיזציית עלויות, שקלו להקטין את גודל הקלט (למשל, קיצור היסטוריה, שימוש בהנחיות קצרות יותר) ואת אורך הפלט (למשל, הגדרת max_tokens נמוך יותר). כמו כן, שימוש במודל רק כאשר יכולותיו נחוצות (רב-מודאלי, הקשר רחב) עוזר לשלוט בעלויות. אם ליישום שלכם יש הנחיות חוזרות הזהות בכל פעם, שמירה במטמון בשכבת היישום עשויה להפחית את צריכת האסימונים, אך OrcaRouter עצמו אינו מספק תכונה כזו.
GPT-4o הוא מודל במחיר פרימיום. עבור משימות רבות, מודל זול יותר (למשל GPT-4o-mini או GPT-3.5-turbo) עשוי להספיק. יש לאזן על ידי הערכת המורכבות והדיוק הנדרש. אם המשימה שלך כוללת חילוץ או סיווג פשוטים עם הקשר מוגבל, מודל זול יותר עשוי לבצע באופן דומה בעלות נמוכה משמעותית. לעומת זאת, אם המשימה דורשת הבנה ניואנסית של תמונות, מסמכים ארוכים או דיוק מתמטי גבוה (ציון MATH-500 של 79.1 לעומת ציונים נמוכים יותר במודלים זולים יותר), GPT-4o עשוי להיות שווה את הפרמיה. בצע בדיקות A/B על מדגם מייצג כדי להשוות איכות ועלות. כמו כן, קחו בחשבון שאותו מחיר למיליון טוקנים חל ללא קשר לאורך הטקסט; בקשות קצרות יותר זולות יותר. אם זרימת העבודה שלך משתמשת לעתים קרובות בהקשר המלא של 128K, עלות טוקני הקלט עבור בקשה זו עשויה להיות גבוהה; ודא שההקשר אכן נחוץ. OrcaRouter מספק מדדי שימוש כך שתוכל לפקח ולבצע אופטימיזציה.
לקרוא ל-GPT-4o ב-OrcaRouter, השתמשו בנקודת הקצה התואמת ל-OpenAI: base_url = "https://api.orcarouter.ai/v1". הגדירו את פרמטר המודל ל-"openai/gpt-4o-2024-05-13". תצטרכו מפתח API מ-OrcaRouter. פורמט הבקשה עוקב אחרי ה-API הסטנדרטי של OpenAI Chat Completions: מערך messages עם תפקידים (system, user, assistant), content אופציונלי לתמונות וקבצים, ופרמטרים כמו temperature, max_tokens, top_p, frequency_penalty, presence_penalty ו-stop. לדוגמה, בקשת טקסט פשוטה נשלחת כ-POST ל-/chat/completions. לתמונות, כללו את ה-content כחלק מהודעת המשתמש עם type "image_url". לקבצים, כללו אותם גם כחלק מה-content (הפורמט הספציפי עוקב אחרי המפרט של OpenAI). התגובה תכלול את הודעת העוזר, סטטיסטיקות שימוש (prompt_tokens, completion_tokens, total_tokens) ומטא-דאטה נוסף. אין צורך בכותרות מיוחדות מעבר ל-Content-Type ו-Authorization הסטנדרטיים. האינטגרציה זהה לשימוש ישיר ב-OpenAI.
כל הפרמטרים הסטנדרטיים של OpenAI Chat Completions נתמכים: messages (חובה), model (חובה, מוגדר כ‑"openai/gpt-4o-2024-05-13"), temperature (0–2, ברירת מחדל 1), top_p (0–1, ברירת מחדל 1), n (מספר השלמות, ברירת מחדל 1), stop (מחרוזות או רשימת מחרוזות), max_tokens (ברירת מחדל 16,384, מגבלה עליונה 16,384), presence_penalty (−2 עד 2, ברירת מחדל 0), frequency_penalty (−2 עד 2, ברירת מחדל 0), logit_bias (מיפוי של מזהי טוקן לערך הטיה), user (מחרוזת לניטור שימוש לרעה), stream (בוליאני, ברירת מחדל false), functions/tools (לקריאות פונקציות). עבור קלטים מולטי‑מודליים, תוכן ה‑messages יכול להיות מערך של חלקי תוכן עם סוג "text" או "image_url". בנוסף, ניתן לכלול תוכן מסוג "file" לפי התיעוד של OpenAI (לדוגמה, לצירופי PDF). OrcaRouter מעביר פרמטרים אלו ישירות לספק ללא שינוי. ודא שאינך חורג מחלון ההקשר של 128K טוקנים. ה‑API מחזיר קודי שגיאה סטנדרטיים לבקשות לא תקינות, הגבלת קצב, או כשלי אימות.
ההגירה היא פשוטה מכיוון שה-API של OrcaRouter תואם לחלוטין ל-OpenAI. אתה צריך לשנות רק שני דברים: את כתובת הבסיס מ-https://api.openai.com/v1 ל-https://api.orcarouter.ai/v1, ואת מזהה המודל מ-"gpt-4o-2024-05-13" ל-"openai/gpt-4o-2024-05-13". מפתח ה-API שלך מ-OrcaRouter מחליף את מפתח OpenAI שלך. כל הקוד הקיים שעושה שימוש בספריית Python/Node של OpenAI או בבקשות HTTP גולמיות יעבוד ללא שינויים נוספים. פורמט ההודעות, שמות הפרמטרים ומבנה התגובה זהים. לגבי ספריות המקבלות פרמטר של כתובת בסיס, פשוט הגדר אותו לנקודת הקצה של OrcaRouter. אם השתמשת בלקוח של OpenAI, אתה יכול לאתחל אותו עם base_url מוגדר לנקודת הקצה של OrcaRouter. אין צורך בשינויים בהנדסת פרומפט או בלוגיקת המטמון. OrcaRouter תומך גם בזרימה (stream: true) ובקריאות פונקציה בדיוק כפי שהיה קודם. ניתן לבצע בדיקות עם קבוצה קטנה של בקשות כדי לוודא שההתנהגות תואמת.
OrcaRouter אינו משנה את התנהגות המודל. הוא פועל אך ורק כשער, מעביר את הבקשות שלך לשרתי OpenAI ומחזיר את התשובה כלשונה. אין עיבוד מקדים נוסף, עיבוד עוקב או סינון תוכן מצד OrcaRouter. בנוגע לטיפול בנתונים: OrcaRouter אינו מאחסן או מתעד נתוני prompt או completion מעבר לנדרש לצורך חיוב וניטור תפעולי. מדיניות הנתונים של OpenAI עצמה חלה על השימוש במודל דרך OrcaRouter. על פי העובדות שסופקו, אין אזכור לשמירת נתונים על ידי OrcaRouter מעבר לרישום API סטנדרטי. על המשתמשים לעיין גם במדיניות הפרטיות של OrcaRouter וגם במדיניות של OpenAI כדי להבין את הטיפול בנתונים. אם יש לך דרישות מחמירות של מיקום נתונים, התייעץ עם OrcaRouter לגבי האפשרויות הזמינות. אין אינדיקציה לכך ש-OrcaRouter משתף נתונים עם לקוחות אחרים. מזהה המודל הוא השינוי היחיד הנדרש; אין הזרקת הוראות מותאמות אישית.
ההבדלים העיקריים בין GPT-4o ל-GPT-4o-mini הם גודל חלון ההקשר, יכולות רב-מודליות, ביצועים במבחני השוואה ועלות. GPT-4o מציע חלון הקשר של 128K ותומך בקלט תמונה וקובץ. ל-GPT-4o-mini (בהתבסס על ההצעות של OpenAI) יש בדרך כלל חלון הקשר קטן יותר (לדוגמה, 128K או 16K בגרסאות מסוימות) וייתכן שאינו תומך בכל המודליות. במבחן MATH-500, GPT-4o מקבל ציון 79.1; GPT-4o-mini יקבל ציון נמוך יותר. תמחור: GPT-4o עולה $5/$15 למיליון טוקנים, בעוד GPT-4o-mini זול משמעותית (לדוגמה, $0.15/$0.60 למיליון טוקנים בגרסאות מסוימות). לפיכך, GPT-4o-mini מתאים למשימות פשוטות יותר שבהן עלות נמוכה היא בראש סדר העדיפויות, ואילו GPT-4o טוב יותר להיגיון מורכב, הקשר ארוך ומשימות רב-מודליות. בביצוע בחירה ביניהם, יש לשקול את דרישות הדיוק ואת הצורך בטיפול בוויז׳ן או בקבצים. OrcaRouter מציעה את שני הדגמים תחת מזהים נפרדים. אם עומס העבודה שלך משתמש לעתים רחוקות בתמונות או בהקשר גדול, GPT-4o-mini עשוי להיות הבחירה הכלכלית העדיפה.
GPT-4o (2024-05-13) הוא מודל מולטימודלי עם חלון הקשר של 128K, בעוד שגרסאות GPT-4 ישנות יותר (כגון gpt-4-0613) כוללות בדרך כלל חלון הקשר של 8K או 32K והן מבוססות טקסט בלבד (גרסאות מאוחרות יותר תומכות בתמונות דרך נקודות קצה נפרדות לראייה). התמחור של GPT-4o ($5/$15 למיליון טוקנים) נמוך בדרך כלל מהתמחור של GPT-4 Turbo בשיאו (למשל $10/$30 למיליון טוקנים). ביצועי מבחן: ציון MATH-500 שניתן (79.1) הוא עבור GPT-4o; ל-GPT-4 לא היה ציון MATH-500 רשמי בנתונים שסופקו, אך ידוע שקיבל ציון נמוך יותר במבחני מתמטיקה דומים. GPT-4o גם מציע מגבלת פלט גבוהה יותר (16K טוקנים) בהשוואה ל-GPT-4 הישן יותר (4K או 8K בהתאם לגרסה). בסך הכל, GPT-4o מספק תמורה טובה יותר עבור יישומים מולטימודליים עם הקשר ארוך. עם זאת, ייתכן שמודלי GPT-4 ישנים יותר כוונונו למשימות ספציפיות; יש להעריך על הנתונים שלך. דרך OrcaRouter, ניתן לגשת לשתי משפחות המודלים.
השוואה ישירה דורשת עובדות ספציפיות לדגם שלא סופקו כאן. באופן כללי, שני הדגמים תחרותיים ביכולות החשיבה והרב-מודליות. ל-GPT-4o יש חלון הקשר של 128K, בדומה לקונטקסט של 200K של Claude (עבור Sonnet). שניהם תומכים בתמונות. ציוני ביצועי הבנצ'מרק משתנים: GPT-4o מספק ציון MATH-500 של 79.1; ציוני Claude 3.5 Sonnet בבנצ'מרק זה לא סופקו. תמחור: GPT-4o עולה $5/$15 למיליון טוקנים; התמחור של Claude Sonnet הוא בדרך כלל בסביבות $3/$15 למיליון טוקנים (כפוף לשינויים). לפיכך, עלויות הקלט עבור GPT-4o גבוהות יותר. הבדלי הביצועים תלויים במשימה: חלק מהמשתמשים מוצאים את Claude עדיף לכתיבה ארוכת טווח, בעוד ש-GPT-4o מצטיין במתמטיקה ובקוד. ללא הערכה מבוקרת, מומלץ לבדוק את שניהם על דגימות מייצגות. OrcaRouter מציעה את שני הדגמים, כך שתוכל להשוות בקלות על ידי שינוי מזהה הדגם. בסופו של דבר, הדגם הטוב ביותר תלוי בדרישות הספציפיות שלך לדיוק, השהייה ועלות. העובדות שסופקו אינן כוללות את הציונים של Claude, ולכן השוואה זו נותרת איכותנית.
Llama 3 (למשל, Llama 3 70B) הוא מודל בקוד פתוח שניתן לארח באופן עצמאי, בעוד ש-GPT-4o הוא קנייני ונגיש דרך API. GPT-4o תומך בקלטים מולטי-מודליים (טקסט, תמונה, קובץ) עם הקשר של 128K, בעוד ש-Llama 3 הוא בדרך כלל טקסט בלבד (אלא אם כן כוונן לראייה) ובעל הקשר קטן יותר (למשל, 8K או 32K). ציוני מדדי ביצוע: ציון MATH-500 של GPT-4o הוא 79.1; Llama 3 70B משיג ציונים בסביבות 70–75 במדדי מתמטיקה דומים (לא סופקו בעובדות, אבל ידע כללי). עלות: עלות ה-API של GPT-4o לכל טוקן קבועה; אירוח עצמי של Llama 3 כרוך בעלויות תשתית (GPU, חשמל) שיכולות להיות נמוכות יותר בנפחים גבוהים. חביון: GPT-4o מבוסס API עשוי להיות מהיר יותר לעומסי עבודת פרץ; מודלים המאוחסנים עצמאית יכולים להציע חביון עקבי אם קיבולת שמורה. גמישות: Llama 3 ניתן לכוונן; GPT-4o לא. עבור משתמשים המעוניינים להימנע מנעילת ספק או לטפל בנתונים רגישים באופן מלא באתר, מודלים בקוד פתוח אטרקטיביים. OrcaRouter מספקת גישה לשני הסוגים: ניתן להשתמש ב-GPT-4o דרך API וגם לגשת למודלים בקוד פתוח דרך OrcaRouter אם זמינים.
תואם OpenAI — המשיכו להשתמש ב-SDK שכבר יש לכם
https://api.orcarouter.ai/v1import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="openai/gpt-4o-2024-05-13",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamtemperaturetool_choicetoolstop_logprobstop_pweb_search_options| קלט / 1M טוקנים | $5.00 |
|---|---|
| פלט / 1M tokens | $15.00 |
| מטבע | USD |
הערכה מבוססת מחיר מחירון
הערכה בלבד — ספירת הטוקנים בפועל תלויה בטוקנייזר של הספק.
על מה מפתחים מדברים השבוע
GET /api/public/models/openai/gpt-4o-2024-05-13פתיחה @misc{orcarouter_gpt_4o_2024_05_13,
title = {GPT-4o (2024-05-13) API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-2024-05-13}
}OpenAI. (2024). GPT-4o (2024-05-13) API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-2024-05-13