GPT-3.5 Turbo

openai/gpt-3.5-turbo
כליםJSON
מאת OpenAI · 2023-05-28

GPT-3.5 Turbo הוא המודל המהיר ביותר של OpenAI. הוא יכול להבין ולייצר שפה טבעית או קוד, והוא מותאם לצ'אט ולמשימות השלמה מסורתיות. נתוני אימון עד ספטמבר 2021.

נקודות קצה:/v1/chat/completions
הקשר16K tokens
מקסימום פלט4K
קלטtext
פלטtext
p50 TTFT558 ms
קלט$0.50/ 1M טוקנים
פלט$1.50/ 1M טוקנים
p50 TTFT558 ms7 ימים
p95 TTFT970 ms7 ימים
תעבורה4.5Kטוקנים / 7 ימים

דוגמאות קוד

קריאה מכל SDK

תואם OpenAI — המשיכו להשתמש ב-SDK שכבר יש לכם

  • OpenAI SDKhttps://api.orcarouter.ai/v1
import os

from openai import OpenAI

client = OpenAI(
    base_url="https://api.orcarouter.ai/v1",
    api_key=os.environ["ORCAROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="openai/gpt-3.5-turbo",
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)

פרמטרים נתמכים

  • frequency_penalty
  • logit_bias
  • logprobs
  • max_tokens
  • presence_penalty
  • response_format
  • seed
  • stop
  • stream
  • temperature
  • tool_choice
  • tools
  • top_logprobs
  • top_p

תמחור

תמחור
קלט / 1M טוקנים$0.500
פלט / 1M tokens$1.50
מטבעUSD

מחשבון עלות

טוקנים / חודש10MM
נתח קלט70%%
מוערך / חודש $8.00

הערכה מבוססת מחיר מחירון

מחשבון טוקנים ועלות

טוקני קלט: 12עלות לבקשה: $0.000756

הערכה בלבד — ספירת הטוקנים בפועל תלויה בטוקנייזר של הספק.

השוואת עלויות חודשיות בין מודלים במחשבון העלויות של LLM

ביצועים

p50 TTFT
558 ms
מהירות פלט
22.7 tok/s
p95 TTFT
970 ms
שיעור שגיאות
90.0%

מבחני ביצועים ציבוריים

10.7
AA Coding
טוב יותר מ-1% מהמודלים שהושוו
#133 מתוך 138
5.5
AA Intelligence
טוב יותר מ-0% מהמודלים שהושוו
#147 מתוך 150
GPQA Diamond
29.7
MATH-500
44.1
MMLU-Pro
46.2
מקור: artificialanalysis.ai

באזז קהילתי

על מה מפתחים מדברים השבוע

Hacker News0 אזכורים · 7 ימיםירידה של 1 מול השבוע הקודם

איך זה משתווה

GPT-3.5 TurboGPT-5.2 ProGPT-5.4 ProGPT-5.5
קלט $/מיליון$0.50$21.00$60.00$5.00
פלט $/מיליון$1.50$168.00$270.00$30.00
הקשר16K400K1.1M—
איכות2/1010/1010/1010/10
השוואה זו לצד זוהשוואה זו לצד זוהשוואה זו לצד זוהשוואה זו לצד זו

שאלות נפוצות

כמה עולה OpenAI: GPT-3.5 Turbo ב-OrcaRouter?
OpenAI: GPT-3.5 Turbo מתומחר ב-$0.50 לכל 1M טוקני קלט ו-$1.50 לכל 1M טוקני פלט דרך OrcaRouter. התמחור נמשך בזמן אמת משכבת הניתוב.
מהו חלון ההקשר של OpenAI: GPT-3.5 Turbo?
OpenAI: GPT-3.5 Turbo תומך בחלון הקשר של 16K טוקנים. השתמש בתכונות הקשר ארוך (RAG, סיכום) עד לגבול זה.
איך אני קורא ל-OpenAI: GPT-3.5 Turbo דרך OpenAI SDK?
הגדר את base_url של OpenAI ל-https://api.orcarouter.ai/v1, ספק את מפתח ה-API של OrcaRouter שלך, והעבר את model="openai/gpt-3.5-turbo" בקריאה ל-chat.completions.create.
האם OrcaRouter מגביל קצב ל-OpenAI: GPT-3.5 Turbo?
מגבלות קצב לפי מודל עוקבות אחרי תוכנית OrcaRouter שלך. רמות חינמיות מגיעות עם מגבלות שמרניות; רמות בתשלום מסירות אותן. בדוק /pricing עבור המכסות הנוכחיות.

הטמעת התג הזה

OpenAI: GPT-3.5 Turbo•$0.50/M in•558ms p50•דרך OrcaRouter
HTML <a href="https://www.orcarouter.ai/models/openai/gpt-3.5-turbo" target="_blank"> <img src="https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg" alt="OpenAI: GPT-3.5 Turbo ב-OrcaRouter" /> </a>
Markdown [![OpenAI: GPT-3.5 Turbo](https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg)](https://www.orcarouter.ai/models/openai/gpt-3.5-turbo)

כרטיס מודל כנתונים

GET /api/public/models/openai/gpt-3.5-turboפתיחה
קריא למכונה:/llms.txt/llms-full.txt