GPT-3.5 Turbo

openai/gpt-3.5-turbo
NarzędziaJSON
przez OpenAI · 2023-05-28

GPT-3.5 Turbo to najszybszy model OpenAI. Potrafi rozumieć i generować język naturalny lub kod, i jest zoptymalizowany do czatu oraz tradycyjnych zadań uzupełniania. Dane treningowe do września 2021.

Punkty końcowe:/v1/chat/completions
kont.16.4K tokenów
Maks. wyjście4.1K
Wejścietext
Wyjścietext
p50 TTFT1.57 s
WEJŚCIE$0.50/ 1M tokenów
WYJŚCIE$1.50/ 1M tokenów
p50 TTFT1.57 s7 d
p95 TTFT4.34 s7 d
RUCH54.9Ktokenów / 7 d

Przykłady kodu

Wywołuj z dowolnego SDK

Zgodne z OpenAI — zostań przy swoim SDK

  • OpenAI SDKhttps://api.orcarouter.ai/v1
from openai import OpenAI

client = OpenAI(
    base_url="https://api.orcarouter.ai/v1",
    api_key="$ORCAROUTER_API_KEY",
)

response = client.chat.completions.create(
    model="openai/gpt-3.5-turbo",
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)

Obsługiwane parametry

  • frequency_penalty
  • logit_bias
  • logprobs
  • max_tokens
  • presence_penalty
  • response_format
  • seed
  • stop
  • stream
  • temperature
  • tool_choice
  • tools
  • top_logprobs
  • top_p

Cennik

Wejście / 1M tokenów$0.500
Wyjście / 1M tokenów$1.50
WalutaUSD

Kalkulator kosztów

Tokeny / miesiąc10MM
Udział wejścia70%%
Szacunkowo / miesiąc $8.00

Szacunek na podstawie cennika

Kalkulator tokenów i kosztów

Tokeny wejściowe: 19Koszt na żądanie: $0.000759

Tylko szacunek — rzeczywista liczba tokenów zależy od tokenizatora dostawcy.

Wydajność

p50 TTFT
1.57 s
Prędkość wyjścia
149 tok/s
p95 TTFT
4.34 s
Wskaźnik błędów
0%

Publiczne benchmarki

10.7
AA Coding
Lepszy niż 2% porównywanych modeli
101 z 106
9.0
AA Intelligence
Lepszy niż 0% porównywanych modeli
107 z 110
GPQA Diamond
29.7
MATH-500
44.1
MMLU-Pro
46.2
Źródło: artificialanalysis.ai

Porównanie

GPT-3.5 TurboGPT-5.2 ProGPT-5.4 ProGPT-5.5
Wejście $/M$0.50$21.00$60.00$5.00
Wyjście $/M$1.50$168.00$270.00$30.00
Kontekst16K400K1.1M
Jakość2/1010/1010/1010/10
Porównaj obok siebiePorównaj obok siebiePorównaj obok siebiePorównaj obok siebie

FAQ

Ile kosztuje OpenAI: GPT-3.5 Turbo na OrcaRouter?
OpenAI: GPT-3.5 Turbo jest wyceniany na $0.50 za 1M tokenów wejściowych i $1.50 za 1M tokenów wyjściowych za pośrednictwem OrcaRouter. Ceny są pobierane na żywo z warstwy routingu.
Jakie jest okno kontekstowe OpenAI: GPT-3.5 Turbo?
OpenAI: GPT-3.5 Turbo obsługuje okno kontekstu o wielkości 16K tokenów. Używaj funkcji długiego kontekstu (RAG, streszczanie) do tego limitu.
Jak wywołać OpenAI: GPT-3.5 Turbo za pomocą OpenAI SDK?
Ustaw base_url OpenAI na https://api.orcarouter.ai/v1, podaj swój klucz API OrcaRouter i przekaż model="openai/gpt-3.5-turbo" w wywołaniu chat.completions.create.
Czy OrcaRouter ogranicza przepustowość OpenAI: GPT-3.5 Turbo?
Limity szybkości na model są zgodne z Twoim planem OrcaRouter. Darmowe plany mają niskie limity; płatne plany je podnoszą. Sprawdź /pricing, aby zobaczyć aktualne limity.

Osadź tę odznakę

OpenAI: GPT-3.5 Turbo$0.50/M in1571ms p50przez OrcaRouter
HTML <a href="https://www.orcarouter.ai/models/openai/gpt-3.5-turbo" target="_blank"> <img src="https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg" alt="OpenAI: GPT-3.5 Turbo w OrcaRouter" /> </a>
Markdown [![OpenAI: GPT-3.5 Turbo](https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg)](https://www.orcarouter.ai/models/openai/gpt-3.5-turbo)

Karta modelu jako dane

GET /api/public/models/openai/gpt-3.5-turboOtwórz
Odczyt maszynowy:/llms.txt/llms-full.txt