GPT-3.5 Turbo

openai/gpt-3.5-turbo
StrumentiJSON
di OpenAI · 2023-05-28

GPT-3.5 Turbo è il modello più veloce di OpenAI. È in grado di comprendere e generare linguaggio naturale o codice, ed è ottimizzato per chat e attività di completamento tradizionali. Dati di addestramento fino a settembre 2021.

ctx16K token
Output max4K
Inputtext
Outputtext
p50 TTFT558 ms
INGRESSO$0.50/ 1M token
USCITA$1.50/ 1M token
p50 TTFT558 ms7 g
p95 TTFT970 ms7 g
TRAFFICO4.5Ktoken / 7 g

Esempi di codice

Chiama da qualsiasi SDK

Compatibile con OpenAI: mantieni il tuo SDK

  • OpenAI SDKhttps://api.orcarouter.ai/v1
import os

from openai import OpenAI

client = OpenAI(
    base_url="https://api.orcarouter.ai/v1",
    api_key=os.environ["ORCAROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="openai/gpt-3.5-turbo",
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)

Parametri supportati

  • frequency_penalty
  • logit_bias
  • logprobs
  • max_tokens
  • presence_penalty
  • response_format
  • seed
  • stop
  • stream
  • temperature
  • tool_choice
  • tools
  • top_logprobs
  • top_p

Prezzi

Prezzi
Input / 1M token$0.500
Output / 1M token$1.50
ValutaUSD

Calcolatore dei costi

Token / mese10MM
Quota di input70%%
Stimato / mese $8.00

Stima basata sul prezzo di listino

Stima di token e costo

Token di input: 17Costo per richiesta: $0.000759

Solo una stima — il numero effettivo di token dipende dal tokenizzatore del provider.

Confronta i costi mensuali dei modelli nel calcolatore dei costi LLM

Prestazioni

p50 TTFT
558 ms
Velocità di output
22.7 tok/s
p95 TTFT
970 ms
Tasso di errore
90.0%

Benchmark pubblici

10.7
AA Coding
Migliore del 1% dei modelli confrontati
n. 133 su 138
5.5
AA Intelligence
Migliore del 0% dei modelli confrontati
n. 147 su 150
GPQA Diamond
29.7
MATH-500
44.1
MMLU-Pro
46.2
Fonte: artificialanalysis.ai

Discussioni della community

Di cosa parlano gli sviluppatori questa settimana

Hacker News0 menzioni · 7 gg1 in meno rispetto alla settimana scorsa

A confronto

GPT-3.5 TurboGPT-5.2 ProGPT-5.4 ProGPT-5.5
Input $/M$0.50$21.00$60.00$5.00
Output $/M$1.50$168.00$270.00$30.00
Contesto16K400K1.1M—
Qualità2/1010/1010/1010/10
Confronta affiancatiConfronta affiancatiConfronta affiancatiConfronta affiancati

FAQ

Quanto costa OpenAI: GPT-3.5 Turbo su OrcaRouter?
OpenAI: GPT-3.5 Turbo ha un prezzo di $0.50 per 1 milione di token in input e $1.50 per 1 milione di token in output tramite OrcaRouter. I prezzi vengono recuperati in tempo reale dal livello di routing.
Qual è la finestra di contesto di OpenAI: GPT-3.5 Turbo?
OpenAI: GPT-3.5 Turbo supporta una finestra di contesto di 16K token. Usa le funzionalità per contesti lunghi (RAG, summarisation) fino a tale limite.
Come posso chiamare OpenAI: GPT-3.5 Turbo tramite l'SDK OpenAI?
Imposta base_url di OpenAI su https://api.orcarouter.ai/v1, fornisci la tua chiave API OrcaRouter e passa model=\"openai/gpt-3.5-turbo\" nella chiamata chat.completions.create.
OrcaRouter limita la velocità di OpenAI: GPT-3.5 Turbo?
I limiti di velocità per modello seguono il tuo piano OrcaRouter. I piani gratuiti vengono forniti con limiti conservativi; i piani a pagamento li aumentano. Controlla /pricing per le quote attuali.

Incorpora questo badge

OpenAI: GPT-3.5 Turbo•$0.50/M in•558ms p50•tramite OrcaRouter
HTML <a href="https://www.orcarouter.ai/models/openai/gpt-3.5-turbo" target="_blank"> <img src="https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg" alt="OpenAI: GPT-3.5 Turbo su OrcaRouter" /> </a>
Markdown [![OpenAI: GPT-3.5 Turbo](https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg)](https://www.orcarouter.ai/models/openai/gpt-3.5-turbo)

Scheda del modello come dati

GET /api/public/models/openai/gpt-3.5-turboApri
Leggibile dalle macchine:/llms.txt/llms-full.txt