GPT-3.5 Turbo

openai/gpt-3.5-turbo
FerramentasJSON
por OpenAI · 2023-05-28

O GPT-3.5 Turbo é o modelo mais rápido da OpenAI. Ele pode compreender e gerar linguagem natural ou código, e é otimizado para tarefas de chat e conclusão tradicionais. Dados de treinamento até setembro de 2021.

ctx16K tokens
Saída máx.4K
Entradatext
Saídatext
p50 TTFT558 ms
ENTRADA$0.50/ 1M tokens
SAÍDA$1.50/ 1M tokens
p50 TTFT558 ms7 d
p95 TTFT970 ms7 d
TRÁFEGO4.5Ktokens / 7 d

Exemplos de código

Chame de qualquer SDK

Compatível com OpenAI — mantenha seu SDK

  • OpenAI SDKhttps://api.orcarouter.ai/v1
import os

from openai import OpenAI

client = OpenAI(
    base_url="https://api.orcarouter.ai/v1",
    api_key=os.environ["ORCAROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="openai/gpt-3.5-turbo",
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)

Parâmetros suportados

  • frequency_penalty
  • logit_bias
  • logprobs
  • max_tokens
  • presence_penalty
  • response_format
  • seed
  • stop
  • stream
  • temperature
  • tool_choice
  • tools
  • top_logprobs
  • top_p

Preços

Preços
Entrada / 1M tokens$0.500
Saída / 1M tokens$1.50
MoedaUSD

Calculadora de custos

Tokens / mês10MM
Proporção de entrada70%%
Estimado / mês $8.00

Estimativa com base no preço de tabela

Estimador de tokens e custo

Tokens de entrada: 15Custo por solicitação: $0.000758

Apenas uma estimativa — a contagem real de tokens depende do tokenizador do provedor.

Compare os custos mensais dos modelos na calculadora de custos de LLM

Desempenho

p50 TTFT
558 ms
Velocidade de saída
22.7 tok/s
p95 TTFT
970 ms
Taxa de erro
90.0%

Benchmarks públicos

10.7
AA Coding
Melhor que 1% dos modelos comparados
nº 133 de 138
5.5
AA Intelligence
Melhor que 0% dos modelos comparados
nº 147 de 150
GPQA Diamond
29.7
MATH-500
44.1
MMLU-Pro
46.2
Fonte: artificialanalysis.ai

Atividade da comunidade

Do que os desenvolvedores estão falando esta semana

Hacker News0 menções · 7 d1 a menos que na semana anterior

Comparativo

GPT-3.5 TurboGPT-5.2 ProGPT-5.4 ProGPT-5.5
Entrada $/M$0.50$21.00$60.00$5.00
Saída $/M$1.50$168.00$270.00$30.00
Contexto16K400K1.1M—
Qualidade2/1010/1010/1010/10
Comparar lado a ladoComparar lado a ladoComparar lado a ladoComparar lado a lado

FAQ

Quanto custa OpenAI: GPT-3.5 Turbo no OrcaRouter?
OpenAI: GPT-3.5 Turbo tem o preço de $0.50 por 1M tokens de entrada e $1.50 por 1M tokens de saída via OrcaRouter. Os preços são obtidos em tempo real da camada de roteamento.
Qual é a janela de contexto de OpenAI: GPT-3.5 Turbo's?
OpenAI: GPT-3.5 Turbo suporta uma janela de contexto de 16K tokens. Use recursos de contexto longo (RAG, sumarização) até esse limite.
Como chamar OpenAI: GPT-3.5 Turbo via o SDK da OpenAI?
Defina o base_url do OpenAI como https://api.orcarouter.ai/v1, forneça sua chave de API do OrcaRouter e passe model="openai/gpt-3.5-turbo" na chamada chat.completions.create.
O OrcaRouter limita a taxa de OpenAI: GPT-3.5 Turbo?
Os limites de taxa por modelo seguem o seu plano OrcaRouter. Os planos gratuitos vêm com limites conservadores; os planos pagos os aumentam. Verifique /pricing para as cotas atuais.

Incorporar este selo

OpenAI: GPT-3.5 Turbo•$0.50/M in•558ms p50•via OrcaRouter
HTML <a href="https://www.orcarouter.ai/models/openai/gpt-3.5-turbo" target="_blank"> <img src="https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg" alt="OpenAI: GPT-3.5 Turbo no OrcaRouter" /> </a>
Markdown [![OpenAI: GPT-3.5 Turbo](https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg)](https://www.orcarouter.ai/models/openai/gpt-3.5-turbo)

Ficha do modelo como dados

GET /api/public/models/openai/gpt-3.5-turboAbrir
Legível por máquina:/llms.txt/llms-full.txt