GPT-3.5 Turbo

openai/gpt-3.5-turbo
도구JSON
제공 OpenAI · 2023-05-28

GPT-3.5 Turbo는 OpenAI의 가장 빠른 모델입니다. 자연어나 코드를 이해하고 생성할 수 있으며, 채팅 및 전통적인 완성 작업에 최적화되어 있습니다. 학습 데이터는 2021년 9월까지입니다.

엔드포인트:/v1/chat/completions
컨텍스트16.4K 토큰
최대 출력4.1K
입력text
출력text
p50 TTFT1.57 s
입력$0.50/ 100만 토큰
출력$1.50/ 100만 토큰
p50 TTFT1.57 s7일
p95 TTFT4.34 s7일
트래픽54.9K토큰 / 7일

코드 샘플

어떤 SDK에서도 호출

OpenAI 호환 — 쓰던 SDK 그대로

  • OpenAI SDKhttps://api.orcarouter.ai/v1
from openai import OpenAI

client = OpenAI(
    base_url="https://api.orcarouter.ai/v1",
    api_key="$ORCAROUTER_API_KEY",
)

response = client.chat.completions.create(
    model="openai/gpt-3.5-turbo",
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)

지원되는 매개변수

  • frequency_penalty
  • logit_bias
  • logprobs
  • max_tokens
  • presence_penalty
  • response_format
  • seed
  • stop
  • stream
  • temperature
  • tool_choice
  • tools
  • top_logprobs
  • top_p

가격

입력 / 1M tokens$0.500
출력 / 1M tokens$1.50
통화USD

비용 계산기

월 토큰 수10MM
입력 비율70%%
월 예상 $8.00

정가 기준 추정치

토큰 및 비용 추정기

입력 토큰: 9요청당 비용: $0.000754

추정치일 뿐입니다 — 실제 토큰 수는 제공자의 토크나이저에 따라 달라집니다.

성능

p50 TTFT
1.57 s
출력 속도
149 tok/s
p95 TTFT
4.34 s
오류율
0%

공개 벤치마크

10.7
AA Coding
비교된 모델 중 2%보다 우수
106개 중 101위
9.0
AA Intelligence
비교된 모델 중 0%보다 우수
110개 중 107위
GPQA Diamond
29.7
MATH-500
44.1
MMLU-Pro
46.2
소스: artificialanalysis.ai

비교

GPT-3.5 TurboGPT-5.2 ProGPT-5.4 ProGPT-5.5
입력 $/100만$0.50$21.00$60.00$5.00
출력 $/100만$1.50$168.00$270.00$30.00
컨텍스트16K400K1.1M
품질2/1010/1010/1010/10
나란히 비교나란히 비교나란히 비교나란히 비교

OpenAI의 다른 모델

FAQ

OrcaRouter에서 OpenAI: GPT-3.5 Turbo 비용은 얼마인가요?
OpenAI: GPT-3.5 Turbo는 OrcaRouter를 통해 1M 입력 토큰당 $0.50, 1M 출력 토큰당 $1.50에 가격이 책정되어 있습니다. 가격은 라우팅 레이어에서 실시간으로 가져옵니다.
OpenAI: GPT-3.5 Turbo의 컨텍스트 윈도우는 얼마인가요?
OpenAI: GPT-3.5 Turbo는 16K 토큰의 컨텍스트 윈도우를 지원합니다. 해당 제한까지 롱 컨텍스트 기능(RAG, 요약)을 사용하세요.
OpenAI SDK를 통해 OpenAI: GPT-3.5 Turbo를 호출하려면 어떻게 하나요?
OpenAI base_url을 https://api.orcarouter.ai/v1로 설정하고, OrcaRouter API 키를 제공한 후, chat.completions.create 호출에서 model="openai/gpt-3.5-turbo"를 전달하세요.
OrcaRouter가 OpenAI: GPT-3.5 Turbo를 속도 제한합니까?
모델별 속도 제한은 OrcaRouter 플랜을 따릅니다. 무료 티어는 보수적인 한도로 제공되며, 유료 티어는 한도를 높입니다. 현재 할당량은 /pricing에서 확인하세요.

이 배지 임베드

OpenAI: GPT-3.5 Turbo$0.50/M in1571ms p50OrcaRouter를 통해
HTML <a href="https://www.orcarouter.ai/models/openai/gpt-3.5-turbo" target="_blank"> <img src="https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg" alt="OrcaRouter 의 OpenAI: GPT-3.5 Turbo" /> </a>
Markdown [![OpenAI: GPT-3.5 Turbo](https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg)](https://www.orcarouter.ai/models/openai/gpt-3.5-turbo)

모델 카드를 데이터로

GET /api/public/models/openai/gpt-3.5-turbo열기
기계 판독 가능:/llms.txt/llms-full.txt