GPT-3.5 Turbo

openai/gpt-3.5-turbo
Công cụJSON
bởi OpenAI · 2023-05-28

GPT-3.5 Turbo là mô hình nhanh nhất của OpenAI. Nó có thể hiểu và tạo ra ngôn ngữ tự nhiên hoặc mã, và được tối ưu hóa cho các tác vụ trò chuyện và hoàn thành truyền thống. Dữ liệu huấn luyện tính đến tháng 9 năm 2021.

Điểm cuối:/v1/chat/completions
ngữ cảnh16.4K token
Đầu ra tối đa4.1K
Đầu vàotext
Đầu ratext
TTFT p501.57 s
ĐẦU VÀO$0.50/ 1M token
ĐẦU RA$1.50/ 1M token
TTFT p501.57 s7 ngày
p95 TTFT4.34 s7 ngày
LƯU LƯỢNG54.9Ktokens / 7 ngày

Mã ví dụ

Gọi từ bất kỳ SDK nào

Tương thích OpenAI — giữ nguyên SDK bạn đang dùng

  • OpenAI SDKhttps://api.orcarouter.ai/v1
from openai import OpenAI

client = OpenAI(
    base_url="https://api.orcarouter.ai/v1",
    api_key="$ORCAROUTER_API_KEY",
)

response = client.chat.completions.create(
    model="openai/gpt-3.5-turbo",
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)

Tham số được hỗ trợ

  • frequency_penalty
  • logit_bias
  • logprobs
  • max_tokens
  • presence_penalty
  • response_format
  • seed
  • stop
  • stream
  • temperature
  • tool_choice
  • tools
  • top_logprobs
  • top_p

Giá

Đầu vào / 1M tokens$0.500
Đầu ra / 1M tokens$1.50
Tiền tệUSD

Máy tính chi phí

Token / tháng10MM
Tỷ lệ đầu vào70%%
Ước tính / tháng $8.00

Ước tính theo giá niêm yết

Công cụ ước tính token & chi phí

Token đầu vào: 17Chi phí mỗi yêu cầu: $0.000759

Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.

Hiệu suất

TTFT p50
1.57 s
Tốc độ đầu ra
149 tok/s
p95 TTFT
4.34 s
Tỷ lệ lỗi
0%

Benchmark công khai

10.7
AA Coding
Tốt hơn 2% số mô hình được so sánh
#101 / 106
9.0
AA Intelligence
Tốt hơn 0% số mô hình được so sánh
#107 / 110
GPQA Diamond
29.7
MATH-500
44.1
MMLU-Pro
46.2
Nguồn: artificialanalysis.ai

So sánh

GPT-3.5 TurboGPT-5.2 ProGPT-5.4 ProGPT-5.5
Đầu vào $/M$0.50$21.00$60.00$5.00
Đầu ra $/M$1.50$168.00$270.00$30.00
Ngữ cảnh16K400K1.1M
Chất lượng2/1010/1010/1010/10
So sánh song songSo sánh song songSo sánh song songSo sánh song song

Câu hỏi thường gặp

OpenAI: GPT-3.5 Turbo giá bao nhiêu trên OrcaRouter?
OpenAI: GPT-3.5 Turbo có giá $0.50 cho mỗi 1 triệu token đầu vào và $1.50 cho mỗi 1 triệu token đầu ra thông qua OrcaRouter. Giá được cập nhật trực tiếp từ lớp định tuyến.
Cửa sổ ngữ cảnh của OpenAI: GPT-3.5 Turbo là bao nhiêu?
OpenAI: GPT-3.5 Turbo hỗ trợ cửa sổ ngữ cảnh 16K token. Sử dụng các tính năng ngữ cảnh dài (RAG, tóm tắt) cho đến giới hạn đó.
Làm thế nào để gọi OpenAI: GPT-3.5 Turbo qua SDK OpenAI?
Đặt base_url của OpenAI thành https://api.orcarouter.ai/v1, cung cấp khóa API OrcaRouter của bạn, và truyền model="openai/gpt-3.5-turbo" trong lệnh gọi chat.completions.create.
OrcaRouter có giới hạn tốc độ OpenAI: GPT-3.5 Turbo không?
Giới hạn tốc độ theo từng mô hình tuân theo gói OrcaRouter của bạn. Các gói miễn phí đi kèm giới hạn thấp; các gói trả phí nâng cao giới hạn đó. Kiểm tra /pricing để biết hạn mức hiện tại.

Nhúng huy hiệu này

OpenAI: GPT-3.5 Turbo$0.50/M in1571ms p50qua OrcaRouter
HTML <a href="https://www.orcarouter.ai/models/openai/gpt-3.5-turbo" target="_blank"> <img src="https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg" alt="OpenAI: GPT-3.5 Turbo trên OrcaRouter" /> </a>
Markdown [![OpenAI: GPT-3.5 Turbo](https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg)](https://www.orcarouter.ai/models/openai/gpt-3.5-turbo)

Thẻ mô hình dạng dữ liệu

GET /api/public/models/openai/gpt-3.5-turboMở
Máy đọc được:/llms.txt/llms-full.txt