GPT-3.5 Turbo

openai/gpt-3.5-turbo
ИнструментыJSON
от OpenAI · 2023-05-28

GPT-3.5 Turbo — самая быстрая модель OpenAI. Она может понимать и генерировать естественный язык или код, оптимизирована для чата и традиционных задач завершения. Обучающие данные до сентября 2021 года.

Эндпоинты:/v1/chat/completions
конт.16K токенов
Макс. вывод4K
Вводtext
Выводtext
p50 TTFT558 ms
ВХОД$0.50/ 1M токенов
ВЫХОД$1.50/ 1M токенов
p50 TTFT558 ms7 д
p95 TTFT970 ms7 д
ТРАФИК4.5Kтокенов / 7 д

Примеры кода

Вызов из любого SDK

Совместимо с OpenAI — оставьте свой SDK

  • OpenAI SDKhttps://api.orcarouter.ai/v1
import os

from openai import OpenAI

client = OpenAI(
    base_url="https://api.orcarouter.ai/v1",
    api_key=os.environ["ORCAROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="openai/gpt-3.5-turbo",
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)

Поддерживаемые параметры

  • frequency_penalty
  • logit_bias
  • logprobs
  • max_tokens
  • presence_penalty
  • response_format
  • seed
  • stop
  • stream
  • temperature
  • tool_choice
  • tools
  • top_logprobs
  • top_p

Цены

Цены
Ввод / 1M токенов$0.500
Вывод / 1M токенов$1.50
ВалютаUSD

Калькулятор стоимости

Токенов / месяц10MM
Доля ввода70%%
Оценка / месяц $8.00

Оценка по прайс-листу

Оценка токенов и стоимости

Токены ввода: 19Стоимость за запрос: $0.000759

Только оценка — фактическое число токенов зависит от токенизатора провайдера.

Сравните ежемесячные расходы на модели в калькуляторе стоимости LLM

Производительность

p50 TTFT
558 ms
Скорость вывода
22.7 tok/s
p95 TTFT
970 ms
Частота ошибок
90.0%

Публичные тесты

10.7
AA Coding
Лучше, чем 1% сравниваемых моделей
133 из 138
5.5
AA Intelligence
Лучше, чем 0% сравниваемых моделей
147 из 150
GPQA Diamond
29.7
MATH-500
44.1
MMLU-Pro
46.2
Источник: artificialanalysis.ai

Обсуждения в сообществе

О чём говорят разработчики на этой неделе

Hacker News0 упоминаний · 7 днснижение на 1 к прошлой неделе

Сравнение

GPT-3.5 TurboGPT-5.2 ProGPT-5.4 ProGPT-5.5
Ввод $/млн$0.50$21.00$60.00$5.00
Вывод $/млн$1.50$168.00$270.00$30.00
Контекст16K400K1.1M—
Качество2/1010/1010/1010/10
Сравнить бок о бокСравнить бок о бокСравнить бок о бокСравнить бок о бок

Больше от OpenAI

FAQ

Сколько стоит OpenAI: GPT-3.5 Turbo на OrcaRouter?
OpenAI: GPT-3.5 Turbo стоит $0.50 за 1M входных токенов и $1.50 за 1M выходных токенов через OrcaRouter. Цены берутся в реальном времени из уровня маршрутизации.
Какое контекстное окно у OpenAI: GPT-3.5 Turbo?
OpenAI: GPT-3.5 Turbo поддерживает контекстное окно в 16K токенов. Используйте функции длинного контекста (RAG, суммаризация) до этого предела.
Как вызвать OpenAI: GPT-3.5 Turbo через OpenAI SDK?
Установите OpenAI base_url равным https://api.orcarouter.ai/v1, укажите свой API-ключ OrcaRouter и передайте model="openai/gpt-3.5-turbo" в вызове chat.completions.create.
Ограничивает ли OrcaRouter скорость OpenAI: GPT-3.5 Turbo?
Ограничения скорости для каждой модели соответствуют вашему плану OrcaRouter. Бесплатные тарифы имеют скромные лимиты; платные тарифы их увеличивают. Текущие квоты смотрите в /pricing.

Встроить значок

OpenAI: GPT-3.5 Turbo•$0.50/M in•558ms p50•через OrcaRouter
HTML <a href="https://www.orcarouter.ai/models/openai/gpt-3.5-turbo" target="_blank"> <img src="https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg" alt="OpenAI: GPT-3.5 Turbo в OrcaRouter" /> </a>
Markdown [![OpenAI: GPT-3.5 Turbo](https://www.orcarouter.ai/embed/openai/gpt-3.5-turbo.svg)](https://www.orcarouter.ai/models/openai/gpt-3.5-turbo)

Карточка модели в виде данных

GET /api/public/models/openai/gpt-3.5-turboОткрыть
Машиночитаемо:/llms.txt/llms-full.txt