OpenAIの費用対効果の高いテキストモデルで、MMLU-Proスコア46.2を持ち、OrcaRouter API経由でアクセス可能。
openai/gpt-3.5-turbo-0125は、OpenAIが開発し、OrcaRouterのAPIを通じて利用可能なテキスト生成モデルです。GPT-3.5-Turboファミリーの一部であり、会話タスクや構造化テキスト出力に最適化されています。このモデルはテキスト入力のみを受け付け、テキスト出力を生成し、最大出力長は4096トークンです。OrcaRouterのOpenAI互換エンドポイント（h…
GPT-3.5-Turbo-0125は、チャット、要約、翻訳、質問応答、コンテンツ生成など、幅広いテキストベースのタスクに優れています。指示を的確に処理し、カスタマーサポート、ブレインストーミング、データラベリングにおいて、一貫性があり文脈に適した応答を生成できます。トレーニングデータは2023年4月までの多様なドメインをカバーしており、一般的な知識や文体において妥当なパフォーマンスを発揮します。構造化出力では、明確に指示された場合にJSON形式やカスタムスキーマに従って出力できます。
アプリケーションが非常に大量のシンプルで反復的なタスク（例えば単純な分類や1文生成など）を伴う場合、GPT-3.5-Turbo-Instructのようなより小さなモデルや、OrcaRouterでホストされているオープンソースの代替品の使用を検討してもよいでしょう。トークン数が少なく、精度要件が最小限であれば、コスト削減効果は大きくなります。ただし、GPT-3.5-Turbo-0125は、特にMMLU-Proで46.2という強力なベンチマークスコアを考慮すると、ほとんどの汎用的な用途において依然としてコスト効率の良い選択肢です。
はい、このモデルは多言語テキストでトレーニングされていますが、最も優れたパフォーマンスを発揮するのは英語です。スペイン語、フランス語、中国語、アラビア語など、多くの言語のテキストを理解し生成することができます。トレーニングデータにおける表現が限られている言語や高度に慣用的な表現については、精度が低下する可能性があります。正確な多言語流暢性を必要とするタスクには、言語固有のファインチューニングを補足するか、ネイティブモデルを使用することを検討してください。入力と出力は常にテキストであるため、非英語文字もサポートされています。
コンテキストウィンドウの合計は16,385トークン（広く知られる公開仕様）であるため、モデルは中程度の長さのドキュメントを単一パスで処理できます。ただし、出力はリクエストごとに4096トークンに制限されています。より長い出力には、マップリデュースまたはスライディングウィンドウアプローチを実装する必要があります。モデルのアテンションメカニズムはコンテキスト全体で一貫性を維持できますが、長いプロンプトの最初を参照する必要があるタスクではパフォーマンスが低下する可能性があります。非常に長いテキストには、チャンキングと要約戦略が推奨されます。
MMLU-Proは、大規模マルチタスク言語理解ベンチマークの拡張版であり、科学、法律、人文科学を含む57の科目にわたる質問に対するモデルの能力を測定します。スコア46.2は、GPT-3.5-Turbo-0125が約46.2%の質問に正しく回答したことを示し、これは小型モデルの中でも競争力のある数値です。このスコアは強力な一般知識を反映していますが、GPT-4のような大型モデルと比べると改善の余地があることも示しています。深い専門知識を要するタスクについては、ドメイン固有のベンチマークでモデルを評価することを検討してください。
正確なレイテンシは、リクエストサイズ、ネットワーク状況、OpenAIのインフラストラクチャにかかる現在の負荷によって異なります。一般的な使用では、GPT-3.5-Turbo-0125は短いプロンプトに対して数秒以内に応答し、多くの場合、より大きなモデルよりも高速です。OrcaRouterは、プロバイダの応答時間に大きなオーバーヘッドを追加することはありません。リアルタイムアプリケーションの場合は、実際のワークロードでテストしてください。このモデルの速度とコスト効率の良さから、リクエストごとのレイテンシが重要なインタラクティブチャットボットやプロダクションパイプラインで人気のある選択肢となっています。
GPT-3.5-Turbo-0125は、その信頼性、一貫したフォーマット、強力な指示追従能力により広く使用されています。一貫性のある応答を生成し、タイプミスや曖昧な表現も適切に処理します。2023年4月までのトレーニングデータをカバーしており、その期間の最新情報に正確に答えることができます。また、システムメッセージを使用して動作を設定できるため、ロールプレイや制約付き生成など、さまざまなアプリケーションに簡単にカスタマイズできます。
このモデルは、複雑な推論、多段階の計算、非常に微妙な指示に対して苦手とする場合があります。もっともらしく聞こえるが誤った回答（ハルシネーション）を生成することがあり、厳格なフォーマット規則を一貫して守れない可能性があります。出力長は4096トークンに制限されており、長文コンテンツの生成には不十分な場合があります。さらに、デフォルトではインターネットにアクセスできず、チャットインターフェース外でのリアルタイム情報の取得や操作実行ができません。高度な論理や最新データが必要な場合は、検索拡張生成（RAG）やより高性能なモデルの利用を検討してください。
OrcaRouterはOpenAIの正確な価格をそのまま適用し、一切のマークアップはありません。入力トークン100万個あたり0.50ドル、出力トークン100万個あたり1.50ドルです。これらのトークン料金以外に、追加のプラットフォーム利用料、サブスクリプション費用、リクエストごとの料金は発生しません。入力トークンには、プロンプト、システムメッセージ、会話履歴が含まれます。出力トークンは生成された応答です。請求は処理されたトークン数に基づき、GPT-3.5用のtiktokenトークナイザーで測定されます。
GPT-3.5-Turbo-0125はすでにOpenAIの中でも最も費用対効果の高いモデルの1つですが、より短いプロンプトを送信する、会話履歴を可能な限りトリミングする、ユースケースが許せば小さいmax_tokens値を使用することで、さらに最適化できます。不要なシステムメッセージが長すぎるのは避けてください。非常に大量のトラフィックがある場合は、OrcaRouter上の無料またはオープンソースモデルが精度要件を満たせるか検討してください。ただし、より安価なモデルは、より厳密なプロンプトエンジニアリングや微調整が必要となる可能性があるというトレードオフがあります。
OrcaRouterは現在、プロンプトやレスポンスのための組み込みキャッシュ機構を提供していません。各API呼び出しは、そのリクエストで送受信されたトークンに基づいて課金されます。複数の呼び出しで同じプロンプト（例：同一のシステムメッセージ）を再利用する場合、そのたびにそのトークンに対して課金されます。コストを削減するには、アプリケーションレベルで同一のリクエストをキャッシュするか、複数のユーザーメッセージを含む単一のプロンプトに複数のクエリをバッチ処理することを検討してください。
標準のOpenAI Chat CompletionsエンドポイントをベースURL https://api.orcarouter.ai/v1 で使用してください。modelパラメータを 'openai/gpt-3.5-turbo-0125' に設定します。OrcaRouter APIキーをAuthorizationヘッダーに含めてください。cURLを使用した例: curl https://api.orcarouter.ai/v1/chat/completions -H 'Authorization: Bearer YOUR_API_KEY' -H 'Content-Type: application/json' -d '{"model":"openai/gpt-3.5-turbo-0125","messages":[{"role":"user","content":"Hello"}]}'. レスポンス形式はOpenAIの仕様に準拠しています。
標準的なOpenAIチャット補完パラメータはすべて利用可能です。'messages'、'max_tokens'（最大4096）、'temperature'、'top_p'、'frequency_penalty'、'presence_penalty'、'stop'、'stream'が含まれます。'n'（補完数）もサポートされています。OrcaRouterゲートウェイでは、このモデルに対する'logprobs'または'logit_bias'のサポートはありません。'max_tokens'パラメータはモデルの出力制限に合わせて4096に制限されていることに注意してください。ストリーミングの場合は、'stream': trueを設定して増分デルタを受信します。
現在、OpenAIを直接使用している場合、OrcaRouterへの移行は簡単です：ベースURLをhttps://api.openai.com/v1からhttps://api.orcarouter.ai/v1に変更し、汎用エイリアスを使用していた場合はモデルIDを'openai/gpt-3.5-turbo-0125'に更新し、APIキーをOrcaRouterのものに置き換えてください。メッセージ形式やパラメータのコード変更は不要です。別のプロバイダを使用していた場合は、クライアントライブラリがOpenAI互換スキーマをサポートしていることを確認してください。OrcaRouterはドロップイン置き換えを提供します。
GPT-4は、複雑な推論、事実の正確性、ニュアンスの効いた指示に従う能力において、一般的にGPT-3.5-Turbo-0125を上回ります。これはMMLUやその他のテストでの高いベンチマークスコアに反映されています。しかし、GPT-4は大幅に高価（通常トークンあたり10倍のコスト）であり、レイテンシが高くなる可能性があります。GPT-3.5-Turbo-0125は、GPT-4の深みを必要としないタスクに対して、魅力的なコストパフォーマンスのバランスを提供します。高度な分析や誤差の許容範囲が狭い場合には、より大きなモデルを選択してください。
AnthropicのClaude 3 Haikuは、高速な推論と強力な安全機能を備えた競合する低コストモデルです。両モデルはテキストのみ対応で、大量処理用途向けに設計されています。具体的なベンチマーク比較にはばらつきがありますが、GPT-3.5-Turbo-0125は広く採用されており、豊富なドキュメントとエコシステムの恩恵を受けています。Claude 3 Haikuは、創作文章や拒否行動において異なる強みを持つ可能性があります。選択は開発者の好みと統合要件に依存します。OrcaRouterは両モデルをサポートしているため、直接比較できます。
オープンソースモデル（例：Llama 3、Mistral）は、自社のハードウェア上またはOrcaRouterを介して実行でき、特にスケール時にトークンあたりのコストを低く抑えられる可能性があります。ただし、セットアップやプロンプトエンジニアリングがより多く必要であり、指示への追従が弱い場合があります。GPT-3.5-Turbo-0125は、ターンキーな信頼性、一貫した品質、インフラ管理の不要を提供します。MLの専門知識がないチームには、マネージドAPIが好ましいことが多いです。特定のワークロードでベンチマークを実行して判断してください。
OpenAIは、GPT-3.5-Turboの新しいバージョンをリリースしたり、この特定のスナップショットを非推奨にする可能性があります。OrcaRouterは、利用可能なモデルをそれに応じて更新します。アプリケーションが一貫した動作に依存する場合は、正確なモデルIDを使用して特定のモデルバージョンを固定することをお勧めします。OrcaRouterは、非推奨について事前に通知します。重要な本番システムでは、新しいバージョンをステージング環境でテストしてから切り替えることを検討してください。
OpenAI 互換——今お使いの SDK のまま
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-3.5-turbo-0125",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_pparallel_tool_calls| 入力 / 1M tokens | $0.500 |
| 出力 / 1M tokens | $1.50 |
| 通貨 | USD |
表示価格に基づく概算
見積もりのみ — 実際のトークン数はプロバイダーのトークナイザーに依存します。
@misc{orcarouter_gpt_3_5_turbo_0125,
title = {openai/gpt-3.5-turbo-0125 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-3.5-turbo-0125}
}openai. (n.d.). openai/gpt-3.5-turbo-0125 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-3.5-turbo-0125