最新のGPT-4 Turboモデル、視覚機能搭載。ビジョンリクエストではJSONモードと関数呼び出しが利用可能になりました。トレーニングデータ: 2023年12月まで。
GPT-4 Turboは、OpenAIがリリースした大規模言語モデルで、テキストと画像の両方の入力を処理します。GPT-4のアーキテクチャを基盤としながらも、コンテキストウィンドウを128,000トークン（約300ページ分のテキスト）に拡張し、最大出力は4,096トークンに抑えられています。このモデルは複雑な推論タスクを処理し、コードを生成し、視覚情報を理解するように設計されています。OrcaRo…
GPT-4 Turboは強力な推論能力を示し、特に数学（MATH-500スコア73.7）、コード生成、多段階問題解決に優れています。長い会話を通じて複雑な指示に従い、数千のトークンにわたって一貫性を維持し、首尾一貫した技術的説明を生成できます。また、入力に画像データが含まれている場合、スクリーンショット、図、印刷されたテキストなどの画像を分析することもできます。ただし、すべてのドメインに特化しているわけではありません。単純な分類や抽出タスクには、GPT-3.5 Turboのような小型モデルで十分であり、より経済的です。
128,000トークンのコンテキストウィンドウを使用すると、書籍全体、長大な法的契約書、完全なコードリポジトリ、長時間の会話など、大きなドキュメントをコンテンツを分割することなく入力できます。例えば、研究論文全体を貼り付けて、前半部分を失うことなく任意のセクションについて質問できます。これは、文書要約、立法分析、大規模なコードベースのデバッグなど、モデルが全体の構造を理解する必要があるタスクに特に価値があります。OrcaRouterでは、このコンテキストは入力トークンとして課金されるため、100Kトークンのドキュメントを入力すると、クエリごとに約1.00ドル（100K * $10/1M）のコストがかかります。
GPT-4 Turboは、入力の一部として画像を受け付けており、写真、図、イラスト、スクリーンショットなどの視覚的な内容を理解できます。このモデルは、画像に何が写っているかを説明したり、その内容に関する質問に答えたり、さらには図の推論（例えばフローチャートやグラフの解釈）を実行できます。画像は通常、OpenAIのチャット補完フォーマット内でURLまたはbase64エンコードされたデータとして提供されます。画像処理のコストは入力トークン数に含まれ、OpenAIの価格設定に基づいて画像の解像度と詳細レベルに応じて計算されます。
大量・低複雑性のタスク（単純なテキスト分類、短い文脈での基本的なQ&A、反復的な抽出など）の場合、GPT-3.5 Turboのような小規模モデルや専用ファインチューニングモデルを使用すれば、コストを大幅に抑えつつ許容可能な結果を得られます。GPT-4 Turboの価格は、入力トークンあたりGPT-3.5 Turboの約20倍、出力トークンあたり30倍です。レイテンシが重要なアプリケーションでは、GPT-3.5 Turboの方が応答も高速です。精度とコストのトレードオフを評価してください。多くの本番パイプラインでは、フィルタリングに安価なモデルを使用し、複雑なケースにGPT-4 Turboを使用するハイブリッドアプローチが支出を最適化できます。
GPT-4 Turboは、代数、幾何、微積分などのトピックにわたる小学校から高校レベルの数学問題を解くモデルの能力を評価するMATH-500ベンチマークで73.7のスコアを達成しました。このスコアは強力な数学的推論を示していますが、最先端ではありません。一部の特化モデルや大規模なアンサンブルは80を超えることがあります。このベンチマークは、生の言語生成ではなく体系的な問題解決においてモデルを比較するのに有用です。OrcaRouterでは、APIを通じて数学問題のセットを送信し、結果を比較することで、自分でこれをテストできます。
強みとしては、深い推論、長いコンテキストの処理、コードの生成と説明における能力が挙げられます。また、図表の解釈など、テキストと視覚情報を組み合わせたタスクでも優れたパフォーマンスを示します。一方、制約としては出力上限が4,096トークンと比較的小さく、長文生成（例：章全体の執筆）には複数回の呼び出しが必要です。また、稀なケースでは誤った回答を生成することがあり、完全に正確というわけではありません。さらに、小規模モデルと比べてレイテンシが高いため、リアルタイムアプリケーションには最適ではない場合があります。速度測定値は提供されていませんが、GPT-3.5 Turboよりもやや遅いとの報告があります。
OrcaRouterにおけるGPT-4 Turboの正確なレイテンシ数値は公開されていません。パフォーマンスはプロバイダーのインフラストラクチャとリクエスト負荷に依存します。実際には、このモデルはパラメータ数が多く、コンテキスト処理が必要なため、小規模モデルよりも推論時間が長くなります。短い入力の場合、応答時間は通常数秒ですが、非常に大きなコンテキスト（例：100Kトークン）では、モデルが出力を生成する前にすべてのトークンを処理する必要があるため、レイテンシが大幅に増加する可能性があります。OrcaRouterは特定の高速化を宣伝していません。インタラクティブなアプリケーションで低レイテンシが必要なユーザーは、より高速なモデルを好む場合がありますが、複雑なタスクのバッチ処理は引き続き実用的です。
価格はトークン単位で、入力トークン100万個につき$10.00、出力トークン100万個につき$30.00です。これはOpenAIの直接レートと同じであり、OrcaRouterによる追加のマークアップはありません。入力トークンには、システムメッセージ、ユーザーメッセージ、画像トークン、および会話履歴が含まれます。出力トークンはモデルが生成した応答です。リクエストの総コストは (input_tokens * $0.00001) + (output_tokens * $0.00003) で計算されます。最低料金や月額契約はなく、使用したトークンのみに支払います。
GPT-4 Turboは、GPT-3.5 Turbo（$0.50/$1.50 100万トークンあたり）のような小型モデルよりも大幅に高価ですが、優れた推論能力とコンテキスト処理を提供します。基本的な機能のみが必要なタスクでは、GPT-4 Turboを使用すると不必要なコストが発生する可能性があります。一方、元のGPT-4（$30/$60 100万トークンあたり）と比較すると、GPT-4 Turboは入力が33%安く、出力が50%安く、高性能要件に対してよりコスト効率の良い選択肢となります。OrcaRouterのゼロマークアップ料金設定により、OpenAIを直接利用する場合と同じレートを確実にお支払いいただけます。
OrcaRouterは、明示されたトークン単価以外に、GPT‑4 Turbo向けの特別割引、ボリュームプライシング、またはレスポンスキャッシングを提供していません。料金はシンプルで、OpenAIの請求額をそのまま支払う仕組みであり、追加料金は発生しません。コミットメント割引、トークンの事前購入、段階的価格設定もありません。プロンプトやレスポンスのキャッシングは宣伝されていないため、すべてのリクエストは標準レートで課金されます。非常に高いボリュームが見込まれる場合は、OrcaRouterに問い合わせるか、独自のキャッシュ層を持つ専用APIエンドポイントの利用を検討することで、同一入力に対する繰り返しのコストを削減できる可能性があります。
出力トークンのコストは入力トークンの3倍です（100万トークンあたり$30 vs. $10）。そのため、長い生成は迅速に請求額を増加させる可能性があります。例えば、2,000トークンの応答を生成すると$0.06かかりますが、4,000トークンの応答では$0.12かかります。コストを制御するには、より低いmax_tokensパラメータを設定する、より短いプロンプトを使用する、またはモデルが短い出力を生成し、必要に応じて別の呼び出しで拡張する反復的な改良を採用することを検討してください。要約のようなタスクでは、コンテキストが重要でない場合、出力トークンコストが低いモデルの方が好ましいかもしれません。
OrcaRouterのOpenAI互換APIを介してGPT-4 Turboを呼び出すことができます。まず、OrcaRouterからAPIキーを取得してください。次に、ベースURLをhttps://api.orcarouter.ai/v1に設定し、チャット補完リクエストでモデルID「openai/gpt-4-turbo」を使用します。例えば、OpenAI Python SDKを使用する場合、base_urlをOrcaRouterに向け、model="openai/gpt-4-turbo"としてクライアントを作成します。リクエストとレスポンスの形式はOpenAIのネイティブAPIと同一であるため、直接OpenAIを使用する場合から最小限のコード変更で切り替えられます。
APIは標準のOpenAIチャット補完パラメータをサポートしています: messages (ロールとコンテンツを持つ配列)、temperature (0-2)、top_p、n、stream、stop、max_tokens (最大4096まで)、presence_penalty、frequency_penalty、logit_bias、user、およびfunction calling/tools。画像入力の場合、タイプが"image_url"でurlを含むコンテンツ部分を含めることができます。このモデルはOpenAIの仕様を超える追加パラメータをサポートしていません。すべてのパラメータはOpenAIのGPT-4 Turboのドキュメント通りに動作します。max_tokensパラメータは、モデルの出力制限である4096を超えることはできないことに注意してください。
移行は簡単です：OpenAIのベースURLをOrcaRouterのエンドポイントhttps://api.orcarouter.ai/v1に置き換え、モデル名を"openai/gpt-4-turbo"に変更してください。OpenAI APIキーの代わりにOrcaRouter APIキーを使用します。メッセージのフォーマット、ストリーミング、エラーハンドリングなど、コードの残りの部分はAPIが完全に互換性があるため変更不要です。OpenAI Pythonライブラリを使用していた場合、openai.api_base（または新しいバージョンでの同等の設定）をOrcaRouterのURLに設定するだけで済みます。これにより、ロジックを書き換えることなく、OrcaRouter経由でGPT-4 Turboをテストできます。
GPT-4 Turbo は GPT-4 の進化版であり、より大きなコンテキストウィンドウ (128K、従来の GPT-4 バリアントでは最大 32K) と、トークンあたりのより低い価格設定を備えています: GPT-4 の 100万トークンあたり $30/$60 に対して、$10/$30 です。両モデルともビジョンをサポートしていますが、GPT-4 Turbo は効率と推論品質のマイナーな向上も実現しています。MATH-500 などのベンチマークでは、GPT-4 Turbo が 73.7 をスコアしたのに対し、元の GPT-4 (コンテキスト 8K) はより小規模な MATH テストセットで約 52.9 をスコアしました — これらの数値はテストバージョンが異なるため直接比較できませんが、改善を示しています。OrcaRouter では、旧世代の GPT-4 モデルもそれぞれの価格で利用可能です。
GPT-3.5 Turboははるかに安価（$0.50/$1.50 per 1M tokens）で高速なため、大量かつ低レイテンシが要求されるアプリケーションに適しています。ただし、コンテキストウィンドウは小さく（バリアントにより16Kまたは4K）、推論、コード生成、ビジョン機能は大幅に弱くなっています。マルチステップの推論や大きなコンテキストを必要とするタスクでは、GPT-4 Turboが明らかに勝ります。数学的推論の直接比較では、GPT-3.5 Turboは通常MATH-500で30未満のスコアであるのに対し、GPT-4 Turboは73.7を達成しています。シンプルなタスクやコスト削減にはGPT-3.5 Turboを選び、正確性やコンテキスト長が重要な場合はGPT-4 Turboに頼りましょう。
直接の比較はありませんが、一般的な知識として、Anthropic Claude 3とGoogle Gemini 1.5は同様の機能を提供しています。Claude 3 Opusは200Kのコンテキストウィンドウと同等の推論能力を持ち、Gemini 1.5 Proは最大100万トークンを処理できます。ただし、各モデルは価格とパフォーマンスのプロファイルが異なります。OrcaRouterでは、比較のために他のプロバイダーのモデルにもアクセスできます。GPT-4 Turboは、価格、推論品質、開発者エコシステム（OpenAI SDK）のバランスで競争力を維持しています。視覚タスクでは、ClaudeとGeminiも画像入力をサポートしています。
OpenAI 互換——今お使いの SDK のまま
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-turbo",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| 入力 / 1M tokens | $10.00 |
| 出力 / 1M tokens | $30.00 |
| 通貨 | USD |
表示価格に基づく概算
見積もりのみ — 実際のトークン数はプロバイダーのトークナイザーに依存します。
@misc{orcarouter_gpt_4_turbo,
title = {GPT-4 Turbo API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-turbo}
}OpenAI. (2024). GPT-4 Turbo API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-turbo