2024-08-06 バージョンのGPT-4oは、構造化出力のパフォーマンスが向上し、respone_formatにJSONスキーマを提供できるようになりました。詳細は[こちら](https://openai.com/index/introducing-structured-outputs-in-the-api/)をご覧ください。GPT-4o（「o」は「omni」の略）は...
GPT-4o（2024-08-06）は、2024年8月にリリースされたOpenAIのGPT-4oモデルのバージョンです。テキスト、画像、ファイル入力を処理するマルチモーダル大規模言語モデルです。このモデルは、複数のプロバイダーに対して単一のエンドポイントを提供するOrcaRouterのOpenAI互換APIを通じてアクセスされます。コンテキストウィンドウは128,000トークン、最大出力は16,3…
このモデルの主な強みは、数学的推論とマルチモーダル理解にあります。MATH-500スコア79.5は、複雑な数学問題を段階的に解く高い能力を示しています。画像、図表、グラフを解釈し、正確な説明や分析を提供できます。128Kコンテキストウィンドウにより、全編の書籍や画像と関連テキストのシリーズなど、大量の情報を処理できます。また、ファイルのアップロードにも対応しており、スプレッドシートからのデータ抽出やコードファイルの読み取りなどのタスクに役立ちます。これらの能力はOpenAIの継続的な最適化に支えられており、このモデルは本番環境で広く使用されています。
GPT-4o (2024-08-06)は、視覚情報とテキスト情報を組み合わせる必要があるタスクに優れています。例としては、図を用いた数学の問題の解決、ユーザーインターフェースのスクリーンショットを分析してバグ報告を行うこと、スキャン文書からのデータ抽出、複雑な図表の詳細な説明などが挙げられます。また、エラーやファイル構造のスクリーンショットを含むコンテキストにおいて、コード生成やデバッグにも効果的です。教育アプリケーションでは、ステップバイステップの推論が役立ちます。基本的なQ&Aや短いテキストの要約など、純粋にテキストベースで単純なタスクには、GPT-4o miniのようなより安価なモデルで十分な場合があります。このモデルは、高価値、マルチモーダル、または推論集約型のワークフローに最適です。
視覚、ファイル処理、または高度な推論を活用しないタスクには、より小型で安価なモデルの方が費用対効果が高いです。例えば、シンプルなチャットアプリケーション、短いコンテンツ生成、または分類タスクは、GPT-4o miniやGPT-3.5 Turboのようなモデルで処理できます。アプリケーションがテキストのみを処理し、128Kコンテキストウィンドウを必要としない場合、より小さいコンテキストモデルがレイテンシとコストを削減する可能性があります。さらに、データに画像やファイルが含まれない場合は、テキストのみのモデルで十分です。タスクの複雑さがGPT-4oのより高いトークン単価を正当化するかどうかを評価してください。OrcaRouterは、さまざまなユースケースに合わせて異なる価格帯のモデルを提供しています。
はい、このモデルはファイル入力をサポートしています。PDF、Word文書、スプレッドシート、画像、コードファイルなどをアップロードできます。モデルはこれらのファイル内のコンテンツを抽出して理解し、コンテキストの一部として扱います。例えば、PDFからテキストを読み取り、CSV内の数値を解釈し、.pyファイルのソースコードを分析できます。画像入力と組み合わせると、チャートが埋め込まれたドキュメントのような混合メディアも処理できます。これは、データ抽出の自動化、ドキュメントレビュー、コード分析に特に役立ちます。なお、ファイル処理は128,000トークンのコンテキストウィンドウにカウントされるため、大きなファイルはかなりのスペースを消費する可能性があります。
MATH-500ベンチマークにおいて、GPT-4o（2024-08-06）は79.5のスコアを達成しました。MATH-500はMATHデータセットのサブセットであり、代数、幾何、数論、確率などのトピックをカバーする500問の難易度の高い競技レベルの数学問題で構成されています。スコア79.5は、約5問中4問の正解を示しています。これにより、数学的推論においてトップクラスのモデルの一つに位置づけられます。他のベンチマークスコアは提供されていませんが、この指標は段階的な論理的推論と算術におけるモデルの強みを示しています。ユーザーは、チュータリング、検証、問題生成などの数学を多用するアプリケーションで信頼性の高いパフォーマンスを期待できます。
MATH-500を超える具体的なベンチマークスコアは、入手可能な情報では提供されていません。ただし、モデルファミリーとしてのGPT-4oは、MMLU（大規模マルチタスク言語理解）、HumanEval（コード生成）、およびさまざまな視覚言語タスクを含む、幅広い標準ベンチマークで競争力があることが広く知られています。2024年8月版では、推論や指示追従を改善するアップデートが組み込まれている可能性があります。正確な数値がなければ、ユーザーはOpenAIが公開している評価を参照して最新データを確認する必要があります。実用的な目的では、このモデルはテキストと視覚の複合能力において、オープンAPIモデルの中で最先端と見なされています。
このモデルについて、具体的なレイテンシやスループットの数値は提供されていません。一般的に、GPT-4oは品質を維持しながら、以前のGPT-4バリアントよりも高速になるよう設計されています。レイテンシは、入力長、出力長、同時リクエスト数、バックエンドインフラなどの要因に依存します。OrcaRouter経由でアクセスすると、リクエストはOpenAIのサーバーにルーティングされ、応答時間は直接のAPI呼び出しと同程度です。ユーザーは、必要最小限のコンテキストを使用し、適切なmax_tokens制限を設定することで最適化できます。リアルタイムアプリケーションの場合は、代表的なワークロードでテストすることをお勧めします。OrcaRouterは、ネットワークルーティング以外の追加レイテンシを発生させません。
**強み：**高い数学的推論能力（MATH-500 79.5）、マルチモーダル入力（テキスト、画像、ファイル）、大規模な128Kコンテキストウィンドウ、高い出力トークン数制限（16,384）。特に複雑な推論、視覚理解、長距離コンテキストが必要なタスクに有効です。 **制限：**小規模モデルと比較してコストが高く、単純なタスクや低レイテンシが求められるタスクには最適ではない場合があります。曖昧な入力やフォーマットが不適切な入力では精度が変動する可能性があり、歪んだ画像や低解像度の画像では視覚機能の性能が低下することがあります。また、すべてのLLMと同様に、トレーニングデータの範囲外の領域ではもっともらしく聞こえるが誤った回答を出力することがあります。これを軽減するには、出力を検証し、プロンプトエンジニアリングを活用してください。
GPT-4o（2024-08-06）の料金はトークン使用量に基づいています。入力トークンは100万トークンあたり$2.50、出力トークンは100万トークンあたり$10.00です。これはプロバイダー（OpenAI）のレートであり、OrcaRouterはマークアップを一切適用しません。OpenAIに直接アクセスした場合とまったく同じ料金をお支払いいただきます。トークンは送受信されたテキストに基づいてカウントされます。画像やファイルの入力は、そのサイズと処理の複雑さに比例したトークンを消費します（画像トークンコストはOpenAIのポリシーに従います）。APIエンドポイントの使用に追加料金はかかりません。請求は通常、利用期間ごとに集計され、OrcaRouterのダッシュボードからトークン消費量を監視できます。
隠れた費用や追加料金はありません。OrcaRouterはプロバイダーの正確なレートで請求し、マークアップはゼロです。表示されている価格（入力100万トークンあたり$2.50、出力100万トークンあたり$10）はすべて込みの価格です。認証、接続、サポートに対する追加料金はありません。ただし、画像やファイルの入力にはOpenAIの料金ポリシーに基づくトークンコストが発生し、テキストのみのトークンコストを超える可能性があります。例えば、1080x1080の画像は、テキストトークンに加えて一定数のトークンがかかる場合があります。正確な画像トークン料金についてはOpenAIのドキュメントを確認してください。OrcaRouterはこれらのコストをマークアップなしで通過させます。現在の情報では、キャッシュベースの割引はありません。
GPT-4o (2024-08-06) を、GPT-4o mini や GPT-3.5 Turbo などのより安価なモデルよりも選択することは、パフォーマンスとコストのトレードオフを伴います。トークンあたりの価格が高いため、大量に使用するアプリケーションではコストが急速に蓄積される可能性があります。しかし、タスクにモデルのマルチモーダル機能や128Kのコンテキストウィンドウが必要な場合、安価なモデルでは不十分であり、不完全または品質の低い出力につながる可能性があります。単純な推論を伴うテキストのみのタスクでは、安価なモデルを使用することで、品質を大きく犠牲にすることなくコストを削減できます。OrcaRouterを使用すると、モデル間の切り替えが容易になるため、ユースケースごとに最適なコストパフォーマンスのバランスを見つけるための実験が可能です。
利用可能な事実には、このモデルに対するキャッシュや割引メカニズムについては言及されていません。OrcaRouterはプロバイダーレートで請求し、マークアップはありません。したがって、割引はおそらくOpenAI独自の価格設定（例：高容量利用に対する段階的割引が該当する場合）から得られることになります。OrcaRouterは独自のキャッシュ機能を提供する可能性がありますが、このモデルについては確認されていません。コストを最小限に抑えるには、会話履歴を切り詰めたり、より短いプロンプトを使用したり、max_tokensパラメータで出力長を制限したりして、入力トークンの使用量を削減することを検討してください。同じクエリが繰り返される場合は、アプリケーションレベルでキャッシュを実装するとよいでしょう。
GPT-4o (2024-08-06) を OrcaRouter 経由で呼び出すには、ベースURLとして https://api.orcarouter.ai/v1 を使用し、モデルIDを "openai/gpt-4o-2024-08-06" に設定します。APIはOpenAIのクライアントライブラリと完全に互換性があります。例えば、Pythonでopenaiライブラリを使用する場合、openai.api_base = "https://api.orcarouter.ai/v1" および openai.api_key = "your-orcarouter-api-key" を設定します。その後、openai.ChatCompletion.create(model="openai/gpt-4o-2024-08-06", messages=[...]) を呼び出します。すべての標準パラメータ（temperature、max_tokens、top_pなど）がサポートされています。認証とレート制限の詳細については、OrcaRouterのドキュメントを参照してください。
モデルはOpenAI互換のAPIをサポートしているため、OpenAIのチャット補完エンドポイントで利用可能なすべてのパラメーターを使用できます。主なパラメーターは以下の通りです：model（モデルIDに設定）、messages（ロールとコンテンツのオブジェクトのリスト）、temperature（0～2）、top_p（0～1）、n（補完の数）、max_tokens（最大16384）、stop（シーケンス）、frequency_penalty、presence_penalty、logit_bias、user（使用状況追跡用）。マルチモーダル入力の場合、適切な形式（例：content: [{type: "text", text: "..."}, {type: "image_url", image_url: {...}}]）を使用して、メッセージのコンテンツに画像またはfile_urlを含めます。画像およびファイル入力の構文については、OpenAIのドキュメントを参照してください。
OpenAI APIからOrcaRouterへの移行には、次の2つの変更が必要です: 1) ベースURLを https://api.orcarouter.ai/v1 に設定する、2) OpenAI APIキーをOrcaRouter APIキーに置き換える。メッセージのフォーマットやパラメータにコード変更は不要です。モデルIDは "gpt-4o-2024-08-06" から "openai/gpt-4o-2024-08-06" に変わります。ストリーミング、関数呼び出し、レスポンス解析の既存ロジックはすべてそのまま動作します。OrcaRouterのAPIはドロップイン置き換えとして設計されています。切り替え後は、同じインターフェースを通じて他のプロバイダーのモデルにもアクセスでき、簡単な比較と負荷分散が可能になります。
認証は、OrcaRouterが提供するAPIキーを使用して行われます。ヘッダーに「Authorization: Bearer YOUR_ORCAROUTER_API_KEY」を含めてください。レート制限はOrcaRouterによって管理され、OpenAIの直接的な制限とは異なる場合があります。詳細はOrcaRouterのプランをご確認ください。レート制限を超えた場合、HTTP 429レスポンスが返されます。これを緩和するには、指数バックオフを用いたリトライロジックを実装してください。OrcaRouterでは、userパラメータを使用してユーザーごとのレート制限を設定できる場合もあります。高スループットが必要な場合は、カスタム契約についてOrcaRouterサポートにお問い合わせください。モデル自体に個別のレート制限はなく、エンドポイント全体の制限の対象となります。
GPT-4o (2024-08-06)はフルサイズのフラッグシップモデルであり、一方GPT-4o miniはより小型で低コストなバリアントです。主な違い：GPT-4oは128Kのコンテキストウィンドウを持ちます（一方GPT-4o miniも128Kですが、ミニは出力制限が通常16Kと低いのでしょうか？実際にはGPT-4o miniも128Kのコンテキストと16Kの出力を持ちますが、推論と視覚能力は劣ります。フルモデルはMATH-500で79.5のスコアを記録していますが、GPT-4o miniは数学ベンチマークで低いスコアを示します。価格：GPT-4oはより高価（100万トークンあたり$2.50/$10対GPT-4o miniの$0.15/$0.60）です。高い精度や複雑な推論を必要とするタスクにはフルモデルが適しています。より単純なタスクには、ミニがコスト効率の良い代替案を提供します。
GPT-4（例：GPT-4-0613やGPT-4 Turbo）と比較すると、GPT-4o（2024-08-06）は以下の点で改良されています：別途ビジョンモデルを必要とせずにネイティブでマルチモーダル入力（テキスト、画像、ファイル）をサポート、より大きなコンテキストウィンドウ（古いバージョンのGPT-4の32Kに対し128K）、および推論速度の向上。価格は初期のGPT-4バリアント（多くの場合より高価だった）よりも低くなっています。例えば、GPT-4 Turboは同様のコンテキストを持ちながら価格が高めでした。ベンチマークでは、MATH-500スコア79.5が以前のGPT-4モデルを上回っています。ただし、一部のユーザーは、トレーニング履歴が長いため、特定のタスクでは初期モデルの方が安定していると感じるかもしれません。全体的に、GPT-4oはより現代的で効率的な後継モデルです。
選択肢は具体的なニーズとプロバイダーの好みに依存します。GPT-4o（2024-08-06）は数学的推論（MATH-500 79.5）とテキスト、画像、ファイルを含むマルチモーダルタスクで優れています。AnthropicのClaudeモデルは、一部のバージョンでより強力な安全性機能や長いコンテキストウィンドウを提供する可能性がありますが、通常は価格が高めです。GoogleのGeminiモデルはマルチモーダルと大規模コンテキストを提供しますが、パフォーマンスプロファイルが異なる場合があります。OrcaRouterを使用すると、単一のAPIで複数のプロバイダーをテストできます。高い数学的正確性が求められるタスクには、GPT-4oが有力な候補です。純粋なテキスト要約や低コストのタスクには、他のモデルの方が経済的な場合があります。ユースケースに合わせてベンチマークのスコアと価格を評価してください。
OrcaRouter を介して GPT-4o を使用する場合、データは推論のために OpenAI のサーバーに送信されます。OrcaRouter はプロンプトを転送する以外に保存や処理を行いません。OpenAI のデータ使用ポリシーが適用されます — トレーニングデータの使用やデータ保持について懸念がある場合は、OpenAI の利用規約を確認してください。データを特定の管轄区域内に留めたり、特定のプロバイダーを避ける必要がある場合、OrcaRouter ではリクエストごとに複数のプロバイダーから選択できます。また、OrcaRouter のルーティング機能を使用して、コンプライアンス要件を満たすプロバイダーにリクエストを転送することもできます。OrcaRouter と基盤となるプロバイダーの両方のデータ処理に関するドキュメントを常に確認してください。
OpenAI 互換——今お使いの SDK のまま
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-2024-08-06",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| 入力 / 1M tokens | $2.50 |
| 出力 / 1M tokens | $10.00 |
| キャッシュ読み取り / 1M | $1.25 |
| 通貨 | USD |
表示価格に基づく概算
見積もりのみ — 実際のトークン数はプロバイダーのトークナイザーに依存します。
@misc{orcarouter_gpt_4o_2024_08_06,
title = {GPT-4o (2024-08-06) API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-2024-08-06}
}OpenAI. (2024). GPT-4o (2024-08-06) API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-2024-08-06