2024-11-20 バージョンの GPT-4o は、より自然で魅力的で、関連性と読みやすさを向上させるために調整された、レベルアップしたクリエイティブライティング能力を提供します。また、アップロードされた...の扱いも向上しています。
OpenAI GPT-4o(2024-11-20)は、OpenAIによって開発されたマルチモーダル大規模言語モデルです。テキスト、画像、ファイルの形式での入力を受け付け、テキスト出力を生成します。このモデルは128,000トークンのコンテキストウィンドウをサポートし、応答ごとに最大16,384トークンを生成できます。料金は、入力トークン100万件あたり$2.50、出力トークン100万件あたり$10…
GPT-4oは、深い推論を必要とするタスク、特に数学(MATH-500で75.9のスコアを記録)で優れた性能を発揮します。複雑な質問応答、コード生成、データ分析でも高いパフォーマンスを示します。マルチモーダル対応により、画像や図表、ドキュメントの解釈が可能で、PDFからの表抽出や図の説明といったアプリケーションに強みを発揮します。大きなコンテキストウィンドウにより、長文の要約、一貫性のあるマルチターン会話の維持、コードリポジトリ全体の処理といったタスクに効果的です。また、指示への従順性や構造化出力にも信頼性があります。単純なタスクや高頻度のタスクには、より低コストなモデルの方が費用対効果が高い場合があります。
GPT-4oは強力な性能を提供しますが、よりシンプルなタスクや高ボリュームのタスクには、GPT-4o miniやその他の軽量オプションなど、より低価格なモデルが適している場合があります。プロンプトが短く、画像やファイルの入力を必要とせず、推論の複雑性が低い場合、低価格のモデルを使用することでコストを大幅に削減できます。さらに、レイテンシが重要な場合、小規模なモデルは通常、応答が速くなります。より小さいコンテキストウィンドウ(例:<8Kトークン)に収まるタスクでは、トークン単価の低いモデルを使用する方が経済的です。トレードオフを評価してください:GPT-4oのコストは入力$2.50/1M、出力$10/1Mですが、OrcaRouterには単純なリクエストをわずかなコストで処理できる、より安価な代替手段が多数存在します。
GPT-4oはモダリティとしてファイル入力をサポートしており、ユーザーはモデルが読み取りおよび処理できるファイル(例:PDF、テキストファイル)をアップロードできます。ファイルの内容はトークン化され、コンテキストウィンドウに含まれます。これにより、ドキュメントから特定の情報を抽出したり、その内容を要約したり、それに関する質問に回答するなどのタスクが可能になります。ファイル処理はテキスト入力および画像入力と連携して動作するため、単一のリクエストでそれらの組み合わせを含めることができます。ファイルのアップロードは128,000トークンのコンテキストウィンドウからトークン容量を消費することに注意してください。そのため、大きなファイルは他の入力または出力に利用可能なスペースを減らす可能性があります。OrcaRouterのAPIは、標準のOpenAI互換のリクエスト形式の一部としてファイルアップロードを受け付けます。
その強みにもかかわらず、GPT-4oには限界があります。事実に基づくクエリに対して幻覚を起こし、特にニッチな分野や最近のトピックに関して誤った情報を生成することがあります。数学的推論は強力(MATH-500で75.9点)ですが、完璧ではなく、複雑な多段階の問題では失敗することがあります。このモデルは、低レイテンシが重要なリアルタイムストリーミングアプリケーションには適していません。なぜなら、より大きなモデルは一般的に推論時間が長くなるからです。音声入力をネイティブでサポートしておらず、音声は最初に文字起こしする必要があります。また、128Kのコンテキストウィンドウは入力と出力で共有されるため、非常に長い入力は応答の長さを制限します。モデルの知識カットオフ日(2024-11-20)は、検索拡張なしではその日以降の最新情報を提供できないことを意味します。
GPT-4o(2024-11-20)は、500問の難易度の高い競技レベルの問題からなる数学的推論を評価するMATH-500ベンチマークで75.9点を獲得しました。このスコアは、正しく解けた問題の割合を示しています。75.9という値は、数学推論においてトップクラスのモデルに位置づけられますが、最高点ではありません。このベンチマークは代数、幾何、微積分などのトピックをテストします。ユーザーはこのスコアを、数学的な文脈における複雑で多段階の推論能力の尺度として解釈すべきです。これは創作文章作成や事実想起など、他のタスクの性能を示すものではありません。このスコアをOrcaRouter上の他のモデルと比較することで、数学を多用するアプリケーションに適したモデルを選択する助けになります。
GPT-4oのレイテンシは、リクエストサイズ、出力長、OpenAIのインフラストラクチャへの同時負荷などの要因に依存します。128Kのコンテキストとマルチモーダル入力を備えた大規模モデルであるため、推論時間は一般的に小規模モデルよりも長くなります。ユーザーは、中程度の長さの出力に対して数秒の応答時間を想定する必要があります。リアルタイムアプリケーションには、OrcaRouter上の小規模モデルの方が適している場合があります。正確なレイテンシ数値はモデルファクトに提供されていませんが、代表的なワークロードを使用した実証テストを推奨します。ストリーミングを使用すると、トークンが生成されるたびに配信されるため、知覚されるレイテンシを軽減できます。OrcaRouterは、'stream: true'パラメータを使用したOpenAI互換APIを介してストリーミングをサポートしています。
主な強み: 高い数学的推論能力(MATH-500で75.9)、マルチモーダル入力(テキスト、画像、ファイル)、大規模なコンテキストウィンドウ(128Kトークン)、高い出力制限(16,384トークン)、そして競争力のある価格(1Mトークンあたり$2.50/$10)。正直な弱点: 小規模モデルよりもレイテンシが高い;事実に基づくクエリでハルシネーションを起こす可能性がある;音声入力をサポートしない;共有コンテキストウィンドウでは慎重なプロンプト設計が必要;知識のカットオフは2024-11-20であり、そのため最新の出来事にアクセスできない。深い推論を必要としないタスクには、GPT-4o miniのようなより安価なモデルの方が、より速く、コスト効率の高い応答を提供できる可能性がある。ユーザーは、これらのトレードオフを自身の特定のユースケースに照らして評価すべきである。
GPT-4oの料金は、入力トークン100万あたり$2.50、出力トークン100万あたり$10.00です。これはOpenAIが請求する料金と同じであり、OrcaRouterはマークアップを一切適用しないため、プロバイダー料金を追加手数料なしでお支払いいただきます。入力トークンには、プロンプト内のすべてのテキスト、画像トークン、ファイルトークンが含まれます。出力トークンは生成された応答です。たとえば、10,000入力トークンと500出力トークンのリクエストの場合、コストは(10,000/1,000,000)*2.50 + (500/1,000,000)*10.00 = $0.025 + $0.005 = $0.03となります。課金は使用量ベースで、前払いのコミットメントはありません。OrcaRouterはトークン料金以外の隠れた費用を追加することはありません。
GPT-4oの料金は、OrcaRouter上のGPT-4o miniや他の軽量な代替モデルなどの小さなモデルよりも高くなっています。そのトレードオフとして、GPT-4oは、それを必要とするタスクに対して優れた推論能力とマルチモーダル機能を提供します。アプリケーションが主に画像を含まない短いテキストプロンプトを使用する場合、より安価なモデルでコストを5〜10分の1に削減できる可能性があります。ただし、GPT-4oの強みが重要となるタスク(例:複雑な数学、文書分析)では、追加コストは正当化される場合があります。さらに、GPT-4oは大きなコンテキストウィンドウを持つため、非常に長い入力を与えるとトークン消費とコストが増加します。不要なコンテキストを削除し、簡潔なプロンプトを使用して費用を管理することをお勧めします。
キャッシングは、繰り返しのプロンプトや頻繁なプレフィックス一致が発生する場合にコストを削減できる機能です。OrcaRouterは特定のプロバイダーに対してキャッシングをサポートする場合がありますが、GPT-4oの具体的なキャッシング動作は提供された事実には詳細がありません。ユーザーはOrcaRouterのドキュメントを参照して、入力キャッシングが利用可能かどうか、および課金にどのように影響するかを確認する必要があります。通常、キャッシュされたトークンはより低いレートで課金されるか、まったく課金されません。キャッシングがなくても、ゼロマークアップの価格設定により、OpenAIの標準レートのみを支払うことになります。高ボリュームのアプリケーションでは、キャッシングにより大幅な節約が可能です。サポートされている場合は、OrcaRouterのサポートに確認して有効にしてください。
OrcaRouterは、GPT-4oに対するプロバイダーの価格設定をそのまま通し、マークアップを一切追加しません。つまり、OpenAIがトークンごとに請求する料金をそのまま支払うことになり、追加のプラットフォーム手数料はかかりません。OrcaRouterは、他の方法(例:プレミアム機能、ボリュームディスカウント、エンタープライズプランなど)で収益を得る場合がありますが、GPT-4oの基本APIレートはプロバイダーレートとして透明に提供されます。この価格モデルは、コストの確実性と予測可能な経費を求めるユーザーにメリットがあります。OpenAI互換のAPIエンドポイントを利用する際に隠れたコストはありません。プロバイダーの料金は変わる可能性があるため、最新の価格は常にOrcaRouterのウェブサイトでご確認ください。
OrcaRouterでGPT-4oを使用するには、ベースURL https://api.orcarouter.ai/v1 にリクエストを送信し、モデルIDとして"openai/gpt-4o-2024-11-20"を指定します。このエンドポイントはOpenAIのチャット補完APIと完全に互換性があります。認証情報(APIキー)を含め、モデルを指定してください。curlを使用した例: ``` curl https://api.orcarouter.ai/v1/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer YOUR_API_KEY" \ -d '{ "model": "openai/gpt-4o-2024-11-20", "messages": [{"role": "user", "content": "Hello"}] }' ``` 詳細なAPIリファレンスについては、OrcaRouterのドキュメントを参照してください。
GPT-4o のリクエストボディは、標準の OpenAI チャット補完パラメータをサポートしています:model、messages、temperature、top_p、n、stream、stop、max_tokens、presence_penalty、frequency_penalty、logit_bias、user、その他。model パラメータは "openai/gpt-4o-2024-11-20" に設定する必要があります。マルチモーダル入力の場合は、content を部品の配列(text、image_url、file)として持つ messages を含めてください。画像入力には data URL または URL が必要です。ファイル入力はファイル URL または base64 エンコードされたコンテンツとして提供できます(形式は OrcaRouter の実装に依存します)。max_tokens は最大 16384 まで設定できます。ストリーミング応答には stream: true を使用してください。追加のパラメータや微妙な点については、OrcaRouter のドキュメントを確認してください。
OpenAIの直接APIからOrcaRouterへの移行には、ベースURLとモデルIDの変更が必要です。エンドポイントを https://api.openai.com/v1 から https://api.orcarouter.ai/v1 に更新し、モデル名を "openai/gpt-4o-2024-11-20" に置き換えてください。認証方法は異なる場合があります: OrcaRouterからAPIキーを取得し、Authorizationヘッダーで使用してください。すべてのリクエストパラメータ(messages、temperatureなど)は同じままです。既存のコードでは、ベースURLとモデル文字列を変更するだけです。OrcaRouterはマークアップゼロを謳っているため、トークンレベルの価格は同一になるはずです。まずは小さなリクエストでテストし、動作と請求を確認してください。
はい、OrcaRouterはOpenAI互換のAPIを介してGPT-4oのストリーミングをサポートしています。リクエスト内でstreamパラメータをtrueに設定してください。サーバーはServer-Sent Events (SSE)形式でトークンを生成次第送信します。これはOpenAIのストリーミングAPIと一貫しています。ストリーミングはチャットアプリケーションにおける知覚待ち時間の短縮や、出力の段階的表示に有用です。例:リクエスト本文に"stream": trueを含めます。レスポンスは標準形式のJSONオブジェクトのストリームとなります。ストリーミングにより総リクエスト時間がわずかに増加する可能性がありますが、長時間の出力におけるユーザー体験が向上します。
GPT-4o miniは、よりシンプルなタスク向けに設計された、小型で低コストのモデルです。GPT-4o(2024-11-20)はより大きなコンテキストウィンドウを持ちます(128K vs 128K?実際にはGPT-4o miniも128Kのコンテキストを持っていますが、それは提供されていません。注意してください。実際にはGPT-4o miniのコンテキストも128Kなのでしょうか?広く知られていますが、確かな情報はありません。詳細な数値は避けます。代わりに:GPT-4oの価格はGPT-4o mini(より安価)よりも高く設定されています(100万トークンあたり$2.50/$10)。GPT-4oは、MATH-500などのベンチマークにおいて、より深い推論と優れたパフォーマンスを提供します。複雑なマルチモーダル理解が必要なタスクには、GPT-4oが推奨されます。大量処理で低複雑性のタスク(例:分類、簡単なQ&A)には、GPT-4o miniがより高速な推論と低コストを提供します。能力と予算のトレードオフに基づいて選択してください。
GPT-4 Turboは、128Kのコンテキストウィンドウと同様の出力制限を持つ以前のモデルです。GPT-4o(2024-11-20)は一般的にコスト効率が高く、入力および出力トークンの価格が低くなっています($2.50/$10 vs Turboの$10/$30(1Mトークンあたり)ですが、これらの数値は提供されていないため、私は発明すべきではありません。次のように述べます:GPT-4oはGPT-4 Turboよりもトークンあたりの価格が低く、新しいモデルです。MATH-500(GPT-4oで75.9)などのベンチマークはGPT-4 Turboより高い可能性がありますが、ここでは正確なスコアは提供されていません。GPT-4oはファイル入力をネイティブでサポートしています。ユーザーはそれぞれのタスクで具体的なパフォーマンスを比較して判断する必要があります。OrcaRouterは両方のモデルを提供しているため、切り替えは簡単です。
オープンソースモデル(例:Llama 3、Mistral)は多くの場合、自社のインフラストラクチャで実行され、トークンごとのコストを回避できますが、計算リソースが必要です。GPT-4oは、インフラ管理不要で、最先端の推論能力とマルチモーダル機能をすぐに利用可能にします。そのコスト($2.50/$10 per 1M tokens)は予測可能で、低ボリュームの利用では競争力がありますが、大規模になると高額になる可能性があります。オープンソースモデルは、セルフホスティングの場合にレイテンシが低く、高ボリュームではより安価になる可能性があります。ただし、ベンチマーク性能やマルチモーダルサポートでは劣る場合があります。選択は、管理要件、予算、最先端のパフォーマンスの必要性に依存します。OrcaRouterは、プロプライエタリモデルとオープンモデルの両方へのアクセスを提供します。
OpenAI 互換——今お使いの SDK のまま
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-2024-11-20",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| 入力 / 1M tokens | $2.50 |
| 出力 / 1M tokens | $10.00 |
| キャッシュ読み取り / 1M | $1.25 |
| 通貨 | USD |
表示価格に基づく概算
見積もりのみ — 実際のトークン数はプロバイダーのトークナイザーに依存します。
@misc{orcarouter_gpt_4o_2024_11_20,
title = {GPT-4o (2024-11-20) API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-2024-11-20}
}OpenAI. (2024). GPT-4o (2024-11-20) API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-2024-11-20