OpenAI GPT-4-0613: 8Kコンテキスト、13.1 AA Coding、テキスト専用モデル、トークン1Mあたり$30/$60
OpenAI GPT-4-0613 は、OpenAI が 2023 年 6 月にリリースした GPT-4 大規模言語モデルの特定のチェックポイントです。テキスト入力のみで動作し、テキスト出力を生成します。このモデルは合計 8192 トークンのコンテキストウィンドウをサポートし、1 回の応答で最大 8192 トークンを生成できます。ベース URL…
GPT-4-0613は、深い推論、正確な言語生成、複雑な指示への準拠を必要とするタスクに優れています。一般的なユースケースとしては、Python、JavaScript、C++などの言語でのコードの生成やレビュー、既存のコードベースのデバッグが挙げられます。大規模なテキストコーパスの分析や要約、構造化されたレポートの作成、詳細な技術文書や法律文書の草案作成も可能です。また、複数のステップからなる問題を明確な順序に分解できるため、計画立案や問題解決にも役立ちます。主に英語で動作しますが、他の複数の言語も信頼性にばらつきはあるものの扱うことができます。このレベルの洗練さを必要としないタスクでは、より小型または低コストのモデルの方が費用対効果に優れている場合があります。
GPT-4-0613は、トークンあたりのコストが高いプレミアムモデルです。シンプルなテキスト分類、基本的なチャット対話、単純な翻訳など、大量かつ低複雑性のタスクには適していません。そのようなワークロードには、OpenAIのGPT-3.5 Turboや他の軽量な代替モデルが、コストを大幅に抑えつつ十分なパフォーマンスを提供できます。また、アプリケーションが8192トークンのコンテキストウィンドウ全体を必要としない場合や、最大出力長がめったに必要ない場合は、より小さなコンテキストを持つ安価なモデルの方が適切かもしれません。特定のユースケースにおいて、出力品質とコストのトレードオフを常に評価し、GPT-4-0613が正当化されるかどうかを判断してください。
GPT-4-0613は主に英語を基に学習されていますが、フランス語、スペイン語、ドイツ語、中国語、アラビア語など、他の多くの言語でも能力を発揮しています。非英語言語でのパフォーマンスは、翻訳、要約、質問応答のような構造化されたタスクでは概して強いものの、英語と比較すると精度が低く、自然な表現がやや劣る場合があります。推論と指示追従における同モデルの強みは多言語の文脈にも及んでいますが、ユーザーは特定の非英語シナリオをテストして適合性を確認すべきです。英語以外の言語で高い精度を必要とするアプリケーションには、言語固有のモデルや追加の検証を補完として検討してください。
GPT-4-0613はシステムメッセージとユーザーの指示を尊重するため、フォーマット、トーン、または構造に厳密に従う必要があるアプリケーションに適しています。JSON、マークダウン、その他指定された形式で出力を生成でき、コンテキストを維持しながら複数ターンの指示に従うことができます。このモデルは、段階的な推論や思考連鎖のプロンプトを必要とするタスクにおいて特に信頼性が高いです。ただし、他の大規模モデルと同様に、曖昧な指示を誤って解釈したり、希望する形式から逸脱した出力を生成することがあります。明確で明示的な指示を提供し、可能であれば例を含めてモデルの動作を導くことを推奨します。
AA Coding ベンチマークスコア13.1は、GPT-4-0613のコード特化型評価における性能を示しています。このベンチマークの正確な方法論は提供された事実に詳細に記載されていませんが、一般的にスコアが高いほど、コード生成、プログラミング問題の解決、コード構造の理解における精度と信頼性が優れていることを示します。このスコアは、バグ修正、アルゴリズム実装、コード説明などのコーディングタスクにおいてGPT-4-0613が強力な選択肢であることを示しています。ベンチマークスコアは指標であり、特定のコーディングタスクにおける実世界のパフォーマンスを完全に捉えるものではないことに注意が必要です。最良の結果を得るには、ユーザー自身のデータセットでモデルを評価する必要があります。
GPT-4-0613のレイテンシは提供された事実には明記されていませんが、高容量モデルであるため、一般的にGPT-3.5 TurboやGPT-4o miniのような小規模モデルに比べて応答時間が長くなります。推論速度は、入力と出力の長さ、リクエストの複雑さ、基盤となるインフラストラクチャなどの要因に依存します。OrcaRouterを介すると、レイテンシはネットワーク状況やプロバイダーのサーバー容量にも影響を受ける可能性があります。低レイテンシが重要となるリアルタイムアプリケーションの場合は、想定される負荷のもとでモデルをテストし、ワークフローの要求が低い部分では、より高速で安価なモデルを使用することを検討してください。
GPT-4-0613の主な強みは、論理的推論、複雑な複数ステップ指示に従う能力、コード生成やデータ分析などのタスクにおける高い精度にあります。長いプロンプトに対しても構造化された一貫性のある出力を生成するため、包括的な文書やレポートの作成に適しています。このモデルは複数ターンにわたって強い一貫性を示し、コンテキストを維持する必要がある会話エージェントにとって有益です。AA Codingでのベンチマークスコア13.1は、プログラミング関連タスクにおける信頼性を強調しています。これらの特性により、コストが高くても精度と深さが最優先されるアプリケーションで好まれる選択肢となっています。
GPT-4-0613にはいくつかの制限があります。テキストのみ対応で、画像、音声、動画を処理できません。コンテキストウィンドウは8192トークンに制限されており、非常に長いドキュメントや履歴の多いマルチターン会話には不十分な場合があります。このモデルは、もっともらしく聞こえるが不正確な情報(ハルシネーション)を生成することがあり、特にトレーニングデータ外のトピックで顕著です。価格は代替モデルと比較して比較的高く、大規模なアプリケーションには経済的ではありません。さらに、2023年6月のスナップショットであるため、その日付以降の出来事や知識を認識していない可能性があります。ユーザーは重要な出力を検証し、検索拡張生成(RAG)を使用して最新情報に基づいた応答を生成することを検討すべきです。
GPT-4-0613は、プロバイダーの直接料金で提供され、OrcaRouterによるマークアップは一切ありません。料金は、入力トークン100万トークンあたり30.00ドル、出力トークン100万トークンあたり60.00ドルです。入力トークンは、ユーザーのリクエストに含まれるすべてのテキスト(システムメッセージ、会話履歴、現在のユーザークエリを含む)を指します。出力トークンは、モデルが応答として生成するテキストです。入力トークンと出力トークンの両方が総使用量にカウントされ、それに応じて課金されます。トークンあたりの料金以外に追加のプラットフォーム手数料はありません。ユーザーは、API呼び出しごとに実際に処理されたトークン数に基づいて課金されます。
出力トークンは入力トークンの2倍の価格設定(1Mトークンあたり$60対$30)であるため、長い応答を生成するアプリケーションは短い出力のものよりも大幅に高コストになる可能性があります。例えば、10,000入力トークンと2,000出力トークンのリクエストでは、入力に$0.30、出力に$0.12かかり、合計$0.42となります。出力が8,000トークンの場合、コストは$0.30 + $0.48 = $0.78に上昇します。コストを管理するには、max_tokensパラメータをユースケースに必要な最小限の長さに制限することを検討してください。また、システムプロンプトを短くし、会話履歴をトリミングすることで、入力トークン数を削減できます。
GPT-4-0613をOrcaRouter経由で利用する場合、提供されている情報にはトークンキャッシングやボリュームディスカウントに関する記述はありません。これは、各呼び出しが実際に処理されたトークンに基づいて課金され、繰り返しのプロンプトに対するコストを削減するような所定のキャッシングメカニズムは存在しないことを意味します。ユーザーは潜在的なキャッシング機能やエンタープライズ価格契約について問い合わせるために、OrcaRouterに直接連絡する必要があります。また、OrcaRouterがここに文書化されていないコスト最適化オプションを提供している可能性もあります。現時点では、すべてのトークンが特別な割引なしに表示されているトークンあたりのレートで課金されると仮定して運用してください。
GPT-4-0613を使用する際の主なトレードオフは、出力品質とコストのバランスです。高い精度や推論が求められるタスクでは、プレミアムな価格が正当化されることが多いです。しかし、単純な処理や大量処理の場合、GPT-3.5 TurboやGPT-4o miniのような安価な代替モデルを使用すれば、コストを最大90%削減できます。また、入出力比率も考慮してください。ワークフローで非常に長い入力(例:全文書)が必要だが出力が短い場合、入力コストが支配的になります。逆に、長い出力は出力コストを急激に増加させます。モデルの特定の強み(コーディング精度など)がタスクに必要かどうかを評価し、大規模な使用を決定する前に、データのサブセットでベンチマークを行ってください。
OrcaRouterを介してGPT-4-0613を呼び出すには、ベースURL https://api.orcarouter.ai/v1 のOpenAI互換APIエンドポイントを使用します。リクエストのmodelパラメータに"openai/gpt-4-0613"を設定してください。認証にはOrcaRouterのAPIキーが必要です。リクエスト形式はOpenAIのチャット補完ドキュメントに従い、messages(システムメッセージとユーザーメッセージの配列)、temperature(0~2)、top_p、max_tokens(最大8192)、n(補完数)、stop(生成を停止するシーケンス)、stream(ストリーミングのブール値)などのパラメータをサポートしています。Pythonのopenaiライブラリを使用した例: import openai; openai.api_base = "https://api.orcarouter.ai/v1"; openai.api_key = "your_orcarouter_key"; response = openai.ChatCompletion.create(model="openai/gpt-4-0613", messages=[{"role":"user","content":"Hello"}])
GPT-4-0613は標準のOpenAIチャット補完パラメータをサポートしています。主なパラメータには、温度(temperature、デフォルト1)—ランダム性を制御し、値が低いほど出力が決定論的になる—、top_p(デフォルト1)—核サンプリング用—、max_tokens(デフォルトはエンドポイントが設定、最大8192)—出力長を制限—、n(リクエストごとに生成する補完の数)、およびstop(生成を停止する文字列)が含まれます。presence_penaltyとfrequency_penaltyを使用して、トピックの繰り返しを促進または抑制することもできます。ストリーミングはstream=Trueを設定することでサポートされており、トークンを段階的に生成します。すべてのパラメータはOpenAIの独自APIと同一に動作するため、シームレスな移行が可能です。最良の結果を得るには、コストを抑えるためにmax_tokensを必要以上に設定せず、事実に基づくタスクでは0から0.5の温度を使用してください。
OpenAIの直接APIからOrcaRouterへの移行には、コード内の2箇所のみ変更が必要です:base_urlをhttps://api.orcarouter.ai/v1に更新し、モデルIDを"openai/gpt-4-0613"に変更してください。既存の認証ロジックは、OpenAIキーの代わりにOrcaRouter APIキーを使用するように更新する必要があります。すべての使い慣れたパラメータ(messages、temperature、max_tokensなど)は変更されません。例えば、openai Pythonライブラリを使用する場合、openai.api_base = "https://api.orcarouter.ai/v1"、openai.api_key = "your_orcarouter_key"と設定し、その後openai.ChatCompletion.create(model="openai/gpt-4-0613", ...)を呼び出します。OrcaRouterのAPIはドロップイン置換として設計されているため、これ以上のコード変更は不要です。小さなリクエストでテストして、接続と課金を確認してください。
OrcaRouter経由のGPT-4-0613のレート制限は、利用可能な情報では指定されていません。認証にはOrcaRouterが提供するAPIキーが必要です。このキーはリクエストヘッダーに含める必要があります(例:Authorization: Bearer <key>)。正確なレート制限は、お客様のOrcaRouterプランまたはアカウントの階層に依存する可能性があります。本番環境での使用については、詳細をOrcaRouterにお問い合わせください(1分あたりの最大リクエスト数(RPM)および1分あたりのトークン数(TPM)など)。具体的な制限がない場合、レート制限エラーに備えて指数バックオフを実装することをお勧めします。また、APIキーは安全に保管し、クライアントサイドのコードに公開しないように注意してください。
GPT-4-0613はGPT-4-0314よりも後のスナップショットであり、2023年6月にリリースされた(2023年3月リリースのGPT-4-0314に対して)。OpenAIは、6月のアップデートにより信頼性が向上し、禁止コンテンツを生成する可能性が減少し、指示への従順性が向上したと述べています。両モデルとも同じコンテキストウィンドウ(8192トークン)と価格体系を持っています。AA Codingでのベンチマークスコア13.1はGPT-4-0613に固有のものであり、GPT-4-0314はわずかに異なるパフォーマンス数値を持つ可能性があります。実際には、多くのユーザーがGPT-4-0613はより一貫性があり、無害なリクエストを回避したり拒否したりする傾向が低いと報告しています。現在GPT-4-0314を使用している場合、GPT-4-0613への移行は簡単であり、おそらく有益です。
GPT-4oはOpenAIのマルチモーダルモデルであり、テキスト、画像、音声を処理でき、GPT-4-0613よりも高速で低コストです。GPT-4oの料金は、入力トークン100万個あたり5ドル、出力トークン100万個あたり15ドルであり、大幅に費用対効果が高くなっています。GPT-4-0613はテキストのみに対応しており、非テキスト入力を処理できません。ただし、GPT-4-0613はGPT-4と同じ基盤モデルでありながらマルチモーダル統合がないため、複雑なテキスト専用タスクにおいては、やや慎重な推論を提供する可能性があります。画像理解が必要なアプリケーションや、最低遅延が求められる場合には、GPT-4oが多くの場合適切な選択肢です。最大の正確性が最優先され、コストがそれほど重要でない純粋なテキストタスクでは、GPT-4-0613も依然として有効な選択肢です。
GPT-3.5 Turboは、GPT-4-0613に比べて大幅に安価で高速な代替品であり、入力トークン100万あたり約3ドル、出力トークン100万あたり約6ドルで提供されます。対話やシンプルな指示に最適化されていますが、GPT-4-0613のような深い推論能力、コーディング精度、指示追従能力は欠けています。AA Codingベンチマークや複雑な推論タスクでは、GPT-4-0613に明らかな性能差が確認されています。単純な要件の高頻度アプリケーションにはGPT-3.5 Turboの方が経済的です。重要なコード生成、多段階分析、または微妙な言語タスクには、GPT-4-0613が大幅な品質向上をもたらし、その高コストを正当化できます。大規模ワークフロー内の単純または反復的なサブタスクにはGPT-3.5 Turboを使用して、コストと品質のバランスを取ることを検討してください。
OpenAI 互換——今お使いの SDK のまま
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-0613",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| 入力 / 1M tokens | $30.00 |
| 出力 / 1M tokens | $60.00 |
| 通貨 | USD |
表示価格に基づく概算
見積もりのみ — 実際のトークン数はプロバイダーのトークナイザーに依存します。
@misc{orcarouter_gpt_4_0613,
title = {openai/gpt-4-0613 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-0613}
}openai. (n.d.). openai/gpt-4-0613 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-0613