GPT-6.1 Terraキャッシュ：読み取り1回5セント、書き込みが元を取るのはいつか

GPT-6.1 Terraのキャッシュ入力料金は100万トークンあたり0.05ドルです。標準入力料金の1.00ドルより95%低く、カード全体で最大の単一割引です。注意点は台帳の反対側にあります。キャッシュへの書き込みは、30分保持で100万トークンあたり1.25ドル、12時間保持で100万トークンあたり2.50ドルかかります。同じプレフィックスを2回読むワークロードなら得をします。呼び出しごとにプレフィックスを再構築するワークロードは書き込み料金を支払い、割引を一切受けられません。しかも、料金表はあなたがどちらを実行しているかを教えてくれません。

この記事では実際に計算します。正確な損益分岐点、異なる規模での3つの具体的なワークロード例、272Kの長コンテキストという崖との相互作用、そしてキャッシュを静かに破壊するプロンプトエンジニアリングの習慣です。

4つの数字

• 標準入力 — 100万トークンあたり$1.00

• キャッシュされた入力 — 100万あたり$0.05、95%割引。

• キャッシュ書き込み、30分間保持 — 100万あたり1.25ドル

• キャッシュ書き込み、12時間保持 — 100万あたり2.50ドル。

272,000入力トークンを超えると、すべてが2倍になります。入力$2.00、キャッシュ済み$0.10、キャッシュ書き込み$2.50。つまり、ロングコンテキストの崖は入力レートを上げるだけでなく、キャッシュと書き込みの両方の価格を同時に上げます。

比較すると、GPT-6.1 Solのキャッシュ済み入力は0.10ドル、GPT-5.6 Terraは0.20ドルです。Terraの5セントの読み取りはファミリー内で最安であり、95%割引によって、長いコンテキストの呼び出しを繰り返すことが経済的に初めて可能になります。

正確な損益分岐点

P トークンのプレフィックスが N 回の呼び出しで再利用されると仮定し、ここでは出力を無視します。

• キャッシュなしの場合: N × P × $1.00。

• キャッシュあり: $1.25 × P の書き込みが1回、続いて $0.05 × P の読み取りが N 回。

両者を等しく置くと、0.95N = 1.25 なので、N ≈ 1.32 です。実際には、これは2回目の呼び出しがすでに採算が取れることを意味します。書き込みのコストは100万回あたり1.25で、各読み取りは0.95を節約するので、2回の読み取りで書き込み分以上を取り戻せます。12時間の保持期間では、書き込みは$2.50で、損益分岐点は2.63回の読み取りです — 3回目の呼び出しでその分を回収できます。

それは多くのチームが想定しているよりも低い基準です。よくある誤解は、キャッシュが効果を発揮するのは再利用率が非常に高い場合だけだというものですが、このカードでは、プレフィックスが実際に一致していれば2回目のリクエストから効果があります。

3つのワークロード

10,000件の短いリクエストにまたがる50,000トークンのシステムプロンプト。キャッシュなし：10,000 × 50,000 × 100万あたり$1.00 = プレフィックスだけで$500。キャッシュあり：50,000 × 100万あたり$1.25の書き込み1回 = $0.0625、さらに10,000回の読み取りが50,000 × 100万あたり$0.05 = $25。合計$25.06 — プレフィックスで95%の節約になり、キャッシュ書き込みは誤差の範囲です。

900,000トークンのリポジトリを対象にした20件の質問。キャッシュなしでは、リクエストのたびにロングコンテキスト料金が発生します。900,000 × $2.00/百万 = 1回あたり$1.80、20回で$36。キャッシュ利用時は、最初の書き込みが900,000 × $2.50/百万 = $2.25、その後20回の読み取りが900,000 × $0.10/百万 = 1回あたり$0.09で、合計$1.80。総額$4.05——89%の削減であり、この18ドルの差は一部の製品では利益のすべてに相当します。

20,000トークンのドキュメントが3つの質問にまたがり、それぞれが異なるペルソナと指示を持つ。これはキャッシュが失敗するケースだ。呼び出し間でプレフィックスが変わると——異なるシステムプロンプト、異なる指示順序、先頭に挿入されたユーザーID——モデルは3つの異なるプレフィックスを見て、3つのキャッシュを書き込む。キャッシュなしの場合と「キャッシュあり」の場合は同じコストがかかるが、書き込み分を支払っただけだ。修正は構造的だ。可変なものはすべてプロンプトの末尾に置き、ドキュメントと安定した指示を先頭に保つ。

キャッシュを壊すもの/p> p>OpenAIのプロンプトキャッシュは、リクエストのうち変更されていないプレフィックスに対して機能します。プロンプトの早い段階で何かが変わると、それ以降すべてが無効になります。よくある原因は次のとおりです。/p> p>• システムプロンプトにタイムスタンプやリクエストIDが入っている。キャッシュヒット率0%の最も一般的な原因です。/p> p>• ユーザーごとのパーソナライズを末尾ではなく先頭に挿入している。/p> p>• ツール定義の順序が変わっている、または呼び出しごとにツールリストが変わる。/p> p>• 取得ステップで毎回異なる順序でドキュメントを連結している。/p> p>• テンプレートエンジンによる空白の変化 — JSONブロックを整形し直すだけで十分です。/p> p>• パイプラインの途中でChat CompletionsとResponsesを切り替えると、シリアライズされたプレフィックスが変わってしまう。/p> p>診断は簡単です。各リクエストの最初の2,000トークンをログに取り、ハッシュ化します。本来同一であるはずの呼び出し間でハッシュが変わるなら、キャッシュは死んでおり、どんなチューニングでも復活しません。/p> h2>キャッシュと272Kの崖

この2つは、見落としやすい形で相互作用します。25万トークンのキャッシュ済みプレフィックスは、読み取りが100万トークンあたり$0.05、書き込みが$1.25かかります。これを30万トークンに増やすと、すべての数値が2倍になります。読み取り$0.10、書き込み$2.50、そしてキャッシュされていない部分は$2.00で請求されます。このしきい値をまたぐパイプラインは、キャッシュ済み側と未キャッシュ側の両方で、料金の急騰（クリフ）を負担することになります。

これは自明ではない設計上のインセンティブを生み出す。ワークロードが272Kをわずかに超えている場合、プレフィックスを270Kに縮小すれば、タスクを変えることなく請求額を半減できる。定型句のセクションを削る、不要な検索ブロックを外す、例をシステムプロンプトの外へ移すといったことは、境界においては料金表上の他のどこよりも価値が高い。

キャッシュと代替手段の比較

• キャッシュ — 同じ長いプレフィックスが保持ウィンドウ内で何度も再利用され、そのプレフィックスが本当に安定している場合に最適です。

• チャンキング — ドキュメントが大きく、各質問がわずかな部分にしか触れない場合に最適。900K トークンをキャッシュ料金で送信するよりも、検索する方が安価です。

• バッチ/Flex — 標準価格から50%オフですが、バッチのレイテンシは時間単位で測定されます。キャッシュとは併用できますが、リアルタイム製品とは併用できません。

• より安価なモデル — GPT-6 Luna（$0.10/$0.50）は、シンプルなタスクではTerraのキャッシュ料金を下回る可能性があります。Lunaの非キャッシュ入力はTerraのキャッシュ入力のわずか2倍なのですから。

最後の比較は、チームが見落としがちなものです。キャッシュはTerraにおける割引であって、Terraが質問に答えるうえで最も安価な方法であることを保証するものではありません。50,000トークンのプロンプトに対する分類では、100万読み取りあたり$0.01でキャッシュされたLunaの方が、タスクが十分にシンプルであれば、依然として安価な選択肢です。

今日実行できるもの

GPT-6.1 Terraは本稿執筆時点でOrcaRouterのカタログに掲載されていないため、そのキャッシュ動作はOpenAIで直接測定する必要があります。稼働中のモデル、すなわちGPT-6.1 Sol（$2/$10、キャッシュ料金$0.10）、GPT-5.6 Terra（$2/$12、$0.20）、GPT-6 Luna（$0.10/$0.50）はすべて、プロバイダーの定価に対する0%のマークアップで、1つのキーで試すことができます。

測るべき指標は「キャッシュが効くかどうか」ではない——それは効く——「自分のトラフィックのうち、どれだけの割合が安定したプレフィックスを持つか」だ。その割合こそが、Terraの5セントの読み取りが自分の請求に関わるかどうかを決める唯一の数値であり、それはモデルの性質ではなく、自分のプロンプトの性質だ。