GPT-6.1 Terra 快取：每次讀取五美分，以及寫入何時才划算

GPT-6.1 Terra 的快取輸入費率為每百萬個 token 0.05 美元——比每百萬個 token 1.00 美元的標準輸入費率低 95%，也是整張價目表中最大的單一折扣。問題出在帳本的另一邊：寫入快取每百萬個 token 需 1.25 美元（可保留 30 分鐘），或每百萬個 token 2.50 美元（可保留 12 小時）。若工作負載會讀取相同的前綴兩次，整體就划算。若工作負載每次呼叫都重建其前綴，就會支付寫入費用，卻永遠拿不到折扣，而價目表不會告訴你你正在跑的是哪一種。

本文把數字算清楚：精確的損益平衡點、三個不同規模的實際工作負載範例、與 272K 長上下文懸崖的交互作用，以及那些會悄悄破壞快取的提示工程習慣。

這四個數字

• 標準輸入 — 每百萬個 token 1.00 美元。

• 快取輸入 — 每百萬 0.05 美元，享 95% 折扣。

• 快取寫入，保留 30 分鐘 — 每百萬 $1.25。

• 快取寫入，保留 12 小時 — 每百萬 $2.50。

當輸入 token 數超過 272,000 時，所有費用都會加倍：輸入 $2.00、快取 $0.10、快取寫入 $2.50。因此，長上下文斷崖不只提高了輸入費率——它同時提高了快取和寫入的價格。

相較之下，GPT-6.1 Sol 的快取輸入為 $0.10，GPT-5.6 Terra 則為 $0.20。Terra 每次讀取僅需五美分，是家族中最便宜的；而 95% 的折扣，正是讓重複的長上下文呼叫在經濟上真正可行的關鍵。

確切的損益兩平點

假設由 P 個 token 組成的前綴在 N 次呼叫中被重複使用，並且暫時忽略輸出。

• 不使用快取：N × P × $1.00。

• 使用快取時：一次寫入為 $1.25 × P，接著 N 次讀取為 $0.05 × P。

令兩者相等：0.95N = 1.25，因此 N ≈ 1.32。實務上，這表示第二次呼叫已經有利可圖：寫入每百萬次成本為 1.25，而每次讀取可節省 0.95，所以兩次讀取回收的比寫入成本還多。在 12 小時保留期下，寫入成本為 $2.50，損益兩平點是 2.63 次讀取——第三次呼叫就能回本。

那比大多數團隊所假設的門檻還低。常見的迷思是快取只有在重複使用率非常高時才划算；但在這張卡上，只要前綴確實相符，從第二次請求起就能帶來效益。

三種工作負載

一個 50,000 個 token 的系統提示詞，分散在 10,000 個短請求中。未使用快取：10,000 × 50,000 × 每百萬 $1.00 = 光是前綴就要 $500。使用快取：一次寫入 50,000 × 每百萬 $1.25 = $0.0625，再加上 10,000 次讀取，每次 50,000 × 每百萬 $0.05 = $25。總計 $25.06——前綴節省了 95%，而快取寫入成本可忽略不計。

一個涵蓋 20 個問題、共 900,000 個 token 的儲存庫。未使用快取時，每個請求都會觸發長上下文費率：900,000 × 每百萬 $2.00 = 每次呼叫 $1.80，二十次共 $36。使用快取時：一次寫入 900,000 × 每百萬 $2.50 = $2.25，接著二十次讀取，每次 900,000 × 每百萬 $0.10 = $0.09，讀取總計 $1.80。總計 $4.05——節省 89%，而這 18 美元的差額，就是某些產品的全部利潤。

一份 20,000 個詞元的文件，分成三個問題，每個問題都使用不同的人設與指令。這正是快取失效的情況：如果呼叫之間的前綴改變了——不同的系統提示、不同的指令順序、在頂端插入的使用者 ID——模型就會看到三個不同的前綴，並寫入三份快取。未快取和「已快取」的成本相同，只不過你為寫入付了費。修正方法是結構性的：把所有可變內容放到提示的末端，並把文件與穩定指令保留在前端。

什麼會破壞快取/p> p>OpenAI 的提示快取作用於請求中未變更的前綴。提示中任何在前段發生的變更，都會使後續所有內容失效。常見的元兇如下：/p> p>• 系統提示中的時間戳記或請求 ID。這是造成 0% 快取命中率最常見的原因。/p> p>• 將每位使用者的個人化內容放在頂端，而非底部。/p> p>• 工具定義重新排序，或工具清單在每次呼叫之間發生變動。/p> p>• 檢索步驟每次都以不同順序串接文件。/p> p>• 樣板引擎造成的空白字元變更——重新格式化一個 JSON 區塊就足以觸發。/p> p>• 在流程中途於 Chat Completions 和 Responses 之間切換，這會改變序列化前綴。/p> p>診斷方法很簡單：記錄每個請求的前 2,000 個 token 並對其進行雜湊。如果本應相同的呼叫之間雜湊值發生變化，快取就已經死了，再怎麼調校也無法讓它復活。/p> h2>快取與 272K 懸崖

這兩者的交互方式很容易被忽略。一個 250,000 token 的已快取前綴，每百萬 token 的讀取費用是 $0.05、寫入費用是 $1.25。把它增加到 300,000 token，每個數字都會翻倍：讀取 $0.10、寫入 $2.50，而未快取的部分則以 $2.00 計費。跨越這道門檻的管線，在已快取與未快取兩側都得付這筆斷崖式的費用。

這會形成一個不易察覺的設計誘因：如果某個工作負載剛好略高於 272K，把前綴縮小到 270K 就能讓費用減半，而任務本身無須改變。刪減一段制式區段、去掉不必要的檢索區塊，或把範例移出系統提示，在邊界處的價值都高於費率卡上的其他任何位置。

快取與替代方案的比較

• 快取 — 最適合用於同一段長前綴在保留期內被重複使用多次，且該前綴確實穩定的情況。

• {{1}}分塊{{/1}} — 當文件很大，但每個問題只涉及一小部分時最適合；即使以快取費率計算，檢索也比傳送 900K 個權杖更便宜。

• 批次／彈性 — 較標準方案便宜 50%，但批次延遲以小時計；可與快取疊加，但不可與即時產品疊加。

• 更便宜的模型——GPT-6 Luna 的價格為 $0.10/$0.50，在簡單任務上可能勝過 Terra 的快取費率，因為 Luna 的未快取輸入僅是 Terra 快取輸入的兩倍。

最後一項比較是團隊常會忘記的。快取是 Terra 的折扣，並不保證 Terra 是回答問題最便宜的方式。對於超過 50,000 個 token 提示的分類任務，若任務夠簡單，以每百萬次讀取 $0.01 快取的 Luna 仍是較便宜的方案。

你今天可以運行什麼

GPT-6.1 Terra 在撰寫本文時並不在 OrcaRouter 目錄中，因此其快取行為必須直接對 OpenAI 進行測量。已上線的模型——GPT-6.1 Sol，價格為 $2/$10，快取費率 $0.10；GPT-5.6 Terra，價格為 $2/$12，快取費率 $0.20；GPT-6 Luna，價格為 $0.10/$0.50——都可以在同一把金鑰上測試，且相較供應商定價為 0% 加價。

要建立的衡量指標不是「快取有沒有用」——它有用——而是「我的流量中有多大比例具有穩定前綴」。這個比例是唯一能決定 Terra 的五美分讀取是否會影響你的帳單的數字，而它是你的提示詞的屬性，不是模型的屬性。