Paghi il prezzo intero una volta. Riutilizzi alla tariffa della cache.

I token di prompt ripetuti vengono fatturati alla tariffa cache del provider — spesso una frazione del prezzo di input — e il risparmio appare sulla ricevuta anziché in una proiezione.

I prefissi idonei alla cache vengono fatturati alla tariffa cache del provider in finestre temporanee da 5 minuti e 1 ora.
cached_tokens appare su ogni ricevuta, così il risparmio è verificabile anziché semplicemente dichiarato.
Nessuna configurazione richiesta nel tuo client — cache_control viene trasmesso direttamente al provider che lo supporta.

La maggior parte del tuo prompt non cambia mai.

Il prompt di sistema, lo schema, gli esempi few-shot, il documento su cui stai lavorando — gli stessi token, inviati ripetutamente. Una volta memorizzati nella cache, vengono fatturati alla tariffa cache del provider, che di norma è un decimo del prezzo di input.

E puoi verificare i conti.

cached_tokens compare su ogni ricevuta accanto ai token pagati a prezzo pieno. Il risparmio è un numero che puoi sommare a fine mese, non una percentuale in una presentazione commerciale.