Tandakan konteks stabil
Simpan hanya bahagian yang berulang dalam cache: peraturan sistem, dokumentasi tidak berubah atau rujukan panjang. Soalan pengguna dan data yang berubah perlu kekal berasingan.
Penanda cache_control ialah keutamaan kontrak serasi. Semak sokongan dalam katalog model yang dipilih sebelum menawarkan pengoptimuman tersebut.
Penanda konteks boleh guna semula
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}Batalkan kesahan secara sengaja
- Ubah versi konteks apabila peraturan atau bahan sumber berubah.
- Jangan masukkan rahsia atau kebenaran jangka pendek ke dalam blok boleh guna semula.
- Dalam jejak anda sendiri, simpan cincangan atau versi sumber yang boleh disimpan dalam cache.
Sahkan kesan
Ukur kependaman dan penggunaan pada permintaan setara dengan konteks yang sama.
Jangan simpulkan kos daripada satu respons: pencachean bergantung pada model, saiz konteks dan tempoh hayat permintaan.