Barqaror kontekstni belgilang
Faqat takrorlanadigan qismni keshlang: tizim qoidalari, o‘zgarmas hujjatlar yoki uzun ma’lumotnoma. Foydalanuvchi savoli va o‘zgaruvchan ma’lumotlar alohida qolishi kerak.
cache_control markeri mos kontrakt afzalligidir. Bunday optimizatsiyani ko‘rsatishdan oldin tanlangan model katalogida uning qo‘llanishini tekshiring.
Reusable context marker
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}Ongli invalidatsiya
- Qoidalar yoki manba o‘zgarganda kontekst versiyasini o‘zgartiring.
- Maxfiylarni va qisqa muddatli ruxsatlarni qayta ishlatiladigan blokka qo‘ymang.
- Keshlanadigan manba xeshi yoki versiyasini o‘z trace ingizda saqlang.
Ta’sirni tekshirish
Bir xil kontekstli solishtiriladigan so‘rovlarda kechikish va usage ni o‘lchang.
Bitta javob bo‘yicha xarajat haqida xulosa qilmang: kesh modelga, kontekst hajmiga va so‘rov umriga bog‘liq.