Pažymėkite stabilų kontekstą
Podėlyje laikykite tik pasikartojančią dalį: sistemos taisykles, nekintamą dokumentaciją arba ilgą nuorodinę medžiagą. Naudotojo klausimas ir kintantys duomenys turi likti atskirai.
Žymuo cache_control yra suderinamos sutarties nuostata. Prieš pateikdami šį optimizavimą patikrinkite jo palaikymą pasirinkto modelio kataloge.
Pakartotinai naudojamo konteksto žymuo
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}Sąmoningai panaikinkite galiojimą
- Pasikeitus taisyklėms ar šaltinio medžiagai pakeiskite konteksto versiją.
- Į pakartotinai naudojamą bloką nedėkite paslapčių ar trumpalaikių leidimų.
- Savo pėdsake saugokite podėliui tinkamo šaltinio maišos reikšmę arba versiją.
Patikrinkite poveikį
Delsą ir naudojimą matuokite palyginamose užklausose su tuo pačiu kontekstu.
Nespręskite apie kainą iš vieno atsakymo: kaupimas podėlyje priklauso nuo modelio, konteksto dydžio ir užklausos gyvavimo trukmės.