Тұрақты контексті белгілеу
Тек қайталанатын бөлікті кэштеңіз: жүйе ережелері, өзгермейтін құжаттама немесе ұзақ анықтама. Пайдаланушы сұрағы мен өзгеретін деректер бөлек қалуы керек.
cache_control белгісі үйлесімді шарттың теңшелімі болып саналады. Оңтайландыруды ұсынбас бұрын таңдалған модель каталогындағы қолдауды тексеріңіз.
Қайта пайдаланылатын контекст белгісі
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}Әдейі жарамсыз ету
- Ережелер немесе бастапқы материал өзгергенде контекст нұсқасын өзгертіңіз.
- Құпияларды немесе қысқа мерзімді рұқсаттарды қайта пайдаланылатын блокқа қоспаңыз.
- Кэштелетін дереккөздің хэшін немесе нұсқасын өз трассаңызда сақтаңыз.
Әсерді тексеру
Кідіріс пен пайдалануды контексті бірдей, салыстыруға болатын сұрауларда өлшеңіз.
Құнды бір жауаптан анықтамаңыз: кэштеу модельге, контекст өлшеміне және сұрау мерзіміне байланысты.