Отметьте стабильный контекст
Кешируйте только повторяемую часть: системные правила, неизменяемую документацию или длинный справочник. Пользовательский вопрос и переменные данные должны оставаться отдельными.
Маркер cache_control — предпочтение совместимого контракта. Проверяйте его поддержку в каталоге выбранной модели перед показом такой оптимизации.
Reusable context marker
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}Инвалидируйте осознанно
- Меняйте версию контекста при изменении правил или источника.
- Не помещайте секреты и краткоживущие разрешения в повторно используемый блок.
- Сохраняйте хэш или версию кешируемого источника в собственном trace.
Проверка эффекта
Измеряйте задержку и usage на сопоставимых запросах с одинаковым контекстом.
Не делайте вывод о стоимости по одному ответу: кеш зависит от модели, размера контекста и времени жизни запроса.