안정적인 컨텍스트 표시
반복되는 부분만 캐시하세요. 예를 들면 시스템 규칙, 변경되지 않는 문서 또는 긴 참조 자료입니다. 사용자 질문과 변경되는 데이터는 분리해 두어야 합니다.
cache_control 표식은 호환 계약상의 선호 설정입니다. 최적화를 노출하기 전에 선택한 모델 카탈로그에서 지원 여부를 확인하세요.
재사용 가능한 컨텍스트 표식
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}의도적인 무효화
- 규칙이나 원본 자료가 바뀌면 컨텍스트 버전을 변경하세요.
- 재사용 블록에 비밀 정보나 수명이 짧은 권한을 넣지 마세요.
- 캐시할 수 있는 출처의 해시나 버전을 자체 추적 정보에 보관하세요.
효과 확인
같은 컨텍스트를 사용한 비교 가능한 요청에서 지연 시간과 사용량을 측정하세요.
한 응답만으로 비용을 추정하지 마세요. 캐싱은 모델, 컨텍스트 크기 및 요청 수명에 따라 달라집니다.