安定したコンテキストを指定
繰り返される部分だけをキャッシュします。対象はシステムルール、不変のドキュメント、長い参照資料です。ユーザーの質問と変化するデータは分けておく必要があります。
cache_controlマーカーは、互換仕様上の希望を示す指定です。最適化を提供する前に、選択したモデルのカタログで対応状況を確認してください。
再利用可能なコンテキストマーカー
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}意図的に無効化
- ルールや出典資料が変わったときは、コンテキストのバージョンを変更します。
- 秘密情報や短期間だけ有効な権限を再利用可能なブロックに入れないでください。
- キャッシュ可能な出典のハッシュまたはバージョンを独自のトレースに保持します。
効果を確認
同じコンテキストの比較可能なリクエストで、遅延と利用量を測定します。
一件の応答だけからコストを推測しないでください。キャッシュはモデル、コンテキストサイズ、リクエストの有効期間によって異なります。