Marca el contexto estable
Almacena en caché solo la parte repetida: reglas system, documentación inmutable o una referencia larga. La pregunta del usuario y los datos cambiantes deben permanecer separados.
El marcador cache_control es una preferencia del contrato compatible. Comprueba la compatibilidad en el catálogo del modelo elegido antes de ofrecer la optimización.
Marcador de contexto reutilizable
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}Invalida de forma deliberada
- Cambia la versión del contexto cuando cambien las reglas o el material fuente.
- No incluyas secretos ni permisos efímeros en un bloque reutilizable.
- Conserva un hash o una versión de una fuente almacenable en caché en tu propia traza.
Verifica el efecto
Mide latencia y uso en solicitudes comparables con el mismo contexto.
No deduzcas el coste de una sola respuesta: la caché depende del modelo, tamaño del contexto y duración de la solicitud.