Stabilen Kontext markieren
Speichern Sie nur den wiederholten Teil im Cache: Systemregeln, unveränderliche Dokumentation oder eine lange Referenz. Eine Benutzerfrage und veränderliche Daten müssen getrennt bleiben.
Die Markierung cache_control ist eine Präferenz im kompatiblen Vertrag. Prüfen Sie die Unterstützung im Katalog des ausgewählten Modells, bevor Sie die Optimierung anbieten.
Markierung für wiederverwendbaren Kontext
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}Gezielt ungültig machen
- Ändern Sie die Kontextversion, wenn sich Regeln oder Quellenmaterial ändern.
- Fügen Sie keine Geheimnisse oder kurzlebigen Berechtigungen in einen wiederverwendbaren Block ein.
- Speichern Sie einen Hash oder eine Version einer cachefähigen Quelle in Ihrer eigenen Ablaufverfolgung.
Auswirkung prüfen
Messen Sie Latenz und Nutzung bei vergleichbaren Anfragen mit demselben Kontext.
Leiten Sie Kosten nicht aus einer einzelnen Antwort ab: Caching hängt von Modell, Kontextgrösse und Lebensdauer der Anfrage ab.