Merkitse vakaa konteksti
Tallenna välimuistiin vain toistuva osa: järjestelmäsäännöt, muuttumaton dokumentaatio tai pitkä viite. Käyttäjän kysymys ja muuttuvat tiedot on pidettävä erillään.
cache_control-merkintä on yhteensopivan sopimuksen asetus. Tarkista tuki valitun mallin luettelosta ennen optimoinnin tarjoamista.
Uudelleenkäytettävä kontekstimerkintä
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}Mitätöi tarkoituksella
- Vaihda kontekstiversio, kun säännöt tai lähdeaineisto muuttuvat.
- Älä sijoita salaisuuksia tai lyhytkestoisia käyttöoikeuksia uudelleenkäytettävään lohkoon.
- Säilytä välimuistiin sopivan lähteen hajautusarvo tai versio omassa jäljityksessäsi.
Vahvista vaikutus
Mittaa viivettä ja käyttöä vertailukelpoisilla pyynnöillä, joilla on sama konteksti.
Älä päättele kustannusta yhdestä vastauksesta: välimuistitus riippuu mallista, kontekstin koosta ja pyynnön elinkaaresta.