Stabil kontextus megjelölése
Csak az ismétlődő részt gyorsítótárazza: rendszerszabályokat, változatlan dokumentációt vagy hosszú referenciát. A felhasználói kérdésnek és a változó adatoknak külön kell maradniuk.
A cache_control jelölő a kompatibilis API-szerződésben kifejezhető preferencia. Mielőtt az optimalizálást elérhetővé tenné, ellenőrizze a támogatását a kiválasztott modell katalógusában.
Újra felhasználható kontextusjelölő
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}Tudatos érvénytelenítés
- Módosítsa a kontextus verzióját, amikor a szabályok vagy a forrásanyag változik.
- Ne helyezzen titkokat vagy rövid életű engedélyeket újra felhasználható blokkba.
- Saját nyomkövetésében őrizze meg a gyorsítótárazható forrás kivonatát vagy verzióját.
A hatás ellenőrzése
Azonos kontextusú, összehasonlítható kéréseken mérje a késleltetést és a használatot.
Ne következtessen költségre egyetlen válaszból: a gyorsítótárazás a modelltől, a kontextus méretétől és a kérés élettartamától függ.