סימון הקשר יציב
שמרו במטמון רק את החלק החוזר: כללי מערכת, תיעוד בלתי משתנה או חומר עיון ארוך. שאלת משתמש ונתונים משתנים צריכים להישאר נפרדים.
הסימון cache_control הוא העדפה בחוזה תואם. בדקו תמיכה בקטלוג המודל שנבחר לפני חשיפת האופטימיזציה.
סמן הקשר לשימוש חוזר
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}ביטול תוקף מכוון
- שנו את גרסת ההקשר כאשר הכללים או חומר המקור משתנים.
- אל תכניסו סודות או הרשאות קצרות טווח לבלוק לשימוש חוזר.
- שמרו במעקב שלכם גיבוב או גרסה של מקור שניתן לשמירה במטמון.
אימות ההשפעה
מדדו זמן השהיה ושימוש בבקשות בנות השוואה עם אותו הקשר.
אל תסיקו עלות מתשובה אחת: שמירה במטמון תלויה במודל, בגודל ההקשר ובמשך חיי הבקשה.