Επισημάνετε σταθερό πλαίσιο
Αποθηκεύστε στην κρυφή μνήμη μόνο το επαναλαμβανόμενο μέρος: κανόνες συστήματος, αμετάβλητη τεκμηρίωση ή εκτενές υλικό αναφοράς. Η ερώτηση χρήστη και τα μεταβαλλόμενα δεδομένα πρέπει να παραμένουν χωριστά.
Ο δείκτης cache_control αποτελεί προτίμηση συμβατής σύμβασης. Ελέγξτε την υποστήριξη στον κατάλογο του επιλεγμένου μοντέλου πριν εκθέσετε τη βελτιστοποίηση.
Επαναχρησιμοποιήσιμος δείκτης πλαισίου
json
{
"model": "anthropic/claude-sonnet-5",
"messages": [{"role": "system", "content": "Stable product context..."}],
"cache_control": {"type": "ephemeral"}
}Ακυρώστε σκόπιμα την κρυφή μνήμη
- Αλλάξτε την έκδοση πλαισίου όταν αλλάζουν οι κανόνες ή το πηγαίο υλικό.
- Μην τοποθετείτε μυστικά ή βραχύβια δικαιώματα σε επαναχρησιμοποιήσιμο τμήμα.
- Διατηρήστε μια τιμή κατακερματισμού ή έκδοση μιας πηγής που μπορεί να αποθηκευτεί στην κρυφή μνήμη μέσα στο δικό σας ίχνος.
Επαληθεύστε το αποτέλεσμα
Μετρήστε καθυστέρηση και χρήση σε συγκρίσιμα αιτήματα με το ίδιο πλαίσιο.
Μην συμπεραίνετε το κόστος από μία απάντηση: η προσωρινή αποθήκευση εξαρτάται από το μοντέλο, το μέγεθος πλαισίου και τη διάρκεια ζωής του αιτήματος.