Antwortmetadaten erfassen
Für einen Aufruf sind die von dieser Antwort zurückgegebenen Metadaten maßgeblich: id, usage oder cost nur, wenn das entsprechende Feld vorhanden ist.
Setzen Sie keinen getrennten Aggregationsendpunkt voraus: Ein externer Collector benötigt einen eigenen veröffentlichten Vertrag.
const requestRecord = {
model: selectedModel,
status: response.status,
responseId: responseBody.id,
usage: responseBody.usage ?? null,
receivedAt: new Date().toISOString(),
};
// Persist only usage fields actually returned by this response.Datenmodell
- Trennen Sie Eingabe-, Ausgabe-, zwischengespeicherte und Medieneinheiten, sofern sie zurückgegeben werden.
- Führen Sie Währung und Maßeinheit neben jeder Zahl auf.
- Zählen Sie noch nicht abgeschlossene Hintergrundaufträge nicht zu den endgültigen Ausgaben.
Betriebsansicht
Erstellen Sie ein Dashboard rund um das Produkt: Benutzer, Arbeitsabläufe, Modelle, Fehler und Latenz. Es macht Verhaltensänderungen früher sichtbar als eine einzige Gesamtsumme.
Beschränken Sie den Zugriff auf Nutzungsdaten nach denselben Regeln wie für Finanz- oder Organisationsinformationen.