Registrera svarsmetadata
För ett anrop är metadata som returneras av svaret primära: id, usage eller cost endast när motsvarande fält finns.
Förutsätt inte en separat slutpunkt för aggregering: en extern insamlare behöver ett eget publicerat kontrakt.
Begärandepost per svar
typescript
const requestRecord = {
model: selectedModel,
status: response.status,
responseId: responseBody.id,
usage: responseBody.usage ?? null,
receivedAt: new Date().toISOString(),
};
// Persist only usage fields actually returned by this response.Datamodell
- Håll enheter för indata, utdata, cache och medier åtskilda när de returneras.
- Spara valuta och måttenhet intill varje tal.
- Räkna inte oavslutade bakgrundsjobb som slutlig utgift.
Driftvy
Bygg en instrumentpanel kring produkten: användare, arbetsflöden, modeller, fel och latens. Den visar beteendeförändringar tidigare än en enda totalsumma.
Begränsa åtkomsten till användningsdata med samma regler som används för finansiell information eller organisationsinformation.