บันทึกข้อมูลเมตาของการตอบกลับ
สำหรับการเรียกหนึ่งครั้ง ข้อมูลเมตาที่การตอบกลับนั้นส่งคืนถือเป็นข้อมูลหลัก ได้แก่ id, usage หรือ cost เฉพาะเมื่อมีฟิลด์ที่ตรงกัน
อย่าตั้งสมมติฐานว่ามีเอนด์พอยต์รวมข้อมูลแยกต่างหาก ตัวรวบรวมภายนอกต้องมีสัญญาที่เผยแพร่ของตนเอง
บันทึกคำขอต่อการตอบกลับ
typescript
const requestRecord = {
model: selectedModel,
status: response.status,
responseId: responseBody.id,
usage: responseBody.usage ?? null,
receivedAt: new Date().toISOString(),
};
// Persist only usage fields actually returned by this response.โมเดลข้อมูล
- แยกหน่วยอินพุต เอาต์พุต แคช และสื่อเมื่อมีการส่งค่ากลับมา
- เก็บสกุลเงินและหน่วยวัดไว้ข้างตัวเลขทุกตัว
- อย่านับรวมงานเบื้องหลังที่ยังไม่เสร็จเป็นยอดใช้จ่ายสุดท้าย
มุมมองการปฏิบัติงาน
สร้างแดชบอร์ดรอบผลิตภัณฑ์ ได้แก่ ผู้ใช้ เวิร์กโฟลว์ โมเดล ข้อผิดพลาด และเวลาแฝง ซึ่งจะแสดงการเปลี่ยนแปลงพฤติกรรมได้เร็วกว่ายอดรวมเพียงค่าเดียว
จำกัดการเข้าถึงข้อมูลการใช้งานด้วยกฎเดียวกับข้อมูลทางการเงินหรือข้อมูลองค์กร