Penghalaan

Tetapkan keutamaan

Medan provider menetapkan peraturan pemilihan pelaksanaan bagi satu permintaan. Anggapnya sebagai dasar, bukan janji laluan dalaman tertentu.

Bagi tugasan dengan sifat mandatori, wajibkan parameter berkaitan secara jelas dan bukannya mengurangkan kualiti secara senyap.

{
  "model": "openai/gpt-5.6-sol",
  "messages": [{"role": "user", "content": "Classify this support ticket."}],
  "provider": {
    "order": ["provider-a", "provider-b"],
    "allow_fallbacks": true,
    "require_parameters": true
  }
}

Kekangan berguna

• order menetapkan keutamaan pilihan yang dibenarkan.
• allow_fallbacks menentukan sama ada permintaan boleh beralih kepada alternatif.
• require_parameters membantu menolak laluan yang tidak dapat memenuhi kontrak yang diisytiharkan.

Kebolehcerapan

Simpan model dipilih, masa, status dan perbelanjaan dalam jejak anda sendiri. Jangan bentangkan butiran penghalaan dalaman kepada pengguna sebagai fakta apabila ia tiada dalam respons.

Apabila pilihan telah habis, beri respons yang boleh dijangka: kembalikan punca asal dan tawarkan percubaan semula dengan konfigurasi serasi.