Atidarykite SSE srautą
Įjunkite stream: true ir išjunkite kliento buferizavimą. Serveris siunčia duomenų įvykius, kai tampa prieinamos atsakymo dalys.
Apdorokite srautą palaipsniui: viename įvykyje nebūtinai yra visas tekstas arba visas įrankio iškvietimas.
SSE srautas
bash
curl --no-buffer --request POST https://cicora.ai/api/v1/chat/completions \
--header "Authorization: Bearer $CICORA_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model": "openai/gpt-5.6-sol",
"stream": true,
"stream_options": {"include_usage": true},
"messages": [{"role": "user", "content": "Write a three-line poem."}]
}'Sujunkite dalinius rezultatus
- Kaupkite tekstą pagal choice/index arba elemento identifikatorių.
- Įrankio argumentus rinkite kaip JSON fragmentų srautą ir analizuokite juos užbaigus.
- Kai svarbios galutinės metrikos, sraute aiškiai įjunkite prieinamą naudojimo parinktį.
Užbaigimas ir atšaukimas
Laikykite srautą užbaigtu tik po galutinio įvykio. Jei ryšys užsidaro be jo, tai atskiras klaidos atvejis.
Su naudotojo naršymu susiekite AbortController ar lygiavertę priemonę, kad nebenaudojama užklausa neliktų atvira.