SSE-Stream öffnen
Aktivieren Sie stream: true und deaktivieren Sie die Client-Pufferung. Der Server sendet Datenereignisse, sobald Antwortteile verfügbar werden.
Verarbeiten Sie den Stream schrittweise: Ein einzelnes Ereignis muss weder vollständigen Text noch einen vollständigen Tool-Aufruf enthalten.
curl --no-buffer --request POST https://cicora.ai/api/v1/chat/completions \
--header "Authorization: Bearer $CICORA_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model": "openai/gpt-5.6-sol",
"stream": true,
"stream_options": {"include_usage": true},
"messages": [{"role": "user", "content": "Write a three-line poem."}]
}'Deltas zusammensetzen
- Sammeln Sie Text nach choice/index oder Elementkennung.
- Sammeln Sie Tool-Argumente als Stream aus JSON-Fragmenten und parsen Sie sie nach Abschluss.
- Wenn endgültige Metriken wichtig sind, aktivieren Sie ausdrücklich die verfügbare Nutzungsoption im Stream.
Abschliessen und abbrechen
Betrachten Sie den Stream erst nach einem Endereignis als abgeschlossen. Das Schliessen einer Verbindung ohne ein solches Ereignis ist ein eigener Fehlerpfad.
Verknüpfen Sie einen AbortController oder ein gleichwertiges Mittel mit der Benutzernavigation, damit eine nicht mehr benötigte Anfrage nicht offen bleibt.