Ανοίξτε ροή SSE
Ενεργοποιήστε stream: true και απενεργοποιήστε την ενδιάμεση αποθήκευση (buffering) στον πελάτη. Ο διακομιστής στέλνει συμβάντα δεδομένων καθώς γίνονται διαθέσιμα τμήματα της απάντησης.
Επεξεργαστείτε τη ροή σταδιακά: ένα συμβάν δεν χρειάζεται να περιέχει ολοκληρωμένο κείμενο ή πλήρη κλήση εργαλείου.
curl --no-buffer --request POST https://cicora.ai/api/v1/chat/completions \
--header "Authorization: Bearer $CICORA_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model": "openai/gpt-5.6-sol",
"stream": true,
"stream_options": {"include_usage": true},
"messages": [{"role": "user", "content": "Write a three-line poem."}]
}'Συναρμολογήστε τα τμήματα
- Συσσωρεύστε κείμενο βάσει επιλογής/δείκτη ή αναγνωριστικού στοιχείου.
- Συλλέξτε τα ορίσματα εργαλείου ως ροή τμημάτων JSON και αναλύστε τα μετά την ολοκλήρωση.
- Όταν έχουν σημασία οι τελικές μετρήσεις, ενεργοποιήστε ρητά τη διαθέσιμη επιλογή χρήσης στη ροή.
Ολοκλήρωση και ακύρωση
Θεωρήστε τη ροή ολοκληρωμένη μόνο μετά από τελικό συμβάν. Το κλείσιμο μιας σύνδεσης χωρίς τέτοιο συμβάν αποτελεί ξεχωριστή διαδρομή αποτυχίας.
Συνδέστε ένα AbortController ή ισοδύναμο με την πλοήγηση του χρήστη, ώστε ένα αχρησιμοποίητο αίτημα να μην παραμένει ανοιχτό.