Title: Striimaus %E2%80%94 LLM EU
Canonical: https://llmeu.com/fi/docs/streaming/
Markdown mirror: https://llmeu.com/fi/docs/streaming.md
Machine-readable: https://llmeu.com/llms.txt (index) - https://llmeu.com/llms-full.txt (full catalogue) - https://llmeu.com/llms-catalogue.json

Aloita

- [Pika-aloitus](/fi/docs/quickstart/)
- [Konsoli](/fi/docs/console/)
- [Migraatio](/fi/docs/migration/)
- [API-referenssi](/fi/docs/api/)

Viite

- [Todennus](/fi/docs/authentication/)
- [P%C3%A4%C3%A4tepisteet](/fi/docs/endpoints/)
- [Virheet](/fi/docs/errors/)
- [Nopeusrajoitukset](/fi/docs/rate-limits/)
- [Striimaus](/fi/docs/streaming/)
- [K%C3%A4yt%C3%A4nn%C3%B6t](/fi/docs/policies/)
- [Reititys ja k%C3%A4yt%C3%A4nt%C3%B6](/fi/docs/routing/)
- [Sijainti ja alueet](/fi/docs/residency/)
- [Todisteet ja varmennus](/fi/docs/evidence/)
- [OpenAI-yhteensopivuus](/fi/docs/openai-compat/)

K%C3%A4ytt%C3%B6

- [Itseis%C3%A4nn%C3%B6inti](/fi/docs/self-hosting/)

# Striimaus

Miten striimattu vastaus saapuu siirtotielle, mit%C3%A4 viimeinen kehys sis%C3%A4lt%C3%A4%C3%A4 ja mit%C3%A4 tapahtuu, kun asiakasohjelma katkaisee yhteyden.

## Siirtotie

Aseta stream: true, jolloin vastaus on text/event-stream: yksi JSON-objekti kutakin data:-rivi%C3%A4 kohti, ja jokaisen j%C3%A4lkeen tulee tyhj%C3%A4 rivi. Puskurointi on poistettu k%C3%A4yt%C3%B6st%C3%A4, jotta v%C3%A4lityspalvelin ei pid%C3%A4ttele kehyksi%C3%A4.

```
HTTP/1.1 200 OK
content-type: text/event-stream; charset=utf-8
cache-control: no-cache, no-transform
connection: keep-alive
```

## Kehykset

Ensimm%C3%A4inen kehys sis%C3%A4lt%C3%A4%C3%A4 avustajan roolin, sitten yksi kehys kutakin deltaa kohti, sitten kehys, jossa on finish_reason ja reitityslohko, ja lopuksi t%C3%A4sm%C3%A4lleen yksi lopetusmerkki. Asiakasohjelma, joka noudattaa muotoa, lukee lopetusmerkin ja lopettaa; sen ei pid%C3%A4 k%C3%A4sitell%C3%A4 puuttuvaa lopetusmerkki%C3%A4 t%C3%A4ydellisen%C3%A4 vastauksena.

```
data: {"id":"chatcmpl-%E2%80%A6","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"role":"assistant"},"finish_reason":null}]}

data: {"id":"chatcmpl-%E2%80%A6","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"Hallo"},"finish_reason":null}]}

data: {"id":"chatcmpl-%E2%80%A6","object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}],"llmeu":{%E2%80%A6}}

data: [DONE]
```

## Reitityslohko kulkee viimeisen kehyksen mukana

Viimeinen kehys sis%C3%A4lt%C3%A4%C3%A4 saman llmeu-objektin, jonka ei-striimaava vastaus palauttaa: trace_id, model_used, model_version, provider, endpoint_id, inference_region, sovereignty_class, policy_id, retention ja kustannusarvion. Striimaustilassa k%C3%A4ytt%C3%B6 tiedet%C3%A4%C3%A4n vasta lopussa, mink%C3%A4 vuoksi lohko kulkee viimeisen kehyksen eik%C3%A4 ensimm%C3%A4isen mukana.

## Asiakasohjelman yhteyden katkeaminen

Yhteyden sulkeminen pys%C3%A4ytt%C3%A4%C3%A4 ty%C3%B6n ja kirjoittaa j%C3%A4ljitykseen sen, mit%C3%A4 tosiasiassa tuotettiin. Peruutettu pyynt%C3%B6 on edelleen tapahtunut kutsu, joten se n%C3%A4kyy k%C3%A4yt%C3%B6ss%C3%A4; sit%C3%A4 ei kirjata valmiina completionina.

## Mit%C3%A4 ei voi striimata

Upotukset ja alustan API ovat yksitt%C3%A4isi%C3%A4 JSON-vastauksia. stream: true ei-striimaavalla reitill%C3%A4 on validointivirhe, ei hiljainen siirtyminen yhteen kehykseen.