Title: Korduma kippuvad k%C3%BCsimused LLM API kohta %E2%80%94 LLM EU
Canonical: https://llmeu.com/et/faq/
Markdown mirror: https://llmeu.com/et/faq.md
Machine-readable: https://llmeu.com/llms.txt (index) - https://llmeu.com/llms-full.txt (full catalogue) - https://llmeu.com/llms-catalogue.json

# Korduma kippuvad k%C3%BCsimused

Enamik selle saidi lehti esitab v%C3%A4ite. See leht vastab k%C3%BCmnele k%C3%BCsimusele, mille ostja peab tavaliselt meile e-kirjaga k%C3%BCsima. Kui vastus on "mitte veel", %C3%BCtleb see "mitte veel" %E2%80%94 leht, mis liialdaks, oleks v%C3%A4%C3%A4rt v%C3%A4hem kui %C3%BCldse mitte leht, sest iga teine leht siin on kirjutatud kontrollitavaks.

## Kus t%C3%B6%C3%B6deldakse viipasid ja l%C3%B5petusi?

L%C3%B5pp-punktis, mille marsruutija valib, mis on nimetatud piirkond, ja vastus %C3%BCtleb teile, milline: llmeu plokk igal l%C3%B5petusel sisaldab inference_region, endpoint_id ja sovereignty_class. Residentsuse v%C3%A4%C3%A4rtus teie poliitikas piirab seda kogumit enne valimist; seda rakendatakse filtrina, mitte eelistusena, ja catalogue_unknown ei ole kunagi marsruuditav. Kaks piirangut sellele lausele. Esiteks, piirkonna read on konfiguratsiooniandmed, mitte t%C3%B5end t%C3%B6%C3%B6tavate masinate v%C3%B5i kinnitatud operaatorilepete kohta %E2%80%94 residentsuse dokument %C3%BCtleb seda oma s%C3%B5nadega ja me kordame seda siin, mitte ainult seal. Teiseks, selles juurutuses puudub esimese osapoole GPU v%C3%B5imsus: p%C3%A4ringuid teenindavad l%C3%B5pp-punktid, mille kataloog salvestab, ja mudel, millel pole aktiivset l%C3%B5pp-punkti, on ainult kataloogis, seega selle kohta k%C3%A4iv p%C3%A4ring l%C3%BCkatakse tagasi nime j%C3%A4rgi, mitte ei vastata asendajaga. Vt "Mis juhtub, kui GPU-d pole?" allpool. API, mis seda teeb, on Node protsess, mitte osa sellest staatilisest saidist %E2%80%94 llmeu.com ise vastab lehtedele, see ei t%C3%B6%C3%B6tle p%C3%A4ringuid.

apps/api/src/inference.mjs:457 (llmeu vastuseplokk), packages/router/src/engine.mjs:467 (residentsust rakendatakse enne hindamist), packages/shared/src/catalog-schema.mjs:64 (marsruuditavad klassid)

## Kas viipasid ja l%C3%B5petusi s%C3%A4ilitatakse?

Ei. Promptide ja vastuste sisu ei kirjutata andmebaasi. Iga kutse salvestab metaandmed %E2%80%94 soovitud ja kasutatud mudel, versioon, l%C3%B5pp-punkt, regioon, suver%C3%A4%C3%A4nsusklass, ruuteri p%C3%B5hjus, tokenite arv, latentsus, kulu, olek %E2%80%94 ja rea prompt_stored on 0. Kaks sisu-veergu on skeemis olemas ja on null. J%C3%B5ustamine on kood, mitte poliitikatekst: p%C3%A4ring, mille tegelik s%C3%A4ilitamine on midagi muud kui null, l%C3%BCkatakse tagasi; koodiga 403 retention_exceeds_policy, kui see k%C3%BCsib rohkem, kui teie poliitika lubab, ja 501 retention_not_implemented, kui see on lubatud, aga rakendamata. Poliitikad v%C3%B5ivad valikutena salvestada 24h, 7d v%C3%B5i 30d; valiku salvestamine ei v%C3%B5imalda sisu salvestada. Kui j%C3%A4lg kunagi n%C3%A4itab prompt_stored muud kui 0, on see %C3%BChelehek%C3%BCljeline vastus k%C3%BCsimusele "mida te s%C3%A4ilitasite" %E2%80%94 ja saate seda ise jq-ga kontrollida, nagu t%C3%B5enduste leht n%C3%A4itab.

packages/shared/src/db/schema.sql:295 (prompt_stored ja kaks sisu-veergu), apps/api/src/inference.mjs:83 (IMPLEMENTED_RETENTION = zero), apps/api/src/inference.mjs:89 (403 retention_exceeds_policy), apps/api/src/inference.mjs:97 (501 retention_not_implemented), docs/product/decisions.md:62 (ADR-003)

## Kas te treenite kliendiandmetel?

Ei %E2%80%94 mitte miski selles tootes ei ole selleks v%C3%B5imeline. API-s, veebiprotsessis, ruuteris ega jagatud pakettides ei ole treenimise ega peenh%C3%A4%C3%A4lestuse kooditeed. API orkestreerib p%C3%A4ringu taustaprogrammi ja m%C3%B5%C3%B5dab seda; puudub andmestiku sissetoomine, korpuse hoidla ja peenh%C3%A4%C3%A4lestust%C3%B6%C3%B6. Promptide ja vastuste sisu ei kirjutata andmebaasi, seega pole isegi salvestatud korpust, millel treenida. See on v%C3%A4ide meie koodi kohta, mitte iga mudeli %C3%BClesvoolu treeningandmete kohta. Mudeleid, mis on treenitud teiste inimeste andmetel v%C3%B5i mis avaldavad oma treeningandmed, kirjeldatakse nende endi kaartidel, allikatega, ja m%C3%B5ned neist kaartidest %C3%BCtlevad, et treeningandmeid ei ole avaldatud.

apps/api/src/inference.mjs (kogu p%C3%A4ringutee: orkestreeri, m%C3%B5%C3%B5da, %C3%A4ra kunagi salvesta), packages/shared/src/db/schema.sql (andmestiku ega korpuse tabelit pole), packages/content/models.mjs:196 (kaart, mis %C3%BCtleb, et treeningandmeid ei ole avaldatud)

## Mis juhtub, kui %C3%BCkski l%C3%B5pp-punkt ei rahulda minu residentsipoliitikat?

P%C3%A4ring eba%C3%B5nnestub. Seda ei alandata l%C3%A4hedalasuvasse regiooni ega saadeta kuhugi mujale: 409 no_endpoint_for_policy, p%C3%B5hjus on vea kehas ja v%C3%A4listatud l%C3%B5pp-punktid on j%C3%A4ljel nimetatud. Residentsust rakendatakse enne skoorimist ja %C3%BCmberl%C3%BClitus liigub ainult ruuteri juba filtreeritud hulga sees %E2%80%94 seet%C3%B5ttu ei saa korduskatse teie seatud reeglist vaikselt k%C3%B5rvale hiilida. Kood %C3%BCtleb selle %C3%BChe lausega: "No endpoint satisfies residency {x}. Residency is never relaxed silently." Mida sellega teha: nimetage regioon v%C3%B5i klass, mille teie poliitika lubab, laiendage poliitikat teadlikult (otsus, koos changelog-kirjega), v%C3%B5i leppige sellega, et selle mudeli jaoks sellise reegli all marsruuti ei ole. 409 t%C3%A4hendab, et toode t%C3%B6%C3%B6tab nii, nagu on ette n%C3%A4htud; t%C3%B5rkere%C5%BEiim, mida see v%C3%A4ldib, on p%C3%A4ring, mis "%C3%B5nnestus" kuskil, mida te ei lubanud.

packages/shared/src/errors.mjs:59 (no_endpoint_for_policy), packages/router/src/engine.mjs:370 (t%C3%B5rge, enne skoorimist), packages/router/src/engine.mjs:507 (%C3%BCmberl%C3%BClitus ei saa filtreeritud hulgast v%C3%A4ljuda), apps/api/src/inference.mjs:137 (s%C3%A4ilitamist kontrollitakse enne marsruutimist)

## Kas see on GDPR-iga koosk%C3%B5las v%C3%B5i sertifitseeritud?

Ei %E2%80%94 ja me ei tee seda: mitte "AI Act compliant", mitte "certified", mitte "Official EU". LLM EU on eraettev%C3%B5te, mitte ELi institutsioon ega vastavushindamisasutus. "Verified" t%C3%A4hendab siin dokumenteeritust, mitte %C3%B5iguslikku sertifikaati: avalikustamise kontrollnimekiri, mida hinnatakse selle j%C3%A4rgi, kas kaart esitab oma residentsuse, teenusepakkuja, versiooni, s%C3%A4ilitamise, allt%C3%B6%C3%B6v%C3%B5tjad ja litsentsi, koos linkidega. Mida platvorm teeb, on %C3%B6eldud tingimustes, millele kood vastab: nulls%C3%A4ilitamine on j%C3%B5ustatud, API-v%C3%B5tmed on salvestatud scrypt-r%C3%A4sidena ja n%C3%A4idatakse %C3%BCks kord, iga kliendip%C3%A4ring on piiratud organisatsiooni id-ga, IP-, v%C3%B5tme- ja org-p%C3%B5hised kiiruspiirangud, p%C3%A4ringukehad on %C3%BClempiiriga ja valideeritud. Turvat%C3%B6%C3%B6l ja juriidilistel dokumentidel on iga%C3%BChel oma leht.

docs/product/decisions.md:115 (ADR-006 %E2%80%94 %C3%BChtki vastavustemplit, %C3%BCheski stringis), apps/web/server/pages/docs.mjs:537 (SECURITY_COPY: kontrollide ja puuduj%C3%A4%C3%A4kide loend), apps/web/server/pages/docs.mjs:643 (LEGAL_READINESS: dokumentide kaupa valmisolek)

## Kas API on OpenAI-iga %C3%BChilduv ja mida klient muudab?

Baas-URL ja mitte midagi muud. /v1/chat/completions v%C3%B5tab vastu ametliku p%C3%A4ringu kuju ja tagastab ametliku vastuse kuju %E2%80%94 choices, usage, streaming SSE-na %E2%80%94 seega ametlikud SDK-d t%C3%B6%C3%B6tavad p%C3%A4rast nende meie poole suunamist. Lisakeha v%C3%A4ljad j%C3%A4etakse t%C3%A4helepanuta, mitte ei l%C3%BCkata tagasi, nii et uuem SDK ei saa vanemat marsruuti katki teha. Lisatud on valikuline ja t%C3%A4iendav: nimeruumiga llmeu objekt p%C3%A4ringus (residency, task, retention, data_class, policy_id, max_usd_per_1m, allow_partners) ja llmeu plokk vastuses, mis kannab trace_id, model_used, model_version, provider, endpoint_id, inference_region, sovereignty_class, route_reason, policy_id, retention ja kuluhinnanguid. Meelega ei pakuta: /v1/completions (501), n > 1 (400), embeddingud, v%C3%A4lja arvatud juhul, kui embedding-mudelit tegelikult hostitakse. llmeu plokk v%C3%B5ib saada uusi v%C3%A4lju; %C3%BChe eemaldamine oleks murranguline muudatus ja ilmuks changelogis.

docs/product/decisions.md:78 (ADR-004), apps/api/src/app.mjs:554 (vastus, mida klient loeb), apps/api/src/app.mjs:255 (501 /v1/completions puhul), apps/web/server/pages/docs.mjs:403 (kirjalik %C3%BChilduvusleping)

## Mis juhtub, kui GPU-d pole?

Ruuter teenindab k%C3%B5iki kataloogis kirjendatud aktiivseid l%C3%B5pp-punkte ja iga vastus nimetab l%C3%B5pp-punkti, regiooni ja suver%C3%A4%C3%A4nsusklassi, mis sellele vastas. Mudel, millel pole aktiivset l%C3%B5pp-punkti, on ainult kataloogis: p%C3%A4ring selle mudeli j%C3%A4rele l%C3%BCkatakse nime j%C3%A4rgi tagasi, mitte ei vastata asendajaga. Esmase osapoole v%C3%B5imsus vajab konfigureeritud pooli (VLLM_BASE_URL, seej%C3%A4rel gpu_enabled lipp); kuni seda pole, on v%C3%B5imsus see, mida l%C3%B5pp-punkti read kirjendavad, ja lehed %C3%BCtlevad, milline see on. GET /readyz teatab, millised taustaprogrammid on %C3%BCleval, ja valmisolekut ei rahulda l%C3%B5pp-punkti rida, mis %C3%BCtleb, et on %C3%BCleval %E2%80%94 haldusega k%C3%A4itusaeg peab tegelikult teatama tervislikust seisundist, sest selle sondi m%C3%B5te on tabada s%C3%B5lme, mille kaalud alles laadivad. Taustaprogrammide register keeldub %C3%BCht k%C3%A4itusaega teisega asendamast; selle asemel viskab see erindi. Aus kokkuv%C3%B5te on ebamugav ja v%C3%A4%C3%A4rib selget %C3%BCtlemist: selles juurutusas on GPU puudu, seega on siinne kutse torujuhtme demonstratsioon, mitte mudeli k%C3%A4ivitus. Asendaja %C3%B5nnestumine oleks %C3%B5nnestumine juhtmel ja mitte rohkem, mist%C3%B5ttu ei esitata seda kunagi tegeliku mudeli k%C3%A4ivitusena.

apps/api/src/app.mjs:157 (valmisolek h%C3%B5lmab haldatud taustaprogramme), docs/product/decisions.md:131 (ADR-007 %E2%80%94 register keeldub v%C3%B5ltsimast GPU k%C3%A4itusaega)

## Mida t%C3%A4hendab mudelikaart, mis on m%C3%A4rgitud catalogue_only?

See t%C3%A4hendab, et me kataloogime mudeli ega teeninda seda. Kaart on viiteteave %E2%80%94 teenusepakkuja, litsents, kontekstiaken, kus teenusepakkuja s%C3%B5nul see t%C3%B6%C3%B6tab, allikad iga arvu kohta %E2%80%94 ja %C3%BCkski LLM EU l%C3%B5pp-punkt selle eest ei vasta. K%C3%BCsige API-lt ja saate 404 hosted_unavailable, m%C3%A4rkusega "catalogue only %E2%80%94 not hosted on LLM EU yet"; selle leht ei n%C3%A4ita hinda, sest hind millegi eest, mida keegi kutsuda ei saa, on v%C3%A4ide, mille taga pole midagi. P%C3%A4ringud selle mudeli j%C3%A4rele l%C3%A4hevad otse selle teenusepakkujale, selle pakkuja enda tingimustel, ja mudelikaart %C3%BCtleb t%C3%A4pselt seda. Vastupidine m%C3%A4rgis ei ole samuti tugevam lubadus: meie hostitav mudel on hostitud nimetatud regioonis nimetatud suver%C3%A4%C3%A4nsusklassiga ja see on v%C3%A4ide, mida saate j%C3%A4ljel kontrollida. Kumbki m%C3%A4rgis ei ole vastavusdeklaratsioon.

packages/router/src/engine.mjs:325 (ruuter l%C3%BCkkab selle liigi tagasi), apps/api/src/app.mjs:235 (404 hosted_unavailable koos m%C3%A4rkusega), apps/web/server/pages/docs.mjs:446 (hinnastus j%C3%A4tab catalogue_only vahele)

## Kuidas hinnastus ja krediit praegu t%C3%B6%C3%B6tavad?

Hinnad on miljoni siseneva ja v%C3%A4ljuva tokeni kohta, salvestatud l%C3%B5pp-punkti kaupa ja n%C3%A4idatud hinnastuslehel ja mudelikaartidel, eurodes, tuletatud %C3%BChest avaldatud USD kursist; pearaamat ise salvestab USD mikrod ja kirjutab kursi igale reale, nii et varasemat arvet saab t%C3%A4pselt rekonstrueerida. Iga l%C3%B5petus tagastab cost_estimate_usd ja cost_estimate_eur ning j%C3%A4lg salvestab kulu m%C3%B5lemas. Poliitika piirangud %E2%80%94 miljoni kohta %C3%BClempiir ja p%C3%A4evane %C3%BClempiir %E2%80%94 kontrollitakse enne marsruutimist, seega %C3%BCle eelarve olev p%C3%A4ring l%C3%BCkatakse tagasi, mitte ei k%C3%A4ivitata. Kaardimaksed ei ole selles juurutusas lubatud ja miski ei lisa krediiti automaatselt: arvejooksu ega operaatori krediiditeed veel ei ole. Konsool n%C3%A4itab, kui palju on kulutatud ja kui palju j%C3%A4%C3%A4b. Kui stripe_enabled lipp on sisse l%C3%BClitatud, v%C3%B5tab krediidik%C3%A4itleja vastu postitatud summa, kontrollimata, et makse toimus %E2%80%94 seep%C3%A4rast peab lipp olema v%C3%A4ljas, kuni makse kontrollimine on juurutatud ja testitud, ja seep%C3%A4rast %C3%BCtleme seda siin, mitte ei paku kassanuppu.

docs/product/decisions.md:148 (ADR-008 %E2%80%94 mikrod salvestatud, EUR n%C3%A4idatud), apps/api/src/inference.mjs:457 (p%C3%A4ringup%C3%B5hised kuluhinnangud), apps/web/server/pages/docs.mjs:463 (hinnastusleht %C3%BCtleb, et maksed on v%C3%A4ljas), apps/web/server/pages/docs.mjs:559 (krediidik%C3%A4itleja ei kontrolli makset)

## Kas saame ise hostida?

Mitte millegi kaudu, mida me t%C3%A4na pakume. Isemajutatavat distributsiooni ei ole: pole konteineripilti, installerit, kohapealset litsentsi, tugilepingut selle k%C3%A4itamiseks teie enda keskkonnas, ja seda hoidlat ei pakuta toetatud juurutusena. Konsooli tiimivaade on olemas, kuid organisatsiooni rollid ei ole t%C3%A4ielik rollip%C3%B5hine juurdep%C3%A4%C3%A4sukontroll ja see on dokumenteeritud, mitte maha vaikitutud. Kataloogis on k%C3%BCll residentsusklass nimega on_prem_customer %E2%80%94 "mudel t%C3%B6%C3%B6tab infrastruktuuris, mida klient kontrollib" %E2%80%94 ja see on l%C3%B5pp-punkti omandi ja k%C3%A4itamise liigitus, mitte meie pakkumine. Paljud kataloogis olevad mudelid avaldavad avatud kaalud ja nende litsentsid (m%C3%B5ned mittekaubanduslikud, m%C3%B5ned ainult uurimist%C3%B6%C3%B6ks) on kaartidel lingiga, nii et saate hinnata nende ise k%C3%A4itamist; see on otsus kellegi teise kaalude ja kellegi teise litsentsi kohta, mitte LLM EU isemajutustoode. Kohapealse vestluse jaoks on ettev%C3%B5tte leht %C3%B5ige uks ja on aus, et seda kokkulepet veel ei ole.

packages/router/src/engine.mjs:12 (on_prem_customer esineb ainult residentsuse vastendustes), packages/shared/src/catalog-schema.mjs:84 (selle m%C3%A4%C3%A4ratlus), apps/web/server/pages/docs.mjs:517 (puudulik RBAC, %C3%B6eldud), packages/content/models.mjs:695 (avatud kaalude litsents kaardil)

Kui m%C3%B5ni vastus siin on vale, on see defekt ja me k%C3%A4sitleme seda sellena. Kui kood ja see leht on vastuolus, v%C3%B5idab kood %E2%80%94 ja t%C3%B5endusleht, turvalisuse leht ning %C3%B5iguslik register on kohad, kus hoiame %C3%BClej%C3%A4%C3%A4nud ebamugavaid %C3%BCksikasju, mitte ei korda neid k%C3%BCmme korda.

K%C3%BCsimused, millele see leht ei vasta: [mail@llmeu.com](mailto:mail@llmeu.com)

[T%C3%B5endid ja kontrollimine](/et/docs/evidence/) %C2%B7[Turvalisus](/et/security/) %C2%B7[Juriidiline](/et/legal/) %C2%B7[Ligip%C3%A4%C3%A4setavus](/et/accessibility/)