Title: LLM FAQ: podatki, hramba, cene %E2%80%94 LLM EU Canonical: https://llmeu.com/sl/faq/ Markdown mirror: https://llmeu.com/sl/faq.md Machine-readable: https://llmeu.com/llms.txt (index) - https://llmeu.com/llms-full.txt (full catalogue) - https://llmeu.com/llms-catalogue.json # Pogosto zastavljena vpra%C5%A1anja Ve%C4%8Dina strani na tem mestu navaja trditev. Ta odgovarja na deset vpra%C5%A1anj, zaradi katerih nam kupec obi%C4%8Dajno mora poslati e-po%C5%A1to. Kjer je odgovor %C2%BB%C5%A1e ne%C2%AB, pi%C5%A1e %C2%BB%C5%A1e ne%C2%AB %E2%80%94 stran, ki bi pretiravala, bi bila vredna manj kot nobena stran, ker je vsaka druga stran tukaj napisana tako, da jo je mogo%C4%8De preveriti. ## Kje se obdelujejo pozivi in dokon%C4%8Danja? Na kon%C4%8Dni to%C4%8Dki, ki jo izbere usmerjevalnik, ki je imenovana regija, in odgovor vam pove katero: blok llmeu pri vsakem dokon%C4%8Danju nosi inference_region, endpoint_id in sovereignty_class. Vrednost rezidentnosti v va%C5%A1em pravilniku omejuje ta niz pred izbiro; uporabljena je kot filter, ne kot prednost, in catalogue_unknown ni nikoli usmerljiv. Dve omejitvi te trditve. Prvi%C4%8D, vrstice regij so konfiguracijski podatki, ne dokaz o delujo%C4%8Dih strojih ali potrjenih pogodbah operaterjev %E2%80%94 dokument o rezidentnosti to pove z lastnimi besedami, mi pa to ponavljamo tukaj, ne le tam. Drugi%C4%8D, na tej namestitvi ni lastnih zmogljivosti GPU: zahteve stre%C5%BEejo kon%C4%8Dne to%C4%8Dke, ki jih bele%C5%BEi katalog, model brez %C5%BEive kon%C4%8Dne to%C4%8Dke pa je samo v katalogu, zato je zahteva zanj zavrnjena po imenu, ne pa odgovorjena z nadomestkom. Glejte %C2%BBKaj se zgodi, %C4%8De ni GPU?%C2%AB spodaj. API, ki to po%C4%8Dne, je proces Node, ne del te stati%C4%8Dne strani %E2%80%94 llmeu.com sam odgovarja na strani, ne obdeluje zahtev. apps/api/src/inference.mjs:457 (blok odgovora llmeu), packages/router/src/engine.mjs:467 (rezidentnost se uporabi pred ocenjevanjem), packages/shared/src/catalog-schema.mjs:64 (usmerljivi razredi) ## Ali se pozivi in dokon%C4%8Danja hranijo? Ne. Telesa pozivov in dokon%C4%8Danj se ne zapisujejo v zbirko podatkov. Vsak klic shrani metapodatke %E2%80%94 zahtevani in uporabljeni model, razli%C4%8Dico, kon%C4%8Dno to%C4%8Dko, regijo, razred suverenosti, razlog usmerjevalnika, %C5%A1tevilo %C5%BEetonov, zakasnitev, stro%C5%A1ek, stanje %E2%80%94 in prompt_stored v vrstici je 0. Dva stolpca za telesa obstajata v shemi in sta null. Izvajanje je koda, ne besedilo pravilnika: zahteva, katere dejanska hramba je karkoli drugega kot ni%C4%8D, je zavrnjena, s 403 retention_exceeds_policy, %C4%8De zahteva ve%C4%8D, kot dovoljuje va%C5%A1a politika, in 501 retention_not_implemented, %C4%8De je dovoljena, a neimplementirana. Politike lahko shranijo 24h, 7d ali 30d kot izbire; shranjevanje izbire ne omogo%C4%8Di shranjevanja telesa. %C4%8Ce sled kadarkoli poka%C5%BEe prompt_stored, ki ni 0, je to odgovor na eni strani na %C2%BBkaj ste obdr%C5%BEali%C2%AB %E2%80%94 in to lahko preverite sami z jq, kot prikazuje stran z dokazi. packages/shared/src/db/schema.sql:295 (prompt_stored in dva stolpca za telesa), apps/api/src/inference.mjs:83 (IMPLEMENTED_RETENTION = zero), apps/api/src/inference.mjs:89 (403 retention_exceeds_policy), apps/api/src/inference.mjs:97 (501 retention_not_implemented), docs/product/decisions.md:62 (ADR-003) ## Ali trenirate na podatkih strank? Ne %E2%80%94 ni%C4%8D v tem izdelku tega ne more po%C4%8Deti. V API-ju, spletnem procesu, usmerjevalniku ali skupnih paketih ni nobene kode za u%C4%8Denje ali fino prilagajanje. API orkestrira zahtevo do zaledja in jo meri; ni zajema podatkovnih nizov, shrambe korpusa ali opravila za fino prilagajanje. Telesa pozivov in dokon%C4%8Danj se ne zapisujejo v zbirko podatkov, zato ni niti shranjenega korpusa za u%C4%8Denje. To je izjava o na%C5%A1i kodi, ne o izvornih podatkih za u%C4%8Denje vsakega modela. Modeli, ki so bili nau%C4%8Deni na podatkih drugih ljudi ali ki razkrivajo svoje podatke za u%C4%8Denje, so opisani na lastnih karticah, z viri, in nekatere od teh kartic pravijo, da podatki za u%C4%8Denje niso objavljeni. apps/api/src/inference.mjs (celotna pot zahteve: orkestracija, merjenje, nikoli shranjevanje), packages/shared/src/db/schema.sql (brez tabele podatkovnega niza ali korpusa), packages/content/models.mjs:196 (kartica, ki pravi, da podatki za u%C4%8Denje niso objavljeni) ## Kaj se zgodi, ko nobena kon%C4%8Dna to%C4%8Dka ne ustreza moji politiki reziden%C4%8Dnosti? Zahteva ne uspe. Ne preusmeri se v bli%C5%BEnjo regijo in se ne po%C5%A1lje nikamor drugam: 409 no_endpoint_for_policy, z razlogom v telesu napake in izklju%C4%8Denimi kon%C4%8Dnimi to%C4%8Dkami, navedenimi v sledi. Reziden%C4%8Dnost se uporabi pred to%C4%8Dkovanjem, preklop ob napaki pa se vedno premika le znotraj nabora, ki ga je usmerjevalnik %C5%BEe filtriral %E2%80%94 zato ponovni poskus ne more tiho ube%C5%BEati pravilu, ki ste ga dolo%C4%8Dili. Koda to pove v enem stavku: %C2%BBNobena kon%C4%8Dna to%C4%8Dka ne ustreza reziden%C4%8Dnosti {x}. Reziden%C4%8Dnost se nikoli ne sprosti tiho.%C2%AB Kaj storiti: navedite regijo ali razred, ki ga va%C5%A1a politika dovoljuje, namerno raz%C5%A1irite politiko (odlo%C4%8Ditev, z vnosom v dnevnik sprememb) ali sprejmite, da za ta model pod tem pravilom ne obstaja pot. 409 pomeni, da izdelek deluje po na%C4%8Drtu; na%C4%8Din okvare, ki ga prepre%C4%8Duje, je zahteva, ki je %C2%BBuspela%C2%AB nekje, kjer tega niste dovolili. packages/shared/src/errors.mjs:59 (no_endpoint_for_policy), packages/router/src/engine.mjs:370 (neuspeh, pred to%C4%8Dkovanjem), packages/router/src/engine.mjs:507 (preklop ob napaki ne more zapustiti filtriranega nabora), apps/api/src/inference.mjs:137 (hramba se preveri pred usmerjanjem) ## Ali je to skladno z GDPR ali certificirano? Ne %E2%80%94 in ne bomo: ne %C2%BBskladno z Aktom o umetni inteligenci%C2%AB, ne %C2%BBcertificirano%C2%AB, ne %C2%BBuradno EU%C2%AB. LLM EU je zasebno podjetje, ne institucija EU in ne organ za ugotavljanje skladnosti. %C2%BBPreverjeno%C2%AB tukaj pomeni dokumentirano, ne pravno certificirano: kontrolni seznam razkritij, ocenjen glede na to, ali kartica navaja svojo reziden%C4%8Dnost, ponudnika, razli%C4%8Dico, hrambo, podizvajalce in licenco, s povezavami. Kaj platforma po%C4%8Dne, je navedeno v izrazih, ki jih je mogo%C4%8De preveriti v kodi: uveljavljena ni%C4%8Delna hramba, API-klju%C4%8Di shranjeni kot zgo%C5%A1%C4%8Dene vrednosti scrypt in prikazani enkrat, vsaka poizvedba stranke omejena po ID-ju organizacije, omejitve hitrosti na IP, na klju%C4%8D in na organizacijo, telesa zahtev omejena in validirana. Varnostno delo in pravni dokumenti imajo vsak svojo stran. docs/product/decisions.md:115 (ADR-006 %E2%80%94 nobenega %C5%BEiga skladnosti, v nobenem nizu), apps/web/server/pages/docs.mjs:537 (SECURITY_COPY: seznam kontrol in vrzeli), apps/web/server/pages/docs.mjs:643 (LEGAL_READINESS: pripravljenost po dokumentih) ## Je API zdru%C5%BEljiv z OpenAI in kaj stranka spremeni? Osnovni URL in ni%C4%8D drugega. /v1/chat/completions sprejema uradno obliko zahteve in vrne uradno obliko odgovora %E2%80%94 choices, usage, pretakanje kot SSE %E2%80%94 zato uradni SDK-ji delujejo, ko jih usmerite na nas. Dodatna polja v telesu se ignorirajo, ne zavrnejo, zato novej%C5%A1i SDK ne more pokvariti starej%C5%A1e poti. Kar je dodano, je neobvezno in dodajno: objekt llmeu z imenskim prostorom v zahtevi (residency, task, retention, data_class, policy_id, max_usd_per_1m, allow_partners) in blok llmeu v odgovoru, ki nosi trace_id, model_used, model_version, provider, endpoint_id, inference_region, sovereignty_class, route_reason, policy_id, retention in ocene stro%C5%A1kov. Namerno ni ponujeno: /v1/completions (501), n > 1 (400), embeddings, razen %C4%8De je model za embedding dejansko gostovan. Blok llmeu lahko dobi polja; odstranitev enega bi bila prelomna sprememba in bi se pojavila v dnevniku sprememb. docs/product/decisions.md:78 (ADR-004), apps/api/src/app.mjs:554 (odgovor, ki ga bere odjemalec), apps/api/src/app.mjs:255 (501 na /v1/completions), apps/web/server/pages/docs.mjs:403 (pisna pogodba o zdru%C5%BEljivosti) ## Kaj se zgodi, %C4%8De ni GPU? Usmerjevalnik stre%C5%BEe, kar koli %C5%BEe katalog zabele%C5%BEi kot aktivne kon%C4%8Dne to%C4%8Dke, in vsak odgovor navede kon%C4%8Dno to%C4%8Dko, regijo in razred suverenosti, ki je odgovoril. Model brez aktivne kon%C4%8Dne to%C4%8Dke je samo v katalogu: zahteva zanj je zavrnjena po imenu, ne pa odgovorjena z nadomestkom. Lastna zmogljivost potrebuje konfiguriran bazen (VLLM_BASE_URL, nato zastavica gpu_enabled); dokler ta ne obstaja, je zmogljivost taka, kot jo zabele%C5%BEijo vrstice kon%C4%8Dnih to%C4%8Dk, in strani povedo, katera je to. GET /readyz poro%C4%8Da, katera zaledja so aktivna, in pripravljenost ni izpolnjena z vrstico kon%C4%8Dne to%C4%8Dke, ki pravi, da je aktivna %E2%80%94 upravljano izvajalno okolje mora dejansko poro%C4%8Dati, da je zdravo, ker je smisel tega preizkusa ujeti vozli%C5%A1%C4%8De, katerega ute%C5%BEi se %C5%A1e nalagajo. Register zaledij zavra%C4%8Da zamenjavo enega izvajalnega okolja z drugim; namesto tega vr%C5%BEe izjemo. Iskren povzetek je neprijeten in ga je vredno povedati naravnost: ta namestitev nima GPU, zato je klic tukaj predstavitev cevovoda, ne poganjanje modela. Uspeh nadomestka bi bil uspeh na %C5%BEici in ni%C4%8D ve%C4%8D, zato ni nikoli predstavljen kot resni%C4%8Dno poganjanje modela. apps/api/src/app.mjs:157 (pripravljenost vklju%C4%8Duje upravljana zaledja), docs/product/decisions.md:131 (ADR-007 %E2%80%94 register zavra%C4%8Da la%C5%BEno predstavljanje izvajalnega okolja GPU) ## Kaj pomeni kartica modela z oznako catalogue_only? Pomeni, da model uvrstimo v katalog in ga ne stre%C5%BEemo. Kartica so referen%C4%8Dne informacije %E2%80%94 ponudnik, licenca, okno konteksta, kje po navedbah ponudnika te%C4%8De, viri za vsako %C5%A1tevilko %E2%80%94 in zanjo ne odgovarja nobena kon%C4%8Dna to%C4%8Dka LLM EU. %C4%8Ce API vpra%C5%A1ate zanj, prejmete 404 hosted_unavailable z opombo %C2%BBsamo katalog %E2%80%94 %C5%A1e ni gostovan na LLM EU%C2%AB; stran zanj ne navaja cene, ker je cena za nekaj, kar nih%C4%8De ne more poklicati, trditev brez podlage. Zahteve za ta model gredo neposredno k njegovemu ponudniku, pod pogoji tega ponudnika, in kartica modela to natan%C4%8Dno navaja. Nasprotna zna%C4%8Dka prav tako ni mo%C4%8Dnej%C5%A1a obljuba: model, ki ga gostimo, je gostovan v imenovani regiji z imenovanim razredom suverenosti, in to je trditev, ki jo lahko preverite v sledi. Nobena zna%C4%8Dka ni izjava o skladnosti. packages/router/src/engine.mjs:325 (usmerjevalnik zavrne to vrsto), apps/api/src/app.mjs:235 (404 hosted_unavailable z opombo), apps/web/server/pages/docs.mjs:446 (cene presko%C4%8Dijo catalogue_only) ## Kako danes delujejo cene in dobroimetje? Cene so na milijon %C5%BEetonov vhodnih in izhodnih, shranjene po kon%C4%8Dni to%C4%8Dki in prikazane na strani s cenami in karticah modelov, v EUR, izpeljane iz enega objavljenega te%C4%8Daja USD; glavna knjiga sama shranjuje mikroenote USD in na vsako vrstico zapi%C5%A1e te%C4%8Daj, zato je mogo%C4%8De pretekli ra%C4%8Dun natan%C4%8Dno rekonstruirati. Vsako dokon%C4%8Danje vrne cost_estimate_usd in cost_estimate_eur, sled pa zabele%C5%BEi stro%C5%A1ek v obeh. Omejitve politike %E2%80%94 omejitev na milijon in dnevna omejitev %E2%80%94 se preverijo pred usmerjanjem, zato je zahteva nad prora%C4%8Dunom zavrnjena, ne izvedena. Karti%C4%8Dna pla%C4%8Dila v tej namestitvi niso omogo%C4%8Dena in ni%C4%8D ne doda dobroimetja samodejno: ni zagona ra%C4%8Dunov in %C5%A1e ni operaterske poti za dobroimetje. Konzola prikazuje, koliko je bilo porabljeno in koliko ostaja. %C4%8Ce se zastavica stripe_enabled vklopi, upravljalnik dobroimetja sprejme poslani znesek, ne da bi preveril, ali je bilo pla%C4%8Dilo izvedeno %E2%80%94 zato mora zastavica ostati izklopljena, dokler preverjanje pla%C4%8Dila ni implementirano in preizku%C5%A1eno, in zato to povemo tukaj, namesto da bi ponudili gumb za pla%C4%8Dilo. docs/product/decisions.md:148 (ADR-008 %E2%80%94 shranjene mikroenote, prikazani EUR), apps/api/src/inference.mjs:457 (ocene stro%C5%A1kov na zahtevo), apps/web/server/pages/docs.mjs:463 (stran s cenami navaja, da so pla%C4%8Dila izklopljena), apps/web/server/pages/docs.mjs:559 (upravljalnik dobroimetja ne preverja pla%C4%8Dila) ## Lahko gostimo sami? Ne prek %C4%8Desar koli, kar danes dobavljamo. Ni samogostujo%C4%8De distribucije: ni slike vsebnika, ni namestitvenega programa, ni licence za name%C5%A1%C4%8Danje na lokaciji, ni pogodbe o podpori za poganjanje tega v va%C5%A1em lastnem okolju, in ta repozitorij ni ponujen kot podprta namestitev. Ekipna povr%C5%A1ina konzole obstaja, vendar vloge organizacije niso popoln nadzor dostopa na podlagi vlog, in to je dokumentirano, ne pa zamol%C4%8Dano. Kar katalog vsebuje, je razred reziden%C4%8Dnosti on_prem_customer %E2%80%94 %C2%BBmodel te%C4%8De znotraj infrastrukture, ki jo nadzoruje stranka%C2%AB %E2%80%94 in to je klasifikacija lastni%C5%A1tva in delovanja kon%C4%8Dne to%C4%8Dke, ne na%C5%A1a ponudba. Veliko modelov v katalogu objavlja odprte ute%C5%BEi, njihove licence (nekatere nekomercialne, nekatere samo za raziskave) pa so na karticah s povezavo, tako da lahko ocenite, ali jih boste poganjali sami; to je odlo%C4%8Ditev o tujih ute%C5%BEeh in tuji licenci, ne samogostujo%C4%8Di izdelek podjetja LLM EU. Za pogovor o name%C5%A1%C4%8Danju na lokaciji so prava vrata stran za podjetja, in po%C5%A1teno je, da dogovor %C5%A1e ne obstaja. packages/router/src/engine.mjs:12 (on_prem_customer se pojavi le v preslikavah reziden%C4%8Dnosti), packages/shared/src/catalog-schema.mjs:84 (njegova definicija), apps/web/server/pages/docs.mjs:517 (nepopoln RBAC, navedeno), packages/content/models.mjs:695 (licenca za odprte ute%C5%BEi na kartici) %C4%8Ce je odgovor tukaj napa%C4%8Den, je to napaka in z njim ravnamo kot z napako. Kjer se koda in ta stran ne ujemata, zmaga koda %E2%80%94 stran z dokazi, varnostna stran in pravno kazalo pa so mesta, kjer hranimo preostale neprijetne podrobnosti, namesto da bi jih ponavljali desetkrat. Vpra%C5%A1anja, na katera ta stran ne odgovarja: [mail@llmeu.com](mailto:mail@llmeu.com) [Dokazi in preverjanje](/sl/docs/evidence/) %C2%B7[Varnost](/sl/security/) %C2%B7[Pravno](/sl/legal/) %C2%B7[Dostopnost](/sl/accessibility/)