Title: LLM FAQ: podaci, zadr%C5%BEavanje, cijene %E2%80%94 LLM EU Canonical: https://llmeu.com/hr/faq/ Markdown mirror: https://llmeu.com/hr/faq.md Machine-readable: https://llmeu.com/llms.txt (index) - https://llmeu.com/llms-full.txt (full catalogue) - https://llmeu.com/llms-catalogue.json # %C4%8Cesto postavljana pitanja Ve%C4%87ina stranica na ovom mjestu iznosi tvrdnju. Ova odgovara na deset pitanja koja kupac obi%C4%8Dno mora poslati e-po%C5%A1tom da bi dobio odgovor. Gdje je odgovor "jo%C5%A1 ne", pi%C5%A1e "jo%C5%A1 ne" %E2%80%94 stranica koja bi pretjerivala vrijedila bi manje od nikakve stranice, jer je svaka druga stranica ovdje napisana tako da se mo%C5%BEe provjeriti. ## Gdje se obra%C4%91uju upiti i dovr%C5%A1eci? Na krajnjoj to%C4%8Dki koju odabere usmjeriva%C4%8D, a to je imenovana regija, i odgovor vam ka%C5%BEe koja: llmeu blok na svakom dovr%C5%A1etku nosi inference_region, endpoint_id i sovereignty_class. Vrijednost rezidentnosti u va%C5%A1oj politici ograni%C4%8Dava taj skup prije odabira; primjenjuje se kao filtar, a ne kao preferencija, i catalogue_unknown nikada nije usmjeriv. Dvije granice te re%C4%8Denice. Prvo, reci regija su konfiguracijski podaci, a ne dokaz o pokrenutim strojevima ili potvr%C4%91enim ugovorima s operaterima %E2%80%94 dokument o rezidentnosti to govori svojim rije%C4%8Dima, a mi to ponavljamo ovdje, a ne samo tamo. Drugo, na ovoj implementaciji nema GPU kapaciteta prve strane: zahtjeve poslu%C5%BEuju krajnje to%C4%8Dke koje bilje%C5%BEi katalog, a model bez aktivne krajnje to%C4%8Dke samo je u katalogu, pa se zahtjev za njega odbija po imenu umjesto da odgovori zamjena. Vidi "%C5%A0to se doga%C4%91a ako nema GPU-a?" u nastavku. API koji to radi je Node proces, nije dio ove stati%C4%8Dne stranice %E2%80%94 llmeu.com sam odgovara stranicama, ne obra%C4%91uje zahtjeve. apps/api/src/inference.mjs:457 (llmeu blok odgovora), packages/router/src/engine.mjs:467 (rezidentnost se primjenjuje prije bodovanja), packages/shared/src/catalog-schema.mjs:64 (usmjerive klase) ## %C4%8Cuvaju li se upiti i dovr%C5%A1eci? Ne. Tijela upita i dovr%C5%A1etka ne zapisuju se u bazu podataka. Svaki poziv pohranjuje metapodatke %E2%80%94 zatra%C5%BEeni i kori%C5%A1teni model, verziju, krajnju to%C4%8Dku, regiju, klasu suverenosti, razlog usmjeriva%C4%8Da, brojanje tokena, latenciju, tro%C5%A1ak, status %E2%80%94 a prompt_stored u retku je 0. Dva stupca za tijela postoje u shemi i null su. Provedba je kod, a ne proza pravila: zahtjev %C4%8Dija je efektivna retencija bilo %C5%A1to osim nule se odbija, s 403 retention_exceeds_policy ako tra%C5%BEi vi%C5%A1e nego %C5%A1to va%C5%A1a pravila dopu%C5%A1taju i 501 retention_not_implemented ako je dopu%C5%A1teno ali nije implementirano. Pravila mogu pohraniti 24h, 7d ili 30d kao odabire; pohrana odabira ne omogu%C4%87uje pohranu tijela. Ako trag ikada poka%C5%BEe prompt_stored razli%C4%8Dit od 0, to je odgovor na jednoj stranici na "%C5%A1to ste zadr%C5%BEali" %E2%80%94 i mo%C5%BEete to sami provjeriti s jq, kao %C5%A1to pokazuje stranica s dokazima. packages/shared/src/db/schema.sql:295 (prompt_stored i dva stupca za tijela), apps/api/src/inference.mjs:83 (IMPLEMENTED_RETENTION = zero), apps/api/src/inference.mjs:89 (403 retention_exceeds_policy), apps/api/src/inference.mjs:97 (501 retention_not_implemented), docs/product/decisions.md:62 (ADR-003) ## Trenirate li na podacima korisnika? Ne %E2%80%94 ni%C5%A1ta u ovom proizvodu nije u poziciji da to %C4%8Dini. Ne postoji putanja koda za treniranje ili fino pode%C5%A1avanje u API-ju, web procesu, usmjeriva%C4%8Du ili zajedni%C4%8Dkim paketima. API orkestrira zahtjev prema pozadinskom sustavu i mjeri ga; nema unosa skupa podataka, nema pohrane korpusa i nema posla finog pode%C5%A1avanja. Tijela upita i dovr%C5%A1etka ne zapisuju se u bazu podataka, tako da %C4%8Dak nema pohranjenog korpusa za treniranje. To je izjava o na%C5%A1em kodu, a ne o uzvodnim podacima za treniranje svakog modela. Modeli koji su trenirani na podacima drugih ljudi, ili koji otkrivaju svoje podatke za treniranje, opisani su na vlastitim karticama, s izvorima, a neke od tih kartica ka%C5%BEu da podaci za treniranje nisu objavljeni. apps/api/src/inference.mjs (cijeli put zahtjeva: orkestrira, mjeri, nikad ne pohranjuje), packages/shared/src/db/schema.sql (nema tablice skupa podataka ili korpusa), packages/content/models.mjs:196 (kartica koja ka%C5%BEe da podaci za treniranje nisu objavljeni) ## %C5%A0to se doga%C4%91a kada nijedna krajnja to%C4%8Dka ne zadovoljava moja pravila o rezidenciji? Zahtjev ne uspijeva. Ne degradira se na obli%C5%BEnju regiju i ne %C5%A1alje se nigdje drugdje: 409 no_endpoint_for_policy, s razlogom u tijelu pogre%C5%A1ke i isklju%C4%8Denim krajnjim to%C4%8Dkama navedenim na tragu. Rezidencija se primjenjuje prije bodovanja, a prebacivanje u slu%C4%8Daju kvara uvijek se kre%C4%87e samo unutar skupa koji je usmjeriva%C4%8D ve%C4%87 filtrirao %E2%80%94 zato ponovni poku%C5%A1aj ne mo%C5%BEe tiho izbje%C4%87i pravilo koje ste postavili. Kod to ka%C5%BEe u jednoj re%C4%8Denici: "Nijedna krajnja to%C4%8Dka ne zadovoljava rezidenciju {x}. Rezidencija se nikad ne ubla%C5%BEava tiho." %C5%A0to u%C4%8Diniti: navedite regiju ili klasu koju va%C5%A1a pravila dopu%C5%A1taju, pro%C5%A1irite pravila namjerno (odluka, s unosom u dnevnik promjena) ili prihvatite da ne postoji ruta za taj model pod tim pravilom. 409 je proizvod koji radi kako je dizajniran; na%C4%8Din kvara koji sprje%C4%8Dava je zahtjev koji je "uspio" negdje gdje to niste dopustili. packages/shared/src/errors.mjs:59 (no_endpoint_for_policy), packages/router/src/engine.mjs:370 (kvar, prije bodovanja), packages/router/src/engine.mjs:507 (prebacivanje u slu%C4%8Daju kvara ne mo%C5%BEe napustiti filtrirani skup), apps/api/src/inference.mjs:137 (retencija se provjerava prije usmjeravanja) ## Je li ovo uskla%C4%91eno s GDPR-om ili certificirano? Ne %E2%80%94 i ne%C4%87emo: ne "u skladu s AI Act", ne "certificirano", ne "Slu%C5%BEbeno EU". LLM EU je privatna tvrtka, a ne institucija EU-a i nije tijelo za ocjenjivanje sukladnosti. "Provjereno" ovdje zna%C4%8Di dokumentirano, a ne pravno certificirano: kontrolna lista za objavljivanje koja se ocjenjuje prema tome navodi li kartica svoju rezidenciju, pru%C5%BEatelja, verziju, retenciju, podizvo%C4%91a%C4%8De i licencu, s poveznicama. Ono %C5%A1to platforma radi navedeno je u terminima koje kod mo%C5%BEe podr%C5%BEati: nulta retencija provedena, API klju%C4%8Devi pohranjeni kao scrypt hashovi i prikazani jednom, svaki upit korisnika ograni%C4%8Den na ID organizacije, ograni%C4%8Denja brzine po IP-u, po klju%C4%8Du i po organizaciji, tijela zahtjeva ograni%C4%8Dena i validirana. Sigurnosni rad i pravni dokumenti imaju svaki svoju stranicu. docs/product/decisions.md:115 (ADR-006 %E2%80%94 bez oznake sukladnosti, u bilo kojem nizu), apps/web/server/pages/docs.mjs:537 (SECURITY_COPY: popis kontrola i nedostataka), apps/web/server/pages/docs.mjs:643 (LEGAL_READINESS: spremnost po dokumentu) ## Je li API kompatibilan s OpenAI-jem i %C5%A1to korisnik mijenja? Osnovni URL i ni%C5%A1ta drugo. /v1/chat/completions prihva%C4%87a slu%C5%BEbeni oblik zahtjeva i vra%C4%87a slu%C5%BEbeni oblik odgovora %E2%80%94 izbore, kori%C5%A1tenje, strujanje kao SSE %E2%80%94 tako da slu%C5%BEbeni SDK-ovi rade nakon %C5%A1to ih usmjerite na nas. Dodatna polja u tijelu se ignoriraju umjesto da se odbiju, tako da noviji SDK ne mo%C5%BEe slomiti stariju rutu. Ono %C5%A1to se dodaje je neobavezno i aditivno: imenski prostor llmeu objekta u zahtjevu (rezidencija, zadatak, retencija, data_class, policy_id, max_usd_per_1m, allow_partners) i llmeu blok u odgovoru koji nosi trace_id, model_used, model_version, provider, endpoint_id, inference_region, sovereignty_class, route_reason, policy_id, retenciju i procjene tro%C5%A1kova. Ne nudi se, namjerno: /v1/completions (501), n > 1 (400), embeddings osim ako je model za ugra%C4%91ivanje stvarno hostan. llmeu blok mo%C5%BEe dobiti polja; uklanjanje jednog bilo bi promjena koja prekida kompatibilnost i pojavilo bi se u dnevniku promjena. docs/product/decisions.md:78 (ADR-004), apps/api/src/app.mjs:554 (odgovor koji klijent %C4%8Dita), apps/api/src/app.mjs:255 (501 na /v1/completions), apps/web/server/pages/docs.mjs:403 (pisani ugovor o kompatibilnosti) ## %C5%A0to se doga%C4%91a ako nema GPU-a? Usmjeriva%C4%8D poslu%C5%BEuje sve %C5%BEive krajnje to%C4%8Dke koje katalog bilje%C5%BEi, a svaki odgovor navodi krajnju to%C4%8Dku, regiju i klasu suverenosti koja je odgovorila. Model bez %C5%BEive krajnje to%C4%8Dke je samo u katalogu: zahtjev za njega se odbija po imenu, a ne odgovara se zamjenom. Kapacitet prve strane treba konfigurirani bazen (VLLM_BASE_URL, zatim gpu_enabled zastavica); dok ne postoji, kapacitet je ono %C5%A1to bilje%C5%BEe retci krajnjih to%C4%8Daka, a stranice ka%C5%BEu koji je to. GET /readyz izvje%C5%A1%C4%87uje koji su pozadinski sustavi aktivni, a spremnost nije zadovoljena retkom krajnje to%C4%8Dke koji ka%C5%BEe da je aktivan %E2%80%94 upravljano izvr%C5%A1no okru%C5%BEenje mora stvarno izvijestiti da je zdravo, jer je cijela svrha te probe uhvatiti %C4%8Dvor %C4%8Diji se utezi jo%C5%A1 u%C4%8Ditavaju. Registar pozadinskih sustava odbija zamijeniti jedno izvr%C5%A1no okru%C5%BEenje drugim; umjesto toga baca iznimku. Iskreni sa%C5%BEetak je neugodan i vrijedi ga jasno navesti: ova implementacija nema GPU, tako da je poziv ovdje demonstracija cjevovoda, a ne pokretanje modela. Uspjeh zamjene bio bi uspjeh na %C5%BEici i ni%C5%A1ta vi%C5%A1e, zato se nikad ne predstavlja kao stvarno pokretanje modela. apps/api/src/app.mjs:157 (spremnost uklju%C4%8Duje upravljane pozadinske sustave), docs/product/decisions.md:131 (ADR-007 %E2%80%94 registar odbija la%C5%BEirati GPU izvr%C5%A1no okru%C5%BEenje) ## %C5%A0to zna%C4%8Di kartica modela ozna%C4%8Dena s catalogue_only? To zna%C4%8Di da katalogiziramo model i ne poslu%C5%BEujemo ga. Kartica je referentna informacija %E2%80%94 pru%C5%BEatelj, licenca, kontekstni prozor, gdje pru%C5%BEatelj ka%C5%BEe da se izvodi, izvori za svaki podatak %E2%80%94 i nijedna LLM EU krajnja to%C4%8Dka ne odgovara za njega. Zatra%C5%BEite ga od API-ja i dobit %C4%87ete 404 hosted_unavailable, s napomenom "samo katalog %E2%80%94 jo%C5%A1 nije hostan na LLM EU"; stranica za njega ne navodi cijenu, jer cijena za ne%C5%A1to %C5%A1to nitko ne mo%C5%BEe pozvati je tvrdnja bez pokri%C4%87a. Zahtjevi za taj model idu izravno njegovom pru%C5%BEatelju, pod uvjetima tog pru%C5%BEatelja, a kartica modela to to%C4%8Dno ka%C5%BEe. Suprotna zna%C4%8Dka tako%C4%91er nije ja%C4%87e obe%C4%87anje: model koji hostamo hostan je u imenovanoj regiji s imenovanom klasom suverenosti, i to je tvrdnja koju mo%C5%BEete provjeriti na tragu. Nijedna zna%C4%8Dka nije izjava o sukladnosti. packages/router/src/engine.mjs:325 (usmjeriva%C4%8D odbija tu vrstu), apps/api/src/app.mjs:235 (404 hosted_unavailable s napomenom), apps/web/server/pages/docs.mjs:446 (cjenik preska%C4%8De catalogue_only) ## Kako danas funkcioniraju cijene i kredit? Cijene su po milijunu tokena ulaznih i izlaznih, pohranjene po krajnjoj to%C4%8Dki i prikazane na stranici s cijenama i karticama modela, u EUR, izvedene iz jedne objavljene te%C4%8Dajne liste USD; sama knjiga pohranjuje USD mikro i upisuje te%C4%8Daj na svaki redak, tako da se pro%C5%A1li ra%C4%8Dun mo%C5%BEe to%C4%8Dno rekonstruirati. Svaki dovr%C5%A1etak vra%C4%87a cost_estimate_usd i cost_estimate_eur, a trag bilje%C5%BEi tro%C5%A1ak u obje valute. Ograni%C4%8Denja pravila %E2%80%94 ograni%C4%8Denje po milijunu i dnevno ograni%C4%8Denje %E2%80%94 provjeravaju se prije usmjeravanja, tako da se zahtjev iznad prora%C4%8Duna odbija umjesto da se izvr%C5%A1i. Pla%C4%87anje karticom nije omogu%C4%87eno u ovoj implementaciji i ni%C5%A1ta automatski ne dodaje kredit: jo%C5%A1 nema izrade ra%C4%8Duna ni operaterskog puta za kredit. Konzola prikazuje %C5%A1to je potro%C5%A1eno i %C5%A1to je ostalo. Ako se uklju%C4%8Di zastavica stripe_enabled, obra%C4%91iva%C4%8D kredita prihva%C4%87a poslani iznos bez provjere da je pla%C4%87anje izvr%C5%A1eno %E2%80%94 zato zastavica mora ostati isklju%C4%8Dena dok se provjera pla%C4%87anja ne implementira i testira, i zato to ovdje govorimo umjesto da nudimo gumb za pla%C4%87anje. docs/product/decisions.md:148 (ADR-008 %E2%80%94 mikro pohranjeni, EUR prikazan), apps/api/src/inference.mjs:457 (procjene tro%C5%A1kova po zahtjevu), apps/web/server/pages/docs.mjs:463 (stranica s cijenama navodi da su pla%C4%87anja isklju%C4%8Dena), apps/web/server/pages/docs.mjs:559 (obra%C4%91iva%C4%8D kredita ne provjerava pla%C4%87anje) ## Mo%C5%BEemo li sami hostati? Ne kroz bilo %C5%A1to %C5%A1to danas isporu%C4%8Dujemo. Ne postoji samostalno hostana distribucija: nema slike kontejnera, nema instalatera, nema licence za on-premise, nema ugovora o podr%C5%A1ci za pokretanje ovoga u va%C5%A1em vlastitom okru%C5%BEenju, a ovaj repozitorij se ne nudi kao podr%C5%BEana implementacija. Timska povr%C5%A1ina konzole postoji, ali uloge organizacije nisu potpuna kontrola pristupa temeljena na ulogama, i to je dokumentirano umjesto da se pre%C5%A1uti. Ono %C5%A1to katalog nosi je klasa rezidencije zvana on_prem_customer %E2%80%94 "model se izvodi unutar infrastrukture koju kontrolira korisnik" %E2%80%94 i to je klasifikacija vlasni%C5%A1tva i rada krajnje to%C4%8Dke, a ne na%C5%A1a ponuda. Mnogi modeli u katalogu objavljuju otvorene utege, a njihove licence (neke nekomercijalne, neke samo za istra%C5%BEivanje) nalaze se na karticama s poveznicom, tako da mo%C5%BEete procijeniti njihovo samostalno pokretanje; to je odluka o tu%C4%91im utezima i tu%C4%91oj licenci, a ne proizvod za samostalno hostanje od LLM EU. Za on-premise razgovor, stranica za poduze%C4%87a su prava vrata, i iskreno je da taj aran%C5%BEman jo%C5%A1 ne postoji. packages/router/src/engine.mjs:12 (on_prem_customer pojavljuje se samo u mapiranjima rezidencije), packages/shared/src/catalog-schema.mjs:84 (njegova definicija), apps/web/server/pages/docs.mjs:517 (nepotpuni RBAC, navedeno), packages/content/models.mjs:695 (licenca otvorenih utega na kartici) Ako je odgovor ovdje pogre%C5%A1an, to je nedostatak i tako se prema njemu odnosimo. Gdje se kod i ova stranica razilaze, kod pobje%C4%91uje %E2%80%94 a stranica s dokazima, stranica sa sigurno%C5%A1%C4%87u i pravni indeks mjesta su na kojima %C4%8Duvamo ostatak neugodnih pojedinosti umjesto da ih ponavljamo deset puta. Pitanja na koja ova stranica ne odgovara: [mail@llmeu.com](mailto:mail@llmeu.com) [Dokazi i provjera](/hr/docs/evidence/) %C2%B7[Sigurnost](/hr/security/) %C2%B7[Pravno](/hr/legal/) %C2%B7[Pristupa%C4%8Dnost](/hr/accessibility/)