Često postavljana pitanja
Većina stranica na ovom web mjestu iznosi tvrdnju. Ova odgovara na deset pitanja koja kupac obično mora poslati e-poštom da bi dobio odgovor. Gdje je odgovor "još ne", piše "još ne" — stranica koja bi pretjerivala vrijedila bi manje od nikakve stranice, jer je svaka druga stranica ovdje napisana da bude provjerljiva.
Gdje se obrađuju upiti i dovršetci?
Na endpointu koji router odabere, a to je imenovana regija, i odgovor vam govori koja: llmeu blok na svakom dovršetku nosi inference_region, endpoint_id i sovereignty_class. Vrijednost rezidencije u vašoj politici ograničava taj skup prije odabira; primjenjuje se kao filtar, a ne kao preferencija, a catalogue_unknown nikada nije usmjeriv. Dvije granice na tu rečenicu. Prvo, retci regija su konfiguracijski podaci, a ne dokaz o pokrenutim strojevima ili potvrđenim operaterskim ugovorima — dokument o rezidenciji to kaže svojim riječima, a mi to ponavljamo ovdje, a ne samo tamo. Drugo, na ovoj implementaciji nema GPU-a: zadani backend je mock, čija je regija dev-mock, a mock ne predstavlja mjesto. Pogledajte "Što se događa ako nema GPU-a?" u nastavku. API koji to radi je Node proces, nije dio ove statične stranice — sam llmeu.com odgovara na stranice, ne obrađuje zahtjeve.
apps/api/src/inference.mjs:457 (llmeu blok odgovora), packages/router/src/engine.mjs:467 (rezidencija se primjenjuje prije bodovanja), packages/inference/src/mock.mjs:7 (MOCK_REGION = dev-mock), packages/shared/src/catalog-schema.mjs:64 (klase koje se mogu usmjeriti)
Čuvaju li se upiti i dovršetci?
Ne. Tijela upita i dovršetaka ne zapisuju se u bazu podataka. Svaki poziv pohranjuje metapodatke — traženi i korišteni model, verziju, endpoint, regiju, klasu suverenosti, routerov razlog, brojanje tokena, latenciju, trošak, status — a prompt_stored u retku je 0. Dva stupca tijela postoje u schemi i null su. Provedba je kod, a ne politička proza: zahtjev čija je efektivna retencija bilo što osim nule se odbija, s 403 retention_exceeds_policy ako traži više nego što vaša politika dopušta i 501 retention_not_implemented ako je dopušteno ali neimplementirano. Politike mogu pohraniti 24h, 7d ili 30d kao izbore; pohranjivanje izbora ne omogućuje pohranjivanje tijela. Ako trag ikada pokaže prompt_stored različit od 0, to je jednostranični odgovor na "što ste zadržali" — i možete to sami provjeriti s jq, kao što pokazuje stranica s dokazima.
packages/shared/src/db/schema.sql:295 (prompt_stored i dva stupca tijela), apps/api/src/inference.mjs:83 (IMPLEMENTED_RETENTION = zero), apps/api/src/inference.mjs:89 (403 retention_exceeds_policy), apps/api/src/inference.mjs:97 (501 retention_not_implemented), docs/product/decisions.md:62 (ADR-003)
Trenirate li na podacima korisnika?
Ne — ništa u ovom proizvodu nije u poziciji da to čini. Ne postoji put koda za treniranje ili fino podešavanje u API-ju, web procesu, routeru ili dijeljenim paketima. API orkestrira zahtjev prema backendu i mjeri ga; nema unosa skupa podataka, nema spremišta korpusa i nema posla fino podešavanja. Tijela upita i dovršetaka ne zapisuju se u bazu podataka, pa čak i nema pohranjenog korpusa za treniranje. To je izjava o našem kodu, a ne o uzvodnim podacima za treniranje svakog modela. Modeli koji su trenirani na tuđim podacima ili koji objavljuju svoje podatke za treniranje opisani su na vlastitim karticama, s izvorima, a neke od tih kartica kažu da podaci za treniranje nisu objavljeni.
apps/api/src/inference.mjs (cijeli put zahtjeva: orkestriraj, mjeri, nikad ne pohranjuj), packages/shared/src/db/schema.sql (nema tablice skupa podataka ili korpusa), packages/content/models.mjs:196 (kartica koja kaže da podaci za treniranje nisu objavljeni)
Što se događa kada nijedan endpoint ne zadovoljava moju politiku rezidencije?
Zahtjev ne uspijeva. Ne degradira se na obližnju regiju i ne šalje se nigdje drugdje: 409 no_endpoint_for_policy, s razlogom u tijelu pogreške i isključenim endpointima navedenim na tragu. Rezidencija se primjenjuje prije bodovanja, a failover se uvijek kreće samo unutar skupa koji je router već filtrirao — zato ponovni pokušaj ne može tiho izbjeći pravilo koje ste postavili. Kod to kaže u jednoj rečenici: "Nijedan endpoint ne zadovoljava rezidenciju {x}. Rezidencija se nikada ne opušta tiho." Što učiniti u vezi s tim: navedite regiju ili klasu koju vaša politika dopušta, proširite politiku namjerno (odluka, s unosom u dnevnik promjena) ili prihvatite da ne postoji ruta za taj model pod tim pravilom. 409 je proizvod koji radi kako je dizajniran; način neuspjeha koji sprječava je zahtjev koji je "uspio" negdje gdje niste dopustili.
packages/shared/src/errors.mjs:59 (no_endpoint_for_policy), packages/router/src/engine.mjs:370 (neuspjeh, prije bodovanja), packages/router/src/engine.mjs:507 (failover ne može napustiti filtrirani skup), apps/api/src/inference.mjs:137 (retencija se provjerava prije usmjeravanja)
Je li ovo u skladu s GDPR-om ili certificirano?
Ne dajemo tu tvrdnju i nećemo — ni "u skladu s AI Act-om", ni "certificirano", ni "Službeno EU". LLM EU je privatna tvrtka. Nije institucija EU-a i nije tijelo za ocjenu sukladnosti. "Verificirano" na ovoj stranici znači dokumentirano, a ne pravno certificirano: to je kontrolni popis objava, bodovan prema tome navodi li kartica svoju rezidenciju, pružatelja, verziju, retenciju, podizvođače i licencu, s poveznicama. Ono što možemo navesti je što kod radi i gdje su praznine: nulta retencija provedena u kodu; API ključevi pohranjeni kao scrypt hashovi s tajnom prikazanom jednom; svaki upit kupca ograničen na organizacijski id; ograničenja brzine po IP-u, po ključu i po organizaciji; tijela zahtjeva ograničena i validirana. Ono što nije učinjeno: nema neovisnog testa penetracije; nema revizije treće strane; obavijest o privatnosti i uvjeti su sažeci; DPA je nepregledan, nepotpisan predložak; popis podizvođača je nepotpun. Sigurnosna stranica i pravni indeks navode te praznine u vlastitim odjeljcima; ovaj odgovor upućuje na njih umjesto da ih parafrazira u nešto blaže.
docs/product/decisions.md:115 (ADR-006 — nema oznake sukladnosti, ni u jednom stringu), apps/web/server/pages/docs.mjs:537 (SECURITY_COPY: popis kontrola i praznina), apps/web/server/pages/docs.mjs:643 (LEGAL_READINESS: spremnost po dokumentu)
Je li API kompatibilan s OpenAI-jem i što kupac mijenja?
Osnovni URL i ništa drugo. /v1/chat/completions prihvaća službeni oblik zahtjeva i vraća službeni oblik odgovora — choices, usage, streaming kao SSE — pa službeni SDK-ovi rade nakon što ih usmjerite na nas. Dodatna polja tijela se ignoriraju umjesto da se odbijaju, pa noviji SDK ne može slomiti stariju rutu. Ono što je dodano je neobavezno i aditivno: imenski prostor llmeu objekta u zahtjevu (residency, task, retention, data_class, policy_id, max_usd_per_1m, allow_partners) i llmeu blok u odgovoru koji nosi trace_id, model_used, model_version, provider, endpoint_id, inference_region, sovereignty_class, route_reason, policy_id, retention i procjene troškova. Ne nudi se, namjerno: /v1/completions (501), n > 1 (400), embeddings osim ako je model za embeddings stvarno hostan. llmeu blok može dobiti polja; uklanjanje jednog bilo bi prekidajuća promjena i pojavilo bi se u dnevniku promjena.
docs/product/decisions.md:78 (ADR-004), apps/api/src/app.mjs:554 (odgovor koji klijent čita), apps/api/src/app.mjs:255 (501 na /v1/completions), apps/web/server/pages/docs.mjs:403 (napisani ugovor o kompatibilnosti)
Što se događa ako nema GPU-a?
MockBackend odgovara i to kaže u vlastitom izlazu: dovršetak imenuje model i regiju, navodi da nisu pokrenute prave težine i kaže kako uključiti inferenciju prvog lica (VLLM_BASE_URL, zatim gpu_enabled flag). Njegova regija je dev-mock, što nije mjesto, a na mock poziv nema naplate. GET /readyz izvješćuje koji su backendovi aktivni, a spremnost nije zadovoljena retkom endpointa koji kaže up — upravljano runtime mora stvarno prijaviti zdravo, jer je cijela svrha te probe uhvatiti čvor čije se težine još učitavaju. Registar backendova odbija zamijeniti mock za endpoint čiji je runtime vllm; umjesto toga baca iznimku. Iskreni sažetak je neugodan i vrijedi ga jasno navesti: ova implementacija nema GPU, pa je poziv ovdje demonstracija cjevovoda, a ne pokretanje modela. Mock uspjeh je uspjeh na žici; nikada se ne predstavlja kao stvarno pokretanje modela.
packages/inference/src/mock.mjs:49 (odgovor koji imenuje mock), apps/api/src/app.mjs:157 (spremnost uključuje upravljane backendove), docs/product/decisions.md:131 (ADR-007 — registar odbija lažirati GPU runtime)
Što znači kartica modela označena s catalogue_only?
Znači da katalogiziramo model i ne poslužujemo ga. Kartica je referentna informacija — pružatelj, licenca, kontekstni prozor, gdje pružatelj kaže da se izvodi, izvori za svaku brojku — i nijedan LLM EU endpoint ne odgovara za njega. Zatražite ga od API-ja i dobit ćete 404 hosted_unavailable, s napomenom "samo katalog — još nije hostan na LLM EU"; stranica za njega ne navodi cijenu, jer cijena za nešto što nitko ne može pozvati je tvrdnja bez ičega iza sebe. Zahtjevi za taj model idu izravno njegovom pružatelju, pod uvjetima tog pružatelja, i kartica modela kaže upravo to. Suprotna značka također nije jače obećanje: model koji hostamo hostan je u imenovanoj regiji s imenovanom klasom suverenosti, i to je tvrdnja koju možete provjeriti na tragu. Nijedna značka nije izjava o sukladnosti.
packages/router/src/engine.mjs:325 (router odbija tu vrstu), apps/api/src/app.mjs:235 (404 hosted_unavailable s napomenom), apps/web/server/pages/docs.mjs:446 (cjenik preskače catalogue_only)
Kako danas funkcioniraju cijene i kredit?
Cijene su po milijunu tokena ulaznih i izlaznih, pohranjene po endpointu i prikazane na stranici s cijenama i karticama modela, u EUR, izvedene iz jedne objavljene USD stope; sama knjiga pohranjuje USD mikro i upisuje stopu u svaki redak, tako da se prošli račun može točno rekonstruirati. Svaki dovršetak vraća cost_estimate_usd i cost_estimate_eur, a trag bilježi trošak u obje valute. Ograničenja politike — ograničenje po milijunu i dnevno ograničenje — provjeravaju se prije usmjeravanja, pa se zahtjev iznad proračuna odbija umjesto da se izvrši. Plaćanje karticom nije omogućeno na ovoj implementaciji i ništa ne dodaje kredit automatski: još nema pokretanja računa ni operaterskog puta za kredit. Konzola prikazuje što je potrošeno i što je ostalo. Ako se uključi stripe_enabled flag, rukovatelj kreditom prihvaća poslani iznos bez provjere da je plaćanje izvršeno — zato taj flag mora ostati isključen dok se provjera plaćanja ne implementira i testira, i zato to kažemo ovdje umjesto da nudimo gumb za plaćanje.
docs/product/decisions.md:148 (ADR-008 — mikro pohranjeni, EUR prikazan), apps/api/src/inference.mjs:457 (procjene troškova po zahtjevu), apps/web/server/pages/docs.mjs:463 (stranica s cijenama navodi da su plaćanja isključena), apps/web/server/pages/docs.mjs:559 (rukovatelj kreditom ne provjerava plaćanje)
Možemo li sami hostati?
Ne kroz bilo što što danas isporučujemo. Ne postoji self-hosted distribucija: nema container imagea, nema instalatera, nema on-premise licence, nema ugovora o podršci za pokretanje ovoga u vašem vlastitom okruženju, a ovaj repozitorij nije ponuđen kao podržana implementacija. Konzolna timska površina postoji, ali organizacijske uloge nisu potpuna kontrola pristupa temeljena na ulogama, i to je dokumentirano umjesto da se prešuti. Ono što katalog nosi jest klasa rezidencije zvana on_prem_customer — "model se izvodi unutar infrastrukture koju kupac kontrolira" — i to je klasifikacija vlasništva i rada endpointa, a ne naša ponuda. Mnogi modeli u katalogu objavljuju otvorene težine, a njihove licence (neke nekomercijalne, neke samo za istraživanje) nalaze se na karticama s poveznicom, pa možete procijeniti njihovo samostalno pokretanje; to je odluka o tuđim težinama i tuđoj licenci, a ne self-hosting proizvod od LLM EU. Za on-premise razgovor, enterprise stranica su prava vrata, i iskreno je da taj aranžman još ne postoji.
packages/router/src/engine.mjs:12 (on_prem_customer pojavljuje se samo u mapiranjima rezidencije), packages/shared/src/catalog-schema.mjs:84 (njegova definicija), apps/web/server/pages/docs.mjs:517 (nepotpuni RBAC, navedeno), packages/content/models.mjs:695 (licenca otvorenih težina na kartici)
Ako je odgovor ovdje pogrešan, to je nedostatak i tako se prema njemu odnosimo. Gdje se kod i ova stranica ne slažu, kod pobjeđuje — a stranica s dokazima, sigurnosna stranica i pravni indeks mjesta su gdje držimo ostatak neugodnih detalja umjesto da ih ponavljamo deset puta.
Pitanja na koja ova stranica ne odgovara: mail@llmeu.com