Pogosto zastavljena vprašanja
Večina strani na tem spletnem mestu podaja trditev. Ta odgovarja na deset vprašanj, zaradi katerih nam kupec običajno mora poslati e-pošto. Kjer je odgovor »še ne«, piše »še ne« — stran, ki bi pretiravala, bi bila vredna manj kot nobena stran, ker je vsaka druga stran tukaj napisana tako, da jo je mogoče preveriti.
Kje se obdelujejo pozivi in dokončanja?
Na končni točki, ki jo izbere usmerjevalnik, ki je imenovana regija, in odgovor vam pove katera: blok llmeu pri vsakem dokončanju nosi inference_region, endpoint_id in sovereignty_class. Vrednost rezidenčnosti v vaši politiki omejuje ta nabor pred izbiro; uporabljena je kot filter, ne kot preferenca, in catalogue_unknown ni nikoli usmerljiv. Dve omejitvi tega stavka. Prvič, vrstice regij so konfiguracijski podatki, ne dokaz o delujočih strojih ali potrjenih pogodbah operaterjev — dokument o rezidenčnosti to pove z lastnimi besedami, in to ponavljamo tukaj, ne le tam. Drugič, v tej uvedbi ni GPU: privzeti zaledni sistem je mock, katerega regija je dev-mock, in mock ne predstavlja kraja. Glejte »Kaj se zgodi, če ni GPU?« spodaj. API, ki to počne, je proces Node, ni del te statične strani — llmeu.com sam odgovarja na strani, ne obdeluje zahtev.
apps/api/src/inference.mjs:457 (odgovorni blok llmeu), packages/router/src/engine.mjs:467 (rezidenčnost se uporabi pred ocenjevanjem), packages/inference/src/mock.mjs:7 (MOCK_REGION = dev-mock), packages/shared/src/catalog-schema.mjs:64 (usmerljivi razredi)
Ali se pozivi in dokončanja hranijo?
Ne. Telesa pozivov in dokončanj se ne zapišejo v bazo. Vsak klic shrani metapodatke — zahtevani in uporabljeni model, različico, končno točko, regijo, razred suverenosti, razlog usmerjevalnika, števce žetonov, zakasnitev, stroške, stanje — in prompt_stored v vrstici je 0. Dva stolpca za telo obstajata v shemi in sta null. Uveljavljanje je koda, ne besedilo politike: zahteva, katere učinkovita hramba je kar koli drugega kot nič, je zavrnjena, s 403 retention_exceeds_policy, če zahteva več, kot dovoljuje vaša politika, in 501 retention_not_implemented, če je dovoljena, a neimplementirana. Politike lahko shranijo 24h, 7d ali 30d kot izbire; shranjevanje izbire ne omogoči shranjevanja telesa. Če sled kadarkoli pokaže prompt_stored, ki ni 0, je to enostranski odgovor na »kaj ste obdržali« — in to lahko preverite sami z jq, kot prikazuje stran z dokazi.
packages/shared/src/db/schema.sql:295 (prompt_stored in dva stolpca za telo), apps/api/src/inference.mjs:83 (IMPLEMENTED_RETENTION = zero), apps/api/src/inference.mjs:89 (403 retention_exceeds_policy), apps/api/src/inference.mjs:97 (501 retention_not_implemented), docs/product/decisions.md:62 (ADR-003)
Ali trenirate na podatkih strank?
Ne — nič v tem izdelku ni v položaju, da bi to počelo. V API-ju, spletnem procesu, usmerjevalniku ali skupnih paketih ni poti kode za usposabljanje ali fino prilagajanje. API orkestrira zahtevo do zalednega sistema in jo meri; ni zajemanja naborov podatkov, shrambe korpusa ali opravila za fino prilagajanje. Telesa pozivov in dokončanj se ne zapišejo v bazo, tako da ni niti shranjenega korpusa za usposabljanje. To je izjava o naši kodi, ne o podatkih za usposabljanje vsakega modela navzgor. Modeli, ki so bili usposobljeni na podatkih drugih ljudi ali ki razkrijejo svoje podatke za usposabljanje, so opisani na svojih karticah z viri, in nekatere od teh kartic pravijo, da podatki za usposabljanje niso objavljeni.
apps/api/src/inference.mjs (celotna pot zahteve: orkestracija, merjenje, nikoli shranjevanje), packages/shared/src/db/schema.sql (nobene tabele za nabor podatkov ali korpus), packages/content/models.mjs:196 (kartica, ki pravi, da podatki za usposabljanje niso objavljeni)
Kaj se zgodi, ko nobena končna točka ne ustreza moji politiki rezidenčnosti?
Zahteva ne uspe. Ni ponižana na bližnjo regijo in ni poslana nikamor drugam: 409 no_endpoint_for_policy, z razlogom v telesu napake in izključenimi končnimi točkami, navedenimi v sledi. Rezidenčnost se uporabi pred ocenjevanjem, in preklop ob napaki se vedno premakne le znotraj nabora, ki ga je usmerjevalnik že filtriral — zato ponovni poskus ne more tiho ubežati pravilu, ki ste ga nastavili. Koda to pove v enem stavku: »Nobena končna točka ne ustreza rezidenčnosti {x}. Rezidenčnost se nikoli ne sprosti tiho.« Kaj storiti: navedite regijo ali razred, ki ga vaša politika dovoljuje, namerno razširite politiko (odločitev, z vnosom v dnevnik sprememb), ali sprejmite, da za ta model pod tem pravilom ne obstaja pot. 409 pomeni, da izdelek deluje, kot je zasnovan; način okvare, ki ga preprečuje, je zahteva, ki je »uspela« nekje, kjer tega niste dovolili.
packages/shared/src/errors.mjs:59 (no_endpoint_for_policy), packages/router/src/engine.mjs:370 (napaka, pred ocenjevanjem), packages/router/src/engine.mjs:507 (preklop ob napaki ne more zapustiti filtriranega nabora), apps/api/src/inference.mjs:137 (hramba se preveri pred usmerjanjem)
Ali je to skladno z GDPR ali certificirano?
Te trditve ne dajemo in je ne bomo — ne »skladno z aktom o umetni inteligenci«, ne »certificirano«, ne »uradno EU«. LLM EU je zasebno podjetje. Ni institucija EU in ni organ za ocenjevanje skladnosti. »Potrjeno« na tem spletnem mestu pomeni dokumentirano, ne pravno certificirano: to je kontrolni seznam razkritij, ocenjen po tem, ali kartica navaja svojo rezidenčnost, ponudnika, različico, hrambo, podizvajalce in licenco, s povezavami. Kar lahko navedemo, je, kaj počne koda, in kje so vrzeli: ničelna hramba, uveljavljena v kodi; API-ključi, shranjeni kot scrypt zgoščene vrednosti, s skrivnostjo, prikazano enkrat; vsaka poizvedba stranke omejena z ID-jem organizacije; omejitve hitrosti na IP, ključ in organizacijo; telesa zahtev omejena in validirana. Kaj ni storjeno: ni neodvisnega preizkusa prodora; ni revizije tretje strani; obvestilo o zasebnosti in pogoji so povzetki; DPA je nepregledana, nepodpisana predloga; seznam podizvajalcev je nepopoln. Varnostna stran in pravno kazalo navajata te vrzeli v svojih razdelkih; ta odgovor pokaže nanje, namesto da bi jih parafraziral v nekaj mehkejšega.
docs/product/decisions.md:115 (ADR-006 — nobenega žiga skladnosti, v nobenem nizu), apps/web/server/pages/docs.mjs:537 (SECURITY_COPY: seznam kontrol in vrzeli), apps/web/server/pages/docs.mjs:643 (LEGAL_READINESS: pripravljenost po dokumentih)
Ali je API združljiv z OpenAI in kaj stranka spremeni?
Osnovni URL in nič drugega. /v1/chat/completions sprejema uradno obliko zahteve in vrača uradno obliko odgovora — choices, usage, pretakanje kot SSE — tako da uradni SDK-ji delujejo, ko jih usmerite na nas. Dodatna polja v telesu se ignorirajo, ne zavrnejo, zato novejši SDK ne more pokvariti starejše poti. Kar je dodano, je neobvezno in dopolnilno: imensko prostorski objekt llmeu v zahtevi (residency, task, retention, data_class, policy_id, max_usd_per_1m, allow_partners) in blok llmeu v odgovoru, ki nosi trace_id, model_used, model_version, provider, endpoint_id, inference_region, sovereignty_class, route_reason, policy_id, retention in ocene stroškov. Namerno ni ponujeno: /v1/completions (501), n > 1 (400), vdelave, razen če je vdelan model dejansko gostovan. Blok llmeu lahko pridobi polja; odstranitev enega bi bila zlomna sprememba in bi se pojavila v dnevniku sprememb.
docs/product/decisions.md:78 (ADR-004), apps/api/src/app.mjs:554 (odgovor, ki ga bere odjemalec), apps/api/src/app.mjs:255 (501 na /v1/completions), apps/web/server/pages/docs.mjs:403 (pisna pogodba o združljivosti)
Kaj se zgodi, če ni GPU?
Odgovori MockBackend, in to pove v lastnem izhodu: dokončanje navede model in regijo, izjavi, da niso tekle prave uteži, in pove, kako vklopiti inferenco prve strani (VLLM_BASE_URL, nato zastavica gpu_enabled). Njegova regija je dev-mock, ki ni kraj, in pri mock klicu ni zaračunanega. GET /readyz poroča, kateri zaledni sistemi so aktivni, in pripravljenosti ne izpolni vrstica končne točke, ki pravi, da je aktivna — upravljano izvajalno okolje mora dejansko poročati, da je zdravo, ker je bistvo tega preizkusa ujeti vozlišče, katerega uteži se še nalagajo. Register zalednih sistemov noče nadomestiti mocka za končno točko, katere izvajalno okolje je vllm; namesto tega vrže napako. Pošten povzetek je neprijeten in ga je vredno povedati jasno: ta uvedba nima GPU, zato je klic tukaj predstavitev cevovoda, ne zagon modela. Uspeh mocka je uspeh na žici; nikoli ni predstavljen kot pravi zagon modela.
packages/inference/src/mock.mjs:49 (odgovor, ki navaja mock), apps/api/src/app.mjs:157 (pripravljenost vključuje upravljane zaledne sisteme), docs/product/decisions.md:131 (ADR-007 — register noče ponarejati izvajalnega okolja GPU)
Kaj pomeni kartica modela z oznako catalogue_only?
Pomeni, da model katalogiziramo in ga ne strežemo. Kartica je referenčna informacija — ponudnik, licenca, okno konteksta, kjer ponudnik pravi, da teče, viri za vsako številko — in nobena končna točka LLM EU ne odgovarja zanj. Če API vprašate zanj, dobite 404 hosted_unavailable z opombo »samo katalog — še ni gostovan na LLM EU«; stran zanj ne navaja cene, ker je cena za nekaj, kar nihče ne more poklicati, trditev brez podlage. Zahteve za ta model gredo neposredno k njegovemu ponudniku, pod pogoji tega ponudnika, in kartica modela točno to pravi. Tudi nasprotna značka ni močnejša obljuba: model, ki ga gostimo, je gostovan v imenovani regiji z imenovanim razredom suverenosti, in to je trditev, ki jo lahko preverite v sledi. Nobena značka ni izjava o skladnosti.
packages/router/src/engine.mjs:325 (usmerjevalnik zavrne vrsto), apps/api/src/app.mjs:235 (404 hosted_unavailable z opombo), apps/web/server/pages/docs.mjs:446 (cene preskočijo catalogue_only)
Kako danes delujeta cene in dobroimetje?
Cene so na milijon žetonov za vhod in izhod, shranjene na končno točko in prikazane na strani s cenami in karticah modelov, v EUR, izpeljane iz enega objavljenega tečaja USD; knjiga sama shranjuje mikroe USD in zapiše tečaj v vsako vrstico, tako da je pretekli račun mogoče natančno rekonstruirati. Vsako dokončanje vrne cost_estimate_usd in cost_estimate_eur, sled pa zabeleži strošek v obeh. Omejitve politike — zgornja meja na milijon in dnevna zgornja meja — se preverijo pred usmerjanjem, zato je zahteva nad proračunom zavrnjena, ne izvedena. Plačila s kartico v tej uvedbi niso omogočena in nič ne doda dobroimetja samodejno: ni zagona računov in še ni operaterske poti dobroimetja. Konzola prikaže, koliko je bilo porabljeno in koliko ostaja. Če se zastavica stripe_enabled vklopi, upravitelj dobroimetja sprejme poslani znesek, ne da bi preveril, ali je plačilo bilo izvedeno — zato mora zastavica ostati izklopljena, dokler preverjanje plačil ni implementirano in preizkušeno, in zato to povemo tukaj, namesto da bi ponudili gumb za plačilo.
docs/product/decisions.md:148 (ADR-008 — shranjeni mikro, prikazani EUR), apps/api/src/inference.mjs:457 (ocene stroškov na zahtevo), apps/web/server/pages/docs.mjs:463 (stran s cenami navaja, da so plačila izklopljena), apps/web/server/pages/docs.mjs:559 (upravitelj dobroimetja ne preveri plačila)
Ali lahko gostimo sami?
Ne prek ničesar, kar pošiljamo danes. Ni samostojno gostovane distribucije: ni slike vsebnika, ni namestitvenega programa, ni licence za nameščanje na mestu, ni pogodbe o podpori za izvajanje tega v vašem okolju, in ta repozitorij ni ponujen kot podprta uvedba. Ekipna površina konzole obstaja, vendar vloge organizacije niso popoln nadzor dostopa na podlagi vlog, in to je dokumentirano, ne pa zamolčano. Kar katalog vsebuje, je razred rezidenčnosti, imenovan on_prem_customer — »model teče znotraj infrastrukture, ki jo nadzoruje stranka« — in to je klasifikacija lastništva in delovanja končne točke, ne naša ponudba. Mnogi modeli v katalogu objavljajo odprte uteži, njihove licence (nekatere nekomercialne, nekatere samo za raziskave) pa so na karticah s povezavo, tako da lahko ocenite njihovo samostojno izvajanje; to je odločitev o tujih utežeh in tuji licenci, ne izdelek za samostojno gostovanje LLM EU. Za pogovor o nameščanju na mestu so prava vrata stran za podjetja, in pošteno je, da dogovor še ne obstaja.
packages/router/src/engine.mjs:12 (on_prem_customer se pojavi le v preslikavah rezidenčnosti), packages/shared/src/catalog-schema.mjs:84 (njegova definicija), apps/web/server/pages/docs.mjs:517 (nepopoln RBAC, navedeno), packages/content/models.mjs:695 (licenca za odprte uteži na kartici)
Če je odgovor tukaj napačen, je to napaka in z njim ravnamo kot z napako. Kjer se koda in ta stran ne ujemata, zmaga koda — in stran z dokazi, varnostna stran in pravno kazalo so mesta, kjer hranimo preostale neprijetne podrobnosti, namesto da bi jih ponavljali desetkrat.
Vprašanja, na katera ta stran ne odgovarja: mail@llmeu.com