Často kladené otázky
Väčšina stránok na tejto stránke uvádza tvrdenie. Táto odpovedá na desať otázok, ktoré kupujúci zvyčajne musí poslať e-mailom, aby dostal odpoveď. Kde je odpoveď "ešte nie", uvádza "ešte nie" — stránka, ktorá by preháňala, by mala menšiu hodnotu ako žiadna stránka, pretože každá iná stránka je napísaná tak, aby bola overiteľná.
Kde sa spracúvajú výzvy a dokončenia?
Na endpointe, ktorý router vyberie, čo je pomenovaná oblasť, a odpoveď vám povie, ktorá to je: blok llmeu pri každom dokončení nesie inference_region, endpoint_id a sovereignty_class. Hodnota rezidencie vo vašej politike obmedzuje tento súbor pred výberom; uplatňuje sa ako filter, nie ako preferencia, a catalogue_unknown nikdy nie je smerovateľný. Dve obmedzenia tohto tvrdenia. Po prvé, riadky oblastí sú konfiguračné údaje, nie dôkaz o bežiacich strojoch alebo potvrdených zmluvách operátorov — dokument o rezidencii to hovorí vlastnými slovami a my to tu opakujeme, namiesto toho, aby to bolo len tam. Po druhé, v tomto nasadení nie je GPU: predvolený backend je mock, ktorého oblasť je dev-mock, a mock nepredstavuje miesto. Pozri "Čo sa stane, ak nie je GPU?" nižšie. API, ktoré to robí, je Node proces, nie súčasť tejto statickej stránky — llmeu.com sám odpovedá na stránky, nespracúva požiadavky.
apps/api/src/inference.mjs:457 (blok odpovede llmeu), packages/router/src/engine.mjs:467 (rezidencia sa uplatňuje pred hodnotením), packages/inference/src/mock.mjs:7 (MOCK_REGION = dev-mock), packages/shared/src/catalog-schema.mjs:64 (smerovateľné triedy)
Uchovávajú sa výzvy a dokončenia?
Nie. Telá výziev a dokončení sa neukladajú do databázy. Každé volanie ukladá metadáta — požadovaný a použitý model, verziu, endpoint, oblasť, triedu suverenity, dôvod routera, počty tokenov, latenciu, náklady, stav — a prompt_stored v riadku je 0. Dva stĺpce tela existujú v schéme a sú null. Vynucovanie je kód, nie text politiky: požiadavka, ktorej efektívna retencia je iná ako nula, je odmietnutá, s 403 retention_exceeds_policy, ak žiada viac, ako vaša politika povoľuje, a 501 retention_not_implemented, ak je povolená, ale neimplementovaná. Politiky môžu ukladať 24h, 7d alebo 30d ako voľby; uloženie voľby neumožňuje ukladanie tela. Ak niekedy stopa ukáže prompt_stored iné ako 0, to je jednozväzková odpoveď na "čo ste si nechali" — a môžete si to skontrolovať sami pomocou jq, ako ukazuje stránka s dôkazmi.
packages/shared/src/db/schema.sql:295 (prompt_stored a dva stĺpce tela), apps/api/src/inference.mjs:83 (IMPLEMENTED_RETENTION = zero), apps/api/src/inference.mjs:89 (403 retention_exceeds_policy), apps/api/src/inference.mjs:97 (501 retention_not_implemented), docs/product/decisions.md:62 (ADR-003)
Trénujete na údajoch zákazníkov?
Nie — nič v tomto produkte na to nie je v pozícii. V API, webovom procese, routeri ani zdieľaných balíkoch neexistuje žiadna cesta kódu na trénovanie alebo doladenie. API orchestruje požiadavku na backend a meria ju; neexistuje žiadne načítavanie datasetu, žiadne úložisko korpusu a žiadna úloha doladenia. Telá výziev a dokončení sa neukladajú do databázy, takže neexistuje ani uložený korpus na trénovanie. To je tvrdenie o našom kóde, nie o upstream trénovacích údajoch každého modelu. Modely, ktoré boli trénované na údajoch iných ľudí alebo ktoré zverejňujú svoje trénovacie údaje, sú opísané na svojich vlastných kartách so zdrojmi a niektoré z týchto kariet uvádzajú, že trénovacie údaje nie sú zverejnené.
apps/api/src/inference.mjs (celá cesta požiadavky: orchestrácia, meranie, nikdy neukladať), packages/shared/src/db/schema.sql (žiadna tabuľka datasetu alebo korpusu), packages/content/models.mjs:196 (karta, ktorá uvádza, že trénovacie údaje nie sú zverejnené)
Čo sa stane, keď žiadny endpoint nevyhovuje mojej politike rezidencie?
Požiadavka zlyhá. Nie je degradovaná na blízku oblasť a nie je odoslaná nikam inam: 409 no_endpoint_for_policy, s dôvodom v tele chyby a vylúčenými endpointmi uvedenými v stope. Rezidencia sa uplatňuje pred hodnotením a failover sa vždy pohybuje len v rámci množiny, ktorú router už filtroval — preto opakovaný pokus nemôže potichu uniknúť pravidlu, ktoré ste nastavili. Kód to hovorí jednou vetou: "Žiadny endpoint nevyhovuje rezidencii {x}. Rezidencia sa nikdy neuvoľňuje ticho." Čo s tým: pomenujte oblasť alebo triedu, ktorú vaša politika povoľuje, zámerne rozšírte politiku (rozhodnutie so záznamom v changelogu), alebo akceptujte, že pre daný model podľa tohto pravidla neexistuje žiadna trasa. 409 je produkt fungujúci podľa návrhu; režim zlyhania, ktorému zabraňuje, je požiadavka, ktorá "uspela" niekde, kde ste to nepovolili.
packages/shared/src/errors.mjs:59 (no_endpoint_for_policy), packages/router/src/engine.mjs:370 (zlyhanie pred hodnotením), packages/router/src/engine.mjs:507 (failover nemôže opustiť filtrovanú množinu), apps/api/src/inference.mjs:137 (retencia sa kontroluje pred smerovaním)
Je to v súlade s GDPR alebo certifikované?
Takéto tvrdenie neuvádzame a nebudeme — nie "v súlade s AI Act", nie "certifikované", nie "Oficiálna EÚ". LLM EU je súkromná spoločnosť. Nie je inštitúciou EÚ ani orgánom posudzovania zhody. "Overené" na tejto stránke znamená zdokumentované, nie právne certifikované: je to kontrolný zoznam zverejnení, hodnotený podľa toho, či karta uvádza svoju rezidenciu, poskytovateľa, verziu, retenciu, sprostredkovateľov a licenciu, s odkazmi. Čo môžeme uviesť, je to, čo robí kód, a kde sú medzery: nulová retencia vynucovaná v kóde; API kľúče uložené ako scrypt hashe s tajomstvom zobrazeným raz; každý zákaznícky dopyt obmedzený ID organizácie; limity rýchlosti na IP, kľúč a organizáciu; telá požiadaviek obmedzené a validované. Čo nie je urobené: žiadny nezávislý penetračný test; žiadny audit tretej strany; oznámenie o ochrane súkromia a podmienky sú zhrnutia; DPA je nerecenzovaná, nepodpísaná šablóna; zoznam sprostredkovateľov je neúplný. Stránka o bezpečnosti a právny index uvádzajú tieto medzery vo svojich vlastných sekciách; táto odpoveď na ne odkazuje, namiesto toho, aby ich parafrázovala do niečoho mäkšieho.
docs/product/decisions.md:115 (ADR-006 — žiadna pečiatka zhody, v žiadnom reťazci), apps/web/server/pages/docs.mjs:537 (SECURITY_COPY: zoznam kontrol a medzier), apps/web/server/pages/docs.mjs:643 (LEGAL_READINESS: pripravenosť jednotlivých dokumentov)
Je API kompatibilné s OpenAI a čo zákazník zmení?
Základnú URL a nič iné. /v1/chat/completions prijíma oficiálny tvar požiadavky a vracia oficiálny tvar odpovede — choices, usage, streamovanie ako SSE — takže oficiálne SDK fungujú po nasmerovaní na nás. Extra polia tela sa ignorujú, nie odmietajú, takže novšie SDK nemôže pokaziť staršiu cestu. Čo je pridané, je voliteľné a aditívne: menný priestor llmeu objekt v požiadavke (residency, task, retention, data_class, policy_id, max_usd_per_1m, allow_partners) a blok llmeu v odpovedi nesúci trace_id, model_used, model_version, provider, endpoint_id, inference_region, sovereignty_class, route_reason, policy_id, retention a odhady nákladov. Zámerne sa neponúka: /v1/completions (501), n > 1 (400), embeddings, pokiaľ nie je skutočne hostovaný embedding model. Blok llmeu môže získať polia; odstránenie jedného by bola zásadná zmena a objavilo by sa v changelogu.
docs/product/decisions.md:78 (ADR-004), apps/api/src/app.mjs:554 (odpoveď, ktorú klient číta), apps/api/src/app.mjs:255 (501 na /v1/completions), apps/web/server/pages/docs.mjs:403 (písomná zmluva o kompatibilite)
Čo sa stane, ak nie je GPU?
Odpovedá MockBackend a vo svojom vlastnom výstupe to uvádza: dokončenie pomenúva model a oblasť, uvádza, že nebežali žiadne skutočné váhy, a hovorí, ako zapnúť inferenciu prvej strany (VLLM_BASE_URL, potom príznak gpu_enabled). Jeho oblasť je dev-mock, čo nie je miesto, a pri mock volaní sa neúčtuje žiadny poplatok. GET /readyz hlási, ktoré backendy sú dostupné, a pripravenosť nie je splnená riadkom endpointu, ktorý uvádza up — spravovaný runtime musí skutočne hlásiť healthy, pretože celý zmysel tejto sondy je zachytiť uzol, ktorého váhy sa ešte načítavajú. Registrácia backendov odmieta nahradiť mock za endpoint, ktorého runtime je vllm; namiesto toho vyhodí výnimku. Úprimné zhrnutie je nepríjemné a stojí za to ho uviesť priamo: toto nasadenie nemá GPU, takže volanie tu je demonštráciou pipeline, nie behom modelu. Úspech mocku je úspech na drôte; nikdy sa neprezentuje ako skutočný beh modelu.
packages/inference/src/mock.mjs:49 (odpoveď, ktorá pomenúva mock), apps/api/src/app.mjs:157 (pripravenosť zahŕňa spravované backendy), docs/product/decisions.md:131 (ADR-007 — registrácia odmieta predstierať GPU runtime)
Čo znamená karta modelu označená catalogue_only?
Znamená to, že model katalogizujeme a neposkytujeme ho. Karta je referenčná informácia — poskytovateľ, licencia, kontextové okno, kde poskytovateľ uvádza, že beží, zdroje pre každý údaj — a žiadny endpoint LLM EU zaň neodpovedá. Ak oň požiadate API, dostanete 404 hosted_unavailable s poznámkou "len katalóg — zatiaľ nehostované na LLM EU"; stránka preň neuvádza žiadnu cenu, pretože cena za niečo, čo nikto nemôže zavolať, je tvrdenie bez podkladu. Požiadavky na tento model idú priamo jeho poskytovateľovi, pod vlastnými podmienkami tohto poskytovateľa, a karta modelu to presne uvádza. Opačný odznak tiež nie je silnejším sľubom: model, ktorý hostujeme, je hostovaný v pomenovanej oblasti s pomenovanou triedou suverenity, a to je tvrdenie, ktoré si môžete overiť v stope. Ani jeden odznak nie je vyhlásenie o zhode.
packages/router/src/engine.mjs:325 (router odmietne typ), apps/api/src/app.mjs:235 (404 hosted_unavailable s poznámkou), apps/web/server/pages/docs.mjs:446 (cenník preskakuje catalogue_only)
Ako dnes funguje cenník a kredit?
Ceny sú za milión tokenov na vstupe a výstupe, uložené pre každý endpoint a zobrazené na stránke s cenami a na kartách modelov, v EUR, odvodené z jedného zverejneného kurzu USD; samotná kniha ukladá USD micros a zapisuje kurz do každého riadku, takže minulá faktúra sa dá presne rekonštruovať. Každé dokončenie vracia cost_estimate_usd a cost_estimate_eur a stopa zaznamenáva náklady v oboch. Limity politiky — strop na milión a denný strop — sa kontrolujú pred smerovaním, takže požiadavka nad rozpočet sa odmietne, namiesto aby sa spustila. Platby kartou nie sú v tomto nasadení povolené a nič nepridáva kredit automaticky: zatiaľ neexistuje žiadny beh fakturácie ani operátorská cesta kreditu. Konzola zobrazuje, čo sa minulo a čo zostáva. Ak sa zapne príznak stripe_enabled, obsluha kreditu prijme zverejnenú sumu bez overenia, že platba prebehla — preto musí príznak zostať vypnutý, kým sa overenie platby neimplementuje a neotestuje, a preto to hovoríme tu, namiesto ponúkania tlačidla pokladne.
docs/product/decisions.md:148 (ADR-008 — micros uložené, EUR zobrazené), apps/api/src/inference.mjs:457 (odhady nákladov na požiadavku), apps/web/server/pages/docs.mjs:463 (stránka s cenami uvádza, že platby sú vypnuté), apps/web/server/pages/docs.mjs:559 (obsluha kreditu neoveruje platbu)
Môžeme prevádzkovať sami?
Nie prostredníctvom ničoho, čo dnes dodávame. Neexistuje žiadna samo-hostovaná distribúcia: žiadny kontajnerový image, žiadny inštalátor, žiadna on-premise licencia, žiadna zmluva o podpore pre prevádzku vo vašom vlastnom prostredí a toto úložisko nie je ponúkané ako podporované nasadenie. Tímové rozhranie konzoly existuje, ale roly organizácie nie sú úplným riadením prístupu na základe rolí, a to je zdokumentované, nie zamlčané. Čo katalóg obsahuje, je trieda rezidencie s názvom on_prem_customer — "model beží v infraštruktúre, ktorú kontroluje zákazník" — a je to klasifikácia vlastníctva a prevádzky endpointu, nie naša ponuka. Mnohé modely v katalógu zverejňujú otvorené váhy a ich licencie (niektoré nekomerčné, niektoré len na výskum) sú na kartách s odkazom, takže môžete zvážiť ich prevádzku sami; to je rozhodnutie o váhach niekoho iného a licencii niekoho iného, nie samo-hostovaný produkt od LLM EU. Pre rozhovor o on-premise je správne dvere stránka enterprise a je úprimné, že toto usporiadanie zatiaľ neexistuje.
packages/router/src/engine.mjs:12 (on_prem_customer sa vyskytuje len v mapovaniach rezidencie), packages/shared/src/catalog-schema.mjs:84 (jeho definícia), apps/web/server/pages/docs.mjs:517 (neúplné RBAC, uvedené), packages/content/models.mjs:695 (licencia s otvorenými váhami na karte)
Ak je tu nejaká odpoveď nesprávna, je to chyba a my ju tak riešime. Ak sa kód a táto stránka rozchádzajú, vyhráva kód — a stránka s dôkazmi, stránka o bezpečnosti a právny index sú miesta, kde uchovávame zvyšok nepríjemných detailov, namiesto toho, aby sme ich opakovali desaťkrát.
Otázky, na ktoré táto stránka neodpovedá: mail@llmeu.com
Dôkazy a overovanie · Bezpečnosť · Právne informácie · Prístupnosť