Často kladené otázky
Většina stránek na tomto webu něco tvrdí. Tato odpovídá na deset otázek, které by nám kupující normálně museli poslat e-mailem. Kde je odpověď „ještě ne“, říká „ještě ne“ — stránka, která by přeháněla, by měla menší hodnotu než žádná stránka, protože každá další stránka je zde napsána tak, aby byla kontrolovatelná.
Kde se zpracovávají prompty a dokončení?
Na koncovém bodu, který router vybere, což je pojmenovaná oblast, a odpověď vám řekne, která to je: blok llmeu u každého dokončení nese inference_region, endpoint_id a sovereignty_class. Hodnota rezidence ve vaší politice omezuje tuto množinu před výběrem; uplatňuje se jako filtr, nikoli jako preference, a catalogue_unknown není nikdy směrovatelný. Dvě omezení tohoto tvrzení. Za prvé, řádky oblastí jsou konfigurační data, nikoli důkaz o běžících strojích nebo potvrzených smlouvách s operátory — dokument o rezidenci to říká vlastními slovy a my to zde opakujeme, místo abychom to uváděli jen tam. Za druhé, v tomto nasazení není žádné GPU: výchozí backend je mock, jehož oblast je dev-mock, a mock nepředstavuje místo. Viz "Co se stane, když není žádné GPU?" níže. API, které to dělá, je proces Node, nikoli součást tohoto statického webu — llmeu.com sám odpovídá na stránky, nezpracovává požadavky.
apps/api/src/inference.mjs:457 (blok odpovědi llmeu), packages/router/src/engine.mjs:467 (rezidence se uplatňuje před bodováním), packages/inference/src/mock.mjs:7 (MOCK_REGION = dev-mock), packages/shared/src/catalog-schema.mjs:64 (směrovatelné třídy)
Uchovávají se prompty a dokončení?
Ne. Těla promptů a dokončení se do databáze neukládají. Každé volání ukládá metadata — požadovaný a použitý model, verzi, koncový bod, oblast, třídu suverenity, důvod routeru, počty tokenů, latenci, cenu, stav — a prompt_stored daného řádku je 0. Dva sloupce pro těla existují ve schématu a jsou null. Vynucení je kód, nikoli próza zásad: požadavek, jehož efektivní retence je jiná než nula, je odmítnut, s 403 retention_exceeds_policy, pokud žádá více, než vaše politika povoluje, a 501 retention_not_implemented, pokud je povolen, ale neimplementován. Politiky mohou ukládat 24h, 7d nebo 30d jako volby; uložení volby neumožňuje ukládání těla. Pokud někdy trasování ukáže prompt_stored jiné než 0, to je jednostránková odpověď na "co jste uchovali" — a můžete si to sami ověřit pomocí jq, jak ukazuje stránka s důkazy.
packages/shared/src/db/schema.sql:295 (prompt_stored a dva sloupce pro těla), apps/api/src/inference.mjs:83 (IMPLEMENTED_RETENTION = zero), apps/api/src/inference.mjs:89 (403 retention_exceeds_policy), apps/api/src/inference.mjs:97 (501 retention_not_implemented), docs/product/decisions.md:62 (ADR-003)
Trénujete na datech zákazníků?
Ne — nic v tomto produktu není v pozici, aby to dělalo. V API, webovém procesu, routeru ani sdílených balíčcích neexistuje žádná cesta kódu pro trénink nebo doladění. API orchestruje požadavek na backend a měří jej; neexistuje žádné načítání datových sad, žádné úložiště korpusu a žádná úloha doladění. Těla promptů a dokončení se neukládají do databáze, takže neexistuje ani uložený korpus pro trénink. To je tvrzení o našem kódu, nikoli o upstream tréninkových datech každého modelu. Modely, které byly trénovány na datech jiných lidí nebo které zveřejňují svá tréninková data, jsou popsány na svých vlastních kartách se zdroji a některé z těchto karet uvádějí, že tréninková data nejsou zveřejněna.
apps/api/src/inference.mjs (celá cesta požadavku: orchestrace, měření, nikdy neukládat), packages/shared/src/db/schema.sql (žádná tabulka datových sad nebo korpusu), packages/content/models.mjs:196 (karta, která říká, že tréninková data nejsou zveřejněna)
Co se stane, když žádný koncový bod nevyhovuje mé politice rezidence?
Požadavek selže. Není degradován na blízkou oblast a není odeslán nikam jinam: 409 no_endpoint_for_policy, s důvodem v těle chyby a vyloučenými koncovými body uvedenými v trasování. Rezidence se uplatňuje před bodováním a převzetí služeb při selhání se vždy pohybuje pouze v množině, kterou router již filtroval — proto se opakování nemůže tiše vymanit z pravidla, které jste nastavili. Kód to říká jednou větou: "Žádný koncový bod nevyhovuje rezidenci {x}. Rezidence se nikdy tiše neuvolňuje." Co s tím dělat: uveďte oblast nebo třídu, kterou vaše politika povoluje, rozšiřte politiku záměrně (rozhodnutí, se záznamem v seznamu změn), nebo přijměte, že pro tento model podle tohoto pravidla neexistuje žádná trasa. 409 je produkt fungující podle návrhu; režim selhání, kterému zabraňuje, je požadavek, který "uspěl" někde, kde jste to nedovolili.
packages/shared/src/errors.mjs:59 (no_endpoint_for_policy), packages/router/src/engine.mjs:370 (selhání, před bodováním), packages/router/src/engine.mjs:507 (převzetí služeb při selhání nemůže opustit filtrovanou množinu), apps/api/src/inference.mjs:137 (retence se kontroluje před směrováním)
Je to v souladu s GDPR nebo certifikováno?
Toto tvrzení nečiníme a nebudeme — ani "v souladu s AI Act", ani "certifikováno", ani "Oficiální EU". LLM EU je soukromá společnost. Není instituce EU ani orgán posuzování shody. "Ověřeno" na tomto webu znamená zdokumentováno, nikoli právně certifikováno: je to kontrolní seznam zveřejnění, hodnocený podle toho, zda karta uvádí svou rezidenci, poskytovatele, verzi, retenci, dílčí zpracovatele a licenci, s odkazy. Co můžeme uvést, je to, co dělá kód, a kde jsou mezery: nulová retence vynucená v kódu; API klíče uložené jako scrypt hashe s tajemstvím zobrazeným jednou; každý dotaz zákazníka vymezený ID organizace; limity rychlosti na IP, na klíč a na organizaci; těla požadavků omezena a validována. Co není provedeno: žádný nezávislý penetrační test; žádný audit třetí stranou; zásady ochrany soukromí a podmínky jsou shrnutí; DPA je nezkontrolovaná, nepodepsaná šablona; inventář dílčích zpracovatelů je neúplný. Stránka o bezpečnosti a právní index uvádějí tyto mezery ve svých vlastních sekcích; tato odpověď na ně odkazuje, místo aby je parafrázovala do něčeho měkčího.
docs/product/decisions.md:115 (ADR-006 — žádné razítko shody, v žádném řetězci), apps/web/server/pages/docs.mjs:537 (SECURITY_COPY: seznam kontrol a mezer), apps/web/server/pages/docs.mjs:643 (LEGAL_READINESS: připravenost jednotlivých dokumentů)
Je API kompatibilní s OpenAI a co zákazník mění?
Základní URL, a nic jiného. /v1/chat/completions přijímá oficiální tvar požadavku a vrací oficiální tvar odpovědi — choices, usage, streaming jako SSE — takže oficiální SDK fungují poté, co je nasměrujete na nás. Další pole v těle jsou ignorována, nikoli odmítnuta, takže novější SDK nemůže rozbít starší trasu. Co je přidáno, je volitelné a aditivní: objekt llmeu ve jmenném prostoru v požadavku (residency, task, retention, data_class, policy_id, max_usd_per_1m, allow_partners) a blok llmeu v odpovědi nesoucí trace_id, model_used, model_version, provider, endpoint_id, inference_region, sovereignty_class, route_reason, policy_id, retention a odhady nákladů. Není nabízeno, záměrně: /v1/completions (501), n > 1 (400), embeddings, pokud není skutečně hostován model pro embeddings. Blok llmeu může získat pole; odstranění jednoho by byla zlomová změna a objevila by se v seznamu změn.
docs/product/decisions.md:78 (ADR-004), apps/api/src/app.mjs:554 (odpověď, kterou klient čte), apps/api/src/app.mjs:255 (501 na /v1/completions), apps/web/server/pages/docs.mjs:403 (písemná smlouva o kompatibilitě)
Co se stane, když není žádné GPU?
Odpovídá MockBackend a říká to ve svém vlastním výstupu: dokončení uvádí název modelu a oblast, uvádí, že neběžely žádné skutečné váhy, a říká, jak zapnout inferenci první strany (VLLM_BASE_URL, poté příznak gpu_enabled). Jeho oblast je dev-mock, což není místo, a při mock volání není žádný poplatek. GET /readyz hlásí, které backendy jsou v provozu, a připravenost není splněna řádkem koncového bodu, který říká, že je v provozu — spravovaný runtime musí skutečně hlásit zdraví, protože celý smysl tohoto probe je zachytit uzel, jehož váhy se stále načítají. Registr backendů odmítá nahradit mock za koncový bod, jehož runtime je vllm; místo toho vyhodí výjimku. Poctivé shrnutí je nepříjemné a stojí za to je říci jasně: toto nasazení nemá žádné GPU, takže volání zde je demonstrací pipeline, nikoli spuštěním modelu. Úspěch mocku je úspěch na drátě; nikdy není prezentován jako skutečné spuštění modelu.
packages/inference/src/mock.mjs:49 (odpověď, která pojmenovává mock), apps/api/src/app.mjs:157 (připravenost zahrnuje spravované backendy), docs/product/decisions.md:131 (ADR-007 — registr odmítá předstírat GPU runtime)
Co znamená karta modelu označená catalogue_only?
Znamená to, že model zařazujeme do katalogu a neobsluhujeme jej. Karta je referenční informace — poskytovatel, licence, kontextové okno, kde podle poskytovatele běží, zdroje pro každý údaj — a žádný koncový bod LLM EU za něj neodpovídá. Požádejte API o něj a dostanete 404 hosted_unavailable s poznámkou "pouze katalog — zatím není hostováno na LLM EU"; stránka pro něj neuvádí žádnou cenu, protože cena za něco, co nikdo nemůže zavolat, je tvrzení bez podkladu. Požadavky na tento model jdou přímo k jeho poskytovateli, podle vlastních podmínek tohoto poskytovatele, a karta modelu to říká přesně. Opačný odznak také není silnějším příslibem: model, který hostujeme, je hostován v pojmenované oblasti s pojmenovanou třídou suverenity, a to je tvrzení, které můžete zkontrolovat v trasování. Ani jeden odznak není prohlášením o shodě.
packages/router/src/engine.mjs:325 (router odmítá tento typ), apps/api/src/app.mjs:235 (404 hosted_unavailable s poznámkou), apps/web/server/pages/docs.mjs:446 (ceny přeskakují catalogue_only)
Jak dnes fungují ceny a kredit?
Ceny jsou za milion tokenů na vstupu a výstupu, uložené pro každý koncový bod a zobrazené na stránce s cenami a na kartách modelů, v EUR, odvozené z jednoho zveřejněného kurzu USD; účetní kniha sama ukládá USD mikro a zapisuje kurz na každý řádek, takže minulá faktura může být přesně rekonstruována. Každé dokončení vrací cost_estimate_usd a cost_estimate_eur a trasování zaznamenává cenu v obou. Limity politiky — strop na milion a denní strop — se kontrolují před směrováním, takže požadavek přes rozpočet je odmítnut, nikoli spuštěn. Platby kartou nejsou v tomto nasazení povoleny a nic nepřidává kredit automaticky: dosud neexistuje žádné spuštění fakturace ani operátorská cesta kreditu. Konzole zobrazuje, co bylo utraceno a co zbývá. Pokud je zapnut příznak stripe_enabled, zpracovatel kreditu přijímá zveřejněnou částku bez ověření, že platba proběhla — proto musí příznak zůstat vypnutý, dokud nebude ověření platby implementováno a otestováno, a proto to říkáme zde, místo abychom nabízeli tlačítko pokladny.
docs/product/decisions.md:148 (ADR-008 — mikro uložena, EUR zobrazena), apps/api/src/inference.mjs:457 (odhady nákladů na požadavek), apps/web/server/pages/docs.mjs:463 (stránka s cenami uvádí, že platby jsou vypnuty), apps/web/server/pages/docs.mjs:559 (zpracovatel kreditu neověřuje platbu)
Můžeme hostovat sami?
Ne prostřednictvím ničeho, co dnes dodáváme. Neexistuje žádná samostatně hostovaná distribuce: žádný kontejnerový obraz, žádný instalátor, žádná místní licence, žádná smlouva o podpoře pro provoz ve vašem vlastním prostředí a toto úložiště není nabízeno jako podporované nasazení. Týmové rozhraní konzole existuje, ale role organizace nejsou úplným řízením přístupu na základě rolí, a to je zdokumentováno, nikoli naznačeno. Co katalog nese, je třída rezidence zvaná on_prem_customer — "model běží v infrastruktuře, kterou zákazník ovládá" — a je to klasifikace vlastnictví a provozu koncového bodu, nikoli nabídka od nás. Mnoho modelů v katalogu zveřejňuje otevřené váhy a jejich licence (některé nekomerční, některé pouze pro výzkum) jsou na kartách s odkazem, takže můžete zvážit jejich vlastní provoz; to je rozhodnutí o vahách někoho jiného a licenci někoho jiného, nikoli produkt pro vlastní hostování od LLM EU. Pro rozhovor o místním nasazení jsou správnými dveřmi podnikové stránky a je poctivé, že toto uspořádání dosud neexistuje.
packages/router/src/engine.mjs:12 (on_prem_customer se objevuje pouze v mapováních rezidence), packages/shared/src/catalog-schema.mjs:84 (jeho definice), apps/web/server/pages/docs.mjs:517 (neúplné RBAC, uvedeno), packages/content/models.mjs:695 (licence s otevřenými váhami na kartě)
Pokud je zde nějaká odpověď nesprávná, je to vada a my ji jako vadu bereme. Kde se kód a tato stránka rozcházejí, vyhrává kód — a stránka s důkazy, stránka o bezpečnosti a právní index jsou místa, kde uchováváme zbytek nepříjemných podrobností, místo abychom je opakovali desetkrát.
Otázky, na které tato stránka neodpovídá: mail@llmeu.com
Doklady a ověřování · Zabezpečení · Právní informace · Přístupnost