Usein kysytyt kysymykset
Useimmat sivuston sivut esittävät väitteen. Tämä vastaa kymmeneen kysymykseen, jotka ostaja tavallisesti joutuisi lähettämään meille sähköpostitse saadakseen vastauksen. Kun vastaus on "ei vielä", se sanoo "ei vielä" — sivu, joka liioittelisi, olisi arvottomampi kuin ei sivua lainkaan, koska jokainen muu sivu täällä on kirjoitettu tarkistettavaksi.
Missä kehoitteet ja vastaukset käsitellään?
Päätepisteessä, jonka reititin valitsee, joka on nimetty alue, ja vastaus kertoo, mikä: llmeu-lohko jokaisessa vastauksessa sisältää inference_region, endpoint_id ja sovereignty_class. Sijaintiarvo käytännössäsi rajoittaa tätä joukkoa ennen valintaa; sitä sovelletaan suodattimena, ei mieltymyksenä, eikä catalogue_unknown ole koskaan reititettävissä. Kaksi rajoitusta tuohon lauseeseen. Ensinnäkin, aluerivit ovat konfiguraatiotietoja, eivät todisteita käynnissä olevista koneista tai vahvistetuista operaattorisopimuksista — sijaintidokumentti sanoo tämän omin sanoin, ja toistamme sen täällä sen sijaan, että se olisi vain siellä. Toiseksi, tässä käyttöönotossa ei ole GPU:ta: oletustaustajärjestelmä on mock, jonka alue on dev-mock, eikä mock edusta paikkaa. Katso "Mitä tapahtuu, jos GPU:ta ei ole?" alta. API, joka tämän tekee, on Node-prosessi, ei osa tätä staattista sivustoa — llmeu.com itse vastaa sivuihin, se ei käsittele pyyntöjä.
apps/api/src/inference.mjs:457 (llmeu-vastauslohko), packages/router/src/engine.mjs:467 (sijaintia sovelletaan ennen pisteytystä), packages/inference/src/mock.mjs:7 (MOCK_REGION = dev-mock), packages/shared/src/catalog-schema.mjs:64 (reititettävät luokat)
Säilytetäänkö kehoitteet ja vastaukset?
Ei. Kehoitteiden ja vastausten runkoja ei kirjoiteta tietokantaan. Jokainen kutsu tallentaa metatiedot — pyydetty ja käytetty malli, versio, päätepiste, alue, suvereniteettiluokka, reitittimen syy, token-määrät, viive, kustannus, tila — ja rivin prompt_stored on 0. Kaksi runkosaraketta ovat olemassa skeemassa ja ovat null. Täytäntöönpano on koodia, ei käytäntötekstiä: pyyntö, jonka tehollinen säilytys on muu kuin nolla, hylätään, ja 403 retention_exceeds_policy, jos se pyytää enemmän kuin käytäntösi sallii, ja 501 retention_not_implemented, jos se on sallittu mutta toteuttamatta. Käytännöt voivat tallentaa 24h, 7d tai 30d valintoina; valinnan tallentaminen ei mahdollista rungon tallentamista. Jos jäljitys joskus näyttää prompt_stored muun kuin 0, se on yhden sivun vastaus kysymykseen "mitä säilytit" — ja voit tarkistaa sen itse jq:lla, kuten todistussivu näyttää.
packages/shared/src/db/schema.sql:295 (prompt_stored ja kaksi runkosaraketta), apps/api/src/inference.mjs:83 (IMPLEMENTED_RETENTION = zero), apps/api/src/inference.mjs:89 (403 retention_exceeds_policy), apps/api/src/inference.mjs:97 (501 retention_not_implemented), docs/product/decisions.md:62 (ADR-003)
Koulutatteko asiakastiedoilla?
Ei — mikään tässä tuotteessa ei ole siihen asemassa. API:sta, verkkoprosessista, reitittimestä tai jaetuista paketeista ei löydy koulutus- tai hienosäätökoodipolkua. API järjestää pyynnön taustajärjestelmään ja mittaa sen; tietojoukon syöttöä, korpusvarastoa tai hienosäätötyötä ei ole. Kehoitteiden ja vastausten runkoja ei kirjoiteta tietokantaan, joten koulutettavaa tallennettua korpusta ei ole edes olemassa. Tämä on väite meidän koodistamme, ei jokaisen mallin ylävirran koulutusdatasta. Mallit, jotka on koulutettu muiden ihmisten tiedoilla tai jotka paljastavat koulutusdatansa, kuvataan niiden omilla korteilla, lähteineen, ja jotkin noista korteista sanovat, että koulutusdataa ei ole julkaistu.
apps/api/src/inference.mjs (koko pyyntöpolku: järjestä, mittaa, älä koskaan tallenna), packages/shared/src/db/schema.sql (ei tietojoukko- tai korpustaulua), packages/content/models.mjs:196 (kortti, joka sanoo, että koulutusdataa ei ole julkaistu)
Mitä tapahtuu, kun mikään päätepiste ei täytä sijaintikäytäntöäni?
Pyyntö epäonnistuu. Sitä ei alenneta läheiseen alueeseen, eikä sitä lähetetä muualle: 409 no_endpoint_for_policy, syy virherungossa ja poissuljetut päätepisteet nimettynä jäljityksessä. Sijaintia sovelletaan ennen pisteytystä, ja vikasietotila liikkuu vain joukossa, jonka reititin on jo suodattanut — siksi uudelleenyritys ei voi hiljaa paeta asettamaasi sääntöä. Koodi sanoo sen yhdessä lauseessa: "Mikään päätepiste ei täytä sijaintia {x}. Sijaintia ei koskaan lievennetä hiljaa." Mitä tehdä: nimeä alue tai luokka, jonka käytäntösi sallii, laajenna käytäntöä tarkoituksella (päätös, josta merkintä muutoslokiin) tai hyväksy, että kyseiselle mallille ei ole reittiä kyseisen säännön alla. 409 on tuote, joka toimii suunnitellusti; vikatila, jonka se estää, on pyyntö, joka "onnistui" jossain, mitä et sallinut.
packages/shared/src/errors.mjs:59 (no_endpoint_for_policy), packages/router/src/engine.mjs:370 (vikatila, ennen pisteytystä), packages/router/src/engine.mjs:507 (vikasietotila ei voi poistua suodatetusta joukosta), apps/api/src/inference.mjs:137 (säilytys tarkistetaan ennen reititystä)
Onko tämä GDPR-yhteensopiva tai sertifioitu?
Emme esitä tätä väitettä, emmekä tule esittämään — emme "tekoälyasetuksen mukaista", emme "sertifioitua", emme "virallista EU:ta". LLM EU on yksityinen yritys. Se ei ole EU:n toimielin eikä vaatimustenmukaisuuden arviointielin. "Vahvistettu" tällä sivustolla tarkoittaa dokumentoitua, ei oikeudellisesti sertifioitua: se on tietojen tarkistuslista, joka pisteytetään sen mukaan, ilmoittaako kortti sijaintinsa, tarjoajansa, versionsa, säilytyksensä, aliprosessorinsa ja lisenssinsä linkkeineen. Mitä voimme todeta, on mitä koodi tekee ja missä puutteet ovat: nollaretentio koodissa; API-avaimet tallennettu scrypt-tiivisteinä, salaisuus näytetään kerran; jokainen asiakaskysely rajataan organisaatiotunnuksella; IP-, avain- ja organisaatiokohtaiset nopeusrajoitukset; pyyntörungot rajattu ja validoitu. Mitä ei ole tehty: ei riippumatonta tunkeutumistestausta; ei kolmannen osapuolen auditointia; tietosuojailmoitus ja ehdot ovat yhteenvetoja; DPA on tarkastamaton, allekirjoittamaton malli; aliprosessoriluettelo on puutteellinen. Turvasivu ja oikeudellinen hakemisto listaavat nämä puutteet omissa osioissaan; tämä vastaus viittaa niihin sen sijaan, että ne muotoiltaisiin uudelleen pehmeämmin.
docs/product/decisions.md:115 (ADR-006 — ei vaatimustenmukaisuusleimaa, missään merkkijonossa), apps/web/server/pages/docs.mjs:537 (SECURITY_COPY: kontrolli- ja puuteluettelo), apps/web/server/pages/docs.mjs:643 (LEGAL_READINESS: asiakirjakohtainen valmius)
Onko API OpenAI-yhteensopiva, ja mitä asiakas muuttaa?
Perus-URL, eikä mitään muuta. /v1/chat/completions hyväksyy virallisen pyyntömuodon ja palauttaa virallisen vastausmuodon — choices, usage, streaming SSE:nä — joten viralliset SDK:t toimivat, kun osoitat ne meille. Ylimääräiset runkokentät ohitetaan hylkäämisen sijaan, joten uudempi SDK ei voi rikkoa vanhempaa reittiä. Lisätty on valinnaista ja lisäävää: nimitettu llmeu-objekti pyynnössä (residency, task, retention, data_class, policy_id, max_usd_per_1m, allow_partners) ja llmeu-lohko vastauksessa, joka sisältää trace_id, model_used, model_version, provider, endpoint_id, inference_region, sovereignty_class, route_reason, policy_id, retention ja kustannusarviot. Ei tarjota, tarkoituksella: /v1/completions (501), n > 1 (400), embeddings, ellei embedding-mallia todella tarjoilla. llmeu-lohko voi saada kenttiä; yhden poistaminen olisi rikkova muutos ja näkyisi muutoslokissa.
docs/product/decisions.md:78 (ADR-004), apps/api/src/app.mjs:554 (vastaus, jonka asiakas lukee), apps/api/src/app.mjs:255 (501 /v1/completionsissa), apps/web/server/pages/docs.mjs:403 (kirjallinen yhteensopivuussopimus)
Mitä tapahtuu, jos GPU:ta ei ole?
MockBackend vastaa, ja se sanoo sen omassa tulosteessaan: vastaus nimeää mallin ja alueen, ilmoittaa, ettei oikeita painoja ajettu, ja kertoo, miten ensimmäisen osapuolen päättely otetaan käyttöön (VLLM_BASE_URL, sitten gpu_enabled-lippu). Sen alue on dev-mock, joka ei ole paikka, eikä mock-kutsusta veloiteta. GET /readyz raportoi, mitkä taustajärjestelmät ovat käytössä, eikä valmiutta täytä päätepisterivi, joka sanoo olevansa käytössä — hallitun suoritusympäristön on todella raportoitava olevansa kunnossa, koska tuon tarkistuksen koko pointti on havaita solmu, jonka painot latautuvat vielä. Taustajärjestelmärekisteri kieltäytyy korvaamasta mockia päätepisteelle, jonka suoritusympäristö on vllm; se heittää sen sijaan. Rehellinen yhteenveto on epämukava ja kannattaa sanoa suoraan: tässä käyttöönotossa ei ole GPU:ta, joten kutsu täällä on putken esittely, ei mallin ajo. Mock-menestys on menestys langalla; sitä ei koskaan esitetä oikeana mallin ajona.
packages/inference/src/mock.mjs:49 (vastaus, joka nimeää mockin), apps/api/src/app.mjs:157 (valmius sisältää hallitut taustajärjestelmät), docs/product/decisions.md:131 (ADR-007 — rekisteri kieltäytyy teeskentelemästä GPU-suoritusympäristöä)
Mitä tarkoittaa mallikortti, joka on merkitty catalogue_only?
Se tarkoittaa, että luetteloimme mallin emmekä tarjoile sitä. Kortti on viitetietoa — tarjoaja, lisenssi, konteksti-ikkuna, missä tarjoaja sanoo sen toimivan, lähteet jokaiselle luvulle — eikä mikään LLM EU:n päätepiste vastaa siitä. Pyydä sitä API:sta ja saat 404 hosted_unavailable, huomautuksella "vain luettelossa — ei vielä LLM EU:ssa"; sitä koskeva sivu ei ilmoita hintaa, koska hinta jostakin, jota kukaan ei voi kutsua, on väite ilman katetta. Pyynnöt kyseiseen malliin menevät suoraan sen tarjoajalle, tarjoajan omien ehtojen mukaisesti, ja mallikortti sanoo täsmälleen sen. Vastakkainen merkki ei ole vahvempi lupaus: mallia, jota tarjoilemme, tarjoillaan nimetyllä alueella ja nimetyllä suvereniteettiluokalla, ja se on väite, jonka voit tarkistaa jäljityksestä. Kumpikaan merkki ei ole vaatimustenmukaisuuslausunto.
packages/router/src/engine.mjs:325 (reititin hylkää tyypin), apps/api/src/app.mjs:235 (404 hosted_unavailable huomautuksella), apps/web/server/pages/docs.mjs:446 (hinnoittelu ohittaa catalogue_only)
Miten hinnoittelu ja luotto toimivat tänään?
Hinnat ovat miljoonaa tokenia kohden sisään ja ulos, tallennettu päätepistekohtaisesti ja näytetään hinnoittelusivulla ja mallikorteilla, euroina, johdettuna yhdestä julkaistusta USD-kurssista; kirjanpito itse tallentaa USD-mikrot ja kirjoittaa kurssin joka riville, joten mennyt lasku voidaan rekonstruoida tarkasti. Jokainen vastaus palauttaa cost_estimate_usd ja cost_estimate_eur, ja jäljitys tallentaa kustannuksen molempina. Käytäntörajoitukset — miljoonakohtainen yläraja ja päiväraja — tarkistetaan ennen reititystä, joten ylibudjetin pyyntö hylätään sen sijaan, että se suoritettaisiin. Korttimaksut eivät ole käytössä tässä käyttöönotossa, eikä mikään lisää luottoa automaattisesti: laskutusajoa ei ole eikä operaattoriluottopolkua vielä ole. Konsoli näyttää, mitä on kulutettu ja mitä on jäljellä. Jos stripe_enabled-lippu kytketään päälle, luottokäsittelijä hyväksyy lähetetyn summan vahvistamatta, että maksu tapahtui — siksi lipun on pysyttävä pois päältä, kunnes maksun vahvistus on toteutettu ja testattu, ja siksi sanomme sen täällä sen sijaan, että tarjoaisimme kassapainiketta.
docs/product/decisions.md:148 (ADR-008 — mikrot tallennettu, EUR näytetty), apps/api/src/inference.mjs:457 (pyyntökohtaiset kustannusarviot), apps/web/server/pages/docs.mjs:463 (hinnoittelusivu ilmoittaa, että maksut ovat pois päältä), apps/web/server/pages/docs.mjs:559 (luottokäsittelijä ei vahvista maksua)
Voimmeko isännöidä itse?
Ei minkään kautta, mitä toimitamme tänään. Itse isännöityä jakelua ei ole: ei konttikuvaa, ei asennusohjelmaa, ei paikallista lisenssiä, ei tukisopimusta tämän ajamiseen omassa ympäristössäsi, eikä tätä repositoriota tarjota tuettuna käyttöönottona. Konsolin tiimipinta on olemassa, mutta organisaatioroolit eivät ole täydellinen roolipohjainen käyttöoikeuden hallinta, ja se on dokumentoitu sen sijaan, että se jätettäisiin epäsuorasti pois. Mitä luettelossa on, on sijaintiluokka nimeltä on_prem_customer — "malli toimii asiakkaan hallitsemassa infrastruktuurissa" — ja se on päätepisteen omistajuuden ja toiminnan luokittelu, ei tarjous meiltä. Monet luettelon malleista julkaisevat avoimet painot, ja niiden lisenssit (jotkin ei-kaupallisia, jotkin vain tutkimuskäyttöön) ovat korteilla linkin kanssa, joten voit arvioida niiden ajamista itse; se on päätös jonkun toisen painoista ja jonkun toisen lisenssistä, ei LLM EU:n itseisännöintituote. Paikalliskeskusteluun yrityssivu on oikea ovi, ja on rehellistä, että järjestelyä ei ole vielä olemassa.
packages/router/src/engine.mjs:12 (on_prem_customer esiintyy vain sijaintimäärityksissä), packages/shared/src/catalog-schema.mjs:84 (sen määritelmä), apps/web/server/pages/docs.mjs:517 (puutteellinen RBAC, mainittu), packages/content/models.mjs:695 (avointen painojen lisenssi kortilla)
Jos vastaus täällä on väärä, se on virhe, ja käsittelemme sitä sellaisena. Kun koodi ja tämä sivu ovat ristiriidassa, koodi voittaa — ja todistussivu, turvasivu ja oikeudellinen hakemisto ovat paikkoja, joissa pidämme loput epämukavat yksityiskohdat sen sijaan, että toistaisimme ne kymmenen kertaa.
Kysymykset, joihin tämä sivu ei vastaa: mail@llmeu.com
Todisteet ja vahvistus · Tietoturva · Oikeudelliset tiedot · Saavutettavuus