Biežāk uzdotie jautājumi
Lielākā daļa šīs vietnes lapu izsaka apgalvojumu. Šī lapa atbild uz desmit jautājumiem, uz kuriem pircējam parasti mums ir jāraksta e-pasts, lai saņemtu atbildi. Ja atbilde ir "vēl nē", tā saka "vēl nē" — lapa, kas pārspīlētu, būtu mazāk vērtīga nekā neviena lapa, jo visas pārējās lapas šeit ir rakstītas tā, lai tās varētu pārbaudīt.
Kur tiek apstrādātas uzvednes un atbildes?
Uz galapunkta, ko izvēlas maršrutētājs, kas ir nosaukts reģions, un atbilde norāda, kurš: llmeu bloks katrā pabeigšanā satur inference_region, endpoint_id un sovereignty_class. Rezidences vērtība jūsu politikā ierobežo šo kopu pirms atlases; tā tiek piemērota kā filtrs, nevis kā preference, un catalogue_unknown nekad nav maršrutējams. Divi ierobežojumi šim teikumam. Pirmkārt, reģionu rindas ir konfigurācijas dati, nevis pierādījums par darbojošām mašīnām vai apstiprinātiem operatora līgumiem — rezidences dokuments to saka saviem vārdiem, un mēs to atkārtojam šeit, nevis tikai tur. Otrkārt, šajā izvietojumā nav GPU: noklusējuma aizmugures sistēma ir mock, kuras reģions ir dev-mock, un mock neatspoguļo vietu. Skatiet "Kas notiek, ja nav GPU?" zemāk. API, kas to dara, ir Node process, nevis daļa no šīs statiskās vietnes — llmeu.com pats atbild uz lapām, tas neapstrādā pieprasījumus.
apps/api/src/inference.mjs:457 (llmeu atbildes bloks), packages/router/src/engine.mjs:467 (rezidence tiek piemērota pirms vērtēšanas), packages/inference/src/mock.mjs:7 (MOCK_REGION = dev-mock), packages/shared/src/catalog-schema.mjs:64 (maršrutējamās klases)
Vai uzvednes un atbildes tiek saglabātas?
Nē. Uzvedņu un atbilžu pamatteksti netiek ierakstīti datubāzē. Katrs izsaukums saglabā metadatus — pieprasīto un izmantoto modeli, versiju, galapunktu, reģionu, suverenitātes klasi, maršrutētāja iemeslu, marķieru skaitu, latentumu, izmaksas, statusu — un rindas prompt_stored ir 0. Abas pamatteksta kolonnas eksistē shēmā un ir null. Īstenošana ir kods, nevis politikas proza: pieprasījums, kura faktiskā saglabāšana nav nulle, tiek noraidīts ar 403 retention_exceeds_policy, ja tas prasa vairāk, nekā atļauj jūsu politika, un 501 retention_not_implemented, ja tas ir atļauts, bet nav ieviests. Politikas var saglabāt 24h, 7d vai 30d kā izvēles; izvēles saglabāšana neiespējo pamatteksta saglabāšanu. Ja kāds izsekojums kādreiz uzrāda prompt_stored, kas nav 0, tā ir vienas lapas atbilde uz "ko jūs saglabājāt" — un to varat pārbaudīt pats ar jq, kā parāda pierādījumu lapa.
packages/shared/src/db/schema.sql:295 (prompt_stored un abas pamatteksta kolonnas), apps/api/src/inference.mjs:83 (IMPLEMENTED_RETENTION = zero), apps/api/src/inference.mjs:89 (403 retention_exceeds_policy), apps/api/src/inference.mjs:97 (501 retention_not_implemented), docs/product/decisions.md:62 (ADR-003)
Vai jūs apmācāt uz klientu datiem?
Nē — nekas šajā produktā nav tādā stāvoklī, lai to darītu. API, tīmekļa procesā, maršrutētājā vai koplietotajos pakotnēs nav apmācības vai precizēšanas koda ceļa. API orķestrē pieprasījumu uz aizmugures sistēmu un mēra to; nav datu kopas ieguves, nav korpusa krātuves un nav precizēšanas darba. Uzvedņu un atbilžu pamatteksti netiek ierakstīti datubāzē, tāpēc nav pat saglabāta korpusa, ar ko apmācīt. Tas ir apgalvojums par mūsu kodu, nevis par katra modeļa augšupējiem apmācības datiem. Modeļi, kas tika apmācīti uz citu cilvēku datiem vai kas atklāj savus apmācības datus, ir aprakstīti savās kartēs ar avotiem, un dažas no šīm kartēm norāda, ka apmācības dati nav publicēti.
apps/api/src/inference.mjs (viss pieprasījuma ceļš: orķestrēt, mērīt, nekad nesaglabāt), packages/shared/src/db/schema.sql (nav datu kopas vai korpusa tabulas), packages/content/models.mjs:196 (karte, kas norāda, ka apmācības dati nav publicēti)
Kas notiek, ja neviens galapunkts neatbilst manai rezidences politikai?
Pieprasījums neizdodas. Tas netiek pazemināts uz tuvējo reģionu, un tas netiek nosūtīts nekur citur: 409 no_endpoint_for_policy, ar iemeslu kļūdas pamattekstā un izslēgtajiem galapunktiem, kas nosaukti izsekojumā. Rezidence tiek piemērota pirms vērtēšanas, un pāreja uz rezervi vienmēr notiek tikai maršrutētāja jau filtrētajā kopā — tāpēc atkārtojums nevar klusi izvairīties no jūsu noteiktā noteikuma. Kods to pasaka vienā teikumā: "Neviens galapunkts neatbilst rezidencei {x}. Rezidence nekad netiek klusi atslābināta." Ko ar to darīt: nosauciet reģionu vai klasi, ko jūsu politika atļauj, apzināti paplašiniet politiku (lēmums ar ierakstu izmaiņu žurnālā), vai pieņemiet, ka šim modelim saskaņā ar šo noteikumu nav maršruta. 409 ir produkts, kas darbojas kā paredzēts; atteices režīms, ko tas novērš, ir pieprasījums, kas "izdevās" kaut kur, ko neļāvāt.
packages/shared/src/errors.mjs:59 (no_endpoint_for_policy), packages/router/src/engine.mjs:370 (atteice pirms vērtēšanas), packages/router/src/engine.mjs:507 (pāreja uz rezervi nevar atstāt filtrēto kopu), apps/api/src/inference.mjs:137 (saglabāšana tiek pārbaudīta pirms maršrutēšanas)
Vai tas atbilst GDPR vai ir sertificēts?
Mēs neizsakām šādu apgalvojumu un neizteiksim — ne "atbilst AI aktam", ne "sertificēts", ne "Oficiāli ES". LLM EU ir privāts uzņēmums. Tas nav ES iestāde un nav atbilstības novērtēšanas struktūra. "Verificēts" šajā vietnē nozīmē dokumentēts, nevis juridiski sertificēts: tas ir atklājumu kontrolsaraksts, kas tiek vērtēts pēc tā, vai karte norāda savu rezidenci, nodrošinātāju, versiju, saglabāšanu, apakšapstrādātājus un licenci ar saitēm. Ko mēs varam norādīt, ir tas, ko dara kods, un kur ir robi: nulles saglabāšana, kas īstenota kodā; API atslēgas, kas saglabātas kā scrypt jaucējvērtības ar noslēpumu, kas parādīts vienreiz; katrs klienta vaicājums, kas ierobežots ar organizācijas id; ierobežojumi uz IP, atslēgu un organizāciju; pieprasījumu pamatteksti, kas ierobežoti un validēti. Kas nav izdarīts: nav neatkarīga iespiešanās testa; nav trešās puses audita; privātuma paziņojums un noteikumi ir kopsavilkumi; DPA ir nepārskatīts, neparakstīts veidnis; apakšapstrādātāju saraksts ir nepilnīgs. Drošības lapa un juridiskais rādītājs uzskaita šos robus savās sadaļās; šī atbilde uz tiem norāda, nevis pārfrāzē tos kaut ko maigāku.
docs/product/decisions.md:115 (ADR-006 — nekāda atbilstības zīmoga nevienā virknē), apps/web/server/pages/docs.mjs:537 (SECURITY_COPY: kontroļu un robu saraksts), apps/web/server/pages/docs.mjs:643 (LEGAL_READINESS: gatavība katram dokumentam)
Vai API ir OpenAI saderīgs, un ko klients maina?
Bāzes URL, un nekas cits. /v1/chat/completions pieņem oficiālo pieprasījuma formu un atgriež oficiālo atbildes formu — choices, usage, straumēšanu kā SSE — tāpēc oficiālie SDK darbojas pēc tam, kad tos vēršat uz mums. Papildu pamatteksta lauki tiek ignorēti, nevis noraidīti, tāpēc jaunāks SDK nevar salauzt vecāku maršrutu. Pievienotais ir neobligāts un papildinošs: nosaukumvietas llmeu objekts pieprasījumā (residency, task, retention, data_class, policy_id, max_usd_per_1m, allow_partners) un llmeu bloks atbildē, kas satur trace_id, model_used, model_version, provider, endpoint_id, inference_region, sovereignty_class, route_reason, policy_id, retention un izmaksu aplēses. Apzināti netiek piedāvāts: /v1/completions (501), n > 1 (400), iegultnes, ja vien iegultņu modelis faktiski netiek mitināts. llmeu bloks var iegūt laukus; lauka noņemšana būtu laužošas izmaiņas un parādītos izmaiņu žurnālā.
docs/product/decisions.md:78 (ADR-004), apps/api/src/app.mjs:554 (atbilde, ko nolasa klients), apps/api/src/app.mjs:255 (501 uz /v1/completions), apps/web/server/pages/docs.mjs:403 (rakstiskais saderības līgums)
Kas notiek, ja nav GPU?
MockBackend atbild, un tas to pasaka savā izvadē: pabeigšana nosauc modeli un reģionu, norāda, ka netika palaisti īsti svari, un pasaka, kā ieslēgt pirmās puses inference (VLLM_BASE_URL, pēc tam gpu_enabled karodziņš). Tā reģions ir dev-mock, kas nav vieta, un mock izsaukumā nav maksas. GET /readyz ziņo, kuras aizmugures sistēmas darbojas, un gatavību neapmierina galapunkta rinda, kas saka, ka darbojas — pārvaldītai izpildlaika videi faktiski jāziņo kā veselai, jo visa šīs pārbaudes būtība ir noķert mezglu, kura svari vēl ielādējas. Aizmugures sistēmu reģistrs atsakās aizstāt mock ar galapunktu, kura izpildlaika vide ir vllm; tā vietā tas met kļūdu. Godīgais kopsavilkums ir neērts un to ir vērts pateikt tieši: šajā izvietojumā nav GPU, tāpēc izsaukums šeit ir cauruļvada demonstrācija, nevis modeļa palaišana. Mock panākums ir panākums uz vada; tas nekad netiek pasniegts kā īsta modeļa palaišana.
packages/inference/src/mock.mjs:49 (atbilde, kas nosauc mock), apps/api/src/app.mjs:157 (gatavība ietver pārvaldītas aizmugures sistēmas), docs/product/decisions.md:131 (ADR-007 — reģistrs atsakās viltoi GPU izpildlaika vidi)
Ko nozīmē modeļa karte, kas atzīmēta ar catalogue_only?
Tas nozīmē, ka mēs modeli iekļaujam katalogā un neapkalpojam to. Karte ir atsauces informācija — nodrošinātājs, licence, konteksta logs, kur nodrošinātājs saka, ka tas darbojas, avoti katram skaitlim — un neviens LLM EU galapunkts uz to neatbild. Pieprasiet to no API, un jūs saņemsiet 404 hosted_unavailable ar piezīmi "tikai katalogs — vēl nav mitināts LLM EU"; lapa tam nenorāda cenu, jo cena par kaut ko, ko neviens nevar izsaukt, ir apgalvojums bez nekā aiz tā. Pieprasījumi uz šo modeli iet tieši pie tā nodrošinātāja saskaņā ar šī nodrošinātāja noteikumiem, un modeļa karte saka tieši to. Pretējais emblēma arī nav spēcīgāks solījums: modelis, ko mitinām, tiek mitināts nosauktā reģionā ar nosauktu suverenitātes klasi, un tas ir apgalvojums, ko varat pārbaudīt izsekojumā. Neviens emblēma nav atbilstības paziņojums.
packages/router/src/engine.mjs:325 (maršrutētājs noraida veidu), apps/api/src/app.mjs:235 (404 hosted_unavailable ar piezīmi), apps/web/server/pages/docs.mjs:446 (cenu noteikšana izlaiž catalogue_only)
Kā šodien darbojas cenu noteikšana un kredīts?
Cenas ir par miljonu marķieru ievadē un izvadē, saglabātas katram galapunktam un parādītas cenu lapā un modeļu kartēs, EUR, atvasinātas no viena publicēta USD kursa; virsgrāmata pati glabā USD mikro vienības un ieraksta kursu katrā rindā, tāpēc iepriekšēju rēķinu var precīzi rekonstruēt. Katra pabeigšana atgriež cost_estimate_usd un cost_estimate_eur, un izsekojums reģistrē izmaksas abos. Politikas ierobežojumi — ierobežojums uz miljonu un dienas ierobežojums — tiek pārbaudīti pirms maršrutēšanas, tāpēc pieprasījums, kas pārsniedz budžetu, tiek noraidīts, nevis izpildīts. Karšu maksājumi šajā izvietojumā nav iespējoti, un nekas automātiski nepievieno kredītu: vēl nav rēķinu izpildes un nav operatora kredīta ceļa. Konsole parāda, kas ir iztērēts un kas palicis. Ja stripe_enabled karodziņš tiek ieslēgts, kredīta apstrādātājs pieņem nosūtīto summu, nepārbaudot, ka maksājums ir noticis — tāpēc karodziņam jāpaliek izslēgtam, līdz maksājuma pārbaude ir ieviesta un pārbaudīta, un tāpēc mēs to sakām šeit, nevis piedāvājam norēķinu pogu.
docs/product/decisions.md:148 (ADR-008 — mikro vienības saglabātas, EUR parādīti), apps/api/src/inference.mjs:457 (izmaksu aplēses katram pieprasījumam), apps/web/server/pages/docs.mjs:463 (cenu lapa norāda, ka maksājumi ir izslēgti), apps/web/server/pages/docs.mjs:559 (kredīta apstrādātājs nepārbauda maksājumu)
Vai mēs varam mitināt paši?
Ne ar kaut ko, ko mēs šodien piegādājam. Nav pašmitināšanas izplatīšanas: nav konteinera attēla, nav instalētāja, nav uz vietas mitināšanas licences, nav atbalsta līguma šī risinājuma darbināšanai jūsu pašu infrastruktūrā, un šis repozitorijs netiek piedāvāts kā atbalstīts izvietojums. Konsoles komandas virsma pastāv, bet organizācijas lomas nav pilnīga lomu piekļuves kontrole, un tas ir dokumentēts, nevis netieši noliegts. Katalogs gan satur rezidences klasi ar nosaukumu on_prem_customer — "modelis darbojas infrastruktūrā, ko kontrolē klients" — un tā ir galapunkta piederības un darbības klasifikācija, nevis mūsu piedāvājums. Daudzi kataloga modeļi publicē atvērtus svarus, un to licences (dažas nekomerciālas, dažas tikai pētniecībai) ir kartēs ar saiti, tāpēc varat izvērtēt to darbināšanu paši; tas ir lēmums par cita cilvēka svariem un cita cilvēka licenci, nevis LLM EU pašmitināšanas produkts. Par sarunu par mitināšanu uz vietas īstās durvis ir uzņēmumu lapa, un ir godīgi, ka šāda vienošanās vēl nepastāv.
packages/router/src/engine.mjs:12 (on_prem_customer parādās tikai rezidences kartējumos), packages/shared/src/catalog-schema.mjs:84 (tās definīcija), apps/web/server/pages/docs.mjs:517 (nepilnīga RBAC, norādīts), packages/content/models.mjs:695 (atvērtu svaru licence kartē)
Ja kāda atbilde šeit ir nepareiza, tas ir defekts, un mēs pret to izturamies kā pret defektu. Ja kods un šī lapa atšķiras, uzvar kods — un pierādījumu lapa, drošības lapa un juridiskais rādītājs ir vietas, kur mēs glabājam pārējo neērto detaļu, nevis atkārtojam to desmit reizes.
Jautājumi, uz kuriem šī lapa neatbild: mail@llmeu.com
Pierādījumi un verifikācija · Drošība · Juridiskā informācija · Piekļūstamība