Mistoqsijiet frekwenti
Il-biċċa l-kbira tal-paġni fuq dan is-sit jagħmlu dikjarazzjoni. Din twieġeb għaxar mistoqsijiet li xerrej normalment ikollu jibgħat email biex jiksibhom. Fejn it-tweġiba hija "għadha mhix", tgħid "għadha mhix" — paġna li tesaġġera tiswa inqas minn paġna vojta, għax kull paġna oħra hawn hija miktuba biex tkun verifikabbli.
Fejn jiġu pproċessati l-prompts u l-completions?
Fuq l-endpoint li jgħażel ir-router, li huwa reġjun bl-isem, u r-risposta tgħidlek liema wieħed: il-blokk llmeu fuq kull completion iġorr inference_region, endpoint_id u sovereignty_class. Valur ta' residenza fil-politika tiegħek jillimita dak is-sett qabel l-għażla; jiġi applikat bħala filtru, mhux bħala preferenza, u catalogue_unknown qatt mhu rotabbli. Żewġ limiti fuq dik is-sentenza. L-ewwel, ir-ringieli tar-reġjuni huma data tal-konfigurazzjoni, mhux evidenza ta' magni li jaħdmu jew kuntratti tal-operatur ikkonfermati — id-dokument tar-residenza jgħid dan bil-kliem tiegħu, u aħna ntennuh hawn minflok ma ngħiduh biss hemm. It-tieni, fuq dan id-deployment m'hemmx GPU: il-backend awtomatiku huwa l-mock, li r-reġjun tiegħu huwa dev-mock, u l-mock ma jirrappreżentax post. Ara "X'jiġri jekk m'hemmx GPU?" hawn taħt. L-API li tagħmel dan hija proċess Node, mhux parti minn dan is-sit statiku — llmeu.com innifsu jwieġeb paġni, ma jipproċessax talbiet.
apps/api/src/inference.mjs:457 (il-blokk tar-risposta llmeu), packages/router/src/engine.mjs:467 (ir-residenza tiġi applikata qabel l-iskurjar), packages/inference/src/mock.mjs:7 (MOCK_REGION = dev-mock), packages/shared/src/catalog-schema.mjs:64 (il-klassijiet rotabbli)
Il-prompts u l-completions jinżammu?
Le. Il-korpi tal-prompt u tal-completion mhumiex miktuba fid-database. Kull sejħa taħżen metadata — mudell mitlub u użat, verżjoni, endpoint, reġjun, klassi ta' sovranità, ir-raġuni tar-router, għadd ta' tokens, latenza, spiża, status — u prompt_stored tar-ringiela huwa 0. Iż-żewġ kolonni tal-korp jeżistu fl-iskema u huma null. L-infurzar huwa kodiċi, mhux proża tal-politika: talba li r-retention effettiva tagħha hija xi ħaġa oħra għajr żero tiġi rrifjutata, b'403 retention_exceeds_policy jekk titlob aktar minn dak li tippermetti l-politika tiegħek u 501 retention_not_implemented jekk hija permessa iżda mhux implimentata. Il-politiki jistgħu jaħżnu 24h, 7d jew 30d bħala għażliet; it-taħżin tal-għażla ma jippermettix it-taħżin tal-korp. Jekk trace qatt juri prompt_stored differenti minn 0, dik hija t-tweġiba ta' paġna waħda għal "x'żammejt" — u tista' tivverifika dan int stess b'jq, kif turi l-paġna tal-evidenza.
packages/shared/src/db/schema.sql:295 (prompt_stored u ż-żewġ kolonni tal-korp), apps/api/src/inference.mjs:83 (IMPLEMENTED_RETENTION = zero), apps/api/src/inference.mjs:89 (403 retention_exceeds_policy), apps/api/src/inference.mjs:97 (501 retention_not_implemented), docs/product/decisions.md:62 (ADR-003)
Titrenaw fuq data tal-klijenti?
Le — xejn f'dan il-prodott mhu f'pożizzjoni li jagħmel dan. M'hemm l-ebda mogħdija ta' kodiċi għat-taħriġ jew il-fine-tuning fl-API, fil-proċess tal-web, fir-router jew fil-pakketti kondiviżi. L-API torganizza talba lil backend u tkejjel; m'hemm l-ebda inġestjoni ta' dataset, l-ebda maħżen ta' korpus u l-ebda xogħol ta' fine-tune. Il-korpi tal-prompt u tal-completion mhumiex miktuba fid-database, għalhekk m'hemmx lanqas korpus maħżun biex wieħed jitħarreġ fuqu. Din hija dikjarazzjoni dwar il-kodiċi tagħna, mhux dwar id-data tat-taħriġ upstream ta' kull mudell. Mudelli li ġew imħarrġa fuq data ta' nies oħra, jew li jiżvelaw id-data tat-taħriġ tagħhom, huma deskritti fuq il-karti tagħhom stess, b'sorsi, u xi wħud minn dawk il-karti jgħidu li d-data tat-taħriġ mhix ippubblikata.
apps/api/src/inference.mjs (il-mogħdija kollha tat-talba: torganizza, tkejjel, qatt ma tippersisti), packages/shared/src/db/schema.sql (l-ebda tabella ta' dataset jew korpus), packages/content/models.mjs:196 (karta li tgħid li d-data tat-taħriġ mhix ippubblikata)
X'jiġri meta l-ebda endpoint ma jissodisfa l-politika tar-residenza tiegħi?
It-talba tfalli. Mhix imniżżla għal reġjun fil-qrib, u mhix mibgħuta x'imkien ieħor: 409 no_endpoint_for_policy, bir-raġuni fil-korp tal-iżball u l-endpoints esklużi msemmija fuq it-trace. Ir-residenza tiġi applikata qabel l-iskurjar, u l-failover qatt ma jiċċaqlaq ħlief fi ħdan is-sett li r-router diġà ffiltrat — u għalhekk retry ma jistax jaħrab bil-kwiet mir-regola li stabbilixxejt. Il-kodiċi jgħidha f'sentenza waħda: "L-ebda endpoint ma jissodisfa r-residenza {x}. Ir-residenza qatt ma tiġi rilassata bil-kwiet." X'tagħmel dwar dan: semmi reġjun jew klassi li l-politika tiegħek tippermetti, wessa l-politika deliberatament (deċiżjoni, b'annotazzjoni fil-changelog), jew aċċetta li l-ebda rotta ma teżisti għal dak il-mudell taħt dik ir-regola. 409 huwa l-prodott jaħdem kif iddisinjat; il-modalità tal-falliment li tipprevjeni hija talba li "rnexxiet" x'imkien li ma ppermettajtx.
packages/shared/src/errors.mjs:59 (no_endpoint_for_policy), packages/router/src/engine.mjs:370 (il-falliment, qabel l-iskurjar), packages/router/src/engine.mjs:507 (il-failover ma jistax joħroġ mis-sett iffiltrat), apps/api/src/inference.mjs:137 (ir-retention tiġi vverifikata qabel ir-routing)
Dan huwa konformi mal-GDPR jew ċertifikat?
Ma nagħmlux dik id-dikjarazzjoni, u mhux se nagħmluha — mhux "konformi mal-AI Act", mhux "ċertifikat", mhux "Uffiċjali tal-UE". LLM EU hija kumpanija privata. Mhix istituzzjoni tal-UE u mhix korp ta' valutazzjoni tal-konformità. "Verifikat" fuq dan is-sit ifisser dokumentat, mhux ċertifikat legalment: hija lista ta' kontroll tad-dikjarazzjonijiet, imkejla skont jekk karta tiddikjarax ir-residenza, il-fornitur, il-verżjoni, ir-retention, is-subprocessors u l-liċenzja tagħha, b'links. Dak li nistgħu niddikjaraw huwa dak li jagħmel il-kodiċi, u fejn huma l-lakuni: żero retention infurzat fil-kodiċi; ċwievet API maħżuna bħala hashes scrypt bis-segrete muri darba; kull query tal-klijent skoperta bl-id tal-organizzazzjoni; limiti tar-rata għal kull IP, kull key u kull organizzazzjoni; korpi tat-talbiet limitati u vvalidati. Dak li mhux magħmul: l-ebda test ta' penetrazzjoni indipendenti; l-ebda awditjar minn parti terza; l-avviż tal-privatezza u t-termini huma sommarji; il-DPA huwa mudell mhux rivedut u mhux iffirmat; l-inventarju tas-subprocessors mhux komplut. Il-paġna tas-sigurtà u l-indeks legali jelenkaw dawk il-lakuni fit-taqsimiet tagħhom stess; din it-tweġiba tindika lejhom minflok ma tparaffrażahom f'xi ħaġa aktar ratba.
docs/product/decisions.md:115 (ADR-006 — l-ebda timbru tal-konformità, fi kwalunkwe string), apps/web/server/pages/docs.mjs:537 (SECURITY_COPY: il-lista tal-kontrolli u l-lakuni), apps/web/server/pages/docs.mjs:643 (LEGAL_READINESS: tħejjija skont id-dokument)
L-API hija kompatibbli ma' OpenAI, u x'jinbidel klijent?
Il-base URL, u xejn aktar. /v1/chat/completions jaċċetta l-forma uffiċjali tat-talba u jirritorna l-forma uffiċjali tar-risposta — choices, usage, streaming bħala SSE — għalhekk l-SDKs uffiċjali jaħdmu wara li tindikahom lejna. Oqsma żejda fil-korp jiġu injorati minflok rrifjutati, għalhekk SDK aktar ġdid ma jistax ikisser rotta aktar qadima. Dak li huwa miżjud huwa fakultattiv u addittiv: oġġett llmeu b'namespacing fit-talba (residency, task, retention, data_class, policy_id, max_usd_per_1m, allow_partners) u blokk llmeu fir-risposta li jġorr trace_id, model_used, model_version, provider, endpoint_id, inference_region, sovereignty_class, route_reason, policy_id, retention u stimi tal-ispiża. Mhux offruti, deliberatament: /v1/completions (501), n > 1 (400), embeddings sakemm mudell tal-embedding ma jkunx attwalment ospitat. Il-blokk llmeu jista' jikseb oqsma; it-tneħħija ta' wieħed tkun bidla li tikkisser u tidher fil-changelog.
docs/product/decisions.md:78 (ADR-004), apps/api/src/app.mjs:554 (ir-risposta li jaqra l-klijent), apps/api/src/app.mjs:255 (501 fuq /v1/completions), apps/web/server/pages/docs.mjs:403 (il-kuntratt tal-kompatibilità miktub)
X'jiġri jekk m'hemmx GPU?
Il-MockBackend iwieġeb, u jgħidha fl-output tiegħu stess: il-completion jsemmi l-mudell u r-reġjun, jiddikjara li l-ebda piż reali ma ġie esegwit, u jgħid kif tixgħel l-inferenza tal-ewwel parti (VLLM_BASE_URL, imbagħad il-flag gpu_enabled). Ir-reġjun tiegħu huwa dev-mock, li mhuwiex post, u fuq sejħa mock m'hemmx ħlas. GET /readyz jirrapporta liema backends huma attivi, u l-readiness mhix sodisfatta b'ringiela tal-endpoint li tgħid up — runtime maniġġjat irid attwalment jirrapporta b'saħħtu, għax il-punt kollu ta' dak il-probe huwa li jaqbad node li l-piżijiet tiegħu għadhom qed jitgħabbu. Ir-reġistru tal-backends jirrifjuta li jissostitwixxi l-mock għal endpoint li r-runtime tiegħu huwa vllm; minflok jitfa'. Is-sommarju onest huwa skomdu u jistħoqqlu jingħad b'mod ċar: dan id-deployment m'għandux GPU, għalhekk sejħa hawn hija dimostrazzjoni tal-pipeline, mhux esekuzzjoni ta' mudell. Suċċess mock huwa suċċess fuq il-wire; qatt mhu ppreżentat bħala esekuzzjoni ta' mudell reali.
packages/inference/src/mock.mjs:49 (it-tweġiba li ssemmi l-mock), apps/api/src/app.mjs:157 (ir-readiness tinkludi backends maniġġjati), docs/product/decisions.md:131 (ADR-007 — ir-reġistru jirrifjuta li jiffaċilita runtime tal-GPU)
Xi tfisser karta tal-mudell immarkata catalogue_only?
Ifisser li aħna nikkatalaw il-mudell u ma nservuhx. Il-karta hija informazzjoni ta' referenza — fornitur, liċenzja, context window, fejn il-fornitur jgħid li jaħdem, sorsi għal kull figura — u l-ebda endpoint ta' LLM EU ma jwieġeb għalih. Staqsi lill-API għalih u tikseb 404 hosted_unavailable, bin-nota "catalogue only — not hosted on LLM EU yet"; paġna għalih ma tikkwota l-ebda prezz, għax prezz għal xi ħaġa li ħadd ma jista' jsejjaħ hija dikjarazzjoni bla xejn warajha. Talbiet lil dak il-mudell imorru direttament għand il-fornitur tiegħu, taħt it-termini tal-fornitur stess, u l-karta tal-mudell tgħid eżattament hekk. Il-badge oppost lanqas mhu wegħda aktar b'saħħitha: mudell li nospitaw huwa ospitat f'reġjun bl-isem b'klassi ta' sovranità bl-isem, u dik hija d-dikjarazzjoni li tista' tivverifika fuq it-trace. L-ebda badge mhu dikjarazzjoni ta' konformità.
packages/router/src/engine.mjs:325 (ir-router jirrifjuta t-tip), apps/api/src/app.mjs:235 (404 hosted_unavailable bin-nota), apps/web/server/pages/docs.mjs:446 (il-prezzar jaqbeż catalogue_only)
Kif jaħdmu l-prezzar u l-kreditu llum?
Il-prezzijiet huma għal kull miljun token 'il ġewwa u 'l barra, maħżuna għal kull endpoint u murija fuq il-paġna tal-prezzar u l-karti tal-mudelli, f'EUR, derivati minn rata waħda ppubblikata tal-USD; il-leġġer innifsu jaħżen micros tal-USD u jikteb ir-rata fuq kull ringiela, għalhekk fattura tal-passat tista' tiġi rikostruwita eżattament. Kull completion jirritorna cost_estimate_usd u cost_estimate_eur, u trace jirrekordja l-ispiża fit-tnejn. Il-limiti tal-politika — limitu għal kull miljun u limitu ta' kuljum — jiġu vverifikati qabel ir-routing, għalhekk talba li taqbeż il-baġit tiġi rrifjutata minflok ma titħaddem. Ħlasijiet bil-karta mhumiex attivati fuq dan id-deployment, u xejn ma jżid il-kreditu awtomatikament: m'hemmx ġirja tal-fatturi u l-ebda mogħdija tal-kreditu tal-operatur għadha. Il-console turi dak li ntefa' u dak li fadal. Jekk flag stripe_enabled jixgħel, il-handler tal-kreditu jaċċetta ammont mibgħut mingħajr ma jivverifika li seħħ ħlas — u għalhekk il-flag irid jibqa' mitfi sakemm il-verifika tal-ħlas tiġi implimentata u ttestjata, u għalhekk ngħiduha hawn minflok ma noffru buttuna tal-checkout.
docs/product/decisions.md:148 (ADR-008 — micros maħżuna, EUR murija), apps/api/src/inference.mjs:457 (stimi tal-ispiża għal kull talba), apps/web/server/pages/docs.mjs:463 (il-paġna tal-prezzar tiddikjara li l-ħlasijiet huma mitfija), apps/web/server/pages/docs.mjs:559 (il-handler tal-kreditu ma jivverifikax il-ħlas)
Nistgħu nospitaw waħedna?
Mhux permezz ta' xi ħaġa li nipprovdu llum. M'hemmx distribuzzjoni self-hosted: l-ebda image tal-container, l-ebda installer, l-ebda liċenzja on-premise, l-ebda kuntratt ta' appoġġ biex dan jaħdem fl-istat tiegħek, u dan ir-repożitorju mhuwiex offrut bħala deployment appoġġjat. Il-wiċċ tat-tim tal-console jeżisti, iżda r-rwoli tal-organizzazzjoni mhumiex kontroll sħiħ tal-aċċess ibbażat fuq ir-rwoli, u dan huwa dokumentat minflok ma jiġi implikat li mhux. Dak li jġorr il-katalgu huwa klassi ta' residenza msejħa on_prem_customer — "il-mudell jaħdem ġewwa infrastruttura li tikkontrolla l-klijent" — u hija klassifikazzjoni tas-sjieda u l-operat ta' endpoint, mhux offerta mingħandna. Ħafna mill-mudelli fil-katalgu jippubblikaw piżijiet miftuħa, u l-liċenzji tagħhom (xi wħud mhux kummerċjali, xi wħud għar-riċerka biss) huma fuq il-karti b'link, għalhekk tista' tevalwa li tħaddimhom int stess; dik hija deċiżjoni dwar piżijiet ta' ħaddieħor u liċenzja ta' ħaddieħor, mhux prodott self-hosting minn LLM EU. Għal diskussjoni on-premise, il-paġna tal-intrapriża hija l-bieb it-tajjeb, u hija onesta li l-arranġament għadu ma jeżistix.
packages/router/src/engine.mjs:12 (on_prem_customer jidher biss fil-mappings tar-residenza), packages/shared/src/catalog-schema.mjs:84 (id-definizzjoni tiegħu), apps/web/server/pages/docs.mjs:517 (RBAC mhux komplut, iddikjarat), packages/content/models.mjs:695 (liċenzja ta' piżijiet miftuħa fuq karta)
Jekk tweġiba hawn tkun ħażina, hija difett u aħna nittrattawha bħala tali. Fejn il-kodiċi u din il-paġna ma jaqblux, il-kodiċi jirbaħ — u l-paġna tal-evidenza, il-paġna tas-sigurtà u l-indeks legali huma l-postijiet fejn inżommu l-bqija tad-dettall skomdu minflok ma nirrepetuh għaxar darbiet.
Mistoqsijiet li din il-paġna ma twieġibx: mail@llmeu.com