Migrazzjoni
Base URL u ċavetta jċaqilqu klijent OpenAI. Din il-paġna tgħid ukoll x'ma tagħmelx l-API, għax migrazzjoni li tiskopri dan fil-produzzjoni mhijiex migrazzjoni.
Il-forma drop-in
Ipponta l-base URL tal-klijent lejn https://api.llmeu.com/v1 u agħtih ċavetta API mill-konsol. Il-forma tat-talba ma tinbidilx.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmeu.com/v1", api_key="llmeu_live_xxxxxxxx.your-secret")
resp = client.chat.completions.create(
model="llmeu-auto",
messages=[{"role": "user", "content": "Say hello from EU hosting."}],
)
print(resp.choices[0].message.content)
X'jaċċetta l-endpoint tal-chat
Il-validatur tat-talba f'apps/api/src/app.mjs jiċċekkja dan li ġej; dak li ma jiċċekkjax jgħaddi jew jiġi injorat minflok ma jiġi rrifjutat, sabiex klijent aktar ġdid jibqa' jaħdem.
- model u messages huma meħtieġa; messages trid tkun array mhux vojta.
- Kull messaġġ jeħtieġ rwol (system, user, assistant, tool jew developer) u kontenut bħala string jew array ta' partijiet.
- stream trid tkun boolean meta preżenti.
- temperature, top_p, max_tokens, presence_penalty, frequency_penalty, seed u n iridu jkunu numri meta preżenti.
- max_tokens trid tkun mill-inqas 1.
- n trid tkun eżattament 1; kull ħaġa oħra tiġi rrifjutata.
- stop tista' tkun string jew array ta' strings.
- tools trid tkun array meta preżenti.
- llmeu trid tkun oġġett; qatt mhi meħtieġa.
- tool_choice u response_format jiġu mgħoddija lill-backend flimkien mal-oqsma ta' hawn fuq; qasam extra mhux magħruf ma jiġix rrifjutat.
Extras tat-talba taħt llmeu
Oġġett llmeu b'namespace fil-body tat-talba; klijent li jinjora oqsma mhux magħrufa jista' jibgħatu b'mod sikur.
| Qasam | Valur | Effett |
|---|---|---|
| residency | eu-hosted | eu-owned | de | any | Tidjiq ir-rotta għal endpoints f'dik ir-residenza; sett eliġibbli vojt jirritorna 409 no_endpoint_for_policy minflok iwessa' l-filtru. |
| task | isem tal-kompitu | Il-kompitu li r-router jaqbel il-mudell miegħu. |
| retention | zero | Jiġi implimentat biss iż-żero. Li titlob aktar milli tippermetti l-politika jirritorna 403 retention_exceeds_policy; valur effettiv permess ieħor għajr iż-żero jirritorna 501 retention_not_implemented. |
| data_class | public | internal | confidential | restricted | Iċċekkjat kontra l-klassijiet tad-data permessi mill-politika: klassi barra minnhom tirritorna 403 data_class_not_allowed, u klassi mhux magħrufa tirritorna 400 invalid_data_class. |
| policy_id | uuid | Isemmi politika tal-istess organizzazzjoni; id mhux magħruf jirritorna 404 policy_not_found. |
| max_usd_per_1m | numru | Limitu tal-prezz għal kull miljun token għal din it-talba. |
| allow_partners | true | false | Jekk endpoints tal-imsieħba jistgħux jintużaw għal din it-talba. |
Ċwievet mhux magħrufa ġewwa llmeu jiġu injorati; ċavetta magħrufa b'valur invalidu tiġi rrifjutata, għax data_class ħażina trid tfalli magħluqa minflok ma tfisser bil-moħbi l-ebda klassi tad-data.
curl https://api.llmeu.com/v1/chat/completions \
-H "Authorization: Bearer $LLMEU_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "llmeu-auto",
"messages": [{"role": "user", "content": "Summarise this contract."}],
"llmeu": {"residency": "eu-owned", "data_class": "confidential", "retention": "zero"}
}'
X'ma jeżistix
Dawn it-tweġibiet huma apposta, u klijent li jistenna lilhom jara l-kodiċi tal-iżball minflok sostituzzjoni bil-moħbi.
| Talba | Riżultat |
|---|---|
| POST /v1/completions | 501 not_implemented — l-endpoint legacy completions ma jiġix offrut; uża /v1/chat/completions. |
| n > 1 | 400 unsupported_n — huwa appoġġat biss n = 1. |
| POST /v1/embeddings | L-embeddings jeħtieġu mudell tal-embedding, u l-id mitlub default huwa bge-m3. Bħalissa jiġu servuti mill-backend lokali deterministiku, li r-risposta tiegħu ġġorr llmeu.mock: true u n-nota li jiġu rritornati vettori placeholder deterministici u l-ebda piżijiet tal-embedding ma jiġu servuti fuq dan id-deployment. |
| /v1/files, /v1/batches, /v1/assistants, /v1/fine_tuning, /v1/audio, /v1/images | 404 unknown_route — mhux routed xejn; path /v1 li r-router ma jafx iwieġeb 404 unknown_route, u kwalunkwe path ieħor iwieġeb 404 not_found. |
Toħroġ id-data tiegħek
L-esportazzjoni tal-kont me.json fiha oqsma magħżula tal-kont, organizzazzjonijiet, metadata taċ-ċwievet API mingħajr sigrieti, politiki attwali, l-aħħar 200 traċċi għal kull organizzazzjoni u aggregati tal-użu ta' kuljum għal 365 jiem. Mhijiex kopja sħiħa tad-data personali kollha u lanqas rekord storiku tal-politiki.
L-esportazzjoni tal-awditjar NDJSON tiffaġġa għal 7 jiem, tippermetti l-aktar 90 jiem u tillimita t-traċċi għal 5000; il-manifest tagħha jġorr counts.truncated, li jimmarka esportazzjoni li laħqet il-limitu.
GET /app/exports/me.json
GET /app/exports/audit.ndjson?days=7
GET /app/exports/traces.json
GET /app/exports/usage.json
GET /app/exports/policies.json
It-tħassir tal-kont innifsu jsir fil-paġna tal-profil u huwa soġġett għar-regola tas-sjieda fil-paġna tal-konsol.
Cookie tas-sessjoni mhix kredenzjali tal-API
Sessjoni tal-browser tawtentika l-konsol, mhux l-API. Klijent OpenAI li jibgħat waħda jiġi rrifjutat b'403 api_key_required u jrid juża ċavetta API minflok.
Rifjut hawnhekk isemmi kodiċi, għalhekk migrazzjoni tista' tfergħa fuqu, u l-blokk llmeu fuq kull risposta jgħid x'ġara fil-fatt.