Migrācija

Bāzes URL un atslēga pārnes OpenAI klientu. Šajā lapā arī norādīts, ko API nedara, jo migrācija, kas to atklāj ražošanā, nav migrācija.

Tiešās aizstāšanas forma

Norādiet klienta bāzes URL uz https://api.llmeu.com/v1 un piešķiriet tam API atslēgu no konsoles. Pieprasījuma forma nemainās.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmeu.com/v1", api_key="llmeu_live_xxxxxxxx.your-secret")

resp = client.chat.completions.create(
    model="llmeu-auto",
    messages=[{"role": "user", "content": "Say hello from EU hosting."}],
)
print(resp.choices[0].message.content)

Ko pieņem tērzēšanas galapunkts

Pieprasījuma validators failā apps/api/src/app.mjs pārbauda šo; tas, ko tas nepārbauda, tiek nodots tālāk vai ignorēts, nevis noraidīts, tāpēc jaunāks klients turpina darboties.

model un messages ir obligāti; messages ir jābūt ne tukšam masīvam.
Katrai ziņai nepieciešama loma (system, user, assistant, tool vai developer) un saturs kā virkne vai daļu masīvs.
stream, ja norādīts, ir jābūt Būla vērtībai.
temperature, top_p, max_tokens, presence_penalty, frequency_penalty, seed un n, ja tie ir norādīti, ir jābūt skaitļiem.
max_tokens ir jābūt vismaz 1.
n ir jābūt tieši 1; jebkas cits tiek atteikts.
stop var būt virkne vai virkņu masīvs.
tools, ja norādīts, ir jābūt masīvam.
llmeu ir jābūt objektam; tas nekad nav obligāts.
tool_choice un response_format tiek pārsūtīti uz aizmugursistēmu kopā ar iepriekš minētajiem laukiem; nezināms papildu lauks netiek noraidīts.

Pieprasījuma papildinājumi zem llmeu

llmeu objekts ar nosaukumtelpu pieprasījuma pamattekstā; klients, kas ignorē nezināmus laukus, to var droši nosūtīt.

Lauks	Vērtība	Ietekme
residency	eu-hosted \| eu-owned \| de \| any	Sašaurina maršrutēšanu uz galapunktiem attiecīgajā rezidencē; tukša piemērotā kopa atgriež 409 no_endpoint_for_policy, nevis paplašina filtru.
task	uzdevuma nosaukums	Uzdevums, kuram maršrutētājs pielāgo modeli.
retention	zero	Ir ieviesta tikai nulle. Pieprasot vairāk, nekā politika atļauj, tiek atgriezts 403 retention_exceeds_policy; atļauta faktiskā vērtība, kas nav nulle, atgriež 501 retention_not_implemented.
data_class	public \| internal \| confidential \| restricted	Tiek pārbaudīts pret politikas atļautajām datu klasēm: klase, kas nav starp tām, atgriež 403 data_class_not_allowed, un nezināma klase atgriež 400 invalid_data_class.
policy_id	uuid	Nosauc tās pašas organizācijas politiku; nezināms id atgriež 404 policy_not_found.
max_usd_per_1m	skaitlis	Cenas griesti uz miljonu tokenu šim pieprasījumam.
allow_partners	true \| false	Vai šim pieprasījumam drīkst izmantot partneru galapunktus.

Nezināmas atslēgas llmeu iekšienē tiek ignorētas; zināma atslēga ar nederīgu vērtību tiek atteikta, jo slikta data_class ir jānovērš droši, nevis klusām jānozīmē datu klases neesamība.

curl https://api.llmeu.com/v1/chat/completions \
  -H "Authorization: Bearer $LLMEU_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llmeu-auto",
    "messages": [{"role": "user", "content": "Summarise this contract."}],
    "llmeu": {"residency": "eu-owned", "data_class": "confidential", "retention": "zero"}
  }'

Kas neeksistē

Šīs atbildes ir apzinātas, un klients, kas tās gaida, redz kļūdas kodu, nevis klusējošu aizstāšanu.

Pieprasījums	Rezultāts
POST /v1/completions	501 `not_implemented` — mantotais completions galapunkts netiek piedāvāts; izmantojiet /v1/chat/completions.
n > 1	400 `unsupported_n` — tiek atbalstīts tikai n = 1.
POST /v1/embeddings	Iegulumi prasa iegulšanas modeli, un pieprasītais noklusējuma id ir bge-m3. Tos pašlaik apkalpo deterministiskais vietējais aizmugursistēma, kuras atbildē ir llmeu.mock: true un piezīme, ka tiek atgriezti deterministiski vietturu vektori un šajā izvietojumā netiek apkalpoti iegulšanas svari.
/v1/files, /v1/batches, /v1/assistants, /v1/fine_tuning, /v1/audio, /v1/images	404 `unknown_route` — netiek maršrutēts vispār; /v1 ceļš, ko maršrutētājs nezina, atbild 404 unknown_route, un jebkurš cits ceļš atbild 404 not_found.

Datu izgūšana

Konta eksports me.json satur atlasītus konta laukus, organizācijas, API atslēgu metadatus bez noslēpumiem, pašreizējās politikas, jaunākos 200 izsekojumus katrā organizācijā un dienas lietojuma apkopojumus par 365 dienām. Tas nav pilnīgs visu personas datu kopijs un nav vēsturisks politikas ieraksts.

NDJSON audita eksports pēc noklusējuma aptver 7 dienas, pieļauj ne vairāk kā 90 dienas un ierobežo izsekojumus līdz 5000; tā manifests satur counts.truncated, kas norāda eksportu, kas sasniedza ierobežojumu.

GET /app/exports/me.json
GET /app/exports/audit.ndjson?days=7
GET /app/exports/traces.json
GET /app/exports/usage.json
GET /app/exports/policies.json

Pats konta dzēšana notiek profila lapā un ir pakļauta īpašumtiesību noteikumam konsoles lapā.

Sesijas sīkdatne nav API akreditācijas dati

Pārlūkprogrammas sesija autentificē konsoli, nevis API. OpenAI klients, kas to nosūta, tiek atteikts ar 403 api_key_required un tā vietā ir jāizmanto API atslēga.

Atteikums šeit nosauc kodu, tāpēc migrācija var tajā atzaroties, un llmeu bloks katrā atbildē norāda, kas patiesībā notika.