Title: Migracija %E2%80%94 LLM EU Canonical: https://llmeu.com/sl/docs/migration/ Markdown mirror: https://llmeu.com/sl/docs/migration.md Machine-readable: https://llmeu.com/llms.txt (index) - https://llmeu.com/llms-full.txt (full catalogue) - https://llmeu.com/llms-catalogue.json Za%C4%8Dnite - [Hitri za%C4%8Detek](/sl/docs/quickstart/) - [Konzola](/sl/docs/console/) - [Migracija](/sl/docs/migration/) - [Referenca API](/sl/docs/api/) Referenca - [Avtentikacija](/sl/docs/authentication/) - [Kon%C4%8Dne to%C4%8Dke](/sl/docs/endpoints/) - [Napake](/sl/docs/errors/) - [Omejitve pogostnosti](/sl/docs/rate-limits/) - [Pretakanje](/sl/docs/streaming/) - [Politike](/sl/docs/policies/) - [Usmerjanje in politika](/sl/docs/routing/) - [Rezidenca in regije](/sl/docs/residency/) - [Dokazi in preverjanje](/sl/docs/evidence/) - [Zdru%C5%BEljivost z OpenAI](/sl/docs/openai-compat/) Upravljanje - [Samostojno gostovanje](/sl/docs/self-hosting/) # Migracija Osnovni URL in klju%C4%8D premakneta odjemalca OpenAI. Ta stran tudi navaja, %C4%8Desa API ne po%C4%8Dne, ker migracija, ki to odkrije v produkciji, ni migracija. ## Oblika za takoj%C5%A1njo zamenjavo Nastavite osnovni URL odjemalca na https://api.llmeu.com/v1 in mu dodelite API klju%C4%8D iz konzole. Oblika zahteve se ne spremeni. ``` from openai import OpenAI client = OpenAI(base_url="https://api.llmeu.com/v1", api_key="llmeu_live_xxxxxxxx.your-secret") resp = client.chat.completions.create( model="llmeu-auto", messages=[{"role": "user", "content": "Say hello from EU hosting."}], ) print(resp.choices[0].message.content) ``` ## Kaj sprejme kon%C4%8Dna to%C4%8Dka za klepet Preverjevalnik zahtev v apps/api/src/app.mjs preveri naslednje; kar ne preveri, se posreduje ali prezre, ne pa zavrne, tako da novej%C5%A1i odjemalec %C5%A1e naprej deluje. - model in messages sta obvezna; messages mora biti neprazna matrika. - Vsako sporo%C4%8Dilo potrebuje vlogo (system, user, assistant, tool ali developer) in vsebino kot niz ali matriko delov. - stream mora biti logi%C4%8Dna vrednost, kadar je prisoten. - temperature, top_p, max_tokens, presence_penalty, frequency_penalty, seed in n morajo biti %C5%A1tevila, kadar so prisotni. - max_tokens mora biti vsaj 1. - n mora biti natanko 1; vse drugo je zavrnjeno. - stop je lahko niz ali matrika nizov. - tools mora biti matrika, kadar je prisoten. - llmeu mora biti objekt; nikoli ni obvezen. - tool_choice in response_format se posredujeta v zaledje skupaj z zgornjimi polji; neznano dodatno polje ni zavrnjeno. ## Dodatki zahteve pod llmeu Objekt llmeu z imenskim prostorom v telesu zahteve; odjemalec, ki prezre neznana polja, ga lahko varno po%C5%A1lje. Neznani klju%C4%8Di znotraj llmeu se prezrejo; znan klju%C4%8D z neveljavno vrednostjo je zavrnjen, ker mora slab data_class odpovedati zaprto, namesto da tiho pomeni, da ni razreda podatkov. ``` curl https://api.llmeu.com/v1/chat/completions \ -H "Authorization: Bearer $LLMEU_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "llmeu-auto", "messages": [{"role": "user", "content": "Summarise this contract."}], "llmeu": {"residency": "eu-owned", "data_class": "confidential", "retention": "zero"} }' ``` ## Kaj ne obstaja Ti odgovori so namerni in odjemalec, ki jih pri%C4%8Dakuje, vidi kodo napake, ne pa tihe zamenjave. ## Izvoz va%C5%A1ih podatkov Izvoz ra%C4%8Duna me.json vsebuje izbrana polja ra%C4%8Duna, organizacije, metapodatke API klju%C4%8Dev brez skrivnosti, trenutne politike, najnovej%C5%A1e 200 sledi na organizacijo in dnevne agregate uporabe za 365 dni. To ni popolna kopija vseh osebnih podatkov in ne zgodovinski zapis politik. Izvoz revizije NDJSON privzeto zajema 7 dni, dovoljuje najve%C4%8D 90 dni in omeji sledi na 5000; njegov manifest vsebuje counts.truncated, kar ozna%C4%8Duje izvoz, ki je dosegel omejitev. ``` GET /app/exports/me.json GET /app/exports/audit.ndjson?days=7 GET /app/exports/traces.json GET /app/exports/usage.json GET /app/exports/policies.json ``` Brisanje ra%C4%8Duna samega se izvede na strani profila in je predmet pravila o lastni%C5%A1tvu na strani konzole. ## Sejni pi%C5%A1kotek ni API poverilnica Brskalni%C5%A1ka seja overi konzolo, ne API-ja. Odjemalec OpenAI, ki jo po%C5%A1lje, je zavrnjen s 403 api_key_required in mora namesto tega uporabiti API klju%C4%8D. Zavrnitev tukaj navede kodo, tako da se lahko migracija razveji glede na njo, in blok llmeu v vsakem odgovoru pove, kaj se je dejansko zgodilo.