Galutiniai taškai
Kiekvienas maršrutas, kurį prijungia šis API, ko jam reikia, ir tie, kurių žmonės tikisi, bet kurių sąmoningai nėra.
Bazinis URL šiame diegime: https://api.llmeu.com
| Metodas | Kelias | Kredencialas | Pastabos |
|---|---|---|---|
| GET | /healthz | nėra | Gyvybingumas. Nieko neskaito. |
| GET | /readyz | nėra | Pasirengimas: duomenų bazė, pirmosios šalies galutiniai taškai, valdomos vykdymo aplinkos. Atsako 503, kol GPU dar krauna svorius. |
| GET | /v1/models | raktas · inferencija | Tik modeliai, kuriuos šis raktas iš tikrųjų gali iškviesti pagal savo organizacijos numatytąją politiką. |
| GET | /v1/models/{id} | raktas · inferencija | Vienas modelis su jo licencija ir tuo, ar jis talpinamas čia. |
| POST | /v1/chat/completions | raktas · inferencija | OpenAI suderinamas pokalbių galutinis taškas, su srautu ar be jo. |
| POST | /v1/completions | nėra | Nesiūloma. Atsako 501 not_implemented ir nurodo vietoj jo naudotiną galutinį tašką. |
| POST | /v1/embeddings | raktas · inferencija | Įterpiniai iš įterpinių modelio. Šis diegimas juos teikia iš savo deterministinio vietinio backend'o, ir atsakyme tai nurodoma: llmeu.mock yra true turinyje. |
| POST | /v1/playground | nėra | Anonimiška, tik su mock backend'u, ir ribojama pagal IP adresą. |
| GET | /platform/v1/me | raktas · platform_read | Organizacija, kuriai priklauso šis kredencialas. |
| GET | /platform/v1/api-keys | raktas · platform_read | Organizacijos raktai, be slaptųjų dalių. |
| POST | /platform/v1/api-keys | raktas · platform_write | Sukurkite raktą. Slaptoji dalis parodoma šiame atsakyme ir daugiau niekada. |
| DELETE | /platform/v1/api-keys/{id} | raktas · platform_write | Atšaukite raktą. Įsigalioja nuo kitos užklausos. |
| GET | /platform/v1/traces | raktas · platform_read | Įrašyti praėjusių kvietimų metaduomenys. Jokių užklausos ar atsakymo turinio: saugojimo laikotarpis yra nulis. |
| GET | /platform/v1/traces/{id} | raktas · platform_read | Vienas pėdsakas, įskaitant maršrutizavimo sprendimą. |
| GET | /platform/v1/usage | raktas · platform_read | Naudojimas, susumuotas pagal dieną ir modelį. |
| GET | /platform/v1/policies | raktas · platform_read | Organizacijos politikos. |
| GET | /platform/v1/policies/{id} | raktas · platform_read | Viena politika. |
| POST | /platform/v1/policies | raktas · platform_write | Sukurkite politiką. |
| PUT | /platform/v1/policies/{id} | raktas · platform_write | Redaguokite politiką. Taikoma kitai užklausai, o ne jau vykdomai. |
| GET | /platform/v1/status | nėra | Diegimo būsena. Nereikalauja kredencialo, todėl laikykite ją nekonfidencialia. |
Ko čia nėra
Nėra /v1/files, /v1/batches, /v1/assistants, /v1/fine_tuning, /v1/images, /v1/audio ir nėra /v1/moderations. Jie neprijungti, todėl atsako 404 unknown_route, o ne 501, kuris reikštų, kad jie bus. Nėra webhook'ų ir nėra SDK: bet kuris OpenAI suderinamas klientas yra SDK.
Būsena be rakto
Šis galutinis taškas nereikalauja kredencialo, todėl paties diegimo būsena tampa vieša. Tai parašyta čia, o ne atrandama vėliau, nes tai produkto sprendimas: jei jūsų politikai reikia autentifikuotos būsenos patikros, pakeiskite ją sąmoningai. Atsakyme niekada nėra organizacijos duomenų.