Končne točke
Vsaka pot, ki jo ta API namesti, kaj potrebuje, in tiste, ki jih ljudje pričakujejo, a so namenoma odsotne.
Osnovni URL v tej namestitvi: https://api.llmeu.com
| Metoda | Pot | Poverilnica | Opombe |
|---|---|---|---|
| GET | /healthz | brez | Živost. Ne bere ničesar. |
| GET | /readyz | brez | Pripravljenost: baza, končne točke prve stranke, upravljana izvajalna okolja. Odgovori 503, dokler GPU še nalaga uteži. |
| GET | /v1/models | ključ · inferenca | Samo modeli, ki jih ta ključ lahko dejansko pokliče v skladu s privzeto politiko svoje organizacije. |
| GET | /v1/models/{id} | ključ · inferenca | En model, z licenco in podatkom, ali je gostovan tukaj. |
| POST | /v1/chat/completions | ključ · inferenca | Končna točka za klepet, združljiva z OpenAI, s pretakanjem ali brez. |
| POST | /v1/completions | brez | Ni ponujena. Odgovori 501 not_implemented in navede končno točko, ki jo je treba uporabiti namesto nje. |
| POST | /v1/embeddings | ključ · inferenca | Vdelave iz modela za vdelave. Ta namestitev jih streže iz svojega determinističnega lokalnega zaledja in odgovor to pove: llmeu.mock je resničen v telesu. |
| POST | /v1/playground | brez | Anonimno, samo simulirano zaledje, in omejeno na IP naslov. |
| GET | /platform/v1/me | ključ · platform_read | Organizacija, ki ji ta poverilnica pripada. |
| GET | /platform/v1/api-keys | ključ · platform_read | Ključi organizacije, brez skrivnosti. |
| POST | /platform/v1/api-keys | ključ · platform_write | Ustvari ključ. Skrivnost se pojavi v tem odgovoru in nikoli več. |
| DELETE | /platform/v1/api-keys/{id} | ključ · platform_write | Prekliči ključ. Velja pri naslednji zahtevi. |
| GET | /platform/v1/traces | ključ · platform_read | Zabeleženi metapodatki za pretekle klice. Brez teles pozivov ali dokončanj: hramba je nič. |
| GET | /platform/v1/traces/{id} | ključ · platform_read | Ena sled, vključno z odločitvijo usmerjanja. |
| GET | /platform/v1/usage | ključ · platform_read | Uporaba, združena po dnevih in po modelu. |
| GET | /platform/v1/policies | ključ · platform_read | Politike organizacije. |
| GET | /platform/v1/policies/{id} | ključ · platform_read | Ena politika. |
| POST | /platform/v1/policies | ključ · platform_write | Ustvari politiko. |
| PUT | /platform/v1/policies/{id} | ključ · platform_write | Uredi politiko. Velja za naslednjo zahtevo, ne za tisto, ki je že v obdelavi. |
| GET | /platform/v1/status | brez | Status namestitve. Ne potrebuje poverilnice, zato ga obravnavajte kot nezaupnega. |
Česa ni tukaj
Ni /v1/files, /v1/batches, /v1/assistants, /v1/fine_tuning, /v1/images, /v1/audio in /v1/moderations. Niso nameščeni, zato odgovorijo 404 unknown_route namesto 501, ki bi namigoval, da prihajajo. Ni spletnih kavljev in ni SDK: vsak odjemalec, združljiv z OpenAI, je SDK.
Status brez ključa
Ta končna točka ne potrebuje poverilnice, zaradi česar je status same namestitve javen. To je zapisano tukaj, ne pa odkrito pozneje, ker je to odločitev izdelka: če vaša politika potrebuje preverjanje statusa z overitvijo, jo spremenite namerno. Odgovor nikoli ne vsebuje podatkov organizacije.