Endpoint-uri
Fiecare rută pe care o montează acest API, de ce are nevoie și cele pe care oamenii le așteaptă dar care lipsesc în mod deliberat.
URL de bază în această implementare: https://api.llmeu.com
| Metodă | Cale | Credențială | Note |
|---|---|---|---|
| GET | /healthz | niciunul | Liveness. Nu citește nimic. |
| GET | /readyz | niciunul | Readiness: baza de date, endpoint-uri first-party, runtime-uri gestionate. Răspunde 503 cât timp un GPU încarcă încă ponderile. |
| GET | /v1/models | cheie · inferență | Doar modelele pe care această cheie le poate apela efectiv conform politicii implicite a organizației sale. |
| GET | /v1/models/{id} | cheie · inferență | Un model, cu licența sa și dacă este găzduit aici. |
| POST | /v1/chat/completions | cheie · inferență | Endpointul de chat compatibil OpenAI, cu streaming sau fără. |
| POST | /v1/completions | niciunul | Nu este oferit. Răspunde 501 not_implemented și indică endpointul de folosit în schimb. |
| POST | /v1/embeddings | cheie · inferență | Embeddings-urile au nevoie de un model de embedding. Niciunul nu este servit pe acest deployment, așa că ruta nu este oferită aici în loc să returneze vectori placeholder. |
| POST | /v1/playground | niciunul | Anonim, limitat per adresă IP și servit de modelul pe care îl selectează routerul. |
| GET | /platform/v1/me | cheie · platform_read | Organizația căreia îi aparține această credențială. |
| GET | /platform/v1/api-keys | cheie · platform_read | Cheile organizației, fără secrete. |
| POST | /platform/v1/api-keys | cheie · platform_write | Creează o cheie. Secretul apare în acest răspuns și niciodată din nou. |
| DELETE | /platform/v1/api-keys/{id} | cheie · platform_write | Revocă o cheie. Efectivă la următoarea cerere. |
| GET | /platform/v1/traces | cheie · platform_read | Metadate înregistrate pentru apelurile anterioare. Fără corpuri de prompt sau de completion: retenția este zero. |
| GET | /platform/v1/traces/{id} | cheie · platform_read | O urmă, inclusiv decizia de rutare. |
| GET | /platform/v1/usage | cheie · platform_read | Utilizare agregată pe zi și pe model. |
| GET | /platform/v1/policies | cheie · platform_read | Politicile organizației. |
| GET | /platform/v1/policies/{id} | cheie · platform_read | O politică. |
| POST | /platform/v1/policies | cheie · platform_write | Creează o politică. |
| PUT | /platform/v1/policies/{id} | cheie · platform_write | Editează o politică. Se aplică la următoarea cerere, nu la una deja în curs. |
| GET | /platform/v1/status | niciunul | Starea deploymentului. Nu necesită credențiale, așa că tratați-o ca neconfidențială. |
Ce nu este aici
Nu există /v1/files, /v1/batches, /v1/assistants, /v1/fine_tuning, /v1/images, /v1/audio și nici /v1/moderations. Nu sunt montate, așa că răspund 404 unknown_route în loc de 501, care ar implica că urmează. Nu există webhooks și nici SDK: orice client compatibil OpenAI este SDK-ul.
Stare fără cheie
Acest endpoint nu necesită credențiale, ceea ce face publică starea proprie a deploymentului. Este scris aici, nu descoperit mai târziu, pentru că este o decizie de produs: dacă politica dumneavoastră are nevoie de o verificare de stare autentificată, schimbați-o în mod deliberat. Răspunsul nu conține niciodată date ale organizației.