Крайни точки
Всеки маршрут, който този API монтира, какво му е необходимо и тези, които хората очакват, но умишлено липсват.
Базов URL в тази инсталация: https://api.llmeu.com
| Метод | Път | Удостоверение | Бележки |
|---|---|---|---|
| GET | /healthz | няма | Жизненост. Не чете нищо. |
| GET | /readyz | няма | Готовност: база данни, първостранични крайни точки, управлявани среди за изпълнение. Отговаря с 503, докато GPU все още зарежда тегла. |
| GET | /v1/models | ключ · инференция | Само моделите, които този ключ действително може да извиква съгласно политиката по подразбиране на своята организация. |
| GET | /v1/models/{id} | ключ · инференция | Един модел, с неговия лиценз и дали е хостван тук. |
| POST | /v1/chat/completions | ключ · инференция | Съвместимата с OpenAI крайна точка за чат, със или без поток. |
| POST | /v1/completions | няма | Не се предлага. Отговаря с 501 not_implemented и посочва крайната точка, която да се използва вместо това. |
| POST | /v1/embeddings | ключ · инференция | Ембeдинги от модел за ембeдинги. Тази инсталация ги обслужва от своя детерминистичен локален бекенд и отговорът го казва: llmeu.mock е true в тялото. |
| POST | /v1/playground | няма | Анонимно, само с фиктивен бекенд и ограничено на IP адрес. |
| GET | /platform/v1/me | ключ · platform_read | Организацията, към която принадлежи това удостоверение. |
| GET | /platform/v1/api-keys | ключ · platform_read | Ключовете на организацията, без тайни. |
| POST | /platform/v1/api-keys | ключ · platform_write | Създайте ключ. Тайната се появява в този отговор и никога повече. |
| DELETE | /platform/v1/api-keys/{id} | ключ · platform_write | Отменете ключ. Влиза в сила при следващата заявка. |
| GET | /platform/v1/traces | ключ · platform_read | Записани метаданни за минали извиквания. Без тела на промпти или завършвания: задържането е нула. |
| GET | /platform/v1/traces/{id} | ключ · platform_read | Едно проследяване, включително решението за маршрутизиране. |
| GET | /platform/v1/usage | ключ · platform_read | Използване, агрегирано по ден и по модел. |
| GET | /platform/v1/policies | ключ · platform_read | Политиките на организацията. |
| GET | /platform/v1/policies/{id} | ключ · platform_read | Една политика. |
| POST | /platform/v1/policies | ключ · platform_write | Създайте политика. |
| PUT | /platform/v1/policies/{id} | ключ · platform_write | Редактирайте политика. Прилага се към следващата заявка, не към вече изпълняваща се. |
| GET | /platform/v1/status | няма | Състояние на инсталацията. Не изисква удостоверение, така че се отнасяйте към него като към неконфиденциално. |
Какво липсва тук
Няма /v1/files, /v1/batches, /v1/assistants, /v1/fine_tuning, /v1/images, /v1/audio и няма /v1/moderations. Те не са монтирани, така че отговарят с 404 unknown_route, а не с 501, което би предполагало, че идват. Няма уебхукове и няма SDK: всеки съвместим с OpenAI клиент е SDK.
Състояние без ключ
Тази крайна точка не изисква удостоверение, което прави собственото състояние на инсталацията публично. Написано е тук, вместо да бъде открито по-късно, защото е продуктово решение: ако вашата политика се нуждае от автентикирана проверка на състоянието, променете го умишлено. Отговорът никога не съдържа данни за организацията.