Крайни точки
Всеки маршрут, който този API монтира, какво му е необходимо, и тези, които хората очакват, но умишлено липсват.
Базов URL в това внедряване: https://api.llmeu.com
| Метод | Път | Удостоверение | Бележки |
|---|---|---|---|
| GET | /healthz | няма | Проверка на живост. Не чете нищо. |
| GET | /readyz | няма | Готовност: база данни, собствени крайни точки, управлявани среди за изпълнение. Отговаря с 503, докато GPU все още зарежда тегла. |
| GET | /v1/models | ключ · инференция | Само моделите, които този ключ действително може да извиква съгласно политиката по подразбиране на своята организация. |
| GET | /v1/models/{id} | ключ · инференция | Един модел, с лиценза му и дали е хостван тук. |
| POST | /v1/chat/completions | ключ · инференция | Съвместимата с OpenAI крайна точка за чат, с поточно предаване или без. |
| POST | /v1/completions | няма | Не се предлага. Отговаря с 501 not_implemented и посочва крайната точка, която да се използва вместо нея. |
| POST | /v1/embeddings | ключ · инференция | Embeddings изискват модел за embedding. На това разгръщане не се обслужва такъв, затова маршрутът не се предлага тук, вместо да връща заместващи вектори. |
| POST | /v1/playground | няма | Анонимно, ограничено за IP адрес и обслужвано от модела, който рутерът избере. |
| GET | /platform/v1/me | ключ · platform_read | Организацията, към която принадлежи това удостоверение. |
| GET | /platform/v1/api-keys | ключ · platform_read | Ключовете на организацията, без тайните. |
| POST | /platform/v1/api-keys | ключ · platform_write | Създаване на ключ. Тайната се появява в този отговор и никога повече. |
| DELETE | /platform/v1/api-keys/{id} | ключ · platform_write | Отменяне на ключ. Влиза в сила при следващата заявка. |
| GET | /platform/v1/traces | ключ · platform_read | Записани метаданни за минали извиквания. Без тела на подсказки или завършвания: срокът на съхранение е нула. |
| GET | /platform/v1/traces/{id} | ключ · platform_read | Една следа, включително решението за маршрутизиране. |
| GET | /platform/v1/usage | ключ · platform_read | Използване, агрегирано по ден и по модел. |
| GET | /platform/v1/policies | ключ · platform_read | Политиките на организацията. |
| GET | /platform/v1/policies/{id} | ключ · platform_read | Една политика. |
| POST | /platform/v1/policies | ключ · platform_write | Създаване на политика. |
| PUT | /platform/v1/policies/{id} | ключ · platform_write | Редактиране на политика. Прилага се към следващата заявка, не към вече започнала заявка. |
| GET | /platform/v1/status | няма | Състояние на разгръщането. Не изисква удостоверение, затова го третирайте като неконфиденциално. |
Какво липсва тук
Няма /v1/files, /v1/batches, /v1/assistants, /v1/fine_tuning, /v1/images, /v1/audio и няма /v1/moderations. Те не са монтирани, затова отговарят с 404 unknown_route, а не с 501, което би подсказало, че предстоят. Няма webhooks и няма SDK: всеки OpenAI-съвместим клиент е SDK.
Състояние без ключ
Тази крайна точка не изисква удостоверение, което прави състоянието на самото разгръщане публично. Това е записано тук, вместо да се открива по-късно, защото е продуктово решение: ако политиката ви изисква проверка на състоянието с удостоверяване, променете я умишлено. Отговорът никога не съдържа данни на организацията.