Lõpp-punktid

Iga marsruut, mille see API ühendab, mida see vajab, ja need, mida inimesed ootavad, kuid mis on teadlikult puuduvad.

Baas-URL selles juurutuses: https://api.llmeu.com

Meetod Tee Volitus Märkused
GET /healthz puudub Elujõulisus. Ei loe midagi.
GET /readyz puudub Valmisolek: andmebaas, esmaosalusega lõpp-punktid, hallatavad käituskeskkonnad. Vastab 503, kuni GPU laeb veel kaale.
GET /v1/models võti · inferents Ainult mudelid, mida see võti võib tegelikult kutsuda vastavalt oma organisatsiooni vaikepoliitikale.
GET /v1/models/{id} võti · inferents Üks mudel, koos litsentsiga ja sellega, kas see on siin hostitud.
POST /v1/chat/completions võti · inferents OpenAI-ühilduv vestluse lõpp-punkt, voogedastusega või ilma.
POST /v1/completions puudub Ei pakuta. Vastab 501 not_implemented ja nimetab lõpp-punkti, mida selle asemel kasutada.
POST /v1/embeddings võti · inferents Embeddingud embedding-mudelist. See juurutus teenindab neid oma deterministlikust kohalikust taustaprogrammist ja vastus ütleb seda: llmeu.mock on kehas true.
POST /v1/playground puudub Anonüümne, ainult mock-taustaprogramm, ja piiratud IP-aadressi kohta.
GET /platform/v1/me võti · platform_read Organisatsioon, kellele see volitus kuulub.
GET /platform/v1/api-keys võti · platform_read Organisatsiooni võtmed, ilma saladusteta.
POST /platform/v1/api-keys võti · platform_write Loo võti. Saladus ilmub selles vastuses ja mitte kunagi hiljem.
DELETE /platform/v1/api-keys/{id} võti · platform_write Tühista võti. Mõjub järgmisele päringule.
GET /platform/v1/traces võti · platform_read Salvestatud metaandmed varasemate kutsete kohta. Viipade ega lõpetuste kehasid ei ole: säilitamine on null.
GET /platform/v1/traces/{id} võti · platform_read Üks jälg, sealhulgas marsruutimise otsus.
GET /platform/v1/usage võti · platform_read Kasutus, mis on koondatud päeva ja mudeli kaupa.
GET /platform/v1/policies võti · platform_read Organisatsiooni poliitikad.
GET /platform/v1/policies/{id} võti · platform_read Üks poliitika.
POST /platform/v1/policies võti · platform_write Loo poliitika.
PUT /platform/v1/policies/{id} võti · platform_write Muuda poliitikat. Rakendub järgmisele päringule, mitte juba töös olevale.
GET /platform/v1/status puudub Juurutuse olek. See ei nõua volitust, seega käsitle seda mittekonfidentsiaalsena.

Mis siin ei ole

/v1/files, /v1/batches, /v1/assistants, /v1/fine_tuning, /v1/images, /v1/audio puuduvad ja /v1/moderations puudub. Neid ei ole ühendatud, seega need vastavad 404 unknown_route, mitte 501, mis vihjaks, et need tulevad. Webhookid ja SDK puuduvad: iga OpenAI-ühilduv klient on SDK.

Olek ilma võtmeta

See lõpp-punkt ei nõua volitust, mis teeb juurutuse enda oleku avalikuks. See on siin kirjas, mitte hiljem avastatud, sest see on tooteotsus: kui teie poliitika vajab autenditud olekuproovi, muutke seda teadlikult. Vastus ei sisalda kunagi organisatsiooni andmeid.