Politike
Objekt politike koji odlučuje što organizacija smije pozvati, gdje smije raditi i koliko smije potrošiti, polje po polje.
Politika se pohranjuje po organizaciji i čita se pri svakom zahtjevu za inferenciju. Zadane su sigurne: hosting u EU vlasništvu ili u EU regiji, nulto zadržavanje, samo javni i interni podaci, obavezan trag.
Polja
| Polje | Pohrana | Zadano | Što određuje |
|---|---|---|---|
| residency_allowed | JSON array | ["eu_owned_eu_operated","eu_region_of_non_eu_parent"] | Koje klase hostanja endpoint smije imati. Filter, a ne preferencija: endpoint izvan popisa nikada se ne odabire. |
| providers_allow | JSON array | [] — any | Prazno znači bilo koji pružatelj. Neprazan popis postaje popis dopuštenih. |
| providers_deny | JSON array | [] | Pružatelji koji se nikada ne smiju koristiti; provjeravaju se prije popisa dopuštenih. |
| models_allow | JSON array | [] — any | Prazno znači bilo koji model. Neprazan popis postaje popis dopuštenih. |
| models_deny | JSON array | [] | Modeli koji se nikada ne smiju koristiti. |
| max_usd_per_1m | REAL, nullable | null — no cap | Najviša kombinirana cijena po milijunu tokena koju endpoint smije koštati. Iznad nje, endpoint se odbija. |
| max_usd_per_day | REAL, nullable | null — no cap | Dnevna gornja granica potrošnje za organizaciju. Njezino dosezanje odgovara 402 budget_exceeded. |
| retention | TEXT | zero | Dopušteno zadržavanje prompta. Implementirano je samo nulto: svaka druga vrijednost koju politika dopušta dovodi do neuspjeha zahtjeva umjesto da se nešto pohrani. |
| data_classes_allowed | JSON array | ["public","internal"] | Klase podataka koje zahtjev smije navesti. Klasa izvan ovog popisa se odbija. |
| require_trace | INTEGER 0/1 | 1 | Hoće li svaki poziv inferencije ostaviti redak traga. Pri nultom zadržavanju trag sadrži metapodatke, nikada tijelo prompta. |
| allow_partner_endpoints | INTEGER 0/1 | 0 | Smiju li se koristiti endpointi kojima upravlja matična kompanija izvan EU. Prema zadanim postavkama isključeno. |
| json_logic | JSON, nullable | null | Rezervirano za buduće prilagođeno pravilo. Ništa ga danas ne čita, pa ne mijenja nijednu odluku. |
Koja se politika primjenjuje
Zahtjev može navesti jednu putem llmeu.policy_id. Bez toga primjenjuje se zadana politika organizacije. policy_id koji pripada drugoj organizaciji odbija se s policy_not_found jer je pretraga uvijek ograničena na organizaciju kojoj ključ pripada.
"llmeu": { "policy_id": "the-uuid-from-the-console" }Budući da se zadana politika primjenjuje na svaki ključ, obećanje organizacije o rezidentnosti nije nešto iz čega se pozivatelj može izuzeti izostavljanjem polja.
Redoslijed izvršavanja pravila
Prvo vrsta endpointa — unos samo iz kataloga odbija se prije svega ostaloga — zatim status, potom klasa rezidentnosti i regija, zatim popisi pružatelja i modela, pa pravilo o partnerima, vizija, veličina konteksta i cijena. Potpuni slijed, s kodom pogreške koji proizvodi svaki korak, nalazi se na stranici usmjeravanja.
Uređivanje
U konzoli ili s PUT /platform/v1/policies/{id} pomoću ključa koji nosi platform_write. Promjena se primjenjuje na sljedeći zahtjev; zahtjev koji je već u tijeku zadržava politiku pod kojom je započeo.