Politikker
Politikobjektet, der afgør, hvad en organisation må kalde, hvor den må køre, og hvad den må bruge, felt for felt.
En politik gemmes per organisation og læses ved hver inferensanmodning. Standardindstillingerne er de sikre: EU-ejede eller EU-regionhosting, nul opbevaring, kun offentlige og interne data, en sporing påkrævet.
Felter
| Felt | Lagring | Standard | Hvad den bestemmer |
|---|---|---|---|
| residency_allowed | JSON array | ["eu_owned_eu_operated","eu_region_of_non_eu_parent"] | Hvilke hostingklasser et endepunkt må have. Et filter, ikke en præference: et endepunkt uden for listen vælges aldrig. |
| providers_allow | JSON array | [] — any | Tom betyder enhver udbyder. En ikke-tom liste bliver en tilladelsesliste. |
| providers_deny | JSON array | [] | Udbydere, der aldrig må bruges, kontrolleres før tilladelseslisten. |
| models_allow | JSON array | [] — any | Tom betyder enhver model. En ikke-tom liste bliver en tilladelsesliste. |
| models_deny | JSON array | [] | Modeller, der aldrig må bruges. |
| max_usd_per_1m | REAL, nullable | null — no cap | Højeste blandede pris pr. million tokens, et endepunkt må koste. Over det afvises endepunktet. |
| max_usd_per_day | REAL, nullable | null — no cap | Dagligt forbrugsloft for organisationen. Når det nås, svares 402 budget_exceeded. |
| retention | TEXT | zero | Tilladt opbevaring af prompt. Kun nul er implementeret: enhver anden værdi, som politikken tillader, får anmodningen til at fejle i stedet for at gemme noget. |
| data_classes_allowed | JSON array | ["public","internal"] | Dataklasser en anmodning må angive. En klasse uden for denne liste afvises. |
| require_trace | INTEGER 0/1 | 1 | Om hvert inferenskald efterlader en sporingsrække. Ved nul opbevaring indeholder en sporing metadata, aldrig en prompttekst. |
| allow_partner_endpoints | INTEGER 0/1 | 0 | Om endepunkter, der drives af et ikke-EU-moderselskab, må bruges. Slået fra som standard. |
| json_logic | JSON, nullable | null | Reserveret til en fremtidig brugerdefineret regel. Intet læser det i dag, så det ændrer ingen beslutning. |
Hvilken politik der gælder
En anmodning kan angive en med llmeu.policy_id. Uden den gælder organisationens standardpolitik. Et policy_id, der tilhører en anden organisation, afvises med policy_not_found, fordi opslaget altid er begrænset til den organisation, nøglen tilhører.
"llmeu": { "policy_id": "the-uuid-from-the-console" }Fordi standardpolitikken gælder for hver nøgle, er en organisations residensløfte ikke noget, en kalder kan fravælge ved at udelade et felt.
Den rækkefølge, reglerne kører i
Endepunkttype først — en ren katalogpost afvises før noget andet — derefter status, derefter residensklasse og -region, derefter udbyder- og modellister, derefter partnerreglen, vision, kontekststørrelse og pris. Den fulde sekvens, med den fejlkode hvert trin producerer, er på routingsiden.
Redigering
I konsollen eller med PUT /platform/v1/policies/{id} ved hjælp af en nøgle, der har platform_write. En ændring gælder for den næste anmodning; en anmodning, der allerede er i gang, beholder den politik, den startede under.