Richtlinien
Das Richtlinienobjekt, das entscheidet, was eine Organisation aufrufen, wo sie rechnen und was sie ausgeben darf — Feld für Feld.
Eine Richtlinie wird pro Organisation gespeichert und bei jeder Inferenz-Anfrage gelesen. Die Standardwerte sind die sicheren: Hosting in EU-Eigentum oder EU-Region, Aufbewahrung zero, nur öffentliche und interne Daten, Trace erforderlich.
Felder
| Feld | Speicherung | Standard | Was es entscheidet |
|---|---|---|---|
| residency_allowed | JSON array | ["eu_owned_eu_operated","eu_region_of_non_eu_parent"] | Welche Hosting-Klassen ein Endpunkt haben darf. Ein Filter, keine Präferenz: Ein Endpunkt außerhalb der Liste wird nie gewählt. |
| providers_allow | JSON array | [] — any | Leer bedeutet jeder Anbieter. Eine nicht leere Liste wird zur Positivliste. |
| providers_deny | JSON array | [] | Anbieter, die nie genutzt werden dürfen; wird vor der Positivliste geprüft. |
| models_allow | JSON array | [] — any | Leer bedeutet jedes Modell. Eine nicht leere Liste wird zur Positivliste. |
| models_deny | JSON array | [] | Modelle, die nie genutzt werden dürfen. |
| max_usd_per_1m | REAL, nullable | null — no cap | Höchster gemischter Preis pro Million Token, den ein Endpunkt kosten darf. Darüber wird der Endpunkt abgelehnt. |
| max_usd_per_day | REAL, nullable | null — no cap | Tagesobergrenze für die Organisation. Bei Erreichen antwortet die API mit 402 budget_exceeded. |
| retention | TEXT | zero | Erlaubte Prompt-Aufbewahrung. Implementiert ist nur zero: Jeder andere erlaubte Wert lässt die Anfrage scheitern, statt etwas zu speichern. |
| data_classes_allowed | JSON array | ["public","internal"] | Datenklassen, die eine Anfrage angeben darf. Eine Klasse außerhalb dieser Liste wird abgelehnt. |
| require_trace | INTEGER 0/1 | 1 | Ob jeder Inferenz-Aufruf eine Trace-Zeile hinterlässt. Bei Aufbewahrung zero enthält ein Trace Metadaten, nie einen Prompt-Text. |
| allow_partner_endpoints | INTEGER 0/1 | 0 | Ob Endpunkte unter einem nichteuropäischen Mutterunternehmen genutzt werden dürfen. Standard: aus. |
| json_logic | JSON, nullable | null | Für eine künftige eigene Regel reserviert. Derzeit liest es niemand, es ändert also keine Entscheidung. |
Welche Richtlinie gilt
Eine Anfrage kann mit llmeu.policy_id eine benennen. Ohne Angabe gilt die Standardrichtlinie der Organisation. Eine policy_id, die zu einer anderen Organisation gehört, wird mit policy_not_found abgelehnt, denn der Nachschlag ist immer auf die Organisation des Schlüssels begrenzt.
"llmeu": { "policy_id": "the-uuid-from-the-console" }
Weil die Standardrichtlinie für jeden Schlüssel gilt, kann ein Aufrufer das Datenhaltungsversprechen einer Organisation nicht durch Weglassen eines Feldes umgehen.
Die Reihenfolge der Regeln
Zuerst die Art des Endpunkts — ein catalogue_only-Eintrag wird vor allem anderen abgelehnt —, dann Status, dann Hosting-Klasse und Region, dann Anbieter- und Modelllisten, dann Partnerregel, Vision, Kontextgröße und Preis. Die vollständige Reihenfolge mit dem Fehlercode jedes Schritts steht auf der Routing-Seite.
Bearbeiten
In der Konsole oder mit PUT /platform/v1/policies/{id} und einem Schlüssel, der platform_write trägt. Eine Änderung gilt für die nächste Anfrage; eine bereits laufende behält die Richtlinie, unter der sie begonnen hat.