Richtlinien

Das Richtlinienobjekt, das entscheidet, was eine Organisation aufrufen, wo sie rechnen und was sie ausgeben darf — Feld für Feld.

Eine Richtlinie wird pro Organisation gespeichert und bei jeder Inferenz-Anfrage gelesen. Die Standardwerte sind die sicheren: Hosting in EU-Eigentum oder EU-Region, Aufbewahrung zero, nur öffentliche und interne Daten, Trace erforderlich.

Felder

Feld Speicherung Standard Was es entscheidet
residency_allowed JSON array ["eu_owned_eu_operated","eu_region_of_non_eu_parent"] Welche Hosting-Klassen ein Endpunkt haben darf. Ein Filter, keine Präferenz: Ein Endpunkt außerhalb der Liste wird nie gewählt.
providers_allow JSON array [] — any Leer bedeutet jeder Anbieter. Eine nicht leere Liste wird zur Positivliste.
providers_deny JSON array [] Anbieter, die nie genutzt werden dürfen; wird vor der Positivliste geprüft.
models_allow JSON array [] — any Leer bedeutet jedes Modell. Eine nicht leere Liste wird zur Positivliste.
models_deny JSON array [] Modelle, die nie genutzt werden dürfen.
max_usd_per_1m REAL, nullable null — no cap Höchster gemischter Preis pro Million Token, den ein Endpunkt kosten darf. Darüber wird der Endpunkt abgelehnt.
max_usd_per_day REAL, nullable null — no cap Tagesobergrenze für die Organisation. Bei Erreichen antwortet die API mit 402 budget_exceeded.
retention TEXT zero Erlaubte Prompt-Aufbewahrung. Implementiert ist nur zero: Jeder andere erlaubte Wert lässt die Anfrage scheitern, statt etwas zu speichern.
data_classes_allowed JSON array ["public","internal"] Datenklassen, die eine Anfrage angeben darf. Eine Klasse außerhalb dieser Liste wird abgelehnt.
require_trace INTEGER 0/1 1 Ob jeder Inferenz-Aufruf eine Trace-Zeile hinterlässt. Bei Aufbewahrung zero enthält ein Trace Metadaten, nie einen Prompt-Text.
allow_partner_endpoints INTEGER 0/1 0 Ob Endpunkte unter einem nichteuropäischen Mutterunternehmen genutzt werden dürfen. Standard: aus.
json_logic JSON, nullable null Für eine künftige eigene Regel reserviert. Derzeit liest es niemand, es ändert also keine Entscheidung.

Welche Richtlinie gilt

Eine Anfrage kann mit llmeu.policy_id eine benennen. Ohne Angabe gilt die Standardrichtlinie der Organisation. Eine policy_id, die zu einer anderen Organisation gehört, wird mit policy_not_found abgelehnt, denn der Nachschlag ist immer auf die Organisation des Schlüssels begrenzt.

"llmeu": { "policy_id": "the-uuid-from-the-console" }

Weil die Standardrichtlinie für jeden Schlüssel gilt, kann ein Aufrufer das Datenhaltungsversprechen einer Organisation nicht durch Weglassen eines Feldes umgehen.

Die Reihenfolge der Regeln

Zuerst die Art des Endpunkts — ein catalogue_only-Eintrag wird vor allem anderen abgelehnt —, dann Status, dann Hosting-Klasse und Region, dann Anbieter- und Modelllisten, dann Partnerregel, Vision, Kontextgröße und Preis. Die vollständige Reihenfolge mit dem Fehlercode jedes Schritts steht auf der Routing-Seite.

Bearbeiten

In der Konsole oder mit PUT /platform/v1/policies/{id} und einem Schlüssel, der platform_write trägt. Eine Änderung gilt für die nächste Anfrage; eine bereits laufende behält die Richtlinie, unter der sie begonnen hat.