Politiki

L-oġġett tal-politika li jiddeċiedi x'tista' ssejjaħ organizzazzjoni, fejn tista' taħdem u x'tista' tonfoq, qasam qasam.

Kull organizzazzjoni għandha politika maħżuna, u din tinqara fuq kull talba ta' inferenza. Il-valuri prestabbiliti huma dawk sikuri: hosting proprjetà tal-UE jew fir-reġjun tal-UE, żamma żero, data pubblika u interna biss, u traċċa meħtieġa.

Oqsma

Qasam Ħażna Prestabbilit X'jiddeċiedi
residency_allowed JSON array ["eu_owned_eu_operated","eu_region_of_non_eu_parent"] Liema klassijiet ta' hosting jista' jkollu endpoint. Filtru, mhux preferenza: endpoint li jinsab barra mil-lista qatt ma jintgħażel.
providers_allow JSON array [] — any Vojt ifisser kwalunkwe fornitur. Lista mhux vojta ssir lista ta' permess.
providers_deny JSON array [] Fornituri li qatt ma jistgħu jintużaw, iċċekkjati qabel il-lista ta' permess.
models_allow JSON array [] — any Vojt ifisser kwalunkwe mudell. Lista mhux vojta ssir lista ta' permess.
models_deny JSON array [] Mudelli li qatt ma jistgħu jintużaw.
max_usd_per_1m REAL, nullable null — no cap L-ogħla prezz imħallat għal kull miljun token li jista' jiswa endpoint. 'Il fuq minnu, l-endpoint jiġi miċħud.
max_usd_per_day REAL, nullable null — no cap Limitu massimu ta' nefqa ta' kuljum għall-organizzazzjoni. Meta jintlaħaq, tingħata tweġiba 402 budget_exceeded.
retention TEXT zero Żamma tal-prompt permessa. Iż-żero biss hija implimentata: kwalunkwe valur ieħor li tippermetti l-politika jġiegħel it-talba tfalli minflok ma taħżen xi ħaġa.
data_classes_allowed JSON array ["public","internal"] Klassijiet ta' data li talba tista' tiddikjara. Klassi barra minn din il-lista tiġi rrifjutata.
require_trace INTEGER 0/1 1 Jekk kull sejħa ta' inferenza tħalli ringiela ta' traċċa. B'żamma żero, traċċa żżomm metadeta, qatt il-korp tal-prompt.
allow_partner_endpoints INTEGER 0/1 0 Jekk endpoints operati minn parent mhux tal-UE jistgħux jintużaw. Mitfi bħala prestabbilit.
json_logic JSON, nullable null Riservat għal regola personalizzata futura. Xejn ma jaqrah illum, għalhekk ma jbiddel l-ebda deċiżjoni.

Liema politika tapplika

Talba tista' ssemmi waħda b' llmeu.policy_id. Mingħajrha, tapplika l-politika prestabbilita tal-organizzazzjoni. policy_id li tappartjeni lil organizzazzjoni oħra tiġi rrifjutata b' policy_not_found, għax it-tfittxija dejjem tkun limitata għall-organizzazzjoni li l-muftieħ jappartjeni għaliha.

"llmeu": { "policy_id": "the-uuid-from-the-console" }

Għax il-politika prestabbilita tapplika għal kull muftieħ, il-wegħda ta' residenza tal-organizzazzjoni mhijiex xi ħaġa li min iċempel jista' joħroġ minnha billi jħalli qasam barra.

L-ordni li fiha jitmexxew ir-regoli

L-ewwel it-tip ta' endpoint — dħul fil-katalgu biss jiġi miċħud qabel kull ħaġa oħra — imbagħad l-istatus, imbagħad il-klassi ta' residenza u r-reġjun, imbagħad il-listi tal-fornituri u tal-mudelli, imbagħad ir-regola tal-imsieħba, il-viżjoni, id-daqs tal-kuntest u l-prezz. Is-sekwenza sħiħa, bil-kodiċi ta' falliment li tipproduċi kull pass, tinsab fil-paġna tar-routing.

Editjar

Fil-konsol, jew b' PUT /platform/v1/policies/{id} bl-użu ta' muftieħ li jġorr platform_write. Bidla tapplika għat-talba li jmiss; talba li tkun diġà għaddejja żżomm il-politika li bdiet biha.