Omejitve hitrosti
Omejitve, ki jih uporablja ta namestitev, prikazane iz tabele, ki jo bere omejevalnik, z navedbo, kaj šteje vsako vedro.
| Vedro | Omejitev | Okno | Šteto |
|---|---|---|---|
| key_chat klici inferenc, opravljeni z enim API ključem |
600 | 1 min | na API ključ |
| org_chat klici inferenc po celotni organizaciji |
1800 | 1 min | na organizacijo |
| platform klici platforme API: organizacija, ključi, uporaba, sledi, politike |
300 | 1 min | na API ključ |
| public_chat anonimni klici peskovnika |
20 | 1 h | na IP naslov |
| public_page zahteve javnih strani |
300 | 1 h | na IP naslov |
| public_card_request zahteve za kartico modela, poslane iz javnega obrazca |
5 | 1 h | na IP naslov |
| auth poskusi prijave, registracije, obnovitve in ponastavitve gesla |
20 | 15 min | na IP naslov |
Sočasnost
Naenkrat je lahko v obdelavi največ 8 zahtev na en API ključ. Zahteva nad to mejo čaka, namesto da bi spodletela, dokler ni čakalna vrsta polna.
Kako izgleda zavrnitev
429 s kodo rate_limit_exceeded in tipom rate_limit_error. Trenutno ni glav x-ratelimit-* ali retry-after: sporočilo navaja čas ponastavitve okna in to je edini signal. 429 obravnavajte kot ponovljivo z zakasnitvijo; vsako drugo napako v tej dokumentaciji obravnavajte kot zahtevo, ki se mora spremeniti, preden lahko uspe.
Kje živi števec
Okna se štejejo v procesu API in se vsakih nekaj sekund zapišejo nazaj v bazo, tako da ponovni zagon nadaljuje okno, namesto da bi dodelil svež proračun. Zgornja meja, ki sledi, je navedena, ne pa odkrita: števec je na vozlišče API, tako da dve vozlišči podvojita vsako dejansko omejitev. REDIS_URL je rezerviran za skupno različico in nič ga še ne bere – zaženite eno vozlišče API ali sprejmite omejitve na vozlišče.