Kako načrtuješ omejevanje hitrosti zahtevkov?

Question

Accepted Answer

**Omejevanje hitrosti zahtevkov** omejuje, koliko zahtevkov lahko pošlje odjemalec v časovnem oknu — varuje sisteme pred zlorabami, preobremenitvi in zagotavlja pošteno uporabo. To je pogosta komponenta načrtovanja sistemov s številnimi algoritmi in premisleki.

## Zakaj je omejevanje hitrosti zahtevkov

```text
✓ PROTECT against abuse → prevent attacks (brute force, scraping, DoS), excessive use
✓ PREVENT OVERLOAD → protect the system from being overwhelmed (stability)
✓ FAIR USAGE → ensure no single client monopolizes resources; tiered limits (free vs paid)
✓ COST control; protect downstream services
→ a common requirement for APIs and services.
```

## Algoritmi za omejevanje hitrosti zahtevkov

```text
FIXED WINDOW → count requests per fixed time window (e.g. 100/minute); simple
  ✗ allows bursts at window boundaries (up to 2x at the edges)
SLIDING WINDOW → rolling time window → smoother, no boundary bursts (more accurate)
TOKEN BUCKET → tokens refill at a rate; each request takes a token → allows BURSTS up to
  the bucket size while limiting the average rate (popular, flexible)
LEAKY BUCKET → requests processed at a steady rate (smooths output)
```

## Premisleki pri implementaciji

```text
✓ DISTRIBUTED → limits must be shared across servers → use a centralized store (REDIS is
  common: atomic counters, fast, shared across instances)
✓ Identify the client → by API key, user ID, IP
✓ Return clear responses → HTTP 429 (Too Many Requests); include limit/retry-after headers
✓ Where → at the API gateway, load balancer, or application layer
✓ Granularity → per user, per endpoint, global; different tiers/limits
```

## Zakaj je to pomembno

Razumevanje kako načrtovati omejevanje hitrosti zahtevkov je dragoceno, ker je to **pogosta komponenta pri načrtovanju sistemov** za zavarovanje sistemov in zagotavljanje poštene uporabe, zato je to pomembno praktično znanje.

Omejevanje hitrosti zahtevkov — omejevanje, koliko zahtevkov lahko pošlje odjemalec v časovnem oknu — naslavlja pomembne potrebe: **zavarovanje pred zlorabami** (preprečevanje napadov, kot so nasilni napadi, scraping in DoS), **preprečevanje preobremenitve** (zavarovanje stabilnosti sistema), zagotavljanje **poštene uporabe** (nobeden odjemalec ne monopolizira virov, podpora stopnjenim limitom, kot so brezplačni nasproti plačanim) in nadzor stroškov.

To so razlogi, da je omejevanje hitrosti zahtevkov pogoja zahteva za API-je in storitve.

Razumevanje **algoritmov** in njihovih kompromisov — **fiksno okno** (preprosto, a dovoljuje izbruhe na meji), **drseče okno** (gladkejše in bolj natančno), **vedro žetonov** (dovoljuje nadzorovane izbruhe ob hkratnem omejevanju povprečne hitrosti — priljubljen in fleksibilen) in puščavsko vedro (glajenje izhoda) — je ključno znanje oblikovanja, ker izbira pravega algoritma vpliva na vedenje.

Razumevanje **premeditkov pri implementaciji** je še posebej pomembno: obravnava **porazdeljenega omejevanja hitrosti zahtevkov** (limite skupne med več strežniki, pogosto z uporabo **Redis** za hitre atomske števce, deljene med primerki — ker limite na posameznem strežniku ne delujejo v porazdeljenih sistemih), prepoznavanje odjemalcev (po API ključu, uporabniku ali IP-ju), vračanje jasnih odgovorov (HTTP 429 s headerji retry-after), izbira kje ga uporabiti (prehod, balancer obremenitve ali aplikacija) in granularnost (na uporabnika, na končno točko, stopnjevano).

To odraža načrtovanje omejevanja hitrosti zahtevkov, ki deluje v pravem porazdeljenih sistemih.

Omejevanje hitrosti zahtevkov je pogosto potrebna komponenta, ki se pogosto pojavlja v razpravah o načrtovanju sistemov in intervjujih.

Ker je omejevanje hitrosti zahtevkov pogosta, pomembna komponenta za zavarovanje sistemov (pred zlorabami in preobremenitvi) in zagotavljanje poštene uporabe, in ker je razumevanje algoritmov, njihovih kompromisov in posebej porazdeljenega izvajanja (skupne limite preko Redis) pomembno za njegovo dobro zasnovo, je razumevanje kako načrtovati omejevanje hitrosti zahtevkov dragoceno, praktično relevantno znanje za načrtovanje sistemov — pogosta komponenta za zavarovanje storitev in zagotavljanje poštene uporabe, ki zahteva razumevanje algoritmov in porazdeljenega izvajanja in pogosto razpravljana tema pri načrtovanju sistemov za izgradnjo robustnih, zaščitenih sistemov.