Kaip projektuoti srautų ribojimą?

Question

Accepted Answer

**Srautų ribojimas** riboja, kiek užklausų klientas gali atlikti per laiko langą — apsaugodamas sistemas nuo piktnaudžiavimo, perkrovimo ir užtikrinant teisingą naudojimą. Tai dažnas sistemos dizaino komponentas, turintis keletą algoritmų ir svarbių svarstymo punktų.

## Kodėl srautų ribojimas

```text
✓ PROTECT against abuse → prevent attacks (brute force, scraping, DoS), excessive use
✓ PREVENT OVERLOAD → protect the system from being overwhelmed (stability)
✓ FAIR USAGE → ensure no single client monopolizes resources; tiered limits (free vs paid)
✓ COST control; protect downstream services
→ a common requirement for APIs and services.
```

## Srautų ribojimo algoritmai

```text
FIXED WINDOW → count requests per fixed time window (e.g. 100/minute); simple
  ✗ allows bursts at window boundaries (up to 2x at the edges)
SLIDING WINDOW → rolling time window → smoother, no boundary bursts (more accurate)
TOKEN BUCKET → tokens refill at a rate; each request takes a token → allows BURSTS up to
  the bucket size while limiting the average rate (popular, flexible)
LEAKY BUCKET → requests processed at a steady rate (smooths output)
```

## Diegimo svarstymo punktai

```text
✓ DISTRIBUTED → limits must be shared across servers → use a centralized store (REDIS is
  common: atomic counters, fast, shared across instances)
✓ Identify the client → by API key, user ID, IP
✓ Return clear responses → HTTP 429 (Too Many Requests); include limit/retry-after headers
✓ Where → at the API gateway, load balancer, or application layer
✓ Granularity → per user, per endpoint, global; different tiers/limits
```

## Kodėl tai svarbu

Supratimas, kaip projektuoti srautų ribojimą, yra vertingas, nes tai **dažnas sistemo dizaino komponentas** sistemoms apsaugoti ir teisingam naudojimui užtikrinti, todėl tai svarbi praktinė žinios.

Srautų ribojimas — užklausų skaičiaus, kurį klientas gali atlikti per laiko langą, ribojimas — sprendžia svarbius poreikius: **apsaugą nuo piktnaudžiavimo** (brute force, skenavimo ir DoS atakų prevencija), **sistemos perkrovimo prevenciją** (sistemos stabilumo apsauga), **teisingą naudojimą** (joks klientas nesavaldžiauja išteklių, palaikant sluoksninius apribojimus kaip nemokama vs. mokama), ir kaštų kontrolę.

Šie punktai daro srautų ribojimą dažnu API ir paslaugų reikalavimu.

Supratimas apie **algoritmus** ir jų kompromisus — **fiksuotą langą** (paprasta, bet leidžianti ribos sutrūkimams), **slankųjį langą** (glotnesnis ir tikslesnis), **žetonų kibirą** (leidžianti kontroliuojamus sutrūkimus ribojant vidutinį greitį — populiari ir lanki), ir nuotėkį kibirą (išėjimo išlyginti) — yra pagrindinės dizaino žinios, nes tinkamo algoritmo pasirinkimas veikia elgesį.

Supratimas apie **diegimo svarstymo punktus** yra ypač svarbus: **paskirstyto srautų ribojimo** tvarkymas (apribojimai bendri keliems serveriams, paprastai naudojant **Redis** greičiam atominiams skaitikliams bendri egzemplioriams — kadangi per-serverio apribojimai neveikia paskirstytose sistemose), klientų identifikavimas (pagal API raktą, vartotoją arba IP), aiškūs atsakymai (HTTP 429 su retry-after antraštėmis), vietos pasirinkimas taikyti (gateway, load balancer arba programa), ir smulkumas (per vartotoją, per endpoint, sluoksniuoti).

Šie punktai atspindi srautų ribojimo projektavimą, kuris veikia tikrose paskirstytose sistemose.

Srautų ribojimas yra dažnai reikalingas komponentas, dažnai pasirodymas sistemos dizaino diskusijose ir pokalbius.

Kadangi srautų ribojimas yra dažnas, svarbus komponentas sistemų apsaugai (nuo piktnaudžiavimo ir perkrovimo) ir teisingam naudojimui užtikrinti, ir kadangi algoritmus, jų kompromisus ir ypač paskirstytą diegimą (bendrus apribojimus per Redis) svarbu suprasti norint jį gerai projektuoti, supratimas, kaip projektuoti srautų ribojimą, yra vertinga, praktiškai aktuali sistemos dizaino žinios — dažnas komponentas paslaugų apsaugai ir teisingam naudojimui, reikalingas algoritmo ir paskirstyto diegimo supratimas, ir dažnai aptariamas sistemo dizaino klausimas tvirtų, apsaugotų sistemų statymui.