તમે રેટ લિમિટિંગ કેવી રીતે ડિઝાઇન કરો છો?

Question

Accepted Answer

**રેટ લિમિટિંગ** એ ક્લાયન્ટ સમય વિન્ડોમાં કેટલી વિનંતીઓ કરી શકે તે સીમિત કરે છે — સિસ્ટમોને દુર્વ્યવહાર, ઓવરલોડ અને ન્યાયી ઉપયોગ સુનિશ્ચિત કરતા બચાવે છે. તે સામાન્ય સિસ્ટમ-ડિઝાઇન ઘટક છે, કેટલાક અલગોરિધમ અને વિચારણાઓ સાથે.

## રેટ લિમિટિંગ શા માટે

```text
✓ PROTECT against abuse → prevent attacks (brute force, scraping, DoS), excessive use
✓ PREVENT OVERLOAD → protect the system from being overwhelmed (stability)
✓ FAIR USAGE → ensure no single client monopolizes resources; tiered limits (free vs paid)
✓ COST control; protect downstream services
→ a common requirement for APIs and services.
```

## રેટ લિમિટિંગ અલગોરિધમ

```text
FIXED WINDOW → count requests per fixed time window (e.g. 100/minute); simple
  ✗ allows bursts at window boundaries (up to 2x at the edges)
SLIDING WINDOW → rolling time window → smoother, no boundary bursts (more accurate)
TOKEN BUCKET → tokens refill at a rate; each request takes a token → allows BURSTS up to
  the bucket size while limiting the average rate (popular, flexible)
LEAKY BUCKET → requests processed at a steady rate (smooths output)
```

## અમલીકરણ વિચારણાઓ

```text
✓ DISTRIBUTED → limits must be shared across servers → use a centralized store (REDIS is
  common: atomic counters, fast, shared across instances)
✓ Identify the client → by API key, user ID, IP
✓ Return clear responses → HTTP 429 (Too Many Requests); include limit/retry-after headers
✓ Where → at the API gateway, load balancer, or application layer
✓ Granularity → per user, per endpoint, global; different tiers/limits
```

## તે શા માટે મહત્વપૂર્ણ છે

રેટ લિમિટિંગ ડિઝાઇન કરવા કેવી રીતે કરવું તે સમજવું મૂલ્યવાન છે કારણ કે તે સિસ્ટમોને બચાવવા અને ન્યાયી ઉપયોગ સુનિશ્ચિત કરવા માટે **સામાન્ય સિસ્ટમ-ડિઝાઇન ઘટક** છે, તેથી તે મહત્વપૂર્ણ વ્યાવહારિક જ્ઞાન છે.

રેટ લિમિટિંગ — ક્લાયન્ટ સમય વિન્ડોમાં કેટલી વિનંતીઓ કરી શકે તે સીમિત કરવું — મહત્વપૂર્ણ જરૂરિયાતોને સંબોધિત કરે છે: **દુર્વ્યવહાર સામે સુરક્ષા** (બ્રુટ ફોર્સ, સ્ક્રેપિંગ અને DoS જેવા હુમલાઓ અટકાવવું), **ઓવરલોડ અટકાવવું** (સિસ્ટમ સ્થિરતા સુરક્ષિત કરવું), **ન્યાયી ઉપયોગ** સુનિશ્ચિત કરવું (કોઈ ક્લાયન્ટ સંપત્તીઓ પર એકાધિકાર કરી શકતા નથી, મુક્ત વર્સુસ ચૂકવેલ જેવી સ્તરીય મર્યાદા સમર્થન), અને ખર્ચ નિયંત્રણ.

તે API અને સેવાઓ માટે સામાન્ય આવશ્યકતા બનાવે છે.

**અલગોરિધમ** અને તેમના ટ્રેડ-ઑફ્સ સમજવું — **fixed window** (સરળ પરંતુ સીમા વિસ્ફોટ માટે પરવાનગી), **sliding window** (સરળ અને વધુ સચોટ), **token bucket** (નિયંત્રિત વિસ્ફોટ માટે પરવાનગી આપતા હોય તો સરેરાશ દર મર્યાદા — લોકપ્રિય અને લચકદાર), અને leaky bucket (આઉટપુટ સરળ કરવું) — મુખ્ય ડિઝાઇન જ્ઞાન છે, કારણ કે યોગ્ય અલગોરિધમ પસંદ કરવું વર્તણૂક અસર કરે છે.

**અમલીકરણ વિચારણાઓ** સમજવું ખાસ મહત્વપૂર્ણ છે: **વિતરિત દર મર્યાદા** નિભાવવું (મર્યાદાઓ બહુવિધ સર્વર્સ પર શેર કરવામાં આવે છે, સામાન્ય રીતે ઉદાહરણો પર શેર કરેલા ઝડપી પરમાણુ કાউન્ટર્સ માટે **Redis** નો ઉપયોગ કરીને — કારણ કે પ્રતિ-સર્વર મર્યાદાઓ વિતરિત સિસ્ટમોમાં કામ કરતી નથી), ક્લાયન્ટ્સ ઓળખવું (API કી, ઉપયોગકર્તા અથવા IP દ્વારા), સ્પષ્ટ પ્રતિક્રિયાઓ પરત કરવું (HTTP 429 retry-after હેડર સાથે), તેને ક્યાં લાગુ કરવું તે પસંદ કરવું (gateway, load balancer અથવા application), અને granularity (પ્રતિ ઉપયોગકર્તા, પ્રતિ endpoint, સ્તરીય).

તે વાસ્તવિક વિતરિત સિસ્ટમોમાં કામ કરતી રેટ લિમિટિંગ ડિઝાઇન કરવાને પ્રતિબિંબિત કરે છે.

રેટ લિમિટિંગ વારંવાર જરૂરી ઘટક છે, ઘણીવાર સિસ્ટમ ડિઝાઇન ચર્ચા અને ઈન્ટરવ્યુમાં દેખાય છે.

તે રેટ લિમિટિંગ સામાન્ય, મહત્વપૂર્ણ ઘટક છે જે સિસ્ટમોને બચાવવા માટે (દુર્વ્યવહાર અને ઓવરલોડમાંથી) અને ન્યાયી ઉપયોગ સુનિશ્ચિત કરવા માટે, અને અલગોરિધમ, તેમના ટ્રેડ-ઑફ્સ અને ખાસ કરીને વિતરિત અમલીકરણ (Redis દ્વારા શેર કરેલ મર્યાદાઓ) સમજવું મહત્વપૂર્ણ છે તેથી, રેટ લિમિટિંગ ડિઝાઇન કરવા કેવી રીતે કરવું તે સમજવું મૂલ્યવાન, વ્યાવહારિક-સંબંધિત સિસ્ટમ-ડિઝાઇન જ્ઞાન છે — સેવાઓ સુરક્ષિત કરવા અને ન્યાયી ઉપયોગ સુનિશ્ચિત કરવા માટે સામાન્ય ઘટક, અલગોરિધમ અને વિતરિત અમલીકરણ સમજવું આવશ્યક છે, અને મજબૂત, સુરક્ષિત સિસ્ટમો બનાવવા માટે સિસ્ટમ ડિઝાઇનમાં વારંવાર ચર્ચાવાયેલ વિષય છે.