ਤੁਸੀਂ ਰੇਟ ਲਿਮਿਟਿੰਗ ਦੀ ਡਿਜ਼ਾਇਨ ਕਿਵੇਂ ਕਰਦੇ ਹੋ?

Question

Accepted Answer

**Rate limiting** ਕਿਸੇ ਸਮੇਂ ਦੀ ਖਿੜਕੀ ਵਿੱਚ ਇੱਕ ਕਲਾਇੰਟ ਕਿੰਨੀਆਂ requests ਕਰ ਸਕਦਾ ਹੈ ਇਸ ਨੂੰ ਸੀਮਤ ਕਰਦਾ ਹੈ — ਸਿਸਟਮਾਂ ਨੂੰ ਅਪਵਰਤੀ ਤੋਂ, ਓਵਰਲੋਡ ਤੋਂ ਬਚਾਉਂਦਾ ਹੈ, ਅਤੇ ਨਿਰਪੱਖ ਵਰਤੋਂ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ। ਇਹ ਇੱਕ ਆਮ system-design ਭਾਗ ਹੈ, ਜਿਸ ਦੇ ਕਈ algorithms ਅਤੇ ਵਿਚਾਰਾਂ ਹਨ।

## Rate limiting ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ

```text
✓ PROTECT against abuse → prevent attacks (brute force, scraping, DoS), excessive use
✓ PREVENT OVERLOAD → protect the system from being overwhelmed (stability)
✓ FAIR USAGE → ensure no single client monopolizes resources; tiered limits (free vs paid)
✓ COST control; protect downstream services
→ a common requirement for APIs and services.
```

## Rate limiting algorithms

```text
FIXED WINDOW → count requests per fixed time window (e.g. 100/minute); simple
  ✗ allows bursts at window boundaries (up to 2x at the edges)
SLIDING WINDOW → rolling time window → smoother, no boundary bursts (more accurate)
TOKEN BUCKET → tokens refill at a rate; each request takes a token → allows BURSTS up to
  the bucket size while limiting the average rate (popular, flexible)
LEAKY BUCKET → requests processed at a steady rate (smooths output)
```

## ਲਾਗੂ ਕਰਨ ਦੇ ਸੋਚ-ਵਿਚਾਰ

```text
✓ DISTRIBUTED → limits must be shared across servers → use a centralized store (REDIS is
  common: atomic counters, fast, shared across instances)
✓ Identify the client → by API key, user ID, IP
✓ Return clear responses → HTTP 429 (Too Many Requests); include limit/retry-after headers
✓ Where → at the API gateway, load balancer, or application layer
✓ Granularity → per user, per endpoint, global; different tiers/limits
```

## ਇਹ ਮਾਇਨੇ ਕਿਉਂ ਰੱਖਦਾ ਹੈ

Rate limiting ਡਿਜ਼ਾਇਨ ਕਰਨਾ ਕਿਵੇਂ ਹੈ ਇਹ ਸਮਝਣਾ ਕੀਮਤੀ ਹੈ ਕਿਉਂਕਿ ਇਹ ਸਿਸਟਮਾਂ ਨੂੰ ਬਚਾਉਣ ਅਤੇ ਨਿਰਪੱਖ ਵਰਤੋਂ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਇੱਕ **ਆਮ system-design ਭਾਗ** ਹੈ, ਇਸ ਲਈ ਇਹ ਮਹੱਤਵਪੂਰਨ ਵਿਹਾਰਕ ਗਿਆਨ ਹੈ।

Rate limiting — ਕਿਸੇ ਸਮੇਂ ਦੀ ਖਿੜਕੀ ਵਿੱਚ ਇੱਕ ਕਲਾਇੰਟ ਕਿੰਨੀਆਂ requests ਕਰ ਸਕਦਾ ਹੈ ਇਸ ਨੂੰ ਸੀਮਤ ਕਰਨਾ — ਮਹੱਤਵਪੂਰਨ ਲੋੜਾਂ ਨੂੰ ਸੰਬੋਧਿਤ ਕਰਦਾ ਹੈ: **ਅਪਵਰਤੀ ਤੋਂ ਬਚਾਅ** (brute force, scraping, ਅਤੇ DoS ਵਰਗੇ ਹਮਲਿਆਂ ਨੂੰ ਰੋਕਣਾ), **ਓਵਰਲੋਡ ਨੂੰ ਰੋਕਣਾ** (ਸਿਸਟਮ ਸਥਿਰਤਾ ਨੂੰ ਬਚਾਉਣਾ), **ਨਿਰਪੱਖ ਵਰਤੋਂ** ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣਾ (ਕੋਈ ਭੀ ਕਲਾਇੰਟ resources ਨੂੰ ਆਪਣੇ ਕਬਜ਼ੇ ਵਿੱਚ ਨਾ ਲੈਂਦਾ, free vs paid ਵਰਗੀਆਂ tiered limits ਨੂੰ ਸਮਰਥਨ ਕਰਨਾ), ਅਤੇ ਖਰਚੇ ਦਾ ਨਿਯੰਤਰਣ।

ਇਹ rate limiting ਨੂੰ APIs ਅਤੇ services ਲਈ ਇੱਕ ਆਮ ਲਜ਼ਮੀ ਬਣਾਉਂਦੇ ਹਨ।

**Algorithms** ਅਤੇ ਉਨ੍ਹਾਂ ਦੇ trade-offs ਨੂੰ ਸਮਝਣਾ — **fixed window** (ਸਾਧਾਰਨ ਪਰ boundary bursts ਦੀ ਇਜ਼ਾਜ਼ਤ ਦਿੰਦਾ ਹੈ), **sliding window** (ਨਰਮ ਅਤੇ ਵਧੇਰੇ ਸਹੀ), **token bucket** (ਨਿਯੰਤਰਿਤ bursts ਦੀ ਇਜ਼ਾਜ਼ਤ ਦਿੰਦਾ ਹੈ ਜਦੋਂ average rate ਨੂੰ ਸੀਮਤ ਕਰਦਾ ਹੈ — ਪ੍ਰਸਿੱਧ ਅਤੇ ਲਚਕਦਾਰ), ਅਤੇ leaky bucket (output ਨੂੰ ਨਰਮ ਕਰਦਾ ਹੈ) — ਮੁੱਖ design ਗਿਆਨ ਹੈ, ਕਿਉਂਕਿ ਸਹੀ algorithm ਚੁਣਨਾ ਵਿਹਾਰ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ।

**Implementation considerations** ਨੂੰ ਸਮਝਣਾ ਖਾਸ ਮਹੱਤਵਪੂਰਨ ਹੈ: **distributed rate limiting** ਨੂੰ ਸਾਂਭਣਾ (limits ਕਈ servers ਵਿੱਚ ਸਾਂਝੇ ਹਨ, ਆਮ ਤੌਰ 'ਤੇ **Redis** ਦੀ ਵਰਤੋਂ instances ਵਿੱਚ ਸਾਂਝੇ ਕੀਤੇ fast atomic counters ਲਈ — ਕਿਉਂਕਿ per-server limits distributed systems ਵਿੱਚ ਕੰਮ ਨਹੀਂ ਕਰਦੇ), clients ਦੀ ਪਛਾਣ ਕਰਨਾ (API key, user, ਜਾਂ IP ਦੁਆਰਾ), ਸਪਸ਼ਟ responses ਵਾਪਸ ਕਰਨੀਆਂ (HTTP 429 with retry-after headers), ਇਹ ਨਿਰਧਾਰਿਤ ਕਰਨਾ ਕਿ ਇਸ ਨੂੰ ਕਿੱਥੇ ਲਾਗੂ ਕਰਨਾ ਹੈ (gateway, load balancer, ਜਾਂ application), ਅਤੇ granularity (per user, per endpoint, tiered)।

ਇਹ real distributed systems ਵਿੱਚ ਕੰਮ ਕਰਨ ਵਾਲੀ rate limiting ਦੀ ਡਿਜ਼ਾਇਨ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ।

Rate limiting ਇੱਕ ਅਕਸਰ ਦੀ ਲੋੜ ਵਾਲਾ ਭਾਗ ਹੈ, ਜੋ ਅਕਸਰ system design ਚਰਚਾਵਾਂ ਅਤੇ interviews ਵਿੱਚ ਪ੍ਰਗਟ ਹੁੰਦਾ ਹੈ।

ਕਿਉਂਕਿ rate limiting ਸਿਸਟਮਾਂ ਨੂੰ ਬਚਾਉਣ (abuse ਅਤੇ overload ਤੋਂ) ਅਤੇ ਨਿਰਪੱਖ ਵਰਤੋਂ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਇੱਕ ਆਮ, ਮਹੱਤਵਪੂਰਨ ਭਾਗ ਹੈ, ਅਤੇ ਕਿਉਂਕਿ algorithms, ਉਨ੍ਹਾਂ ਦੇ trade-offs, ਅਤੇ ਖਾਸ ਕਰ ਕੇ distributed implementation (Redis ਦੁਆਰਾ ਸਾਂਝੀਆਂ ਲਿਮਿਟਸ) ਨੂੰ ਸਮਝਣਾ ਇਸ ਨੂੰ ਚੰਗੀ ਤਰਾਂ ਡਿਜ਼ਾਇਨ ਕਰਨ ਲਈ ਮਹੱਤਵਪੂਰਨ ਹੈ, rate limiting ਨੂੰ ਕਿਵੇਂ ਡਿਜ਼ਾਇਨ ਕਰਨਾ ਹੈ ਇਹ ਸਮਝਣਾ ਕੀਮਤੀ, ਵਿਹਾਰਕ-ਪ੍ਰਸੰਗਿਕ system-design ਗਿਆਨ ਹੈ — services ਨੂੰ ਬਚਾਉਣ ਅਤੇ ਨਿਰਪੱਖ ਵਰਤੋਂ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਇੱਕ ਆਮ ਭਾਗ, algorithms ਅਤੇ distributed implementation ਨੂੰ ਸਮਝਣ ਦੀ ਲੋੜ ਹੈ, ਅਤੇ ਮਜ਼ਬੂਤ, ਸੁਰੱਖਿਅਤ ਸਿਸਟਮ ਬਣਾਉਣ ਲਈ system design ਵਿੱਚ ਇੱਕ ਵਾਰ-ਵਾਰ ਲਿਖਿਆ ਜਾਣ ਵਾਲਾ ਵਿਸ਼ਾ ਹੈ।