آپ rate limiting کو کیسے ڈیزائن کرتے ہیں؟

Question

Accepted Answer

**Rate limiting** کسی client کو ایک time window میں کتنی requests کر سکتا ہے اس کو محدود کرتا ہے — نظاموں کو غلط استعمال، overload سے محفوظ رکھتا ہے، اور منصفانہ استعمال کو یقینی بناتا ہے۔ یہ ایک عام system-design component ہے، متعدد algorithms اور considerations کے ساتھ۔

## Rate limiting کیوں اہم ہے

```text
✓ PROTECT against abuse → prevent attacks (brute force, scraping, DoS), excessive use
✓ PREVENT OVERLOAD → protect the system from being overwhelmed (stability)
✓ FAIR USAGE → ensure no single client monopolizes resources; tiered limits (free vs paid)
✓ COST control; protect downstream services
→ a common requirement for APIs and services.
```

## Rate limiting algorithms

```text
FIXED WINDOW → count requests per fixed time window (e.g. 100/minute); simple
  ✗ allows bursts at window boundaries (up to 2x at the edges)
SLIDING WINDOW → rolling time window → smoother, no boundary bursts (more accurate)
TOKEN BUCKET → tokens refill at a rate; each request takes a token → allows BURSTS up to
  the bucket size while limiting the average rate (popular, flexible)
LEAKY BUCKET → requests processed at a steady rate (smooths output)
```

## Implementation considerations

```text
✓ DISTRIBUTED → limits must be shared across servers → use a centralized store (REDIS is
  common: atomic counters, fast, shared across instances)
✓ Identify the client → by API key, user ID, IP
✓ Return clear responses → HTTP 429 (Too Many Requests); include limit/retry-after headers
✓ Where → at the API gateway, load balancer, or application layer
✓ Granularity → per user, per endpoint, global; different tiers/limits
```

## کیوں یہ اہم ہے

Rate limiting کو design کرنے کا طریقہ سمجھنا قیمتی ہے کیونکہ یہ نظاموں کو محفوظ رکھنے اور منصفانہ استعمال کو یقینی بنانے کے لیے **ایک عام system-design component** ہے، اس لیے یہ اہم عملی علم ہے۔

Rate limiting — ایک client کو ایک time window میں کتنی requests کر سکتا ہے اس کو محدود کرنا — اہم ضروریات کو پورا کرتا ہے: **غلط استعمال سے حفاظت** (brute force، scraping، اور DoS جیسے حملوں کو روکنا)، **overload سے بچاؤ** (نظام کی استحکام کو محفوظ رکھنا)، **منصفانہ استعمال** کو یقینی بنانا (کوئی client وسائل پر احتکار نہ کرے، free اور paid جیسی tiered limits کی حمایت کرنا)، اور cost control۔

یہ rate limiting کو APIs اور services کے لیے ایک عام ضرورت بناتے ہیں۔

**Algorithms** اور ان کے trade-offs کو سمجھنا — **fixed window** (سادہ لیکن boundary bursts کی اجازت دینا)، **sliding window** (زیادہ ہموار اور درست)، **token bucket** (controlled bursts کی اجازت دیتے ہوئے average rate کو محدود کرنا — مقبول اور لچکدار)، اور leaky bucket (output کو ہموار کرنا) — اہم design knowledge ہے، کیونکہ صحیح algorithm کا انتخاب behavior کو متاثر کرتا ہے۔

**Implementation considerations** کو سمجھنا خاص طور پر اہم ہے: **distributed rate limiting** کو سنبھالنا (حدود متعدد servers میں شاہر، عام طور پر **Redis** استعمال کرتے ہوئے instances میں شاہر شدہ fast atomic counters کے لیے — کیونکہ per-server حدود distributed systems میں کام نہیں کرتی)، clients کی شناخت (API key، user، یا IP کے ذریعے)، واضح responses واپس کرنا (HTTP 429 retry-after headers کے ساتھ)، کہاں اس کو apply کرنا ہے (gateway، load balancer، یا application)، اور granularity (per user، per endpoint، tiered)۔

یہ real distributed systems میں کام کرنے والی rate limiting کو design کرنے کی عکاسی کرتے ہیں۔

Rate limiting ایک بار بار ضروری component ہے، اکثر system design discussions اور interviews میں نمودار ہوتا ہے۔

چونکہ rate limiting نظاموں کو محفوظ رکھنے (غلط استعمال اور overload سے) اور منصفانہ استعمال کو یقینی بنانے کے لیے ایک عام، اہم component ہے، اور چونکہ algorithms، ان کے trade-offs، اور خاص طور پر distributed implementation (Redis کے ذریعے شاہر limits) کو سمجھنا اسے اچھی طرح design کرنے کے لیے اہم ہے، rate limiting کو design کرنے کا طریقہ سمجھنا قیمتی، عملی طور پر متعلقہ system-design knowledge ہے — services کو محفوظ رکھنے اور منصفانہ استعمال کو یقینی بنانے کے لیے ایک عام component، algorithms اور distributed implementation کو سمجھنے کی ضرورت ہے، اور robust، محفوظ نظاموں کو بنانے کے لیے system design میں بار بار زیر بحث آنے والا موضوع۔