तुम रेट लिमिटिंग कसे डिজाइन करता?

Question

Accepted Answer

**रेट लिमिटिंग** क्लायंटला एका वेळ विंडोमध्ये किती विनंत्या करता येतात हे प्रतिबंधित करते — सिस्टमला गैरवापरातून, ओव्हरलोडपासून संरक्षण देते आणि न्याय्य वापरण्याची खात्री देते. हा एक सामान्य सिस्टम-डिজाइन घटक आहे, ज्यामध्ये अनेक अल्गोरिदम आणि विचारणीय गोष्टी आहेत.

## रेट लिमिटिंग का महत्त्वाचे आहे

```text
✓ PROTECT against abuse → prevent attacks (brute force, scraping, DoS), excessive use
✓ PREVENT OVERLOAD → protect the system from being overwhelmed (stability)
✓ FAIR USAGE → ensure no single client monopolizes resources; tiered limits (free vs paid)
✓ COST control; protect downstream services
→ a common requirement for APIs and services.
```

## रेट लिमिटिंग अल्गोरिदम

```text
FIXED WINDOW → count requests per fixed time window (e.g. 100/minute); simple
  ✗ allows bursts at window boundaries (up to 2x at the edges)
SLIDING WINDOW → rolling time window → smoother, no boundary bursts (more accurate)
TOKEN BUCKET → tokens refill at a rate; each request takes a token → allows BURSTS up to
  the bucket size while limiting the average rate (popular, flexible)
LEAKY BUCKET → requests processed at a steady rate (smooths output)
```

## अंमलबजावणी विचारणीय गोष्टी

```text
✓ DISTRIBUTED → limits must be shared across servers → use a centralized store (REDIS is
  common: atomic counters, fast, shared across instances)
✓ Identify the client → by API key, user ID, IP
✓ Return clear responses → HTTP 429 (Too Many Requests); include limit/retry-after headers
✓ Where → at the API gateway, load balancer, or application layer
✓ Granularity → per user, per endpoint, global; different tiers/limits
```

## हे का महत्त्वाचे आहे

रेट लिमिटिंग डिजाइन करणे कसे हे समजणे मूल्यवान आहे कारण हा **सिस्टम डिजाइनचा सामान्य घटक** आहे सिस्टमची संरक्षा करणे आणि न्याय्य वापर सुनिश्चित करण्यासाठी, म्हणून हे महत्त्वाचे व्यावहारिक ज्ञान आहे.

रेट लिमिटिंग — क्लायंटला एका वेळ विंडोमध्ये किती विनंत्या करता येतात हे प्रतिबंधित करणे — महत्त्वाचे गरजा पूर्ण करते: **गैरवापरातून संरक्षण** (brute force, scraping, आणि DoS सारख्या हल्ल्यापासून संरक्षण), **ओव्हरलोडपासून संरक्षण** (सिस्टम स्थिरता संरक्षण), **न्याय्य वापर** सुनिश्चित करणे (कोणीही क्लायंट संसाधनांचा एकाधिकार न करता, मुक्त विरुद्ध सशुल्क सारखे स्तरीय मर्यादा समर्थन), आणि खर्च नियंत्रण.

ये रेट लिमिटिंग हे APIs आणि सेवांच्या साठी सामान्य गरज बनवते.

**अल्गोरिदम** आणि त्यांचे ट्रेड-ऑफ समजणे — **fixed window** (सोपे पण सीमांवर burst असण्याची परवानगी), **sliding window** (गुळगुळीत आणि अधिक अचूक), **token bucket** (नियंत्रित bursts असताना सरासरी दर मर्यादित करणे — लोकप्रिय आणि लचकदार), आणि leaky bucket (output गुळगुळीत करणे) — हे मुख्य डिजाइन ज्ञान आहे, कारण योग्य अल्गोरिदम निवडणे आचरण प्रभावित करते.

**अंमलबजावणी विचारणीय गोष्टी** समजणे विशेषत: महत्त्वाचे आहे: **वितरित रेट लिमिटिंग** हाताळणे (मर्यादा अनेक सर्व्हर्सवर सामायिक, सामान्यतः **Redis** वापरून अनुकूल अणु मोजक सामायिक उदाहरणांवर — कारण प्रति-सर्व्हर मर्यादा वितरित सिस्टमમध्ये काम करत नाहीत), क्लायंट ओळखणे (API key, user, किंवा IP द्वारे), स्पष्ट प्रतिक्रिया परत करणे (HTTP 429 retry-after headers सह), ते कोठे लागू करावे हे निवडणे (gateway, load balancer, किंवा application), आणि granularity (प्रति user, प्रति endpoint, स्तरीय).

ये वास्तविक वितरित सिस्टममध्ये काम करणारी रेट लिमिटिंग डिजाइन करणे प्रतिबिंबित करते.

रेट लिमिटिंग एक वारंवार आवश्यक घटक आहे, अनेकदा सिस्टम डिजाइन चर्चा आणि मुलाखतीमध्ये दिसते.

कारण रेट लिमिटिंग सिस्टमची संरक्षा (गैरवापर आणि ओव्हरलोडपासून) आणि न्याय्य वापर सुनिश्चित करण्यासाठी एक सामान्य, महत्त्वाचा घटक आहे, आणि अल्गोरिदम, त्यांचे ट्रेड-ऑफ, आणि विशेषत: वितरित अंमलबजावणी (Redis द्वारे सामायिक मर्यादा) समजणे हे योग्य डिजाइन करण्यासाठी महत्त्वाचे आहे, रेट लिमिटिंग कसे डिजाइन करावे हे समजणे मूल्यवान आहे, व्यावहारिकरित्या-संबंधित सिस्टम-डिजाइन ज्ञान — सेवांची संरक्षा करण्यासाठी आणि न्याय्य वापर सुनिश्चित करण्यासाठी सामान्य घटक, अल्गोरिदम आणि वितरित अंमलबजावणीची समजणे आवश्यक, आणि मजबूत, संरक्षित सिस्टम बांधण्यासाठी सिस्टम डिजाइनमध्ये वारंवार चर्चा केली जाणारी विषय.