Hız sınırlamasını nasıl tasarlarsınız?

Question

Accepted Answer

**Hız sınırlaması**, bir istemcinin zaman penceresi içinde yapabileceği istek sayısını kısıtlar — sistemleri kötüye kullanımdan, aşırı yüklenmeden korur ve adil kullanımı sağlar. Bu, birden fazla algoritma ve dikkat edilecek noktalar içeren yaygın bir sistem tasarım bileşenidir.

## Neden önemli

```text
✓ PROTECT against abuse → prevent attacks (brute force, scraping, DoS), excessive use
✓ PREVENT OVERLOAD → protect the system from being overwhelmed (stability)
✓ FAIR USAGE → ensure no single client monopolizes resources; tiered limits (free vs paid)
✓ COST control; protect downstream services
→ a common requirement for APIs and services.
```

## Hız sınırlaması algoritmaları

```text
FIXED WINDOW → count requests per fixed time window (e.g. 100/minute); simple
  ✗ allows bursts at window boundaries (up to 2x at the edges)
SLIDING WINDOW → rolling time window → smoother, no boundary bursts (more accurate)
TOKEN BUCKET → tokens refill at a rate; each request takes a token → allows BURSTS up to
  the bucket size while limiting the average rate (popular, flexible)
LEAKY BUCKET → requests processed at a steady rate (smooths output)
```

## Uygulama dikkat edilecek noktaları

```text
✓ DISTRIBUTED → limits must be shared across servers → use a centralized store (REDIS is
  common: atomic counters, fast, shared across instances)
✓ Identify the client → by API key, user ID, IP
✓ Return clear responses → HTTP 429 (Too Many Requests); include limit/retry-after headers
✓ Where → at the API gateway, load balancer, or application layer
✓ Granularity → per user, per endpoint, global; different tiers/limits
```

## Neden önemli

Hız sınırlamasını tasarlamayı bilmek değerlidir, çünkü bu, sistemleri korumak ve adil kullanımı sağlamak için **yaygın bir sistem tasarım bileşeni**dir, bu nedenle önemli pratik bilgidir.

Hız sınırlaması — bir istemcinin zaman penceresi içinde yapabileceği istek sayısını kısıtlama — önemli ihtiyaçları karşılar: **kötüye kullanımdan koruma** (brute force, scraping ve DoS gibi saldırıları önleme), **aşırı yüklenmeden koruma** (sistem kararlılığını koruma), **adil kullanımı sağlama** (hiçbir istemci kaynakları tekelleştirmesin, ücretsiz vs ücretli gibi kademeli limitler destekleme) ve maliyet kontrolü.

Bunlar, hız sınırlamasını API'ler ve hizmetler için yaygın bir gereklilik haline getirir.

**Algoritmaları** ve bunların ödünleşimlerini anlamak — **sabit pencere** (basit ancak sınır patlamalarına izin veren), **kayan pencere** (daha pürüzsüz ve doğru), **token bucket** (kontrollü patlamalara izin verirken ortalama hızı sınırlayan — popüler ve esnek) ve sızıntılı bucket (çıktıyı yumuşatan) — ana tasarım bilgisidir, çünkü doğru algoritmayı seçmek davranışı etkiler.

**Uygulama dikkat edilecek noktalarını** anlamak özellikle önemlidir: **dağıtılmış hız sınırlaması** işleme (limitler birden fazla sunucu arasında paylaşılır, yaygın olarak hızlı atomik sayaçlar için **Redis** kullanılır — sunucu başına limitler dağıtılmış sistemlerde çalışmadığından), istemcileri tanımlama (API anahtarı, kullanıcı veya IP ile), açık yanıtlar döndürme (HTTP 429 with retry-after başlıkları), nereye uygulanacağını seçme (gateway, load balancer veya uygulama), ve ayrıntı düzeyi (kullanıcı başına, endpoint başına, kademeli).

Bunlar, gerçek dağıtılmış sistemlerde çalışan hız sınırlamasını tasarlamayı yansıtır.

Hız sınırlaması, sık ihtiyaç duyulan bir bileşendir ve sistem tasarım tartışmaları ve mülakatlarda sıkça ortaya çıkar.

Hız sınırlaması, sistemleri korumak (kötüye kullanımdan ve aşırı yüklenmeden) ve adil kullanımı sağlamak için yaygın, önemli bir bileşen olduğundan ve algoritmaları, bunların ödünleşimlerini ve özellikle dağıtılmış uygulamayı (Redis aracılığıyla paylaşılan limitler) anlamak bunu iyi tasarlamak için önemli olduğundan, hız sınırlamasını tasarlamayı bilmek değerli, pratik olarak ilgili sistem tasarım bilgisidir — hizmetleri korumak ve adil kullanımı sağlamak için gerekli olan yaygın bir bileşen, algoritmaları ve dağıtılmış uygulamayı anlamayı gerektiren ve sistem tasarımda sık tartışılan bir konu, sağlam ve korumalı sistemler inşa etmek için.