Thread pool nedir? Neden kullanılır ve nasıl boyutlandırılır?

Question

IT Interview Practice · Accepted Answer

**Bir thread pool, paylaşılan bir iş kuyruğundan görev çeken sabit sayıda yeniden kullanılabilir worker thread kümesidir.** Görev başına bir thread oluşturma maliyetini önler ve eşzamanlı thread sayısını sınırlar.

## Neden kullanılır

Thread oluşturmak ve yok etmek pahalıdır (stack tahsisi, OS scheduling kurulumu) ve sınırsız thread oluşturma belleği tüketir ve context-switch dövülmesine neden olur. Bir pool, oluşturma maliyetini amorti eder ve eşzamanlılığı sınırlar.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## Örnek

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Boyutlandırma

- **CPU-bound** iş: pool boyutu ≈ çekirdek sayısı. Çekirdekten fazla thread, parallelism kazancı olmadan yalnızca context-switch ek yükü ekler.
- **I/O-bound** iş: daha büyük boyutlandırın, kabaca `cores × (1 + wait_time / compute_time)`, çünkü thread'ler zamanın çoğunu bloklanmış geçirir ve çakışabilir.
- Kuyruğu da **sınırlayın**: sınırsız bir kuyruk aşırı yükü gizler ve OOM'a yol açar; bir reddetme politikası (drop, block veya shed) olan sınırlı bir kuyruk backpressure uygular.

## Neden önemli

Pool'lar sunucuların ve executor'ların bel kemiğidir. Yanlış boyutlandırma klasik bir performans hatasıdır: çok az thread CPU'yu yeterince kullanmaz; çok fazlası dövülmeye ve bellek baskısına neden olur. Pool boyutunu iş yükü tipiyle (CPU ile I/O) eşleştirmek ve kuyruğu sınırlamak, sistemi yük altında kararlı tutar.

Neden kullanılır

Örnek

Boyutlandırma

Neden önemli

İlgili sorular