Ce este un thread pool? De ce să folosești unul și cum îl dimensionezi?

Question

IT Interview Practice · Accepted Answer

**Un thread pool este un set fix de worker thread-uri reutilizabile care extrag sarcini dintr-o coadă de lucru partajată.** Evită costul creării unui thread per sarcină și limitează numărul de thread-uri concurente.

## De ce să folosești unul

Crearea și distrugerea thread-urilor este costisitoare (alocare de stack, setup de scheduling OS), iar crearea nelimitată de thread-uri epuizează memoria și cauzează thrashing de context switch. Un pool amortizează costul creării și mărginește concurența.

```text
sarcini →  [ coadă de lucru ]  →  worker 1
                                  worker 2   (N worker-i fix extrag & rulează)
                                  worker 3
```

## Exemplu

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 thread-uri procesează coada; restul își așteaptă rândul
```

## Dimensionare

- Muncă **CPU-bound**: dimensiunea pool-ului ≈ numărul de core-uri. Mai multe thread-uri decât core-uri adaugă doar overhead de context switch, fără câștig de paralelism.
- Muncă **I/O-bound**: dimensionează mai mare, aproximativ `core-uri × (1 + timp_așteptare / timp_calcul)`, pentru că thread-urile petrec majoritatea timpului blocate și se pot suprapune.
- **Mărginește și coada**: o coadă nelimitată ascunde supraîncărcarea și duce la OOM; o coadă mărginită cu o politică de respingere (drop, block sau shed) aplică backpressure.

## De ce contează

Pool-urile sunt coloana vertebrală a serverelor și executor-elor. Dimensionarea greșită este un bug de performanță clasic: prea puține thread-uri subutilizează CPU-ul; prea multe cauzează thrashing și presiune pe memorie. Potrivirea dimensiunii pool-ului la tipul de sarcină (CPU vs I/O) și mărginirea cozii mențin sistemul stabil sub încărcare.

De ce să folosești unul

Exemplu

Dimensionare

De ce contează

Întrebări conexe