Mi az a thread pool? Miért használj egyet, és hogyan méretezed?

Question

IT Interview Practice · Accepted Answer

**A thread pool újrahasznosítható worker threadek fix készlete, amelyek egy megosztott munka-queue-ből húznak feladatokat.** Elkerüli a feladatonkénti szál-létrehozás költségét, és korlátozza az egyidejű threadek számát.

## Miért használj egyet

A threadek létrehozása és megsemmisítése drága (stack allokáció, OS scheduling beállítás), és a korlátlan szál-létrehozás kimeríti a memóriát és kontextusváltás-csapkodást (thrashing) okoz. Egy pool amortizálja a létrehozási költséget és korlátozza a konkurenciát.

```text
feladatok →  [ munka-queue ]  →  worker 1
                                 worker 2   (N fix worker húz és futtat)
                                 worker 3
```

## Példa

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 thread dolgozza fel a queue-t; a többiek várnak a sorukra
```

## Méretezés

- **CPU-korlátozott** munka: pool méret ≈ a magok száma. Több thread, mint mag, csak kontextusváltási overheadet ad parallelizmusbeli nyereség nélkül.
- **I/O-korlátozott** munka: méretezd nagyobbra, nagyjából `magok × (1 + wait_time / compute_time)`, mert a threadek idejük nagy részét blokkolva töltik és átfedhetnek.
- **Korlátozd a queue-t** is: egy korlátlan queue elrejti a túlterhelést és OOM-hoz vezet; egy korlátozott queue rejection policyval (drop, block vagy shed) backpressure-t alkalmaz.

## Miért fontos

A poolok a szerverek és executorok gerince. A rossz méretezés egy klasszikus teljesítménybeli hiba: túl kevés thread alulhasználja a CPU-t; túl sok csapkodást és memórianyomást okoz. A pool méretének a munka típusához (CPU vs I/O) illesztése és a queue korlátozása stabilan tartja a rendszert terhelés alatt.

Miért használj egyet

Példa

Méretezés

Miért fontos

Kapcsolódó kérdések