Co je thread pool? Proč jej používat a jak dimenzovat jeho velikost?

Question

IT Interview Practice · Accepted Answer

**Thread pool je pevná sada znovupoužitelných pracovních vláken, která odebírají úlohy ze sdílené fronty práce.** Vyhýbá se ceně vytváření vlákna na každou úlohu a omezuje počet souběžných vláken.

## Proč jej používat

Vytváření a rušení vláken je drahé (alokace zásobníku, nastavení plánování OS) a neomezené vytváření vláken vyčerpá paměť a způsobí zahlcení přepínáním kontextu. Pool amortizuje cenu vytvoření a omezuje souběžnost.

```text
úlohy →  [ fronta práce ]  →  worker 1
                              worker 2   (N pevných workerů odebírá a spouští)
                              worker 3
```

## Příklad

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 vláken zpracovává frontu; přebytky čekají, až na ně přijde řada
```

## Dimenzování

- **CPU vázaná** práce: velikost poolu ≈ počet jader. Více vláken než jader jen přidává režii přepínání kontextu bez zisku paralelismu.
- **I/O vázaná** práce: dimenzujte větší, zhruba `jádra × (1 + doba_čekání / doba_výpočtu)`, protože vlákna tráví většinu času zablokovaná a mohou se překrývat.
- **Omezte i frontu**: neomezená fronta skrývá přetížení a vede k OOM; omezená fronta s politikou odmítání (zahodit, blokovat nebo shazovat) uplatňuje backpressure.

## Proč je to důležité

Pooly jsou páteří serverů a executorů. Špatné dimenzování je klasická výkonnostní chyba: příliš málo vláken nevyužije CPU; příliš mnoho způsobí zahlcení a tlak na paměť. Přizpůsobení velikosti poolu typu zátěže (CPU vs I/O) a omezení fronty udržuje systém stabilní pod zátěží.

Proč jej používat

Příklad

Dimenzování

Proč je to důležité

Související otázky