Što je thread pool? Zašto ga koristiti i kako ga dimenzionirati?

Question

IT Interview Practice · Accepted Answer

**Thread pool je fiksni skup radnih niti koje se mogu ponovno koristiti i koje povlače zadatke iz dijeljenog reda poslova.** Izbjegava trošak stvaranja niti po zadatku i ograničava broj istovremenih niti.

## Zašto ga koristiti

Stvaranje i uništavanje niti je skupo (alokacija stacka, postavljanje OS raspoređivanja), a neograničeno stvaranje niti iscrpljuje memoriju i uzrokuje treskanje pri promjeni konteksta. Pool amortizira trošak stvaranja i ograničava konkurentnost.

```text
zadaci →  [ red poslova ]  →  radnik 1
                              radnik 2   (N fiksnih radnika povlači i pokreće)
                              radnik 3
```

## Primjer

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 niti obrađuje red; viškovi čekaju svoj red
```

## Dimenzioniranje

- **CPU-ograničen** posao: veličina poola ≈ broj jezgri. Više niti od jezgri samo dodaje trošak promjene konteksta bez dobitka u paralelizmu.
- **I/O-ograničen** posao: veličina veća, otprilike `cores × (1 + wait_time / compute_time)`, jer niti provode većinu vremena blokirane i mogu se preklapati.
- **Ograničite i red** također: neograničeni red skriva preopterećenje i vodi do OOM-a; ograničeni red s pravilom odbijanja (drop, block ili shed) primjenjuje backpressure.

## Zašto je to važno

Poolovi su kralježnica poslužitelja i executora. Pogrešno dimenzioniranje klasičan je bug performansi: premalo niti nedovoljno iskorištava CPU; previše uzrokuje treskanje i pritisak na memoriju. Usklađivanje veličine poola s tipom opterećenja (CPU nasuprot I/O) i ograničavanje reda drži sustav stabilnim pod opterećenjem.

Zašto ga koristiti

Primjer

Dimenzioniranje

Zašto je to važno

Povezana pitanja