Kaj je bazen niti (thread pool)? Zakaj ga uporabiti in kako ga dimenzionirati?

Question

IT Interview Practice · Accepted Answer

**Bazen niti je nespremenljiva množica ponovno uporabnih delovnih niti, ki jemljejo opravila iz deljene delovne vrste.** Izogne se stroškom ustvarjanja niti na opravilo in omeji število sočasnih niti.

## Zakaj ga uporabiti

Ustvarjanje in uničevanje niti je drago (dodeljevanje sklada, priprava razporejanja OS), neomejeno ustvarjanje niti pa izčrpa pomnilnik in povzroči premetavanje pri preklapljanju konteksta. Bazen amortizira strošek ustvarjanja in omeji sočasnost.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## Primer

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Dimenzioniranje

- **CPU-vezano** delo: velikost bazena ≈ število jeder. Več niti kot jeder le doda strošek preklapljanja konteksta brez pridobitve na vzporednosti.
- **V/I-vezano** delo: dimenzionirajte večje, približno `jedra × (1 + čas_čakanja / čas_računanja)`, ker niti večino časa preživijo blokirane in se lahko prekrivajo.
- **Omejite tudi vrsto**: neomejena vrsta skrije preobremenitev in vodi v OOM; omejena vrsta s politiko zavrnitve (opusti, blokiraj ali odvrzi) uveljavi protipritisk (backpressure).

## Zakaj je to pomembno

Bazeni so hrbtenica strežnikov in izvajalnikov (executors). Napačno dimenzioniranje je klasična napaka zmogljivosti: premalo niti premalo izkoristi CPU; preveč povzroči premetavanje in pritisk na pomnilnik. Ujemanje velikosti bazena s tipom obremenitve (CPU proti V/I) in omejevanje vrste ohranja sistem stabilen pod obremenitvijo.

Zakaj ga uporabiti

Primer

Dimenzioniranje

Zakaj je to pomembno

Povezana vprašanja