Cos'è un thread pool? Perché usarlo e come lo si dimensiona?

Question

IT Interview Practice · Accepted Answer

**Un thread pool è un insieme fisso di worker thread riutilizzabili che prelevano task da una coda di lavoro condivisa.** Evita il costo di creare un thread per ogni task e limita il numero di thread concorrenti.

## Perché usarne uno

Creare e distruggere thread è costoso (allocazione dello stack, setup dello scheduling dell'OS), e la creazione illimitata di thread esaurisce la memoria e provoca thrashing di context switch. Un pool ammortizza il costo di creazione e limita la concorrenza.

```text
task →  [ coda di lavoro ]  →  worker 1
                               worker 2   (N worker fissi prelevano ed eseguono)
                               worker 3
```

## Esempio

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 thread processano la coda; gli extra aspettano il loro turno
```

## Dimensionamento

- Lavoro **CPU-bound**: dimensione del pool ≈ numero di core. Più thread che core aggiunge solo overhead di context switch senza guadagno di parallelismo.
- Lavoro **I/O-bound**: dimensione maggiore, all'incirca `core × (1 + tempo_di_attesa / tempo_di_calcolo)`, perché i thread passano la maggior parte del tempo bloccati e possono sovrapporsi.
- **Limita anche la coda**: una coda illimitata nasconde il sovraccarico e porta a OOM; una coda limitata con una politica di rifiuto (drop, block o shed) applica backpressure.

## Perché è importante

I pool sono la spina dorsale di server ed executor. Il dimensionamento sbagliato è un classico bug di performance: troppo pochi thread sottoutilizzano la CPU; troppi causano thrashing e pressione sulla memoria. Adattare la dimensione del pool al tipo di carico (CPU vs I/O) e limitare la coda mantiene il sistema stabile sotto carico.

Perché usarne uno

Esempio

Dimensionamento

Perché è importante

Domande correlate