Qu'est-ce qu'un thread pool ? Pourquoi en utiliser un, et comment le dimensionner ?

Question

IT Interview Practice · Accepted Answer

**Un thread pool est un ensemble fixe de threads worker réutilisables qui tirent des tâches d'une file de travail partagée.** Il évite le coût de la création d'un thread par tâche et plafonne le nombre de threads concurrents.

## Pourquoi en utiliser un

Créer et détruire des threads est coûteux (allocation de pile, mise en place de l'ordonnancement OS), et une création de threads sans limite épuise la mémoire et provoque un emballement des changements de contexte (thrashing). Un pool amortit le coût de création et borne la concurrence.

```text
tâches →  [ file de travail ]  →  worker 1
                                 worker 2   (N workers fixes tirent et exécutent)
                                 worker 3
```

## Exemple

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads traitent la file ; les tâches en trop attendent leur tour
```

## Dimensionnement

- Travail **CPU-bound** : taille du pool ≈ nombre de cœurs. Plus de threads que de cœurs n'ajoute que du surcoût de changement de contexte sans gain de parallélisme.
- Travail **I/O-bound** : dimensionnez plus grand, environ `cores × (1 + wait_time / compute_time)`, car les threads passent le plus clair de leur temps bloqués et peuvent se chevaucher.
- **Bornez la file** aussi : une file non bornée masque la surcharge et mène à l'OOM ; une file bornée avec une politique de rejet (drop, block ou shed) applique de la backpressure.

## Pourquoi c'est important

Les pools sont l'épine dorsale des serveurs et des executors. Un mauvais dimensionnement est un bug de performance classique : trop peu de threads sous-utilise le CPU ; trop de threads provoque du thrashing et de la pression mémoire. Adapter la taille du pool au type de charge (CPU contre I/O) et borner la file garde le système stable sous charge.

Pourquoi en utiliser un

Exemple

Dimensionnement

Pourquoi c'est important

Questions connexes