Wat is een thread pool? Waarom gebruik je er een, en hoe dimensioneer je hem?

Question

IT Interview Practice · Accepted Answer

**Een thread pool is een vaste set herbruikbare worker-threads die taken uit een gedeelde work queue trekken.** Het vermijdt de kosten van het aanmaken van een thread per taak en begrenst het aantal gelijktijdige threads.

## Waarom je er een gebruikt

Het aanmaken en vernietigen van threads is duur (stack-allocatie, opzetten van OS-scheduling), en onbegrensd threads aanmaken put het geheugen uit en veroorzaakt context-switch-thrashing. Een pool amortiseert de aanmaakkosten en begrenst de concurrency.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## Voorbeeld

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Dimensioneren

- **CPU-bound** werk: poolgrootte ≈ aantal cores. Meer threads dan cores voegt alleen context-switch-overhead toe zonder parallelisme-winst.
- **I/O-bound** werk: groter dimensioneren, grofweg `cores × (1 + wait_time / compute_time)`, omdat threads de meeste tijd geblokkeerd zijn en kunnen overlappen.
- **Begrens ook de queue**: een onbegrensde queue verbergt overbelasting en leidt tot OOM; een begrensde queue met een rejection policy (drop, block of shed) past backpressure toe.

## Waarom het belangrijk is

Pools zijn de ruggengraat van servers en executors. Verkeerde dimensionering is een klassieke performance-bug: te weinig threads onderbenut de CPU; te veel veroorzaakt thrashing en geheugendruk. De poolgrootte afstemmen op het type workload (CPU versus I/O) en de queue begrenzen houdt het systeem stabiel onder belasting.

Waarom je er een gebruikt

Voorbeeld

Dimensioneren

Waarom het belangrijk is

Gerelateerde vragen