Hvad er en thread pool? Hvorfor bruge en, og hvordan dimensionerer du den?

Question

IT Interview Practice · Accepted Answer

**En thread pool er et fast sæt af genbrugelige worker-tråde, der trækker opgaver fra en delt work queue.** Den undgår omkostningen ved at oprette en tråd per opgave og sætter et loft over antallet af samtidige tråde.

## Hvorfor bruge en

At oprette og nedlægge tråde er dyrt (stack-allokering, opsætning af OS-scheduling), og ubegrænset trådoprettelse udtømmer hukommelsen og forårsager context-switch-tromling. En pool amortiserer oprettelsesomkostningen og afgrænser concurrency.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## Eksempel

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Dimensionering

- **CPU-bundet** arbejde: pool-størrelse ≈ antal kerner. Flere tråde end kerner tilføjer bare context-switch-overhead uden gevinst i parallelisme.
- **I/O-bundet** arbejde: dimensionér større, groft `cores × (1 + wait_time / compute_time)`, fordi tråde tilbringer det meste af tiden blokeret og kan overlappe.
- **Afgræns også køen**: en ubegrænset kø skjuler overbelastning og fører til OOM; en afgrænset kø med en afvisningspolitik (drop, block eller shed) anvender backpressure.

## Hvorfor det betyder noget

Pools er rygraden i servere og executors. Forkert dimensionering er en klassisk performance-bug: for få tråde underudnytter CPU'en; for mange forårsager tromling og hukommelsespres. At matche pool-størrelsen til workload-typen (CPU vs. I/O) og afgrænse køen holder systemet stabilt under belastning.

Hvorfor bruge en

Eksempel

Dimensionering

Hvorfor det betyder noget

Relaterede spørgsmål