Hva er en thread pool? Hvorfor bruke en, og hvordan dimensjonerer du den?

Question

IT Interview Practice · Accepted Answer

**En thread pool er et fast sett med gjenbrukbare arbeidertråder som henter oppgaver fra en delt arbeidskø.** Den unngår kostnaden ved å opprette en tråd per oppgave og setter et tak på antall samtidige tråder.

## Hvorfor bruke en

Å opprette og ødelegge tråder er kostbart (stack-allokering, oppsett av OS-planlegging), og ubegrenset trådopprettelse tømmer minnet og forårsaker context-switch-thrashing. En pool amortiserer opprettelseskostnaden og begrenser samtidigheten.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## Eksempel

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Dimensjonering

- **CPU-bundet** arbeid: pool-størrelse ≈ antall kjerner. Flere tråder enn kjerner gir bare context-switch-overhead uten noen parallellismegevinst.
- **I/O-bundet** arbeid: dimensjoner større, omtrent `cores × (1 + wait_time / compute_time)`, fordi tråder tilbringer mesteparten av tiden blokkert og kan overlappe.
- **Begrens køen** også: en ubegrenset kø skjuler overbelastning og fører til OOM; en begrenset kø med en avvisningspolicy (drop, block eller shed) påfører backpressure.

## Hvorfor det er viktig

Pooler er ryggraden i servere og executorer. Feil dimensjonering er en klassisk ytelsesfeil: for få tråder underutnytter CPU-en; for mange forårsaker thrashing og minnepress. Å tilpasse pool-størrelsen til arbeidslasttypen (CPU vs I/O) og begrense køen holder systemet stabilt under last.

Hvorfor bruke en

Eksempel

Dimensjonering

Hvorfor det er viktig

Relaterte spørsmål