Czym jest pula wątków? Po co jej używać i jak dobierać jej rozmiar?

Question

IT Interview Practice · Accepted Answer

**Pula wątków to stały zestaw wielokrotnie używanych wątków roboczych, które pobierają zadania ze współdzielonej kolejki pracy.** Unika kosztu tworzenia wątku na każde zadanie i ogranicza liczbę współbieżnych wątków.

## Po co jej używać

Tworzenie i niszczenie wątków jest kosztowne (alokacja stosu, konfiguracja harmonogramowania w systemie operacyjnym), a nieograniczone tworzenie wątków wyczerpuje pamięć i powoduje przeciążenie przełączaniem kontekstu. Pula amortyzuje koszt tworzenia i ogranicza współbieżność.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## Przykład

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Dobór rozmiaru

- Praca **ograniczona przez CPU**: rozmiar puli ≈ liczba rdzeni. Więcej wątków niż rdzeni dodaje jedynie narzut przełączania kontekstu bez zysku z równoległości.
- Praca **ograniczona przez I/O**: rozmiar większy, mniej więcej `cores × (1 + wait_time / compute_time)`, ponieważ wątki spędzają większość czasu zablokowane i mogą się nakładać.
- **Ogranicz też kolejkę**: nieograniczona kolejka ukrywa przeciążenie i prowadzi do OOM; ograniczona kolejka z polityką odrzucania (odrzuć, blokuj lub odetnij) stosuje przeciwciśnienie (backpressure).

## Dlaczego to ważne

Pule są kręgosłupem serwerów i egzekutorów. Zły dobór rozmiaru to klasyczny błąd wydajnościowy: zbyt mało wątków niewykorzystuje CPU; zbyt wiele powoduje przeciążenie i presję pamięciową. Dopasowanie rozmiaru puli do typu obciążenia (CPU kontra I/O) i ograniczenie kolejki utrzymuje system stabilnym pod obciążeniem.

Po co jej używać

Przykład

Dobór rozmiaru

Dlaczego to ważne

Powiązane pytania