Что такое пул потоков (thread pool)? Зачем его использовать и как выбирать его размер?

Question

IT Interview Practice · Accepted Answer

**Пул потоков — это фиксированный набор переиспользуемых рабочих потоков, которые берут задачи из общей очереди работы.** Он избегает затрат на создание потока под каждую задачу и ограничивает число конкурентных потоков.

## Зачем его использовать

Создание и уничтожение потоков дорого (выделение стека, настройка планирования ОС), а неограниченное создание потоков исчерпывает память и вызывает пробуксовку от переключений контекста. Пул амортизирует стоимость создания и ограничивает конкурентность.

```text
задачи →  [ очередь работы ]  →  worker 1
                                 worker 2   (N фиксированных воркеров берут и выполняют)
                                 worker 3
```

## Пример

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 потоков обрабатывают очередь; лишние ждут своей очереди
```

## Выбор размера

- **CPU-bound** работа: размер пула ≈ числу ядер. Больше потоков, чем ядер, лишь добавляет накладные расходы на переключение контекста без выигрыша в параллелизме.
- **I/O-bound** работа: размер больше, примерно `cores × (1 + wait_time / compute_time)`, потому что потоки большую часть времени заблокированы и могут перекрываться.
- **Ограничивайте и очередь**: неограниченная очередь скрывает перегрузку и ведёт к OOM; ограниченная очередь с политикой отказа (drop, block или shed) применяет backpressure.

## Почему это важно

Пулы — это костяк серверов и исполнителей. Неправильный размер — классический баг производительности: слишком мало потоков недоиспользует CPU; слишком много вызывает пробуксовку и давление на память. Сопоставление размера пула с типом нагрузки (CPU против I/O) и ограничение очереди сохраняют систему стабильной под нагрузкой.

Зачем его использовать

Пример

Выбор размера

Почему это важно

Похожие вопросы