thread poolとは何ですか。なぜ使い、どのようにサイズを決めますか。

Question

IT Interview Practice · Accepted Answer

**thread poolは、共有のワークキューからタスクを取り出す、再利用可能なワーカースレッドの固定された集合です。** タスクごとにスレッドを生成するコストを避け、同時実行スレッド数に上限を設けます。

## なぜ使うのか

スレッドの生成と破棄は高コストで（スタックの割り当て、OSスケジューリングの準備）、際限のないスレッド生成はメモリを枯渇させ、コンテキストスイッチのスラッシングを引き起こします。プールは生成コストをならし、並行度を制限します。

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## 例

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## サイズ決め

- **CPUバウンド**な処理: プールサイズ ≈ コア数。コア数より多いスレッドは、parallelismの利得なしにコンテキストスイッチのオーバーヘッドを増やすだけです。
- **I/Oバウンド**な処理: より大きく、おおよそ`cores × (1 + wait_time / compute_time)`。スレッドはほとんどの時間ブロックされて過ごし、重ね合わせられるためです。
- **キューにも上限を**: 際限のないキューは過負荷を隠しOOMを招きます。拒否ポリシー（ドロップ、ブロック、切り捨て）を持つ有界キューはbackpressureをかけます。

## なぜ重要なのか

プールはサーバーやexecutorの屋台骨です。サイズの誤りは典型的なパフォーマンスバグです。スレッドが少なすぎるとCPUを使いきれず、多すぎるとスラッシングとメモリ圧迫を招きます。プールサイズをワークロードの種類（CPUかI/Oか）に合わせ、キューに上限を設けることが、負荷下でシステムを安定に保ちます。

なぜ使うのか

例

関連する質問

サイズ決め

なぜ重要なのか