스레드 풀(thread pool)이란 무엇인가? 왜 사용하며, 크기는 어떻게 정하는가?

Question

IT Interview Practice · Accepted Answer

**스레드 풀은 공유 작업 큐에서 작업을 가져오는, 재사용 가능한 워커 스레드의 고정된 집합입니다.** 작업마다 스레드를 생성하는 비용을 피하고 동시 스레드 수의 상한을 둡니다.

## 왜 사용하는가

스레드를 생성하고 파괴하는 것은 비쌉니다(스택 할당, OS 스케줄링 설정). 그리고 제한 없는 스레드 생성은 메모리를 소진시키고 컨텍스트 전환 스래싱을 일으킵니다. 풀은 생성 비용을 분산시키고 동시성을 제한합니다.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## 예제

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## 크기 정하기

- **CPU 바운드** 작업: 풀 크기 ≈ 코어 수. 코어보다 많은 스레드는 병렬성 이득 없이 컨텍스트 전환 오버헤드만 더합니다.
- **I/O 바운드** 작업: 더 크게, 대략 `cores × (1 + wait_time / compute_time)`로 잡으세요. 스레드가 대부분의 시간을 블로킹된 채 보내며 겹칠 수 있기 때문입니다.
- **큐도 제한하세요**: 제한 없는 큐는 과부하를 숨기고 OOM으로 이어집니다. 거부 정책(드롭, 블로킹, 셰딩)을 갖춘 제한된 큐는 배압(backpressure)을 가합니다.

## 왜 중요한가

풀은 서버와 실행기(executor)의 근간입니다. 잘못된 크기 설정은 전형적인 성능 버그입니다: 스레드가 너무 적으면 CPU를 충분히 활용하지 못하고, 너무 많으면 스래싱과 메모리 압박을 일으킵니다. 풀 크기를 워크로드 유형(CPU vs I/O)에 맞추고 큐를 제한하면 부하 상태에서 시스템이 안정적으로 유지됩니다.

왜 사용하는가

예제

크기 정하기

왜 중요한가

관련 질문