Thread pool คืออะไร? ทำไมจึงใช้มัน และกำหนดขนาดอย่างไร?

Question

IT Interview Practice · Accepted Answer

**Thread pool คือชุด worker thread ที่นำกลับมาใช้ซ้ำได้ในจำนวนคงที่ ซึ่งดึง task จาก work queue ที่แชร์ร่วมกัน** มันเลี่ยงต้นทุนการสร้าง thread ต่อหนึ่ง task และจำกัดจำนวน thread ที่ทำงานพร้อมกัน

## ทำไมจึงใช้มัน

การสร้างและทำลาย thread มีต้นทุนสูง (การจอง stack, การตั้งค่า scheduling ของ OS) และการสร้าง thread แบบไม่จำกัดจะใช้หน่วยความจำจนหมดและทำให้เกิด context-switch thrashing pool ช่วยเฉลี่ยต้นทุนการสร้างและจำกัดขอบเขต concurrency

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## ตัวอย่าง

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## การกำหนดขนาด

- งานแบบ **CPU-bound**: ขนาด pool ≈ จำนวน core มี thread มากกว่า core เพียงแต่เพิ่ม overhead ของ context-switch โดยไม่ได้ parallelism เพิ่ม
- งานแบบ **I/O-bound**: กำหนดใหญ่ขึ้น ราว ๆ `cores × (1 + wait_time / compute_time)` เพราะ thread ใช้เวลาส่วนใหญ่ถูกบล็อกและเหลื่อมกันได้
- **จำกัดขนาด queue** ด้วย: queue แบบไม่จำกัดจะซ่อนภาวะโหลดเกินและนำไปสู่ OOM; queue ที่มีขอบเขตพร้อมนโยบายปฏิเสธ (drop, block หรือ shed) จะสร้าง backpressure

## ทำไมจึงสำคัญ

Pool เป็นกระดูกสันหลังของเซิร์ฟเวอร์และ executor การกำหนดขนาดผิดเป็นบั๊กประสิทธิภาพคลาสสิก: thread น้อยเกินไปใช้ CPU ไม่คุ้ม; มากเกินไปทำให้เกิด thrashing และแรงกดดันด้านหน่วยความจำ การจับคู่ขนาด pool กับชนิดของ workload (CPU กับ I/O) และการจำกัดขนาด queue ช่วยให้ระบบเสถียรภายใต้โหลด

ทำไมจึงใช้มัน

ตัวอย่าง

การกำหนดขนาด

ทำไมจึงสำคัญ

คำถามที่เกี่ยวข้อง