Apakah itu thread pool? Mengapa menggunakannya, dan bagaimana anda menentukan saiznya?

Question

IT Interview Practice · Accepted Answer

**Thread pool ialah set tetap thread pekerja (worker thread) yang boleh diguna semula yang menarik tugasan daripada baris gilir kerja (work queue) yang dikongsi.** Ia mengelakkan kos mencipta satu thread bagi setiap tugasan dan mengehadkan bilangan thread serentak.

## Mengapa menggunakannya

Mencipta dan memusnahkan thread adalah mahal (peruntukan stack, persediaan penjadualan OS), dan penciptaan thread tanpa had menghabiskan memori dan menyebabkan pengasakan penukaran-konteks (context-switch thrashing). Pool mengamortisasi kos penciptaan dan mengehadkan keserentakan.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## Contoh

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Penentuan saiz

- Kerja **terikat-CPU (CPU-bound)**: saiz pool ≈ bilangan teras. Lebih banyak thread daripada teras hanya menambah overhed penukaran-konteks tanpa keuntungan parallelism.
- Kerja **terikat-I/O (I/O-bound)**: saiz lebih besar, lebih kurang `cores × (1 + wait_time / compute_time)`, kerana thread menghabiskan kebanyakan masa tersekat dan boleh bertindih.
- **Hadkan baris gilir** juga: baris gilir tanpa had menyembunyikan beban berlebihan dan membawa kepada OOM; baris gilir berhad dengan dasar penolakan (buang, sekat, atau lepaskan) menerapkan backpressure.

## Mengapa ia penting

Pool ialah tulang belakang pelayan dan executor. Penentuan saiz yang salah ialah pepijat prestasi klasik: terlalu sedikit thread kurang menggunakan CPU; terlalu banyak menyebabkan pengasakan dan tekanan memori. Memadankan saiz pool dengan jenis beban kerja (CPU berbanding I/O) dan menghadkan baris gilir mengekalkan sistem stabil di bawah beban.

Mengapa menggunakannya

Contoh

Penentuan saiz

Mengapa ia penting

Soalan berkaitan