Apa iku thread pool? Kenapa nganggoné, lan kepiye carane nemtokaké ukurané?

Question

IT Interview Practice · Accepted Answer

**Thread pool iku set tetep saka thread pekerja sing bisa dienggo manèh sing narik tugas saka antrian gawéan sing dinuduhaké.** Iki ngindhari biaya nggawé siji thread saben tugas lan matèsi cacah thread bebarengan.

## Kenapa nganggoné

Nggawé lan ngrusak thread iku larang (alokasi stack, setup penjadwalan OS), lan nggawé thread tanpa wates ngentèkaké memori lan njalari thrashing context-switch. Pool ngamortisasi biaya nggawé lan matèsi konkurensi.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## Tuladha

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Nemtokaké ukuran

- Gawéan **keiket CPU**: ukuran pool ≈ cacah inti. Luwih akèh thread tinimbang inti mung nambah overhead context-switch tanpa untung parallelism.
- Gawéan **keiket I/O**: ukurné luwih gedhé, kira-kira `cores × (1 + wait_time / compute_time)`, merga thread umumé wektu keblokir lan bisa tumpang tindih.
- **Watesi antrian** uga: antrian tanpa wates ndhelikaké kaluwih beban lan njalari OOM; antrian sing kawates kanthi kabijakan tolak (buwang, blokir, utawa culaké) nrapaké backpressure.

## Kenapa iki penting

Pool iku balung punggung server lan executor. Ukuran salah iku bug kinerja klasik: kesethithikan thread ora ngoptimalake CPU; kakèhan njalari thrashing lan tekanan memori. Nyocogaké ukuran pool karo jinis beban kerja (CPU vs I/O) lan matèsi antrian njaga sistem stabil nalika beban.

Kenapa nganggoné

Tuladha

Nemtokaké ukuran

Kenapa iki penting

Pitakon sing gegandhengan