thread pool શું છે? તેને શા માટે વાપરવો, અને તમે તેને કેવી રીતે size કરો છો?

Question

IT Interview Practice · Accepted Answer

**thread pool એ ફરીવપરાતા worker threads નો એક નિશ્ચિત set છે જે shared work queue માંથી tasks ખેંચે છે.** તે દરેક task દીઠ thread બનાવવાના ખર્ચને ટાળે છે અને સમાંતર threads ની સંખ્યાને cap કરે છે.

## શા માટે વાપરવો

Threads બનાવવા અને નષ્ટ કરવા મોંઘું છે (stack allocation, OS scheduling setup), અને unbounded thread creation memory ને ખતમ કરે છે અને context-switch thrashing કરાવે છે. pool creation ખર્ચને amortize કરે છે અને concurrency ને bound કરે છે.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## ઉદાહરણ

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Sizing

- **CPU-bound** કામ: pool size ≈ cores ની સંખ્યા. cores કરતાં વધુ threads ફક્ત parallelism ના ફાયદા વગર context-switch overhead ઉમેરે છે.
- **I/O-bound** કામ: મોટું size, આશરે `cores × (1 + wait_time / compute_time)`, કારણ કે threads મોટા ભાગનો સમય blocked રહે છે અને overlap કરી શકે છે.
- **queue ને પણ bound કરો**: unbounded queue overload ને છુપાવે છે અને OOM તરફ દોરે છે; rejection policy (drop, block, કે shed) સાથે bounded queue backpressure લાગુ કરે છે.

## આ શા માટે મહત્વનું છે

Pools servers અને executors ની કરોડરજ્જુ છે. ખોટું sizing એ ઉત્તમ performance bug છે: ખૂબ ઓછા threads CPU ને ઓછો વાપરે છે; ખૂબ વધુ thrashing અને memory pressure કરાવે છે. pool size ને workload type (CPU vs I/O) સાથે મેળવવું અને queue ને bound કરવું system ને load હેઠળ સ્થિર રાખે છે.

શા માટે વાપરવો

ઉદાહરણ

Sizing

આ શા માટે મહત્વનું છે

સંબંધિત પ્રશ્નો