Thread pool म्हणजे काय? तो का वापरावा, आणि तुम्ही त्याचा आकार कसा ठरवता?

Question

IT Interview Practice · Accepted Answer

**Thread pool हा पुन्हा-वापरता येणाऱ्या worker threads चा एक निश्चित संच आहे जे एका shared work queue मधून tasks ओढतात.** तो प्रत्येक task साठी thread तयार करण्याचा खर्च टाळतो आणि concurrent threads ची संख्या मर्यादित करतो.

## तो का वापरावा

Threads तयार करणे आणि नष्ट करणे महाग असते (stack allocation, OS scheduling setup), आणि अमर्याद thread निर्मिती memory संपवते आणि context-switch thrashing घडवते. Pool निर्मिती खर्च विभागतो आणि concurrency मर्यादित करतो.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## उदाहरण

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## आकार ठरवणे

- **CPU-bound** काम: pool आकार ≈ cores ची संख्या. cores पेक्षा अधिक threads फक्त context-switch overhead जोडतात, parallelism चा फायदा न होता.
- **I/O-bound** काम: मोठा आकार, अंदाजे `cores × (1 + wait_time / compute_time)`, कारण threads बहुतेक वेळ blocked राहतात आणि overlap करू शकतात.
- **queue देखील मर्यादित करा**: अमर्याद queue overload लपवते आणि OOM कडे नेते; rejection policy (drop, block, किंवा shed) असलेली bounded queue backpressure लागू करते.

## हे का महत्त्वाचे आहे

Pools ही servers आणि executors ची पाठीचा कणा आहेत. चुकीचा आकार हा एक classic performance bug आहे: खूप कमी threads CPU कमी वापरतात; खूप जास्त thrashing आणि memory pressure घडवतात. Pool आकार workload प्रकाराशी (CPU विरुद्ध I/O) जुळवणे आणि queue मर्यादित करणे system ला load खाली स्थिर ठेवते.

तो का वापरावा

उदाहरण

आकार ठरवणे

हे का महत्त्वाचे आहे

संबंधित प्रश्न