Thread pool के हो? किन प्रयोग गर्ने, र तपाईं यसको आकार कसरी निर्धारण गर्नुहुन्छ?

Question

IT Interview Practice · Accepted Answer

**Thread pool साझा work queue बाट tasks तान्ने पुनः प्रयोग योग्य worker threads को एउटा निश्चित सेट हो।** यसले प्रति task एउटा thread सिर्जना गर्ने खर्च टार्छ र समवर्ती threads को संख्या सीमित गर्छ।

## किन प्रयोग गर्ने

Threads सिर्जना र नाश गर्नु महँगो हुन्छ (stack allocation, OS scheduling setup), र असीमित thread सिर्जनाले memory सिध्याउँछ र context-switch thrashing गराउँछ। Pool ले सिर्जना खर्च amortize गर्छ र concurrency सीमित गर्छ।

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## उदाहरण

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## आकार निर्धारण

- **CPU-bound** काम: pool आकार ≈ cores को संख्या। Cores भन्दा बढी threads ले केवल context-switch overhead थप्छन्, कुनै parallelism लाभ बिना।
- **I/O-bound** काम: ठूलो आकार, लगभग `cores × (1 + wait_time / compute_time)`, किनभने threads अधिकांश समय block हुन्छन् र overlap हुन सक्छन्।
- **Queue पनि सीमित गर्नुहोस्**: असीमित queue ले overload लुकाउँछ र OOM तिर लैजान्छ; rejection policy (drop, block, वा shed) सहितको सीमित queue ले backpressure लागू गर्छ।

## यो किन महत्त्वपूर्ण छ

Pools servers र executors को मेरुदण्ड हुन्। गलत आकार निर्धारण क्लासिक performance bug हो: धेरै थोरै threads ले CPU कम प्रयोग गर्छन्; धेरै धेरैले thrashing र memory pressure गराउँछन्। Pool आकारलाई workload प्रकार (CPU बनाम I/O) सँग मिलाउनु र queue सीमित गर्नुले system लाई load मा स्थिर राख्छ।

किन प्रयोग गर्ने

उदाहरण

आकार निर्धारण

यो किन महत्त्वपूर्ण छ

सम्बन्धित प्रश्नहरू