thread pool কী? কেন একটি ব্যবহার করবেন, এবং আপনি কীভাবে এটি size করবেন?

Question

IT Interview Practice · Accepted Answer

**একটি thread pool হলো পুনঃব্যবহারযোগ্য worker thread-এর একটি নির্দিষ্ট set যা একটি shared work queue থেকে task টেনে নেয়।** এটি প্রতি task-এ একটি thread তৈরির খরচ এড়ায় এবং concurrent thread-এর সংখ্যা সীমাবদ্ধ করে।

## কেন একটি ব্যবহার করবেন

thread তৈরি ও ধ্বংস করা ব্যয়বহুল (stack allocation, OS scheduling setup), এবং সীমাহীন thread তৈরি memory নিঃশেষ করে এবং context-switch thrashing ঘটায়। একটি pool তৈরির খরচ amortize করে এবং concurrency সীমাবদ্ধ করে।

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## উদাহরণ

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Sizing

- **CPU-bound** কাজ: pool size ≈ core-এর সংখ্যা। core-এর চেয়ে বেশি thread কেবল কোনো parallelism লাভ ছাড়াই context-switch overhead যোগ করে।
- **I/O-bound** কাজ: বড় size করুন, মোটামুটি `cores × (1 + wait_time / compute_time)`, কারণ thread বেশিরভাগ সময় block থাকে এবং overlap করতে পারে।
- **Queue-ও bound করুন**: একটি unbounded queue overload লুকায় এবং OOM-এর দিকে নিয়ে যায়; একটি rejection policy (drop, block, বা shed) সহ একটি bounded queue backpressure প্রয়োগ করে।

## এটি কেন গুরুত্বপূর্ণ

Pool হলো server ও executor-এর মেরুদণ্ড। ভুল sizing একটি ক্লাসিক performance bug: খুব কম thread CPU underutilize করে; খুব বেশি thrashing ও memory pressure ঘটায়। pool size-কে workload type-এর (CPU বনাম I/O) সাথে মেলানো এবং queue bound করা load-এর অধীনে system স্থিতিশীল রাখে।

কেন একটি ব্যবহার করবেন

উদাহরণ

Sizing

এটি কেন গুরুত্বপূর্ণ

সম্পর্কিত প্রশ্ন