Çfarë është një thread pool? Pse ta përdorësh, dhe si e përmason?

Question

IT Interview Practice · Accepted Answer

**Një thread pool është një set fiks thread-esh worker të riperdorshëm që tërheqin detyra nga një work queue e ndarë.** Shmang koston e krijimit të një thread për detyrë dhe kufizon numrin e thread-eve konkurrentë.

## Pse ta përdorësh

Krijimi dhe shkatërrimi i thread-eve është i shtrenjtë (alokim stack-u, setup i scheduling-ut të OS), dhe krijimi i pakufizuar i thread-eve shteron memorien dhe shkakton thrashing të context-switch. Një pool e amortizon koston e krijimit dhe e kufizon konkurrencën.

```text
detyra →  [ work queue ]  →  worker 1
                             worker 2   (N worker fiks tërheqin & ekzekutojnë)
                             worker 3
```

## Shembull

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 thread-e përpunojnë queue-n; ekstrat presin radhën
```

## Përmasimi

- **Punë CPU-bound**: madhësia e pool ≈ numri i bërthamave. Më shumë thread-e se bërthama vetëm shton overhead context-switch pa fitim parallelism.
- **Punë I/O-bound**: përmaso më të madhe, afërsisht `bërthama × (1 + wait_time / compute_time)`, sepse thread-et kalojnë shumicën e kohës të bllokuar dhe mund të mbivendosen.
- **Kufizo edhe queue-n**: një queue e pakufizuar fsheh mbingarkesën dhe çon në OOM; një queue e kufizuar me një rejection policy (drop, block ose shed) aplikon backpressure.

## Pse ka rëndësi

Pool-et janë shtylla kurrizore e serverave dhe executor-ëve. Përmasimi i gabuar është një bug performance klasik: shumë pak thread-e keqpërdor CPU; shumë shkakton thrashing dhe presion memorie. Përputhja e madhësisë së pool me tipin e ngarkesës (CPU kundrejt I/O) dhe kufizimi i queue-s e mbajnë sistemin të qëndrueshëm nën ngarkesë.

Pse ta përdorësh

Shembull

Përmasimi

Pse ka rëndësi

Pyetje të ngjashme