Τι είναι ένα thread pool; Γιατί να χρησιμοποιήσεις ένα, και πώς καθορίζεις το μέγεθός του;

Question

IT Interview Practice · Accepted Answer

**Ένα thread pool είναι ένα σταθερό σύνολο επαναχρησιμοποιήσιμων worker threads που τραβούν tasks από μια κοινόχρηστη work queue.** Αποφεύγει το κόστος δημιουργίας ενός thread ανά task και βάζει ανώτατο όριο στον αριθμό των ταυτόχρονων threads.

## Γιατί να χρησιμοποιήσεις ένα

Η δημιουργία και καταστροφή threads είναι ακριβή (stack allocation, ρύθμιση scheduling του OS), και η απεριόριστη δημιουργία threads εξαντλεί τη μνήμη και προκαλεί context-switch thrashing. Ένα pool κατανέμει το κόστος δημιουργίας και περιορίζει το concurrency.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## Παράδειγμα

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Καθορισμός μεγέθους

- **CPU-bound** δουλειά: μέγεθος pool ≈ αριθμός cores. Περισσότερα threads από cores απλώς προσθέτουν overhead context-switch χωρίς κέρδος σε parallelism.
- **I/O-bound** δουλειά: μεγαλύτερο μέγεθος, περίπου `cores × (1 + wait_time / compute_time)`, επειδή τα threads περνούν τον περισσότερο χρόνο μπλοκαρισμένα και μπορούν να επικαλύπτονται.
- **Βάλε όριο και στην queue**: μια απεριόριστη queue κρύβει την υπερφόρτωση και οδηγεί σε OOM· μια bounded queue με πολιτική απόρριψης (drop, block ή shed) εφαρμόζει backpressure.

## Γιατί έχει σημασία

Τα pools είναι η ραχοκοκαλιά των servers και των executors. Το λάθος μέγεθος είναι ένα κλασικό performance bug: πολύ λίγα threads υποχρησιμοποιούν τη CPU· πάρα πολλά προκαλούν thrashing και πίεση μνήμης. Το να ταιριάζεις το μέγεθος του pool με τον τύπο του workload (CPU έναντι I/O) και να βάζεις όριο στην queue κρατά το σύστημα σταθερό υπό φορτίο.

Γιατί να χρησιμοποιήσεις ένα

Παράδειγμα

Καθορισμός μεγέθους

Γιατί έχει σημασία

Σχετικές ερωτήσεις