¿Qué es un thread pool? ¿Por qué usar uno y cómo lo dimensionas?

Question

IT Interview Practice · Accepted Answer

**Un thread pool es un conjunto fijo de hilos de trabajo reutilizables que sacan tareas de una cola de trabajo compartida.** Evita el coste de crear un hilo por tarea y limita el número de hilos concurrentes.

## Por qué usar uno

Crear y destruir hilos es costoso (asignación de pila, configuración de planificación del SO), y la creación ilimitada de hilos agota la memoria y provoca thrashing por cambios de contexto. Un pool amortiza el coste de creación y acota la concurrencia.

```text
tasks →  [ work queue ]  →  worker 1
                            worker 2   (N fixed workers pull & run)
                            worker 3
```

## Ejemplo

```python
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=8) as pool:
    futures = [pool.submit(handle, req) for req in requests]
    # 8 threads process the queue; extras wait their turn
```

## Dimensionamiento

- Trabajo **limitado por CPU**: tamaño del pool ≈ número de núcleos. Más hilos que núcleos solo añade sobrecarga de cambio de contexto sin ganancia de paralelismo.
- Trabajo **limitado por E/S**: dimensiona más grande, aproximadamente `cores × (1 + wait_time / compute_time)`, porque los hilos pasan la mayor parte del tiempo bloqueados y pueden solaparse.
- **Acota también la cola**: una cola sin límites oculta la sobrecarga y lleva a OOM; una cola acotada con una política de rechazo (descartar, bloquear o desechar) aplica backpressure.

## Por qué es importante

Los pools son la columna vertebral de servidores y ejecutores. Un dimensionamiento erróneo es un bug de rendimiento clásico: demasiado pocos hilos infrautilizan la CPU; demasiados provocan thrashing y presión de memoria. Ajustar el tamaño del pool al tipo de carga (CPU frente a E/S) y acotar la cola mantiene el sistema estable bajo carga.

Por qué usar uno

Ejemplo

Dimensionamiento

Por qué es importante

Preguntas relacionadas