Quanto costa davvero un context switch, e perché è importante?

Question

IT Interview Practice · Accepted Answer

Un **context switch** è il kernel che salva lo stato CPU del thread attualmente in esecuzione (registri, program counter, stack pointer) e ripristina quello di un altro thread, così che un singolo core possa multiplexare molti thread. Accade a ogni preemption dello scheduler, syscall bloccante o interrupt — e non è gratis.

## Dove si nasconde il costo

```text
DIRECT cost (visible, ~1–5 µs):
  save/restore registers · run scheduler logic · switch kernel stacks
  if PROCESS switch: also swap page tables (CR3) → FLUSHES the TLB

INDIRECT cost (often much larger):
  cold CPU CACHES → the new thread's data isn't in L1/L2/L3 → cache misses to RAM
  cold TLB        → address translations must be re-walked
  lost pipeline / branch-predictor state
```

Il costo **diretto** è di pochi microsecondi. Il costo **indiretto** — una cache e un TLB freddi dopo lo switch — è spesso il colpo più grande: il thread entrante gira lentamente per un po' mentre riscalda le sue cache dalla memoria principale (da decine a centinaia di cicli per miss).

## Switch di thread vs di processo

Passare tra **thread dello stesso processo** è più economico: condividono uno spazio di indirizzamento, quindi la page table (e il TLB, su hardware senza tagged TLB / PCID) non deve cambiare. Passare tra **processi** ricarica in più il registro base della page table e tradizionalmente svuota il TLB — ed è per questo che costa di più.

## Perché è importante nella pratica

- **Troppi thread** → lo scheduler va in thrash, spendendo cicli a fare switch invece di lavorare; oltre un certo punto, più thread che core *riduce* il throughput.
- È l'argomento centrale a favore dei modelli **async / event-loop** (Node, nginx, `io_uring`) e delle **goroutine / green thread**: gestire molte connessioni con pochi thread OS, evitando uno switch per richiesta.
- È il motivo per cui **CPU pinning / affinity** aiuta i servizi sensibili alla latenza — tieni un thread su un core per preservarne la cache calda.
- Un alto numero di context switch involontari (visibile in `vmstat`, `pidstat`) è un sintomo classico di lock contention o di sovrasottoscrizione della CPU.

## Perché è importante

Questa è una domanda di livello senior perché separa chi conosce il *termine* da chi capisce *perché* è costoso — e la vera risposta (inquinamento di cache/TLB, non solo il salvataggio dei registri) guida decisioni architetturali: I/O asincrono anziché thread-per-richiesta, dimensionare i thread pool sul numero di core, e usare l'affinity. Lega scheduling, memoria virtuale e cache della CPU in un'unica storia di performance.

Dove si nasconde il costo

Switch di thread vs di processo

Perché è importante nella pratica

Perché è importante

Domande correlate