Što context switch zapravo košta i zašto je to važno?

Question

IT Interview Practice · Accepted Answer

**Context switch** je kernelovo spremanje CPU stanja trenutno pokrenutog threada (registri, program counter, stack pointer) i vraćanje stanja drugog threada, kako bi jedna jezgra mogla multipleksirati mnogo threadova. Događa se pri svakom scheduler preemptu, blokirajućem syscallu ili prekidu — i nije besplatan.

## Gdje se trošak krije

```text
DIRECT cost (visible, ~1–5 µs):
  save/restore registers · run scheduler logic · switch kernel stacks
  if PROCESS switch: also swap page tables (CR3) → FLUSHES the TLB

INDIRECT cost (often much larger):
  cold CPU CACHES → the new thread's data isn't in L1/L2/L3 → cache misses to RAM
  cold TLB        → address translations must be re-walked
  lost pipeline / branch-predictor state
```

**Izravni** trošak je nekoliko mikrosekundi. **Neizravni** trošak — hladan cache i TLB nakon prebacivanja — često je veći udarac: pridošli thread neko vrijeme radi sporo dok ponovno zagrijava svoje cacheove iz glavne memorije (deseci do stotine ciklusa po promašaju).

## Prebacivanje threada vs procesa

Prebacivanje između **threadova istog procesa** jeftinije je: dijele adresni prostor, pa se page table (i TLB, na hardveru bez tagiranih TLB-ova / PCID-ova) ne mora mijenjati. Prebacivanje **procesa** dodatno ponovno učitava bazni registar page tablice i tradicionalno flusha TLB — zbog čega košta više.

## Zašto je to važno u praksi

- **Previše threadova** → scheduler thrasha, trošeći cikluse na prebacivanje umjesto na rad; iznad određene točke, više threadova nego jezgri *smanjuje* throughput.
- To je glavni argument za **async / event-loop** modele (Node, nginx, `io_uring`) i **goroutine / green threadove**: obraditi mnogo veza s malo OS threadova, izbjegavajući prebacivanje po zahtjevu.
- Zbog toga **CPU pinning / affinity** pomaže servisima osjetljivima na latenciju — zadržite thread na jednoj jezgri kako biste sačuvali njegov topli cache.
- Visok broj nevoljnih (involuntary) context switcheva (vidljiv u `vmstat`, `pidstat`) klasičan je simptom lock contentiona ili preopterećenja CPU-a.

## Zašto je to važno

Ovo je pitanje senior razine jer razdvaja ljude koji znaju *pojam* od onih koji razumiju *zašto* je skup — a pravi odgovor (onečišćenje cachea/TLB-a, ne samo spremanje registara) pokreće arhitektonske odluke: async I/O umjesto thread-per-request, ispravno dimenzioniranje thread poolova prema broju jezgri i korištenje affinityja. Povezuje scheduling, virtualnu memoriju i CPU cacheove u jednu priču o performansama.

Gdje se trošak krije

Prebacivanje threada vs procesa

Zašto je to važno u praksi

Zašto je to važno

Povezana pitanja