Hva koster en context switch egentlig, og hvorfor betyr det noe?

Question

IT Interview Practice · Accepted Answer

En **context switch** er at kernelen lagrer CPU-tilstanden til tråden som kjører nå (registre, program counter, stack pointer) og gjenoppretter en annen tråds, slik at én core kan multiplekse mange tråder. Det skjer ved hver scheduler-preemption, blokkerende syscall eller interrupt — og det er ikke gratis.

## Hvor kostnaden skjuler seg

```text
DIRECT cost (visible, ~1–5 µs):
  save/restore registers · run scheduler logic · switch kernel stacks
  if PROCESS switch: also swap page tables (CR3) → FLUSHES the TLB

INDIRECT cost (often much larger):
  cold CPU CACHES → the new thread's data isn't in L1/L2/L3 → cache misses to RAM
  cold TLB        → address translations must be re-walked
  lost pipeline / branch-predictor state
```

Den **direkte** kostnaden er noen få mikrosekunder. Den **indirekte** kostnaden — en kald cache og TLB etter byttet — er ofte det større slaget: den innkommende tråden kjører tregt en stund mens den varmer opp cachene sine igjen fra hovedminnet (titalls til hundretalls cycles per miss).

## Tråd- vs prosessbytte

Å bytte mellom **tråder i samme prosess** er billigere: de deler et adresserom, så page table (og TLB-en, på maskinvare uten tagged TLB-er / PCID-er) trenger ikke å endres. Å bytte **prosesser** laster i tillegg inn page-table-baseregisteret på nytt og flusher tradisjonelt TLB-en — som er grunnen til at det koster mer.

## Hvorfor det betyr noe i praksis

- **For mange tråder** → scheduleren thrasher, og bruker cycles på å bytte i stedet for å jobbe; etter et visst punkt *reduserer* flere tråder enn cores throughputen.
- Det er kjerneargumentet for **async / event-loop**-modeller (Node, nginx, `io_uring`) og **goroutines / green threads**: håndter mange tilkoblinger med få OS-tråder, og unngå et bytte per request.
- Det er derfor **CPU pinning / affinity** hjelper latency-sensitive tjenester — hold en tråd på én core for å bevare dens varme cache.
- Et høyt antall ufrivillige context switches (synlig i `vmstat`, `pidstat`) er et klassisk symptom på lock contention eller CPU-overtegning.

## Hvorfor det er viktig

Dette er et spørsmål på senior-nivå fordi det skiller de som kjenner *begrepet* fra de som forstår *hvorfor* det er dyrt — og det virkelige svaret (cache-/TLB-forurensning, ikke bare lagring av registre) styrer arkitektoniske beslutninger: async I/O framfor tråd-per-request, riktig dimensjonering av thread pools etter antall cores, og bruk av affinity. Det knytter scheduling, virtuelt minne og CPU-cacher sammen til én ytelseshistorie.

Hvor kostnaden skjuler seg

Tråd- vs prosessbytte

Hvorfor det betyr noe i praksis

Hvorfor det er viktig

Relaterte spørsmål