Mitä context switch oikeasti maksaa, ja miksi sillä on merkitystä?

Question

IT Interview Practice · Accepted Answer

**Context switch** on kernelin toimenpide, jossa se tallentaa parhaillaan ajossa olevan threadin CPU-tilan (rekisterit, program counter, stack pointer) ja palauttaa toisen threadin tilan, jotta yksi ydin voi limittää monta threadia. Se tapahtuu jokaisen schedulerin preemption, blokkaavan syscallin tai interruptin yhteydessä — eikä se ole ilmaista.

## Missä kustannus piilee

```text
DIRECT cost (visible, ~1–5 µs):
  save/restore registers · run scheduler logic · switch kernel stacks
  if PROCESS switch: also swap page tables (CR3) → FLUSHES the TLB

INDIRECT cost (often much larger):
  cold CPU CACHES → the new thread's data isn't in L1/L2/L3 → cache misses to RAM
  cold TLB        → address translations must be re-walked
  lost pipeline / branch-predictor state
```

**Suora** kustannus on muutamia mikrosekunteja. **Epäsuora** kustannus — kylmä cache ja TLB vaihdon jälkeen — on usein suurempi isku: sisääntuleva thread ajaa hitaasti hetken lämmittäessään cachejaan uudelleen päämuistista (kymmeniä tai satoja syklejä per miss).

## Threadin vaihto vs. prosessin vaihto

Vaihto **saman prosessin threadien välillä** on halvempaa: ne jakavat osoiteavaruuden, joten page tablen (ja TLB:n, laitteistolla ilman tagged TLB:tä / PCID:tä) ei tarvitse muuttua. **Prosessien** vaihto lataa lisäksi page-table-base-rekisterin uudelleen ja perinteisesti flushaa TLB:n — siksi se maksaa enemmän.

## Miksi sillä on merkitystä käytännössä

- **Liikaa threadeja** → scheduler thrashaa, kuluttaen syklejä vaihtamiseen työn tekemisen sijaan; tietyn pisteen jälkeen useampi thread kuin ytimiä *vähentää* throughputia.
- Se on ydinargumentti **async / event-loop** -malleille (Node, nginx, `io_uring`) ja **goroutineille / green threadeille**: käsittele monta yhteyttä harvoilla OS-threadeilla, välttäen vaihdon per request.
- Se on syy, miksi **CPU pinning / affinity** auttaa latenssiherkkiä palveluita — pidä thread yhdellä ytimellä sen lämpimän cachen säilyttämiseksi.
- Korkea tahaton (involuntary) context switch -määrä (näkyy työkaluissa `vmstat`, `pidstat`) on klassinen oire lock contentionista tai CPU:n ylivarauksesta (oversubscription).

## Miksi se on tärkeää

Tämä on senior-tason kysymys, koska se erottaa ne, jotka tuntevat *termin*, niistä, jotka ymmärtävät *miksi* se on kallis — ja todellinen vastaus (cache/TLB-saastuminen, ei vain rekisterien tallennus) ohjaa arkkitehtuuripäätöksiä: async I/O thread-per-requestin sijaan, thread poolien mitoitus ydinmäärän mukaan ja affinityn käyttö. Se sitoo schedulingin, virtuaalimuistin ja CPU-cachet yhdeksi suorituskykytarinaksi.

Missä kustannus piilee

Threadin vaihto vs. prosessin vaihto

Miksi sillä on merkitystä käytännössä

Miksi se on tärkeää

Aiheeseen liittyvät kysymykset