Context switch hugharimu nini hasa, na kwa nini ni muhimu?

Question

IT Interview Practice · Accepted Answer

**Context switch** ni kernel kuhifadhi hali ya CPU ya thread inayokimbia sasa (registers, program counter, stack pointer) na kurejesha ya thread nyingine, ili core moja iweze ku-multiplex thread nyingi. Hutokea katika kila preemption ya scheduler, blocking syscall, au interrupt — na si ya bure.

## Gharama inajificha wapi

```text
DIRECT cost (visible, ~1–5 µs):
  save/restore registers · run scheduler logic · switch kernel stacks
  if PROCESS switch: also swap page tables (CR3) → FLUSHES the TLB

INDIRECT cost (often much larger):
  cold CPU CACHES → the new thread's data isn't in L1/L2/L3 → cache misses to RAM
  cold TLB        → address translations must be re-walked
  lost pipeline / branch-predictor state
```

Gharama ya **moja kwa moja (direct)** ni microseconds chache. Gharama ya **isiyo ya moja kwa moja (indirect)** — cache na TLB baridi baada ya switch — mara nyingi ndiyo pigo kubwa zaidi: thread inayoingia hukimbia polepole kwa muda inaporudisha joto kwenye caches zake kutoka kumbukumbu kuu (makumi hadi mamia ya cycles kwa kila miss).

## Switch ya thread dhidi ya process

Kubadilisha kati ya **thread za process ile ile** ni nafuu: hushiriki address space, hivyo page table (na TLB, kwenye hardware isiyo na tagged TLBs / PCIDs) haihitaji kubadilika. Kubadilisha **process** zaidi ya hapo hupakia upya page-table base register na kwa kawaida hu-flush TLB — ndiyo sababu hugharimu zaidi.

## Kwa nini ni muhimu kivitendo

- **Thread nyingi mno** → scheduler hu-thrash, ikitumia cycles kubadilisha badala ya kufanya kazi; baada ya kiwango fulani, thread nyingi kuliko cores *hupunguza* throughput.
- Ni hoja kuu ya mifumo ya **async / event-loop** (Node, nginx, `io_uring`) na **goroutines / green threads**: shughulikia connections nyingi kwa OS threads chache, ukiepuka switch kwa kila request.
- Ndiyo sababu **CPU pinning / affinity** husaidia services nyeti kwa latency — weka thread kwenye core moja kuhifadhi cache yake yenye joto.
- Idadi kubwa ya context-switch zisizo za hiari (zinazoonekana katika `vmstat`, `pidstat`) ni dalili ya kawaida ya lock contention au CPU oversubscription.

## Kwa nini ni muhimu

Hili ni swali la kiwango cha senior kwa sababu hutenganisha watu wanaojua *neno* na wale wanaoelewa *kwa nini* ni ghali — na jibu halisi (uchafuzi wa cache/TLB, si kuhifadhi registers tu) huendesha maamuzi ya usanifu: async I/O badala ya thread-per-request, kupanga ukubwa sahihi wa thread pools kulingana na idadi ya cores, na kutumia affinity. Hufunga scheduling, kumbukumbu pepe, na caches za CPU kuwa hadithi moja ya utendaji.

Gharama inajificha wapi

Switch ya thread dhidi ya process

Kwa nini ni muhimu kivitendo

Kwa nini ni muhimu

Maswali yanayohusiana