Apakah sebenarnya kos context switch, dan mengapa ia penting?

Question

IT Interview Practice · Accepted Answer

Sebuah **context switch** ialah kernel menyimpan keadaan CPU thread yang sedang berjalan (register, program counter, stack pointer) dan memulihkan keadaan thread lain, supaya satu core boleh memultipleks banyak thread. Ia berlaku pada setiap perampasan scheduler, blocking syscall, atau interrupt — dan ia tidak percuma.

## Di mana kos tersembunyi

```text
DIRECT cost (visible, ~1–5 µs):
  save/restore registers · run scheduler logic · switch kernel stacks
  if PROCESS switch: also swap page tables (CR3) → FLUSHES the TLB

INDIRECT cost (often much larger):
  cold CPU CACHES → the new thread's data isn't in L1/L2/L3 → cache misses to RAM
  cold TLB        → address translations must be re-walked
  lost pipeline / branch-predictor state
```

Kos **langsung** ialah beberapa mikrosaat. Kos **tidak langsung** — cache dan TLB sejuk selepas pertukaran — kerap kali merupakan pukulan yang lebih besar: thread yang baru masuk berjalan perlahan seketika sementara ia memanaskan semula cache-nya dari memori utama (berpuluh hingga beratus kitaran setiap miss).

## Pertukaran thread lawan process

Bertukar antara **thread process yang sama** lebih murah: mereka berkongsi ruang alamat, jadi page table (dan TLB, pada perkakasan tanpa tagged TLB / PCID) tidak perlu berubah. Bertukar **process** tambahan memuatkan semula register asas page-table dan secara tradisi flush TLB — sebab itulah ia lebih mahal.

## Mengapa ia penting dalam praktik

- **Terlalu banyak thread** → scheduler menjadi thrash, membelanjakan kitaran untuk bertukar dan bukannya bekerja; melepasi satu titik, lebih banyak thread daripada core *mengurangkan* throughput.
- Ia hujah teras untuk model **async / event-loop** (Node, nginx, `io_uring`) dan **goroutine / green thread**: mengendalikan banyak sambungan dengan sedikit OS thread, mengelakkan satu pertukaran bagi setiap request.
- Ia sebabnya **CPU pinning / affinity** membantu service sensitif latency — kekalkan thread pada satu core untuk memelihara cache-nya yang panas.
- Kiraan context-switch tak sukarela (involuntary) yang tinggi (kelihatan dalam `vmstat`, `pidstat`) ialah simptom klasik lock contention atau langganan berlebihan CPU (oversubscription).

## Mengapa ia penting

Ini soalan peringkat senior kerana ia memisahkan orang yang tahu *istilah* daripada mereka yang memahami *mengapa* ia mahal — dan jawapan sebenar (pencemaran cache/TLB, bukan sekadar penyimpanan register) memandu keputusan seni bina: async I/O berbanding thread-per-request, menetapkan saiz thread pool mengikut bilangan core, dan menggunakan affinity. Ia mengikat scheduling, memori maya, dan cache CPU menjadi satu cerita prestasi yang bersatu.

Di mana kos tersembunyi

Pertukaran thread lawan process

Mengapa ia penting dalam praktik

Mengapa ia penting

Soalan berkaitan