Một context switch thực sự tốn những gì, và vì sao điều đó quan trọng?

Question

IT Interview Practice · Accepted Answer

Một **context switch** (chuyển ngữ cảnh) là việc kernel lưu lại trạng thái CPU của thread đang chạy (các thanh ghi, program counter, stack pointer) và khôi phục trạng thái của một thread khác, để một core đơn có thể phân chia (multiplex) nhiều thread. Nó xảy ra ở mỗi lần scheduler giành quyền, mỗi blocking syscall, hay mỗi interrupt — và nó không hề miễn phí.

## Chi phí ẩn ở đâu

```text
DIRECT cost (visible, ~1–5 µs):
  save/restore registers · run scheduler logic · switch kernel stacks
  if PROCESS switch: also swap page tables (CR3) → FLUSHES the TLB

INDIRECT cost (often much larger):
  cold CPU CACHES → the new thread's data isn't in L1/L2/L3 → cache misses to RAM
  cold TLB        → address translations must be re-walked
  lost pipeline / branch-predictor state
```

Chi phí **trực tiếp** là vài microsecond. Chi phí **gián tiếp** — cache và TLB nguội sau lần chuyển — thường là cú đánh lớn hơn: thread vừa vào chạy chậm một lúc khi nó hâm nóng lại cache từ bộ nhớ chính (hàng chục tới hàng trăm cycle mỗi lần miss).

## Chuyển thread vs chuyển process

Chuyển giữa **các thread của cùng một process** thì rẻ hơn: chúng dùng chung một không gian địa chỉ, nên page table (và TLB, trên phần cứng không có tagged TLB / PCID) không cần thay đổi. Chuyển **process** còn phải nạp lại thanh ghi gốc page-table và theo truyền thống là flush TLB — đó là lý do nó tốn hơn.

## Vì sao nó quan trọng trong thực tế

- **Quá nhiều thread** → scheduler bị thrash, tốn cycle để chuyển thay vì làm việc; qua một ngưỡng, nhiều thread hơn số core sẽ *giảm* throughput.
- Đây là luận điểm cốt lõi cho các mô hình **async / event-loop** (Node, nginx, `io_uring`) và **goroutine / green thread**: xử lý nhiều kết nối với ít OS thread, tránh một lần chuyển cho mỗi request.
- Đây là lý do **CPU pinning / affinity** giúp các service nhạy latency — giữ một thread trên một core để bảo toàn cache đang nóng của nó.
- Số context-switch không tự nguyện (involuntary) cao (thấy được trong `vmstat`, `pidstat`) là triệu chứng kinh điển của lock contention hoặc quá tải CPU (oversubscription).

## Tại sao điều này quan trọng

Đây là một câu hỏi cấp senior vì nó tách những người biết *thuật ngữ* khỏi những người hiểu *vì sao* nó đắt — và câu trả lời thật (ô nhiễm cache/TLB, không chỉ là lưu thanh ghi) chi phối các quyết định kiến trúc: async I/O thay cho thread-per-request, chọn đúng kích thước thread pool theo số core, và dùng affinity. Nó buộc scheduling, bộ nhớ ảo, và CPU cache thành một câu chuyện hiệu năng thống nhất.

Chi phí ẩn ở đâu

Chuyển thread vs chuyển process

Vì sao nó quan trọng trong thực tế

Tại sao điều này quan trọng

Câu hỏi liên quan