একটি context switch আসলে কী খরচ করে, এবং কেন এটি গুরুত্বপূর্ণ?

Question

IT Interview Practice · Accepted Answer

একটি **context switch** হলো kernel-এর বর্তমানে চলমান thread-এর CPU state (register, program counter, stack pointer) সংরক্ষণ করা এবং আরেকটি thread-এর state পুনরুদ্ধার করা, যাতে একটি core অনেক thread multiplex করতে পারে। এটি প্রতিটি scheduler preemption, blocking syscall, বা interrupt-এ ঘটে — এবং এটি বিনামূল্যে নয়।

## খরচ কোথায় লুকিয়ে থাকে

```text
DIRECT cost (visible, ~1–5 µs):
  save/restore registers · run scheduler logic · switch kernel stacks
  if PROCESS switch: also swap page tables (CR3) → FLUSHES the TLB

INDIRECT cost (often much larger):
  cold CPU CACHES → the new thread's data isn't in L1/L2/L3 → cache misses to RAM
  cold TLB        → address translations must be re-walked
  lost pipeline / branch-predictor state
```

**সরাসরি** খরচ কয়েক microsecond। **পরোক্ষ** খরচ — switch-এর পরে একটি ঠান্ডা cache আর TLB — প্রায়ই বড় আঘাত: আগত thread কিছুক্ষণ ধীরে চলে যতক্ষণ না এটি main memory থেকে তার cache আবার গরম করে (প্রতি miss-এ কয়েক দশ থেকে শত cycle)।

## Thread বনাম process switch

**একই process-এর thread-গুলোর মধ্যে** switching সস্তা: তারা একটি address space ভাগ করে, তাই page table (এবং TLB, tagged TLB / PCID ছাড়া hardware-এ) পাল্টানোর দরকার নেই। **Process** switch করলে অতিরিক্ত page-table base register পুনরায় লোড হয় এবং ঐতিহ্যগতভাবে TLB flush হয় — সেজন্যই এটি বেশি খরচ করে।

## বাস্তবে কেন এটি গুরুত্বপূর্ণ

- **অতিরিক্ত thread** → scheduler thrash করে, কাজ করার বদলে switching-এ cycle খরচ করে; একটি সীমার পর, core-এর চেয়ে বেশি thread throughput *কমায়*।
- এটি **async / event-loop** মডেল (Node, nginx, `io_uring`) আর **goroutine / green thread**-এর মূল যুক্তি: কম OS thread দিয়ে অনেক connection সামলানো, প্রতি request-এ একটি switch এড়ানো।
- সেজন্যই **CPU pinning / affinity** latency-সংবেদনশীল service-কে সাহায্য করে — একটি thread একটি core-এ রেখে তার গরম cache সংরক্ষণ করে।
- উচ্চ involuntary context-switch সংখ্যা (`vmstat`, `pidstat`-এ দৃশ্যমান) হলো lock contention বা CPU oversubscription-এর একটি ক্লাসিক লক্ষণ।

## এটি কেন গুরুত্বপূর্ণ

এটি একটি senior-স্তরের প্রশ্ন কারণ এটি যারা *শব্দটি* জানে তাদের থেকে যারা *কেন* এটি ব্যয়বহুল তা বোঝে তাদের আলাদা করে — এবং আসল উত্তর (cache/TLB দূষণ, শুধু register save নয়) architectural সিদ্ধান্ত চালায়: thread-per-request-এর বদলে async I/O, core সংখ্যার সাথে thread pool ঠিকঠাক আকার করা, আর affinity ব্যবহার। এটি scheduling, virtual memory, আর CPU cache-কে একটি একক performance গল্পে বাঁধে।

খরচ কোথায় লুকিয়ে থাকে

Thread বনাম process switch

বাস্তবে কেন এটি গুরুত্বপূর্ণ

এটি কেন গুরুত্বপূর্ণ

সম্পর্কিত প্রশ্ন