System call là gì, và user mode với kernel mode là gì?

Question

IT Interview Practice · Accepted Answer

Một **system call (syscall)** là cơ chế mà một chương trình user-space dùng để yêu cầu một dịch vụ từ kernel — mở file, gửi dữ liệu mạng, cấp phát bộ nhớ, tạo process. Vì những thao tác này chạm vào phần cứng hoặc ảnh hưởng tới các process khác, chỉ **kernel** mới được phép thực hiện chúng, nên một syscall cố ý vượt qua ranh giới bảo vệ.

## User mode và kernel mode

CPU chạy ở một trong (ít nhất) hai mức đặc quyền:

```text
 user mode   → restricted: no direct hardware access, no privileged instructions
 kernel mode → full access: hardware, all memory, privileged CPU instructions
```

Một lời gọi hàm thông thường vẫn ở user mode. Một syscall thực hiện một **mode switch** (chuyển chế độ) có kiểm soát vào kernel mode, chạy đoạn code kernel được tin cậy, rồi trả về:

```text
  user code            kernel
  ─────────            ──────
  read(fd, buf, n)
      │  trap (syscall instruction)
      └──────────────▶ enter kernel mode
                       validate args, do the I/O
      ◀────────────── return value, back to user mode
  continue
```

## Cách nó hoạt động trong thực tế

Bạn hiếm khi tự viết cái trap này — thư viện C bọc nó lại. `fopen`/`fread` trong code của bạn rốt cuộc gọi tới syscall `open`/`read`:

```c
// glibc's read() places the syscall number + args in registers,
// then executes a trap instruction (e.g. `syscall` on x86-64).
ssize_t n = read(fd, buffer, 4096);   // → traps into the kernel
```

Cái trap (một software interrupt / lệnh chuyên dụng) chính là thứ thay đổi mức đặc quyền một cách an toàn — code user-space không thể cứ thế "nhảy vào" kernel; nó chỉ có thể vào ở những điểm entry syscall đã định nghĩa, nơi kiểm tra (validate) đối số của chúng.

## Tại sao điều này quan trọng

Ranh giới user/kernel là nền tảng của bảo mật và ổn định của OS: đó là lý do một process không thể viết bậy lên phần cứng hay lên bộ nhớ của process khác. Hiểu syscall cũng giải thích được hiệu năng — mỗi lần gọi tốn một lần mode switch (hàng trăm nanosecond), đó là lý do vì sao gom batch I/O hay dùng `mmap`/`io_uring` để giảm số syscall lại quan trọng, và vì sao `strace` (liệt kê các syscall của một chương trình) là một công cụ debug mạnh đến vậy.

User mode và kernel mode

Cách nó hoạt động trong thực tế

Tại sao điều này quan trọng

Câu hỏi liên quan