Apa itu system call, dan apa itu user mode dan kernel mode?

Question

IT Interview Practice · Accepted Answer

Sebuah **system call (syscall)** adalah mekanisme yang digunakan program user-space untuk meminta layanan dari kernel — membuka file, mengirim data jaringan, mengalokasikan memory, membuat process. Karena aksi-aksi ini menyentuh hardware atau memengaruhi process lain, hanya **kernel** yang boleh melakukannya, sehingga sebuah syscall secara sengaja melintasi batas proteksi.

## User mode vs kernel mode

CPU berjalan pada salah satu dari (setidaknya) dua level privilege:

```text
 user mode   → restricted: no direct hardware access, no privileged instructions
 kernel mode → full access: hardware, all memory, privileged CPU instructions
```

Sebuah pemanggilan fungsi biasa tetap berada di user mode. Sebuah syscall melakukan **mode switch** terkendali ke kernel mode, menjalankan kode kernel yang tepercaya, lalu kembali:

```text
  user code            kernel
  ─────────            ──────
  read(fd, buf, n)
      │  trap (syscall instruction)
      └──────────────▶ enter kernel mode
                       validate args, do the I/O
      ◀────────────── return value, back to user mode
  continue
```

## Bagaimana ini bekerja dalam praktik

Anda jarang menulis trap-nya sendiri — pustaka C membungkusnya. `fopen`/`fread` dalam kode Anda pada akhirnya memanggil syscall `open`/`read`:

```c
// read() milik glibc menaruh nomor syscall + args di register,
// lalu mengeksekusi instruksi trap (mis. `syscall` di x86-64).
ssize_t n = read(fd, buffer, 4096);   // → melakukan trap ke dalam kernel
```

Trap tersebut (sebuah software interrupt / instruksi khusus) adalah yang mengubah level privilege secara aman — kode user-space tidak bisa begitu saja "melompat masuk" ke kernel; ia hanya bisa masuk pada titik entry syscall yang terdefinisi, yang memvalidasi argumennya.

## Mengapa ini penting

Pemisahan user/kernel adalah fondasi keamanan dan stabilitas OS: itulah mengapa satu process tidak bisa mencoret-coret hardware atau memory process lain. Memahami syscall juga menjelaskan performa — setiap panggilan menghabiskan satu mode switch (ratusan nanosecond), itulah mengapa membatch I/O atau menggunakan `mmap`/`io_uring` untuk mengurangi jumlah syscall itu penting, dan mengapa `strace` (yang mendaftar syscall sebuah program) adalah alat debug yang begitu ampuh.

User mode vs kernel mode

Bagaimana ini bekerja dalam praktik

Mengapa ini penting

Pertanyaan terkait