Qu'est-ce qu'un system call, et que sont le user mode et le kernel mode ?

Question

IT Interview Practice · Accepted Answer

Un **system call (syscall)** est le mécanisme qu'un programme user-space utilise pour demander un service au kernel — ouvrir un fichier, envoyer des données réseau, allouer de la mémoire, créer un processus. Comme ces actions touchent au matériel ou affectent d'autres processus, seul le **kernel** peut les effectuer, donc un syscall franchit délibérément la frontière de protection.

## User mode vs kernel mode

Le CPU s'exécute dans l'un d'(au moins) deux niveaux de privilège :

```text
 user mode   → restricted: no direct hardware access, no privileged instructions
 kernel mode → full access: hardware, all memory, privileged CPU instructions
```

Un appel de fonction normal reste en user mode. Un syscall effectue un **mode switch** (changement de mode) contrôlé vers le kernel mode, exécute du code kernel de confiance, puis retourne :

```text
  user code            kernel
  ─────────            ──────
  read(fd, buf, n)
      │  trap (syscall instruction)
      └──────────────▶ enter kernel mode
                       validate args, do the I/O
      ◀────────────── return value, back to user mode
  continue
```

## Comment ça marche en pratique

Vous écrivez rarement le trap vous-même — la bibliothèque C l'enveloppe. `fopen`/`fread` dans votre code finissent par appeler les syscalls `open`/`read` :

```c
// read() de glibc place le numéro de syscall + les args dans des registres,
// puis exécute une instruction trap (p. ex. `syscall` sur x86-64).
ssize_t n = read(fd, buffer, 4096);   // → bascule dans le kernel via un trap
```

Le trap (une software interrupt / instruction dédiée) est ce qui change le niveau de privilège en toute sécurité — le code user-space ne peut pas simplement « sauter dans » le kernel ; il ne peut entrer qu'aux points d'entrée syscall définis, qui valident leurs arguments.

## Pourquoi c'est important

La séparation user/kernel est le fondement de la sécurité et de la stabilité de l'OS : c'est pourquoi un processus ne peut pas écrire n'importe quoi sur le matériel ou dans la mémoire d'un autre processus. Comprendre les syscalls explique aussi la performance — chacun coûte un mode switch (des centaines de nanosecondes), c'est pourquoi regrouper (batcher) les I/O ou utiliser `mmap`/`io_uring` pour réduire le nombre de syscalls compte, et pourquoi `strace` (qui liste les syscalls d'un programme) est un outil de débogage si puissant.

User mode vs kernel mode

Comment ça marche en pratique

Pourquoi c'est important

Questions connexes