Pourquoi Nginx épuise-t-il ses connexions avec peu de CPU utilisé ?

Question

IT Interview Practice · Accepted Answer

Une connexion peut occuper des ressources en attendant, même avec une faible utilisation CPU. Identifiez d'abord la limite atteinte plutôt que de supposer que la machine manque de puissance de calcul.

## Compter les deux côtés d'une requête proxifiée

```text
Client -- socket A --> Nginx -- socket B --> Backend
```

Une requête HTTP/1.x proxifiée peut utiliser une connexion cliente et une autre connexion upstream. Si le backend se bloque, les deux peuvent rester occupées. `worker_connections` inclut les connexions upstream : sa valeur n'est donc pas simplement le nombre d'utilisateurs pris en charge.

## Transformer l'erreur en vérification

- `worker_connections are not enough` : examinez la limite de connexions configurée par worker et les connexions actuelles.
- `Too many open files` : examinez la limite effective de descripteurs de fichiers du worker. Un descripteur est une référence du système d'exploitation utilisée pour les sockets et les fichiers.
- Temps de réponse upstream en hausse : recherchez le travail backend qui maintient ces connexions occupées.

À titre d'illustration, 1 000 requêtes proxifiées actives simultanément pourraient nécessiter environ 2 000 sockets entre les deux côtés du proxy. Ce n'est pas une formule de dimensionnement : HTTP/2, la réutilisation keepalive et les connexions inactives modifient cette relation.

## Augmenter la capacité après avoir trouvé la cause

Corrigez d'abord le travail backend bloqué ou bornez les requêtes en attente. Si un trafic sain dépasse les limites, alignez les paramètres des workers, les limites des processus et la mémoire, puis faites un test de charge. Confirmez que le débit réussi et la latence s'améliorent, au lieu de simplement permettre une file plus longue.

[Documentation officielle](https://nginx.org/en/docs/ngx_core_module.html#worker_connections).

Compter les deux côtés d'une requête proxifiée

Transformer l'erreur en vérification

Augmenter la capacité après avoir trouvé la cause

Questions connexes