Γιατί εξαντλούνται οι συνδέσεις Nginx με χαμηλή χρήση CPU;

Question

IT Interview Practice · Accepted Answer

Μια σύνδεση μπορεί να δεσμεύει πόρους όσο περιμένει, ακόμη και με χαμηλή CPU. Βρείτε πρώτα ποιο όριο εξαντλήθηκε αντί να υποθέσετε ότι χρειάζεται περισσότερη υπολογιστική ισχύς.

## Μετρήστε και τις δύο πλευρές του proxy αιτήματος

```text
Client -- socket A --> Nginx -- socket B --> Backend
```

Ένα proxied HTTP/1.x αίτημα μπορεί να χρησιμοποιεί μία client σύνδεση και μία upstream. Αν κολλήσει το backend, και οι δύο μπορεί να παραμένουν δεσμευμένες. Το `worker_connections` περιλαμβάνει upstream συνδέσεις, άρα δεν ισούται απλώς με τον αριθμό χρηστών.

## Μετατρέψτε το σφάλμα σε έλεγχο

- `worker_connections are not enough`: εξετάστε το όριο ανά worker και τις τρέχουσες συνδέσεις.
- `Too many open files`: εξετάστε το πραγματικό όριο file descriptors του worker. Descriptor είναι χειριστήριο του λειτουργικού για sockets και αρχεία.
- Αυξανόμενοι upstream χρόνοι: ερευνήστε την εργασία backend που δεσμεύει τις συνδέσεις.

Ενδεικτικά, 1.000 ταυτόχρονα ενεργά proxy αιτήματα μπορεί να χρειάζονται περίπου 2.000 sockets στις δύο πλευρές. Δεν είναι τύπος χωρητικότητας: HTTP/2, keepalive reuse και αδρανείς συνδέσεις αλλάζουν τη σχέση.

## Αυξήστε χωρητικότητα αφού βρείτε την αιτία

Διορθώστε πρώτα κολλημένη εργασία backend ή περιορίστε τα αιτήματα αναμονής. Αν υγιής κίνηση ξεπερνά τα όρια, ευθυγραμμίστε workers, όρια διεργασιών και μνήμη και κάντε load test. Επιβεβαιώστε βελτίωση επιτυχημένου throughput και καθυστέρησης, όχι απλώς μεγαλύτερη ουρά.

[Επίσημη τεκμηρίωση](https://nginx.org/en/docs/ngx_core_module.html#worker_connections).

Μετρήστε και τις δύο πλευρές του proxy αιτήματος

Μετατρέψτε το σφάλμα σε έλεγχο

Αυξήστε χωρητικότητα αφού βρείτε την αιτία

Σχετικές ερωτήσεις