Varför kan Nginx få slut på anslutningar vid låg CPU-användning?

Question

IT Interview Practice · Accepted Answer

En anslutning kan uppta resurser medan den väntar, även när CPU-användningen är låg. Identifiera först vilken gräns som nåtts i stället för att anta att maskinen behöver mer processorkraft.

## Räkna båda sidorna av en proxyförfrågan

```text
Client -- socket A --> Nginx -- socket B --> Backend
```

En HTTP/1.x-förfrågan genom proxy kan använda en klientanslutning och en upstream-anslutning. Om backend stannar kan båda förbli upptagna. `worker_connections` omfattar upstream-anslutningar, så värdet är inte bara antalet användare som stöds.

## Gör felet till en kontroll

- `worker_connections are not enough`: kontrollera konfigurerad anslutningsgräns per worker och aktuella anslutningar.
- `Too many open files`: kontrollera workerns faktiska gräns för fildeskriptorer. En deskriptor är ett operativsystemhandtag för sockets och filer.
- Ökande upstream-svarstider: undersök backendarbetet som håller anslutningarna upptagna.

Som illustration kan 1 000 samtidigt aktiva proxyförfrågningar behöva ungefär 2 000 sockets över proxyns båda sidor. Detta är ingen dimensioneringsformel: HTTP/2, keepalive-återanvändning och inaktiva anslutningar ändrar sambandet.

## Öka kapaciteten först när orsaken är hittad

Åtgärda först blockerat backendarbete eller begränsa väntande förfrågningar. Om frisk trafik överskrider gränserna, samordna workerinställningar, processgränser och minne och belastningstesta sedan. Bekräfta att lyckad genomströmning och latens förbättras, inte bara att en längre kö tillåts.

[Officiell dokumentation](https://nginx.org/en/docs/ngx_core_module.html#worker_connections).

Räkna båda sidorna av en proxyförfrågan

Gör felet till en kontroll

Öka kapaciteten först när orsaken är hittad

Relaterade frågor