Waarom kan Nginx verbindingen uitputten bij laag CPU-gebruik?

Question

IT Interview Practice · Accepted Answer

Een verbinding kan tijdens het wachten middelen bezet houden, ook bij laag CPU-gebruik. Zoek eerst uit welke limiet is bereikt in plaats van aan te nemen dat meer rekenkracht nodig is.

## Tel beide kanten van een proxyverzoek

```text
Client -- socket A --> Nginx -- socket B --> Backend
```

Een geproxied HTTP/1.x-verzoek kan een clientverbinding en een upstreamverbinding gebruiken. Loopt de backend vast, dan kunnen beide bezet blijven. `worker_connections` telt upstreamverbindingen mee; de waarde is dus niet simpelweg het aantal ondersteunde gebruikers.

## Vertaal de fout naar een controle

- `worker_connections are not enough`: controleer de ingestelde verbindingslimiet per worker en de huidige verbindingen.
- `Too many open files`: controleer de effectieve file-descriptorlimiet van de worker. Een descriptor is een besturingssysteemhandle voor sockets en bestanden.
- Oplopende upstreamantwoordtijden: onderzoek het backendwerk dat die verbindingen bezet houdt.

Ter illustratie kunnen 1.000 gelijktijdig actieve geproxiede verzoeken ongeveer 2.000 sockets over beide proxykanten nodig hebben. Dit is geen dimensioneringsformule: HTTP/2, keepalive-hergebruik en inactieve verbindingen veranderen de verhouding.

## Vergroot capaciteit pas nadat je de oorzaak kent

Herstel vastgelopen backendwerk of begrens eerst wachtende verzoeken. Overschrijdt gezond verkeer de limieten, stem dan workerinstellingen, proceslimieten en geheugen op elkaar af en voer een belastingtest uit. Bevestig dat succesvolle doorvoer en latency verbeteren, niet alleen dat een langere wachtrij is toegestaan.

[Officiële documentatie](https://nginx.org/en/docs/ngx_core_module.html#worker_connections).

Tel beide kanten van een proxyverzoek

Vertaal de fout naar een controle

Vergroot capaciteit pas nadat je de oorzaak kent

Gerelateerde vragen