Hvorfor kan Nginx løbe tør for forbindelser ved lav CPU-belastning?

Question

IT Interview Practice · Accepted Answer

En forbindelse kan optage ressourcer, mens den venter, selv med lav CPU-belastning. Find først den nåede grænse i stedet for at antage, at maskinen behøver mere regnekraft.

## Tæl begge sider af en proxy-forespørgsel

```text
Client -- socket A --> Nginx -- socket B --> Backend
```

En proxiet HTTP/1.x-forespørgsel kan bruge én klientforbindelse og én upstream-forbindelse. Hvis backend går i stå, kan begge forblive optaget. `worker_connections` inkluderer upstream-forbindelser, så værdien er ikke blot antallet af understøttede brugere.

## Gør fejlen til en kontrol

- `worker_connections are not enough`: undersøg den konfigurerede forbindelsesgrænse pr. worker og de aktuelle forbindelser.
- `Too many open files`: undersøg workerens effektive grænse for fildeskriptorer. En deskriptor er et operativsystem-handle til sockets og filer.
- Stigende upstream-svartider: undersøg det backendarbejde, der holder forbindelserne optaget.

Som illustration kan 1.000 samtidigt aktive proxiede forespørgsler kræve omtrent 2.000 sockets på proxyens to sider. Dette er ingen dimensioneringsformel: HTTP/2, keepalive-genbrug og inaktive forbindelser ændrer forholdet.

## Øg først kapaciteten, når årsagen er fundet

Ret først fastlåst backendarbejde, eller begræns ventende forespørgsler. Hvis sund trafik overskrider grænserne, så afstem workerindstillinger, procesgrænser og hukommelse og udfør derefter belastningstest. Bekræft, at vellykket gennemløb og latenstid forbedres, frem for blot at tillade en længere kø.

[Officiel dokumentation](https://nginx.org/en/docs/ngx_core_module.html#worker_connections).

Tæl begge sider af en proxy-forespørgsel

Gør fejlen til en kontrol

Øg først kapaciteten, når årsagen er fundet

Relaterede spørgsmål