Proč může Nginx vyčerpat spojení při nízkém využití CPU?

Question

IT Interview Practice · Accepted Answer

Spojení může při čekání zabírat prostředky i při nízkém využití CPU. Nejdříve zjistěte dosažený limit místo předpokladu, že počítač potřebuje vyšší výpočetní výkon.

## Počítejte obě strany proxy požadavku

```text
Client -- socket A --> Nginx -- socket B --> Backend
```

Proxyovaný HTTP/1.x požadavek může použít jedno klientské a další upstream spojení. Pokud se backend zasekne, obě mohou zůstat obsazená. `worker_connections` zahrnuje upstream spojení, takže jeho hodnota není prostým počtem podporovaných uživatelů.

## Přeměňte chybu na kontrolu

- `worker_connections are not enough`: zkontrolujte nakonfigurovaný limit spojení na worker a aktuální spojení.
- `Too many open files`: zkontrolujte skutečně platný limit deskriptorů souborů workera. Deskriptor je systémový handle používaný pro sockety a soubory.
- Rostoucí upstream odezvy: prozkoumejte práci backendu, která drží spojení obsazená.

Například 1 000 současně aktivních proxyovaných požadavků může potřebovat přibližně 2 000 socketů na obou stranách proxy. Není to dimenzovací vzorec: HTTP/2, opakované použití keepalive a nečinná spojení tento vztah mění.

## Kapacitu zvyšujte až po zjištění příčiny

Nejprve opravte zaseknutou práci backendu nebo omezte čekající požadavky. Překračuje-li zdravý provoz limity, slaďte nastavení workerů, limity procesů a paměť a pak proveďte zátěžové testy. Potvrďte zlepšení úspěšné propustnosti a latence, nikoli pouze povolení delší fronty.

[Oficiální dokumentace](https://nginx.org/en/docs/ngx_core_module.html#worker_connections).

Počítejte obě strany proxy požadavku

Přeměňte chybu na kontrolu

Kapacitu zvyšujte až po zjištění příčiny

Související otázky