Perché Nginx può esaurire le connessioni con CPU poco utilizzata?

Question

IT Interview Practice · Accepted Answer

Una connessione può occupare risorse mentre attende, anche con basso utilizzo della CPU. Identifica prima quale limite è stato raggiunto, invece di presumere che serva maggiore potenza di elaborazione.

## Conta entrambi i lati di una richiesta proxy

```text
Client -- socket A --> Nginx -- socket B --> Backend
```

Una richiesta HTTP/1.x inoltrata può usare una connessione client e una upstream. Se il backend si blocca, entrambe possono restare occupate. `worker_connections` comprende le connessioni upstream, quindi il suo valore non coincide semplicemente con il numero di utenti supportati.

## Trasforma l'errore in un controllo

- `worker_connections are not enough`: esamina il limite di connessioni per worker configurato e le connessioni correnti.
- `Too many open files`: esamina il limite effettivo dei file descriptor del worker. Un descriptor è un handle del sistema operativo usato per socket e file.
- Tempi di risposta upstream crescenti: indaga il lavoro backend che mantiene occupate quelle connessioni.

Per esempio, 1.000 richieste proxy attive contemporaneamente potrebbero richiedere circa 2.000 socket sui due lati. Non è una formula di dimensionamento: HTTP/2, riuso keepalive e connessioni inattive cambiano la relazione.

## Aumenta capacità solo dopo aver trovato la causa

Prima correggi il lavoro backend bloccato o limita le richieste in attesa. Se il traffico sano supera i limiti, allinea impostazioni dei worker, limiti dei processi e memoria, poi esegui un test di carico. Verifica che throughput riuscito e latenza migliorino, anziché consentire solo una coda più lunga.

[Documentazione ufficiale](https://nginx.org/en/docs/ngx_core_module.html#worker_connections).

Conta entrambi i lati di una richiesta proxy

Trasforma l'errore in un controllo

Aumenta capacità solo dopo aver trovato la causa

Domande correlate