Mengapa sambungan Nginx boleh habis ketika penggunaan CPU rendah?

Question

IT Interview Practice · Accepted Answer

Sambungan boleh menggunakan sumber semasa menunggu, walaupun penggunaan CPU rendah. Kenal pasti dahulu had yang dicapai, bukan menganggap mesin memerlukan lebih kuasa pemprosesan.

## Kira kedua-dua sisi permintaan proxy

```text
Client -- socket A --> Nginx -- socket B --> Backend
```

Permintaan HTTP/1.x yang diproxy boleh menggunakan satu sambungan klien dan satu lagi sambungan upstream. Jika backend tersekat, kedua-duanya boleh terus digunakan. `worker_connections` merangkumi sambungan upstream, jadi nilainya bukan semata-mata bilangan pengguna yang disokong.

## Tukarkan ralat kepada pemeriksaan

- `worker_connections are not enough`: periksa had sambungan setiap worker yang dikonfigurasi dan sambungan semasa.
- `Too many open files`: periksa had file descriptor berkesan worker. Descriptor ialah handle sistem pengendalian untuk socket dan fail.
- Masa respons upstream meningkat: siasat kerja backend yang mengekalkan sambungan itu sibuk.

Sebagai ilustrasi, 1,000 permintaan proxy aktif serentak mungkin memerlukan kira-kira 2,000 socket pada kedua-dua sisi proxy. Ini bukan formula kapasiti: HTTP/2, penggunaan semula keepalive dan sambungan idle mengubah hubungannya.

## Tambah kapasiti selepas menemukan punca

Baiki kerja backend yang tersekat atau hadkan permintaan menunggu dahulu. Jika trafik sihat melebihi had, selaraskan tetapan worker, had proses dan memori, kemudian jalankan ujian beban. Pastikan throughput berjaya dan latensi bertambah baik, bukan sekadar membenarkan baris gilir lebih panjang.

[Dokumentasi rasmi](https://nginx.org/en/docs/ngx_core_module.html#worker_connections).

Kira kedua-dua sisi permintaan proxy

Tukarkan ralat kepada pemeriksaan

Tambah kapasiti selepas menemukan punca

Soalan berkaitan