Nginx nghẽn kết nối dù CPU thấp: kiểm tra những gì?

Question

IT Interview Practice · Accepted Answer

Kết nối có thể chiếm tài nguyên trong lúc chờ dù CPU thấp. Trước hết hãy xác định giới hạn nào đã chạm, thay vì mặc định máy thiếu sức tính toán.

## Đếm cả hai phía của request qua proxy

```text
Client -- socket A --> Nginx -- socket B --> Backend
```

Một request HTTP/1.x qua proxy có thể dùng một kết nối client và một kết nối upstream. Nếu backend bị kẹt, cả hai có thể tiếp tục bị giữ. `worker_connections` tính cả kết nối upstream, nên giá trị này không đơn giản là số người dùng phục vụ được.

## Từ thông báo lỗi đến bước kiểm tra

- `worker_connections are not enough`: xem giới hạn kết nối mỗi worker và số kết nối hiện tại.
- `Too many open files`: xem giới hạn file descriptor thực tế của worker. Descriptor là mã tham chiếu tài nguyên hệ điều hành dùng cho socket và file.
- Thời gian phản hồi upstream tăng: tìm công việc backend đang giữ các kết nối đó.

Ví dụ minh họa, 1.000 request qua proxy đang hoạt động đồng thời có thể cần khoảng 2.000 socket ở hai phía proxy. Đây không phải công thức tính dung lượng: HTTP/2, tái sử dụng keepalive và kết nối rảnh làm quan hệ thay đổi.

## Chỉ tăng tài nguyên sau khi tìm nguyên nhân

Sửa công việc backend bị kẹt hoặc giới hạn request chờ trước. Nếu lưu lượng hợp lệ vượt giới hạn, điều chỉnh đồng bộ worker, giới hạn tiến trình và bộ nhớ rồi thử tải. Xác nhận thông lượng thành công và độ trễ cải thiện, không chỉ cho phép hàng đợi dài hơn.

[Tài liệu chính thức](https://nginx.org/en/docs/ngx_core_module.html#worker_connections).

Đếm cả hai phía của request qua proxy

Từ thông báo lỗi đến bước kiểm tra

Chỉ tăng tài nguyên sau khi tìm nguyên nhân

Câu hỏi liên quan