为什么 Nginx CPU 很低却耗尽连接？

Question

IT Interview Practice · Accepted Answer

即使 CPU 使用率很低，等待中的连接仍会占用资源。先确定触及哪个限制，不要直接认定机器缺少计算能力。

## 计算代理请求的两侧

```text
Client -- socket A --> Nginx -- socket B --> Backend
```

一个代理 HTTP/1.x 请求可能使用一个客户端连接和一个上游连接。如果后端卡住，两者都可能继续被占用。`worker_connections` 包含上游连接，因此它的值不能直接视为支持的用户数。

## 把错误转化为检查步骤

- `worker_connections are not enough`：检查每个 worker 的连接限制及当前连接数。
- `Too many open files`：检查 worker 的实际文件描述符限制。描述符是操作系统用于套接字和文件的资源句柄。
- 上游响应时间持续增长：调查占用这些连接的后端工作。

举例来说，1,000 个同时活动的代理请求可能在代理两侧需要大约 2,000 个套接字。这不是容量公式：HTTP/2、keepalive 复用和空闲连接都会改变这个关系。

## 找到原因后再扩容

先修复卡住的后端工作，或限制等待中的请求。如果正常流量超出限制，再统一调整 worker 设置、进程限制和内存，并进行负载测试。确认成功吞吐量和延迟改善，而不只是允许队列变得更长。

[官方文档](https://nginx.org/en/docs/ngx_core_module.html#worker_connections).

计算代理请求的两侧

把错误转化为检查步骤

相关问题

找到原因后再扩容