ทำไม Nginx จึงใช้การเชื่อมต่อจนหมดทั้งที่ CPU ต่ำ?

Question

IT Interview Practice · Accepted Answer

การเชื่อมต่ออาจใช้ทรัพยากรขณะรอ แม้ CPU ใช้น้อย หาขีดจำกัดที่ชนก่อน แทนการสมมติว่าต้องเพิ่มพลังประมวลผล

## นับทั้งสองด้านของคำขอ proxy

```text
Client -- socket A --> Nginx -- socket B --> Backend
```

คำขอ HTTP/1.x ผ่าน proxy อาจใช้การเชื่อมต่อไคลเอนต์หนึ่งเส้นและ upstream อีกเส้น หาก backend ค้างทั้งคู่อาจถูกใช้งานค้างไว้ `worker_connections` รวมการเชื่อมต่อ upstream ดังนั้นค่าไม่ได้เท่ากับจำนวนผู้ใช้ที่รองรับ

## เปลี่ยนข้อผิดพลาดเป็นจุดตรวจ

- `worker_connections are not enough`: ตรวจขีดจำกัดการเชื่อมต่อต่อ worker ที่ตั้งไว้และจำนวนปัจจุบัน
- `Too many open files`: ตรวจขีดจำกัด file descriptor ที่มีผลกับ worker โดย descriptor คือ handle ของระบบปฏิบัติการสำหรับ socket และไฟล์
- เวลา upstream ตอบเพิ่มขึ้น: ตรวจงาน backend ที่จับการเชื่อมต่อไว้

ตัวอย่างเช่น คำขอ proxy ที่ทำงานพร้อมกัน 1,000 รายการอาจต้องใช้ประมาณ 2,000 socket รวมสองด้าน นี่ไม่ใช่สูตรคำนวณขนาด เพราะ HTTP/2 การใช้ keepalive ซ้ำและการเชื่อมต่อว่างเปลี่ยนความสัมพันธ์ได้

## เพิ่มความจุหลังพบสาเหตุแล้ว

แก้งาน backend ที่ค้างหรือจำกัดคำขอที่รอก่อน หากทราฟฟิกปกติเกินขีดจำกัด ให้จัดค่า worker ขีดจำกัดโปรเซสและหน่วยความจำให้สอดคล้อง แล้วทำ load test ยืนยันว่า throughput ที่สำเร็จและ latency ดีขึ้น ไม่ใช่แค่ยอมให้คิวยาวกว่าเดิม

[เอกสารทางการ](https://nginx.org/en/docs/ngx_core_module.html#worker_connections).

นับทั้งสองด้านของคำขอ proxy

เปลี่ยนข้อผิดพลาดเป็นจุดตรวจ

เพิ่มความจุหลังพบสาเหตุแล้ว

คำถามที่เกี่ยวข้อง