Latency, bandwidth và throughput khác nhau như thế nào?

Question

IT Interview Practice · Accepted Answer

Ba khái niệm này mô tả những thứ khác nhau và liên tục bị nhầm lẫn. **Latency** là *độ trễ* — một đơn vị dữ liệu mất bao lâu để đi từ A tới B (đo bằng thời gian, ví dụ ms). **Bandwidth** là *dung lượng* — tốc độ dữ liệu tối đa một liên kết có thể tải (ví dụ Gbps). **Throughput** là tốc độ *thực tế* bạn đạt được, thường thấp hơn bandwidth. Phép ví von đường ống làm nó sáng ra:

```text
   ├────────────── length of pipe = LATENCY (how long to traverse) ─────────────┤
   ╔══════════════════════════════════════════════════════════════════════════╗
   ║  width of pipe = BANDWIDTH (max capacity)                                  ║
   ║  water actually flowing = THROUGHPUT (real achieved rate ≤ bandwidth)      ║
   ╚══════════════════════════════════════════════════════════════════════════╝
```

Điều then chốt là **ống rộng hơn không làm nó ngắn hơn**: thêm bandwidth không giảm latency. Một liên kết xuyên Đại Tây Dương to vẫn có ~80 ms độ trễ round-trip do khoảng cách và tốc độ ánh sáng quy định — bạn không thể mua để chui xuống dưới nó. Đó là lý do latency, chứ không phải bandwidth, chi phối cảm giác của các ứng dụng tương tác: mỗi round trip (DNS, TCP handshake, TLS, rồi request) đều trả một khoản latency, và chúng cộng dồn.

Latency và throughput tương tác qua **Bandwidth-Delay Product** (BDP = bandwidth × round-trip time), lượng dữ liệu "đang bay" cần có để giữ ống đầy. Trên một "long fat network" bandwidth cao, latency cao, một giao thức như TCP phải chờ ACK không thể lấp đầy ống trừ khi cửa sổ của nó ít nhất bằng BDP — nên throughput rốt cuộc bị *giới hạn bởi latency*, không phải bandwidth. Đó là vì sao một luồng TCP đơn qua đường dài thường yếu ngay cả trên liên kết nhanh, và vì sao song song hoá, cửa sổ lớn hơn, và CDN (cắt khoảng cách, tức latency) đều giúp ích.

## Tại sao điều này quan trọng

Nhầm lẫn ba khái niệm này là một trong những lỗi hiệu năng phổ biến nhất — và hệ quả lớn nhất: các đội mua thêm bandwidth để sửa cái thực chất là vấn đề latency và chẳng thấy cải thiện. Hiểu biết cấp senior là **latency là một sàn do vật lý đặt ra** (khoảng cách) mà bạn phải tấn công theo hướng kiến trúc — đặt server/CDN gần người dùng hơn, giảm số round trip (tái dùng kết nối, HTTP/3, caching), gộp request — còn bandwidth thường chỉ cần cấp thêm. Hiểu BDP giải thích những kết quả phản trực giác như một liên kết "nhanh" lại truyền một luồng chậm, đúng kiểu suy luận được kỳ vọng khi bạn thiết kế hay debug các hệ thống hiệu năng cao, phân tán về địa lý.

Tại sao điều này quan trọng

Câu hỏi liên quan