Load balancing là gì và tại sao nó quan trọng?

Question

Accepted Answer

**Load balancing** phân tán các request đến qua nhiều server — cho phép horizontal scaling, cải thiện availability, và ngăn không cho bất kỳ server đơn lẻ nào bị quá tải. Đây là một thành phần cơ bản của các hệ thống scalable, reliable.

## Một load balancer làm gì

```text
Một LOAD BALANCER nằm phía trước nhiều server và phân tán request giữa chúng:
  Client → LOAD BALANCER → ┬→ Server 1
                           ├→ Server 2
                           └→ Server 3
  → trải đều tải → không server đơn lẻ nào bị quá tải (cho phép HORIZONTAL scaling)
  → định tuyến tránh các server đã LỖI (health checks) → high AVAILABILITY
  → một điểm vào duy nhất cho client
```

## Tại sao load balancing quan trọng

```text
✓ SCALABILITY → phân tán tải qua nhiều server → xử lý nhiều traffic hơn bằng cách thêm server
✓ AVAILABILITY → nếu một server lỗi, định tuyến sang server khỏe → không có single point of failure
✓ PERFORMANCE → ngăn bất kỳ server nào bị quá tải → thời gian phản hồi ổn định
✓ Cho phép deploy ZERO-DOWNTIME, bảo trì (đưa server ra khỏi vòng quay)
→ một nền tảng của các hệ thống scalable, high-availability.
```

## Các thuật toán load balancing

```text
ROUND ROBIN → request được phân lần lượt theo lượt (đơn giản, phổ biến)
LEAST CONNECTIONS → tới server có ít kết nối active nhất (nhận biết tải)
WEIGHTED → phân tán theo năng lực server (server lớn hơn nhận nhiều hơn)
IP HASH / sticky sessions → định tuyến một client nhất quán tới cùng một server (cho stateful)
→ chọn dựa trên workload (round robin / least connections là các mặc định phổ biến)
```

## Tại sao điều này quan trọng

Hiểu load balancing là nền tảng vì nó là một **thành phần cơ bản của các hệ thống scalable, reliable**, nên đây là kiến thức system design thiết yếu.

Một load balancer phân tán request qua nhiều server, giải quyết hai nhu cầu cốt lõi: **scalability** (trải tải để hệ thống xử lý nhiều traffic hơn bằng cách thêm server — cho phép horizontal scaling, mà load balancing làm cho khả thi) và **availability** (định tuyến tránh các server lỗi qua health checks, nên không server đơn lẻ nào là điểm lỗi).

Hiểu **tại sao nó quan trọng** — scalability (phân tán tải để xử lý nhiều traffic hơn), availability (sống sót qua lỗi server), performance (ngăn quá tải để thời gian phản hồi ổn định), và cho phép deploy zero-downtime cùng bảo trì (đưa server ra khỏi vòng quay) — làm rõ vai trò trung tâm của nó trong các hệ thống scalable, high-availability.

Load balancing làm việc tay-trong-tay với horizontal scaling và stateless services để xây dựng những hệ thống scale được và giữ được availability, khiến nó trở thành một khái niệm cơ bản, lặp lại trong system design.

Hiểu các **thuật toán** — round robin (đơn giản, phổ biến), least connections (nhận biết tải), weighted (theo năng lực), và IP hash/sticky sessions (cho định tuyến stateful) — cung cấp kiến thức thực tế về cách tải được phân tán.

Vì load balancing là thiết yếu cho các hệ thống scalable, reliable (cho phép horizontal scaling và high availability bằng cách phân tán request và định tuyến tránh lỗi), và vì hiểu nó làm gì, tại sao quan trọng, và cách phân tán tải là cơ bản với system design, nên hiểu load balancing là kiến thức system design thiết yếu, nền tảng — một thành phần cốt lõi của hầu hết mọi hệ thống scalable, làm việc cùng horizontal scaling để xử lý tải và đảm bảo availability, và là hiểu biết cần thiết để thiết kế những hệ thống scale được và luôn hoạt động.