load balancing이란 무엇이며 왜 중요한가요?

Question

Accepted Answer

**Load balancing**은 들어오는 요청을 여러 서버에 분산합니다 — 수평 확장을 가능하게 하고, 가용성을 높이며, 단일 서버가 과부하되는 것을 방지합니다. 확장 가능하고 신뢰성 있는 시스템의 근본적인 구성 요소입니다.

## load balancer가 하는 일

```text
LOAD BALANCER는 여러 서버 앞에 위치하여 요청을 분배함:
  클라이언트 → LOAD BALANCER → ┬→ 서버 1
                              ├→ 서버 2
                              └→ 서버 3
  → 부하 분산 → 어떤 서버도 과부하되지 않음 (수평 확장을 가능하게 함)
  → 실패한 서버를 우회 (health check) → 높은 가용성
  → 클라이언트를 위한 단일 진입점
```

## load balancing이 중요한 이유

```text
✓ 확장성 → 많은 서버에 부하 분산 → 서버를 추가해 더 많은 트래픽 감당
✓ 가용성 → 서버가 실패하면 정상 서버로 라우팅 → 단일 장애점 없음
✓ 성능 → 어떤 서버도 과부하되지 않게 함 → 일관된 응답 시간
✓ 무중단 배포, 유지보수 가능 (서버를 로테이션에서 제외)
→ 확장 가능하고 고가용성인 시스템의 기반.
```

## load balancing 알고리즘

```text
ROUND ROBIN → 요청을 차례대로 분배 (단순, 흔함)
LEAST CONNECTIONS → 활성 연결이 가장 적은 서버로 (부하 인식)
WEIGHTED → 서버 용량에 따라 분배 (큰 서버가 더 많이 받음)
IP HASH / sticky session → 한 클라이언트를 항상 같은 서버로 (stateful용)
→ 워크로드에 따라 선택 (round robin / least connections가 흔한 기본값)
```

## 왜 중요한가

Load balancing을 이해하는 것은 기초적입니다. **확장 가능하고 신뢰성 있는 시스템의 근본적인 구성 요소**이므로 필수적인 시스템 디자인 지식이기 때문입니다.

Load balancer는 여러 서버에 요청을 분산하여 두 가지 핵심 요구를 해결합니다. **확장성**(부하를 분산해 서버 추가로 더 많은 트래픽을 감당 — load balancing이 가능하게 하는 수평 확장)과 **가용성**(health check로 실패한 서버를 우회하여 어떤 단일 서버도 장애점이 되지 않음)입니다.

**왜 중요한지** — 확장성(더 많은 트래픽을 감당하기 위한 부하 분산), 가용성(서버 장애에서 생존), 성능(과부하를 방지해 일관된 응답 시간), 무중단 배포 및 유지보수 가능(서버를 로테이션에서 제외) — 을 이해하면 확장 가능하고 고가용성인 시스템에서의 중심적 역할이 명확해집니다.

Load balancing은 수평 확장 및 무상태 서비스와 긴밀하게 협력하여 확장되고 가용성을 유지하는 시스템을 구축하므로, 시스템 디자인에서 반복적으로 등장하는 근본 개념입니다.

**알고리즘** — round robin(단순, 흔함), least connections(부하 인식), weighted(용량 기준), IP hash/sticky session(stateful 라우팅용) — 을 이해하면 부하가 어떻게 분산되는지에 대한 실용적 지식을 얻습니다.

Load balancing은 확장 가능하고 신뢰성 있는 시스템에 필수적이며(요청을 분산하고 장애를 우회해 수평 확장과 고가용성을 가능하게 함), 그것이 무엇을 하고 왜 중요하며 어떻게 부하를 분산하는지를 이해하는 것이 시스템 디자인에 근본적이므로, load balancing을 이해하는 것은 필수적이고 기초적인 시스템 디자인 지식입니다 — 사실상 모든 확장 가능한 시스템의 핵심 구성 요소이고, 수평 확장과 함께 부하를 감당하고 가용성을 보장하며, 확장되고 계속 동작하는 시스템을 설계하는 데 필요한 이해입니다.