Node.js 앱을 여러 CPU에 걸쳐 어떻게 확장하나요?

Question

Accepted Answer

단일 Node 프로세스는 **하나의 CPU 코어만** 사용합니다(JS가 하나의 스레드에서 실행됨). 머신의 모든 코어를 활용하려면 `cluster` 모듈, PM2 같은 프로세스 매니저, 또는 컨테이너 오케스트레이션을 통해 **여러 Node 프로세스**를 실행하고 요청을 그들 간에 로드 밸런싱합니다.

## 문제

```text
A server with 8 CPU cores running ONE Node process → uses ~1 core, wastes 7.
Need multiple processes to utilize all cores and handle more concurrent load.
```

## cluster 모듈 — worker 프로세스 fork하기

```js
import cluster from "cluster";
import { cpus } from "os";
import http from "http";

if (cluster.isPrimary) {
  const numCPUs = cpus().length;
  for (let i = 0; i < numCPUs; i++) {
    cluster.fork(); // spawn one worker process per CPU core
  }
  cluster.on("exit", (worker) => {
    console.log(`worker ${worker.process.pid} died — restarting`);
    cluster.fork(); // restart a crashed worker (resilience)
  });
} else {
  // each worker runs the actual server; the OS load-balances connections across them
  http.createServer((req, res) => res.end("handled by " + process.pid)).listen(3000);
}
```

primary 프로세스가 코어당 하나의 worker를 fork하고, 모든 worker가 같은 포트를 공유하며, 들어오는 연결이 그들 간에 분배되어 처리량이 배가됩니다. 충돌한 worker는 복원력을 위해 자동 재시작할 수 있습니다.

## 실무에서는: PM2 사용(cluster 모드)

```bash
pm2 start app.js -i max   # run one instance per CPU core, with auto-restart & monitoring
```

프로덕션 앱은 보통 cluster 코드를 직접 작성하는 대신 **PM2**(또는 유사 도구)를 사용합니다. fork, 로드 밸런싱, 무중단 리로드, 모니터링, 재시작을 처리해 줍니다.

## 또는 컨테이너/오케스트레이션으로 확장

```text
Run ONE Node process per container, and run MANY containers (Kubernetes, ECS),
with a load balancer in front. This is the modern cloud approach — simpler
per-process model, scaling handled by the orchestrator across machines.
```

## 핵심 주의사항: 무상태성(statelessness)

```text
Multiple processes don't share memory. So:
⚠️ Don't store sessions/state in process memory → use Redis/a shared store
⚠️ In-memory caches aren't shared across workers → use Redis for shared cache
⚠️ WebSocket connections live on one worker → use a Redis adapter to coordinate
```

다중 프로세스 확장이 동작하려면 앱이 **무상태**여야 합니다. 공유 상태(세션, 캐시, 실시간 조정)는 프로세스 메모리가 아니라 Redis 같은 외부 저장소에 있어야 합니다.

## 왜 중요한가

모든 CPU 코어를 활용하는 것은 Node 서버에서 최대 성능을 끌어내는 데 필수적입니다. 단일 프로세스는 멀티코어 머신의 대부분을 유휴 상태로 둡니다.

선택지(cluster 모듈, PM2 cluster 모드, 또는 오케스트레이션과 함께 컨테이너당 하나의 프로세스)와, 무엇보다 **무상태성 요구사항**(프로세스가 메모리를 공유하지 않으므로 Redis 기반 외부 세션/캐시/실시간)을 아는 것은 프로덕션에서 Node를 확장하는 데 근본적입니다.

이러한 수평 확장은 무상태성과 결합되어 Node 앱이 높은 트래픽을 안정적으로 처리하는 방법입니다.