Πώς κλιμακώνετε μια εφαρμογή Node.js σε πολλαπλούς επεξεργαστές;

Question

Accepted Answer

Μια μόνη Node διεργασία χρησιμοποιεί μόνο **έναν πυρήνα CPU** (το JavaScript της εκτελείται σε ένα νήμα). Για να χρησιμοποιήσετε όλους τους πυρήνες σε ένα μηχάνημα, εκτελείτε **πολλαπλές Node διεργασίες** — μέσω της `cluster` ενότητας, ενός διαχειριστή διεργασιών όπως το PM2, ή ενός συστήματος orchestration περιεχομένων — και κατανέμετε τα αιτήματα μεταξύ τους.

## Το πρόβλημα

```text
A server with 8 CPU cores running ONE Node process → uses ~1 core, wastes 7.
Need multiple processes to utilize all cores and handle more concurrent load.
```

## Η ενότητα cluster — δημιουργία worker διεργασιών

```js
import cluster from "cluster";
import { cpus } from "os";
import http from "http";

if (cluster.isPrimary) {
  const numCPUs = cpus().length;
  for (let i = 0; i < numCPUs; i++) {
    cluster.fork(); // spawn one worker process per CPU core
  }
  cluster.on("exit", (worker) => {
    console.log(`worker ${worker.process.pid} died — restarting`);
    cluster.fork(); // restart a crashed worker (resilience)
  });
} else {
  // each worker runs the actual server; the OS load-balances connections across them
  http.createServer((req, res) => res.end("handled by " + process.pid)).listen(3000);
}
```

Η κύρια διεργασία δημιουργεί έναν worker ανά πυρήνα· όλοι οι workers μοιράζονται την ίδια θύρα, και οι εισερχόμενες συνδέσεις κατανέμονται μεταξύ τους — πολλαπλασιάζοντας τη διαμετακόμιση. Οι διεργασίες worker που έχουν συγκρουστεί μπορούν να επανεκκινηθούν αυτόματα για ανθεκτικότητα.

## Στην πράξη: χρησιμοποιήστε PM2 (cluster mode)

```bash
pm2 start app.js -i max   # run one instance per CPU core, with auto-restart & monitoring
```

Οι εφαρμογές παραγωγής συνήθως χρησιμοποιούν **PM2** (ή παρόμοιο) αντί να γράφουν με το χέρι κώδικα cluster — χειρίζεται τη δημιουργία, τη κατανομή φορτίου, τις επαναφορτώσεις χωρίς διακοπή, την παρακολούθηση και τις επανεκκινήσεις.

## Ή κλιμακώστε με containers/orchestration

```text
Run ONE Node process per container, and run MANY containers (Kubernetes, ECS),
with a load balancer in front. This is the modern cloud approach — simpler
per-process model, scaling handled by the orchestrator across machines.
```

## Η κρίσιμη προειδοποίηση: απουσία κατάστασης

```text
Multiple processes don't share memory. So:
⚠️ Don't store sessions/state in process memory → use Redis/a shared store
⚠️ In-memory caches aren't shared across workers → use Redis for shared cache
⚠️ WebSocket connections live on one worker → use a Redis adapter to coordinate
```

Για να λειτουργήσει η κλιμάκωση με πολλαπλές διεργασίες, η εφαρμογή σας πρέπει να είναι **χωρίς κατάστασης** — οποιαδήποτε κοινή κατάσταση (sessions, cache, συντονισμός σε πραγματικό χρόνο) πρέπει να βρίσκεται σε ένα εξωτερικό αποθηκευτικό χώρο όπως Redis, όχι στη μνήμη της διεργασίας.

## Γιατί έχει σημασία

Η χρησιμοποίηση όλων των πυρήνων CPU είναι απαραίτητη για να λάβετε πλήρη απόδοση από ένα Node server — μια μόνη διεργασία αφήνει την περισσότερη μνήμη ενός multi-core μηχανήματος αδρανή.

Η γνώση των επιλογών (cluster module, PM2 cluster mode, ή μια διεργασία ανά container με orchestration) και, κρυσίμως, της **απαίτησης απουσίας κατάστασης** (εξωτερικές Redis-backed sessions/cache/real-time, καθώς οι διεργασίες δεν μοιράζονται μνήμη) είναι θεμελιώδης για την κλιμάκωση του Node σε παραγωγή.

Αυτή η οριζόντια κλιμάκωση, σε συνδυασμό με την απουσία κατάστασης, είναι ο τρόπος με τον οποίο οι εφαρμογές Node χειρίζονται υψηλή κίνηση αξιόπιστα.