Satu proses Node tunggal hanya menggunakan satu teras CPU (JS-nya berjalan pada satu thread). Untuk menggunakan semua teras pada sesebuah mesin, anda menjalankan berbilang proses Node — melalui modul cluster, pengurus proses seperti PM2, atau orkestrasi kontena — dan mengimbang beban permintaan merentasinya.
A server with 8 CPU cores running ONE Node process → uses ~1 core, wastes 7.
Need multiple processes to utilize all cores and handle more concurrent load.
import cluster from "cluster";
import { cpus } from "os";
import http from "http";
if (cluster.isPrimary) {
const numCPUs = cpus().length;
for (let i = 0; i < numCPUs; i++) {
cluster.fork(); // spawn one worker process per CPU core
}
cluster.on("exit", (worker) => {
console.log(`worker ${worker.process.pid} died — restarting`);
cluster.fork(); // restart a crashed worker (resilience)
});
} else {
// each worker runs the actual server; the OS load-balances connections across them
http.createServer((req, res) => res.end("handled by " + process.pid)).listen(3000);
}
Proses primary memfork satu worker setiap teras; semua workers berkongsi port yang sama, dan sambungan masuk diagihkan antaranya — menggandakan throughput. Workers yang terhempas boleh dimulakan semula secara automatik untuk daya tahan.
pm2 start app.js -i max # run one instance per CPU core, with auto-restart & monitoring
Aplikasi pengeluaran biasanya menggunakan PM2 (atau yang serupa) berbanding menulis kod cluster secara manual — ia mengendalikan forking, pengimbangan beban, muat semula tanpa henti (zero-downtime reloads), pemantauan, dan permulaan semula.
Run ONE Node process per container, and run MANY containers (Kubernetes, ECS),
with a load balancer in front. This is the modern cloud approach — simpler
per-process model, scaling handled by the orchestrator across machines.
Multiple processes don't share memory. So:
⚠️ Don't store sessions/state in process memory → use Redis/a shared store
⚠️ In-memory caches aren't shared across workers → use Redis for shared cache
⚠️ WebSocket connections live on one worker → use a Redis adapter to coordinate
Agar penskalaan berbilang proses berfungsi, aplikasi anda mesti tanpa keadaan (stateless) — sebarang keadaan dikongsi (sesi, cache, penyelarasan masa nyata) mesti berada dalam stor luaran seperti Redis, bukan dalam memori proses.
Memanfaatkan semua teras CPU adalah penting untuk mendapat prestasi penuh daripada pelayan Node — satu proses tunggal membiarkan sebahagian besar mesin berbilang teras terbiar.
Mengetahui pilihan yang ada (modul cluster, mod cluster PM2, atau satu-proses-setiap-kontena dengan orkestrasi) dan, yang paling penting, keperluan tanpa keadaan (sesi/cache/masa nyata yang disokong Redis secara luaran, kerana proses tidak berkongsi memori) adalah asas untuk menskalakan Node dalam pengeluaran.
Penskalaan mendatar ini, digabungkan dengan keadaan tanpa keadaan, ialah cara aplikasi Node mengendalikan trafik tinggi dengan boleh dipercayai.