Një proces i vetëm Node.js përdor vetëm një bërthamë CPU (kodi i tij JS funksionon në një thread). Për të përdorur të gjitha bërthamat në një makinë, ju ekzekutoni shumë procese Node.js — përmes modulit cluster, një menaxheri procesi si PM2, ose orkestrimin e kontejnerëve — dhe balanconi ngarkesat e kërkesave midis tyre.
A server with 8 CPU cores running ONE Node process → uses ~1 core, wastes 7.
Need multiple processes to utilize all cores and handle more concurrent load.
import cluster from "cluster";
import { cpus } from "os";
import http from "http";
if (cluster.isPrimary) {
const numCPUs = cpus().length;
for (let i = 0; i < numCPUs; i++) {
cluster.fork(); // spawn one worker process per CPU core
}
cluster.on("exit", (worker) => {
console.log(`worker ${worker.process.pid} died — restarting`);
cluster.fork(); // restart a crashed worker (resilience)
});
} else {
// each worker runs the actual server; the OS load-balances connections across them
http.createServer((req, res) => res.end("handled by " + process.pid)).listen(3000);
}
Procesi primar degëzon një punëtor për bërthamë; të gjithë punëtorët ndajnë të njëjtin port, dhe lidhjet e ardhshme shpërndahen midis tyre — shumëzojnë këtë rrjedhshmërinë. Punëtorët e rrëzuar mund të rimëkëmbohen automatikisht për elasticitet.
pm2 start app.js -i max # run one instance per CPU core, with auto-restart & monitoring
Aplicacionet e prodhimit zakonisht përdorin PM2 (ose të ngjashme) në vend që të shkruajnë manualin kodin cluster — trajtojnë degëzimin, balancimin e ngarkesës, ringarkimet pa kohë ndërprerjeje, monitorimin dhe rimëkëmbimet.
Run ONE Node process per container, and run MANY containers (Kubernetes, ECS),
with a load balancer in front. This is the modern cloud approach — simpler
per-process model, scaling handled by the orchestrator across machines.
Multiple processes don't share memory. So:
⚠️ Don't store sessions/state in process memory → use Redis/a shared store
⚠️ In-memory caches aren't shared across workers → use Redis for shared cache
⚠️ WebSocket connections live on one worker → use a Redis adapter to coordinate
Për skalimin me shumë procese për të punuar, aplikacioni juaj duhet të jetë pa gjendje — çdo gjendje e ndarë (sesionet, memorja këshillake, koordinimi në kohë reale) duhet të jetë në një dyqan të jashtëm si Redis, jo në kujtesën e procesit.
Përdorimi i të gjitha bërthamave të CPU-ut është thelbësor për të marrë performancën e plotë nga një server Node — një proces i vetëm lë në boshe shumicën e një makine me shumë bërthamat.
Njohja e opsioneve (moduli cluster, mënyrën cluster PM2, ose një proces për kontejner me orkestrimin) dhe, në mënyrë kritike, kërkesa pa gjendje (sesionet/memorja këshillake/kohë reale me mbështetjen Redis, pasi proceset nuk ndajnë kujtesën) është themelore për skalimin e Node në prodhim.
Este skalim horizontal, i kombinuar me gjendje pa gjendje, është mënyra se si aplikacionet Node trajtojnë trafikun e lartë në mënyrë të besueshme.