Cos'è il load balancing e perché è importante?

Question

Accepted Answer

**Load balancing** distribuisce le richieste in arrivo su più server — abilitando il scaling orizzontale, migliorando la disponibilità e impedendo a qualsiasi singolo server di essere sopraffatto. È una componente fondamentale di sistemi scalabili e affidabili.

## Cosa fa un load balancer

```text
A LOAD BALANCER sits in front of multiple servers and distributes requests among them:
  Client → LOAD BALANCER → ┬→ Server 1
                           ├→ Server 2
                           └→ Server 3
  → spreads load → no single server is overwhelmed (enables HORIZONTAL scaling)
  → routes around FAILED servers (health checks) → high AVAILABILITY
  → a single entry point for clients
```

## Perché il load balancing è importante

```text
✓ SCALABILITY → distributes load across many servers → handle more traffic by adding servers
✓ AVAILABILITY → if a server fails, route to healthy ones → no single point of failure
✓ PERFORMANCE → prevents any server from being overloaded → consistent response times
✓ Enables ZERO-DOWNTIME deploys, maintenance (take servers out of rotation)
→ a foundation of scalable, highly-available systems.
```

## Algoritmi di load balancing

```text
ROUND ROBIN → requests distributed in turn (simple, common)
LEAST CONNECTIONS → to the server with the fewest active connections (load-aware)
WEIGHTED → distribute by server capacity (bigger servers get more)
IP HASH / sticky sessions → route a client consistently to the same server (for stateful)
→ choose based on the workload (round robin / least connections are common defaults)
```

## Perché è importante

Comprendere il load balancing è fondamentale perché è una **componente fondamentale di sistemi scalabili e affidabili**, quindi è conoscenza essenziale di system design.

Un load balancer distribuisce le richieste su più server, il che affronta due esigenze fondamentali: **scalabilità** (distribuire il carico in modo che il sistema possa gestire più traffico aggiungendo server — abilitando lo scaling orizzontale, che il load balancing rende possibile) e **disponibilità** (instradamento attorno ai server falliti tramite health check, quindi nessun singolo server è un punto di fallimento).

Comprendere **perché è importante** — scalabilità (distribuire il carico per gestire più traffico), disponibilità (sopravvivere ai fallimenti del server), performance (prevenire il sovraccarico per tempi di risposta coerenti) e abilitare deployment a zero downtime e manutenzione (togliere server dalla rotazione) — chiarisce il suo ruolo centrale in sistemi scalabili e altamente disponibili.

Il load balancing funziona di pari passo con lo scaling orizzontale e i servizi stateless per costruire sistemi che si scalano e rimangono disponibili, rendendolo un concetto ricorrente e fondamentale nel system design.

Comprendere gli **algoritmi** — round robin (semplice, comune), least connections (consapevole del carico), weighted (per capacità) e IP hash/sticky sessions (per routing stateful) — fornisce conoscenza pratica di come il carico è distribuito.

Poiché il load balancing è essenziale per sistemi scalabili e affidabili (abilitando lo scaling orizzontale e l'alta disponibilità distribuendo le richieste e instradando attorno ai fallimenti), e poiché comprendere cosa fa, perché è importante e come distribuisce il carico è fondamentale per il system design, comprendere il load balancing è conoscenza essenziale di system design — una componente centrale di praticamente tutti i sistemi scalabili, che funziona con lo scaling orizzontale per gestire il carico e assicurare la disponibilità, e conoscenza necessaria per progettare sistemi che si scalano e rimangono disponibili.