ఒక load balancer incoming trafficను backend servers pool అంతటా పంచుతుంది, తద్వారా ఏ ఒక్కటీ ముంచెత్తబడదు మరియు ఒక server చనిపోతే వ్యవస్థ అందుబాటులో ఉంటుంది. ప్రధాన తేడా అది పనిచేసే layer:
L4 (Transport) L7 (Application)
routes by IP + port only reads HTTP: path, headers, cookies, host
┌──────────────┐ ┌──────────────┐
│ balancer │──▶ server A │ balancer │ /api/* ──▶ API pool
│ (TCP/UDP) │──▶ server B │ (HTTP-aware) │ /img/* ──▶ static pool
└──────────────┘──▶ server C └──────────────┘ cookie=X ──▶ sticky backend
fast, opaque, protocol-agnostic smart routing, TLS termination, can inspect
