Questi tre descrivono cose diverse e vengono costantemente confusi. La latenza (latency) è il ritardo — quanto tempo impiega una singola unità di dati a viaggiare da A a B (misurata in tempo, es. ms). La banda (bandwidth) è la — il massimo data rate che un link può trasportare (es. Gbps). Il è il rate che ottieni nella pratica, di solito inferiore alla banda. L'analogia del tubo lo rende chiaro:
├────────────── length of pipe = LATENCY (how long to traverse) ─────────────┤
╔══════════════════════════════════════════════════════════════════════════╗
║ width of pipe = BANDWIDTH (max capacity) ║
║ water actually flowing = THROUGHPUT (real achieved rate ≤ bandwidth) ║
╚══════════════════════════════════════════════════════════════════════════╝
Cosa cruciale, un tubo più largo non lo rende più corto: aggiungere banda non riduce la latenza. Un grosso link transatlantico ha comunque ~80 ms di latenza di round-trip dettati dalla distanza e dalla velocità della luce — non puoi comprarti una via d'uscita al di sotto di essa. È per questo che la latenza, non la banda, domina la sensazione delle app interattive: ogni round trip (DNS, TCP handshake, TLS, poi la richiesta) paga il pedaggio della latenza, e si sommano.
Latenza e throughput interagiscono attraverso il Bandwidth-Delay Product (BDP = banda × round-trip time), la quantità di dati "in volo" per tenere pieno il tubo. Su una "long fat network" ad alta banda e alta latenza, un protocollo come il TCP che aspetta gli ACK non riesce a riempire il tubo a meno che la sua finestra non sia almeno pari al BDP — così il throughput finisce per essere limitato dalla latenza, non dalla banda. Ecco perché un singolo stream TCP su lunga distanza spesso rende meno del previsto anche su un link veloce, ed ecco perché parallelismo, finestre più grandi e CDN (che riducono la distanza, quindi la latenza) aiutano.
Confondere questi tre è uno degli errori di prestazione più comuni — e più gravidi di conseguenze: i team comprano più banda per risolvere quello che in realtà è un problema di latenza e non vedono alcun miglioramento. L'intuizione senior è che la latenza è un limite inferiore fissato dalla fisica (la distanza) che si attacca a livello architetturale — mettere server/CDN più vicini agli utenti, ridurre i round trip (riuso delle connessioni, HTTP/3, caching) e raggruppare le richieste — mentre la banda è spesso qualcosa che puoi semplicemente provisionare. Capire il BDP spiega risultati controintuitivi come un link "veloce" che consegna trasferimenti single-stream lenti, che è esattamente il tipo di ragionamento atteso quando progetti o fai il debug di sistemi ad alte prestazioni distribuiti geograficamente.
Una raccolta di domande di colloquio IT con risposte dettagliate — da Junior a Senior.
Dona