Kuo skiriasi latency, bandwidth ir throughput?

Question

IT Interview Practice · Accepted Answer

Šie trys apibūdina skirtingus dalykus ir nuolat painiojami. **Latency** yra *delsa* — kiek laiko vienas duomenų vienetas užtrunka keliaudamas iš A į B (matuojama laiku, pvz., ms). **Bandwidth** yra *talpa* — didžiausias duomenų greitis, kurį linija gali nešti (pvz., Gbps). **Throughput** yra *faktinis* greitis, kurį pasiekiate praktikoje, dažniausiai žemesnis už bandwidth. Vamzdžio analogija tai išaiškina:

```text
   ├────────────── length of pipe = LATENCY (how long to traverse) ─────────────┤
   ╔══════════════════════════════════════════════════════════════════════════╗
   ║  width of pipe = BANDWIDTH (max capacity)                                  ║
   ║  water actually flowing = THROUGHPUT (real achieved rate ≤ bandwidth)      ║
   ╚══════════════════════════════════════════════════════════════════════════╝
```

Svarbiausia — **platesnis vamzdis netampa trumpesniu**: bandwidth pridėjimas nesumažina latency. Storas transatlantinis kanalas vis tiek turi ~80 ms round-trip latency, diktuojamą atstumo ir šviesos greičio — jos nenusipirksite žemyn. Būtent todėl latency, o ne bandwidth, dominuoja interaktyvių aplikacijų pojūtį: kiekvienas round trip (DNS, TCP handshake, TLS, tada užklausa) moka latency mokestį, ir jie susideda.

Latency ir throughput sąveikauja per **Bandwidth-Delay Product** (BDP = bandwidth × round-trip time) — kiekį duomenų „kelyje", reikalingą vamzdžiui pilnam laikyti. „Ilgame storame tinkle" (long fat network) su dideliu bandwidth ir didele latency protokolas kaip TCP, laukiantis ACK, negali pripildyti vamzdžio, nebent jo langas yra bent BDP dydžio — tad throughput galiausiai *ribojamas latency*, ne bandwidth. Todėl vienas TCP srautas tolimu atstumu dažnai veikia prasčiau net greitoje linijoje, ir todėl lygiagretumas, didesni langai bei CDN'ai (mažinantys atstumą, taigi latency) padeda.

## Kodėl tai svarbu

Šių trijų sumaišymas yra viena dažniausių — ir svarbiausių pasekmių turinčių — našumo klaidų: komandos perka daugiau bandwidth spręsdamos tai, kas iš tikrųjų yra latency problema, ir nemato jokio pagerėjimo. Senior įžvalga — kad **latency yra fizikos nustatytos grindys** (atstumas), kurias puolate architektūriškai — statote serverius/CDN'us arčiau naudotojų, mažinate round trip'us (jungčių pakartotinis naudojimas, HTTP/3, caching) ir grupuojate užklausas — o bandwidth dažnai galima tiesiog užsakyti. BDP supratimas paaiškina prieštaringus rezultatus kaip „greita" linija, teikianti lėtus vieno srauto perkėlimus — būtent tokio samprotavimo tikimasi, kai projektuojate ar ieškote gedimų didelio našumo, geografiškai paskirstytose sistemose.

Kodėl tai svarbu

Susiję klausimai