Këta të tre përshkruajnë gjëra të ndryshme dhe ngatërrohen vazhdimisht. Latency është vonesa — sa gjatë i duhet një njësie të dhënash për të udhëtuar nga A në B (matur në kohë, p.sh. ms). Bandwidth është kapaciteti — ritmi maksimal i të dhënave që një link mund të bartë (p.sh. Gbps). është ritmi që arrin në praktikë, që zakonisht është nën bandwidth. Një analogji me gyp e bën të qartë:
├────────────── length of pipe = LATENCY (how long to traverse) ─────────────┤
╔══════════════════════════════════════════════════════════════════════════╗
║ width of pipe = BANDWIDTH (max capacity) ║
║ water actually flowing = THROUGHPUT (real achieved rate ≤ bandwidth) ║
╚══════════════════════════════════════════════════════════════════════════╝
Vendimtare, një gyp më i gjerë nuk e bën atë më të shkurtër: shtimi i bandwidth-it nuk e ul latency-në. Një link i trashë transatlantik ka ende ~80 ms latency round-trip të diktuar nga distanca dhe shpejtësia e dritës — nuk mund të blesh rrugë nën të. Kjo është arsyeja pse latency-ja, jo bandwidth-i, dominon ndjesinë e aplikacioneve interaktive: çdo round trip (DNS, TCP handshake, TLS, pastaj kërkesa) paguan taksën e latency-së, dhe ato mblidhen.
Latency dhe throughput ndërveprojnë nëpërmjet Bandwidth-Delay Product (BDP = bandwidth × round-trip time), sasia e të dhënave "në fluturim" për ta mbajtur gypin plot. Në një "long fat network" me bandwidth të lartë e latency të lartë, një protokoll si TCP që pret ACK-të nuk mund ta mbushë gypin nëse window-ja e tij nuk është të paktën sa BDP — kështu që throughput-i përfundon i kufizuar nga latency-ja, jo nga bandwidth-i. Kjo është arsyeja pse një stream i vetëm TCP mbi një distancë të gjatë shpesh performon dobët edhe në një link të shpejtë, dhe pse paralelizmi, window-t më të mëdha, dhe CDN-të (që presin distancën, pra latency-në) ndihmojnë.
Ngatërrimi i këtyre të treve është një nga gabimet më të zakonshme — dhe më me pasoja — të performancës: ekipet blejnë më shumë bandwidth për të rregulluar atë që në të vërtetë është problem latency-je dhe nuk shohin përmirësim. Njohuria e nivelit senior është që latency-ja është një dysheme e vendosur nga fizika (distanca) të cilën e sulmon arkitekturisht — vendos server/CDN më afër përdoruesve, ul round trip-et (ripërdorim lidhjeje, HTTP/3, caching), dhe grumbullo kërkesat — ndërsa bandwidth-i është shpesh diçka që thjesht mund ta sigurosh. Të kuptuarit e BDP shpjegon rezultate kundër-intuitive si një link "i shpejtë" që jep transfere të ngadalta single-stream, që është pikërisht lloji i arsyetimit i pritur kur dizajnon ose debug-on sisteme me performancë të lartë, të shpërndara gjeografikisht.
Një bibliotekë pyetjesh intervistash IT me përgjigje të detajuara — nga Junior te Senior.
Dhuro