Ketiganya mendeskripsikan hal yang berbeda dan terus-menerus dikacaukan. Latency adalah penundaan — berapa lama satu unit data menempuh perjalanan dari A ke B (diukur dalam waktu, mis. ms). Bandwidth adalah kapasitas — laju data maksimum yang bisa dibawa sebuah link (mis. Gbps). adalah laju yang Anda capai dalam praktik, yang biasanya di bawah bandwidth. Analogi pipa membuatnya klik:
├────────────── length of pipe = LATENCY (how long to traverse) ─────────────┤
╔══════════════════════════════════════════════════════════════════════════╗
║ width of pipe = BANDWIDTH (max capacity) ║
║ water actually flowing = THROUGHPUT (real achieved rate ≤ bandwidth) ║
╚══════════════════════════════════════════════════════════════════════════╝
Yang krusial, pipa yang lebih lebar tidak membuatnya lebih pendek: menambah bandwidth tidak mengurangi latency. Sebuah link transatlantik gemuk tetap punya ~80 ms latency round-trip yang ditentukan oleh jarak dan kecepatan cahaya — Anda tak bisa membelinya agar lebih rendah. Inilah mengapa latency, bukan bandwidth, mendominasi rasa aplikasi interaktif: tiap round trip (DNS, TCP handshake, TLS, lalu request) membayar tol latency, dan semuanya menumpuk.
Latency dan throughput berinteraksi melalui Bandwidth-Delay Product (BDP = bandwidth × round-trip time), yaitu jumlah data "dalam perjalanan" untuk menjaga pipa tetap penuh. Pada "long fat network" berbandwidth tinggi dan berlatency tinggi, sebuah protokol seperti TCP yang menunggu ACK tak bisa memenuhi pipa kecuali window-nya minimal sebesar BDP — sehingga throughput akhirnya dibatasi oleh latency, bukan bandwidth. Itulah mengapa satu stream TCP pada jarak jauh sering berkinerja buruk bahkan di link cepat, dan mengapa paralelisme, window yang lebih besar, dan CDN (yang memangkas jarak, dengan demikian latency) membantu.
Mengacaukan ketiganya adalah salah satu kesalahan performa yang paling umum — dan paling berdampak: tim membeli lebih banyak bandwidth untuk memperbaiki apa yang sebenarnya masalah latency dan tak melihat peningkatan. Wawasan senior-nya adalah bahwa latency adalah batas bawah yang ditetapkan fisika (jarak) yang Anda serang secara arsitektural — tempatkan server/CDN lebih dekat ke pengguna, kurangi round trip (penggunaan ulang koneksi, HTTP/3, caching), dan gabungkan request — sedangkan bandwidth sering bisa Anda sediakan begitu saja. Memahami BDP menjelaskan hasil yang berlawanan dengan intuisi seperti link "cepat" yang mengantar transfer single-stream yang lambat, persis jenis penalaran yang diharapkan ketika Anda merancang atau men-debug sistem berkinerja tinggi yang tersebar secara geografis.
Perpustakaan pertanyaan wawancara IT dengan jawaban mendetail — dari Junior hingga Senior.
Donasi