Эти три описывают разные вещи и их постоянно путают. Latency (задержка) — это задержка: сколько времени одна единица данных занимает при переходе из A в B (измеряется во времени, например мс). Bandwidth (пропускная способность) — это : максимальная скорость данных, которую канал может нести (например, Gbps). — это скорость, которую вы достигаете на практике, обычно ниже bandwidth. Аналогия с трубой помогает уложить это в голове:
├────────────── length of pipe = LATENCY (how long to traverse) ─────────────┤
╔══════════════════════════════════════════════════════════════════════════╗
║ width of pipe = BANDWIDTH (max capacity) ║
║ water actually flowing = THROUGHPUT (real achieved rate ≤ bandwidth) ║
╚══════════════════════════════════════════════════════════════════════════╝
Критически, более широкая труба не делает её короче: добавление bandwidth не снижает latency. У толстого трансатлантического канала всё равно ~80 мс задержки round-trip, диктуемой расстоянием и скоростью света — вы не можете купить путь под неё. Вот почему именно latency, а не bandwidth, доминирует в ощущении интерактивных приложений: каждый round trip (DNS, TCP handshake, TLS, затем сам запрос) платит пошлину задержки, и они складываются.
Latency и throughput взаимодействуют через Bandwidth-Delay Product (BDP = bandwidth × round-trip time) — объём данных «в полёте», нужный, чтобы держать трубу полной. На высокоскоростном, высоколатентном «длинном толстом канале» протокол вроде TCP, ждущий ACK, не может заполнить трубу, пока его окно не станет хотя бы равным BDP — так что throughput в итоге ограничен задержкой, а не bandwidth. Вот почему один TCP-поток на большом расстоянии часто недорабатывает даже на быстром канале, и почему параллелизм, бо́льшие окна и CDN (которые сокращают расстояние, а значит latency) помогают.
Смешение этих трёх — одна из самых частых и самых значимых ошибок производительности: команды покупают больше bandwidth, чтобы починить то, что на самом деле является проблемой latency, и не видят улучшения. Понимание уровня senior в том, что latency — это пол, заданный физикой (расстоянием), который вы атакуете архитектурно — размещайте серверы/CDN ближе к пользователям, сокращайте round trip (повторное использование соединений, HTTP/3, кэширование) и батчируйте запросы, — тогда как bandwidth часто можно просто выделить. Понимание BDP объясняет контринтуитивные результаты вроде «быстрого» канала, дающего медленные однопоточные передачи, — а это именно то рассуждение, которое ожидается, когда вы проектируете или отлаживаете высокопроизводительные, географически распределённые системы.
Библиотека вопросов для IT-собеседований с подробными ответами — от Junior до Senior.
Поддержать