latency、bandwidth、throughput の違いは何ですか？

Question

IT Interview Practice · Accepted Answer

この 3 つは異なるものを記述し、絶えず混同されます。**Latency** は*遅延* — 1 単位のデータが A から B へ移動するのにかかる時間（時間で測る、例：ms）です。**Bandwidth** は*容量* — リンクが運べる最大データレート（例：Gbps）です。**Throughput** は、実際に達成される*実測*レートで、通常は bandwidth を下回ります。パイプの比喩でしっくりきます：

```text
   ├────────────── length of pipe = LATENCY (how long to traverse) ─────────────┤
   ╔══════════════════════════════════════════════════════════════════════════╗
   ║  width of pipe = BANDWIDTH (max capacity)                                  ║
   ║  water actually flowing = THROUGHPUT (real achieved rate ≤ bandwidth)      ║
   ╚══════════════════════════════════════════════════════════════════════════╝
```

決定的に、**太いパイプはパイプを短くしません**：bandwidth を増やしても latency は減りません。太い大西洋横断リンクでも、距離と光速に規定される約 80 ms の往復 latency があり — お金で下回ることはできません。これが、対話的アプリの体感を支配するのが bandwidth ではなく latency である理由です：各往復（DNS、TCP handshake、TLS、そしてリクエスト）が latency の通行料を払い、それらが積み重なります。

latency と throughput は **Bandwidth-Delay Product**（BDP = bandwidth × round-trip time）を通じて相互作用します。これはパイプを満たし続けるために「飛行中」にすべきデータ量です。高 bandwidth・高 latency の「long fat network」では、ACK を待つ TCP のようなプロトコルは、ウィンドウが少なくとも BDP でなければパイプを満たせません — そのため throughput は結局、bandwidth ではなく *latency に制限されます*。これが、長距離での 1 本の TCP ストリームが、速いリンク上でさえしばしば力不足になる理由であり、並列化、より大きなウィンドウ、そして（距離、ひいては latency を削る）CDN が助けになる理由です。

## なぜ重要なのか

この 3 つを混同することは、最も一般的で — 最も結果が重い — 性能上の誤りの 1 つです：チームは実は latency の問題であるものを直そうとして bandwidth を買い増し、改善が見られません。senior の洞察は、**latency は物理（距離）が定める床**であり、それはアーキテクチャで攻める — サーバー/CDN をユーザーの近くに置き、往復を減らし（接続の再利用、HTTP/3、caching）、リクエストをまとめる — 一方、bandwidth はしばしば単にプロビジョニングできるものだ、ということです。BDP を理解すれば、「速い」リンクが 1 本のストリームの転送を遅く届けるといった直観に反する結果を説明でき、これはまさに、高性能で地理的に分散したシステムを設計またはデバッグするときに期待される種類の推論です。

なぜ重要なのか

関連する質問