大規模において並行性を制限するものは何ですか。contention、false sharing、backpressureについて説明してください。

Question

IT Interview Practice · Accepted Answer

**大規模では、スループットを制限するのはCPU数よりも、contention、キャッシュの影響、際限のないキューです。ある点を超えてスレッドを増やすと、かえって遅くなります。** Amdahlの法則もUniversal Scalability Lawも、これを予測します。すなわち、協調のコストがやがて支配的になります。

## contention（競合）

多くのスレッドが1つのロックやキャッシュラインを奪い合うと、それらは直列化し、働く代わりに待つ時間を費やします。Universal Scalability Lawのもとでは、contentionに**コヒーレンシコスト**が加わることで、最適なスレッド数を超えるとスループットが*低下*しうるのです。

**緩和策**: データのシャーディング/パーティショニング、スレッドごとの状態（thread-local、`LongAdder`のようなストライプ化カウンタ）、read-writeロック、またはlock-freeな構造。

## false sharing

たまたま**同じCPUキャッシュライン**上に載った2つの独立した変数は、同じデータには決して触れていないのに、書き込みのたびにコアが互いのキャッシュを無効化させます。静かで容赦のない性能低下です。

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## backpressure

プロデューサがコンシューマを上回ると、際限のないキューはOOMに至るまで膨張し、レイテンシが爆発します。**backpressure**はプロデューサに減速を伝えます。ブロックまたは拒否する有界キュー、クレジットベースのフロー制御、あるいはreactive-streamsの`request(n)`です。

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## なぜ重要なのか

これらは、「4コアで動く」と「64コアまでスケールする」を分ける効果です。素朴な設計は壁に突き当たります。ロックが直列化し、キャッシュラインがスラッシングし、キューが膨れ上がります。contentionを減らすためのシャーディング、false sharingを潰すためのパディング、キューを制限するためのbackpressureが、実際の負荷下でレイテンシとスループットを健全に保つてこです。

contention（競合）

false sharing

backpressure

なぜ重要なのか

関連する質問