Was begrenzt Nebenläufigkeit im großen Maßstab? Erkläre Contention, False Sharing und Backpressure.

Question

IT Interview Practice · Accepted Answer

**Im großen Maßstab wird der Durchsatz weniger durch die Anzahl der CPUs begrenzt als durch Contention, Cache-Effekte und unbegrenzte Warteschlangen — Threads über einen Punkt hinaus hinzuzufügen macht die Dinge langsamer.** Amdahls Gesetz und das Universal Scalability Law sagen beide dies voraus: Koordinationskosten dominieren irgendwann.

## Contention

Wenn viele Threads um ein Lock oder eine Cache-Line kämpfen, serialisieren sie sich und verbringen Zeit mit Warten statt mit Arbeiten. Nach dem Universal Scalability Law können Contention plus **Kohärenzkosten** den Durchsatz jenseits einer optimalen Thread-Zahl sogar *sinken* lassen.

**Gegenmaßnahmen**: Daten shardan/partitionieren, Per-Thread-Zustand (Thread-Local, gestreifte Zähler wie `LongAdder`), Read-Write-Locks oder lock-freie Strukturen.

## False Sharing

Zwei unabhängige Variablen, die zufällig auf derselben **CPU-Cache-Line** liegen, führen dazu, dass Kerne bei jedem Schreibvorgang gegenseitig ihre Caches invalidieren, obwohl sie nie dieselben Daten berühren — eine stille, brutale Verlangsamung.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

Wenn Produzenten die Konsumenten überholen, wächst eine unbegrenzte Warteschlange bis zum OOM und die Latenz explodiert. **Backpressure** signalisiert Produzenten, langsamer zu werden: begrenzte Warteschlangen, die blockieren oder ablehnen, kreditbasierte Flusskontrolle oder Reactive-Streams `request(n)`.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## Warum es wichtig ist

Dies sind die Effekte, die \"läuft auf 4 Kernen\" von \"skaliert auf 64\" unterscheiden. Naive Designs laufen gegen eine Wand: Locks serialisieren, Cache-Lines thrashen, Warteschlangen blähen sich auf. Sharding zur Reduzierung von Contention, Padding zum Beseitigen von False Sharing und Backpressure zum Begrenzen von Warteschlangen sind die Hebel, die Latenz und Durchsatz unter realer Last gesund halten.

Contention

False Sharing

Backpressure

Warum es wichtig ist

Ähnliche Fragen