Hvad begrænser concurrency ved skala? Forklar contention, false sharing og backpressure.

Question

IT Interview Practice · Accepted Answer

**Ved skala er throughput begrænset mindre af antal CPU'er end af contention, cache-effekter og ubegrænsede køer — at tilføje tråde ud over et vist punkt gør tingene langsommere.** Både Amdahls lov og Universal Scalability Law forudsiger dette: koordineringsomkostningen dominerer til sidst.

## Contention

Når mange tråde kæmper om én lock eller cache line, serialiserer de og bruger tid på at vente i stedet for at arbejde. Under Universal Scalability Law kan contention plus **coherency cost** få throughput til at *falde* ud over et optimalt trådantal.

**Afhjælpninger**: shard/partitionér data, per-tråd state (thread-local, striped counters som `LongAdder`), read-write locks eller lock-free-strukturer.

## False sharing

To uafhængige variabler, der tilfældigvis ligger på **samme CPU cache line**, får kerner til at invalidere hinandens caches ved hvert write, selvom de aldrig rører de samme data — en tavs, brutal opbremsning.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

Når producers overhaler consumers, vokser en ubegrænset kø, indtil OOM, og latency eksploderer. **Backpressure** signalerer til producers om at sætte farten ned: afgrænsede køer, der blokerer eller afviser, credit-baseret flow control eller reactive-streams `request(n)`.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## Hvorfor det betyder noget

Dette er de effekter, der adskiller "virker på 4 kerner" fra "skalerer til 64". Naive designs rammer en mur: locks serialiserer, cache lines tromler, køer svulmer op. At shardere for at reducere contention, at padde for at dræbe false sharing og backpressure for at afgrænse køer er de løftestænger, der holder latency og throughput sunde under reel belastning.

Contention

False sharing

Backpressure

Hvorfor det betyder noget

Relaterede spørgsmål