Vad begränsar samtidighet vid skala? Förklara contention, false sharing och backpressure.

Question

IT Interview Practice · Accepted Answer

**Vid skala begränsas genomströmningen mindre av antalet CPU:er än av contention, cache-effekter och obegränsade köer — att lägga till trådar förbi en viss punkt gör saker långsammare.** Både Amdahls lag och Universal Scalability Law förutspår detta: koordinationskostnaden dominerar till slut.

## Contention

När många trådar slåss om ett lås eller en cache-line serialiseras de och tillbringar tid med att vänta istället för att arbeta. Under Universal Scalability Law kan contention plus **coherency cost** få genomströmningen att *minska* förbi ett optimalt trådantal.

**Motåtgärder**: sharda/partitionera data, per-tråd-tillstånd (thread-local, striped räknare som `LongAdder`), read-write-lås eller lås-fria strukturer.

## False sharing

Två oberoende variabler som råkar ligga på **samma CPU-cache-line** får kärnor att invalidera varandras cachar vid varje skrivning, trots att de aldrig rör samma data — en tyst, brutal avmattning.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

När producenter går om konsumenter växer en obegränsad kö tills OOM och latensen exploderar. **Backpressure** signalerar till producenter att sakta ner: begränsade köer som blockerar eller avvisar, kreditbaserad flödeskontroll, eller reactive-streams `request(n)`.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## Varför det är viktigt

Det är dessa effekter som skiljer "fungerar på 4 kärnor" från "skalar till 64." Naiva designer går in i en vägg: lås serialiserar, cache-lines tröskar, köer sväller. Sharding för att minska contention, padding för att döda false sharing, och backpressure för att begränsa köer är de spakar som håller latens och genomströmning friska under verklig belastning.

Contention

False sharing

Backpressure

Varför det är viktigt

Relaterade frågor