Hva begrenser samtidighet i stor skala? Forklar contention, false sharing og backpressure.

Question

IT Interview Practice · Accepted Answer

**I stor skala begrenses gjennomstrømningen mindre av antall CPU-er enn av contention, cache-effekter og ubegrensede køer — å legge til tråder forbi et visst punkt gjør ting tregere.** Både Amdahls lov og Universal Scalability Law forutsier dette: koordineringskostnaden dominerer til slutt.

## Contention

Når mange tråder slåss om én lås eller cache-linje, serialiserer de og bruker tid på å vente i stedet for å jobbe. Under Universal Scalability Law kan contention pluss **coherency-kostnad** få gjennomstrømningen til å *synke* forbi et optimalt antall tråder.

**Tiltak**: shard/partisjoner data, per-tråd-tilstand (thread-local, stripede tellere som `LongAdder`), read-write locks eller lock-free-strukturer.

## False sharing

To uavhengige variabler som tilfeldigvis ligger på **samme CPU-cache-linje** får kjerner til å invalidere hverandres cacher ved hver skriving, selv om de aldri berører de samme dataene — en stille, brutal nedgang.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

Når produsenter går fortere enn konsumenter, vokser en ubegrenset kø til OOM og latensen eksploderer. **Backpressure** signaliserer til produsentene om å bremse: begrensede køer som blokkerer eller avviser, kredittbasert flytkontroll, eller reactive-streams `request(n)`.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## Hvorfor det er viktig

Dette er effektene som skiller "funker på 4 kjerner" fra "skalerer til 64." Naive design treffer en vegg: låser serialiserer, cache-linjer thrasher, køer baller på seg. Sharding for å redusere contention, padding for å drepe false sharing, og backpressure for å begrense køer er spakene som holder latens og gjennomstrømning sunne under reell last.

Contention

False sharing

Backpressure

Hvorfor det er viktig

Relaterte spørsmål