Što ograničava konkurentnost pri skaliranju? Objasnite natjecanje (contention), false sharing i backpressure.

Question

IT Interview Practice · Accepted Answer

**Pri skaliranju, propusnost je ograničena manje brojem CPU-a, a više natjecanjem, cache efektima i neograničenim redovima — dodavanje niti preko određene točke čini stvari sporijima.** Amdahlov zakon i Univerzalni zakon skalabilnosti oboje to predviđaju: trošak koordinacije naposljetku dominira.

## Natjecanje (contention)

Kada se mnogo niti bori za jedno zaključavanje ili cache liniju, serijaliziraju se i troše vrijeme čekajući umjesto radeći. Pod Univerzalnim zakonom skalabilnosti, natjecanje plus **trošak koherencije** može učiniti da propusnost *padne* nakon optimalnog broja niti.

**Ublažavanja**: shardirajte/particionirajte podatke, stanje po niti (thread-local, prugasti brojači poput `LongAdder`), read-write zaključavanja ili lock-free strukture.

## False sharing

Dvije neovisne varijable koje slučajno sjede na **istoj CPU cache liniji** uzrokuju da jezgre poništavaju cacheve jedna drugoj pri svakom upisu, iako nikada ne dodiruju iste podatke — tiho, brutalno usporavanje.

```text
cache linija (64B): [ counterA | counterB ]  ← dvije jezgre ping-pongaju liniju
Popravak: nadopunite tako da svaka vruća varijabla posjeduje vlastitu liniju
```

```java
@Contended long counterA;   // JVM nadopunjuje do zasebne cache linije
```

## Backpressure

Kada proizvođači nadmašuju potrošače, neograničeni red raste dok ne dođe do OOM-a, a latencija eksplodira. **Backpressure** signalizira proizvođačima da uspore: ograničeni redovi koji blokiraju ili odbijaju, kontrola toka temeljena na kreditima ili reactive-streams `request(n)`.

```text
proizvođač ──▶ [ograničeni red pun] ──▶ blokiraj/odbij ──▶ proizvođač usporava
```

## Zašto je to važno

Ovo su efekti koji razdvajaju "radi na 4 jezgre" od "skalira na 64". Naivni dizajni udaraju u zid: zaključavanja serijaliziraju, cache linije treskaju, redovi se napuhuju. Shardiranje za smanjenje natjecanja, nadopunjavanje za ubijanje false sharinga i backpressure za ograničavanje redova poluge su koje drže latenciju i propusnost zdravima pod stvarnim opterećenjem.

Natjecanje (contention)

False sharing

Backpressure

Zašto je to važno

Povezana pitanja