Ce limitează concurența la scală? Explică contenția, false sharing și backpressure.

Question

IT Interview Practice · Accepted Answer

**La scală, throughput-ul este limitat mai puțin de numărul de CPU-uri cât de contenție, efecte de cache și cozi nelimitate — adăugarea de thread-uri peste un anumit punct înrăutățește lucrurile.** Legea lui Amdahl și Universal Scalability Law prezic ambele asta: costul coordonării ajunge în cele din urmă să domine.

## Contenție

Când multe thread-uri se luptă pentru un lock sau o cache line, ele serializează și petrec timp așteptând în loc să lucreze. Sub Universal Scalability Law, contenția plus **costul de coerență** pot face throughput-ul să *scadă* peste un număr optim de thread-uri.

**Atenuări**: shard/partiționare a datelor, stare per-thread (thread-local, contoare striped precum `LongAdder`), read-write locks sau structuri lock-free.

## False sharing

Două variabile independente care se întâmplă să stea pe **aceeași cache line de CPU** fac core-urile să-și invalideze reciproc cache-urile la fiecare scriere, deși nu ating niciodată aceleași date — o încetinire silențioasă și brutală.

```text
cache line (64B): [ counterA | counterB ]  ← două core-uri ping-pong linia
Remediere: padează astfel încât fiecare variabilă fierbinte să-și dețină propria linie
```

```java
@Contended long counterA;   // JVM padează la o cache line separată
```

## Backpressure

Când producătorii depășesc consumatorii, o coadă nelimitată crește până la OOM și latența explodează. **Backpressure** semnalează producătorilor să încetinească: cozi mărginite care blochează sau resping, control de flux bazat pe credite, sau `request(n)` din reactive-streams.

```text
producător ──▶ [coadă mărginită plină] ──▶ block/reject ──▶ producătorul încetinește
```

## De ce contează

Acestea sunt efectele care separă "merge pe 4 core-uri" de "scalează la 64". Designurile naive lovesc un zid: lock-urile serializează, cache line-urile fac thrashing, cozile se umflă. Sharding-ul pentru a reduce contenția, padding-ul pentru a ucide false sharing și backpressure-ul pentru a mărgini cozile sunt pârghiile care mențin latența și throughput-ul sănătoase sub încărcare reală.

Contenție

False sharing

Backpressure

De ce contează

Întrebări conexe