Kas riboja konkurentumą dideliu masteliu? Paaiškinkite konkurenciją (contention), klaidingą dalijimąsi (false sharing) ir atgalinį spaudimą (backpressure).

Question

IT Interview Practice · Accepted Answer

**Dideliu masteliu pralaidumą riboja ne tiek CPU skaičius, kiek konkurencija, kešo efektai ir neribotos eilės — pridėjus gijų virš tam tikro taško viskas tampa lėčiau.** Ir Amdahlo, ir Universalus mastelėjimo dėsnis (Universal Scalability Law) tai prognozuoja: koordinavimo kaštai galiausiai dominuoja.

## Konkurencija

Kai daug gijų kaunasi dėl vieno užrakto ar kešo linijos, jos serializuojasi ir leidžia laiką laukdamos, o ne dirbdamos. Pagal Universalų mastelėjimo dėsnį, konkurencija plius **koherentiškumo kaštai** gali priversti pralaidumą *mažėti* virš optimalaus gijų skaičiaus.

**Sušvelninimai**: šardinkite/skaidykite duomenis, per gijos būsena (thread-local, dryžuoti skaitikliai kaip `LongAdder`), skaitymo-rašymo užraktai arba be užraktų struktūros.

## Klaidingas dalijimasis

Du nepriklausomi kintamieji, kurie atsitiktinai sėdi toje pačioje **CPU kešo linijoje**, priverčia branduolius panaikinti vienas kito kešus kiekvieno rašymo metu, nors jie niekada neliečia tų pačių duomenų — tylus, brutalus sulėtėjimas.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Atgalinis spaudimas

Kai gamintojai aplenkia vartotojus, neribota eilė auga iki OOM, o delsa sprogsta. **Atgalinis spaudimas** signalizuoja gamintojams sulėtėti: ribotos eilės, kurios blokuoja ar atmeta, kredito pagrindu paremtas srauto valdymas arba reaktyviųjų srautų (reactive-streams) `request(n)`.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## Kodėl tai svarbu

Tai yra efektai, kurie atskiria „veikia ant 4 branduolių“ nuo „mastelėja iki 64“. Naivūs projektai atsitrenkia į sieną: užraktai serializuoja, kešo linijos trikdomos, eilės išsipučia. Šardinimas konkurencijai mažinti, papildymas (padding) klaidingam dalijimuisi žudyti ir atgalinis spaudimas eilėms riboti yra svertai, kurie išlaiko delsą ir pralaidumą sveikus esant realiai apkrovai.

Konkurencija

Klaidingas dalijimasis

Atgalinis spaudimas

Kodėl tai svarbu

Susiję klausimai