Apakah yang mengehadkan keserentakan pada skala besar? Terangkan contention, false sharing, dan backpressure.

Question

IT Interview Practice · Accepted Answer

**Pada skala besar, throughput dihadkan kurang oleh kiraan CPU berbanding oleh contention, kesan cache, dan baris gilir tanpa had — menambah thread melepasi satu tahap menjadikan perkara lebih lambat.** Hukum Amdahl dan Universal Scalability Law kedua-duanya meramalkan ini: kos penyelarasan (coordination) akhirnya mendominasi.

## Contention

Apabila banyak thread berebut untuk satu lock atau satu cache line, ia mensirikan dan menghabiskan masa menunggu dan bukannya bekerja. Di bawah Universal Scalability Law, contention ditambah **kos koheren (coherency cost)** boleh menjadikan throughput *menurun* melepasi kiraan thread yang optimum.

**Mitigasi**: shard/partisi data, keadaan per-thread (thread-local, pembilang berjalur seperti `LongAdder`), read-write lock, atau struktur lock-free.

## False sharing

Dua pemboleh ubah bebas yang kebetulan duduk pada **cache line CPU yang sama** menyebabkan teras membatalkan cache satu sama lain pada setiap tulisan, walaupun ia tidak pernah menyentuh data yang sama — perlahan yang senyap dan kejam.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

Apabila pengeluar (producer) memintas pengguna (consumer), baris gilir tanpa had membesar sehingga OOM dan latensi meletup. **Backpressure** memberi isyarat kepada pengeluar untuk memperlahan: baris gilir berhad yang menyekat atau menolak, kawalan aliran berasaskan-kredit, atau `request(n)` reactive-streams.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## Mengapa ia penting

Inilah kesan yang membezakan "berfungsi pada 4 teras" daripada "berskala kepada 64." Reka bentuk naif melanggar dinding: lock mensirikan, cache line mengasak, baris gilir membengkak. Sharding untuk mengurangkan contention, padding untuk membunuh false sharing, dan backpressure untuk menghadkan baris gilir ialah tuas yang mengekalkan latensi dan throughput sihat di bawah beban sebenar.

Contention

False sharing

Backpressure

Mengapa ia penting

Soalan berkaitan