X'jillimita l-concurrency fuq skala kbira? Spjega l-contention, false sharing, u backpressure.

Question

IT Interview Practice · Accepted Answer

**Fuq skala kbira, it-throughput jiġi limitat inqas min-numru ta' CPUs milli mill-contention, l-effetti tal-cache, u l-queues bla limitu — li żżid threads lil hinn minn ċertu punt jagħmel l-affarijiet aktar bilmod.** Il-Liġi ta' Amdahl u l-Universal Scalability Law it-tnejn ibassru dan: l-ispiża tal-koordinazzjoni eventwalment tiddomina.

## Contention

Meta ħafna threads jiġġieldu għal lock wieħed jew cache line waħda, jissirjalizzaw u jqattgħu ħin jistennew minflok jaħdmu. Taħt l-Universal Scalability Law, il-contention flimkien mal-**coherency cost** jista' jġiegħel it-throughput *jonqos* lil hinn minn għadd optimali ta' threads.

**Mitigazzjonijiet**: sharding/partitioning tad-data, state per-thread (thread-local, striped counters bħal `LongAdder`), read-write locks, jew strutturi lock-free.

## False sharing

Żewġ varjabbli indipendenti li jiġri li jinsabu fuq l-**istess CPU cache line** iġiegħlu l-cores jinvalidaw il-caches ta' xulxin f'kull write, anke jekk qatt ma jmissu l-istess data — tnaqqis fil-veloċità siekt u brutali.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

Meta l-producers jgħaddu l-consumers fil-veloċità, queue bla limitu tikber sakemm OOM u l-latency tisplodi. Il-**backpressure** tagħti sinjal lill-producers biex inaqqsu: bounded queues li jimblukkaw jew jirrifjutaw, credit-based flow control, jew `request(n)` tar-reactive-streams.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## Għaliex huwa importanti

Dawn huma l-effetti li jifirdu "jaħdem fuq 4 cores" minn "jiskala għal 64." Disinji naïve jaħbtu ma' ħajt: il-locks jissirjalizzaw, il-cache lines jitħarbtu, il-queues jonfħu. Is-sharding biex tnaqqas il-contention, il-padding biex toqtol il-false sharing, u l-backpressure biex tillimita l-queues huma l-lievi li jżommu l-latency u t-throughput f'saħħithom taħt il-load reali.

Contention

False sharing

Backpressure

Għaliex huwa importanti

Mistoqsijiet relatati