ਵੱਡੇ ਪੱਧਰ 'ਤੇ concurrency ਨੂੰ ਕੀ ਸੀਮਿਤ ਕਰਦਾ ਹੈ? contention, false sharing, ਅਤੇ backpressure ਸਮਝਾਓ।

Question

IT Interview Practice · Accepted Answer

**ਵੱਡੇ ਪੱਧਰ 'ਤੇ, throughput CPU count ਨਾਲੋਂ ਘੱਟ contention, cache effects, ਅਤੇ ਬੇਹੱਦ queues ਦੁਆਰਾ ਸੀਮਿਤ ਹੁੰਦਾ ਹੈ — ਇੱਕ ਹੱਦ ਤੋਂ ਬਾਅਦ threads ਜੋੜਨਾ ਚੀਜ਼ਾਂ ਨੂੰ ਹੌਲੀ ਕਰ ਦਿੰਦਾ ਹੈ।** Amdahl ਦਾ ਅਤੇ Universal Scalability Law ਦੋਵੇਂ ਇਹ ਭਵਿੱਖਬਾਣੀ ਕਰਦੇ ਹਨ: coordination ਲਾਗਤ ਆਖ਼ਰਕਾਰ ਭਾਰੀ ਪੈ ਜਾਂਦੀ ਹੈ।

## Contention

ਜਦੋਂ ਕਈ threads ਇੱਕ lock ਜਾਂ cache line ਲਈ ਲੜਦੇ ਹਨ, ਉਹ serialize ਹੋ ਜਾਂਦੇ ਹਨ ਅਤੇ ਕੰਮ ਕਰਨ ਦੀ ਬਜਾਏ ਉਡੀਕ ਵਿੱਚ ਸਮਾਂ ਬਿਤਾਉਂਦੇ ਹਨ। Universal Scalability Law ਹੇਠ, contention ਦੇ ਨਾਲ **coherency cost** throughput ਨੂੰ ਇੱਕ optimal thread count ਤੋਂ ਬਾਅਦ *ਘਟਾ* ਵੀ ਸਕਦੀ ਹੈ।

**ਉਪਾਅ**: ਡੇਟਾ ਨੂੰ shard/partition ਕਰੋ, per-thread state (thread-local, striped counters ਜਿਵੇਂ `LongAdder`), read-write locks, ਜਾਂ lock-free structures।

## False sharing

ਦੋ ਸੁਤੰਤਰ variables ਜੋ ਇਤਫ਼ਾਕ ਨਾਲ **ਇੱਕੋ CPU cache line** ਉੱਤੇ ਬੈਠਦੇ ਹਨ, cores ਨੂੰ ਹਰ write 'ਤੇ ਇੱਕ-ਦੂਜੇ ਦੀਆਂ caches invalidate ਕਰਨ ਲਈ ਮਜਬੂਰ ਕਰਦੇ ਹਨ, ਭਾਵੇਂ ਉਹ ਕਦੇ ਇੱਕੋ ਡੇਟਾ ਨੂੰ ਨਹੀਂ ਛੂਹੰਦੇ — ਇੱਕ ਚੁੱਪ, ਬੇਰਹਿਮ ਮੰਦੀ।

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

ਜਦੋਂ producers consumers ਤੋਂ ਅੱਗੇ ਨਿਕਲ ਜਾਂਦੇ ਹਨ, ਇੱਕ ਬੇਹੱਦ queue OOM ਤੱਕ ਵਧਦੀ ਜਾਂਦੀ ਹੈ ਅਤੇ latency ਫਟ ਪੈਂਦੀ ਹੈ। **Backpressure** producers ਨੂੰ ਹੌਲੀ ਹੋਣ ਦਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ: bounded queues ਜੋ block ਜਾਂ reject ਕਰਦੀਆਂ ਹਨ, credit-based flow control, ਜਾਂ reactive-streams `request(n)`।

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## ਇਹ ਮਹੱਤਵਪੂਰਨ ਕਿਉਂ ਹੈ

ਇਹ ਉਹ ਪ੍ਰਭਾਵ ਹਨ ਜੋ "4 cores 'ਤੇ ਕੰਮ ਕਰਦਾ ਹੈ" ਨੂੰ "64 ਤੱਕ scale ਕਰਦਾ ਹੈ" ਤੋਂ ਵੱਖ ਕਰਦੇ ਹਨ। ਭੋਲੇ designs ਇੱਕ ਕੰਧ ਨਾਲ ਟਕਰਾਉਂਦੇ ਹਨ: locks serialize ਕਰਦੇ ਹਨ, cache lines thrash ਕਰਦੀਆਂ ਹਨ, queues ਫੁੱਲ ਜਾਂਦੀਆਂ ਹਨ। contention ਘਟਾਉਣ ਲਈ sharding, false sharing ਨੂੰ ਮਾਰਨ ਲਈ padding, ਅਤੇ queues ਨੂੰ ਸੀਮਿਤ ਕਰਨ ਲਈ backpressure ਉਹ levers ਹਨ ਜੋ ਅਸਲ load ਹੇਠ latency ਅਤੇ throughput ਨੂੰ ਸਿਹਤਮੰਦ ਰੱਖਦੇ ਹਨ।

Contention

False sharing

Backpressure

ਇਹ ਮਹੱਤਵਪੂਰਨ ਕਿਉਂ ਹੈ

ਸੰਬੰਧਿਤ ਸਵਾਲ