scale پر concurrency کو کیا محدود کرتا ہے؟ contention، false sharing، اور backpressure کی وضاحت کریں۔

Question

IT Interview Practice · Accepted Answer

**scale پر، throughput CPU کی تعداد سے کم اور contention، cache effects، اور لامحدود queues سے زیادہ محدود ہوتا ہے — ایک حد سے آگے threads بڑھانا چیزوں کو سست کر دیتا ہے۔** Amdahl's اور Universal Scalability Law دونوں یہ پیشگوئی کرتے ہیں: coordination کی لاگت بالآخر غالب آ جاتی ہے۔

## Contention

جب بہت سے threads ایک lock یا cache line کے لیے لڑتے ہیں، تو وہ serialize ہو جاتے ہیں اور کام کرنے کے بجائے انتظار میں وقت گزارتے ہیں۔ Universal Scalability Law کے تحت، contention کے ساتھ **coherency cost** throughput کو ایک optimal thread count سے آگے *کم* کر سکتی ہے۔

**تدارک**: ڈیٹا کو shard/partition کریں، per-thread state (thread-local، striped counters جیسے `LongAdder`)، read-write locks، یا lock-free structures۔

## False sharing

دو آزاد variables جو اتفاقاً **ایک ہی CPU cache line** پر بیٹھتے ہیں cores کو ہر write پر ایک دوسرے کے caches invalidate کرنے پر مجبور کرتے ہیں، حالانکہ وہ کبھی ایک ہی ڈیٹا کو نہیں چھوتے — ایک خاموش، سفاکانہ سست روی۔

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

جب producers consumers سے آگے نکل جاتے ہیں، تو ایک لامحدود queue OOM تک بڑھتی ہے اور latency پھٹ جاتی ہے۔ **Backpressure** producers کو سست ہونے کا اشارہ دیتی ہے: محدود queues جو block یا reject کرتی ہیں، credit-based flow control، یا reactive-streams `request(n)`۔

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## یہ کیوں اہم ہے

یہ وہ اثرات ہیں جو "4 cores پر چلتا ہے" کو "64 تک scale کرتا ہے" سے الگ کرتے ہیں۔ سادہ designs ایک دیوار سے ٹکراتے ہیں: locks serialize کرتے ہیں، cache lines thrash کرتی ہیں، queues پھول جاتی ہیں۔ contention کم کرنے کو sharding، false sharing ختم کرنے کو padding، اور queues کو محدود کرنے کو backpressure وہ levers ہیں جو latency اور throughput کو حقیقی load کے تحت صحت مند رکھتے ہیں۔

Contention

False sharing

Backpressure

یہ کیوں اہم ہے

متعلقہ سوالات