Scale वर concurrency ला काय मर्यादित करते? Contention, false sharing, आणि backpressure समजावून सांगा.

Question

IT Interview Practice · Accepted Answer

**Scale वर, throughput CPU संख्येपेक्षा contention, cache परिणाम, आणि अमर्याद queues ने अधिक मर्यादित होते — एका बिंदूपलीकडे threads जोडल्याने गोष्टी अधिक हळू होतात.** Amdahl चा आणि Universal Scalability Law हे दोन्ही याचे भाकीत करतात: coordination खर्च अखेरीस प्रबळ होतो.

## Contention

जेव्हा अनेक threads एका lock किंवा cache line साठी भांडतात, तेव्हा ते serialize होतात आणि काम करण्याऐवजी वाट पाहण्यात वेळ घालवतात. Universal Scalability Law खाली, contention अधिक **coherency cost** एका optimal thread संख्येपलीकडे throughput *कमी* करू शकते.

**उपाय**: data shard/partition करा, per-thread state (thread-local, `LongAdder` सारखे striped counters), read-write locks, किंवा lock-free structures.

## False sharing

योगायोगाने **एकाच CPU cache line** वर बसणारे दोन स्वतंत्र variables cores ना प्रत्येक write वर एकमेकांचे caches invalidate करायला लावतात, जरी ते कधीही समान data ला स्पर्श करत नसले तरी — एक गुपचूप, क्रूर मंदावणे.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

जेव्हा producers consumers पेक्षा वेगाने पुढे जातात, तेव्हा एक अमर्याद queue OOM होईपर्यंत वाढते आणि latency स्फोट होते. **Backpressure** producers ना हळू होण्याचा संकेत देते: block किंवा reject करणाऱ्या bounded queues, credit-based flow control, किंवा reactive-streams `request(n)`.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## हे का महत्त्वाचे आहे

हे तेच परिणाम आहेत जे "4 cores वर चालते" आणि "64 पर्यंत scale होते" यांना वेगळे करतात. भोळे designs एका भिंतीवर आदळतात: locks serialize होतात, cache lines thrash होतात, queues फुगतात. Contention कमी करण्यासाठी sharding, false sharing संपवण्यासाठी padding, आणि queues मर्यादित करण्यासाठी backpressure हे levers आहेत जे खऱ्या load खाली latency आणि throughput निरोगी ठेवतात.

Contention

False sharing

Backpressure

हे का महत्त्वाचे आहे

संबंधित प्रश्न