scale પર concurrency ને શું મર્યાદિત કરે છે? contention, false sharing, અને backpressure સમજાવો.

Question

IT Interview Practice · Accepted Answer

**scale પર, throughput CPU count કરતાં contention, cache effects, અને unbounded queues દ્વારા વધુ મર્યાદિત થાય છે — એક બિંદુ પછી threads ઉમેરવાથી વસ્તુઓ ધીમી પડે છે.** Amdahl નો અને Universal Scalability Law બંને આની આગાહી કરે છે: coordination ખર્ચ આખરે પ્રભુત્વ ધરાવે છે.

## Contention

જ્યારે ઘણા threads એક lock કે cache line માટે લડે છે, ત્યારે તે serialize થાય છે અને કામ કરવાને બદલે રાહ જોવામાં સમય વિતાવે છે. Universal Scalability Law હેઠળ, contention વત્તા **coherency cost** throughput ને optimal thread count પછી *ઘટાડી* શકે છે.

**ઉપાયો**: data ને shard/partition કરો, per-thread state (thread-local, striped counters જેમ કે `LongAdder`), read-write locks, કે lock-free structures.

## False sharing

બે સ્વતંત્ર variables જે સંયોગથી **એ જ CPU cache line** પર બેસે છે, cores ને દરેક write પર એકબીજાનાં caches invalidate કરાવે છે, ભલે તે ક્યારેય એ જ data ને સ્પર્શતાં નથી — એક ચૂપ, ક્રૂર slowdown.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

જ્યારે producers consumers ને પાછળ છોડે છે, ત્યારે unbounded queue OOM સુધી વધે છે અને latency ફાટે છે. **Backpressure** producers ને ધીમા પડવા સંકેત આપે છે: bounded queues જે block કરે કે reject કરે, credit-based flow control, કે reactive-streams `request(n)`.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## આ શા માટે મહત્વનું છે

આ એ અસરો છે જે "4 cores પર કામ કરે છે" ને "64 સુધી scale થાય છે" થી અલગ પાડે છે. Naive designs દીવાલ સાથે અથડાય છે: locks serialize કરે છે, cache lines thrash થાય છે, queues ફૂલે છે. contention ઘટાડવા sharding, false sharing મારવા padding, અને queues ને bound કરવા backpressure એ levers છે જે વાસ્તવિક load હેઠળ latency અને throughput ને તંદુરસ્ત રાખે છે.

Contention

False sharing

Backpressure

આ શા માટે મહત્વનું છે

સંબંધિત પ્રશ્નો