scale-এ concurrency কী সীমিত করে? contention, false sharing, এবং backpressure ব্যাখ্যা করুন।

Question

IT Interview Practice · Accepted Answer

**Scale-এ, throughput CPU সংখ্যার চেয়ে contention, cache effect, এবং unbounded queue দ্বারা কম সীমিত হয় — একটি বিন্দুর পরে thread যোগ করা জিনিসগুলো ধীর করে দেয়।** Amdahl-এর এবং Universal Scalability Law উভয়ই এটি ভবিষ্যদ্বাণী করে: coordination খরচ শেষ পর্যন্ত প্রাধান্য পায়।

## Contention

যখন অনেক thread একটি lock বা cache line-এর জন্য লড়াই করে, তারা serialize করে এবং কাজ করার বদলে অপেক্ষা করে সময় ব্যয় করে। Universal Scalability Law-এর অধীনে, contention এবং **coherency খরচ** throughput-কে একটি optimal thread সংখ্যার পরে *কমিয়ে* দিতে পারে।

**প্রশমন**: ডেটা shard/partition করুন, per-thread state (thread-local, `LongAdder`-এর মতো striped counter), read-write lock, বা lock-free structure।

## False sharing

দুটি স্বাধীন variable যা ঘটনাক্রমে **একই CPU cache line**-এ বসে, core-দের প্রতিটি write-এ একে অপরের cache invalidate করায়, যদিও তারা কখনো একই ডেটা স্পর্শ করে না — একটি নীরব, নিষ্ঠুর মন্থরতা।

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

যখন producer consumer-কে ছাড়িয়ে যায়, একটি unbounded queue OOM পর্যন্ত বাড়ে এবং latency বিস্ফোরিত হয়। **Backpressure** producer-কে ধীর হতে সংকেত দেয়: bounded queue যা block বা reject করে, credit-based flow control, বা reactive-streams `request(n)`।

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## এটি কেন গুরুত্বপূর্ণ

এগুলো সেই প্রভাব যা "4 core-এ কাজ করে" থেকে "64-এ scale করে"-কে আলাদা করে। Naive design একটি দেয়ালে ধাক্কা খায়: lock serialize করে, cache line thrash করে, queue ফুলে যায়। contention কমাতে sharding, false sharing মারতে padding, এবং queue bound করতে backpressure হলো সেই lever যা বাস্তব load-এর অধীনে latency ও throughput সুস্থ রাখে।

Contention

False sharing

Backpressure

এটি কেন গুরুত্বপূর্ণ

সম্পর্কিত প্রশ্ন