Ölçekte eşzamanlılığı ne sınırlar? Contention, false sharing ve backpressure'ı açıklayın.

Question

IT Interview Practice · Accepted Answer

**Ölçekte throughput, CPU sayısından çok contention, cache etkileri ve sınırsız kuyruklarla sınırlanır — bir noktadan sonra thread eklemek işleri yavaşlatır.** Amdahl ve Universal Scalability Law'un her ikisi de bunu öngörür: koordinasyon maliyeti sonunda baskın gelir.

## Contention

Birçok thread tek bir kilit veya cache line için mücadele ettiğinde, serileşir ve çalışmak yerine bekleyerek zaman harcar. Universal Scalability Law altında, contention artı **coherency maliyeti**, throughput'un optimal bir thread sayısından sonra *azalmasına* neden olabilir.

**Azaltmalar**: veriyi shard'la/partition'la, thread başına durum (thread-local, `LongAdder` gibi çizgili sayaçlar), read-write lock'lar veya lock-free yapılar.

## False sharing

Aynı verilere hiç dokunmasalar bile aynı **CPU cache line**'ında bulunan iki bağımsız değişken, çekirdeklerin her yazmada birbirinin cache'ini geçersiz kılmasına neden olur — sessiz, acımasız bir yavaşlama.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

Üreticiler tüketicileri geçtiğinde, sınırsız bir kuyruk OOM'a kadar büyür ve latency patlar. **Backpressure**, üreticilere yavaşlamalarını sinyaller: bloklayan veya reddeden sınırlı kuyruklar, kredi tabanlı akış kontrolü veya reactive-streams `request(n)`.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## Neden önemli

Bunlar, "4 çekirdekte çalışır" ile "64 çekirdeğe ölçeklenir" arasındaki farkı yaratan etkilerdir. Naif tasarımlar bir duvara çarpar: kilitler serileşir, cache line'lar dövülür, kuyruklar şişer. Contention'ı azaltmak için sharding, false sharing'i öldürmek için padding ve kuyrukları sınırlamak için backpressure, gerçek yük altında latency ve throughput'u sağlıklı tutan kaldıraçlardır.

Contention

False sharing

Backpressure

Neden önemli

İlgili sorular