Qu'est-ce qui limite la concurrence à grande échelle ? Expliquez la contention, le false sharing et la backpressure.

Question

IT Interview Practice · Accepted Answer

**À grande échelle, le débit est limité moins par le nombre de CPU que par la contention, les effets de cache et les files non bornées — au-delà d'un certain point, ajouter des threads ralentit les choses.** La loi d'Amdahl et la Universal Scalability Law le prédisent toutes deux : le coût de coordination finit par dominer.

## Contention

Quand de nombreux threads se disputent un même verrou ou une même ligne de cache, ils se sérialisent et passent du temps à attendre au lieu de travailler. Selon la Universal Scalability Law, la contention plus le **coût de cohérence** peut faire *décroître* le débit au-delà d'un nombre optimal de threads.

**Atténuations** : shardez/partitionnez les données, un état par thread (thread-local, compteurs striped comme `LongAdder`), des verrous read-write, ou des structures lock-free.

## False sharing

Deux variables indépendantes qui se trouvent sur la **même ligne de cache CPU** amènent les cœurs à invalider mutuellement leurs caches à chaque écriture, alors même qu'ils ne touchent jamais aux mêmes données — un ralentissement silencieux et brutal.

```text
ligne de cache (64 o) : [ counterA | counterB ]  ← deux cœurs se renvoient la ligne
Correctif : ajoutez du padding pour que chaque variable chaude ait sa propre ligne
```

```java
@Contended long counterA;   // la JVM ajoute du padding vers une ligne de cache séparée
```

## Backpressure

Quand les producteurs vont plus vite que les consommateurs, une file non bornée grossit jusqu'à l'OOM et la latence explose. La **backpressure** signale aux producteurs de ralentir : des files bornées qui bloquent ou rejettent, un contrôle de flux à base de crédits, ou le `request(n)` des reactive streams.

```text
producteur ──▶ [file bornée pleine] ──▶ bloque/rejette ──▶ le producteur ralentit
```

## Pourquoi c'est important

Ce sont les effets qui séparent "ça marche sur 4 cœurs" de "ça passe à l'échelle sur 64". Les conceptions naïves se heurtent à un mur : les verrous sérialisent, les lignes de cache s'emballent, les files enflent. Sharder pour réduire la contention, ajouter du padding pour tuer le false sharing, et la backpressure pour borner les files sont les leviers qui gardent la latence et le débit sains sous charge réelle.

Contention

False sharing

Backpressure

Pourquoi c'est important

Questions connexes