¿Qué limita la concurrencia a escala? Explica la contención, el false sharing y la backpressure.

Question

IT Interview Practice · Accepted Answer

**A escala, el rendimiento está limitado menos por el número de CPU que por la contención, los efectos de caché y las colas sin límites — añadir hilos más allá de cierto punto hace las cosas más lentas.** Tanto la ley de Amdahl como la Ley Universal de Escalabilidad lo predicen: el coste de coordinación acaba dominando.

## Contención

Cuando muchos hilos pelean por un lock o una línea de caché, se serializan y pasan tiempo esperando en lugar de trabajando. Bajo la Ley Universal de Escalabilidad, la contención más el **coste de coherencia** pueden hacer que el rendimiento *disminuya* pasado un número óptimo de hilos.

**Mitigaciones**: fragmentar/particionar los datos, estado por hilo (thread-local, contadores segmentados como `LongAdder`), read-write locks o estructuras lock-free.

## False sharing

Dos variables independientes que resultan estar en la **misma línea de caché de la CPU** hacen que los núcleos invaliden las cachés de los demás en cada escritura, aunque nunca toquen los mismos datos — una ralentización silenciosa y brutal.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

Cuando los productores superan a los consumidores, una cola sin límites crece hasta el OOM y la latencia explota. La **backpressure** señala a los productores que reduzcan la marcha: colas acotadas que bloquean o rechazan, control de flujo basado en créditos, o el `request(n)` de reactive-streams.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## Por qué es importante

Estos son los efectos que separan "funciona en 4 núcleos" de "escala a 64". Los diseños ingenuos chocan contra un muro: los locks serializan, las líneas de caché hacen thrashing, las colas se disparan. Fragmentar para reducir la contención, rellenar (padding) para matar el false sharing, y la backpressure para acotar las colas son las palancas que mantienen sanas la latencia y el rendimiento bajo carga real.

Contención

False sharing

Backpressure

Por qué es importante

Preguntas relacionadas