O que limita a concorrência em escala? Explique contenção, false sharing e backpressure.

Question

IT Interview Practice · Accepted Answer

**Em escala, a vazão é limitada menos pela contagem de CPUs do que por contenção, efeitos de cache e filas ilimitadas — adicionar threads além de um ponto deixa as coisas mais lentas.** A lei de Amdahl e a Universal Scalability Law ambas preveem isso: o custo de coordenação eventualmente domina.

## Contenção

Quando muitas threads brigam por um lock ou uma cache line, elas serializam e gastam tempo esperando em vez de trabalhando. Sob a Universal Scalability Law, a contenção mais o **custo de coerência** podem fazer a vazão *diminuir* além de uma contagem ótima de threads.

**Mitigações**: fazer shard/particionar dados, estado por thread (thread-local, contadores fatiados como `LongAdder`), read-write locks ou estruturas lock-free.

## False sharing

Duas variáveis independentes que por acaso ficam na **mesma cache line da CPU** fazem os núcleos invalidarem os caches uns dos outros a cada escrita, mesmo que nunca toquem no mesmo dado — uma lentidão silenciosa e brutal.

```text
cache line (64B): [ counterA | counterB ]  ← two cores ping-pong the line
Fix: pad so each hot variable owns its own line
```

```java
@Contended long counterA;   // JVM pads to a separate cache line
```

## Backpressure

Quando produtores superam consumidores, uma fila ilimitada cresce até OOM e a latência explode. **Backpressure** sinaliza aos produtores para desacelerar: filas limitadas que bloqueiam ou rejeitam, controle de fluxo baseado em crédito, ou o `request(n)` de reactive-streams.

```text
producer ──▶ [bounded queue full] ──▶ block/reject ──▶ producer slows
```

## Por que isso importa

Estes são os efeitos que separam "funciona em 4 núcleos" de "escala para 64". Designs ingênuos batem numa parede: locks serializam, cache lines fazem thrashing, filas incham. Fazer sharding para reduzir contenção, padding para eliminar false sharing e backpressure para limitar filas são as alavancas que mantêm latência e vazão saudáveis sob carga real.

Contenção

False sharing

Backpressure

Por que isso importa

Perguntas relacionadas