Что ограничивает конкурентность при масштабировании? Объясните contention, false sharing и backpressure.

Question

IT Interview Practice · Accepted Answer

**При масштабировании пропускная способность ограничивается не столько числом CPU, сколько конкуренцией (contention), кэш-эффектами и неограниченными очередями — добавление потоков после определённой точки замедляет работу.** Закон Амдала и Universal Scalability Law оба это предсказывают: стоимость координации в итоге начинает доминировать.

## Contention (конкуренция)

Когда много потоков борются за одну блокировку или кэш-линию, они сериализуются и тратят время на ожидание вместо работы. По Universal Scalability Law конкуренция плюс **стоимость когерентности** могут заставить пропускную способность *снижаться* после оптимального числа потоков.

**Меры смягчения**: шардируйте/партиционируйте данные, состояние на поток (thread-local, полосатые счётчики вроде `LongAdder`), read-write блокировки или lock-free структуры.

## False sharing (ложное разделение)

Две независимые переменные, которые оказываются на **одной кэш-линии CPU**, заставляют ядра инвалидировать кэши друг друга при каждой записи, хотя они никогда не касаются одних и тех же данных — тихое, жестокое замедление.

```text
кэш-линия (64Б): [ counterA | counterB ]  ← два ядра пинг-понгуют линию
Исправление: паддинг, чтобы каждая горячая переменная владела своей линией
```

```java
@Contended long counterA;   // JVM дополняет паддингом до отдельной кэш-линии
```

## Backpressure (обратное давление)

Когда производители обгоняют потребителей, неограниченная очередь растёт до OOM, а задержка взрывается. **Backpressure** сигнализирует производителям замедлиться: ограниченные очереди, которые блокируют или отклоняют, кредитное управление потоком или `request(n)` из reactive-streams.

```text
производитель ──▶ [ограниченная очередь полна] ──▶ блокировка/отказ ──▶ производитель замедляется
```

## Почему это важно

Это эффекты, которые отделяют "работает на 4 ядрах" от "масштабируется до 64". Наивные архитектуры упираются в стену: блокировки сериализуют, кэш-линии пробуксовывают, очереди раздуваются. Шардинг для снижения конкуренции, паддинг для устранения false sharing и backpressure для ограничения очередей — вот рычаги, которые сохраняют задержку и пропускную способность здоровыми под реальной нагрузкой.

Contention (конкуренция)

False sharing (ложное разделение)

Backpressure (обратное давление)

Почему это важно

Похожие вопросы