Kako obravnavate vroč ključ (hot key) ali vročo vrstico (hot row) pod močnim tekmovanjem?

Question

IT Interview Practice · Accepted Answer

**Nehajte usmerjati ves promet na en ključ: razdelite vroč ključ v N pod-ključev (razdeljeni/sharded števci), združite podvojena branja (coalesce), strežite iz lokalnega predpomnilnika in paketirajte zapise, tako da ena vrstica ni posodobljena ob vsaki zahtevi.** En sam "všečki" števec na viralni objavi lahko prejme 50k zapisov/s — ena vrstica postane ozko grlo serializacije, ko vsaka transakcija tekmuje za isti lock.

## Razpršitev (fan-out) namesto ene tekmovane vrstice

```text
                 50k inc/sec on post:123
                          │
             hash(request) % N   (split the key)
        ┌────────┬────────┬────────┬────────┐
        ▼        ▼        ▼        ▼        ▼
   likes:123:0  :123:1  :123:2  :123:3  :123:4   ← sharded counters
        └────────┴───┬────┴────────┴────────┘
                     ▼
             SUM on read = total     (read fans in)
```

## Tehnike

- **Razdeljen (sharded) števec / delitev ključa.** Zapišite v `likes:123:{0..N}`, izbran naključno; pravo število je `SUM`. To spremeni eno vročo vrstico v N hladnejših vrstic, kar zmanjša tekmovanje za lock za ~N. Branja plačajo majhen strošek združevanja (fan-in).
- **Združevanje zahtev (single-flight).** Če 10k zahtev hoče isti ključ naenkrat, naj **ena** zadene DB, ostale pa čakajo na ta rezultat v teku. Prepreči, da bi naval ob zgrešitvi predpomnilnika zdrobil vrstico.
- **Lokalni (in-process) predpomnilnik.** Predpomnite vročo vrednost v vsakem aplikacijskem vozlišču za kratek TTL (npr. 1 s). Za bralno-vroč ključ to zloži tisoče branj/s v eno osvežitev — s sprejemom rahle zastarelosti.
- **Paketiranje zapisov.** Medpomnite povečanja v pomnilniku in izperite `+= 500` enkrat na sekundo namesto 500 posameznih posodobitev. Ena posodobitev vrstice na sekundo namesto 500 povsem odstrani tekmovanje.

## Pogled s stališča razgovora

Izpraševalec želi videti, da diagnosticirate, **kje je tekmovanje**, in uskladite popravek z bralno-vroč proti zapisno-vroč. Bralno-vroč → predpomnilnik + združevanje; zapisno-vroč → razdeljeni števci + paketiranje. Dober odgovor našteje tehnike; odličen pripomni, da sharding menja **strošek branja za skalabilnost zapisov** in da paketiranje/predpomnjenje menjata **svežino za throughput**.

**Kompromisi in pasti:** razdeljeni števci otežijo natančne realno-časovne vsote (seštevate sharde) in zapletejo logiko "zmanjšaj pod nič". Lokalni predpomnilniki drsijo (drift) čez vozlišča — v redu za število všečkov, napačno za bančno stanje. Paketiranje tvega izgubo medpomnjenih zapisov, če se vozlišče sesuje pred izpiranjem, zato ustreza idempotentnim/približnim števcem, ne denarju. Izberite ublažitev, ki jo dopuščajo potrebe po konsistentnosti podatkov.

Razpršitev (fan-out) namesto ene tekmovane vrstice

Tehnike

Pogled s stališča razgovora

Povezana vprašanja