Kif timmaniġġja hot key jew hot row taħt kontenzjoni qawwija?

Question

IT Interview Practice · Accepted Answer

**Waqqaf milli tqiegħed it-traffiku kollu fuq key wieħed: aqsam il-hot key f'N sub-keys (sharded counters), għaqqad reads duplikati, servi minn local cache, u agħmel batch tal-writes biex row wieħed ma jkunx aġġornat f'kull talba.** Counter wieħed ta' "likes" fuq post virali jista' jieħu 50k write/sek — row wieħed isir serialization bottleneck hekk kif kull transaction tiġġieled għall-istess lock.

## Fan-out minflok row ikkontenzjonat wieħed

```text
                 50k inc/sec on post:123
                          │
             hash(request) % N   (split the key)
        ┌────────┬────────┬────────┬────────┐
        ▼        ▼        ▼        ▼        ▼
   likes:123:0  :123:1  :123:2  :123:3  :123:4   ← sharded counters
        └────────┴───┬────┴────────┴────────┘
                     ▼
             SUM on read = total     (read fans in)
```

## Tekniki

- **Sharded counter / key splitting.** Ikteb lejn `likes:123:{0..N}` magħżul b'mod każwali; l-għadd veru huwa s-`SUM`. Dan ibiddel hot row wieħed f'N row aktar kesħin, u jnaqqas il-lock contention b'~N. Ir-reads iħallsu kost żgħir ta' fan-in.
- **Request coalescing (single-flight).** Jekk 10k talba jridu l-istess key f'daqqa, ħalli **waħda** tolqot id-DB u ħalli l-bqija jistennew fuq dak ir-riżultat in-flight. Jipprevjeni li cache-miss stampede jgħaffeġ ir-row.
- **Local (in-process) cache.** Ikkaċċja l-hot value f'kull app node għal TTL qasir (eż. 1s). Għal key read-hot, dan jgħaffeġ eluf ta' read/sek f'refresh wieħed — u jaċċetta staleness żgħir.
- **Write batching.** Agħmel buffer tal-increments fil-memorja u flushja `+= 500` darba kull sekonda minflok 500 update singolu. Update wieħed ta' row kull sekonda minflok 500 ineħħi l-kontenzjoni għalkollox.

## Perspettiva tal-intervista

L-intervistatur irid jarak tiddjanjostika **fejn hija l-kontenzjoni** u taġġusta l-aġġustament ma' read-hot vs write-hot. Read-hot → cache + coalescing; write-hot → sharded counters + batching. Tweġiba tajba telenka t-tekniki; tweġiba eċċellenti tinnota li s-sharding jibdel **read cost għal write scalability**, u li batching/caching jibdlu **freshness għal throughput**.

**Trade-offs u nases:** sharded counters jagħmlu totals eżatti f'real-time aktar diffiċli (issomma l-shards) u jikkomplikaw il-loġika ta' "naqqas taħt żero". Local caches jiddevjaw fuq in-nodes — tajjeb għal like count, ħażin għal bilanċ tal-bank. Batching jirriskja li jitlef writes fil-buffer jekk node jaqa' qabel il-flush, allura jgħodd għal counters idempotenti/approssimattivi, mhux flus. Agħżel il-mitigazzjoni li l-ħtiġijiet ta' konsistenza tad-data jippermettu.

Fan-out minflok row ikkontenzjonat wieħed

Tekniki

Perspettiva tal-intervista

Mistoqsijiet relatati