Cache stampede (jew dogpile) jista' jigri meta għal-sxiex cache sħun mtejru u bosta talbiet simultanji jxommu flimkien, kollha jwaqgħu lura għall-oriġini biex jipproċessaw mill-ġdid l-istess valur simultanjament. L-oriġini (DB jew servizz) titqieg minn burst li ma tistax tittratta, xi drabi tuqat is-sistema.
t=0 hot key expires
t=0+ 1000 requests arrive → all miss → all query the DB for the SAME value
→ DB overwhelmed; latency spikes; failures cascade
It-trigger huwa mtirih simultanju ta' chiavi popolari. Il-korezzjoni hija d-dak li tiżgura li biss waħda (jew ftit) ricalkolazzjonijiet jigru, jew li talibiet ma jmuttux flimkien.
function get(key):
val = cache.get(key)
if val is present: return val // fast path: a hit
if lock.acquire(key, ttl=5s): // only ONE request wins the lock
try:
val = recompute() // hit the origin exactly once
cache.set(key, val, ttl)
finally:
lock.release(key)
return val
else:
wait_briefly(); return get(key) // others wait, then read the filled cache
Il-lock jiżgura eżattament sejħa oriġini waħda; kull talba simultanja oħra tistenna imbagħad taqra l-valur cache freskament.
Stampede jibdel mtirih cache rutinarju f'interuzzjoni: il-cache li kienet tipproteggi d-DB tiegħek tifqgħ, u t-traffiku sħiħ jaħbet fl-oriġini flimkien. L-għarfien tal-kawża (mtirih simultanju ta' chiavi sħun) u s-soluzzjonijiet (single-flight, stale-while-revalidate, jitter) huma essenzjali biex iż-żommu l-cache affidabbli taħt tagħbija reali.