En cache stampede (eller dogpile) inträffar när en het cachad nyckel löper ut och många samtidiga förfrågningar missar den på en gång, alla faller igenom till ursprunget för att omberäkna samma värde samtidigt. Ursprunget (DB eller tjänst) blir överbelastat av en burst som det inte kan hantera, ibland tar systemet ner.
t=0 hot key expires
t=0+ 1000 requests arrive → all miss → all query the DB for the SAME value
→ DB overwhelmed; latency spikes; failures cascade
Utlösaren är samtidigt utgång av en populär nyckel. Fixet är att säkerställa att endast en (eller få) omberäkning sker, eller att förfrågningar inte alla löper ut samtidigt.
function get(key):
val = cache.get(key)
if val is present: return val // fast path: a hit
if lock.acquire(key, ttl=5s): // only ONE request wins the lock
try:
val = recompute() // hit the origin exactly once
cache.set(key, val, ttl)
finally:
lock.release(key)
return val
else:
wait_briefly(); return get(key) // others wait, then read the filled cache
Låset säkerställer exakt ett ursprungssamtal; varje annan samtidig förfrågan väntar och läser sedan det nyligen cachade värdet.
En stampedo förvandlar en rutinmässig cache-utgång till ett avbrott: cachen som skyddade din DB stannar plötsligt, och all trafik landar på ursprunget på en gång. Att veta orsaken (samtidig utgång av varma nycklar) och fixen (single-flight, stale-while-revalidate, jitter) är väsentligt för att hålla cacheminnen tillförlitligt under verklig belastning.