Uma cache stampede (ou dogpile) acontece quando uma chave em cache popular expira e muitas requisições simultâneas a perdem ao mesmo tempo, todas caindo na origem para recomputar o mesmo valor simultaneamente. A origem (BD ou serviço) recebe uma enxurrada de requisições que não consegue lidar, às vezes derrubando o sistema.
t=0 hot key expires
t=0+ 1000 requests arrive → all miss → all query the DB for the SAME value
→ DB overwhelmed; latency spikes; failures cascade
O gatilho é expiração simultânea de uma chave popular. A solução é garantir que apenas uma (ou poucas) recomputações aconteçam, ou que as requisições não expirem todas juntas.
function get(key):
val = cache.get(key)
if val is present: return val // fast path: a hit
if lock.acquire(key, ttl=5s): // only ONE request wins the lock
try:
val = recompute() // hit the origin exactly once
cache.set(key, val, ttl)
finally:
lock.release(key)
return val
else:
wait_briefly(); return get(key) // others wait, then read the filled cache
O lock garante exatamente uma chamada à origem; toda outra requisição simultânea espera e depois lê o valor recém cacheado.
Uma stampede transforma uma expiração rotineira de cache em uma falha: o cache que protegia seu BD de repente para, e todo o tráfego cai na origem de uma vez. Conhecer a causa (expiração simultânea de chaves quentes) e as soluções (single-flight, stale-while-revalidate, jitter) é essencial para manter caches confiáveis sob carga real.