キャッシュスタンピード(またはdogpile)は、ホットなキャッシュキーが有効期限を切れ、多くの同時リクエストが同時にキャッシュミスとなり、すべてがオリジン(origin)にフォールスルーして同じ値を同時に再計算するときに発生します。オリジン(DBまたはサービス)は処理できないバーストに叩かれ、システムがダウンすることもあります。
原因
text
t=0 hot key expires
t=0+ 1000 requests arrive → all miss → all query the DB for the SAME value
→ DB overwhelmed; latency spikes; failures cascade
トリガーは人気のあるキーの同時有効期限切れです。修正は、再計算が1つ(またはいくつか)だけ行われることを確保するか、リクエストすべてが同時に期限切れにならないようにすることです。
