एक कैश स्टैम्पीड (या डॉगपाइल) तब होता है जब एक गर्म कैश किंजर समाप्त हो जाता है और कई समवर्ती अनुरोध एक बार में इसे मिस करते हैं, सभी एक ही समय में मान की पुन: गणना करने के लिए मूल तक वापस आते हैं। मूल (डीबी या सेवा) को एक बर्स्ट से मारा जाता है जिसे वह संभाल नहीं सकता, कभी-कभी सिस्टम को बंद कर देता है।
t=0 hot key expires
t=0+ 1000 requests arrive → all miss → all query the DB for the SAME value
→ DB overwhelmed; latency spikes; failures cascade
ट्रिगर लोकप्रिय किंजर का समवर्ती समाप्ति है। सुधार यह सुनिश्चित करना है कि केवल एक (या कुछ) पुन: गणना होती है, या कि अनुरोध सभी एक साथ समाप्त न हों।
function get(key):
val = cache.get(key)
if val is present: return val // fast path: a hit
if lock.acquire(key, ttl=5s): // only ONE request wins the lock
try:
val = recompute() // hit the origin exactly once
cache.set(key, val, ttl)
finally:
lock.release(key)
return val
else:
wait_briefly(); return get(key) // others wait, then read the filled cache
लॉक बिल्कुल एक मूल कॉल सुनिश्चित करता है; अन्य सभी समवर्ती अनुरोध प्रतीक्षा करते हैं और फिर ताज़ा कैश किए गए मान को पढ़ते हैं।
एक स्टैम्पीड एक दिनचर्या कैश समाप्ति को एक आउटेज में बदल देता है: कैश जो आपके डीबी की सुरक्षा कर रहा था अचानक बंद हो जाता है, और पूर्ण ट्रैफिक एक बार में मूल पर उतरता है। कारण (गर्म किंजरों की समवर्ती समाप्ति) और सुधार (सिंगल-फ्लाइट, stale-while-revalidate, jitter) को जानना वास्तविक लोड के तहत कैश को विश्वसनीय रखने के लिए आवश्यक है।
विस्तृत उत्तरों के साथ IT इंटरव्यू प्रश्नों की एक लाइब्रेरी — जूनियर से सीनियर तक।
दान करें