क्याश स्ट्याम्पेड (cache stampede) भनेको के हो र यसलाई कसरी रोक्न सकिन्छ?

Question

Accepted Answer

एक **क्याश स्ट्याम्पेड** (वा dogpile) तब हुन्छ जब एक तातो क्याश गरिएको कुञ्जी समय सकिन्छ र **धेरै समवर्ती अनुरोधहरु एक पटकमा यो मिस गर्छन्**, सबै एउटै मान पुनः गणना गर्नको लागि उत्पत्तिमा पछाडि पर्छन्। उत्पत्ति (DB वा सेवा) यस फटक गर्न सक्न नसक्ने फटकको साथ न्यानो हुन्छ, कहिले काही प्रणाली नामावली ले जान्छ।

## कारण

```text
t=0   hot key expires
t=0+  1000 requests arrive → all miss → all query the DB for the SAME value
      → DB overwhelmed; latency spikes; failures cascade
```

ट्रिगर एक लोकप्रिय कुञ्जीको **समवर्ती समय समाप्त** हो। समाधान पुनः गणना केवल एक (वा थोडा) हुन सुनिश्चित गर्ना, वा अनुरोधहरु सबै एकसाथ समय सकिन न जान दिना हो।

## समाधानहरु

- **लकिङ / single-flight** — पहिलो मिस ले एक लक लिन्छ र पुनः गणना गर्छ; अन्यरा सबै उत्पत्तिमा न हेरी त्यो एक परिणामको लागि पर्खन्छन्।
- **Stale-while-revalidate** — थोरै पुरानो मान तुरुन्त प्रदान गर्नुहोस् जबकि एक पृष्ठभूमि कार्य यसलाई ताजा गर्छ। कुनै पनि अनुरोध उत्पत्तिमा रोकिन्न।
- **प्रारम्भिक / सम्भावनीय पुनः गणना** — एक कुञ्जीलाई यो समय सकिन् *पहिले* ताजा गर्नुहोस्, एक सम्भावना सहित जो समय सकिन नजिक हुँदै जाँदा बढ्छ, त्यसैले एक भाग्यशाली अनुरोध स्ट्याम्पेड अघि यसलाई निर्माण गर्छ।
- **Jittered TTLs** — TTLs मा यादृच्छिकता थप गर्नुहोस् ताकि कुञ्जीहरु सबै एकै पल समय सकिन न जान्।
- **अनुरोध coalescing** — एकैचोटि समवर्ती अनुरोधहरु एक उत्पत्ति कलमा पतन गर्नुहोस्।

## Single-flight pseudo-code

```text
function get(key):
  val = cache.get(key)
  if val is present: return val            // fast path: a hit

if lock.acquire(key, ttl=5s):            // only ONE request wins the lock
    try:
      val = recompute()                    // hit the origin exactly once
      cache.set(key, val, ttl)
    finally:
      lock.release(key)
    return val
  else:
    wait_briefly(); return get(key)        // others wait, then read the filled cache
```

लक ठीक एक उत्पत्ति कल सुनिश्चित गर्छ; अन्य प्रत्येक समवर्ती अनुरोध पर्खन्छ र त्यसपछि नयाँ क्याश गरिएको मान पढ्छन्।

## किन यो महत्त्वपूर्ण छ

एक स्ट्याम्पेड एक दिनचर्या क्याश समय समाप्तिलाई एक अवरोध मा बदलन्छ: क्याश जो तपाईको DB लाई सुरक्षित गरिरहेको थियो अचानक रोकिन्छ, र पूर्ण ट्राफिक एक पटकमा उत्पत्तिमा आन्छ। कारण (तातो कुञ्जीहरुको समवर्ती समय समाप्त) र समाधानहरु (single-flight, stale-while-revalidate, jitter) जान्ना वास्तविक लोड अन्तर्गत क्याशहरु विश्वासयोग्य राख्नको लागि आवश्यक छ।