कॅश स्टॅम्पीड म्हणजे काय आणि तुम्ही त्याला कसे रोखता?

Question

Accepted Answer

**कॅश स्टॅम्पीड** (किंवा dogpile) तेव्हा घडते जेव्हा एक हॉट कॅश केली गेलेली की संपून जाते आणि **अनेक समवर्ती विनंत्या एकाच वेळी त्याला मिस करतात**, सर्व एकाचवेळी समान मूल्य पुनः मोजण्यासाठी मूलात पडतात. मूल (DB किंवा सेवा) एक तरंग द्वारे हतप्रभ केले जाते जो ते हाताळू शकत नाही, कधीकधी सिस्टमला खाली घेऊन जाते.

## कारण

```text
t=0   hot key expires
t=0+  1000 requests arrive → all miss → all query the DB for the SAME value
      → DB overwhelmed; latency spikes; failures cascade
```

ट्रिगर एक लोकप्रिय कीचा **एकाचवेळी समाप्ती** आहे. निराकरण म्हणजे केवळ एक (किंवा काही) पुनर्मोजन होते हे सुनिश्चित करणे, किंवा विनंत्या सर्व एकाचवेळी संपून जात नाहीत हे सुनिश्चित करणे.

## निराकरणे

- **लॉकिंग / single-flight** — पहिली मिस एक लॉक घेते आणि पुनर्मोजन करते; इतर सर्व त्या एका परिणामांची प्रतीक्षा करतात मूलात सर्व दिनांकित करण्याऐवजी.
- **Stale-while-revalidate** — थोडीशी जुना मूल्य लगेच दिले जाते जरी एक पार्श्वभूमी कार्य तयार केले. कोणतीही विनंती मूलात अडखळत नाही.
- **सुरुवातीच / संभाव्य पुनर्मोजन** — संपून जाण्यापूर्वी एक की ताजेतर करा, संभाव्यतेसह जी संपून जाण्याच्या जवळ आली तर वाढते, म्हणून एक भाग्यवान विनंती स्टॅम्पीडच्या आधी ते पुनर्बांधण करते.
- **Jittered TTLs** — TTL मध्ये यादृच्छिकता जोडा जेणेकरून की एकाचवेळी संपून जात नाहीत.
- **विनंती एकत्रीकरण** — समान समवर्ती विनंत्यांना एक मूल कॉलमध्ये संक्षिप्त करा.

## Single-flight pseudo-कोड

```text
function get(key):
  val = cache.get(key)
  if val is present: return val            // fast path: a hit

if lock.acquire(key, ttl=5s):            // only ONE request wins the lock
    try:
      val = recompute()                    // hit the origin exactly once
      cache.set(key, val, ttl)
    finally:
      lock.release(key)
    return val
  else:
    wait_briefly(); return get(key)        // others wait, then read the filled cache
```

लॉक नक्कीच एक मूल कॉल सुनिश्चित करते; इतर सर्व समवर्ती विनंती प्रतीक्षा करतात आणि नंतर ताजेतर कॅश केलेले मूल्य वाचतात.

## हे महत्वाचे का आहे

एक स्टॅम्पीड नियमित कॅश समाप्ती बदलून एक आऊटेज करते: जो कॅश तुमच्या DB ला संरक्षण देत होता ते अचानक थांबून जाते, आणि संपूर्ण ट्रॅफिक एकाचवेळी मूलात उतरते. कारण (गरम की ची एकाचवेळी समाप्ती) आणि निराकरणे (single-flight, stale-while-revalidate, jitter) जाणून घेणे वास्तविक लोड अंतर्गत कॅश विश्वासार्ह ठेवण्यासाठी आवश्यक आहे.