ஒரு cache stampede (அல்லது dogpile) ஒரு சூடான கேச்ড் விசை முடிந்துவிடும் போது நிகழ்கிறது மற்றும் பல சமவர்ती கோரிக்கைகள் ஒரே நேரத்தில் அதை தவறவிடும், அனைத்தும் அதே மதிப்பைக் கணக்கிட மூலத்தில் விழுகிறது. மூலம் (DB அல்லது சேவை) அது கையாளக்கூடிய வெடிப்பால் சிதைக்கப்படுகிறது, சில நேரங்களில் கணினி முறிந்துவிடுகிறது.
t=0 hot key expires
t=0+ 1000 requests arrive → all miss → all query the DB for the SAME value
→ DB overwhelmed; latency spikes; failures cascade
தூண்டுதல் என்பது ஒரேயடியான அவசর முடிவு ஒரு பிரபலமான விசையின். சரிசெய்தல் என்பது ஒன்று (அல்லது சில) மறுகணக்கீடு நிகழ்கிறது அல்லது கோரிக்கைகள் அனைத்தும் ஒரே நேரத்தில் முடிந்துவிடாது என்பதை உறுதி செய்வது.
function get(key):
val = cache.get(key)
if val is present: return val // fast path: a hit
if lock.acquire(key, ttl=5s): // only ONE request wins the lock
try:
val = recompute() // hit the origin exactly once
cache.set(key, val, ttl)
finally:
lock.release(key)
return val
else:
wait_briefly(); return get(key) // others wait, then read the filled cache
பூட்டு சரியாக ஒரு மூல அழைப்பு உறுதி; மற்ற ஒவ்வொரு சமவர்ती கோரிக்கையும் காத்திருக்கிறது மற்றும் பின்னர் புதிதாக கேச் செய்யப்பட்ட மதிப்பைப் படிக்கிறது.
ஒரு stampede வழக்கமான cache முடிவை ஒரு குறுக்குவழিக்கு மாற்றுகிறது: உங்கள் DB ஐ பாதுகாத்த cache திடீரென நின்றுவிடுகிறது, மற்றும் முழு பரிமாற்றமும் ஒரே நேரத்தில் மூலத்தில் வருகிறது. காரணத்தை (சூடான விசைகளின் ஒரேயடியான முடிவு) மற்றும் சரிசெய்தல்களை (single-flight, stale-while-revalidate, jitter) தெரிந்து கொள்வது உண்மையான சுமைக்கு கீழ் cache இ நம்பகமாக வைத்திருப்பதற்கு அপরिहार्य।