একটি ক্যাশ স্ট্যাম্পেড (বা ডগপাইল) ঘটে যখন একটি জনপ্রিয় ক্যাশড কী এক্সপায়ার হয় এবং একযোগে অনেক অনুরোধ একবারে এটি মিস করে, সবাই একই সময়ে একই মান পুনঃগণনা করতে অরিজিনে ফেরত পড়ে। অরিজিন (ডিবি বা সার্ভিস) এমন একটি বার্স্টের দ্বারা হতাহত হয় যা এটি পরিচালনা করতে পারে না, কখনও কখনও সিস্টেমকে নিয়ে যায়।
t=0 hot key expires
t=0+ 1000 requests arrive → all miss → all query the DB for the SAME value
→ DB overwhelmed; latency spikes; failures cascade
ট্রিগারটি হল একটি জনপ্রিয় কীর একযোগে এক্সপায়ারি। ফিক্সটি হল নিশ্চিত করা যে শুধুমাত্র একটি (বা কয়েকটি) পুনঃগণনা ঘটে, বা অনুরোধগুলি সবাই একসাথে এক্সপায়ার না হয়।
function get(key):
val = cache.get(key)
if val is present: return val // fast path: a hit
if lock.acquire(key, ttl=5s): // only ONE request wins the lock
try:
val = recompute() // hit the origin exactly once
cache.set(key, val, ttl)
finally:
lock.release(key)
return val
else:
wait_briefly(); return get(key) // others wait, then read the filled cache
লকটি নিশ্চিত করে যে ঠিক একটি অরিজিন কল; প্রতিটি অন্য একযোগে অনুরোধ অপেক্ষা করে এবং তারপর সবেমাত্র ক্যাশড মান পড়ে।
একটি স্ট্যাম্পেড একটি রুটিন ক্যাশ এক্সপায়ারিকে একটি আউটেজে পরিণত করে: আপনার ডিবিকে সুরক্ষিত করছিল এমন ক্যাশ হঠাৎ থেমে যায়, এবং পূর্ণ ট্রাফিক একই সময়ে অরিজিনে অবতরণ করে। কারণ (জনপ্রিয় কীর একযোগে এক্সপায়ারি) এবং সমাধানগুলি (সিঙ্গেল-ফ্লাইট, stale-while-revalidate, জিটার) জানা প্রকৃত লোডের অধীনে ক্যাশগুলি নির্ভরযোগ্য রাখার জন্য অপরিহার্য।