ਲੱਖਾਂ req/min ਉੱਤੇ DB load ਘਟਾਉਣ ਲਈ ਤੁਸੀਂ ਕਿਵੇਂ cache ਕਰਦੇ ਹੋ?

DB ਦੇ ਸਾਹਮਣੇ ਇੱਕ cache-aside layer (Redis/Memcached) ਲਾਓ ਤਾਂ ਜੋ reads memory ਨੂੰ hit ਕਰਨ, entries ਨੂੰ ਇੱਕ TTL ਦਿਓ ਅਤੇ write ਉੱਤੇ invalidate ਕਰੋ, stampede protection ਜੋੜੋ ਤਾਂ ਜੋ ਇੱਕ cold key DB ਉੱਤੇ ਇੱਕ thundering herd ਨਾ ਛੱਡ ਸਕੇ, ਅਤੇ hot keys ਨੂੰ replicas ਵਿੱਚ ਫੈਲਾਓ ਤਾਂ ਜੋ ਇੱਕ popular key ਇੱਕ single node ਨੂੰ ਨਾ ਪਿਘਲਾਏ।

                 ┌── hit ──▶ return value
request ──▶ cache│
                 └── miss ─▶ lock ─▶ DB read ─▶ set(TTL) ─▶ return
                              │
                    (only ONE miss populates; others wait)
DB writes ──▶ invalidate/update key