Jaké jsou výzvy při invalidaci cache?

Question

Accepted Answer

**Invalidace cache** — udržování konzistentnosti cachaovaných dat se zdrojem pravdy — je proslulá jako jeden z nejtěžších problémů v informatice. Výzva spočívá v zajištění, aby cache neposkytoval **zastaralá data** a zároveň se vyvažovaly výkon, konzistence a složitost. Stojí za to pochopit několik strategií a běžných chyb.

## Základní problém

```text
When the source data changes, the cached copy becomes STALE.
  → Serve stale data? (fast but wrong) vs invalidate? (consistent but complex/slower)
→ "There are only two hard things in CS: cache invalidation and naming things."
The difficulty: knowing WHEN and WHAT to invalidate, across distributed systems,
  without races, while keeping good cache hit rates.
```

## Strategie invalidace

```text
1. TTL (expiration) — data auto-expires after a time → eventually consistent
   ✓ Simple, no tracking  ✗ Stale until expiry; pick TTL by staleness tolerance
2. EXPLICIT invalidation — delete/update the cache when source data changes
   ✓ Fresh quickly  ✗ Must reliably catch ALL writes; easy to miss some paths
3. WRITE-THROUGH — update cache and DB together on writes → cache stays fresh
4. EVENT-BASED — invalidate via events/CDC (e.g. DB change → invalidation message)
→ Often combined: explicit invalidation + a TTL as a safety net.
```

## Běžné chyby

```text
⚠️ Missing invalidation paths → some code updates data but forgets to invalidate → stale
⚠️ RACE conditions → read (miss) + concurrent write → caching the OLD value after the write
⚠️ Cache STAMPEDE → a popular key expires → many requests miss + hit the DB at once
   → mitigate with locks (one fetch repopulates), staggered TTLs, or refresh-ahead
⚠️ Distributed caches → invalidation must reach all nodes/instances consistently
⚠️ Over-invalidation → invalidating too much → low hit rate (loses caching's benefit)
```

## Praktické pokyny

```text
✓ Use TTLs as a baseline safety net (bounds staleness even if invalidation is missed)
✓ Invalidate explicitly on writes for data needing freshness
✓ Accept eventual consistency where acceptable (often it is) → simpler
✓ Match strategy to the data: tolerant data → longer TTL; critical → tighter invalidation
```

## Proč je to důležité

Pochopení výzev při invalidaci cache je cenné znalostí na úrovni seniora, protože jde o jeden z opravdu obtížných, se opakujících se problémů při používání cachování (Redis nebo jiného), takže dobré zvládnutí je důležité pro vytváření správných a výkonných cachaovaných systémů.

**Základní obtíž** — udržování konzistentnosti cachaovaných dat se zdrojem bez poskytování zastaralých dat, přičemž se vyváží výkon, konzistence a složitost — je proslulá jako obtížná (poznámka o „dvou nejtěžších věcech