Co je caching a jak se používá v návrhu systémů?

Question

Accepted Answer

**Caching** ukládá často používaná data ve vrstvě s rychlým přístupem (často v paměti), aby byla dostupná bez opakovaného výpočtu nebo načítání z pomalejších zdrojů. Jde o jednu z nejdůležitějších technik pro zlepšení výkonu a škálovatelnosti.

## Co caching dělá

```text
CACHING stores copies of data in a FAST location for quick repeated access:
  → instead of recomputing or re-fetching from a slow source (database, API, computation),
    serve from the fast cache
  → DRAMATICALLY faster (cache hit) + REDUCES load on the slow backend
→ trades some staleness/complexity for big performance and scalability gains.
```

## Kde se caching používá (vrstvy)

```text
BROWSER / CLIENT cache → cache on the user's device
CDN → cache static content at edge locations near users
APPLICATION cache (e.g. Redis/Memcached) → cache DB query results, computed data, sessions
DATABASE cache → query/result caching
→ caching can happen at MULTIPLE layers (defense in depth for performance)
```

## Výhody a výzvy cachingu

```text
✓ PERFORMANCE → much faster responses (memory vs disk/network/computation)
✓ SCALABILITY → reduces load on databases/backends → they handle more
✓ Reduces cost and latency
⚠️ CACHE INVALIDATION → keeping cached data fresh (when source changes) is the hard part:
  → TTL (expire after time) + invalidation (update/remove on change)
  → stale data is the main risk → balance freshness vs performance
⚠️ Adds complexity; cache misses; what/when to cache
```

## Proč je to důležité

Rozdílení cachingu je zásadní, protože jde o **jednu z nejdůležitějších a nejčastěji používaných technik v návrhu systémů** pro zlepšení výkonu a škálovatelnosti, což je znalost nezbytná.

Caching — ukládání často používaných dat ve vrstvě s rychlým přístupem pro rychlé získání místo opakovaného výpočtu nebo načítání z pomalejších zdrojů — přináší dramatické přínosy: výrazně rychlejší odpovědi (obsluha z rychlé paměti místo pomalých databází, sítě nebo výpočtu) a **snížené zatížení backendů** (takže databáze a služby zvládají více, což zlepšuje škálovatelnost).

Tento dvojí přínos výkonu a škálovatelnosti činí caching všudypřítomným v návrhu systémů.

Rozdílení, že caching probíhá v **několika vrstvách** — prohlížeč/klient, CDN (edge caching statického obsahu), application cache (Redis/Memcached pro výsledky dotazů a vypočtená data) a databázový cache — je důležité pro pochopení, kde se caching uplatňuje.

Rozdílení **přínosů a výzev** je zásadní: přínosy (výkon, škálovatelnost, nižší náklady a latence) vedou k jeho použití, ale **výzva invalidace cache** — udržování aktuálnosti mezipaměti při změně zdroje, slavně těžký problém řešený TTL a explicitní invalidací, přičemž stará data jsou hlavním rizikem — je zásadní porozumět, protože caching si obchoduje určitou zastaralost a složitost za své přínosy.

Rozdílení rovnováhy (čerstvost vs výkon) a skutečnosti, že caching zvyšuje složitost, odráží zralé chápání.

Protože je caching jednou z nejdopadnějších, nejčastěji používaných technik návrhu systémů (zvyšující výkon i škálovatelnost) a porozumění tomu, co dělá, kde se používá (vrstvy) a jaké má přínosy a výzvy (zejména invalidaci), je zásadní, je porozumění cachingu nezbytnou, základní znalostí návrhu systémů — základní technikou objevující se prakticky ve všech škálovatelných systémech, ústředním bodem pro výkon a škálovatelnost a důležitou pro pochopení včetně její klíčové výzvy invalidace, která se opakuje během celého návrhu systémů.