O que é cache e como é usado em design de sistemas?

Question

Accepted Answer

**Cache** armazena dados frequentemente acessados em uma camada rápida (geralmente na memória) para que possam ser recuperados rapidamente sem recomputar ou refazer buscas de fontes mais lentas. É uma das técnicas mais importantes para melhorar performance e escalabilidade.

## O que cache faz

```text
CACHING stores copies of data in a FAST location for quick repeated access:
  → instead of recomputing or re-fetching from a slow source (database, API, computation),
    serve from the fast cache
  → DRAMATICALLY faster (cache hit) + REDUCES load on the slow backend
→ trades some staleness/complexity for big performance and scalability gains.
```

## Onde cache é usado (camadas)

```text
BROWSER / CLIENT cache → cache on the user's device
CDN → cache static content at edge locations near users
APPLICATION cache (e.g. Redis/Memcached) → cache DB query results, computed data, sessions
DATABASE cache → query/result caching
→ caching can happen at MULTIPLE layers (defense in depth for performance)
```

## Benefícios e desafios do cache

```text
✓ PERFORMANCE → much faster responses (memory vs disk/network/computation)
✓ SCALABILITY → reduces load on databases/backends → they handle more
✓ Reduces cost and latency
⚠️ CACHE INVALIDATION → keeping cached data fresh (when source changes) is the hard part:
  → TTL (expire after time) + invalidation (update/remove on change)
  → stale data is the main risk → balance freshness vs performance
⚠️ Adds complexity; cache misses; what/when to cache
```

## Por que isso importa

Entender cache é fundamental porque é **uma das técnicas mais importantes e amplamente usadas em design de sistemas** para melhorar performance e escalabilidade, portanto é conhecimento essencial.

Cache — armazenar dados frequentemente acessados em uma camada rápida para recuperação rápida em vez de recomputar ou refazer buscas de fontes mais lentas — oferece benefícios dramáticos: respostas muito mais rápidas (servindo de memória rápida em vez de bancos de dados, redes ou computação lenta) e **redução de carga em backends** (para que bancos de dados e serviços lidem com mais, melhorando escalabilidade).

Esse benefício duplo de performance e escalabilidade torna cache onipresente em design de sistemas.

Entender que cache ocorre em **múltiplas camadas** — navegador/cliente, CDN (cache de borda de conteúdo estático), cache de aplicação (Redis/Memcached para resultados de consultas e dados computados) e cache de banco de dados — é importante para entender onde cache se aplica.

Entender os **benefícios e desafios** é crucial: os benefícios (performance, escalabilidade, custo reduzido e latência) impulsionam seu uso, mas o **desafio de invalidação de cache** — manter dados em cache atualizados quando a fonte muda, o famoso problema difícil resolvido por TTLs e invalidação explícita, com dados obsoletos sendo o risco principal — é essencial entender, já que cache troca alguma obsolescência e complexidade por seus ganhos.

Entender o equilíbrio (atualização vs performance) e que cache adiciona complexidade reflete compreensão madura.

Como cache é uma das técnicas de design de sistemas mais impactantes e amplamente usadas (melhorando performance e escalabilidade) e entender o que faz, onde é usado (as camadas) e seus benefícios e desafios (especialmente invalidação) é fundamental, entender cache é conhecimento essencial e fundamental de design de sistemas — uma técnica central presente em praticamente todos os sistemas escaláveis, central para performance e escalabilidade, e importante entender incluindo seu desafio-chave de invalidação, um conceito recorrente em todo design de sistemas.