¿Qué es caching y cómo se utiliza en el diseño de sistemas?

Question

Accepted Answer

**Caching** almacena datos de acceso frecuente en una capa rápida (a menudo en memoria) para que se puedan recuperar rápidamente sin recomputar o re-obtener de fuentes más lentas. Es una de las técnicas más importantes para mejorar el rendimiento y la escalabilidad.

## Qué hace el caching

```text
CACHING stores copies of data in a FAST location for quick repeated access:
  → instead of recomputing or re-fetching from a slow source (database, API, computation),
    serve from the fast cache
  → DRAMATICALLY faster (cache hit) + REDUCES load on the slow backend
→ trades some staleness/complexity for big performance and scalability gains.
```

## Dónde se utiliza el caching (capas)

```text
BROWSER / CLIENT cache → cache on the user's device
CDN → cache static content at edge locations near users
APPLICATION cache (e.g. Redis/Memcached) → cache DB query results, computed data, sessions
DATABASE cache → query/result caching
→ caching can happen at MULTIPLE layers (defense in depth for performance)
```

## Beneficios y desafíos del caching

```text
✓ PERFORMANCE → much faster responses (memory vs disk/network/computation)
✓ SCALABILITY → reduces load on databases/backends → they handle more
✓ Reduces cost and latency
⚠️ CACHE INVALIDATION → keeping cached data fresh (when source changes) is the hard part:
  → TTL (expire after time) + invalidation (update/remove on change)
  → stale data is the main risk → balance freshness vs performance
⚠️ Adds complexity; cache misses; what/when to cache
```

## Por qué es importante

Entender caching es fundamental porque es **una de las técnicas más importantes y ampliamente utilizadas en el diseño de sistemas** para mejorar el rendimiento y la escalabilidad, por lo que es conocimiento esencial.

Caching — almacenar datos de acceso frecuente en una capa rápida para recuperación rápida en lugar de recomputar u obtener nuevamente de fuentes más lentas — proporciona beneficios dramáticos: respuestas mucho más rápidas (sirviendo desde memoria rápida en lugar de bases de datos lentas, redes o computación) y **carga reducida en backends** (para que bases de datos y servicios manejen más, mejorando la escalabilidad).

Este doble beneficio de rendimiento y escalabilidad hace que el caching sea omnipresente en el diseño de sistemas.

Entender que el caching ocurre en **múltiples capas** — navegador/cliente, CDN (caching de edge de contenido estático), caché de aplicación (Redis/Memcached para resultados de consultas y datos computados), y caché de base de datos — es importante para entender dónde se aplica el caching.

Entender los **beneficios y desafíos** es crucial: los beneficios (rendimiento, escalabilidad, costo reducido y latencia) impulsan su uso, pero el **desafío de invalidación de caché** — mantener los datos en caché frescos cuando la fuente cambia, el famosamente difícil problema abordado por TTLs e invalidación explícita, siendo los datos obsoletos el riesgo principal — es esencial de entender, ya que el caching intercambia cierta antigüedad y complejidad por sus ganancias.

Entender el balance (frescura vs rendimiento) y que el caching añade complejidad refleja una comprensión madura.

Ya que el caching es una de las técnicas de diseño de sistemas más impactantes y ampliamente utilizadas (mejorando tanto rendimiento como escalabilidad) y entender qué hace, dónde se utiliza (las capas), y sus beneficios y desafíos (especialmente invalidación) es fundamental, entender caching es conocimiento esencial de diseño de sistemas fundamentales — una técnica central que aparece en prácticamente todos los sistemas escalables, central para el rendimiento y la escalabilidad, e importante de entender incluyendo su desafío clave de invalidación, un concepto recurrente a lo largo del diseño de sistemas.