Caching là gì và nó được dùng như thế nào trong system design?

Question

Accepted Answer

**Caching** lưu trữ dữ liệu được truy cập thường xuyên trong một lớp nhanh (thường là trong bộ nhớ) để có thể truy xuất nhanh chóng mà không cần tính toán lại hay lấy lại từ các nguồn chậm hơn. Đây là một trong những kỹ thuật quan trọng nhất để cải thiện performance và scalability.

## Caching làm gì

```text
CACHING lưu các bản sao dữ liệu ở một vị trí NHANH để truy cập lặp lại nhanh chóng:
  → thay vì tính toán lại hoặc lấy lại từ một nguồn chậm (database, API, tính toán),
    phục vụ từ cache nhanh
  → NHANH HƠN ĐÁNG KỂ (cache hit) + GIẢM tải lên backend chậm
→ đánh đổi một chút độ cũ/độ phức tạp lấy lợi ích lớn về performance và scalability.
```

## Caching được dùng ở đâu (các lớp)

```text
BROWSER / CLIENT cache → cache trên thiết bị của user
CDN → cache nội dung tĩnh tại các vị trí edge gần user
APPLICATION cache (vd Redis/Memcached) → cache kết quả query DB, dữ liệu đã tính, session
DATABASE cache → caching query/kết quả
→ caching có thể diễn ra ở NHIỀU lớp (phòng thủ theo chiều sâu cho performance)
```

## Lợi ích và thách thức của caching

```text
✓ PERFORMANCE → phản hồi nhanh hơn nhiều (bộ nhớ vs disk/network/tính toán)
✓ SCALABILITY → giảm tải lên database/backend → chúng xử lý được nhiều hơn
✓ Giảm chi phí và latency
⚠️ CACHE INVALIDATION → giữ dữ liệu cache luôn mới (khi nguồn thay đổi) là phần khó nhất:
  → TTL (hết hạn sau thời gian) + invalidation (cập nhật/xóa khi thay đổi)
  → dữ liệu cũ (stale) là rủi ro chính → cân bằng giữa độ mới và performance
⚠️ Tăng độ phức tạp; cache miss; cache cái gì/khi nào
```

## Tại sao điều này quan trọng

Hiểu caching là nền tảng vì nó là **một trong những kỹ thuật quan trọng và được dùng rộng rãi nhất trong system design** để cải thiện performance và scalability, nên đây là kiến thức thiết yếu.

Caching — lưu trữ dữ liệu được truy cập thường xuyên trong một lớp nhanh để truy xuất nhanh thay vì tính toán lại hay lấy lại từ các nguồn chậm hơn — mang lại lợi ích to lớn: phản hồi nhanh hơn nhiều (phục vụ từ bộ nhớ nhanh thay vì database, network, hay tính toán chậm) và **giảm tải lên backend** (nên database và service xử lý được nhiều hơn, cải thiện scalability).

Lợi ích kép về performance và scalability này khiến caching hiện diện khắp nơi trong system design.

Hiểu rằng caching diễn ra ở **nhiều lớp** — browser/client, CDN (cache nội dung tĩnh ở edge), application cache (Redis/Memcached cho kết quả query và dữ liệu đã tính), và database cache — là quan trọng để hiểu caching áp dụng ở đâu.

Hiểu **lợi ích và thách thức** là then chốt: lợi ích (performance, scalability, giảm chi phí và latency) thúc đẩy việc dùng nó, nhưng **thách thức cache invalidation** — giữ dữ liệu cache luôn mới khi nguồn thay đổi, bài toán khó nổi tiếng được giải bằng TTL và invalidation tường minh, với dữ liệu cũ là rủi ro chính — là điều thiết yếu phải hiểu, vì caching đánh đổi một chút độ cũ và độ phức tạp lấy lợi ích của nó.

Hiểu sự cân bằng (độ mới vs performance) và rằng caching tăng độ phức tạp phản ánh hiểu biết chín chắn.

Vì caching là một trong những kỹ thuật system design có tác động lớn nhất, được dùng rộng rãi nhất (cải thiện cả performance lẫn scalability) và hiểu nó làm gì, dùng ở đâu (các lớp), cùng lợi ích và thách thức (đặc biệt là invalidation) là cơ bản, nên hiểu caching là kiến thức system design thiết yếu, nền tảng — một kỹ thuật cốt lõi xuất hiện trong hầu hết mọi hệ thống scalable, trung tâm của performance và scalability, và quan trọng phải hiểu kể cả thách thức then chốt của nó là invalidation, một khái niệm lặp lại xuyên suốt system design.