Apakah itu caching dan bagaimana ia digunakan dalam reka bentuk sistem?

Question

Accepted Answer

**Caching** menyimpan data yang kerap diakses dalam lapisan yang pantas (selalunya dalam memori) supaya ia boleh diperoleh dengan cepat tanpa mengira semula atau mengambil semula daripada sumber yang lebih perlahan. Ia merupakan salah satu teknik yang paling penting untuk meningkatkan prestasi dan skalabiliti.

## Apa yang dilakukan oleh caching

```text
CACHING stores copies of data in a FAST location for quick repeated access:
  → instead of recomputing or re-fetching from a slow source (database, API, computation),
    serve from the fast cache
  → DRAMATICALLY faster (cache hit) + REDUCES load on the slow backend
→ trades some staleness/complexity for big performance and scalability gains.
```

## Di mana caching digunakan (lapisan)

```text
BROWSER / CLIENT cache → cache on the user's device
CDN → cache static content at edge locations near users
APPLICATION cache (e.g. Redis/Memcached) → cache DB query results, computed data, sessions
DATABASE cache → query/result caching
→ caching can happen at MULTIPLE layers (defense in depth for performance)
```

## Manfaat dan cabaran caching

```text
✓ PERFORMANCE → much faster responses (memory vs disk/network/computation)
✓ SCALABILITY → reduces load on databases/backends → they handle more
✓ Reduces cost and latency
⚠️ CACHE INVALIDATION → keeping cached data fresh (when source changes) is the hard part:
  → TTL (expire after time) + invalidation (update/remove on change)
  → stale data is the main risk → balance freshness vs performance
⚠️ Adds complexity; cache misses; what/when to cache
```

## Mengapa ia penting

Memahami caching adalah asas kerana ia merupakan **salah satu teknik yang paling penting dan paling meluas digunakan dalam reka bentuk sistem** untuk meningkatkan prestasi dan skalabiliti, jadi ia merupakan pengetahuan penting.

Caching — menyimpan data yang kerap diakses dalam lapisan yang pantas untuk capaian cepat dan bukannya mengira semula atau mengambil semula daripada sumber yang lebih perlahan — menyediakan manfaat yang ketara: respons yang jauh lebih pantas (melayan daripada memori pantas dan bukannya pangkalan data, rangkaian, atau pengiraan yang perlahan) dan **beban yang dikurangkan pada backend** (supaya pangkalan data dan perkhidmatan boleh menangani lebih banyak, meningkatkan skalabiliti).

Manfaat berkembar prestasi dan skalabiliti ini menjadikan caching tersebar luas dalam reka bentuk sistem.

Memahami bahawa caching berlaku pada **berbilang lapisan** — pelayar/klien, CDN (caching tepi bagi kandungan statik), cache aplikasi (Redis/Memcached untuk hasil pertanyaan dan data yang dikira), dan cache pangkalan data — adalah penting untuk memahami di mana caching boleh digunakan.

Memahami **manfaat dan cabaran** adalah penting: manfaat (prestasi, skalabiliti, kos dan latensi yang dikurangkan) memacu penggunaannya, tetapi **cabaran cache invalidation** — memastikan data yang di-cache kekal segar apabila sumber berubah, masalah terkenal yang sukar ditangani melalui TTL dan invalidation eksplisit, dengan data lapuk menjadi risiko utama — adalah penting untuk difahami, kerana caching menukar sedikit kelapukan dan kerumitan untuk manfaatnya.

Memahami keseimbangan (kesegaran vs prestasi) dan bahawa caching menambah kerumitan mencerminkan pemahaman yang matang.

Memandangkan caching ialah salah satu teknik reka bentuk sistem yang paling berkesan dan meluas digunakan (meningkatkan kedua-dua prestasi dan skalabiliti) dan memahami apa yang dilakukannya, di mana ia digunakan (lapisan-lapisan), serta manfaat dan cabarannya (terutamanya invalidation) adalah asas, memahami caching adalah pengetahuan reka bentuk sistem yang penting dan asas — teknik teras yang muncul dalam hampir semua sistem yang boleh diskala, teras kepada prestasi dan skalabiliti, dan penting untuk difahami termasuk cabaran utamanya iaitu invalidation, satu konsep berulang sepanjang reka bentuk sistem.