Apakah cache teragih dan bagaimana mengendalikan kegagalannya?

Question

IT Interview Practice · Accepted Answer

**Cache teragih membolehkan beberapa tika aplikasi menggunakan semula data melalui rangkaian.** Tujuannya mengelakkan kerja mahal berulang dengan peraturan jelas tentang kesegaran dan kegagalan.

Bayangkan tiga tika backend membaca katalog sama. Cache dalam setiap proses mempunyai salinan sendiri. Dengan perkhidmatan cache bersama, satu tika boleh mengisi nilai untuk digunakan yang lain. Perkhidmatan itu sendiri boleh menggunakan beberapa nod.

## 1. Tentukan data yang selamat di-cache

Mulakan dengan kos menghasilkan data dan umur yang dibenarkan. Penerangan produk mungkin menerima kelewatan singkat; semakan stok akhir pembelian mungkin memerlukan sumber berautoriti.

Kunci perlu mengenal pasti hasil lengkap, termasuk penyewa, bahasa dan input relevan. Jika tidak, cache pantas boleh memulangkan data pelanggan lain. Kekalkan pangkalan data sebagai autoriti rekod perniagaan tahan lama kerana nilai cache boleh hilang.

## 2. Ikuti bacaan sebelum mereka kemas kini

Cara biasa ialah cache-aside: aplikasi memeriksa cache, membaca pangkalan data jika tiada, lalu menyimpan hasil dengan tempoh luput TTL.

```text
Request -> Cache -> hit  -> Return value
                 -> miss -> Database -> Fill cache -> Return value
```

Ini mengurangkan bacaan berulang apabila banyak permintaan memerlukan nilai sama. Namun ia menambah panggilan rangkaian dan kebergantungan, jadi penjimatan mesti melebihi kos. Lihat [Redis cache-aside](https://redis.io/docs/latest/develop/use-cases/cache-aside/).

## 3. Tentukan bagaimana kemas kini kelihatan

Untuk katalog, permulaan praktikal ialah mengkomit kemas kini pangkalan data kemudian membatalkan produk dalam cache. Pembaca seterusnya memuat semula. Namun masih ada perlumbaan: pembaca mengambil nilai lama sebelum komit dan memasukkannya selepas pembatalan.

TTL mengehadkan hayat salinan yang baru disimpan itu, bukan menjamin setiap bacaan terus melihat tulisan terbaru. Jika kebenaran, harga atau baki lama melanggar peraturan, semak sumber berautoriti atau reka kemas kini peka versi dengan jaminan jelas. Pilih konsistensi mengikut operasi, bukan menganggap Redis menyelesaikannya.

## 4. Elakkan cache miss menjadi gangguan

Jika entri popular luput, ramai pemanggil boleh membaca pangkalan data serentak. Ini cache stampede. Cache gagal boleh menimbulkan masalah sama pada banyak entri.

- Gabungkan pemuatan serentak kunci sama supaya kurang pemanggil membina semula; tentukan sama ada penyelarasan merangkumi satu proses atau semua tika.
- Pelbagaikan masa luput agar banyak entri tidak tamat bersama. Ini menyebarkan refresh tetapi tidak menyelesaikan semua masalah kunci panas.
- Hidangkan nilai lama semasa refresh hanya jika perniagaan membenarkan data lapuk.
- Gunakan timeout cache singkat dan hadkan trafik gantian ke pangkalan data. Menolak sebahagian kerja mungkin lebih selamat daripada membebankan pangkalan data sehingga semua gagal.

Uji laluan ini dengan sengaja. Kadar hit tinggi ketika normal tidak banyak menerangkan kelakuan apabila cache hilang.

## 5. Skala berdasarkan kesesakan sebenar

Sharding membahagikan kunci antara nod; replikasi menyimpan salinan untuk ketersediaan atau bacaan. Masalahnya berbeza. Redis Cluster menggunakan slot hash, maka nod tambahan tidak membahagi kerja satu kunci panas secara automatik. Lihat [spesifikasi Redis Cluster](https://redis.io/docs/latest/operate/oss_and_stack/reference/cluster-spec/).

Pantau kadar hit, latensi, timeout, memori, penyingkiran dan beban pangkalan data. Penyingkiran memadam nilai untuk mengurus memori dan boleh berlaku sebelum TTL. Jangan anggap entri cache sebagai storan kekal terjamin bagi data perniagaan atau tugas berbaris.

Untuk katalog, saya bermula dengan kunci cache-aside jelas, dasar kesegaran dan laluan gantian terlindung. Nod ditambah selepas ukuran membuktikan masalah kapasiti yang boleh diselesaikan pengagihan. **Reka bentuk cache baik menerangkan keadaan nilai hadir, tiada atau salah.**

1. Tentukan data yang selamat di-cache

2. Ikuti bacaan sebelum mereka kemas kini

3. Tentukan bagaimana kemas kini kelihatan

4. Elakkan cache miss menjadi gangguan

5. Skala berdasarkan kesesakan sebenar

Soalan berkaitan