Bagaimanakah pemutus litar dan percubaan semula dengan backoff berfungsi dalam sistem terdistribusi?

Question

Accepted Answer

Dalam sistem terdistribusi, panggilan gagal. **Percubaan semula dengan backoff** pulih daripada ralat *sementara*; **pemutus litar** menghalang anda daripada memukul ketergantungan yang benar-benar *turun*. Mereka saling melengkapi: ulangi kesilapan, putuskan pada gangguan.

## Percubaan semula dengan backoff eksponensial + jitter

Untuk kegagalan sementara (timeout, masalah rangkaian pendek, 503), ulangi — tetapi **mundur secara eksponensial dan tambahkan jitter** supaya percubaan semula tersebar daripada menyegerak menjadi kumpulan yang bergemuruh.

```text
attempt 1 → wait ~1s   (+ random jitter)
attempt 2 → wait ~2s   (+ random jitter)
attempt 3 → wait ~4s   (+ random jitter)
→ cap at maxRetries (e.g. 3) and a max delay → don't retry forever
```

Peringatan utama:

- **Had percubaan semula** — percubaan semula tanpa batas mencipta **ribut percubaan semula** yang membebani perkhidmatan yang sedang pulih.
- **Idempotency** — hanya ulangi operasi yang selamat diulang (pembayaran yang diulang tidak boleh dicaj dua kali).
- **Jitter** — tanpanya, semua klien mencoba semula pada saat yang sama dan membangkitkan beban semula.

## Pemutus litar

Pemutus litar menjejaki kegagalan kepada ketergantungan dan, selepas ambang batas, **membuka** — gagal dengan cepat (atau mengembalikan fallback) daripada memanggil perkhidmatan yang mati. Selepas tempoh penyejukan ia masuk **setengah terbuka** untuk menyiasat pemulihan.

```text
CLOSED   → calls pass through; count failures
  too many failures → trip → OPEN
OPEN     → fail fast immediately (no call); start cooldown timer
  cooldown elapsed → HALF-OPEN
HALF-OPEN → allow a few probe calls
  success → CLOSED (recovered) ; failure → back to OPEN
```

## Bila masing-masing digunakan

```text
Retry           → transient, likely-to-succeed-soon errors (1 slow call)
Circuit breaker → repeated/sustained failures (the dependency is down)
→ use together: breaker prevents retries from piling onto a dead service
```

## Mengapa penting

Tanpanya, satu ketergantungan yang gagal membawa pemanggilnya turun: permintaan terkumpul pada timeout, percubaan semula menguatkan beban, dan kegagalan meluas di seluruh perkhidmatan. Backoff eksponensial dengan jitter pulih daripada kesilapan tanpa ribut percubaan semula; had dan idempotency memastikan percubaan semula selamat; dan pemutus litar berhenti membuang sumber daya pada ketergantungan yang mati dan memberikan ruang untuknya pulih. Bersama-sama mereka mengubah kegagalan ketergantungan menjadi peristiwa yang terkandung dan penyembuhan diri.