Pola resiliensi mana yang melindungi microservices (circuit breaker, retry, timeout, bulkhead)?

Question

Accepted Answer

Dalam sistem terdistribusi, **semuanya pada akhirnya gagal**. Pola resiliensi menghentikan satu kegagalan dari menyebar menjadi kehancuran total.

## Pola inti

- **Timeout** — jangan pernah menunggu selamanya untuk respons.
- **Retry** — coba lagi kegagalan sementara, dengan backoff + jitter.
- **Circuit breaker** — berhenti memanggil layanan yang gagal agar dapat pulih.
- **Bulkhead** — isolasi sumber daya sehingga satu dependensi lambat tidak dapat menenggelamkan sisanya.

## Contoh circuit breaker

```js
const breaker = new CircuitBreaker(callPaymentService, {
  timeout: 3000,                 // fail the call after 3s
  errorThresholdPercentage: 50,  // open if >50% of calls fail
  resetTimeout: 10000            // after 10s, try one request (half-open)
});
breaker.fallback(() => ({ status: 'queued' })); // graceful degradation
```

## Status circuit breaker

```text
CLOSED ──(failures exceed threshold)──▶ OPEN
  ▲                                       │ (after resetTimeout)
  │ (trial succeeds)                       ▼
  └────────────── HALF-OPEN ◀──────────────┘
                (one trial request)
```

## Bulkhead

```text
[ pool A: 10 threads ]  → payment calls
[ pool B: 10 threads ]  → search calls
If search hangs, it drains pool B only — payments keep working.
```

## Jebakan

**Retry tanpa backoff** memperkuat beban pada layanan yang sudah kesulitan (badai retry). Selalu tambahkan backoff, jitter, dan batas retry.

## Mengapa ini penting

Pola-pola ini adalah apa yang mengubah satu kegagalan layanan yang tak terhindarkan menjadi fitur yang berkurang daripada kehancuran di seluruh situs.

Mereka bekerja bersama: timeout membatasi menunggu, circuit breaker menghentikan pemukulan layanan mati, bulkhead membatasi jari-jari ledakan, dan retry pulih dari gangguan kecil — abaikan satu pun dan kegagalan masih akan menyebar.