Distributed systems मा circuit breakers र backoff सँग retries कसरी काम गर्छन्?

Question

Accepted Answer

Distributed systems मा, कलहरू असफल हुन्छन्। **Backoff सँग Retries** *transient* errors बाट पुनः प्राप्त गर्छ; एक **circuit breaker** तपाईंलाई एक निर्भरता जो साँच्चै *down* छ, त्यसलाई ह्यामर गर्नबाट रोक्छ। तिनीहरू पूरक छन्: blip पुनः प्रयास गर्नुहोस्, outage मा break गर्नुहोस्।

## Exponential backoff + jitter सँग Retry

Transient failures (timeouts, brief network blips, 503s) को लागि, पुनः प्रयास गर्नुहोस् — तर **exponentially back off गर्नुहोस् र jitter थप्नुहोस्** ताकि retries एक thundering herd मा synchronize हुनुको सट्टा फैलिन्छ।

```text
attempt 1 → wait ~1s   (+ random jitter)
attempt 2 → wait ~2s   (+ random jitter)
attempt 3 → wait ~4s   (+ random jitter)
→ cap at maxRetries (e.g. 3) and a max delay → don't retry forever
```

मुख्य सावधानीहरू:

- **Cap retries** — unbounded retries ले एक recovering service लाई **retry storms** ओभरलोड गर्छ।
- **Idempotency** — केवल operations पुनः प्रयास गर्नुहोस् जो दोहोरिन सुरक्षित छन् (एक retried payment दुई पटक चार्ज गर्नु हुँदैन)।
- **Jitter** — बिना यसको, सबै क्लायन्टहरू एक ही पल मा पुनः प्रयास गर्छन् र load पुनः बढ्छ।

## Circuit breaker

एक circuit breaker एक निर्भरता को failures ट्र्याक गर्छ र, एक threshold पछि, **trips open** — fast असफल (वा एक fallback फर्काउँदै) एक dead service लाई कल गर्नुको सट्टा। एक cooldown पछि यो **half-open** मा जान्छ recovery probe गर्न।

```text
CLOSED   → calls pass through; count failures
  too many failures → trip → OPEN
OPEN     → fail fast immediately (no call); start cooldown timer
  cooldown elapsed → HALF-OPEN
HALF-OPEN → allow a few probe calls
  success → CLOSED (recovered) ; failure → back to OPEN
```

## जब प्रत्येक लागू हुन्छ

```text
Retry           → transient, likely-to-succeed-soon errors (1 slow call)
Circuit breaker → repeated/sustained failures (the dependency is down)
→ use together: breaker prevents retries from piling onto a dead service
```

## किन यो महत्त्वपूर्ण छ

यी बिना, एक असफल निर्भरता को कल गर्नेलाई यसको साथ down ले जान्छ: requests timeouts मा stack हुन्छन्, retries load amplify गर्छन्, र failure services भर cascade हुन्छ। Exponential backoff with jitter retry storm बिना blips बाट पुनः प्राप्त गर्छ; capping र idempotency retries सुरक्षित राख्छ; र circuit breaker एक dead dependency मा resources बर्बाद गर्नबाट रोक्छ र यसलाई recover गर्न को लागि कोठा दिन्छ। सँगै तिनीहरू एक निर्भरता failure लाई एक contained, self-healing event मा परिणत गर्छन्।