Πώς λειτουργούν τα circuit breaker και οι επαναλήψεις με εκθετικό backoff σε κατανεμημένα συστήματα;

Question

Accepted Answer

Στα κατανεμημένα συστήματα, οι κλήσεις αποτυγχάνουν. **Επαναλήψεις με εκθετικό backoff** ανακάμπτουν από *προσωρινές* σφάλματα· ένας **circuit breaker** σε εμποδίζει από το να βομβαρδίζεις μια εξάρτηση που είναι πραγματικά *down*. Είναι συμπληρωματικά: επαναδοκίμασε το σφάλμα, σταμάτησε στην διακοπή.

## Επανάληψη με εκθετικό backoff + jitter

Για προσωρινές αποτυχίες (timeouts, σύντομα προβλήματα δικτύου, 503s), επανάληψη — αλλά **backoff εκθετικά και προσθέστε jitter** ώστε οι επαναλήψεις να διασπείρονται αντί να συγχρονιστούν σε μια τεράστια αγέλη.

```text
attempt 1 → wait ~1s   (+ random jitter)
attempt 2 → wait ~2s   (+ random jitter)
attempt 3 → wait ~4s   (+ random jitter)
→ cap at maxRetries (e.g. 3) and a max delay → don't retry forever
```

Κύρια προειδοποίηση:

- **Περιορίστε τις επαναλήψεις** — απεριόριστες επαναλήψεις δημιουργούν **καταιγίδες επανάληψης** που υπερφορτώνουν μια ανακάμπτουσα υπηρεσία.
- **Ιδιοδυναμία** — επαναλάβετε μόνο λειτουργίες που είναι ασφαλές να επαναλάβετε (μια επαναλημμένη πληρωμή δεν πρέπει να χρεώνει δύο φορές).
- **Jitter** — χωρίς αυτό, όλοι οι πελάτες επαναλαμβάνουν την ίδια στιγμή και επανα-πυροδοτούν το φορτίο.

## Circuit breaker

Ένας circuit breaker παρακολουθεί αποτυχίες σε μια εξάρτηση και μετά από ένα όριο **ανοίγει** — αποτυγχάνει γρήγορα (ή επιστρέφει ένα fallback) αντί να καλεί μια νεκρή υπηρεσία. Μετά από ένα cooldown γίνεται **half-open** για να δοκιμάσει την ανάκαμψη.

```text
CLOSED   → calls pass through; count failures
  too many failures → trip → OPEN
OPEN     → fail fast immediately (no call); start cooldown timer
  cooldown elapsed → HALF-OPEN
HALF-OPEN → allow a few probe calls
  success → CLOSED (recovered) ; failure → back to OPEN
```

## Πότε ισχύει καθένα

```text
Retry           → transient, likely-to-succeed-soon errors (1 slow call)
Circuit breaker → repeated/sustained failures (the dependency is down)
→ use together: breaker prevents retries from piling onto a dead service
```

## Γιατί είναι σημαντικό

Χωρίς αυτά, μια αποτυχημένη εξάρτηση παίρνει το κάλεσμα μαζί της: τα αιτήματα σωριεύονται σε timeouts, οι επαναλήψεις ενισχύουν το φορτίο και η αποτυχία διαδίδεται σε υπηρεσίες. Εκθετικό backoff με jitter ανακάμπτει από σφάλματα χωρίς καταιγίδα επανάληψης· τα όρια και η ιδιοδυναμία κρατούν τις επαναλήψεις ασφαλείς· και ο circuit breaker σταματά τη σπατάλη πόρων σε μια νεκρή εξάρτηση και της δίνει χώρο να ανακάμψει. Μαζί μετατρέπουν μια αποτυχία εξάρτησης σε μια περιορισμένη, αυτοθεράπευσης εκδήλωση.