Πώς σχεδιάζετε συστήματα που χειρίζονται τις αστοχίες με χάρη;

Question

Accepted Answer

Σε μεγάλη κλίμακα, **οι αστοχίες είναι αναπόφευκτες** — οι διακομιστές καταρρέουν, τα δίκτυα αποτυγχάνουν, οι εξαρτήσεις γίνονται μη διαθέσιμες. Το σχεδιασμό για αστοχία σημαίνει τη δημιουργία συστημάτων που **ανέχονται και ανάγονται από αστοχίες με χάρη** παρά το να υποθέτουν ότι όλα λειτουργούν. Αυτό είναι απαραίτητο για αξιόπιστα συστήματα.

## Σχεδιασμό για αστοχία (το νοοτροπία)

```text
ASSUME things WILL fail → at scale, failures are NORMAL, not exceptional:
  → servers crash, networks partition, disks fail, dependencies go down, traffic spikes
  → design systems to EXPECT and HANDLE failures gracefully (not assume everything works)
→ "everything fails all the time" → build resilience in.
```

## Τεχνικές ανθεκτικότητας

```text
✓ REDUNDANCY → multiple instances, no single point of failure (failover to healthy ones)
✓ RETRIES (with backoff) → retry transient failures (with exponential backoff + jitter to
  avoid overwhelming a recovering service)
✓ TIMEOUTS → don't wait forever for a failing dependency (fail fast)
✓ CIRCUIT BREAKERS → stop calling a failing service temporarily (prevent cascading failures;
  give it time to recover) → fail fast and fall back
✓ GRACEFUL DEGRADATION → reduced functionality vs total failure (e.g. show cached/partial
  data if a service is down)
✓ FALLBACKS → a default/alternative when something fails
✓ BULKHEADS / isolation → contain failures (one part failing doesn't sink everything)
```

## Αποφυγή διαδιδόμενων αστοχιών

```text
⚠️ CASCADING failures → one failure triggers others (e.g. a slow service exhausts callers'
  resources → they fail too → spreads)
→ prevent with: timeouts, circuit breakers, isolation/bulkheads, load shedding, backpressure
✓ MONITORING/alerting → detect failures fast; test failure scenarios (chaos engineering)
```

## Γιατί έχει σημασία

Η κατανόηση του τρόπου σχεδιασμού συστημάτων που χειρίζονται τις αστοχίες με χάρη είναι πολύτιμη επειδή **οι αστοχίες είναι αναπόφευκτες σε μεγάλη κλίμακα**, και ο σχεδιασμό για αυτές είναι απαραίτητος για αξιόπιστα συστήματα, οπότε είναι σημαντική γνώση σχεδιασμού συστημάτων.

Η θεμελιώδης νοοτροπία — **η υπόθεση ότι τα πράγματα θα αποτύχουν** (καθώς σε μεγάλη κλίμακα, οι αστοχίες είναι φυσικές, όχι εξαιρετικές — οι διακομιστές καταρρέουν, τα δίκτυα χωρίζονται, οι εξαρτήσεις πέφτουν) και ο σχεδιασμός συστημάτων για να αναμένουν και να χειρίζονται αστοχίες με χάρη παρά το να υποθέτουν ότι όλα λειτουργούν — είναι το θεμέλιο της δημιουργίας αξιόπιστων συστημάτων, εξ ου η αρχή ότι «τα πάντα αποτυγχάνουν συνέχεια». Η κατανόηση των **τεχνικών ανθεκτικότητας** είναι η βασική πρακτική γνώση: **πολλαπλότητα** (καμία μοναδική πηγή αστοχίας), **επανάληψες με backoff** (χειρισμός παροδικών αστοχιών, με εκθετικό backoff και jitter για να αποφύγετε την υπερφόρτωση ανακαμπτόντων υπηρεσιών), **timeouts** (γρήγορη αστοχία παρά το να περιμένετε για πάντα), **circuit breakers** (σταμάτημα κλήσεων σε μια αποτυχημένη υπηρεσία για να αποτρέψετε διαδιδόμενες αστοχίες και να την αφήσετε να ανάγεται), **χάρικη υποβάθμιση** (μειωμένη λειτουργικότητα αντί της ολικής αστοχίας, όπως η εμφάνιση ενταμιευμένων δεδομένων), **fallbacks**, και **bulkheads/απομόνωση** (περιορισμός αστοχιών).

Αυτές οι τεχνικές είναι ο τρόπος που τα συστήματα ανέχονται και ανάγονται από τις αστοχίες που αναπόφευκτα συμβαίνουν.

Η κατανόηση του τρόπου **αποφυγής διαδιδόμενων αστοχιών** — όπου μια αστοχία προκαλεί άλλες (μια αργή υπηρεσία που εξαντλεί τους πόρους των κλήσεων, επεκτείνοντας την αστοχία), αποτρεπόμενη με timeouts, circuit breakers, απομόνωση, load shedding, και backpressure — είναι ιδιαίτερα σημαντική, καθώς οι διαδιδόμενες αστοχίες μετατρέπουν μικρά προβλήματα σε μεγάλες διακοπές.

Η κατανόηση του ρόλου της παρακολούθησης και της δοκιμής σεναρίων αστοχίας (chaos engineering) συμπληρώνει την εικόνα.

Επειδή οι αστοχίες είναι αναπόφευκτες σε μεγάλη κλίμακα και ο σχεδιασμό για αυτές (με τη νοοτροπία σχεδιασμού για αστοχία και τεχνικές ανθεκτικότητας) είναι απαραίτητος για αξιόπιστα συστήματα, και επειδή η κατανόηση της νοοτροπίας, των τεχνικών, και της πρόληψης διαδιδόμενων αστοχιών είναι σημαντική για τη δημιουργία ισχυρών συστημάτων, η κατανόηση του τρόπου σχεδιασμού για αστοχία είναι πολύτιμη, πρακτικά-σημαντική γνώση σχεδιασμού συστημάτων — απαραίτητη για τη δημιουργία αξιόπιστων συστημάτων που ανέχονται τις αναπόφευκτες αστοχίες σε μεγάλη κλίμακα, κεντρική για την ανθεκτικότητα μέσω πολλαπλότητας, επανάληψης, circuit breakers, και χάρικης υποβάθμισης, και αντανακλώντας τη νοοτροπία σχεδιασμού για αστοχία που διακρίνει τα ισχυρά συστήματα από τα εύθραυστα.