ఆप్‌ఫ్లూరებను గ్రేస్‌ఫుల్‌గా హ్యాండిల్ చేసే సిస్టమ్‌లను ఎలా డిజైన్ చేస్తారు?

Question

Accepted Answer

స్కేల్ వద్ద, **ఫేలియర్‌లు అనివార్యమైనవి** — సర్వర్‌లు క్రాష్ చేయుతాయి, నెట్‌వర్క్‌లు విఫలమవుతాయి, డిపెండెన్సీలు అందుబాటులో లేకుండా పోతాయి. ఫేలియర్ కోసం డిజైన్ చేయడం అంటే సిస్టమ్‌లను నిర్మించడం, ఇవ్వంటి విధంగా **ఫేలియర్‌లను తట్టుకోవటానికి మరియు వాటి నుండి రికవర్ చేయటానికి** కాకుండా, ప్రతిదీ పనిచేస్తుందని ఊహించుకోవటానికి కాకుండా. ఇది నమ్మకమైన సిస్టమ్‌ల కోసం అవసరమైనది.

## ఫేలియర్ కోసం డిజైన్ చేయండి (మానసికత)

```text
ASSUME things WILL fail → at scale, failures are NORMAL, not exceptional:
  → servers crash, networks partition, disks fail, dependencies go down, traffic spikes
  → design systems to EXPECT and HANDLE failures gracefully (not assume everything works)
→ "everything fails all the time" → build resilience in.
```

## రెసిలియెన్స్ టెక్నిక్‌లు

```text
✓ REDUNDANCY → multiple instances, no single point of failure (failover to healthy ones)
✓ RETRIES (with backoff) → retry transient failures (with exponential backoff + jitter to
  avoid overwhelming a recovering service)
✓ TIMEOUTS → don't wait forever for a failing dependency (fail fast)
✓ CIRCUIT BREAKERS → stop calling a failing service temporarily (prevent cascading failures;
  give it time to recover) → fail fast and fall back
✓ GRACEFUL DEGRADATION → reduced functionality vs total failure (e.g. show cached/partial
  data if a service is down)
✓ FALLBACKS → a default/alternative when something fails
✓ BULKHEADS / isolation → contain failures (one part failing doesn't sink everything)
```

## కాస్కేడింగ్ ఫేలియర్‌లను నివారించడం

```text
⚠️ CASCADING failures → one failure triggers others (e.g. a slow service exhausts callers'
  resources → they fail too → spreads)
→ prevent with: timeouts, circuit breakers, isolation/bulkheads, load shedding, backpressure
✓ MONITORING/alerting → detect failures fast; test failure scenarios (chaos engineering)
```

## ఇది ఎందుకు ముఖ్యమైనది

ఆప్‌ఫ్లూరెస్‌ను గ్రేసుఫుల్‌గా హ్యాండిల్ చేసే సిస్టమ్‌లను డిజైన్ చేయటం ఎలాగో అర్థం చేసుకోవడం విలువైనది ఎందుకంటే **స్కేల్ వద్ద ఫేలియర్‌లు అనివార్యమైనవి**, మరియు వాటి కోసం డిజైన్ చేయడం నమ్మకమైన సిస్టమ్‌ల కోసం అవసరమైనది, కాబట్టి ఇది ముఖ్యమైన సిస్టమ్-డిజైన్ జ్ఞానం.

ప్రాథమిక మానసికత — **విషయాలు విఫలమవుతాయని భావించడం** (ఎందుకంటే స్కేల్ వద్ద, ఫేలియర్‌లు సాధారణమైనవి, అసాధారణమైనవి కాదు — సర్వర్‌లు క్రాష్ చేయుతాయి, నెట్‌వర్క్‌లు విభజన చేయుతాయి, డిపెండెన్సీలు క్షీణించిపోతాయి) మరియు సిస్టమ్‌లను ఫేలియర్‌లను ఆశించటానికి మరియు గ్రేసుఫుల్‌గా హ్యాండిల్ చేయటానికి నిర్మించడం, ప్రతిదీ పనిచేస్తుందని ఊహించుకోవటానికి కాకుండా — నమ్మకమైన సిస్టమ్‌ల నిర్మాణానికి ఆధారం,