మీరు వ్యక్తిగత సేవలను ఎలా స్కేల్ చేస్తారు మరియు పనితీరు బాటిల్‌నెక్‌లను ఎలా కనుగొంటారు?

Question

Accepted Answer

microservices యొక్క ముఖ్య ప్రయోజనం **ప్రతి సేవను స్వతంత్రంగా స్కేల్ చేయడం** దాని స్వంత లోడ్‌కు సరిపోయేలా, మొత్తం యాప్‌ను స్కేల్ చేయకుండా. బాటిల్‌నెక్‌లను కనుగొనడం సేవ-ప్రతి మరియు హాప్-ప్రతి కొలత విషయం.

## స్కేలింగ్ పద్ధతులు

- **క్షితిజ సమాంతర స్కేలింగ్** — లోడ్ బ్యాలెన్సర్ వెనుక అవస్థితి లేని ఉదాహరణలను జోడించండి.
- **ఆటోస్కేలింగ్** — CPU, మెమరీ, క్యూ లోతు, లేదా కస్టమ్ మెట్రిక్‌ల ఆధారంగా స్కేల్ చేయండి.
- **కాషింగ్** — పునరావృత్తమైన పనిని మరియు డౌన్‌స్ట్రీమ్ లోడ్‌ను తగ్గించండి.
- **Async + క్యూలు** — స్పైక్‌లను గ్రహించండి; నెమ్మదిగా పనిని విభజించండి.
- **డేటా స్కేలింగ్** — రీడ్ రెప్లికాలు, sharding, సేవా-ఉదాహరణ స్టోర్‌లు.

```yaml
# Kubernetes HPA: scale orders on CPU
minReplicas: 3
maxReplicas: 20
metric: cpu
targetUtilization: 70   # add pods when avg CPU > 70%
```

## బాటిల్‌నెక్‌లను కనుగొనడం

```text
1. Metrics: which service has high latency / saturation? (RED/USE)
2. Traces: which SPAN in the request is slow?
3. Drill in: DB query? lock? N+1 calls? GC pause?
```

```text
Gateway ──┤ Orders ──┤ Payments ████████████ ← 80% of latency here
                       Inventory ─┤
```

## సాధారణ బాటిల్‌నెక్‌లు

```text
⚠️ Chatty synchronous calls (fan-out per request)
⚠️ Shared/overloaded database
⚠️ Missing or cold cache
⚠️ Unbounded retries amplifying load
```

## ఫంక్షన్

సేవను స్కేల్ చేయడం, దీని బాటిల్‌నెక్ **భాగస్వామ్య డేటాబేస్** కేవలం డిబిపై ఎక్కువ లోడ్‌ను కదిలిస్తుంది — వాస్తవ అడ్డంకిని స్కేల్ చేయండి, లక్షణాన్ని కాదు.

## ఇది ఎందుకు ముఖ్యమైనది

స్వతంత్ర స్కేలింగ్ మీకు లోడ్ ఎక్కడ ఉందో ఖచ్చితంగా సామర్థ్యాన్ని ఖర్చు చేయడానికి అనుమతిస్తుంది, ఇది మొత్తం నిర్మాణాన్ని స్కేల్ చేయడం కంటే చాలా చౌకైనది.

కానీ గుడ్డ స్కేలింగ్ డబ్బును వృధా చేస్తుంది మరియు విషయాలను చెత్త చేయవచ్చు; సేవా-ప్రతి మెట్రిక్‌లు మరియు హాప్-ప్రతి ట్రేస్‌లను కొలవడం వాస్తవ అడ్డంకిని సరిచేయడానికి మీకు చెబుతుంది.