Bagaimana Anda menskalakan layanan individual dan menemukan hambatan kinerja?

Question

Accepted Answer

Manfaat kunci microservices adalah **kemampuan untuk menskalakan setiap layanan secara independen** agar sesuai dengan beban mereka sendiri, alih-alih menskalakan seluruh aplikasi. Menemukan hambatan kemudian menjadi masalah pengukuran per-layanan dan per-hop.

## Teknik penskalaan

- **Penskalaan horizontal** — tambahkan instans stateless di belakang load balancer.
- **Penskalaan otomatis** — skala pada CPU, memori, kedalaman antrian, atau metrik khusus.
- **Caching** — kurangi pekerjaan berulang dan beban downstream.
- **Async + queues** — serap lonjakan; pisahkan pekerjaan yang lambat.
- **Penskalaan data** — replika baca, sharding, penyimpanan per-layanan.

```yaml
# Kubernetes HPA: scale orders on CPU
minReplicas: 3
maxReplicas: 20
metric: cpu
targetUtilization: 70   # add pods when avg CPU > 70%
```

## Menemukan hambatan

```text
1. Metrics: which service has high latency / saturation? (RED/USE)
2. Traces: which SPAN in the request is slow?
3. Drill in: DB query? lock? N+1 calls? GC pause?
```

```text
Gateway ──┤ Orders ──┤ Payments ████████████ ← 80% of latency here
                       Inventory ─┤
```

## Hambatan umum

```text
⚠️ Chatty synchronous calls (fan-out per request)
⚠️ Shared/overloaded database
⚠️ Missing or cold cache
⚠️ Unbounded retries amplifying load
```

## Perangkap

Menskalakan layanan yang hambatannya adalah **database bersama** hanya memindahkan beban lebih ke DB — skala batasan aktual, bukan gejalanya.

## Mengapa ini penting

Penskalaan independen memungkinkan Anda mengalokasikan kapasitas dengan tepat di mana beban berada, yang jauh lebih murah daripada menskalakan monolith secara grosir.

Tapi penskalaan buta membuang uang dan dapat memperburuk keadaan; mengukur metrik per-layanan dan jejak per-hop adalah apa yang memberi tahu Anda tentang hambatan sebenarnya yang harus diperbaiki.