Apa itu skalabilitas dan bagaimana cara mencapainya?

Question

Accepted Answer

**Skalabilitas** adalah kemampuan sistem untuk **menangani beban yang meningkat** (lebih banyak pengguna, permintaan, data) dengan menambah sumber daya. Mencapainya melibatkan **vertical scaling** (mesin yang lebih besar) dan terutama **horizontal scaling** (lebih banyak mesin), bersama dengan teknik seperti load balancing, caching, dan distribusi.

## Apa itu skalabilitas

```text
SCALABILITY = the ability to handle GROWTH (more load) by adding resources, maintaining
performance:
  → a scalable system handles 10x or 100x the load by adding capacity
  → a non-scalable system degrades/fails as load grows (a bottleneck)
→ essential because successful systems grow.
```

## Vertical vs horizontal scaling

```text
VERTICAL (scale UP) → a BIGGER machine (more CPU, RAM):
  ✓ simple (no app changes)  ✗ LIMITS (max machine size); expensive; single point of
    failure; downtime to upgrade
HORIZONTAL (scale OUT) → MORE machines (add servers; distribute load):
  ✓ scales nearly unlimited; redundancy/fault tolerance; the approach for large scale
  ✗ more complex (distributed system; need load balancing, statelessness, data distribution)
→ Horizontal scaling is key for large-scale systems (add commodity machines vs one giant one).
```

## Teknik untuk scaling

```text
✓ LOAD BALANCING → distribute requests across multiple servers (enables horizontal scaling)
✓ STATELESS services → so any server can handle any request (essential for horizontal scaling)
✓ CACHING → reduce load on databases/backends (serve from fast cache)
✓ DATABASE scaling → replication (read scaling), sharding (split data), caching
✓ ASYNC processing / queues → handle work without blocking; absorb spikes
✓ CDN → distribute static content; microservices → scale parts independently
```

## Mengapa ini penting

Memahami skalabilitas adalah fondasi karena **menangani pertumbuhan adalah persyaratan inti untuk sistem yang sukses**, dan skalabilitas adalah pusat dari desain sistem, sehingga merupakan pengetahuan yang esensial.

Skalabilitas — menangani beban yang meningkat dengan menambah sumber daya sambil mempertahankan kinerja — sangat penting karena sistem yang sukses berkembang (lebih banyak pengguna, traffic, data), dan sistem yang tidak dapat diskalakan akan merosot atau gagal karena bottleneck.

Memahami perbedaan **vertical vs horizontal scaling** adalah fundamental: vertical scaling (mesin yang lebih besar) sederhana tetapi terbatas (ukuran mesin maksimal, biaya, single point of failure), sedangkan **horizontal scaling** (lebih banyak mesin) dapat diskalakan hampir tanpa batas dengan redundansi tetapi memerlukan kompleksitas sistem terdistribusi (load balancing, statelessness, distribusi data).

Memahami bahwa **horizontal scaling adalah kunci untuk sistem berskala besar** (menambah mesin commodity daripada satu mesin raksasa) adalah konsep desain sistem yang inti.

Memahami **teknik-teknik** — **load balancing** (mendistribusikan permintaan, mengaktifkan horizontal scaling), **stateless services** (sehingga server mana pun dapat menangani permintaan apa pun, esensial untuk horizontal scaling), **caching** (mengurangi beban backend), **database scaling** (replication, sharding), **async processing/queues** (menyerap lonjakan), dan CDNs dan microservices — menyediakan toolkit untuk membangun sistem yang scalable.

Teknik-teknik ini muncul kembali di seluruh desain sistem.

Karena menangani pertumbuhan adalah persyaratan inti dan skalabilitas (terutama horizontal scaling dengan teknik pendukungnya) adalah bagaimana sistem menangani beban yang meningkat, dan karena memahami pendekatan scaling dan teknik-teknik adalah fundamental untuk desain sistem, memahami skalabilitas adalah pengetahuan desain sistem yang esensial dan fundamental — pusat untuk membangun sistem yang menangani pertumbuhan, kekhawatiran inti dalam praktis semua desain sistem, dan fondasi untuk memahami bagaimana sistem berskala besar dibangun untuk menangani beban masif.