Bagaimana upstream Nginx membagi trafik dan menangani node gagal?

Question

IT Interview Practice · Accepted Answer

Definisikan grup upstream agar Nginx dapat mengirim permintaan ke beberapa instans aplikasi. Lalu tentukan cara membagi pekerjaan dan kapan harus sementara menghindari instans yang gagal.

## Mulai dengan dua server aplikasi

Di dalam `http`, konfigurasi ilustratif berikut membagi trafik ke dua alamat privat:

```nginx
upstream app {
    server 10.0.0.11:3000 max_fails=2 fail_timeout=10s;
    server 10.0.0.12:3000 max_fails=2 fail_timeout=10s;
}
server {
    listen 80;
    location / {
        proxy_pass http://app;
    }
}
```

Dengan bobot sama, metode default round-robin bergiliran antarserver. `max_fails` dan `fail_timeout` pada contoh memungkinkan kegagalan yang memenuhi kriteria mengecualikan server sementara. Angkanya menjelaskan perilaku; pilih nilai produksi berdasarkan trafik dan toleransi kegagalan Anda.

## Kapan metode perlu diubah?

Jika beberapa permintaan membuat koneksi sibuk jauh lebih lama, pertimbangkan menambahkan `least_conn;` pada blok upstream. Metode ini mengutamakan server dengan lebih sedikit koneksi aktif. Kedua metode tidak berbagi data sesi: jika sesi login berada pada satu instans, pindahkan ke penyimpanan bersama atau rancang afinitas sesi secara sengaja.

## Uji kegagalan, jangan mengasumsikan pemulihan

Hentikan satu instans uji dan periksa upstream yang menerima permintaan. Deteksi kegagalan pasif belajar dari permintaan nyata; pemeriksaan kesehatan berkala bergantung pada fitur yang tersedia. Batasi retry dan jangan mengulangi pembayaran yang hasilnya tidak pasti secara membabi buta: percobaan pertama mungkin sudah berhasil.

[Dokumentasi resmi](https://nginx.org/en/docs/http/ngx_http_upstream_module.html).

Mulai dengan dua server aplikasi

Kapan metode perlu diubah?

Uji kegagalan, jangan mengasumsikan pemulihan

Pertanyaan terkait