Как upstream в Nginx балансирует трафик и обрабатывает сбои узлов?

Определите группу upstream, чтобы Nginx отправлял запросы нескольким экземплярам приложения. Затем решите, как распределять работу и когда временно избегать неисправного экземпляра.

Начнём с двух серверов приложения

Внутри http следующая примерная конфигурация распределяет трафик между двумя частными адресами:

upstream app {
    server 10.0.0.11:3000 max_fails=2 fail_timeout=10s;
    server 10.0.0.12:3000 max_fails=2 fail_timeout=10s;
}
server {
    listen 80;
    location / {
        proxy_pass http://app;
    }
}