Como upstreams do Nginx balanceiam tráfego e tratam nós com falha?

Defina um grupo upstream para que o Nginx envie requisições a várias instâncias da aplicação. Depois decida como distribuir o trabalho e quando evitar temporariamente uma instância com falha.

Comece com dois servidores de aplicação

Dentro de http, esta configuração ilustrativa distribui tráfego entre dois endereços privados:

upstream app {
    server 10.0.0.11:3000 max_fails=2 fail_timeout=10s;
    server 10.0.0.12:3000 max_fails=2 fail_timeout=10s;
}
server {
    listen 80;
    location / {
        proxy_pass http://app;
    }
}