Połączenie może zajmować zasoby podczas oczekiwania, nawet przy niskim użyciu CPU. Najpierw ustal osiągnięty limit, zamiast zakładać brak mocy obliczeniowej.
Client -- socket A --> Nginx -- socket B --> Backend
Żądanie HTTP/1.x przez proxy może używać jednego połączenia klienta i jednego upstream. Jeśli backend się zatrzyma, oba mogą pozostać zajęte. worker_connections obejmuje upstream, więc nie oznacza po prostu liczby obsługiwanych użytkowników.
worker_connections are not enough: sprawdź limit połączeń workera i bieżące połączenia.Too many open files: sprawdź efektywny limit deskryptorów plików workera. Deskryptor to uchwyt systemu operacyjnego dla gniazd i plików.Dla przykładu 1 000 jednocześnie aktywnych żądań proxy może wymagać około 2 000 gniazd po obu stronach. To nie jest wzór pojemności: HTTP/2, ponowne użycie keepalive i bezczynne połączenia zmieniają tę relację.
Najpierw napraw zatrzymaną pracę backendu lub ogranicz oczekujące żądania. Jeśli zdrowy ruch przekracza limity, dopasuj ustawienia workerów, limity procesów i pamięć, a potem testuj obciążenie. Potwierdź wzrost skutecznej przepustowości i poprawę opóźnień, nie tylko zgodę na dłuższą kolejkę.
Biblioteka pytań rekrutacyjnych IT ze szczegółowymi odpowiedziami — od Juniora do Seniora.
Wesprzyj