Miten Horizontal Pod Autoscaler toimii, ja miten se liittyy Cluster Autoscaleriin?

Question

IT Interview Practice · Accepted Answer

**Horizontal Pod Autoscaler (HPA)** lisää tai poistaa **Pod-replikoita** havaittujen metriikkojen (CPU, muisti tai custom) perusteella. **Cluster Autoscaler (CA)** lisää tai poistaa **nodeja** kun Podeja ei voida aikatauluttaa tai nodet ovat alikäytettyjä. Ne toimivat eri kerroksilla ja työskentelevät yhdessä.

## Kaksi autoscaleria, kaksi kerrosta

```text
HPA  → scales PODS  (more/fewer replicas of a Deployment)     — reacts to LOAD
CA   → scales NODES (grows/shrinks the cluster's machines)     — reacts to PENDING Pods
VPA  → (bonus) adjusts a Pod's requests/limits                 — reacts to right-sizing

Typical flow: load rises → HPA adds Pods → Pods can't fit → CA adds a node →
              Pods schedule. Load drops → HPA removes Pods → node idle → CA removes it.
```

## Miten HPA:n control loop toimii

```text
Every ~15s the HPA controller:
  1. reads current metric (e.g. avg CPU across Pods) from metrics-server / custom API
  2. computes:  desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)
  3. scales the Deployment toward that (bounded by minReplicas/maxReplicas)
Example: 4 Pods at 80% CPU, target 50% → 4 * 80/50 = 6.4 → 7 replicas.
Stabilization windows dampen flapping (esp. on scale-down).
```

## HPA-manifesti

```yaml
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: web-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: web
  minReplicas: 3
  maxReplicas: 20
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 60      # pidä keskim. CPU ~60% REQUESTista
  behavior:                           # valinnainen: viritä skaalauksen ylös/alas nopeus
    scaleDown:
      stabilizationWindowSeconds: 300
```

```bash
kubectl get hpa                       # nykyinen/tavoite-metriikka, replikamäärä
kubectl top pods                      # vaatii metrics-serverin
```

## Tärkeät riippuvuudet & varoitukset

```text
• HPA on CPU/memory REQUIRES metrics-server installed; utilization is relative to REQUESTS
  → if requests are unset/wrong, HPA math is meaningless. Set requests correctly.
• Custom/external metrics (RPS, queue depth) need an adapter (Prometheus Adapter, KEDA).
• HPA and manual `replicas` conflict — let the HPA own the replica count.
• Cluster Autoscaler needs correct requests too: it looks at Pending Pods' REQUESTS to
  decide node scaling. Node scale-up takes minutes (provisioning), so keep headroom.
```

## Miksi se on tärkeää

Autoskaalaus on se, mikä antaa Kubernetesin sovittaa kapasiteetin kysyntään automaattisesti, ja kahden kerroksen ymmärtäminen on senior-tason tietoa, joka erottaa kustannustehokkaat, kestävät klusterit yli- tai alimitoitetuista. Keskeinen ajatusmalli on, että **HPA skaalaa Podeja** vasteena kuormaan (säätäen replikamäärää havaitusta CPU:sta, muistista tai custom-metriikoista) kun taas **Cluster Autoscaler skaalaa nodeja** vasteena aikataulutuspaineeseen (lisäten koneita kun Podit ovat Pending, poistaen niitä kun nodet ovat jouten) — ne toimivat eri kerroksilla ja tekevät yhteistyötä: HPA voi lisätä Podeja vain jos tilaa on, ja CA tarjoaa tuon tilan. HPA:n control loopin ymmärtäminen — `desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)` -kaava, säännöllinen reconciliation ja stabilisaatioikkunat, jotka estävät heilahtelun — antaa sinun konfiguroida ja debugata sitä sen sijaan että kohtelisit sitä taikuutena. Varoitukset ovat siellä missä senior-harkinta näkyy: HPA CPU:lla/muistilla **vaatii metrics-serverin** ja laskee käyttöasteen **suhteessa requesteihin**, joten väärät tai puuttuvat requestit tekevät sen matematiikasta merkityksetöntä; custom-metriikat (pyynnöt-sekunnissa, jonon syvyys) tarvitsevat adapterin kuten Prometheus Adapter tai KEDA; ja noden skaalaus ylös kestää minuutteja, joten pelivara on tärkeää. Koska kapasiteetin oikeamitoitus vaikuttaa suoraan luotettavuuteen liikennepiikkien alla ja pilvikuluihin hiljaisina aikoina, ja koska molemmat autoscalerit riippuvat oikein asetetuista resurssi-requesteista, HPA:n ja Cluster Autoscalerin hallinta on perustavaa tuotanto-Kubernetesin tehokkaalle ja luotettavalle operoinnille.

Kaksi autoscaleria, kaksi kerrosta

Miten HPA:n control loop toimii

HPA-manifesti

Tärkeät riippuvuudet & varoitukset

Miksi se on tärkeää

Aiheeseen liittyvät kysymykset