Si funksionon Horizontal Pod Autoscaler, dhe si lidhet me Cluster Autoscaler?

Question

IT Interview Practice · Accepted Answer

**Horizontal Pod Autoscaler (HPA)** shton ose heq **replica Pod-esh** bazuar te metrikat e vëzhguara (CPU, memory, ose të personalizuara). **Cluster Autoscaler (CA)** shton ose heq **node** kur Pod-et nuk mund të scheduled ose node-et janë të nën-përdorura. Ata veprojnë në shtresa të ndryshme dhe punojnë së bashku.

## Dy autoscaler, dy shtresa

```text
HPA  → shkallëzon POD-et  (më shumë/pak replica të një Deployment)  — reagon ndaj NGARKESËS
CA   → shkallëzon NODE-et (rrit/zvogëlon makinat e cluster-it)      — reagon ndaj Pod-eve PENDING
VPA  → (bonus) rregullon requests/limits e një Pod                  — reagon për madhësi të duhur

Rrjedhë tipike: ngarkesa rritet → HPA shton Pod-e → Pod-et nuk hyjnë → CA shton një node →
                Pod-et scheduled. Ngarkesa bie → HPA heq Pod-e → node bosh → CA e heq.
```

## Si funksionon control loop-i i HPA-së

```text
Çdo ~15s controller-i HPA:
  1. lexon metrikën aktuale (p.sh. CPU mesatar nëpër Pod-e) nga metrics-server / API i personalizuar
  2. llogarit:  desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)
  3. shkallëzon Deployment-in drejt asaj (i kufizuar nga minReplicas/maxReplicas)
Shembull: 4 Pod-e në 80% CPU, target 50% → 4 * 80/50 = 6.4 → 7 replica.
Stabilization window-t zbutin flapping-un (sidomos në scale-down).
```

## Një manifest HPA

```yaml
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: web-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: web
  minReplicas: 3
  maxReplicas: 20
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 60      # mbaj CPU mesatar ~60% të REQUEST-it
  behavior:                           # opsionale: akordo shpejtësinë e scale up/down
    scaleDown:
      stabilizationWindowSeconds: 300
```

```bash
kubectl get hpa                       # metrika aktuale/target, numri i replica-ve
kubectl top pods                      # kërkon metrics-server
```

## Dependency & paralajmërime të rëndësishme

```text
• HPA mbi CPU/memory KËRKON metrics-server të instaluar; utilization është relative ndaj REQUEST-eve
  → nëse request-et janë të pavendosura/gabuara, matematika e HPA-së është pa kuptim. Vendos request-et saktë.
• Metrika të personalizuara/të jashtme (RPS, thellësi radhe) kërkojnë një adapter (Prometheus Adapter, KEDA).
• HPA dhe `replicas` manual bien ndesh — lëre HPA-në të zotërojë numrin e replica-ve.
• Cluster Autoscaler ka nevojë edhe për request-e të sakta: shikon REQUEST-et e Pod-eve Pending për
  të vendosur shkallëzimin e node-eve. Scale-up i node-it merr minuta (sigurim), pra mbaj headroom.
```

## Pse ka rëndësi

Autoscaling-u është ajo që i lejon Kubernetes të përputhë kapacitetin me kërkesën automatikisht, dhe të kuptuarit e dy shtresave është njohuri e nivelit senior që i ndan cluster-at kosto-efikas, të qëndrueshëm nga ata të mbi- ose nën-siguruar. Modeli mendor kyç është që **HPA shkallëzon Pod-et** si përgjigje ndaj ngarkesës (duke rregulluar numrin e replica-ve nga CPU, memory, ose metrika të personalizuara të vëzhguara) ndërsa **Cluster Autoscaler shkallëzon node-et** si përgjigje ndaj presionit të scheduling-ut (duke shtuar makina kur Pod-et janë Pending, duke i hequr kur node-et janë bosh) — ata veprojnë në shtresa të ndryshme dhe bashkëpunojnë: HPA mund të shtojë Pod-e vetëm nëse ka vend, dhe CA e siguron atë vend. Të kuptuarit e control loop-it të HPA-së — formula `desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)`, reconciliation-i periodik, dhe stabilization window-t që parandalojnë flapping-un — të lejon ta konfigurosh dhe debug-osh në vend që ta trajtosh si magji. Paralajmërimet janë aty ku shfaqet gjykimi senior: HPA mbi CPU/memory **kërkon metrics-server** dhe llogarit utilization-in **relative ndaj request-eve**, kështu që request-e të gabuara ose të munguara e bëjnë matematikën e tij pa kuptim; metrika të personalizuara (request-e-për-sekondë, thellësi radhe) kërkojnë një adapter si Prometheus Adapter ose KEDA; dhe scale-up i node-it merr minuta, kështu që headroom-i ka rëndësi. Meqë përcaktimi i madhësisë së duhur të kapacitetit ndikon drejtpërdrejt te besueshmëria nën pik trafiku dhe shpenzimi cloud gjatë periudhave të qeta, dhe meqë të dy autoscaler-at varen nga resource requests të vendosura saktë, zotërimi i HPA-së dhe Cluster Autoscaler-it është themelor për të operuar Kubernetes production në mënyrë efikase dhe të besueshme.

Dy autoscaler, dy shtresa

Si funksionon control loop-i i HPA-së

Një manifest HPA

Dependency & paralajmërime të rëndësishme

Pse ka rëndësi

Pyetje të ngjashme