Horizontal Pod Autoscaler hufanyaje kazi, na inahusianaje na Cluster Autoscaler?

Question

IT Interview Practice · Accepted Answer

**Horizontal Pod Autoscaler (HPA)** huongeza au huondoa **Pod replicas** kulingana na metrics zinazoonekana (CPU, memory, au custom). **Cluster Autoscaler (CA)** huongeza au huondoa **nodes** wakati Pods zisipoweza kupangwa au nodes hazitumiki vya kutosha. Hufanya kazi kwenye tabaka tofauti na hufanya kazi pamoja.

## Autoscalers mbili, tabaka mbili

```text
HPA  → hu-scale PODS  (replicas zaidi/chache za Deployment)     — hujibu MZIGO
CA   → hu-scale NODES (hukuza/hupunguza mashine za cluster)      — hujibu Pods za PENDING
VPA  → (ziada) hurekebisha requests/limits za Pod               — hujibu right-sizing

Mtiririko wa kawaida: mzigo huongezeka → HPA huongeza Pods → Pods haziwezi kutoshea → CA huongeza node →
              Pods hupangwa. Mzigo hushuka → HPA huondoa Pods → node haitumiki → CA huiondoa.
```

## Jinsi HPA control loop inavyofanya kazi

```text
Kila ~15s HPA controller:
  1. husoma metric ya sasa (mfano wastani wa CPU kwenye Pods) kutoka metrics-server / custom API
  2. huhesabu:  desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)
  3. hu-scale Deployment kuelekea hapo (imefungwa na minReplicas/maxReplicas)
Mfano: Pods 4 kwenye 80% CPU, lengo 50% → 4 * 80/50 = 6.4 → replicas 7.
Stabilization windows hupunguza flapping (hasa kwenye scale-down).
```

## Manifest ya HPA

```yaml
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: web-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: web
  minReplicas: 3
  maxReplicas: 20
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 60      # weka wastani wa CPU ~60% ya REQUEST
  behavior:                           # si lazima: rekebisha kasi ya scale up/down
    scaleDown:
      stabilizationWindowSeconds: 300
```

```bash
kubectl get hpa                       # metric ya sasa/lengo, idadi ya replica
kubectl top pods                      # huhitaji metrics-server
```

## Tegemezi na tahadhari muhimu

```text
• HPA kwenye CPU/memory HUHITAJI metrics-server iliyowekwa; utilization ni sawia na REQUESTS
  → ikiwa requests hazijawekwa/si sahihi, hesabu ya HPA haina maana. Weka requests kwa usahihi.
• Custom/external metrics (RPS, kina cha queue) huhitaji adapter (Prometheus Adapter, KEDA).
• HPA na `replicas` za mkono hugongana — acha HPA imiliki idadi ya replica.
• Cluster Autoscaler huhitaji requests sahihi pia: huangalia REQUESTS za Pods za Pending
  kuamua scaling ya node. Scale-up ya node huchukua dakika (provisioning), hivyo weka nafasi ya ziada.
```

## Kwa nini ni muhimu

Autoscaling ndicho kinachoruhusu Kubernetes kulinganisha uwezo na mahitaji kiotomatiki, na kuelewa tabaka mbili ni maarifa ya ngazi ya juu yanayotenganisha clusters zenye ufanisi wa gharama na zenye ustahimilivu kutoka zile zilizotolewa kupita kiasi au pungufu. Modeli muhimu ya kimawazo ni kwamba **HPA hu-scale Pods** kujibu mzigo (kurekebisha idadi ya replica kutoka CPU, memory, au custom metrics zinazoonekana) wakati **Cluster Autoscaler hu-scale nodes** kujibu shinikizo la scheduling (kuongeza mashine wakati Pods ni Pending, kuziondoa wakati nodes hazitumiki) — hufanya kazi kwenye tabaka tofauti na hushirikiana: HPA inaweza tu kuongeza Pods ikiwa kuna nafasi, na CA hutoa nafasi hiyo. Kuelewa control loop ya HPA — fomula ya `desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)`, reconciliation ya mara kwa mara, na stabilization windows zinazozuia flapping — hukuruhusu kuisanidi na ku-debug badala ya kuichukulia kama uchawi. Tahadhari ndipo hukumu ya ngazi ya juu inapoonekana: HPA kwenye CPU/memory **huhitaji metrics-server** na huhesabu utilization **sawia na requests**, hivyo requests zisizo sahihi au zilizokosekana hufanya hesabu yake isiwe na maana; custom metrics (requests-per-second, kina cha queue) huhitaji adapter kama Prometheus Adapter au KEDA; na scale-up ya node huchukua dakika, hivyo nafasi ya ziada ni muhimu. Kwa kuwa kupima ukubwa sahihi wa uwezo huathiri moja kwa moja uaminifu wakati wa milipuko ya trafiki na matumizi ya pesa za cloud wakati wa utulivu, na kwa kuwa autoscalers zote mbili hutegemea resource requests zilizowekwa kwa usahihi, kumudu HPA na Cluster Autoscaler ni msingi wa kuendesha Kubernetes ya production kwa ufanisi na uaminifu.

Autoscalers mbili, tabaka mbili

Jinsi HPA control loop inavyofanya kazi

Manifest ya HPA

Tegemezi na tahadhari muhimu

Kwa nini ni muhimu

Maswali yanayohusiana