Horizontal Pod Autoscaler कसरी काम गर्छ, र यो Cluster Autoscaler सँग कसरी सम्बन्धित छ?

Question

IT Interview Practice · Accepted Answer

**Horizontal Pod Autoscaler (HPA)** ले अवलोकन गरिएका metric (CPU, memory, वा custom) का आधारमा **Pod replica** थप्छ वा हटाउँछ। **Cluster Autoscaler (CA)** ले Pod schedule हुन नसक्दा वा node कम प्रयोग हुँदा **node** थप्छ वा हटाउँछ। तिनी फरक तहमा चल्छन् र सँगै काम गर्छन्।

## दुई autoscaler, दुई तह

```text
HPA  → scales PODS  (more/fewer replicas of a Deployment)     — reacts to LOAD
CA   → scales NODES (grows/shrinks the cluster's machines)     — reacts to PENDING Pods
VPA  → (bonus) adjusts a Pod's requests/limits                 — reacts to right-sizing

Typical flow: load rises → HPA adds Pods → Pods can't fit → CA adds a node →
              Pods schedule. Load drops → HPA removes Pods → node idle → CA removes it.
```

## HPA control loop कसरी काम गर्छ

```text
Every ~15s the HPA controller:
  1. reads current metric (e.g. avg CPU across Pods) from metrics-server / custom API
  2. computes:  desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)
  3. scales the Deployment toward that (bounded by minReplicas/maxReplicas)
Example: 4 Pods at 80% CPU, target 50% → 4 * 80/50 = 6.4 → 7 replicas.
Stabilization windows dampen flapping (esp. on scale-down).
```

## एउटा HPA manifest

```yaml
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: web-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: web
  minReplicas: 3
  maxReplicas: 20
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 60      # औसत CPU लाई REQUEST को ~60% मा राख्नुहोस्
  behavior:                           # वैकल्पिक: scale up/down गति tune गर्नुहोस्
    scaleDown:
      stabilizationWindowSeconds: 300
```

```bash
kubectl get hpa                       # वर्तमान/लक्ष्य metric, replica संख्या
kubectl top pods                      # metrics-server आवश्यक
```

## महत्त्वपूर्ण निर्भरता र सावधानीहरू

```text
• HPA on CPU/memory REQUIRES metrics-server installed; utilization is relative to REQUESTS
  → if requests are unset/wrong, HPA math is meaningless. Set requests correctly.
• Custom/external metrics (RPS, queue depth) need an adapter (Prometheus Adapter, KEDA).
• HPA and manual `replicas` conflict — let the HPA own the replica count.
• Cluster Autoscaler needs correct requests too: it looks at Pending Pods' REQUESTS to
  decide node scaling. Node scale-up takes minutes (provisioning), so keep headroom.
```

## यो किन महत्त्वपूर्ण छ

Autoscaling ले नै Kubernetes लाई मागसँग capacity स्वतः मिलाउन दिन्छ, र दुई तह बुझ्नु senior-स्तरको ज्ञान हो जसले लागत-कुशल, लचिलो cluster लाई over- वा under-provisioned भएकाबाट छुट्याउँछ। मुख्य मानसिक मोडेल हो कि **HPA ले load का प्रतिक्रियामा Pod scale गर्छ** (अवलोकन गरिएको CPU, memory, वा custom metric बाट replica संख्या समायोजन गर्दै) भने **Cluster Autoscaler ले scheduling दबाबका प्रतिक्रियामा node scale गर्छ** (Pod Pending हुँदा मेसिन थप्दै, node निष्क्रिय हुँदा हटाउँदै) — तिनी फरक तहमा चल्छन् र सहकार्य गर्छन्: HPA ले ठाउँ भएमा मात्र Pod थप्न सक्छ, र CA ले त्यो ठाउँ दिन्छ। HPA को control loop बुझ्नु — `desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)` सूत्र, आवधिक reconciliation, र flapping रोक्ने stabilization window — ले तपाईंलाई यसलाई जादु ठान्नुको सट्टा configure र debug गर्न दिन्छ। सावधानीहरूमा senior विवेक देखिन्छ: CPU/memory मा HPA लाई **metrics-server चाहिन्छ** र utilization लाई **request सापेक्ष** गणना गर्छ, त्यसैले गलत वा नभएको request ले यसको गणित अर्थहीन बनाउँछ; custom metric (requests-per-second, queue depth) लाई Prometheus Adapter वा KEDA जस्तो adapter चाहिन्छ; र node scale-up मा मिनेटौं लाग्छ, त्यसैले headroom महत्त्वपूर्ण छ। किनभने capacity लाई right-size गर्नाले traffic spike मा reliability र सुनसान समयमा cloud खर्च सिधै असर गर्छ, र दुवै autoscaler सही सेट गरिएका resource request मा निर्भर हुन्छन्, HPA र Cluster Autoscaler मा दक्षता production Kubernetes लाई कुशल र भरपर्दो रूपमा सञ्चालन गर्ने आधारभूत कुरा हो।

दुई autoscaler, दुई तह

HPA control loop कसरी काम गर्छ

एउटा HPA manifest

महत्त्वपूर्ण निर्भरता र सावधानीहरू

यो किन महत्त्वपूर्ण छ

सम्बन्धित प्रश्नहरू