Horizontal Pod Autoscaler कसा कार्य करतो, आणि तो Cluster Autoscaler शी कसा संबंधित आहे?

Question

IT Interview Practice · Accepted Answer

**Horizontal Pod Autoscaler (HPA)** निरीक्षित metrics (CPU, memory, किंवा custom) वर आधारित **Pod replicas** जोडतो किंवा काढतो. **Cluster Autoscaler (CA)** जेव्हा Pods schedule होऊ शकत नाहीत किंवा nodes कमी वापरात असतात तेव्हा **nodes** जोडतो किंवा काढतो. ते वेगवेगळ्या स्तरांवर कार्य करतात आणि एकत्र काम करतात.

## दोन autoscalers, दोन स्तर

```text
HPA  → scales PODS  (more/fewer replicas of a Deployment)     — reacts to LOAD
CA   → scales NODES (grows/shrinks the cluster's machines)     — reacts to PENDING Pods
VPA  → (bonus) adjusts a Pod's requests/limits                 — reacts to right-sizing

Typical flow: load rises → HPA adds Pods → Pods can't fit → CA adds a node →
              Pods schedule. Load drops → HPA removes Pods → node idle → CA removes it.
```

## HPA control loop कसा कार्य करतो

```text
Every ~15s the HPA controller:
  1. reads current metric (e.g. avg CPU across Pods) from metrics-server / custom API
  2. computes:  desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)
  3. scales the Deployment toward that (bounded by minReplicas/maxReplicas)
Example: 4 Pods at 80% CPU, target 50% → 4 * 80/50 = 6.4 → 7 replicas.
Stabilization windows dampen flapping (esp. on scale-down).
```

## एक HPA manifest

```yaml
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: web-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: web
  minReplicas: 3
  maxReplicas: 20
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 60      # सरासरी CPU REQUEST च्या ~60% ठेवा
  behavior:                           # ऐच्छिक: scale up/down वेग tune करा
    scaleDown:
      stabilizationWindowSeconds: 300
```

```bash
kubectl get hpa                       # current/target metric, replica संख्या
kubectl top pods                      # metrics-server आवश्यक
```

## महत्त्वाच्या dependencies व सूचना

```text
• HPA on CPU/memory REQUIRES metrics-server installed; utilization is relative to REQUESTS
  → if requests are unset/wrong, HPA math is meaningless. Set requests correctly.
• Custom/external metrics (RPS, queue depth) need an adapter (Prometheus Adapter, KEDA).
• HPA and manual `replicas` conflict — let the HPA own the replica count.
• Cluster Autoscaler needs correct requests too: it looks at Pending Pods' REQUESTS to
  decide node scaling. Node scale-up takes minutes (provisioning), so keep headroom.
```

## हे का महत्त्वाचे आहे

Autoscaling द्वारेच Kubernetes capacity ला मागणीशी आपोआप जुळवते, आणि दोन स्तर समजून घेणे हे senior-स्तरीय ज्ञान आहे जे खर्च-कार्यक्षम, लवचिक clusters ला over- किंवा under-provisioned clusters पासून वेगळे करते. मुख्य मानसिक model असे की **HPA Pods scale करते** load ला प्रतिसाद म्हणून (निरीक्षित CPU, memory किंवा custom metrics वरून replica संख्या समायोजित करून) तर **Cluster Autoscaler nodes scale करते** scheduling दबावाला प्रतिसाद म्हणून (Pods Pending असताना मशीन जोडून, nodes रिकामे असताना काढून) — ते वेगवेगळ्या स्तरांवर कार्य करतात व सहकार्य करतात: HPA फक्त जागा असेल तरच Pods जोडू शकते, आणि CA ती जागा पुरवते. HPA चा control loop समजणे — `desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)` सूत्र, नियमित reconciliation, आणि flapping थांबवणाऱ्या stabilization windows — तुम्हाला तो जादू न मानता configure व debug करू देते. सूचनांमध्येच senior निर्णयक्षमता दिसते: CPU/memory वरील HPA ला **metrics-server आवश्यक** असते आणि utilization ते **requests च्या तुलनेत** मोजते, त्यामुळे चुकीचे किंवा गहाळ requests त्याचे गणित निरर्थक करतात; custom metrics (requests-per-second, queue depth) ला Prometheus Adapter किंवा KEDA सारखा adapter लागतो; आणि node scale-up ला मिनिटे लागतात, म्हणून headroom महत्त्वाचे असते. capacity योग्य आकारात ठेवणे थेट traffic spikes खालील reliability व शांत काळातील cloud खर्चावर परिणाम करते, आणि दोन्ही autoscalers योग्यरित्या सेट केलेल्या resource requests वर अवलंबून असतात म्हणून, HPA व Cluster Autoscaler वर प्रभुत्व मिळवणे production Kubernetes कार्यक्षम व विश्वासार्हपणे चालवण्यासाठी मूलभूत आहे.

दोन autoscalers, दोन स्तर

HPA control loop कसा कार्य करतो

एक HPA manifest

महत्त्वाच्या dependencies व सूचना

हे का महत्त्वाचे आहे

संबंधित प्रश्न