Horizontal Pod Autoscaler ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ, ਅਤੇ ਇਸਦਾ Cluster Autoscaler ਨਾਲ ਕੀ ਰਿਸ਼ਤਾ ਹੈ?

Question

IT Interview Practice · Accepted Answer

**Horizontal Pod Autoscaler (HPA)** ਵੇਖੇ ਗਏ metrics (CPU, memory, ਜਾਂ custom) ਦੇ ਆਧਾਰ 'ਤੇ **Pod replicas** ਜੋੜਦਾ ਜਾਂ ਹਟਾਉਂਦਾ ਹੈ। **Cluster Autoscaler (CA)** ਜਦੋਂ Pod schedule ਨਹੀਂ ਹੋ ਸਕਦੇ ਜਾਂ node ਘੱਟ ਵਰਤੇ ਜਾਂਦੇ ਹਨ ਤਾਂ **nodes** ਜੋੜਦਾ ਜਾਂ ਹਟਾਉਂਦਾ ਹੈ। ਇਹ ਵੱਖ-ਵੱਖ layers 'ਤੇ ਕੰਮ ਕਰਦੇ ਹਨ ਅਤੇ ਇਕੱਠੇ ਕੰਮ ਕਰਦੇ ਹਨ।

## ਦੋ autoscalers, ਦੋ layers

```text
HPA  → scales PODS  (more/fewer replicas of a Deployment)     — reacts to LOAD
CA   → scales NODES (grows/shrinks the cluster's machines)     — reacts to PENDING Pods
VPA  → (bonus) adjusts a Pod's requests/limits                 — reacts to right-sizing

Typical flow: load rises → HPA adds Pods → Pods can't fit → CA adds a node →
              Pods schedule. Load drops → HPA removes Pods → node idle → CA removes it.
```

## HPA control loop ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ

```text
ਹਰ ~15s HPA controller:
  1. metrics-server / custom API ਤੋਂ ਮੌਜੂਦਾ metric ਪੜ੍ਹਦਾ ਹੈ (ਜਿਵੇਂ Pod ਵਿੱਚ ਔਸਤ CPU)
  2. ਗਣਨਾ ਕਰਦਾ ਹੈ:  desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)
  3. Deployment ਨੂੰ ਉਸ ਵੱਲ scale ਕਰਦਾ ਹੈ (minReplicas/maxReplicas ਦੁਆਰਾ ਸੀਮਿਤ)
ਉਦਾਹਰਣ: 80% CPU 'ਤੇ 4 Pod, target 50% → 4 * 80/50 = 6.4 → 7 replicas.
Stabilization windows flapping ਨੂੰ ਦਬਾਉਂਦੇ ਹਨ (ਖ਼ਾਸ ਕਰ scale-down 'ਤੇ)।
```

## ਇੱਕ HPA manifest

```yaml
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: web-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: web
  minReplicas: 3
  maxReplicas: 20
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 60      # ਔਸਤ CPU ਨੂੰ REQUEST ਦੇ ~60% 'ਤੇ ਰੱਖੋ
  behavior:                           # optional: scale up/down ਦੀ ਗਤੀ tune ਕਰੋ
    scaleDown:
      stabilizationWindowSeconds: 300
```

```bash
kubectl get hpa                       # ਮੌਜੂਦਾ/target metric, replica count
kubectl top pods                      # metrics-server ਲੋੜੀਂਦਾ ਹੈ
```

## ਮਹੱਤਵਪੂਰਨ dependencies ਅਤੇ ਸਾਵਧਾਨੀਆਂ

```text
• CPU/memory 'ਤੇ HPA ਨੂੰ metrics-server ਲੱਗਾ ਹੋਣਾ ਲੋੜੀਂਦਾ ਹੈ; utilization REQUESTS ਦੇ ਸਾਪੇਖ ਹੈ
  → ਜੇ requests unset/ਗ਼ਲਤ ਹਨ, ਤਾਂ HPA ਦੀ ਗਣਿਤ ਬੇਮਾਇਨਾ ਹੈ। requests ਸਹੀ ਸੈੱਟ ਕਰੋ।
• Custom/external metrics (RPS, queue depth) ਲਈ ਇੱਕ adapter (Prometheus Adapter, KEDA) ਚਾਹੀਦਾ ਹੈ।
• HPA ਅਤੇ ਹੱਥੀਂ `replicas` ਟਕਰਾਉਂਦੇ ਹਨ — HPA ਨੂੰ replica count ਦਾ ਮਾਲਕ ਰਹਿਣ ਦਿਓ।
• Cluster Autoscaler ਨੂੰ ਵੀ ਸਹੀ requests ਚਾਹੀਦੇ ਹਨ: ਇਹ node scaling ਤੈਅ ਕਰਨ ਲਈ Pending Pod ਦੇ
  REQUESTS ਵੇਖਦਾ ਹੈ। Node scale-up ਵਿੱਚ ਮਿੰਟ ਲੱਗਦੇ ਹਨ (provisioning), ਇਸ ਲਈ headroom ਰੱਖੋ।
```

## ਇਹ ਮਹੱਤਵਪੂਰਨ ਕਿਉਂ ਹੈ

Autoscaling ਹੀ ਉਹ ਹੈ ਜੋ Kubernetes ਨੂੰ ਸਮਰੱਥਾ ਨੂੰ ਮੰਗ ਨਾਲ ਆਪਣੇ-ਆਪ ਮੇਲਾਉਣ ਦਿੰਦਾ ਹੈ, ਅਤੇ ਦੋ layers ਨੂੰ ਸਮਝਣਾ senior-level ਗਿਆਨ ਹੈ ਜੋ ਲਾਗਤ-ਕੁਸ਼ਲ, ਲਚਕੀਲੇ cluster ਨੂੰ ਵੱਧ- ਜਾਂ ਘੱਟ-provisioned cluster ਤੋਂ ਵੱਖ ਕਰਦਾ ਹੈ। ਮੁੱਖ ਮਾਨਸਿਕ ਮਾਡਲ ਇਹ ਹੈ ਕਿ **HPA Pod scale ਕਰਦਾ ਹੈ** load ਦੇ ਜਵਾਬ ਵਿੱਚ (ਵੇਖੇ CPU, memory, ਜਾਂ custom metrics ਤੋਂ replica count ਵਿਵਸਥਿਤ ਕਰਦਾ) ਜਦੋਂ ਕਿ **Cluster Autoscaler nodes scale ਕਰਦਾ ਹੈ** scheduling ਦਬਾਅ ਦੇ ਜਵਾਬ ਵਿੱਚ (Pod Pending ਹੋਣ 'ਤੇ ਮਸ਼ੀਨਾਂ ਜੋੜਦਾ, node ਵਿਹਲੇ ਹੋਣ 'ਤੇ ਹਟਾਉਂਦਾ) — ਇਹ ਵੱਖ-ਵੱਖ layers 'ਤੇ ਕੰਮ ਕਰਦੇ ਹਨ ਅਤੇ ਸਹਿਯੋਗ ਕਰਦੇ ਹਨ: HPA ਸਿਰਫ਼ ਤਾਂ ਹੀ Pod ਜੋੜ ਸਕਦਾ ਹੈ ਜੇ ਜਗ੍ਹਾ ਹੋਵੇ, ਅਤੇ CA ਉਹ ਜਗ੍ਹਾ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। HPA ਦੇ control loop ਨੂੰ ਸਮਝਣਾ — `desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)` ਫਾਰਮੂਲਾ, ਸਮੇਂ-ਸਮੇਂ 'ਤੇ reconciliation, ਅਤੇ stabilization windows ਜੋ flapping ਰੋਕਦੇ ਹਨ — ਤੁਹਾਨੂੰ ਇਸਨੂੰ ਜਾਦੂ ਮੰਨਣ ਦੀ ਬਜਾਏ configure ਅਤੇ debug ਕਰਨ ਦਿੰਦਾ ਹੈ। ਸਾਵਧਾਨੀਆਂ ਉਹ ਥਾਂ ਹਨ ਜਿੱਥੇ senior ਸੂਝ ਦਿਖਦੀ ਹੈ: CPU/memory 'ਤੇ HPA ਨੂੰ **metrics-server ਲੋੜੀਂਦਾ ਹੈ** ਅਤੇ utilization ਨੂੰ **requests ਦੇ ਸਾਪੇਖ** ਗਿਣਦਾ ਹੈ, ਇਸ ਲਈ ਗ਼ਲਤ ਜਾਂ ਗੁੰਮ requests ਇਸਦੀ ਗਣਿਤ ਨੂੰ ਬੇਮਾਇਨਾ ਬਣਾ ਦਿੰਦੇ ਹਨ; custom metrics (requests-per-second, queue depth) ਨੂੰ Prometheus Adapter ਜਾਂ KEDA ਵਰਗਾ ਇੱਕ adapter ਚਾਹੀਦਾ ਹੈ; ਅਤੇ node scale-up ਵਿੱਚ ਮਿੰਟ ਲੱਗਦੇ ਹਨ, ਇਸ ਲਈ headroom ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ। ਕਿਉਂਕਿ ਸਹੀ-ਆਕਾਰ ਸਮਰੱਥਾ ਸਿੱਧਾ traffic spike ਹੇਠ reliability ਅਤੇ ਸ਼ਾਂਤ ਸਮੇਂ ਦੌਰਾਨ cloud ਖ਼ਰਚ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦੀ ਹੈ, ਅਤੇ ਕਿਉਂਕਿ ਦੋਵੇਂ autoscalers ਸਹੀ ਸੈੱਟ ਕੀਤੇ resource requests 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, HPA ਅਤੇ Cluster Autoscaler ਵਿੱਚ ਮੁਹਾਰਤ production Kubernetes ਨੂੰ ਕੁਸ਼ਲ ਅਤੇ ਭਰੋਸੇਯੋਗ ਢੰਗ ਨਾਲ ਪਰਿਚਾਲਿਤ ਕਰਨ ਦੀ ਨੀਂਹ ਹੈ।

ਦੋ autoscalers, ਦੋ layers

HPA control loop ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ

ਇੱਕ HPA manifest

ਮਹੱਤਵਪੂਰਨ dependencies ਅਤੇ ਸਾਵਧਾਨੀਆਂ

ਇਹ ਮਹੱਤਵਪੂਰਨ ਕਿਉਂ ਹੈ

ਸੰਬੰਧਿਤ ਸਵਾਲ