Horizontal Pod Autoscaler nasıl çalışır ve Cluster Autoscaler ile ilişkisi nedir?

Question

IT Interview Practice · Accepted Answer

**Horizontal Pod Autoscaler (HPA)**, gözlemlenen metriklere (CPU, bellek veya özel) göre **Pod replica'ları** ekler veya çıkarır. **Cluster Autoscaler (CA)**, Pod'lar schedule edilemediğinde veya node'lar az kullanıldığında **node'lar** ekler veya çıkarır. Farklı katmanlarda çalışır ve birlikte iş görürler.

## İki autoscaler, iki katman

```text
HPA  → POD'ları ölçekler  (bir Deployment'ın daha çok/az replica'sı)     — YÜKe tepki verir
CA   → NODE'ları ölçekler (cluster'ın makinelerini büyütür/küçültür)      — PENDING Pod'lara tepki verir
VPA  → (bonus) bir Pod'un request/limit'lerini ayarlar                    — doğru boyutlandırmaya tepki verir

Tipik akış: yük artar → HPA Pod ekler → Pod'lar sığmaz → CA node ekler →
              Pod'lar schedule olur. Yük düşer → HPA Pod çıkarır → node boşta → CA onu çıkarır.
```

## HPA kontrol döngüsü nasıl çalışır

```text
Her ~15sn'de HPA controller:
  1. mevcut metriği (örn. Pod'lar arası ort. CPU) metrics-server / özel API'den okur
  2. hesaplar:  desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)
  3. Deployment'ı ona doğru ölçekler (minReplicas/maxReplicas ile sınırlı)
Örnek: %80 CPU'da 4 Pod, hedef %50 → 4 * 80/50 = 6.4 → 7 replica.
Stabilizasyon pencereleri titremeyi (özellikle ölçek küçültmede) sönümler.
```

## Bir HPA manifest'i

```yaml
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: web-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: web
  minReplicas: 3
  maxReplicas: 20
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 60      # ort. CPU'yu REQUEST'in ~%60'ında tut
  behavior:                           # opsiyonel: ölçek büyütme/küçültme hızını ayarla
    scaleDown:
      stabilizationWindowSeconds: 300
```

```bash
kubectl get hpa                       # mevcut/hedef metrik, replica sayısı
kubectl top pods                      # metrics-server gerektirir
```

## Önemli bağımlılıklar & uyarılar

```text
• CPU/bellek üzerinde HPA, kurulu metrics-server GEREKTİRİR; kullanım REQUEST'lere görelidir
  → request'ler ayarsız/yanlışsa, HPA matematiği anlamsızdır. Request'leri doğru ayarla.
• Özel/harici metrikler (RPS, kuyruk derinliği) bir adapter gerektirir (Prometheus Adapter, KEDA).
• HPA ve manuel `replicas` çelişir — replica sayısına HPA sahip olsun.
• Cluster Autoscaler de doğru request'lere ihtiyaç duyar: node ölçeklemeye karar vermek için
  Pending Pod'ların REQUEST'lerine bakar. Node ölçek büyütme dakikalar sürer (provisioning), pay bırak.
```

## Neden önemli

Autoscaling, Kubernetes'in kapasiteyi talebe otomatik uydurmasını sağlayan şeydir ve iki katmanı anlamak, maliyet-verimli, dayanıklı cluster'ları aşırı ya da yetersiz sağlanmış olanlardan ayıran senior seviye bir bilgidir. Kilit zihinsel model şudur: **HPA Pod'ları** yüke tepki olarak ölçekler (gözlemlenen CPU, bellek veya özel metriklerden replica sayısını ayarlar), **Cluster Autoscaler node'ları** scheduling baskısına tepki olarak ölçekler (Pod'lar Pending olduğunda makine ekler, node'lar boştayken çıkarır) — farklı katmanlarda çalışır ve işbirliği yaparlar: HPA yalnızca yer varsa Pod ekleyebilir ve CA o yeri sağlar. HPA'nın kontrol döngüsünü anlamak — `desiredReplicas = ceil(currentReplicas * currentMetric / targetMetric)` formülü, periyodik uzlaştırma ve titremeyi önleyen stabilizasyon pencereleri — onu sihir gibi görmek yerine yapılandırıp hata ayıklamanızı sağlar. Uyarılar, senior yargının gösterildiği yerdir: CPU/bellek üzerinde HPA **metrics-server gerektirir** ve kullanımı **request'lere göre** hesaplar, bu yüzden yanlış veya eksik request'ler matematiğini anlamsız kılar; özel metrikler (saniyedeki istek, kuyruk derinliği) Prometheus Adapter veya KEDA gibi bir adapter gerektirir; ve node ölçek büyütme dakikalar sürer, bu yüzden pay önemlidir. Kapasiteyi doğru boyutlandırmak, trafik ani artışları altında güvenilirliği ve sakin dönemlerde cloud harcamasını doğrudan etkilediğinden ve her iki autoscaler da doğru ayarlanmış kaynak request'lerine bağlı olduğundan, HPA'ya ve Cluster Autoscaler'a hâkim olmak production Kubernetes'i verimli ve güvenilir işletmenin temelidir.

İki autoscaler, iki katman

HPA kontrol döngüsü nasıl çalışır

Bir HPA manifest'i

Önemli bağımlılıklar & uyarılar

Neden önemli

İlgili sorular