개요

• AutoScaling 방식에는 3가지가 있다.
  • Cluster Autoscaler : 파드를 기동할 수 있는 노드가 없을 경우 신규 노드 추가
  • HorizontalPodAutoscaler : 파드의 레플리카 수를 부하에 따라 자동으로 증감
  • VerticalPodAutoscaler : 파드에 할당된 리소스(Requests/Limits)를 부하에 따라 자동으로 증감

Cluster Autoscaler와 리소스 부족

• Cluster Autoscaler는 쿠버네티스 클러스터 자체의 오토 스케일링을 의미하며, 수요에 따라 쿠버네티스 노드를 자동으로 추가한다.
• Cluster Autoscaler는 Pending 상태의 파드가 생기는 타이밍에 처음으로 Cluster Autoscaler가 동작하게 된다.
  • Requets와 Limits를 적절하게 설정하지 않은 상태에서는 실제 노드의 부하 평균이 낮은 상황에서도 스케일 아웃이 되거나, 부하 평균이 높은 상황임에도 스케일 아웃이 되지 않는 상황이 발생한다.
• **리소스에 의한 스케줄링은 Requests(최소)**를 기준으로 이루어진다.
  • Requests를 초과하여 할당한 경우에는 최소 리소스 요청만으로 리소스가 부족해져 신규 노드를 추가해야만 한다.
  • 실제 컨테이너 프로세스가 사용하는 리소스 사용량은 고려되지 않는다.

<aside> 💡 기본 정책으로 ‘Requests와 Limits에 너무 큰 차이를 주지 않는 것’과 ‘Requests를 너무 크게 설정하지 않는 것’이 중요하다.

</aside>

HorizontalPodAutoscaler(HPA)

• HorizontalPodAutoscaler(HPA)는 디플로이먼트/레플리카셋/레플리케이션 컨트롤러의 레플리카 수를 CPU 부하 등에 따라 자동으로 스케일하는 리소스다.

• 부하가 높아지면 스케일 아웃하고, 부하가 낮아지면 스케일 인된다.

• HorizontalPodAutoscaler는 30초에 한 번 오토 스케일링 여부를 확인한다.

• 필요한 레플리카 수 계산 수식

  • 필요한 레플리카 수 = ceil(sum(파드의 현재 CPU 사용률) / targetAverageUrilization
  • ceil : 소수점 첫째 자리에서 올림하여 정수값을 리턴하는 함수
    • Replicaset : 2, targetAverageUtilization : 50 % 로 설정되어 있을 때 2개의 Pod CPU 사용률이 모두 95%에 도달했을 때
    • ceil(190% / 50%) = ceil (3.8) = 4
  • 파드의 현재 CPU 사용률은 각 파드의 1분간 평균값을 기준으로 산출한다.

• 최대 3분에 1회 스케일 아웃을 실행하고, 최대 5분에 1회 스케일 인을 실행함으로써 기동 시에만 CPU의 부하가 상승하는 메트릭 노이즈 영향을 최소화 가능

  • 스케일 아웃 조건식 : avg(파드의 현재 CPU 사용률) / targetAverageUtilization > 1.1
  • 스케일 인 조건식 : avg(파드의 현재 CPU 사용률) / targetAverageUtilization < 0.9

• HorizontalPodAutoscaler에서 사용 가능한 메트릭 종류

  • Resource : cpu, memory
  • Object : 쿠버네티스 Object 메트릭 (ex, 인그레스 hits/s)
  • Pods : 파드 매트릭(ex, 파드 커넥션 수)
  • External : 쿠버네티스 외부의 메트릭(ex, LB의 QPS, Cloud Pub/Sub에 쌓여 있는 메시지 수)

  <aside> 💡 파드에 Resource Requests가 설정되어 있지 않은 경우에는 동작하지 않는다.

  </aside>

• HorizontalPodAutoscaler 매니페스트 예시

  apiVersion: autoscaling/v2
  kind: HorizontalPodAutoscaler
  metadata:
  	name: sample-hpa
  spec:
  	scaleTargetRef:
  		apiVersion: apps/v1
  		kind: Deployment
  		name: sample-hpa-deployment
  	minReplicas: 1
  	maxReplicas: 10
  	metrics:
  	- type: Resource
  		resource:
  			name: cpu
  			targetAverageutilization: 50
  	behavior:
  		scaleDown:
  			stabilizationWindowSeconds: 300
  			policies:
  			# 레플리카 수가 15초 동안 100% 감소
  			- type: Percent
  				value: 100
  				periodSeconds: 15
  		scaleUp:
  			stabilizationWindowSeconds: 0
  			policies:
  			# 레플리카 수가 15초 동안 100% 증가
  			- type: Percent
  				value: 100
  				periodSeconds: 15
  			# 레플리카 수가 15초 동안 4개 증가
  			- type: Pods
  				value: 4
  				periodSeconds: 15
  			# 2개의 정책 중 최댓값 선택
  			# selectPolicy: Min  # 2개의 정책 중 최솟값 선택
  			selectPolicy: Max
  

  • spec.behavior 에는 스케일 인(ScaleDown)과 스케일 아웃(ScaleUp) 각각에 대해 정책을 정의한다.
  • 증감 가능한 레플리카 수 제한에는 현재 레플리카 수에 대한 백분율(type: Percent) 또는 정수값(type: Pod)을 지정할 수 있다.
  • selectPolicy 에는 여러 개의 지정된 정책 중 어떤 값을 선택할지 지정한다.
  • spec.behavior.scaleDown.selectPolicy를 Disabled로 지정한 경우 스케일 아웃만 실행되고 스케일 인은 실행되지 않게 할 수 있다.
  • selectPolicy 선택 항목
    • Min : 지정한 기간 동안 최소 변화량으로 제한을 설정
    • Max : 지정한 기간 동안 최대 변화량으로 제한을 설정
    • Disabled : 스케일링을 비활성화
  • stabilizationWindowSeconds에서 지정된 기간 동안 추천 레플리카 수를 바탕으로 레플리카 수를 결정한다.
    • 주로 레플리카 수가 갑자기 감소하는 것을 막기 위해 사용하는 것을 권장
    • stabilizationWindowSeconds: 0 의 경우 바로 추천 레플리카 수로 변경
      • 스케일 아웃에 사용하는 것을 권장

VerticalPodAutoscaler(VPA)

• 파드에 할당하는 CPU/Memory의 Requests 값은 적절한 범위로 조절해 두지 않으면 실제로 사용되는 리소스 양에 차이가 생긴다.
  • 리소스가 부족할 시 동작이 불안정해지거나 반대로 리소스 과잉으로 인해 낭비가 발생한다.
• VerticalPodAutoscaler는 컨테이너에 할당하는 CPU/Memory 리소스의 할당을 자동으로 스케일 업해준다.
• VerticalPodAutoscaler에 대한 설정은 주로 ‘대상이 되는 워크로드 리소스’, ‘파드 내부 컨테이너 제한’, ‘업데이트 정책’ 세 부분으로 구성된다.