← 테크곳간 목록으로

비브로스 기술 블로그 · 2023. 11. 01.

AWS Node Auto Scaler Karpenter 도입기

AI 엔지니어링 브리핑

예측하기 어려운 갑작스러운 트래픽에 빠르게 대응하면서도 AWS 비용을 줄이기 위해 Kubernetes 노드 자동 확장 도구인 Karpenter를 도입한 경험을 소개합니다.

문제 & 배경

문제 & 배경: 병원 예약 서비스에 아침·점심·새벽마다 갑작스러운 이용자 증가가 발생했지만, 기존 Cluster Autoscaler는 새 노드를 준비하는 데 시간이 걸리고 인스턴스 종류를 유연하게 선택하기 어려웠습니다.

기술 & 해결책

기술 & 해결책: Karpenter가 배치되지 못한 Pod를 즉시 감지해 조건에 맞는 EC2 노드를 만들고, 사용량이 줄면 노드를 합치거나 제거하도록 구성했으며, 다양한 인스턴스와 Spot·On-Demand를 활용해 자원 배치와 비용을 최적화했습니다.

교훈 & 주의점

교훈 & 주의점: 노드 수가 새벽 기준 20개에서 17개로 줄고 트래픽 증가 시기에도 비용을 절감했지만, Spot 중단 대응·PodDisruptionBudget·Provisioner 자원 한도·권한 설정·클러스터 삭제 순서 등을 충분히 검증해야 안정적인 운영이 가능합니다.

원문 읽기 ↗
내용이 비슷해요

내용이 비슷한 글을 먼저 보여드려요. 같은 문제나 해결책을 다룬다는 뜻은 아니에요.