스캐터랩 블로그 · 2020. 09. 25.

쿠버네티스(Kubernetes)를 활용한 안정적이고 효율적인 운영 환경 구성하기

AI 엔지니어링 브리핑

핑퐁팀은 지속적인 배포 자동화와 Kubernetes를 이용해 많은 일반·딥러닝 서버를 안정적으로 운영하고 개발자가 제품 기능에 집중할 수 있는 환경을 만들었습니다.

문제 & 배경

문제 & 배경: 많은 서버와 딥러닝 모델을 수동으로 자주 배포하면 실수와 운영 부담이 커지므로, 변경 사항을 안전하게 검증하고 배포할 방법이 필요했습니다.

기술 & 해결책

기술 & 해결책: 코드 변경 때마다 테스트와 커버리지를 확인하고, GitHub Actions로 Docker 이미지를 만들어 AWS ECR에 저장한 뒤 Kubernetes의 설정 파일로 배포했으며, Deployment·자동 확장(HPA)·Ingress·로그 수집·TensorFlow Serving 등을 조합해 서비스를 관리했습니다.

교훈 & 주의점

교훈 & 주의점: 배포 과정을 자동화하고 설정을 Git으로 관리하면 실수를 줄이고 개발에 집중할 수 있지만, 민감한 인증 정보는 Secrets로 관리하고 서비스 환경에 맞는 배포 방식과 접근 권한을 세심하게 설정해야 합니다.

내용이 비슷해요

내용이 비슷한 글을 먼저 보여드려요. 같은 문제나 해결책을 다룬다는 뜻은 아니에요.