기술 블로그 (Tech) | kt cloud · 2026. 11. 04.
[기술 가이드] Kubernetes의 핵심 변화: DRA를 통한 GPU 자원 동적 할당
AI 엔지니어링 브리핑
Kubernetes 1.34의 DRA를 이용하면 GPU를 단순히 몇 개 빌리는 대신 메모리, 연결 방식, 제품 종류 같은 조건에 맞춰 필요한 순간에 유연하게 배정할 수 있습니다.
문제 & 배경
AI 학습과 추론에 GPU 사용이 늘었지만, 기존 Device Plugin 방식은 GPU 개수만 지정할 수 있어 특정 성능이나 NVLink 연결 조건을 반영하기 어려웠습니다.
기술 & 해결책
DRA의 ResourceClaim과 ResourceClaimTemplate으로 원하는 GPU 조건을 선언하면 Kubernetes가 적합한 노드에 Pod를 배치하고, CDI 표준을 통해 컨테이너에 GPU를 주입하며, MIG와 함께 사용할 때는 GPU를 나눈 인스턴스도 동적으로 할당합니다.
교훈 & 주의점
DRA는 GPU 활용도를 높이고 멀티테넌트 환경의 유연성을 키우지만, NVIDIA DRA 드라이버 사용 시 Kubernetes 1.34.2 이상을 사용해야 하며 GPU Operator와 관련 설정의 호환성을 확인해야 합니다.
함께 읽을 글
내용이 비슷해요내용이 비슷한 글을 먼저 보여드려요. 같은 문제나 해결책을 다룬다는 뜻은 아니에요.