네이버 플레이스 개발 블로그 - Medium · 2024. 11. 26.
Trino resource optimize on YARN
AI 엔지니어링 브리핑
YARN에서 실행되는 Trino의 리소스 설정을 조정해 장비를 늘리지 않고 쿼리에 사용할 수 있는 메모리를 약 40% 늘린 과정을 설명한 글입니다.
문제 & 배경
Trino 사용량이 빠르게 증가하면서 기존 YARN 클러스터 자원을 효율적으로 활용해야 했고, Worker가 필요한 순간에만 자원을 받는 것이 아니라 계속 점유하는 특성 때문에 리소스 구성을 점검할 필요가 있었습니다.
기술 & 해결책
Trino를 YARN 애플리케이션으로 배포하고 전용 큐를 구성한 뒤, Hadoop 데몬이 사용할 자원을 남기고 애플리케이션 마스터와 노드의 자원 배분 및 예약된 자원을 함께 고려해 설정을 최적화했습니다.
교훈 & 주의점
장비 증설에 앞서 YARN과 Trino의 자원 할당 방식을 이해하고 기존 자원을 재조정하면 쿼리 처리에 사용할 수 있는 메모리를 약 40% 늘릴 수 있다는 점을 보여줍니다.
함께 읽을 글
내용이 비슷해요내용이 비슷한 글을 먼저 보여드려요. 같은 문제나 해결책을 다룬다는 뜻은 아니에요.