반자동에서 전자동으로: 넷츠프레소가 에이전트로 모델 최적화하는 법

기존에는 개발자가 설정 파일에서 양자화 방식과 비트 수 등을 직접 정하고 반복해서 시험해야 해, 모델 최적화에 전문 지식과 시간이 많이 필요했습니다.

에이전트가 자연어 요구를 속도·크기·정확도 같은 목표로 바꾸고, HPO가 이전 결과를 바탕으로 유망한 설정을 골라 가며 최적의 모델 조합을 찾아 주도록 개선했습니다.

HPO는 제한된 실험 안에서 여러 모델에서 전문가 수준의 정확도를 재현했지만, 하드웨어와 설정에 따라 결과가 달라질 수 있으므로 검증된 동작과 재현성을 위한 제약을 함께 적용해야 합니다.