tech.kakao.com · 2026. 05. 06.
음성 AI 모델을 프로덕션에 올리기까지: Kanana-O 서빙 최적화 여정
AI 엔지니어링 브리핑
Kanana-O를 실시간 음성 대화 서비스로 제공하기 위해 겪은 엔지니어링 과제와 Kanana-Omni Server의 최적화 기법을 소개합니다.
문제 & 배경
Kanana-O는 텍스트·이미지·오디오를 이해하고 텍스트와 음성으로 응답하는 멀티모달 모델입니다.
기술 & 해결책
모델 학습과 실제 서비스 서빙은 서로 다른 문제이며, 글은 프로덕션 배포 과정의 서빙 최적화에 초점을 둡니다.