developers.kakaomobility.com
이젠 AI도 하이브리드 시대 - 카카오T On-Device AI 개발기
AI 엔지니어링 브리핑
카카오모빌리티는 모바일 기기에서 AI를 직접 실행하는 방식과 클라우드 AI를 함께 활용해 빠르고 안전하면서도 안정적인 카카오T 기능을 구현했습니다.
문제 & 배경
- 문제 & 배경: 클라우드 AI는 네트워크와 개인정보 문제를 안고 있었고, On-Device AI는 기기별 성능 차이와 낮은 한국어·주소 인식 정확도, 긴 응답 시간 때문에 실제 서비스 적용에 어려움이 있었습니다.
기술 & 해결책
- 기술 & 해결책: Android에서는 Gemini Nano, iOS에서는 Core ML 자체 모델을 사용하고, 서버에서 기기별 프롬프트와 AI 방식을 조정하며 On-Device AI와 Cloud AI를 함께 호출해 속도·정확도·비용을 기준으로 더 나은 결과를 선택했습니다.
교훈 & 주의점
- 교훈 & 주의점: AI 기능은 모델만 탑재한다고 끝나지 않으므로 데이터와 프롬프트를 계속 개선하고 기기별 차이를 원격으로 관리해야 하며, 카카오T 퀵에서는 주소 자동 입력으로 접수 완료 시간이 평균 24% 줄고 완료율이 13.39% 높아졌습니다.
함께 읽을 글
내용이 비슷해요내용이 비슷한 글을 먼저 보여드려요. 같은 문제나 해결책을 다룬다는 뜻은 아니에요.