Smaller apps and faster GPU inference with LiteRT in Google Play services

문제 & 배경: 지금까지 빠른 GPU 추론을 사용하려면 각 앱이 LiteRT나 TensorFlow Lite를 직접 포함해야 해서 앱 용량이 커지고, 성능 개선과 보안 수정도 앱별로 따로 배포해야 했다.

기술 & 해결책: LiteRT를 Google Play 서비스에 맡기고 새로운 CompiledModel API를 사용하면 실행 도구와 GPU 가속기를 여러 앱이 함께 사용하며, 기기에 GPU가 없을 때는 CPU로 자동 전환할 수 있다.

교훈 & 주의점: 앱 용량과 다운로드 부담을 줄이고 자동 업데이트와 폭넓은 기기 지원을 얻을 수 있지만, 기존 GPU 위임자와 일부 오래된 API는 폐기될 예정이므로 실제 기기에서 결과를 확인하며 CompiledModel API로 단계적으로 이전해야 한다.