노타 블로그
노타, ‘휴머노이드 서밋’서 로봇 AI 최적화 성과 공개 NPU부터 GPU까지 모델 7종 검증…하드웨어별 최적화 역량 입증
AI 엔지니어링 브리핑
노타는 넷츠프레소를 이용해 여러 로봇 AI 모델을 각 하드웨어에 맞게 가볍고 빠르게 만들어 실제 로봇에서 더 신속하게 작동하도록 한 성과를 공개했다.
문제 & 배경
- 문제 & 배경: 로봇 AI는 주변 영상을 보고 명령에 따라 행동을 결정해야 하는데, 모델과 하드웨어마다 구조와 실행 조건이 달라 작업 성공률을 유지하면서 판단 시간과 메모리 사용량을 줄이기 어려웠다.
기술 & 해결책
- 기술 & 해결책: 노타는 넷츠프레소로 AI 모델의 계산량과 메모리 부담을 줄이고 퀄컴 NPU와 엔비디아 GPU의 특성에 맞게 실행 방식을 조정해, 7종 모델의 추론 속도를 높이면서 작업 성능을 거의 그대로 유지했다.
교훈 & 주의점
- 교훈 & 주의점: 로봇 AI 최적화에서는 단순히 처리 속도만 높이지 말고 작업 성공률과 실제 로봇 동작 속도까지 함께 확인해야 하며, 모델과 하드웨어 조합에 맞춘 검증이 중요하다.
함께 읽을 글
내용이 비슷해요내용이 비슷한 글을 먼저 보여드려요. 같은 문제나 해결책을 다룬다는 뜻은 아니에요.