SK플래닛 TECH TOPIC · 2025. 03. 12.
사내 LLM 플레이그라운드를 활용한 AI 프롬프톤 사례 (2024)
AI 엔지니어링 브리핑
SK플래닛은 여러 인공지능 모델을 한곳에서 시험하는 사내 도구를 만들고, 이를 활용한 프롬프톤으로 구성원들이 서비스 캐릭터의 성격을 직접 설계하며 AI 활용 경험을 넓혔습니다.
문제 & 배경
- 문제 & 배경: 업무에 필요한 인공지능 모델을 시험하려면 제공 업체별 사이트를 오가야 했고, 모델마다 비용과 응답 속도를 비교하기도 어려워 불편했습니다.
기술 & 해결책
- 기술 & 해결책: 개발팀은 사내망에서 OpenAI·Claude·Llama·HyperClova X·A.X 등 10개 이상의 모델을 한 화면에서 실행하고 프롬프트와 온도 같은 설정, 비용·속도를 함께 비교할 수 있는 멀티 LLM 플레이그라운드를 만들었으며, 지원팀은 이를 활용해 캐릭터의 말투와 성격을 정하는 프롬프톤을 열었습니다.
교훈 & 주의점
- 교훈 & 주의점: 여러 모델을 직접 비교할 수 있는 환경과 재미있는 캐릭터 주제가 구성원의 참여를 이끌었고, 모델 성능이 좋아져도 AI에게 정확히 지시하려면 목적에 맞는 프롬프트를 설계하는 역량이 여전히 중요합니다.
함께 읽을 글
내용이 비슷해요내용이 비슷한 글을 먼저 보여드려요. 같은 문제나 해결책을 다룬다는 뜻은 아니에요.