스캐터랩 블로그 · 2023. 05. 24.

Luda Gen 1, 더 재미있고 자연스러운 대화로 돌아온 루다 2편 - 생성 모델을 챗봇으로 빚어내기

AI 엔지니어링 브리핑

Luda Gen 1은 단순히 문장을 이어 만드는 생성 모델을 사람답고 안전하며 개성 있는 챗봇으로 바꾸기 위해 추가 학습과 평가 기준을 적용한 연구입니다.

문제 & 배경

문제 & 배경: 사전학습만 거친 생성 모델은 진부하고 짧은 답변을 내놓거나 루다의 페르소나를 반영하지 못하고, 공격적·선정적 입력에도 제대로 대응하지 못해 서비스에 바로 쓰기 어려웠습니다.

기술 & 해결책

기술 & 해결책: 적합성·구체성·안전성·상대적 우수성을 좋은 답변의 기준으로 정한 뒤, 좋은 대화 예시를 추가 학습하는 SFT와 답변 특성 레이블로 출력을 조절하는 Style Control을 비교했고, 그 결과 SFT를 기반 모델로 선택해 Luda Gen 1을 완성했습니다.

교훈 & 주의점

교훈 & 주의점: 추가 학습을 하면 일반 대화 품질과 안전성이 개선되지만 어떤 답변을 해야 하는지보다 하면 안 되는 답변을 익히는 일이 어렵고, Style Control은 안전성을 높이는 대신 일반 대화에서 문맥에 맞지 않는 답을 할 수 있으므로 목표별 데이터와 평가 기준을 신중히 설계해야 합니다.

내용이 비슷해요

내용이 비슷한 글을 먼저 보여드려요. 같은 문제나 해결책을 다룬다는 뜻은 아니에요.