감성대화 챗봇 '심심이', AI 응용 실시간 악플 99% 탐지

심심이(주)(대표 최정회)는 인공지능을 이용해 실시간으로 악플을 99% 이상 탐지할 수 있는 문장 분류 솔루션 DBSC를 정식 출시했다고 밝혔다. DBSC를 활용하면 사용자 댓글 참여가 많은 실시간 방송이나 온라인 게임 내 채팅창 등에서 악플을 더 손쉽게 차단할 수 있게 될 것으로 보인다.

기존의 악플 차단 솔루션들은 특정 키워드를 차단하는 방식 위주로 구현되어 있어서, 새로 만들어지는 용어나 은유적인 표현 등에 취약하고 악플이 아닌 댓글을 과도하게 필터링하는 등의 문제가 있었으나 DBSC는 과도하게 필터링을 하지 않으면서도 금지 키워드를 피해 문장을 교묘하게 변형한 악플이나 은유적인 악성 표현들도 집어내는 등 유연하고 정확한 차단 성능을 보여준다. DBSC의 딥러닝 모델 정확도는 99% 이상이고, 머신러닝의 성능 지표인 F1점수 또한 0.99 이상으로 나타나 높은 정밀도와 재현율을 보이는 것으로 확인되었다.

이 솔루션은 81개 언어 1억 3천만 건 이상의 시나리오 빅데이터 위에서 서비스 하고 있는 감성대화 챗봇 '심심이'의 대화 시나리오들을 효과적으로 분류하기 위한 연구 개발의 결과물로, 심심이 서비스에 적용하여 검증을 거친 상태다. 

솔루션 개발을 주도한 심심이팀 임현승 연구원은 DBSC의 성능을 끌어올리기 위해 딥러닝 학습데이터의 양과 질에 많은 노력을 기울였다면서, 이번 버전에는 한국어 채팅에 많이 쓰이는 문장을 210만 개 확보하여 학습데이터로 사용했으며, 각 문장마다 10명의 무작위 패널 투표를 받는 방식으로 고순도의 라벨링을 한 것을 성공 요인으로 꼽았다.

심심이팀에 따르면 DBSC는 설계 초반부터 모든 언어에 보편적으로 적용 가능한 구조를 지향한 만큼 다른 언어들도 데이터만 확보되면 같은 딥러닝 모델을 사용할 수 있으며 몇몇 주요 언어는 내부 테스트에서 매우 긍정적인 성능을 나타내고 있어 여러 언어 버전이 속속 출시될 전망이다. 금주 내 설리법(法) 발의가 예정되어 있는 등 플랫폼 사업자의 악플 차단 책임을 강화하려는 사회적인 움직임과 맞물려 솔루션 도입이 필요한 사업자가 증가할 것으로 보인다.