온라인 '변형 욕설' 막는다…KISO, 필터링 솔루션 개발

KISO, 네이버·카카오 욕설 DB로 필터링 솔루션 개발

사진=게티이미지뱅크

온라인 커뮤니티에서 '^^1바', 'D질래' 같은 ‘변형 욕설’을 흔하게 볼 수 있다. 대형 웹사이트나 커뮤니티, 게임 서비스의 상당수가 욕설 제한 시스템을 도입하고 있지만 상대방을 비난하고자 마음먹은 인간의 창의력을 뚫기란 쉽지 않다. 특수문자와 알파벳, 빈칸 등을 섞어 필터링 시스템을 피해 욕설을 쓰는 사람을 흔히 찾아볼 수 있다.

하지만 앞으로는 온라인 커뮤니티·웹사이트에서 욕설·비속어는 물론 이 같은 변형 욕설도 보기 힘들어질 전망이다. 사단법인 한국인터넷자율정책기구(KISO)는 인터넷상 욕설·비속어 등의 노출을 제한할 수 있도록 하는 ‘KSS(KISO Safeguard System)’를 개발했다고 1일 발표했다. 다양한 인터넷 서비스에서 욕설·비속어가 노출되는 것을 막기 위해 실시간으로 판별하는 기능을 갖춘 솔루션이다.

KISO는 네이버와 카카오로부터 받은 약 60만 건의 욕설 데이터베이스(DB)를 통합했다. 두 회사는 지난해 건강한 인터넷 문화 조성과 ESG(환경·사회·지배구조) 경영 활동의 일환으로 욕설 DB를 KISO에 무상 공여했다. KISO는 이를 바탕으로 인터넷 서비스 기업들이 자율적으로 기술적 보호조치에 활용할 수 있도록 응용 프로그램 인터페이스(API)를 만들었다.

기존에는 욕설을 차단하려면 개별 업체들이 자체 DB를 구축해야 하고, 지속적인 유지 관리에도 큰 비용이 들어갔다. 이 때문에 중·소규모 업체가 이런 시스템을 갖추기 힘들었다. 네이버와 카카오는 댓글 등에 욕설‧비속어 등을 필터링하는 인공지능(AI) 기반의 탐지·차단 프로그램을 자체 개발해 적용해왔다. 프로그램 도입 이후 실제로 악성 댓글이 줄어드는 등 자정 효과가 나타나고 있다는 설명이다.

KSS는 데이터 분석을 통해 욕설 여부를 판단한다. AI가 판별한 변형 욕설도 필터링이 가능하도록 설계됐다. KISO는 신규 생성되는 욕설에 대해서도 지속해서 대응한다는 방침이다. 내년 상반기 정식 서비스에 앞서 베타 서비스를 진행한다. 이용을 원하는 기업은 KISO에 신청하면 된다.

KISO 관계자는 “건전한 디지털 이용 환경을 만들기 위해 무상 서비스를 제공하는 게 원칙”이라며 “대규모 트래픽이 발생하는 경우만 일부 과금하려고 한다”고 설명했다.

이승우 기자 leeswoo@hankyung.com