"과도한 성적 표현 필터링"…네이버 'AI클린봇' 업그레이드

네이버 AI 클린봇 적용화면. 사진=네이버 제공

네이버는 인공지능(AI) 기반의 악성댓글 차단프로그램인 'AI클린봇'이 욕설 외에도 과도한 성적표현까지 찾아서 걸러주는 2.5 버전으로 성능을 향상했다고 29일 밝혔다.

이번 AI클린봇 업그레이드는 지난해 6월 진행된 2.0버전 기능 개선 이후 7개월 만에 추가로 진행된 것이다. 뉴스댓글 뿐만 아니라 방송톡과 네이버TV 댓글에도 적용된다.

이번 기능 개선을 위해 AI클린봇은 기존에 학습된 데이터를 포함해 약 1억6000만건의 데이터를 4개월에 걸쳐 학습 및 고도화에 활용했다. 그 결과 기존대비 정확도가 15%가량 높아진 것으로 나타났다.

특히 2.5버전에는 과도한 성적표현에 대한 AI학습이 반영됐는데, 성적 불쾌감을 일으킬 수 있는 수준의 표현들을 차단함으로써 악성댓글 차단의 범위를 넓혔다. 예컨대 직·간접적인 성적 행위나 특정부위 등의 표현들에 대해서는 클린봇이 자동으로 차단하게 된다.

이와 함께 네이버는 불법촬영물 방지 의무를 부과한 전기통신사업법 개정안('n번방 방지법') 시행에 맞춰 이용자 신고의 편의성을 높였다.

지난 15일 네이버는 '불법촬영물' 신고항목을 뉴스를 비롯해 카페, 블로그, 지식In 등 다양한 영역에 추가했다. 또 '불법촬영물' 관련 검색시에도 신고센터 도움말이 노출되도록 했다.

네이버 관계자는 "높은 책임의식을 가지고 실질적으로 악성댓글 차단 및 불법촬영물의 2차피해 방지에 최선의 노력을 할 것"이라고 했다.

조아라 한경닷컴 기자 rrang123@hankyung.com