네이버 AI, 언론사에 악플 기사 알린다

'클린봇 옵서버' 도입

네이버가 ‘악플(악성 댓글)’이 많이 붙은 기사를 탐지해 언론사에 알려주는 인공지능(AI) 서비스를 도입했다. 네이버에 뉴스를 제공하는 언론사들이 ‘기사별 댓글 중단’ 기능을 활용할 수 있도록 지원하는 취지다.

네이버는 14일 뉴스 제휴사에 안내 메일을 보내 “언론사가 악성 댓글 활동이 증가하는 기사에 빠르게 대응할 수 있도록 ‘클린봇 옵서버’ 서비스를 준비했다”고 알렸다. 클린봇 옵서버는 일정 횟수 이상의 악성 댓글 시도가 있는 기사에서 비율을 계산해 감지 대상 기사를 자동으로 선별한다. 이 서비스는 네이버가 2019년 업계 최초로 선보인 AI 기반 악성 댓글 탐지 서비스 ‘AI 클린봇’을 기반으로 한다.

감지된 기사 목록은 각 언론사가 댓글 관리 기사별 메뉴에서 확인하고, 댓글 제공 중단이 필요하다고 판단되면 즉각 중단 설정을 할 수 있다. 다만 클린봇 옵서버는 감지 목록만 제공할 뿐 직접적으로 댓글을 중단할 수 있는 기능은 없다.

네이버가 언론사별 댓글 제공 방식을 선택할 수 있도록 ‘댓글 언론사별 선택제’를 마련한 것은 2018년 10월부터다. 기사에 달리는 악플로 인한 피해가 심각해진다는 지적에 따른 조치다. 2021년 8월엔 개별 기사 단위로 댓글 기능 제공 여부를 정할 수 있도록 ‘기사별 댓글 제공 중단’ 기능을 추가했다. 네이버 측은 “욕설을 비롯해 무례한 표현과 차별, 비하, 혐오 표현을 걸러내는 등 기술을 꾸준히 고도화하고 있다”고 설명했다.

정지은 기자 jeong@hankyung.com