네이버, 실시간 음란물 필터링 기술 외부에도 공개…'클로바 그린아이' 출시

네이버는 실시간 음란물 필터링 시스템 ‘클로바 그린아이’를 외부에 개방한다고 16일 발표했다.

네이버는 2017년 클로바 그린아이의 전신에 해당하는 실시간 음란 이미지 필터링 솔루션 ‘엑스아이’를 개발했다. 데이터베이스에 축적된 수백만 장의 이미지를 학습해 부적절한 이미지나 동영상이 네이버에 등록되면 인공지능(AI)이 실시간 감지해 검색 노출을 차단하는 식이다.

지난해 ‘엑스아이 2.0’으로 시스템을 업그레이드해 콘텐츠를 정상·음란·성인·선정 등으로 세분화해 분류하는 기능도 추가했다. 네이버의 다양한 이미지 인식 선행연구 결과를 적용해 정확도를 99.5%까지 끌어올렸다.

네이버는 엑스아이 2.0의 이름을 클로바 그린아이로 바꾸고 외부에 개방하기로 했다. 네이버 클라우드 플랫폼을 통해 오픈 API(응용프로그램 인터페이스) 형태로 기술을 공개한다. 전송된 모든 이미지를 검사하고 유해 콘텐츠 등급을 매겨준다. 기술 여력이 없는 스타트업과 중소기업도 유해 콘텐츠 탐지를 손쉽게 자동화해 안정적으로 콘텐츠를 서비스할 수 있다는 설명이다.

이정규 네이버 책임리더는 “네이버에서 5년여간 활용한 음란물 필터링 기술을 개방해 더욱 건전한 인터넷 생태계를 조성하는 데 기여하고자 한다”며 “AI 모델을 고도화하고 데이터를 최신화해 유해 콘텐츠 감지 영역을 확대할 것”이라고 말했다.

이승우 기자 leeswoo@hankyung.com