알고리즘 검토위 발표…"사람 개입 원칙적 불가하나 완전 차단은 아냐" 소스코드 아닌 네이버 제공 자료로 검증 '한계'…스포츠·연예는 전문매체 가산점
네이버가 인공지능(AI) 기술을 활용한 뉴스 자동 편집 시스템을 전면 도입한 것과 관련, 검증에 나선 외부 위원회가 사람 개입 없이 공정성을 담보할 나름의 구조를 갖췄다는 내용의 조사 결과를 29일 발표했다.네이버 뉴스 알고리즘 검토위원회는 이날 오전 서울 중구 프레스센터에서 기자회견을 열어 "네이버의 뉴스 서비스 자동화는 공정성과 신뢰성 문제의 해결을 위한 효율적인 대안"이라고 평가했다.
네이버는 지난 5월 뉴스 배열 투명성 향상을 목적으로 맹성현 위원장(KAIST 교수) 등 11명으로 이뤄진 검토위를 출범시켰다.
검토위는 6개월 동안 네이버 뉴스 편집 자동화 시스템에 대한 검증 작업을 진행했다.먼저 AI로 개인형 맞춤 뉴스를 제공하는 '에어스'(AiRS) 영역에 대해 검토위는 "편집자의 개입 없이 자동적으로 뉴스 이용자들의 피드백 데이터를 수집해 학습 데이터를 확보하고 있다"고 분석했다.
이어 "이용자의 기사 선호도와 기사 품질을 고려한 개인화된 추천 점수를 계산하는 알고리즘을 활용하고 있다"며 "기존 편집 뉴스의 기사에 비해 다양한 관점의 기사와 여러 언론사에서 작성한 기사를 접할 기회를 제한하지 않는다"고 설명했다.
검색을 통한 뉴스 서비스에 대해서도 "알고리즘을 통해 자동으로 배치되기 때문에 관리자의 개입은 원칙으로 불가능한 구조"라고 검토위는 진단했다.그러나 알고리즘을 통한 자동 편집은 원칙일 뿐, 인간 개입 여지가 완전히 닫힌 것은 아니라고 검토위는 지적했다.
김용찬 위원(연세대 언론홍보영상학과 교수)은 "사람이 개입할 수 있는 길을 완전히 차단하는 것이 갖는 문제가 있다"며 "인간 개입이 어떤 식으로든 기록이 되고 체계적으로 관리돼야 한다는 것을 지적했고 공개 여부는 네이버가 결정할 문제"라고 말했다.
또 검토위가 알고리즘이 담긴 소스 코드(source code)를 직접 보지 못 하고 네이버 측이 제공한 기술 문서에 의존해 결론을 내린 것도 한계로 지적된다.
뉴스 편집 알고리즘이 기사를 추천하는 원리에 대해서도 어뷰징(부정 사용)에 악용될 수 있다는 이유로 검토위는 공개를 피했다.
김 위원은 "네이버는 사기업이고 여러 경쟁력 측면도 생각해야 하기 때문에 불가능한 요구는 할 수 없었다"고 말했다.
검토위원들은 제공된 자료에 대한 비밀유지각서(NDA)에 서명했다.
맹 위원장은 "공정성이 100% 만족되는 알고리즘이란 건 존재하지 않는다"며 "혹시 있을 수 있는 공정성 침해가 알고리즘적으로 조직적으로 있는지를 본 것"이라고 말했다.
연예 및 스포츠 뉴스는 다른 영역과 달리 AI를 활용한 개인별 맞춤형 뉴스를 제공하지 않고 최신성을 강조하며 전문 매체에는 가산점을 주는 사실이 검토 결과 밝혀졌다.
검토위는 "전문가 집단이 한 인터넷 기업의 서비스 전반에 걸친 알고리즘과 이에 반영되는 자질을 구체적으로 검토하고 발전 방안을 논의한 것은 세계 최초의 시도로, 매우 고무적인 일"이라고 덧붙였다.또 ▲ 학습 데이터 구축 주기 단축 ▲ 다양한 연령층 포괄 ▲ '좋은 기사'에 대한 공통 기준 확립 ▲ 기사 품질 평가 방법 개발 및 공유 등을 네이버 측에 권고했다.