정치·사회적 논란 속에 주요 포털사이트에서 사라진 실시간 인기 검색어('실검') 서비스가 인공지능(AI) 서비스 플랫폼에 등장했다. 최근 이슈에 대한 이용자의 찬반을 묻는 새 코너에는 대통령 탄핵 등 민감한 정치적 내용이 등장해 '어뷰징'(의도적 조작 행위)에 대한 우려도 나온다.
28일 ICT업계에 따르면 유명 AI 서비스 플랫폼 기업 뤼튼은 최근 웹사이트와 모바일 애플리케이션(앱)에 '실시간 검색 순위'를 도입했다.
지난 26일 오후에는 '김건희 여사 불출석 사유', '민경훈 결혼 아는 형님 PD', '이진숙 방통위원장 후보자 논란' 등이 1~3위를 차지했고 '유아인 동성 성폭행 혐의', '오재원 마약 투약 혐의' 등도 10위권에 포함됐다. 뤼튼은 AI 검색에 익숙하지 않은 이용자의 사용 경험 확대를 돕기 위해 실시간 검색 순위를 제공한다며 실시간 검색 순위에는 AI 검색 이용자들의 발화 주제와 일반 웹 트렌드 등이 반영됐다고 설명했다.
그러나 악용 가능성을 들여 구체적인 알고리즘은 공개하지 않았다.
업계에서는 어뷰징 논란 등으로 국내 포털에서 사라진 실검이 AI 플랫폼을 통해 부활하는 것 아니냐는 관측이 나온다. 포털의 실검 서비스는 현안과 화젯거리를 한눈에 파악할 수 있는 장점이 있었지만 클릭 수가 늘어나는 실검 상위권 진입을 위한 '어뷰징'과 정쟁 도구화, 확인되지 않은 루머 확산 등 부작용이 많다는 비판을 받았다.
실검이 언론 생태계까지 황폐화한다는 비판 여론이 비등해지자 카카오 다음은 2020년 2월 '실시간 이슈 검색어' 서비스를 없앴고 네이버도 2021년 2월 실검 서비스를 폐지했다.
구글은 지난달 검색창에 검색어 입력 시 하단에 '실시간 인기 급상승 검색어'를 노출했다가 실검 부활 논란이 일 기미를 보이자 최근 "최근 해당 기능을 검토한 결과, 한국 내 구글 검색에서 해당 기능을 삭제키로 결정했다"며 노출을 중단했다.
뤼튼이 최근 웹사이트에 베타테스트 중인 '이슈 토크'도 여론 조작에 활용될 수 있다는 우려가 나온다.
이용자에 따라 다른 인터페이스로 콘텐츠가 노출되는 이슈 토크는 파산 위기인 티몬의 환불 가능 여부와 북한 쓰레기 풍선에 대한 정부 대응 필요 여부 등 최근 이슈에 대한 이용자의 찬반 의견을 묻는다.
얼마 전에는 윤석열 대통령 탄핵에 대해 찬반을 묻는 콘텐츠가 올라왔다가 지나치게 정치적으로 민감한 사안이라는 이유로 삭제되기도 했다.
전문가들은 AI 스타트업이 실검이나 정치적 이슈 투표 등으로 불필요한 논란에 휘말릴 수 있으므로 AI 고도화를 통한 부작용 차단에 신경을 기울여야 한다고 지적했다.
위정현 중앙대 가상융합대학장은 "일부 이용자가 어떤 의도를 가지고 찬반 투표 등에 질문을 던진 뒤 그에 맞춰 결과를 조작할 가능성이 있다"며 "실검처럼 일회성 이벤트나 사용자를 자극하는 콘텐츠가 성공하더라도 오래가지 못할 뿐 아니라 사회적 지탄을 받게 되면 매우 어려운 상황에 직면할 수도 있다는 것을 AI 스타트업들이 인식할 필요가 있다"고 지적했다.
이에 대해 뤼튼은 대형언어모델(LLM)과 기계 학습을 함께 활용하는 자체 유해어 필터들을 AI 검색에도 적용한다며 단순히 금칙어 리스트 이상으로 성능을 발휘하는 동적 필터링 장치들을 갖추고 있으며 실시간 모니터링도 병행하고 있다고 설명했다.
뤼튼 관계자는 "앞선 사례들을 면밀히 검토하며 보다 안전하고 질높은 서비스를 제공하기 위해 계속 노력하고 있다"며 "앞으로 AI 검색이 보다 광범위하게 대중화되고 이용자들의 사용 경험이 고도로 축적되는 등 내외부 환경 변화에 따라 이 문제를 깊이 고민하며 대응해 나가려 한다"고 말했다. 이슈토크에 대해서는 "AI를 그대로 신뢰할 수는 없고 베타테스트 기간이기도 하므로 별도로 모니터링을 진행해 필요에 따라 관리 조치를 취한다"고 덧붙였다.