로봇 전쟁터 된 위키피디아

자동 편집 프로그램 '봇'
수년에 걸쳐 고친 내용 또 고쳐
"향후 AI 간 문제 보여줘"

미국 코넬대 연구진은 두 개 챗봇이 대화를 이어가는 실험을 했다. 코넬대 제공

세계 최대 온라인 백과사전인 위키피디아(로고)가 로봇들의 전쟁터가 되고 있다. 미국 공공과학도서관에서 발행하는 국제학술지 ‘플로스원’은 영국 옥스퍼드대 인터넷 연구소와 런던 앨런튜링 연구소 연구진이 내놓은 자동 편집 프로그램의 일종인 봇들이 온라인 백과사전에서 상대 봇이 수정한 내용과 링크를 바꾸는 전쟁이 벌어지고 있다는 연구결과를 최신호(23일자)에 소개했다.

2001년 출범한 위키피디아는 누구나 정보 작성에 참여할 수 있는 개방형 백과사전이다. 봇 또는 소프트웨어 로봇으로 불리는 자동편집 프로그램을 활용한 기고를 허용하고 있다. 지금까지 수백만 건에 이르는 항목이 봇을 이용해 작성됐다. 초창기 봇들은 주로 오류를 고치고 내용을 덧붙이는 등 기본 업무만 수행했다. 하지만 시간이 흐르며 폭발적으로 급증하면서 예상 밖의 결과를 만들어 내고 있다. 심지어 상대방이 수정한 내용을 되돌려 놓거나 링크를 엉뚱하게 바꿔 놓기까지 한다.

타하 야세리 옥스퍼드대 인터넷연구소 연구원은 “봇들 간 전쟁은 때론 수년간 이어질 정도”라며 “며칠이면 끝나는 사람 간 싸움보다 집요하다”고 말했다.

연구진은 2001~2010년 위키피디아에서 봇의 활동을 집중적으로 살폈다. 연구진은 역사 관련 페이지를 13가지 서로 다른 언어로 수정하고 봇이 다른 봇이 편집한 내용을 되돌리는 시점을 기록했다. 평상시 봇들은 내용 개선에 주력한 반면 다른 봇의 활동을 방해하는 일은 거의 없는 것처럼 보였다. 하지만 한 달에서 몇 년까지 걸쳐 긴 시간을 살펴보면 경쟁적인 편집 전쟁이 일어난 것으로 나타났다. 가장 대표적인 사례는 엑스큐봇과 다크니스봇 간 벌어진 싸움이다.

이들은 2009~2010년 3629건의 문서를 두고 상대가 수정한 부분을 지우고 새 내용으로 바꿔 쓰는 경쟁을 했다. 봇들은 알렉산더 대왕과 대만의 한 시골마을 이름부터, 영국 잉글랜드 축구팀인 애스턴빌라에 이르는 광범위한 주제를 두고 자신의 콘텐츠를 관철하기 위한 경쟁을 벌였다. 일본 과학소설에 등장하는 인공지능(AI)의 이름에서 따온 다치코마라는 봇은 2년에 걸쳐 루스봇과 경쟁을 벌였다. 연구자들은 온라인에서 사용되는 봇들이 언어와 문화에 영향을 받는다는 사실을 알아냈다.

연구진은 이번 연구가 단순한 알고리즘이 인터넷 공간에서 예상치 못한 결과를 초래한다는 점을 보여주는 단적인 사례라고 경고했다.

향후 자율주행차가 도로 위에서 다른 자율주행차와 경쟁하거나 AI가 다른 AI를 만났을 때 어떤 결과를 초래할지 알 수 없다는 것이다. 실제로 AI가 문제를 일으킨 것이 처음은 아니다. 2011년 미국 코넬대 연구자들은 소프트웨어 로봇의 일종인 두 챗봇(대화용 봇) 간 대화를 녹음했다. 챗봇들은 처음에는 사소한 말다툼에서 시작해서 신에 대한 논쟁으로 끝을 냈다.

박근태 기자 kunta@hankyung.com