유발 하라리 "인간도 못 믿는데 외계인 같은 AI를 믿겠다고요?"

신작 발간 기념 기자간담회
“AI는 인간 통제를 벗어난 첫 기술”
＜넥서스＞ 통해 AI 개발 경쟁의 맹점 지적
SNS 알고리즘, 거짓 정보에 힘 실어
“언론 아닌 언론인에 투자해야 할 때”

역사가 유발 하라리가 20일 서울 종로구 노무현시민센터에서 열린 신간 <넥서스> 출간 기자간담회에서 인사말을 하고 있다. 연합뉴스

“같은 인간은 못 믿으면서 외계인 같은 지능을 갖춘 인공지능(AI)은 믿을 수 있다고요?”

＜사피엔스＞, ＜호모데우스＞등 인문 분야 글로벌 베스트셀러를 쓴 역사가 유발 하라리가 20일 신작 ＜넥서스＞ 출간 기념으로 내한해 기자간담회를 열었다. 서울 원서동 노무현시민센터에서 열린 이날 간담회는 진화학자이자 과학철학자인 장대익 가천대 석좌교수가 모더레이트를 맡아 ‘AI와의 공존은 가능한가? AI의 의미와 본질, 그리고 미래’를 주제로 진행됐다.

국내에서 지난해 10월 번역 출간된 ＜넥서스＞는 AI의 위험성을 경고한 책이다. ‘21세기 사회에 대한 통제권을 AI에게 넘겨줄 경우 무엇이 잘못될 수 있는지’, ‘미래의 AI 독재가 과거의 인쇄술이나 라디오 등 정보 혁명과 어떤 면에서 다른지’ 등을 다루고 있다.

하라리는 “지금 같은 속도로 발전한다면 AI는 인류 최초로 인간이 통제할 수 없는 기술이 될 것”이라고 우려했다. “AI는 인간의 도구가 아니라 행위 주체자이기 때문”이다. 그는 “지금까지 인간이 만든 모든 기술 발명품, 하다못해 원자폭탄까지 전부 우리 도구였고 인간 손에 달려 있었으며, 우리는 그걸 가지고 뭘 할지 결정할 수 있었다”고 했다. 그러나 “AI는 스스로 결정하고, 새로운 생각을 만들어내고 발명까지 한다”며 “AI의 발명은 이전의 어떤 과학기술 혁명과도 다를 것”이라고 내다봤다.

하라리는 AI를 두고 서로 머리를 맞대야 하는 이 시기에 인류가 어느 때보다 신뢰를 빠르게 상실하고 있다는 점에 대해서도 지적했다. 그는 자신이 만났던 글로벌 빅테크 기업인, 과학자, 정치인들과의 대화를 소개했다. 그가 “‘왜 이렇게 AI 개발을 서둘러 하냐, 꼭 이래야 하냐?’고 물으면 다들 ‘위험한 건 안다. 신중하게, 조심해서 가야 하는 건 아는데, 다른 인간 경쟁자를 신뢰하지 못하겠다’고 말한다”는 것이다. AI 개발 경쟁이 치열해지면서 이 기술이 가져올 문제에 대한 고민은 미뤄둔 채 속도만 계속 올리고 있다는 얘기다. 그러면서 하라리는 “다른 인간들은 못 믿겠다는 사람들이 지극히 이질적인 초지능적 존재인 AI는 믿을 수 있다고 말하는 꼴”이라고 꼬집었다.

그는 “지금이라도 우리가 우선순위를 바꿔야 한다”고 주장했다. “태생 자체가 경쟁과 불신, 갈등에서 비롯된 AI라면 신뢰할 수 없다”는 이유에서다. 그는 “인간이 서로 신뢰할 수 있는 기반부터 만들고, AI도 이런 신뢰를 바탕으로 학습·교육해야 한다”며 “그렇게 태어난 AI여야 인간이 신뢰하고 의지할 수 있게 될 것”이라고 강조했다.

하라리는 정보의 오염이 심해진 요즘 언론의 역할이 중요하다고도 했다. 그는 “AI만큼 정보를 매우 빠르게 정확하게 생성해낼 수 있는 능력을 우리는 본 적이 없다”면서도 “그럼에도 불구하고 중요한 건 정보가 진실은 아니라는 것”이라고 말했다. 특히 “SNS에선 의도적으로 챗봇이나 알고리즘이 음모론, 가짜뉴스를 퍼뜨리고 증오·공포를 부추기는 콘텐츠를 의도적으로 선별해 퍼뜨리고 있다”는 지적이다. 그는 “진실을 캐내는 과정은 비싸고, 복잡하며, 때론 아프고 힘들기도 하다”며 “그런 귀한 보석을 지키기 위해 AI 언론이 아닌 ‘언론인’에 투자를 해야 하는 이유”라고 강조했다.

설지연 기자 sjy@hankyung.com