유발 하라리 "독재자가 AI의 꼭두각시가 된다고 생각해보라"
입력
수정
넥서스
유발 하라리 지음
김명주 옮김/김영사
684쪽|2만7800원
6년 만의 신작 낸 유발 하라리
‘AI의 위험성’에 경각심 가져야
인류가 AI 통제 받을 가능성도
인간 사회 분열은 AI에 유리해

세계적으로 4500만부 팔린 베스트셀러 <사피엔스>의 저자 유발 하라리 히브리대 역사학과 교수가 6년 만의 신작 <넥서스>를 펴냈다. 지난 15일 국내 언론과 진행한 화상 인터뷰에서 그는 AI로 인한 여러 위험성을 경고했다.

“물론 AI의 긍정적인 잠재력은 엄청납니다. 과학 발견, 신약 개발, 기후 변화 해결 등에 활용할 수 있습니다. 하지만 엄청난 위험도 내포하고 있습니다. AI가 어떤 결정을 내릴지 예측하기 어렵고, 인류가 만든 어떤 기술보다 통제하기 힘듭니다.”
그 위험성은 독재자가 AI를 쓸 때 더 커진다. 독재자는 AI로 국가와 국민을 더 쉽게 통제할 수 있을 것으로 기대한다. 하지만 거꾸로 AI가 독재자를 통해 전체를 조정할 위험이 크다. “역사를 보면 독재자는 자기가 부리던 부하에게 암살당하거나 부하에게 조정당해 꼭두각시로 전락하곤 합니다. 독재자는 AI를 자기가 통제한다고 믿겠지만, 어느 순간 반대의 상황에 놓이게 될 수 있습니다.”하라리는 다만 섣불리 규제하기보다는 먼저 AI를 관찰하고 이해해야 한다고 말했다. 이를 위한 첫 번째 단계로 국제기구를 설립해 세계 각국이 다 같이 AI에 대한 이해를 높일 것을 제안했다. 또 기술 회사는 자신의 알고리즘 때문에 일어난 일에 법적 책임을 지어야 하고, AI는 어떤 경우에도 절대 인간인 척해서는 안 된다고 했다. 문제는 ‘인간 사회의 분열’이다. 그는 “AI를 통제하려면 인류가 협력해야 한다”며 “인류가 분열되고 서로 싸운다면 AI에 유리한 상황이 펼쳐질 것”이라고 했다.
하라리 자신은 “하루 2시간씩 명상하고, 1년에 한두 달 외부와 완전히 단절한 채 명상하는 시간을 갖는다”고 했다. 정보는 마음이 먹는 음식이라, 소화하는 데 시간이 필요하고, 너무 많이 먹으면 건강에 안 좋다고 생각하기 때문이다.
임근호 기자 eigen@hankyung.com