유발 하라리 "친밀한 AI가 가장 위협적이다"

첫 어린이책 <멈출 수 없는 우리> 출간 기념
국내 기자들과 온라인 간담회

"제약회사가 효과 좋은 신약을 개발됐다고 바로 판매를 해버릴 수 있나요? 오랜 임상실험 과정을 통해 부작용을 확인하죠. 대화형 인공지능(AI) 챗GPT가 세상에 확산되는 속도 역시 인간이 조절해야 합니다."

세계적 베스트셀러 <사피엔스>의 저자로 유명한 유발 하라리 히브리대 역사학과 교수는 19일 출판사 김영사가 마련한 온라인 기자 간담회에서 "강력한 신기술에 대한 안전성 확인 절차는 분야에 상관 없이 필요하다"고 강조했다.

다만 그는 "AI에 대한 연구 자체를 멈추라는 게 아니다"며 "AI이 인간 사회에 기여할 수 있는 일이 많고, 사실 AI 관련 연구를 인간이 멈추려고 해도 완전히 멈출 수도 없을 것"이라고 덧붙였다.

유발 하라리 히브리대 역사학과 교수가 19일 서울-텔아비브를 연결한 온라인 간담회에서 질문에 답하고 있다. 김영사 제공

"이야기 만드는 AI, 인간 위협"

하라리 교수는 최근 <사피엔스> 10주년 기념 서문을 챗GPT로 작성하는 실험을 벌였다. 그는 챗GPT를 사용한 경험을 '충격'이라는 단어로 설명했다. 빠른 속도로 인간처럼 그럴 듯한 글을 생산했기 때문이다.

그는 인간이 세상을 지배하게 된 이유도, AI가 위협적인 이유도 ‘이야기를 만드는 힘’에 있다고 봤다.

하라리 교수는 "아프리카 초원의 별볼일 없던 존재였던 인류가 오늘날 세상을 지배한 건 인류가 이야기를 통해 대규모 협동을 할 수 있었기 때문"이라고 말했다.

"알록달록한 종이에 불과한 화폐가 어떻게 경제 시스템을 굴러가게 할까요. 화폐에 교환가치가 있다는 이야기를 인류가 믿기로 했기 때문이죠. AI가 인류의 이야기를 복제하는 걸 넘어 스스로 창작할 수 있는 시대, 인간은 어떻게 해야 할까 질문해야 합니다."

그는 "SF 소설 중에는 AI가 인간에게 도전하고 총을 쏘는 등 해를 끼치는 이야기가 많다"며 "그런데 사실 AI가 인간을 지배하려면 총을 쏠 필요조차 없다"고 했다.

"인간들이 서로를 총으로 쏠 법한 이야기를 만든 뒤, 이걸 믿게 만들면 되죠. 이야기를 만들어 전쟁을 일으키는 건 인간이 수천년간 해온 일이니까요."

챗GPT처럼 인간 언어를 사용하는 AI가 특히 위협적인 건 '친밀함' 때문이라고 분석했다. 그는 "과거의 AI는 알고리즘을 통해 더 화나고 자극적인 콘텐츠를 노출시키며 사람들이 SNS에 오래 머물도록 하는 수준이었다"며 "새로운 AI는 사람과 대화를 하며 친밀한 관계를 만들 수 있다"고 말했다.

이어 "자라나는 세대가 AI와 친밀한 관계를 맺게 된면 AI는 상품을 사게하거나, 종교를 개종시키거나, 정치적 신념을 주입시킬 수도 있다"며 "인간은 친밀함에 큰 영향을 받고, 친밀함만큼 무서운 건 없다"고 했다.

AI시대 필요한 역사교육은

이번 간담회는 하라리 교수가 어린이와 청소년을 위해 쓴 첫 책 <멈출 수 없는 우리>(주니어김영사) 1권 국내판 출간을 기념해 진행됐다. 책은 총 4부작으로 기획돼 1년에 한권씩 출간될 예정이다.

그는 이 책을 "내가 어려서 읽고 싶었던 바로 그 책"이라고 설명했다. 하라리 교수는 역사학자가 된 이유에 대해 "세계가 왜 이런 모습으로 생겼는지 늘 궁금했고, 이해하고 싶었다"고 말했다.

그러나 세계적 석학인 하라리 교수도 "어린이 책을 쓰는 건 내게 도전이었다"고 했다. 그는 "어린이를 위한 책을 쓰는 게 어른용 책을 쓰는 것보다 훨씬 더 어려웠다"며 "저자로서, 학자로서 내가 전달하고자 하는 바를 얼마나 잘 알고 있는지 열심히 생각해야 했다"고 털어놨다.

특유의 재치를 섞어 이렇게 설명했다. "어른용 책을 쓸 경우 제가 어떤 걸 잘 모른다고 하면 숨길 방법이 많아요. 추상적 단어를 쓰고 문장을 길게 늘여놓으면 되죠. 그러면 성인 독자들은 '내가 이해를 잘 못하나 보다' 하고 말아요. 하지만 아이들은 그냥 책을 덮어버리고 말죠."

이런 도전을 하게 된 이유는 뭘까. 어린 시절의 역사 교육이 중요하다고 봐서다.

하라리 교수는 "어렸을 때 역사 가르쳐야 한다"며 "가치관이 형성될 시기를 지나 성인이 돼서 제 책을 읽은 사람들의 관점을 바꾸는 건 너무나 어려운 일"이라고 했다.

"예컨대 아직도 '남성이 여성보다 우월하다'는 잘못된 생각을 굳게 믿고 있는 나라가 많습니다. 이런 생각을 갓난아이가 태어날 때부터 갖고 세상에 나오진 않았겠죠. 불평등한 이야기를 듣고 자란 사람이 나중에 40대 50대 돼서 생각을 바꾸긴 어렵습니다."

연도나 사람 이름을 달달 외우는 역사 교육은 의미가 없다고 봤다. 그는 "과거에는 아이들에게 학교에서 정보를 가르쳤다"며 "그런데 왕 이름, 전쟁 연도 같은 건 이제 너무나 쉽게 찾아낼 수 있다"고 했다.

이어 "오늘날 아이들에게는 이 정보가 과연 믿을 만한가를 가릴 수 있는 능력, 여러 정보를 모아서 세상에 대한 큰 그림을 만들어낼 능력이 필요하다"며 "음모론, 가짜뉴스를 스스로 판단할 수 있도록 하는 능력 키워줘야 한다"고 강조했다.

구은서 기자 koo@hankyung.com