바둑으로 인간을 꺾은 '딥마인드'의 내부 고발 "AI를 봉쇄하라" [홍순철의 글로벌 북 트렌드]

<다가오는 물결>(The Coming Wave)

딥마인드 공동창업자 무스타파 슐레이만
“인공지능 존재 자체가 인류에게 커다란 위협,
통제할 수 있는 국제 규범과 시스템 필요”

Getty Images Bank

머지않아 인공지능(AI)이 인류를 지배할 것이라는 전망이 팽배하다. 인류는 결코 기술의 발전 속도를 따라잡을 수 없을뿐 아니라, 기술을 제어할 수도, 통제할 수도 없을 것이란 전망이다.

‘AI가 지배하는 미래에 인간은 어떤 모습으로 살아가게 될까?’ 더는 공상과학영화에서나 있을 법한 뜬구름 잡는 질문이 아니다. 이제 우리는 이 엄중한 질문에 대해 구체적이고 현실적으로 답해야 한다.

AI는 우리가 일하고, 대화하고, 배우고, 여행하고, 병을 고치고, 심지어 세상과 이별하는 방식까지도 바꿀 것이기 때문이다. 엄청난 변화가 누군가에는 엄청난 기회일 수 있지만, 다른 누군가에게는 끔찍한 재앙일 수 있다.

AI 분야 세계 최고의 전문가이면서 바둑 프로그램 알파고를 개발한 것으로 유명한 ‘딥마인드(Deepmind)’의 공동창업자 무스타파 슐레이만은 <다가오는 물결(The Coming Wave)>을 통해 모든 것이 바뀔 새로운 미래상을 소개한다.

지난 9월 영미권에서 출간되며 주요 서점 베스트셀러 목록에 오른 이 책은 AI, 합성생물학, 그리고 양자 컴퓨팅이 서로 결합하면서, 지금껏 상상하지도 못했던 거대한 변화의 물결이 몰려올 것이라고 전한다.

‘다가오는 물결’이란 책의 제목은 미래학자 앨빈 토플러의 책 ‘제3의 물결(The Third Wave)’에서 따왔다. 앨빈 토플러는 정보·통신 기술의 혁명적 변화가 ‘농업혁명’과 ‘산업혁명’에 이어 전례 없는 새로운 혁명을 일으킬 것으로 예측하며 ‘제3의 물결’이란 표현을 썼다.

무스타파 슐레이만은 AI이 또 다른 거대한 물결을 일으키고 있으며, 앞으로 10년 동안 전 세계 부와 권력의 지형에 엄청난 지각변동이 생길 것이라고 주장한다. 다가오는 물결은 인류 전체를 삼킬 만큼 압도적이면서 파괴적이다. AI 기술을 악용하는 세력은 계속 등장할 것이고, AI 존재 자체가 인류에게 커다란 위협이 될 것이다. 따라서 저자는 강력한 AI 기술을 통제(봉쇄)할 수 있는 국제적 규범과 시스템이 필요하다고 강조한다.

‘AI은 새로운 전기다.’ 책은 현대인들이 별다른 제약 없이 전기를 마음껏 사용하듯, 머지않아 AI이 범용 기술 또는 일상의 도구가 될 것이라고 설명한다. 누구나 손쉽게 사용할 수 있는 AI 기술은 축복이라기보다는 저주다. 스스로 생각하는 능력을 갖춘 AI은 도구에만 머물지 않고 스스로 주인이 되려고 할 것이다. 인간과 인간다움에 대한 정의는 바뀔 것이고, 인간성은 파괴될 것이다.

인간은 과연 AI의 공습을 막아낼 수 있을까? 전기처럼 범용 기술이 되어버린 AI의 편리함과 효용성을 포기할 수 있을까? AI 개발자인 저자는 기존의 규제나 통제로는 AI의 발전과 확산을 막을 수 없다고 단언한다. ‘봉쇄(Containment)’라는 과격한 단어를 사용해 국가와 기업 개인이 총공세로 인공지능의 위협에 대응해야 할 때라고 경고한다.

AI 개발자의 내부 고발이 담긴 이 책은 AI의 기회보다 위험을 소개하는데 더 많은 부분을 할애하고 있다. 인류는 곧 이정표 앞에 도달할 것이다. 책을 읽고 나면 어느 쪽으로 가야 할지 그 방향이 분명해진다.

홍순철 BC에이전시 대표·북칼럼니스트