[책마을] "인간이 'AI의 손아귀'에 놓일 수 있다"

더 커밍 웨이브

무스타파 술레이만 지음 / 이정미 옮김
한스미디어 / 512쪽│2만5000원

딥마인드 공동 설립자의 경고
AI 스스로 폭발적으로 발전하면
인간의 통제가 한계에 도달할 것
동물원의 '고릴라' 신세 걱정해야

"디스토피아 막기 위해 억제해야
감독 강화와 소유 규제 등 필요"

Getty Images Bank

인공지능(AI)을 이야기하는 책이 하루가 멀다 하고 쏟아지는 와중에, 그중에서도 <더 커밍 웨이브>가 주목받는 이유는 무스타파 술레이만이 쓴 책이라서다. 술레이만은 알파고를 개발한 딥마인드의 공동 설립자다. 구글 AI 제품 관리부서 부사장으로 대화용 AI 람다(LaMDA)를 개발하기도 했다.

AI 시대의 선봉에 서 있는 저자이기에 으레 기술적 유토피아에 대한 긍정적인 전망을 내놓을 것이라고 예상하기 쉽지만, 책장을 펼치면 그 반대다. 술레이만은 AI와 공존하는 삶에 대한 우려를 쏟아낸다. 딥마인드를 창업하고 얼마 지나지 않아 정보기술(IT)업계 최고경영자(CEO)들을 앉혀 놓고 한 발표에서 그는 “쇠스랑과 같은 위협이 몰려오고 있다”고 경고했다.

AI를 위험하게 만드는 건 그것이 지닌 범용성 때문이다. 술레이만은 앞으로 AI가 마치 과거 증기나 전기가 그랬던 것처럼 우리 일상과 사회, 과학, 경제 등 거의 모든 분야에 스며들 것이라고 강조한다. 문제는 AI가 보편화할수록 동시에 그것이 악용될 가능성도 높아진다는 점이다. 예컨대 얼굴 인식 기능이 적용된 자율 드론이 살상 테러에 사용될 수 있고, 생성형 AI에 조작된 데이터를 입력해 나온 가짜뉴스가 순식간에 퍼져 사회 질서를 흐릴 수 있다. 생명공학과 AI가 잘못 결합했을 때 어떤 부작용이 일어날지는 상상도 하기 싫다.

인간이 개발한 AI가 인간의 능력을 뛰어넘지 못할 것이라 확신하기도 어렵다. 책에선 ‘지능 폭발’이란 개념이 소개된다. AI가 자기 개선을 반복하면서 갈수록 빠르고 효과적인 방식으로 스스로를 향상시킬 수 있게 되는 상태다. 술레이만은 AI가 지능 폭발을 통해 스스로 발전을 주도하면서 인간의 통제가 한계에 도달하는 시점이 올 것이라고 경고한다. 이때 인간은 ‘고릴라 신세’를 면치 못할 수 있다. 고릴라는 인간보다 육체적으로 강하고 튼튼하지만 동물원에 갇혀 지낸다. 근육도 작고 힘도 약하지만 큰 뇌를 가진 인간이 고릴라를 가뒀다.

AI는 정치적으로도 큰 변화를 가져온다. 기술 발전은 역설적으로 권력의 중앙 집중화와 탈중앙화라는 대립되는 물결을 동시에 불러일으킨다. 초기 개발에 큰 비용이 드는 AI는 소수만이 소유권을 가질 수 있다. 이 경우엔 기술을 독점한 특정 기업이 국가 권력을 넘어서 새로운 권력 기구로 지배하게 될 것이다. 반대로 기술 혁신을 통해 오픈 소스를 활용하면 누구나 또 다른 혁신을 만들어낼 수도 있다. 이때는 새로운 차원의 민주주의가 열릴 것이란 설명이다. 술레이만은 둘 중 어느 하나로 미래를 결론짓지 않는다. 대신 “일부 계층과 사회 구조는 강화되는 반면 또 다른 계층과 사회 구조는 전복될 것”이라며 가능성을 열어놓는다.

기술이 초래하는 디스토피아를 막기 위해 저자가 내놓는 대책은 ‘규제’보다 다소 급진적인 인상을 주는 ‘억제’다. 마치 도로법이 모든 교통사고를 막지 못하는 것처럼, 규제는 부정적인 영향을 완화할 수 있지만 나쁜 결과를 완전히 지울 수는 없다. 술레이만은 규제뿐만 아니라 범국가적인 규범부터 합리적인 소유 구조, 청렴한 문화, 감독 메커니즘 등 다양한 요소가 결합하고 이에 대한 대중의 지지가 있어야 AI의 악용을 최대한 억제할 수 있다고 강조한다.

몰려오는 AI의 발전은 더 이상 피할 수 없는 물결이 됐다. 저자는 물결을 피하지 않고 담대히 맞서야 한다고 말한다. 기술이란 거세고 빠른 파도에 휩쓸려 방향을 잃지 않도록 튼튼한 노를 쥐여 주는 책이다.

신연수 기자 sys@hankyung.com