“지배자가 AI로 바뀔 뿐, 인간은 늘 무엇인가의 지배를 받아왔다” [책마을]

핸드오버

데이비드 런시먼 지음
조용빈 옮김
와이즈베리
372쪽│1만9800원

세계 최대 IT·가전 전시회 'CES 2024' 올해의 화두는 '인공지능(AI)'이다. 오는 9일 미국 라스베이거스에서 열리는 이번 행사는 전 세계 4200여개 기업이 지난 1년간 축적한 AI 기술 성과를 선보이는 무대다. 냉장고 내부 사진만 보고도 저녁 메뉴를 짜주고, 능숙하게 자동차를 운전하거나 암을 진단하는 기계들이 벌써 등장을 예고하고 있다.

하지만 학계에서 AI를 바라보는 시선은 기대 반 우려 반이다. 기술 발전의 속도와 방향을 가늠하기 어렵기 때문이다. 미래학자 레이 커즈와일은 2005년 <특이점이 온다>에서 기술이 인간의 지능을 뛰어넘는 순간을 '기술적 특이점'이라고 규정했다. 그러면서 "특이점을 넘어서면 사회·경제적으로 한계를 알 수 없는 거대한 변화로 이어질 것"이라고 했다.

미켈란젤로의 '천지창조'를 패러디한 삽화. 신과 기계가 손가락을 맞대고 있다. 이 이미지는 한국경제신문이 생성형 AI '챗GPT 4.0'을 활용해 생성했다. '로봇과 인간이 손가락을 맞대고 있다. 유화. 미켈란젤로의 '천지창조' 스타일'이란 프롬프트를 입력했다. /박시온 기자

최근 출간된 <핸드오버>는 이러한 기술적 특이점이 목전에 왔다고 주장한다. 영어 원제 '더 핸드오버(The Handover)'의 사전적 의미는 '권력·책임의 이양'이다. 인간이 AI에 권력을 넘겨야 할 날이 머지않았다는 얘기다. "스스로 코딩을 시작하고 자신을 가르칠 수 있게 된 기계는 스스로 똑똑해질 가능성이 생겼다. AI는 아마도 매우 빨리, 우리보다 훨씬 더 똑똑한 존재가 될 것이다."

미래학자나 테크 기업 관계자가 아닌 정치학자가 AI 사회를 내다본 책이다. 그래서 특이하다. 책을 쓴 데이비드 런시먼 영국 케임브리지대 정치학과 교수는 "우리는 이미 300년 동안 AI와 살아왔다"고 말한다. 인간처럼 생각하고 결정하지만, 인간은 아닌 '인공 대리인'들의 지배를 받아왔다는 이유에서다. 17세기 등장한 근대국가와 18~19세기 현대적 기업이 여기 해당한다.

저자는 미래를 내다보기 위해 과거를 돌아보는 방식을 택했다. 주인 대리인 이론, 권력, 법인격 등 정치적 개념을 통해 국가와 기업이 형성됐던 과정을 설명하고, 이와 '닮은꼴' AI가 가져올 미래 모습을 전망한다. 이들 셋은 같은 듯 다르다. 국가나 기업은 인간의 생존과 직결돼 자연스럽게 형성된 반면, AI는 보다 인위적으로 인간의 필요에 의해 만들어졌다.

<핸드오버>(데이비드 런시먼 지음, 조용빈 옮김, 와이즈베리)

책은 정치철학자 토머스 홉스의 <리바이어던> 개념을 소개하며 시작한다. 홉스는 국가를 개개인이 모인 집합체인 '거대한 인공 인간'으로 묘사했다. 개인은 국가에 자기 권한 일부를 넘긴 대신 안전한 생활을 보장받았다. 기업도 마찬가지다. 의사결정과 실행을 더 큰 집단인 기업이 맡으며 효율적인 자원분배를 가져왔다.

런시먼은 국가와 기업이 등장한 순간을 '첫 번째 특이점'이라고 명명한다. 첫 번째 특이점 이후 사회의 안정성이 늘고 전반적인 생활 형편이 개선되는 등 변화를 겪었다. 좋은 일만 있던 건 아니다. 편안함과 안락함을 위해 국가와 기업은 다른 집단과 다퉜다. 상대방을 착취하거나 자연을 파괴하기도 했다.

'두 번째 특이점'은 AI에 의한 변화다. 첫 번째 특이점이 사회적 변화 위주였다면, 두 번째 특이점은 인간의 생물학적 변화로도 이어질 수 있다. 저자는 "인위적인 수명 연장, 자연사 후 기억 보존, 자손의 유전적 구성을 선택할 수 있는 지점에 이르면 우리는 새로운 세계로 들어갈 것"이라고 말한다.

문제는 인공 시스템이 인간을 배제할 수 있다는 점이다. 런시먼에 따르면 국가와 기업, AI는 '기계적인 속성'을 공유한다. 인간보다는 이들끼리의 결합이 용이하다는 소리다. 효율성을 중심으로 돌아가는 인공 대리인들의 작동 방식은 사회의 인간성을 말살할 수 있다. AI로 인한 일자리 상실, AI의 의사결정에 대한 책임의 소재 등 해결해야 할 과제가 산더미다.

저자는 미래에 대한 구체적인 제언에 대해서는 답변을 미룬다. 선택할 수 있는 여러 옵션을 나열할 뿐이다. 효율적이지만 그만큼 비인간적인 사회, 종종 나쁜 선택을 내리지만 인간적인 사회 중 골라야 한다는 것이다. 기계가 답변하듯 뻔한 얘기다. 속 시원한 해결책이 없다는 점이 아쉬움으로 남는다.

안시욱 기자 siook95@hankyung.com