[다산칼럼] 특이점은 오지 않았다

"30년 내 초인적 지능 출현할 것"
과학소설 작가 빈지의 틀린 예측

자유 시장 움직임에 무지한 탓
AI 진화는 예측보다 훨씬 느려

연구 엄격 규제 주장하는 사람들
中·러시아가 압도할 미래는 놓쳐

복거일 사회평론가·소설가

1993년 미국 과학소설 작가 버너 빈지는 ‘다가오는 기술적 특이점(Technological Singularity): 인류 후 시기(Post-Human Era)에서 생존하는 길’이란 논문을 발표했다. 인공지능(AI)의 미래에 관한 예측 가운데 가장 큰 영향을 미친 이 글에서, 빈지는 선언했다, “30년 안에, 우리는 초인적 지능(superhuman intelligence)을 창조할 기술적 수단을 지닐 것이다. 조금 뒤에, 인류 시기는 끝날 것이다.”

빈지가 상상한 특이점의 모습은 끔찍하다. “인류의 육신적 멸종은 하나의 가능성이다 … 그러나 육신적 멸종은 가장 두려운 가능성이 아닐 수도 있다.” 그는 인류의 일부가 생존해 초인적 지능의 노예들이 될 수 있다고 봤다.

빈지는 ‘휴고상’을 다섯 번이나 탄 작가이고 대학에서 수학과 컴퓨터 과학을 가르쳤다. 그는 특이점을 먼저 얘기한 사람이 위대한 수학자이자 물리학자인 존 폰 노이만이라고 지적했다(폰 노이만이 ‘특이점’을 언급한 것은 사실이지만, 그는 그 말을 전혀 다른 맥락에서 썼다). 2005년엔 미국 발명가 레이 커즈와일이 <특이점이 온다>를 펴내 빈지의 주장을 널리 알렸다.

올해는 빈지가 예언한 초인적 지능 출현의 시한이다. 초인적 지능은 나오지 않았고 가까운 미래에 나올 기미도 없다. 빈지처럼 뛰어난 사람이 이런 오류를 범한 사정을 살피는 것은 인공지능이 제기하는 위험을 놓고 어지럽게 벌어지는 논쟁을 이해하고 평가하는 데 도움이 될 것이다.

빈지의 예언이 틀린 근본적 원인은 우리가 먼 미래를 예측하는 능력을 갖추지 못했다는 사실이다. 사람의 심리와 사회 조직은 한 세대를 시평(time-horizon)으로 삼는다. 어릴 적엔 어른이 되는 것이 미래의 끝이고 커서는 자식을 키우는 것이 미래의 끝이다. 한 세대 너머를 예측하는 능력은 생존에 도움이 되지 않으므로, 그런 능력은 진화하지 않았다. 그래서 우리의 뇌는 한 세대 너머를 현실적으로 상상할 수 없다. 자연히, 머지않은 미래에 올 것 같은 일을 우리는 한 세대 지나면 온다고 여긴다.

바로 그런 사정이 빈지로 하여금 한 세대 뒤에 ‘기술적 특이점’이 온다고 예측하도록 만들었다. 1965년에 허버트 사이먼은 1985년까지는 인간과 동등한 기계가 나오리라고 예측했다. 같은 해에 마빈 민스키와 어빙 굿은 2000년 이전에 나오리라고 예측했다. 2005년에 커즈와일은 2045년까지는 초인적 지능이 나오리라고 봤다.

보다 중요한 요인은 인공지능을 연구하는 과학자들이 대체로 경제에, 특히 자유 시장의 움직임에 무지하다는 사정이다. 컴퓨터와 인공지능에 대한 투자는 궁극적으로 시장에 의해 결정된다. 잘 알려진 것처럼, 혁명적 기술이 시장에서 소비자들을 만나는 데는 시간이 오래 걸린다. 자연히 지능 폭발(intelligence explosion)이라 불리는 인공지능의 가속적 진화는 전문가들의 예측보다 훨씬 느리다.

자유 시장의 움직임에 대한 무지는 인공지능이 제기하는 위험에 대비하는 정책에도 영향을 미친다. 안전한 제품을 만드는 데 마음을 쓰지 않는 기업들은 소비자의 외면을 받아 빠르게 사라진다. 소비자들이 궁극적 감시자라는 원리는 인공지능 개발에도 적용된다. 따로 정부가 규제할 필요가 없다. 게다가 어떤 규제든 기술적 발전과 사회적 변화로 비현실적이 되므로, 발전 속도가 유난히 빠른 인공지능 분야에선 폐해가 클 수밖에 없다.

인공지능의 연구를 엄격히 규제해야 한다는 사람들이 놓치는 것은 그런 규제에 따르지 않는 전체주의 국가들이 있다는 사실이다. 그들의 주장대로 엄격한 규제가 시행되면 그런 규제를 무시하고 개발에 몰두할 중국이나 러시아가 조만간 인공지능 분야에서 서방 국가들을 압도할 것이다.

안면 인식 기술을 바탕으로 한 감시 체계에선 중국이 가장 앞섰다. 놀랍게도, 중국 시민의 다수는 그런 감시 체계를 지지한다. 그래서 감시 체계는 빠르게 확장되고 발전한다. 방대한 감시 체계를 운영하는 인공지능이 의식을 지니게 되는 상황은 빈지의 ‘기술적 특이점’이 나오는 현실적 시나리오 가운데 하나다.