인간처럼 생각하는 유진 구스트만 등장…혁신 빨라진 인공지능 기술, 재앙 될까
입력
수정
지면A19
이승우 기자의 디지털 라떼

배경은 제목처럼 2020년이다. 태양계 바깥 UPO란 미지의 행성으로 탐사를 떠난 사람들이 행방불명되고 이들을 구하기 위한 구조팀이 파견된다. 하지만 각 분야 전문가들로 이뤄진 구조팀 역시 UPO에 접근하자마자 알 수 없는 존재로부터 공격받는다.이들을 곤경에 빠뜨린 것은 고도로 발전된 기계문명이었다. 우두머리인 마라 대마왕은 원래 로봇으로, 자신을 개발한 인간을 제거하고 기계왕국을 만들어냈다. 우주를 정복하려는 야망을 갖고 있다.
○로봇 1원칙, 인간에 해 입혀선 안 된다
이 애니메이션을 처음 봤을 때만 해도 먼 미래의 일처럼 느껴졌지만 앞으로 5년1개월 뒤에 인류는 2020년을 맞이하게 된다. 물론 현재 인류의 기술을 볼 때 사람이 직접 태양계 바깥으로 나가 탐사하는 일은 쉽지 않아 보인다. 하지만 인공지능(AI)칩을 내장한 로봇 마라 대마왕이 인간을 제거한다는 내용만큼은 한번 생각해볼 필요가 있다. 인간이 만들어낸 고도로 발전한 로봇이 스스로 사고를 통해 인간에게 해를 입힐 수 있다면 인류를 위협하는 재앙이 될 수도 있기 때문이다.아서 클라크, 로버트 하인라인과 함께 3대 SF 작가로 손꼽히는 아이작 아시모프는 1950년 내놓은 단편소설집 ‘아이, 로봇’에서 ‘로봇 3원칙’이란 것을 내놨다. △제1원칙, 로봇은 인간에게 해를 입혀서는 안 된다. 위험에 처한 인간을 모른 척해서도 안 된다. △제2원칙, 제1원칙에 위배되지 않는 한 로봇은 인간의 명령에 복종해야 한다. △제3원칙, 제1·2원칙에 위배되지 않는 한 로봇은 로봇 자신을 지켜야 한다. 아시모프가 창조한 SF 세계에선 로봇을 만들 때 인간의 안전을 위해 이 원칙들을 반드시 프로그램에 넣어야 한다. 로봇이 이를 어길 경우 두뇌 회로에 손상을 입게 된다.
‘로봇 3원칙’은 이후 수많은 SF 소설·영화에 영향을 미쳤다. 실제 로봇 산업에서도 이 원칙은 설득력 있게 받아들여지고 있다. 하지만 단순하면서도 절대적인 것 같은 이 원칙에는 빈틈이 많다. 이 원칙이 등장하는 작품들은 대부분 원칙 사이의 모순을 극 진행의 중요한 장치로 쓰고 있다.
가령 조난자들을 구출하란 임무를 받은 로봇이 명령 수행을 위해 가던 도중 부상당한 사람과 마주쳤다. 그냥 지나친다면 죽는 것이 분명해 보이지만 이 사람을 구하려고 시간을 지체하면 조난자들이 위험해진다. 어떤 답을 내려도 제1원칙에 위배되는 셈이다. 인간도 쉽게 대답하기 어려운 문제다. 로봇의 인공지능이 결정을 내릴 수 있을까.○‘2020 우주의 원더키디’까지 5년 남아
인간과 비슷한, 혹은 그 이상의 지능을 가진 로봇이 등장하면 로봇과 인간의 관계를 다룬 윤리학도 새롭게 만들어져야 할 것이다. 한국 정부는 2007년 인간과 로봇의 관계를 규정한 로봇윤리헌장 초안을 발표했지만 현재는 이런 논의가 중단된 상태다. 이에 대한 고민도 다시 시작해야 하지 않을까. ‘2020 우주의 원더키디’까지 5년여밖에 남지 않았다.
이승우 기자 leeswoo@hankyung.com