인간처럼 생각하는 유진 구스트만 등장…혁신 빨라진 인공지능 기술, 재앙 될까
KBS 2TV에서 1989년 처음 방영된 애니메이션 ‘2020 우주의 원더키디’는 순수 한국 기술로 만든 기념비적인 작품이다. 본격 SF(사이언스 픽션) 장르를 표방했고 당시 최고의 제작진이 참여했다. 프랑스 등 해외시장에 수출하는 성과도 거뒀다.

배경은 제목처럼 2020년이다. 태양계 바깥 UPO란 미지의 행성으로 탐사를 떠난 사람들이 행방불명되고 이들을 구하기 위한 구조팀이 파견된다. 하지만 각 분야 전문가들로 이뤄진 구조팀 역시 UPO에 접근하자마자 알 수 없는 존재로부터 공격받는다.

이들을 곤경에 빠뜨린 것은 고도로 발전된 기계문명이었다. 우두머리인 마라 대마왕은 원래 로봇으로, 자신을 개발한 인간을 제거하고 기계왕국을 만들어냈다. 우주를 정복하려는 야망을 갖고 있다.

○로봇 1원칙, 인간에 해 입혀선 안 된다

이 애니메이션을 처음 봤을 때만 해도 먼 미래의 일처럼 느껴졌지만 앞으로 5년1개월 뒤에 인류는 2020년을 맞이하게 된다. 물론 현재 인류의 기술을 볼 때 사람이 직접 태양계 바깥으로 나가 탐사하는 일은 쉽지 않아 보인다. 하지만 인공지능(AI)칩을 내장한 로봇 마라 대마왕이 인간을 제거한다는 내용만큼은 한번 생각해볼 필요가 있다. 인간이 만들어낸 고도로 발전한 로봇이 스스로 사고를 통해 인간에게 해를 입힐 수 있다면 인류를 위협하는 재앙이 될 수도 있기 때문이다.

아서 클라크, 로버트 하인라인과 함께 3대 SF 작가로 손꼽히는 아이작 아시모프는 1950년 내놓은 단편소설집 ‘아이, 로봇’에서 ‘로봇 3원칙’이란 것을 내놨다. △제1원칙, 로봇은 인간에게 해를 입혀서는 안 된다. 위험에 처한 인간을 모른 척해서도 안 된다. △제2원칙, 제1원칙에 위배되지 않는 한 로봇은 인간의 명령에 복종해야 한다. △제3원칙, 제1·2원칙에 위배되지 않는 한 로봇은 로봇 자신을 지켜야 한다. 아시모프가 창조한 SF 세계에선 로봇을 만들 때 인간의 안전을 위해 이 원칙들을 반드시 프로그램에 넣어야 한다. 로봇이 이를 어길 경우 두뇌 회로에 손상을 입게 된다.

‘로봇 3원칙’은 이후 수많은 SF 소설·영화에 영향을 미쳤다. 실제 로봇 산업에서도 이 원칙은 설득력 있게 받아들여지고 있다. 하지만 단순하면서도 절대적인 것 같은 이 원칙에는 빈틈이 많다. 이 원칙이 등장하는 작품들은 대부분 원칙 사이의 모순을 극 진행의 중요한 장치로 쓰고 있다.

가령 조난자들을 구출하란 임무를 받은 로봇이 명령 수행을 위해 가던 도중 부상당한 사람과 마주쳤다. 그냥 지나친다면 죽는 것이 분명해 보이지만 이 사람을 구하려고 시간을 지체하면 조난자들이 위험해진다. 어떤 답을 내려도 제1원칙에 위배되는 셈이다. 인간도 쉽게 대답하기 어려운 문제다. 로봇의 인공지능이 결정을 내릴 수 있을까.

○‘2020 우주의 원더키디’까지 5년 남아

유진 구스트만
유진 구스트만
지난 6월 미국의 블라디미르 베셀로프와 우크라이나의 유진 뎀첸코가 공동 개발한 인공지능 프로그램 ‘유진 구스트만’이 AI 판정시험 ‘튜링 테스트’를 통과했다. 이 테스트는 컴퓨터가 사람처럼 자유롭게 생각할 수 있는가를 확인하는 시험으로 수학자 앨런 튜링이 1950년 고안해냈다. 이 테스트가 만들어진 지 64년 만의 첫 통과다.

거대 정보기술(IT) 기업들도 AI 기술에 집중 투자하고 있다. IBM은 인간의 신경 세포를 닮은 컴퓨터 칩을 개발했고, 구글은 올해 1월 영국의 AI 회사 딥마인드를 4억달러에 인수했다. 전기자동차 회사 테슬라를 만든 엘론 머스크는 미국 AI 회사 비카리우스에 4000만달러를 투자했다. 그는 최근 “AI 기술이 생각보다 더 빠르게 발전하고 있다”며 “5년 혹은 최대 10년 안에 인류에게 중대한 위기가 벌어질 수도 있다”고 경고했다. 그는 AI 기술을 두고 ‘악마를 소환하는 일’이란 표현까지 썼다. AI가 발전하면 로봇 스스로 인간을 죽이는 게 합리적이란 판단을 내릴 수도 있다는 것이다.

인간과 비슷한, 혹은 그 이상의 지능을 가진 로봇이 등장하면 로봇과 인간의 관계를 다룬 윤리학도 새롭게 만들어져야 할 것이다. 한국 정부는 2007년 인간과 로봇의 관계를 규정한 로봇윤리헌장 초안을 발표했지만 현재는 이런 논의가 중단된 상태다. 이에 대한 고민도 다시 시작해야 하지 않을까. ‘2020 우주의 원더키디’까지 5년여밖에 남지 않았다.

이승우 기자 leeswoo@hankyung.com