철학교수의 AI 이야기<2> 미래인공지능과 인간의 관계, 어떻게 설계되어야 하는가?

이종관 성균관대 철학과 /미래인문학소셜앙트레프레네십 BK 사업단장

이종관 성균관대 철학과 교수

1. 인공지능과 인간

미래의 문명은 인공지능이 없으면 오지 않는다. 이 전망은 이 시대의 가장 확실한 통념으로 자리잡고 있다. 이런 시대 상황에서 최고 성능의 인공지능을 개발하기 위한 과학기술자들의 매진은 진정 찬사를 받을 만하다. 인공지능은 2차세계 대전 이후 개발이 본격화되었고 또 오늘에 이르기까지 몇번의 좌절을 겪었다. 초기 규칙기반 기호처리 패러다임을 따라 발전하던 인공지능은 70년대 들어 한계에 봉착했다. 그러나 두뇌의 작동원리에 착안한 신경망 패러다임으로 전환한 이후 과학기술자들의 지난한 노력으로 최근 놀라운 학습능력을 보여주는 경이로운 성능의 인공지능 GPT3를 성취하였다. 하지만 이 성능 증강에 매진하는 눈물겨운 노력에서 정말 물어져야 할 근본적인 질문들이 묻혀버리는 경우가 있다. 그것은 어쩌면 가장 중요한 질문, 즉 인공지능과 인간이 어떤 관계를 맺어야 하는가에 관한 것이다. 이 질문은 사실 인공지능은 인간과 구별되는가 또 구별된다면 어떻게 구별되는가 등의 문제를 내포한다. 그리고 나아가 최근 관심이 되고 있는 자율자동차의 경우는 자율자동차가 사고를 일으켰을 때 그 책임을 누구에게 물어야 하는가 하는 문제와도 연관된다. 만일 자율자동차가 진정 자율적이라면, 인간과 같은 도덕적 책임의 주체가 되어야 하기 때문이다. 이 문제는 골치 아픈 철학적 논의를 요구하지만 AI를 연구하는 사람이라면 반드시 짚고 넘어가야 할 문제이다.

2. 튜링의 화두

인간과 인공지능은 어떤 관계를 가져야하는가? 이 문제를 촉발시킨 사람은 컴퓨터의 아버지라고 일컬어지는 알랭튜링이다. 튜링은 기계도 생각할 수 있다는 것을 입증하는 실험을 고안하였다. 그런데 이 실험으로부터 인간의 인간성을 구성하는 핵심이 생각이라면, 생각하는 기계와 인간의 관계는 인간과 인간의 관계와 동일해야 한다는 결론이 도출된다. 그런데 대체 튜링테스트는 무엇인가? 튜링테스트는 인공지능에 관심이 있는 사람들은 잘 알고 있을 테지만, 그 핵심내용을 다시 한번 상기해보자.
튜링 테스트는 다음과 같이 실행된다, 불투명한 막을 가운데에 두고 한쪽에는 인간과 생각하는 기계(AI)를, 다른 한쪽에는 피험자를 앉힌다. 이 피험자는 반대편의 인간과 생각하는 기계를 볼 수 없는데, 각각과 대화를 통해 둘 중 누가 인간이고 누가 기계인지 구분해야 하는 테스트를 받는다. 테스트 결과 피험자가 누가 인간이고 누가 기계인지 구별해내지 못한다면 기계가 인간과 같은 지능을 구현해낸 것이다. 사실 오늘날 일론 머스크가 주도하는 오픈 AI가 지난해 개발한 GPT3와 같은 거대AI는 튜링테스트를 통과한 듯 보인다. GPT3는 시와 논문으로 보이는 단어와 문장을 조합해내는 능력을 발휘하고 있기 때문이다. 이제 우리는 AI가 인간들이 시로 간주하는 글자들을 조합해낸다는 점에서 인간과 같은 창의적 AI가 탄생했다고 해야 할 것인가?
물론 철학계에서는 튜링테스트를 둘러싸고 존 설이란 철학자의 중국어방 논증 등 많은 논란이 벌어지고 있다. 그런데 이 논란은 철학자 사유가 아니라 엄청나게 복잡한 논리의 함정에 빠진 지적 혼란에 다름아니다. 이 혼란은 튜링테스트를 다음과 같은 방식으로 다시 보면 간단하게 종식시킬 수 있다.
예를 들어 반려견을 피험자로 하는 튜링테스트를 설계하여 실험해보자. 즉 동물 개와 로봇 개를 놓고 함께 지내도록 해보자. 이때 동물 개가 로봇 개를 실재의 개로 인식하는 행동을 보인다면? 튜링테스트의 논리를 따른다면 실재의 개가 로봇 개를 실재 개와 구별하지 못했기 때문에 로봇 개는 실재 개와 같은 동물성을 구현한 것이라고 주장해야 할 것이다. 그러나 이 얼마나 어처구니 없는 주장인가. 실재의 개가 로봇 개를 살아있는 개와 구별하지 못하는 행동을 보이는 경우, 우리는 로봇 개를 진짜 개와 동일시한 그 개가 지능이 낮아 오인한 것이라고 판정한다. 인간에게 튜링테스트를 적용했을 때도 마찬가지이다. 앞서 개에게 적용한 튜링테스트에서 개가 로봇 개와 진짜 개를 구별하지 못한 것이 오인에 불과한 것처럼, 인간이 AI와 인간을 구별하지 못했다고 해서 AI가 생각이라는 인간의 능력을 구현하고 있는 것은 아니다. 그것은 단지 오인일 뿐이다. 철학적으로 표현하면, 튜링테스트는 AI와 인간을 같은 것으로 착각하는 인지적 오인으로부터 AI와 인간의 존재를 동일시하는 존재론적 결론을 추론하는 오류이다.


3. AI: 물체? 기계? 동물? 인간?

하지만 오늘날 인간을 통해 AI를 이해하거나 반대로 AI를 통해 인간을 이해하고자 하는 어지러운 상황이 벌어지고 있다. 인간과 AI 그리고 이 둘이 물체나 기계, 동물과 어떻게 구분되지는 명확히 하는 존재론적 연구가 필요하다. 그래야만 이들 사이에 어떤 관계가 맺어져야 하는지 알 수 있다. 그렇지 않으면 모든 것을 하나로 동일화하는 오류에 빠질 수 있다. 가령 인간을 기계와 구별하지 못하면, 인간을 기계로 취급하거나 기계를 인간으로 의인화할 수 있다.
모든 것을 물리적, 물질적으로 설명하는 물리주의가 요즘의 대세이다. 즉 모든 것의 존재방식은 물리적, 물질적으로 설명이 가능하다는 것이다. 그런데 과연 그럴까? 예를 들어 바위 위에 도마뱀이 앉아있는 경우를 보자. 제3의 관찰자의 입장에 보면, 바위나 도마뱀은 똑 같은 공간적 위치에 존재한다. 그러나 물체인 바위는 스스로 운동해서 그 자리에 있게 된 것이 아니라 중력과 같은 외부의 원인에 의해 그곳에 있게 된 것이다. 이것을 타성운동이라 한다. 반면에 생명체인 도마뱀은 스스로 바위 위에 올라가 자리 잡았다. (예를 들면 ‘살아남기 위해서 햇빛에 따뜻해진 바위를 찾아갔다.’) 즉 생존 충동에 따라 행동했다. 바위와 도마뱀이라는 두 존재자는 동일한 이 위치에 존재하지만 그 위치에 존재하는 근거와 원리가 완전히 다른 것이다.
기계와 물체 그리고 생명체를 구별하는 것도 중요하다. 데카르트 같은 철학자조차 동물을 기계와 동일시했고 또 그의 제자인 라메트리는 심지어 인간을 기계와 동일시했기 때문이다. 그러나 기계는 물체와 달리 어떠한 목적을 가지고 설계되었으며, 설계에 따라 배치된 부품들이 체계적으로 작동한다. 물체는 외부원인에 의해 ‘운동’하고 동물은 생존충동에 따라 ‘행동’하며 기계는 설계된대로 ‘작동’ 한다. 그리고 물체는 ‘공간’에서 운동하고, 동물은 ‘환경’에서 생존하지만, 기계는 ‘공장’에서만 작동한다. 기계는 공간이나 환경에 있으면 그저 고철덩어리라는 물체에 지나지 않는다.
이제 AI에 대해 생각해보자. AI는 초기에는 기계의 원리를 지능적으로 구현해내는 것으로 이해되었으나, 최근에는 생명체인 인간의 지능의 원리를 응용하고 있다고 한다. 여기에 숨어있는 기본 전제는 다음과 같다: 인간은 동물에 속하고, 딥러닝 같은 AI는 인간의 두뇌를 모방한 것이므로 사실상 AI의 존재방식은 동물의 그것과 같다. 과연 그럴까?
첨단 AI는 기계이지만, 그 자체의 지능을 구현하였다는 점에서 타의에 의해 작동되는 기계와는 다르다. 그렇다면 AI는 동물, 혹은 인간과 같은 방식으로 존재하는가? AI는 두뇌를 모방하였으나 이는 생명의 지능적 두뇌 활동과 분명히 구별된다. 인간을 비롯한 동물의 두뇌는 뉴런의 전기적 신호를 통해 생화학적으로 작용한다. 반면 AI는 인간의 뉴런을 모델링했으나 수리적인 함수를 통해 작동한다. 딥러닝은 두뇌의 기본적인 구조만 모델링했을 뿐 사실 실질적인 정보 처리는 계산적이고 수리적인 방식으로 이루어진다. 딥러닝은 사물들을 분류하거나 어떤 추세를 파악하여 미래를 예측한다. 그리고 이러한 작업을 할 때에는AI는 선형회귀 함수 혹은 시그모드 함수 등을 통해 작동하도록 프로그램화되어 있다. 그러나 인간의 두뇌나 동물의 뇌는 그러한 고도의 수리적 처리방식이 생물학적 능력으로 내재되어 있지 않다. 따라서 인간을 포함한 생명체와 AI가 하는 기본적인 활동의 원리는 동일화될 수 없다.
그렇다면 마지막으로 인간과 동물의 구분은 가능할까? 물론 진화론의 관점에서는 인간과 동물의 행동 원리가 같다고 볼 수 있다. 그러나 인간과 동물은 그 존재를 존속해가는 방식에 있어 분명히 다르다. 동물의 존속은 곧 ‘생존’이다. 동물의 생존은 잘 질서지어진 생존충동에 의해 최적화된 환경에서 이루어지며, 이때 동물에게 생존 외의 가치는 중요하지 않다.
동물은 자신이 처한 환경 속에서 생존충동에 따라 죽기 전까지 삶을 연장한다. 반면 인간은 자신이 추구하는 의미를 위해 살아가고, 그 의미를 실현하기 위한 터를 찾으며 미래를 향해 행위한다. 즉 인간은 단순히 생존하거나 작동하는 존재가 아니라 삶에 대해 고민하면서 미래를 지향하는 존재이다. 우리(인간)는 각자가 원하는 바와 삶의 의미가 분명하다면 힘든 일이 닥쳐도 견뎌내는 힘을 발휘한다. 그러나 삶의 의미가 불분명하다면 아무리 풍요롭고 좋은 생존 조건에 있어도 무기력한 모습을 보이거나 극단적인 선택을 하기도 한다. 이는 생존하기에 좋은 조건만 있으면 그 조건에 최적화된 충동적 행동으로 생존하는 동물과 비교되는 인간의 독특한 존재방식이다. 인간에게 생존은 필수적이지만 생존이 인간을 살게 하는 최우선의 방식은 아니다. 때로는 생존의 위험을 감수하고 안온을 포기하며 자신이 추구하는 삶의 의미나 가치를 향해 살아간다. 그렇기에 인간은 생존에 최적화된 환경이 아닌 자신이 선택한 풍경 속에서 서식이 아닌 처신하는 방식으로 살아가며, 자신이 놓인 조건에 스스로 택한 태도를 취하며 삶의 의미를 만들어간다.
이제까지 한 이야기를 정리해보자. 물체는 중력과 같은 외부 압력이나 질량 분포에 의해 운동하거나 정지하기 때문에 공간에 존재한다. 기계는 목적에 맞게 설계된 부품들이 체계적 작동하며 공장에서만 기계로 존재한다. AI는 무한에 가까운 반복 함수 연산에 따른 예측, 분류, 군집 및 시뮬레이션 작업을 하며 따라서 N차원 좌표계에 존재한다. 동물은 생존하기 위해 생존 충동에 따른 행동을 하며 주어진 수명까지 환경에 서식한다. 이에 반해 인간은 실존한다. 실존이란 의미를 추구하며 미래를 향해 살아가는 존재방식이다.

4. 미래 인간과 AI의 관계는 어떻게 설계되어야 하는가?
인간은 삶의 의미를 탐구하며 미래를 향해 실존하는 존재이다. 따라서 인간의 삶을 살아가기 위한 필수적 행위인 일(work)도 생존 충동에 의한 행동이 아니라 의미를 추구하는 실존 활동이다. 인간은 항상 미래를 향해서 삶을 살아가며 일은 이렇게 미래를 향해 사는 인간 삶을 실질적으로 실현시키는 활동이다. 그리고 인간은 일을 통해 삶의 의미와 지혜를 터득하고 체득한다. 따라서 일은 의미가 충만한 삶, 즉 well-being의 조건이 된다. 일은 인간 삶이 의미와 가치를 가지는 필수 조건이다. 그렇기 때문에 인간에게 일은 결코 포기될 수 없는 인권에 속한다. 이렇게 인간이 일을 하면서 사는 이유와 목적 그리고 방식은 기계의 작동, 동물의 본능적 생존 행동, AI의 여러가지 함수 모델링을 통한 파라미터의 최적화과정과는 다른 것이다.
현재 AI는 지능 증강을 목적으로 인간의 노동을 효율성 측면에서 능가하는 완전자동화를 향해 급속히 발전하고 있다. 완전자동화는 공장을 무인화하는 혁신이다. 하지만 미래 AI와 인간이 바람직한 관계를 가지기 위해서는 무인화보다는 실존하는 인간 활동으로서 일하는 인간을 배려하고, 인간들 사이의 소통과 이익 조정 등 사회적 관계를 융화 시키는 데 집중해야 할 것이다. 그런데 일은 삶의 의미를 터득해가는 인간의 실존활동이지만, 일과 인간이 잘못 관계를 맺어버리면 노역이 된다. 이 대표적인 사례가 과거의 노예들의 일이다. 따라서 인간과 일이 올바른 관계를 맺고, 조화를 이루도록 조력자 역할을 하는 것이 AI가 수행하는 기능이 되어야 한다. 즉, 인간의 일을 완전히 대체하는 로봇보다는, 인간의 일이 너무 과도하여 ‘노역’이 되는 상황을 방지하기 위해 조력자의 역할을 하는 협력 로봇, 즉 ‘Cobot’이 개발되어야 할 것이다.
나아가 로봇 혹은 AI는 인간과 인간의 관계를 대체해서는 안 될 것이다. AI는 실존하는 인간들이 서로 소통하고, 배려하며, 사회적 관계를 맺을 여지를 여는 방식으로 개발되어야 한다. 그렇지 않을 경우 인간이 배려, 존중 등의 윤리적 덕목을 몸소 터득하여, 실천할 기회를 박탈당하게 된다. 올해 초 사회적 물의를 일으킨 ‘이루다’ 사태가 좋은 교훈이다. 이루다 사태는 AI가 인간 간의 관계를 대체하려고 할 때, 어떤 변태적인 사회적 관계가 출현할 수 있는지에 대한 사전 경고 였다. 이러한 교훈을 현명하게 반영할 수 있는 AI는 과연 어떤 패러다임을 따라야 할까? 딥러닝일까 아니면 새로운 AI의 패러다임이 개발되어야 할까? 이에 대한 한국AI 연구자들의 과감한 시도를 기대해 본다.