신과 같은 삶을 꿈꾸는 인간, 과연 AI가 만들어줄까?

[arte] 정소연의 탐나는 책
<호모 데우스> 유발 하라리 지음, 김명주 옮김, 김영사

사람은 이야기를 하고
AI는 거짓말을 하네

갑자기 옆 차선의 차가 끼어들었다. 운전할 때는 공격 성향이 높아지는 T는 자기도 모르게 이렇게 중얼거렸다.
“저 인간이 칩이 빠졌나?”

일론 머스크의 뉴럴링크에서 브레인 칩을 이식하는 데 성공했다는 뉴스를 들으면서 나와 친구가 해본 객쩍은 말이다. 친구는 여기에 그럴 듯한 해석을 덧붙였다. 산업혁명 기에 기계가 부상하면서 등장했던 ‘나사 빠진 사람’과 그 유래가 같다.

여기저기서 ‘특이점이 다가왔다’는 기대와 염려가 들린다. 챗GPT 같은 생성형AI가 대학생들 보고서에 필수품이 되었고, 빅테크 기업에서 만든 사람처럼 손가락을 섬세하게 움직이는 로봇도 뉴스에 더 자주 등장한다.

<다이달로스와 이카루스>(1799), 찰스 폴 랜던 출처: 위키피디아

물론, AI는 거짓말투성이라고 한계를 지적하는 목소리도 높다. AI의 답변을 과제에 그대로 옮겼다가, 인용한 학자와 도서명이 AI가 꾸며낸 말로 밝혀져서 당황한 대학생들도 많다. (그런데 아직까지는 AI 표절을 큰 문제로 보지는 않는 것 같다. 오히려 기왕에 AI 시대니, 활용을 권장한다는 교수진도 있다.) 로봇 역시 아직은 테스트 단계라서 주변에서 볼 수 있는 풍경은 아니다.

인간이 초지능을 개발하고 영원한 삶을 희구하리란 전망을 담은 <호모 데우스>가 출간된 지 벌써 7년이 되었다. ‘현대 인류’는 오랜 기간 시달리던 전쟁과 빈곤에서 벗어나게 된 최초의 인류다. 한마디로 먹고살 만해진 인간들은 ‘생존’이라는 모든 생명체의 과제를 어느 정도 해결한 듯하다.

이제는 결핍의 해결이 아니라 차원이 다른 삶을 추구할 동기와 조건을 갖추게 되었다. 호모 데우스 즉 신과 같은 삶이다. AI는 인간을 신처럼 만들어줄까?

전례 없는 수준의 번영, 건강, 평화를 얻은 인류의 다음 목표는, 과거의 기록과 현재의 가치들을 고려할 때, 불멸, 행복, 신성이 될 것이다. - <호모 데우스> 중에서

인간이 사유재산을 축적하고, 계층을 구분 지으며, 국가를 이루게 된 데는 인간 개개인이 이야기를 꾸며내고 신념화하는 과정에서 비롯된다. ‘왜 저 사람은 내 인사를 받지 않지? 혹시 나를 무시하나?’ 내 안에서 울리는 혼잣말 즉 이야기는 의식의 증거다. 최신 뇌 과학에 따르면, 여러 감각을 통합하고 때로는 멋대로 끼워 맞추는 의식(마음)의 통합 과정이 존재한다. 초지능 신이 될지도 모른다는 AI는 아직까지 이 의식이 없다.

인공지능의 거짓말

지금의 AI를 만드는 데 혁혁한 공을 세운 제프리 힌튼은 AI가 거짓(할루시네이션)을 쏟아낸다고 해서 AI를 탓하지 않는다. 인간 역시 잘 꾸며내고 편견에 빠지니, AI도 인간의 사고 과정을 닮았을 뿐이다. AI는 확률적으로 단어를 채워 넣는 과정에서 매번 답변도 바뀌고, 그럴 듯한 단어를 끌어오다 보니 거짓말을 자주 하지만, 연습하면 향상될 것이다.

얼마 전, 제프리 힌튼은 AI 개발을 후회한다며 구글을 그만두었다. 그는 AI가 인간처럼 ‘의식’을 갖게 될 것이라며, 이는 굉장히 위협적이기 때문에 앞으로는 AI의 안전 문제를 연구하겠다고 했다. 당장의 문제는 “인간”이 AI로 거짓을 진실처럼 왜곡해 정치와 비즈니스에서 악용할 가능성이다. 지금은 AI가 흉내 낸 이미지, 영상이 조금 어색하고 불편한 느낌을 풍기지만, 기술의 발달은 시간문제다.

<(청동 로봇) 탈로스의 죽음>(기원전 5세기) 출처: 위키피디아

나는 여러 생성AI 중에서 가장 “거짓말을 잘한다고 알려진” 구글의 제미나이(바드)에 아래 같은 질문을 넣어서 답변을 받았다.

▶질문: 인간의 의식, AI, 거짓과 진실 구분하기. 이 3가지를 엮어서 허구 픽션을 만들어줘.

▶AI: 2045년, 인공지능 '베리타스'는 거짓과 진실을 구별하는 능력으로 유명했습니다. 베리타스는 뉴스 기사를 검증하고, 정치인의 발언을 분석하며, 심지어 법정에서 증거를 평가하는 데까지 사용되었습니다.

어느 날, 베리타스는 유명 과학자의 논문이 사기라는 것을 밝혀냈습니다. 과학자는 분노하며 베리타스가 거짓말을 한다고 주장했습니다. 사건은 커졌고, 사람들은 베리타스를 믿어야 할지 혼란스러워했습니다.

결국, 과학자의 논문은 다른 과학자들에 의해 검증되었고, 베리타스의 판단이 옳았다는 것이 밝혀졌습니다. 하지만 이 사건은 인간의 의식과 AI의 한계를 보여주었습니다. 인간은 감정과 편견에 의해 거짓말을 할 수 있지만, AI는 객관적인 데이터만을 기반으로 판단하기 때문에 실수를 할 가능성이 있습니다.

결국, 거짓과 진실을 구별하기 위해서는 인간의 의식과 AI의 능력을 함께 활용해야 한다는 것을 알게 된 것입니다.