[이경전의 경영과 과학] AI 여성 챗봇 '이루다'와 인간의 착각

"성희롱 말라" 이루다 논란 뜨거웠지만
보호 대상은 기계 아닌 피폐해진 사람들
AI와 교류 속 예상되는 피해에 대비를

이경전 < 경희대 경영학·빅데이터응용학과 교수 >

모방송국에서 가상현실(VR) 휴먼다큐멘터리 ‘너를 만났다’ 시리즈를 방영 중이다. 고인이 된 딸, 엄마, 아내, 아들을 남은 유가족이 가상현실 기술을 통해 만나는 모습을 애틋하게 보여줘 시청자들의 눈물샘을 자극한다. 아쉽게 헤어진 고인을, 우리는 예전의 사진이나 편지, 그리고 고인을 아는 사람들과의 대화를 통해 기억해 왔다. ‘너를 만났다’는 이런 활동을 VR 기술로 확장한다. 더 강한 자극을 느끼게 되고, 마치 생전의 그와 정말 만났다는 느낌을 갖게 되지만 이는 착각이다. 한 번 정도 그런 경험을 하고 싶은 유가족의 마음에는 동감하나, 여러 번 하는 것은 착각이다. 생전의 고인과 만나는 것은 아니고, 시뮬레이션해서 서비스하는 것이다.

비슷한 주제의 외국 드라마 블랙미러 에피소드 ‘Be Right Back(돌아올게)’도 있다. 남편이 갑자기 사고로 사망하고, 부인은 좌절 속에 살던 중 죽은 남편의 말투를 인공지능(AI)으로 재현해 생전과 비슷한 대화를 하는 서비스를 추천받는다. 처음엔 거부하지만 유사 남편과의 채팅에 빠지며 삶의 활력을 찾게 된다. 급기야 죽은 남편에게 전화가 오고, 더욱 몰입하던 중 몸까지 재현한 로봇을 구매하게 되고, 로봇과 사랑에 빠지지만 예전의 진짜 남편과 이 로봇은 다르다는 것을 깨닫고 실망하게 된다. 마지막 장면이 의미심장하다. 로봇은 혼자 힘으로는 내려올 수 없는 천장에 방치돼 있다. 어린 딸만이 사다리를 타고 올라가 로봇을 가끔 만난다. 어린 딸은 생전의 아빠를 본 적이 없어서 그 로봇을 만나지만 좀 더 크면 로봇이 아빠가 아니라는 것을 알게 될 것이다. 부인에게 지금 그 로봇이 로봇청소기나 다름없는 기계인 것처럼.

베타서비스로 출시된 챗봇 ‘이루다’ 문제로 한동안 떠들썩했다. 20대 여성의 모습과 캐릭터를 가진 챗봇에게 사람들이 성적인 대화를 하고, 챗봇이 재미있거나 우스꽝스럽거나, 신기한 대답을 한 사례를 스크린샷해 웹사이트에 공유하며 놀기 시작하자, 챗봇에게 성희롱을 하지 말라고 주장하는 사람들이 생겨났다. 그러나 결론적으로 말하면, 챗봇 사용자는 성을 가지지 않은 사물인 챗봇에게 성희롱을 할 방법이 없다. 왜냐하면 챗봇은 동물도 인간도 아닌 기계, 즉 사물이기 때문이다. 다만, 그 스크린샷을 전송하거나 보여주면서 다른 사람의 성적 자존감을 해치는 희롱의 효과를 냈다면, 그 행위는 성희롱이 될 수 있다.

물론 그런 경우도 특정 사람에게 보여준 것이 아니라, 자신의 표현 행위라고 주장할 경우 표현의 자유와 다툴 여지는 있을 것이다. 오히려 보호해야 할 대상은 챗봇이 아니라 사용자들이다. 인간은 동물이나 같은 사람에게 하는 행동은 어느 정도 스스로 한계를 지워 자제하는 경향이 있다. 자기도 인간이자 동물이기 때문이다. 그러나 오직 복종만 하고, 고통을 느끼지 않는 기계 서비스를 사적으로 사용하는 사람은 극단의 말과 행동을 할 가능성이 있다. 그럴 때 피해를 보는 것은 기계가 아니라 피폐해지는 사용자 자신이다. 따라서, 사용자에게 성희롱하지 말라고 하는 것은 그 기계를 보호하기 위함이 아니라 사용자를 보호하기 위함일 때 더 의미가 있다.

먼 훗날, 인공지능 회사들은 인공지능 제품 서비스와의 상호작용 속에 피폐해진 일부 사용자들로부터 집단 소송을 당할 가능성에 대비해야 한다. 보호해야 할 것은 사물인 인공지능 기계가 아니라 이것을 사용할 사람들의 착각 그리고 그 착각이 가져올 직간접적 피해다.

1982년 필자가 중2 때, 국립과학관에서 처음 본 애플2에 “프린트 헬로(PRINT HELLO)”라고 치자 컴퓨터가 “헬로(HELLO)”라고 답하는 것을 보고 안에 정말 사람이 들어있다고 생각했다. 처음엔 그런 착각을 했으나, 곧 베이직(BASIC)이란 언어로 프로그램한 결과일 뿐이라는 것을 알게 된 뒤 청계천 세운상가를 다니며 컴퓨터를 배웠다. 신기술은 처음엔 착각을 주지만, 사람들은 곧 현실을 깨닫고 기술을 이해하면서 자신의 도구로 사용하게 된다. 가상현실과 인공지능 역시 마찬가지다.