[단독] 도덕성 잃은 첨단IT, 국격마저 흔든다

AI 기술 악용한 연예인 '딥페이크' 음란물
한경, 취재 과정서 확인…경찰에 수사 의뢰

한국 정보기술(IT) 개발자들이 참여한 해외 사이트에서 K팝 스타들의 딥페이크 음란물 동영상을 조직적으로 제작·배포하고 있는 것으로 나타났다. 딥페이크는 인공지능(AI) 기술로 사진 동영상 등을 조작해 사람 얼굴 등을 바꿔치기 하는 것이다. 최근 모바일 메신저 텔레그램에서 성착취 불법 영상을 유포한 n번방 사건으로 국민적 공분이 커지는 가운데 또 다른 디지털 성범죄 현장이 나온 것이다.

29일 한국경제신문 취재 결과 세계 음란물 사이트, 텔레그램 비밀방 등에서 확산되고 있는 K팝 스타 딥페이크 음란물을 한국 IT 개발자들이 해외에 서버를 둔 A사이트에서 외국인들과 조직적으로 제작해 유통하고 있는 것으로 드러났다. 한국 아이돌의 딥페이크 음란물 제작 현장이 포착되기는 이번이 처음이다.

세계로 퍼지고 있는 K팝 스타의 딥페이크 영상은 대부분 이 사이트에서 제작된 것으로 알려졌다. 피해 한국인 연예인은 100명이 넘는다. 국내외 IT 개발자들이 A사이트에 모여 배포한 딥페이크 음란물은 3000여 개에 달한다. 이곳에서는 매일 수십 개씩 새로운 딥페이크 음란물이 제작돼 배포되고 있다. 온라인 비밀 커뮤니티에 모인 수십 명이 서로 정보를 공유하며 제작하고 있다. 한국경제신문은 사안의 중대성을 고려해 경찰에 관련 취재 내용을 제출하고 수사를 의뢰했다.

n번방 사건과 연예인 딥페이크 제작·유포는 첨단 IT를 활용한 디지털 범죄라는 공통점이 있다. n번방 사건에는 보안성이 강화된 메신저 텔레그램과 가상화폐가 활용됐고, 인류 발전에 기여할 것으로 여겨지던 AI는 딥페이크 영상 제작에 악용됐다. 갈수록 진화하는 IT가 범죄의 토양이 되고 있는 것이다. 잇달아 발생하는 디지털 성범죄 사건이 IT 발전 이면의 어두운 그림자를 드리우고 있는 것이다.

외신들도 n번방 관련 기사를 쏟아내고 있다. IT 발전 과정에서 나타나는 부작용이 한국에서 유독 두드러지면서 IT강국을 자부하는 대한민국의 국격마저 추락할 수 있다는 우려가 나온다.

AI 활용한 '딥페이크 프로그램' 활개…'가짜 야동' 조회 569만건 나온 K팝 가수도

지난 26일 이 사이트에 새로 제작돼 올라온 딥페이크 음란물 동영상 수는 51개에 달했다. 올해 들어 매일 40개 이상의 불법 동영상이 올라온 것으로 파악됐다. 한국 가수 C의 경우 27일 기준 가짜 영상은 201개, 총 누적 조회 수는 569만 회에 이른다.

동영상 대부분은 이 사이트 회원들이 공동으로 제작하고 있다. 딥페이크 영상 제작에 필요한 바꿔치기할 인물의 사진(페이스셋)과 원본 동영상을 회원들이 공유한다. 관련 데이터를 회원들이 함께 만든 딥페이크 프로그램에 적용하면 하루도 되지 않아 딥페이크 음란물 영상이 완성된다. 딥페이크 프로그램 구동에 필요한 서버도 이 사이트에서 관리하고 있다.

누가 이 사이트를 처음 개설했고, 불법 동영상을 제작하는지 알기는 어렵다. 하지만 이 사이트 회원들이 모인 온라인 비밀 커뮤니티에 잠입해 윤곽을 어느 정도 잡을 수 있었다. 이들은 게임 이용자가 주로 사용하는 온라인 메신저 ‘디스코드’에 모여 있다. 이 메신저의 비밀 커뮤니티에 가입한 회원 수는 29일 기준 1만4401명이다. 자신이 한국인이라고 표시한 회원만 1300명이 넘는다. 정보기술(IT)업계 관계자는 “IT 용어를 쓰는 대화 내용과 동영상 제작 수준으로 볼 때 AI에 익숙한 IT 개발자들이 딥페이크 영상을 만드는 것 같다”고 말했다. 이곳에서는 어떤 한국 여성 연예인으로 딥페이크 동영상을 새로 만들지 투표가 벌어지기도 한다.

27일 이곳 회원들은 자신들이 제작한 딥페이크 영상이 한국에 퍼지고 있다는 언론 보도를 공유하면서 대책을 마련하기도 했다. 딥페이크 영상 제작 커뮤니티의 운영자로 추정되는 ‘D**’은 “우리는 ‘n번방’과 전혀 상관이 없다”며 “오늘부터 홈페이지 주소를 공유하는 회원은 즉시 차단될 것”이라고 공지했다. ‘momos*****’라는 아이디를 사용하는 회원은 “그들(한국 정부)은 우리를 조사하는 데 시간을 쓰지는 않을 것”이라고 자신했다. 이들은 이후에도 새로운 딥페이크 영상을 계속 제작해 배포하고 있다.

인터넷 범죄의 온상이 된 다크웹(일반적인 인터넷 브라우저로는 접속할 수 없는 암호화된 인터넷망)에 접속하는 한국인 수는 2017년 4991명에서 올해 1만9030명으로 3년 새 281% 늘었다. 딥페이크 음란물과 n번방 사건은 단지 적발된 디지털 범죄 중 일부에 불과할 수 있다는 얘기다. 서울중앙지검 첨단범죄수사부 검사 출신인 구태언 법무법인 린 변호사는 “IT 발달로 불가피하게 발생하는 각종 부작용을 악용한 디지털 범죄가 한국에서 유독 심각하다”고 지적했다. 신경아 한림대 사회학과 교수는 “온라인에서는 사람들의 죄의식이 덜해 관련 범죄가 확산되고 있다”고 분석했다.

김주완/배태웅 기자 kjwan@hankyung.com