[단독] '가짜 야동' 덫에 걸린 K팝스타…'딥페이크 음란물 공장'서 매일 수십개씩 새로 배포

한국 아이돌 딥페이크 영상 제작 현장 적발
비밀 온라인 커뮤니티에서 조직적으로 만들어
국내외 IT 개발자들이 해외 서버에서 불법 영상 제작 추정

“good. B ver plz(좋네요. B 것도 만들어 주세요)”. 지난 10일 한국 가수 A의 얼굴을 합성한 불법 음란물 동영상이 한 딥페이크 사이트에 올라왔다. 이 사이트의 회원이 한국 가수 B를 대상으로 같은 동영상을 요청하자 5일 만에 얼굴이 B로 바뀐 영상이 배포되기 시작했다. 한국 가수 B의 딥페이크 음란물 영상은 해당 사이트에 올라온지 하루 만에 조회 수가 2000건이 넘었다.

국내외 인공지능(AI) 개발자들이 K팝 스타를 노린 딥페이크 음란물 동영상을 조직적으로 제작해 배포하고 있는 것으로 나타났다. 딥페이크는 AI로 사진, 동영상 등을 조작해 사람 얼굴 등을 바꿔치기하는 기술이다. 해당 딥페이크 음란물은 매일 수십개씩 새로 만들어져 특정 사이트에 공유됐다. 온라인 비밀 커뮤니티에 모인 수십명이 서로 독려하며 함께 제작했다. 인류의 발전에 기여할 것이라고 생각했던 인공지능(AI)이 악용되는 대표적인 사례다.

○매일 수십개씩 아이돌 가짜 '야동' 쏟아내

최근 국내외 음란물 사이트, 모바일 메신저 텔레그램 등에 한국 가수 딥페이크 음란물 영상이 퍼지면서 인권 침해 논란이 커지고 있었다. 네덜란드 디지털 보안업체 딥트레이스가 지난해 글로벌 음란물 딥페이크 상위 5개 사이트와 딥페이크 유튜브 상위 14개 채널 분석 결과 피해자의 25%가 한국인이었다. 대부분 한국 여성 연예인이다.

그동안 이런 동영상을 누가 어떻게 만드는지 알려지지 않았다. 한국경제신문이 한국인 대상 딥페이크 음란물을 제작하고 유통하는 곳을 찾아냈다. 세계로 퍼지고 있는 K팝 스타의 딥페이크 영상은 대부분 여기서 만들어진 것으로 알려졌다. 한국경제신문은 경찰에 관련 취재 내용을 제출하고, 수사를 의뢰했다.

지난 26일 이곳에 새로 제작돼 올라온 딥페이크 음란물 동영상 수는 하루에만 51개에 달했다. 올해 들어 매일 40개 이상의 불법 동영상이 올라오고 있다. 피해자인 한국인 연예인 수는 100여 명에 이른다. 일본과 중국 연예인 수는 10여 명 정도다. 현재 이곳에서 유통하고 있는 딥페이크 영상 수는 3000개가 넘는다. 한국 가수 C의 경우에는 27일 기준 201개에 달한다. 총 누적 조회 수는 569만회다. 이 곳에 처음 딥페이크 영상이 올라온 것은 2018년이다. 최근에 올라온 영상은 사이트에서 바로 확인할 수 있다. 배포된지 시간이 두 달 정도 지난 음란물을 보기 위해서는 돈을 지불해야 한다. 신용카드만 있으면 바로 결제가 된다.

○조직적으로 불법 영상 제작

동영상 대부분은 이 사이트 회원들이 공동으로 만들었다. 딥페이크 영상을 만드는 방법을 공유하기 위해 별도의 관련 정보 게시판을 운영하고 있다. 딥페이크 영상 제작에 필수인 바꿔치기 할 인물의 사진(페이스셋)도 회원들이 사이트에 계속 올렸다. 특히 이 사이트는 딥페이크 영상을 만드는 프로그램을 제공한다. 원본 동영상과 바꿔치기할 인물 사진을 사이트에 업로드하면 자동으로 딥페이크 영상이 생성된다. 이 과정을 실시간으로 보여주기도 한다. 작업 도중 문제가 발생하면 회원들은 서로 묻고 답하는 방식으로 해결했다.

이곳을 누가 처음 만들었고, 불법 동영상을 제작하는지 알기 어려웠다. 모두 익명으로 활동했기 때문이다. 하지만 이 사이트 회원들이 모인 온라인 비밀 커뮤니티에 잠입해 윤곽은 어느 정도 잡을 수 있었다. 이들은 게임 이용자들이 주로 사용하는 온라인 메신저인 디스코드에 모여 있었다. 이 메신저의 비밀 커뮤니티에 가입한 회원 수는 29일 기준 1만4401명이었다. 자신이 한국인이라고 표시한 회원의 수는 1300명이 넘었다.

○‘N번방 사건’에 보안 강화

동영상 제작에 필요한 대화는 주로 영어로 이뤄졌다. 한국인을 포함해 외국인도 불법 동영상 제작에 참여하고 있는 것으로 추정된다. 회원 대부분 한국 여자 연예인의 신상과 최신 근황 정보에 대해 잘 알고 있었다. 정보기술(IT) 업계 관계자는 “IT 용어를 쓰는 대화 내용과 동영상 제작 수준으로 보아 AI에 익숙한 IT 개발자들이 딥페이크 영상을 제작하는 것 같다”고 말했다. 여기서도 딥페이크 영상을 만들기 위한 정보를 공유했다. 어떤 한국 여성 연예인을 딥페이크 동영상으로 만들지 투표하기도 했다.

지난 27일 이곳 회원들은 자신들이 제작한 딥페이크 영상들이 한국에 퍼지고 있다는 언론 보도를 공유하면서 대책을 마련하기도 했다. 딥페이크 영상 제작 커뮤니티의 운영자로 추정되는 ‘D**’은 “우리는 ‘N번방’과 전혀 상관이 없다”며 “오늘부터 홈페이지 주소를 공유하는 회원은 즉시 차단될 것”이라고 공지했다. ‘momos*****’라는 아이디를 사용하는 회원은 “그들(한국 정부)은 우리를 조사하는데 시간을 쓰지는 않을 것이다”라고 자신했다. 이들은 이후에도 새로운 딥페이크 영상을 계속 만들어 배포했다. 공정식 경기대 범죄심리학과 교수는 “딥페이크 음란물은 암흑시장이 이미 상당히 형성된 것으로 보여진다”며 “앞으로 사법당국이 과감하게 수사하고 처벌해야 한다”고 지적했다.

김주완/배태웅 기자 kjwan@hankyung.com