딥페이크로 음란물 광고에 등장한 엠마 왓슨/사진=음란물 광고 영상 캡처
딥페이크로 음란물 광고에 등장한 엠마 왓슨/사진=음란물 광고 영상 캡처
해외 유명 배우들의 얼굴이 딥페이크 기술로 음란광고에 이용되고 있다는 지적이 나왔다.

8일(미국) NBC 뉴스는 "인공지능 기술이 발전하면서 딥페이크를 이용해 유명 배우들의 얼굴로 합성된 음란 동영상이 사회관계망서비스(SNS)를 통해 퍼져나가고 있다"며 "지난 이틀 동안 배우 엠마 왓슨의 얼굴을 사용한 수백개의 음란물 딥페이크 광고가 페이스북과 인스타그램에 게재됐다"고 보도했다.

딥페이크(Deepfake)는 얼굴이나 소리를 조작하는 인공지능(AI) 기술 방식이다. 영상 속에는 엠마 왓슨으로 보이는 여성이 성적인 행위를 하는 것처럼 보이지만, 실제 엠마 왓슨이 아닌 딥페이크로 조작된 영상이었다.

NBC는 SNS에 등장한 앱 광고물 중 127개가 엠마 왓슨을 닮았고, 나머지 74개는 할리우드의 또 다른 배우 스칼렛 요한슨의 얼굴을 합성한 것이라고 집계했다. 그러면서 "실제로 이 앱을 이용해 딥페이크 기술을 적용해보니, 수 초 만에 뚝딱 얼굴을 바꿀 수 있다"고 지적했다.

딥페이크 기술이 악용돼 음란물을 만들 수 있다는 지적은 이전부터 이어왔다.
엠마 왓슨/사진=영화 '더 서클' 스틸
엠마 왓슨/사진=영화 '더 서클' 스틸
최근엔 그 기술이 더 정교해져 엠마 왓슨과 같은 유명인은 물론 인플루언서, 어린이를 포함한 모든 사람의 얼굴을 동의 없이 성적인 영상을 만드는 데 사용되고 있다. 온라인 합성 미디어 모니터링 회사인 딥트레이스의 2019년 보고서에 따르면 온라인 딥페이크 자료의 96%가 음란물이었다.

음란물뿐 아니라 누군가 악의적으로 개인의 삶을 곤경에 빠뜨릴 수 있다고 우려하고 있다.

저널리즘을 전공하고 있는 로렌 버튼은 자신의 트위터에 "(딥페이크 앱으로 조작된 영상이)누군가의 인생을 망칠 수도 있고, 곤경에 처할 수 있다"며 "앱을 사용하는 건 너무 쉽고, 무료다. 내 얼굴 사진을 업로드하기만 하면 50개의 무료 태블릿에 접근할 수 있었다"고 전했다.

문제는 이 앱이 최근에도 페이스북, 인스타그램 등 SNS를 통해 230개 이상의 광고를 했었다는 것. 이에 페이스북과 인스타그램을 운영하는 메타의 대변인은 "우리 정책은 AI에 의한 것이든, 그렇지 않은 것이든 간에 성인물을 금지하는 것"이라며 "우리는 이 페이지를 광고하지 못하게 했다"고 전했다.

해당 앱이 앱 스토어에서 발견된 것과 관련해 애플 측은 "딥페이크에 대한 구체적인 규정은 없지만, 음란물과 명예훼손 콘텐츠가 포함된 앱은 금지한다"면서 문의받은 이후 문제의 앱을 제거했다고 밝혔다.

구글 플레이는 문제의 앱의 등급을 올렸지만, 취재가 시작된 이후 앱을 삭제했다고 밝혔다.

김소연 한경닷컴 기자 sue123@hankyung.com