"너무 끔찍한 일"…테일러 스위프트도 당했다

음란 딥페이크 SNS서 확산

테일러 스위프트의 '에라스 투어' 공연 현장 /AP

팝스타 테일러 스위프트의 얼굴을 합성한 음란 딥페이크(가짜영상 및 이미지)가 개인사회관계망서비스(SNS)에서 급속도로 퍼지고 있다. 이 음란물은 인공지능(AI) 기술로 만들어진 것으로 추정돼 가짜 이미지 생성에 규제가 필요하다는 목소리가 높아지고 있다.

26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 성적으로 노골적인 자세가 합성된 딥페이크 이미지가 소셜미디어 엑스(X, 옛 트위터) 등에서 확산했다. 딥페이크란 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어다. AI 기술을 기반으로 만들어낸 가짜 이미지, 오디오, 비디오 등을 의미한다.

지금은 해당 이미지를 올린 소셜미디어 계정들이 정지돼 찾기 어려운 상태지만, 삭제 전까지 4700만회나 조회됐다. 이 이미지의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다.

X는 "확인된 모든 이미지를 적극적으로 삭제하고 해당 이미지를 게시한 계정에 대해 적절한 조처를 했다"고 밝혔다.

하지만 스위프트의 팬들은 해당 이미지 공유를 한동안 방치한 X에 분노하며 항의했다. 이들은 또 "테일러 스위프트를 보호하라"는 문장과 함께 관련 키워드를 더해 올리며 이미지 검색을 어렵게 만들기 위해 노력했다.

AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더 창립자인 벤 콜먼은 뉴욕타임스에 “스위프트 딥페이크 이미지가 AI 모델을 사용해 생성된 것으로 90% 확신한다”고 전했다.

이번 스위프트의 딥페이크 이미지를 계기로 AI를 이용한 가짜 이미지 생성에 강한 규제가 필요하다는 여론이 거세지고 있다고 워싱턴포스트는 전했다.

현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다.

지난해 딥페이크 이미지 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 이미지 확산을 두고 "끔찍하다"며 "이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다"고 소셜미디어에 썼다.

이송렬 한경닷컴 기자 yisr0203@hankyung.com