"너 맞지? ㅋㅋ" 충격 문자…10대들 딥페이크 음란물 '공포' [이슈+]

딥페이크 성착취물 사건 '일파만파'

사진=게티이미지 뱅크

“너 맞지 ㅋㅋㅋ?” (딥페이크 피해자 A양이 받은 메시지 내용)

서울의 한 고등학교에 재학 중인 A양(18)은 최근 한 개의 동영상과 이 같은 메시지를 받았다. A양의 얼굴을 나체와 합성해 만든 음란물이었다. A양이 신상을 묻자 익명의 사용자는 곧바로 연락을 끊었다.

A양은 "혹시라도 내 말을 믿어주지 않을까 봐 부모님, 경찰, 학교 어디에도 알리지 못하고 있다"고 토로했다. 그는 "불특정 지인이 본인 얼굴을 돌려봤을 수도 있다는 사실이 가장 힘들다"고 했다.

인공지능(AI) 딥페이크 기술을 이용한 불법 합성물 피해가 전국적으로 빠르게 확산하고 있다. 대학교 뿐 아니라 초·중·고교생 등 미성년자를 중심으로 피해가 확산하고 있는 것으로 알려졌다. 익명성을 무기로 온라인 상에서 확산하는 성범죄가 무차별적으로 퍼지고있는 셈이다. 학생들 사이에선 '나도 당했을지 모른다'는 공포감이 커지고 있다.

X(구 트위터)에서 확산되고 있는 피해자 학교 명단. 사진=온라인 갈무리

26일 엑스(X·구 트위터)와 각종 온라인 커뮤니티에는 ‘텔레그램 딥페이크 피해자 (학교)명단’이 확산하고 있다. 해당 명단에는 전국적으로 100여개가 넘는 피해 학생들의 학교가 게재돼 있는데, 대학 뿐 아니라 수십 개의 중·고등학교도 포함돼 있다. 한 학교당 피해자가 최소 수십 명에 달해 피해자 규모만 수천~수만 명에 이를 것으로 추정되고 있다.

이런 다수 대상 범죄는 익명 SNS인 텔레그램을 통해 확산하고 있다. 가해자들은 겹치는 지인을 뜻하는 ‘겹지인’방을 만든 후 딥페이크 물을 제작 의뢰하고, 공유하고 있는 것으로 파악됐다. 텔레그램 등 SNS를 통해 겹치는 지인을 찾고, 함께 나체 사진이나 음란물을 합성해 공유하는 식이다.

본지 취재에 따르면 가해자들은 ‘지역명-생년월일-소속 학교’ 등 정보를 공유한 게시물을 올린 후 겹치는 지인을 찾고 있다. 이후 딥페이크 제작을 위한 사진을 공유해 사진이나 영상을 만드는 것이다. 실제 ‘XX 겹지인방’이란 이름으로 개설된 ‘겹지인’방에 최근 몇 달 새 하루에도 수십~수백 개의 게시물이 올라오고 있다.

자신의 의지와 상관없이 범죄에 노출될 수 있는 탓에 '혹시 나도 당했을지 모른다'는 공포감도 커지고 있다. 중학생 B양(15)은 “텔레그램을 통한 딥페이크가 유행 중이라는 사실에 모든 SNS를 탈퇴했다”면서 “SNS를 비공개해도 기존에 올렸던 사진이나 영상으로 합성을 당하진 않을까 걱정된다”고 말했다.

중고등학생 남매를 자녀로 둔 학부모 김모 씨(42)는 “오늘 아침 아이들에게 온라인상에 올라와 있는 모든 사진을 지우라고 얘기했다”면서 “당분간 인스타그램이나 틱톡 등 SNS를 재가입하지 못하게 할 예정”이라고 했다.

특히 딥페이크 범죄는 ‘미성년자‘에 집중되고 있어 문제가 더욱 심각하다는 지적이다. 실제 최근 미성년자 딥페이크 범죄 피의자는 급증하고 있다. 조은희 국민의힘 의원실이 지난 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 매년 증가하고 있다. 허위 영상물 범죄 피의자를 연령별로 살펴보면 10대에 집중됐다. 지난해 기준 허위 영상물 범죄 피의자 120명 중 91명이 10대였다.

피해가 커지자 경찰도 촉각을 곤두세우고 있다. 김봉식 서울경찰청장은 이날 오전 서울 종로구 내자동 청사에서 열린 정례 기자간담회에서 “학생들은 물론이고 교사에 대한 (영상물)도 만들어서 확산하는 상황”이라며 “IT 기기에 익숙한 청소년 중심으로 확산해서 굉장히 우려스럽게 생각한다”고 밝혔다. 경찰에 따르면 올들어 지난달 말까지 서울에서 딥페이크 영상물과 관련해 검거된 청소년 피의자만 10명이다.

문제는 죄의식없이 겹지인방을 만들고, 해당 사진과 영상물을 불특정 다수에게 공유하는 가해자들이 한둘이 아니어서 무차별적으로 피해가 확산했다는 점이다. 최근 딥페이크 사건의 언론 보도 이후 특정 지역의 '겹지인방'은 폭파됐지만, 여전히 수십개의 방이 운영되고 있고, 영상물이 어디가지 퍼졌는지는 알 수 조차 없는 상황이다.

올초 ‘서울대 n번방’ 사건에 이어 인하대의 한 동아리 여학생들이 1200명이 참여한 텔레그램 대화방에서 불법 합성물 성범죄 피해를 당하기도 했다. 이후 미성년자 대상 사건이 이어지면서 딥페이크 사용을 막아야 한다는 여론도 확대될 전망이다. 경찰 관계자는 "돌고 있는 합성 영상물 대상이 아동일 경우 아동청소년성보호에관한법률 위반이고, 성인이 대상일 경우 성폭력범죄특례법 위반"이라며 "호기심에서라도 해당 영상을 전송받거나, 전송해선 안된다"고 설명했다.

일부 학교에선 딥페이크 피해 예방을 위해 자체 교육을 벌이는 것으로 알려졌다. 서울 한 중학교 교사는 “이날 아침 인성 방송 교육을 통해 혹시 모를 피해를 예방하기 위해 SNS에 올린 본인 사진을 내리고, 피해를 보면 망설이지 말고 학교에 도움 요청해달라고 교육했다”고 말했다.

방송통신심의위원회는 불법 합성물에 대해 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사의뢰하기로 했다.

안정훈 기자 ajh6321@hankyung.com