딥페이크 사건에 온 나라 발칵…"호들갑 지겹다" 충격 반응
입력
수정
여성들의 얼굴에 음란물을 합성한 '딥페이크' 영상물이 제작, 유포되는 범죄로 전국의 학교가 발칵 뒤집힌 가운데, 몇몇 학생들이 '성범죄 불감증'을 보여 "심각하게 우려된다"는 반응이 나오고 있다.
26일 한경닷컴 취재 결과 최근 텔레그램에서 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 다수 파악됐다. 앞서 서울대와 인하대 재학생, 졸업생이 타깃이 된 단체 대화방 운영자 등이 검거됐는데, 이들 외에도 전국의 각 지역·학교별로 세분된 텔레그램 대화방이 다수 존재했다는 사실이 드러났다.온라인 커뮤니티와 사회관계망서비스(SNS)를 중심으로 떠돌고 있는 '피해 학교 명단'은 100곳이 넘는다. 실제로 피해 사례가 있었는지 모두 파악이 되진 않았지만, 명단에 오른 학생들을 중심으로 "나도 피해자가 된 게 아니냐"는 공포심이 확산되고 있다. 자신의 얼굴이 담긴 SNS 계정을 비공개로 설정하고, 사진을 내려야 한다는 조언도 공유되고 있다. 가해자들은 주로 인스타그램 등 SNS에 올라온 사진을 무단 도용해 범행에 활용하기 때문이다.이 상황에서 일각에서는 "호들갑 지겹다", "딥페이크도 노동인데, 네 얼굴로는 안 한다" 등 성범죄를 가볍게 여기는 분위기가 포착돼 논란이 심화하는 양상이다. 학교 인증을 해야만 활동할 수 있는 대학생 커뮤니티 에브리타임에 몇몇 학생들이 "너희는 걱정할 일 자체가 없지 않냐", "불안에 떨고 있는 여성 80%는 안심하고 발 뻗고 자도 된다. 너 정도 급히 아니야", "AI면 진짜 내 몸도 아니잖아" 등의 반응이 포착돼 논란이 되고 있다.
심지어 한 학생은 "지금 불안해서 텔레방 지울까 고민하는 애들 필독"이라며 "겹지방(겹지인방) 공론화되고 잡힐까 봐 고민하는 애들 많을 텐데, 딱 알려주겠다"면서 가해자들에게 행동 지침을 전하는 글을 게재해 문제가 되고 있다. '겹지방'은 참가자들이 서로 같이 아는 특정 여성의 정보를 공유하고 딥페이크 영상물을 제작·유포하는 등의 방식으로 성희롱하는 단체 대화방이다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 '딥페이크 범죄 현황'에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 특히 10대 시절부터 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고, 제작 의뢰도 어렵지 않아 이를 자주 접하게 되면서 딥페이크 음란물이 범죄라는 인식이 옅어졌다는 지적도 있다. 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건됐다.
방송통신심의위원회(방심위)도 텔레그램 단체 대화방을 중심으로 확산한 딥페이크 성적 허위영상물 관련 대응에 나섰다. 방심위는 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사의뢰하기로 했다. 매일 열리는 전자심의를 통해 성적 허위영상물을 24시간 이내에 시정 요구하겠다고도 했다.
방심위는 지난 7월까지 6434건의 성적 허위영상물에 시정요구 결정을 내렸는데, 이는 지난해 한 해 동안 방심위가 성적 허위영상물에 내린 시정요구 7187건의 90%에 달한다.가해자들은 텔레그램의 폐쇄성에 기대하는 눈치다. 텔레그램은 다른 SNS에 비해 더 높은 보안성과 익명성을 특징으로 한다. 이 때문에 조주빈의 'N번방' 등 유해 콘텐츠의 온상이 되고 있다는 지적이다. 수사기관이 신고나 제보를 받고 수사에 착수해도 손쉽게 채널에 업로드된 영상물과 활동 내용도 삭제할 수 있는 점도 수사의 장애 요인이다.
이 같은 문제로 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 24일(현지시간) 프랑스에서 체포됐다. 두로프는 텔레그램이 범죄에 악용되는 것을 막기 위한 조치를 하지 않은 혐의를 받는 것으로 알려졌다.
'N번방' 사건을 처음 공론화한 '추적단 불꽃' 출신인 더불어민주당 박지현 전 비상대책위원장은 이날 자신의 SNS에 "국가적 재난 상황임을 선포하고 시급히 대안을 마련하라"며 "텔레그램이 N번방 사건 때처럼 가해자들의 신상 협조에 수사를 거부한다면 최소한 일시적으로 텔레그램을 국내에서 차단하는 조치라도 해야 한다"고 제안했다.
김소연 한경닷컴 기자 sue123@hankyung.com
26일 한경닷컴 취재 결과 최근 텔레그램에서 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 다수 파악됐다. 앞서 서울대와 인하대 재학생, 졸업생이 타깃이 된 단체 대화방 운영자 등이 검거됐는데, 이들 외에도 전국의 각 지역·학교별로 세분된 텔레그램 대화방이 다수 존재했다는 사실이 드러났다.온라인 커뮤니티와 사회관계망서비스(SNS)를 중심으로 떠돌고 있는 '피해 학교 명단'은 100곳이 넘는다. 실제로 피해 사례가 있었는지 모두 파악이 되진 않았지만, 명단에 오른 학생들을 중심으로 "나도 피해자가 된 게 아니냐"는 공포심이 확산되고 있다. 자신의 얼굴이 담긴 SNS 계정을 비공개로 설정하고, 사진을 내려야 한다는 조언도 공유되고 있다. 가해자들은 주로 인스타그램 등 SNS에 올라온 사진을 무단 도용해 범행에 활용하기 때문이다.이 상황에서 일각에서는 "호들갑 지겹다", "딥페이크도 노동인데, 네 얼굴로는 안 한다" 등 성범죄를 가볍게 여기는 분위기가 포착돼 논란이 심화하는 양상이다. 학교 인증을 해야만 활동할 수 있는 대학생 커뮤니티 에브리타임에 몇몇 학생들이 "너희는 걱정할 일 자체가 없지 않냐", "불안에 떨고 있는 여성 80%는 안심하고 발 뻗고 자도 된다. 너 정도 급히 아니야", "AI면 진짜 내 몸도 아니잖아" 등의 반응이 포착돼 논란이 되고 있다.
심지어 한 학생은 "지금 불안해서 텔레방 지울까 고민하는 애들 필독"이라며 "겹지방(겹지인방) 공론화되고 잡힐까 봐 고민하는 애들 많을 텐데, 딱 알려주겠다"면서 가해자들에게 행동 지침을 전하는 글을 게재해 문제가 되고 있다. '겹지방'은 참가자들이 서로 같이 아는 특정 여성의 정보를 공유하고 딥페이크 영상물을 제작·유포하는 등의 방식으로 성희롱하는 단체 대화방이다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 '딥페이크 범죄 현황'에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 특히 10대 시절부터 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고, 제작 의뢰도 어렵지 않아 이를 자주 접하게 되면서 딥페이크 음란물이 범죄라는 인식이 옅어졌다는 지적도 있다. 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건됐다.
방송통신심의위원회(방심위)도 텔레그램 단체 대화방을 중심으로 확산한 딥페이크 성적 허위영상물 관련 대응에 나섰다. 방심위는 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사의뢰하기로 했다. 매일 열리는 전자심의를 통해 성적 허위영상물을 24시간 이내에 시정 요구하겠다고도 했다.
방심위는 지난 7월까지 6434건의 성적 허위영상물에 시정요구 결정을 내렸는데, 이는 지난해 한 해 동안 방심위가 성적 허위영상물에 내린 시정요구 7187건의 90%에 달한다.가해자들은 텔레그램의 폐쇄성에 기대하는 눈치다. 텔레그램은 다른 SNS에 비해 더 높은 보안성과 익명성을 특징으로 한다. 이 때문에 조주빈의 'N번방' 등 유해 콘텐츠의 온상이 되고 있다는 지적이다. 수사기관이 신고나 제보를 받고 수사에 착수해도 손쉽게 채널에 업로드된 영상물과 활동 내용도 삭제할 수 있는 점도 수사의 장애 요인이다.
이 같은 문제로 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 24일(현지시간) 프랑스에서 체포됐다. 두로프는 텔레그램이 범죄에 악용되는 것을 막기 위한 조치를 하지 않은 혐의를 받는 것으로 알려졌다.
'N번방' 사건을 처음 공론화한 '추적단 불꽃' 출신인 더불어민주당 박지현 전 비상대책위원장은 이날 자신의 SNS에 "국가적 재난 상황임을 선포하고 시급히 대안을 마련하라"며 "텔레그램이 N번방 사건 때처럼 가해자들의 신상 협조에 수사를 거부한다면 최소한 일시적으로 텔레그램을 국내에서 차단하는 조치라도 해야 한다"고 제안했다.
김소연 한경닷컴 기자 sue123@hankyung.com