"이런 방법 있었어?"…女가수 음란 동영상, 5초 만에 '소름' [이슈+]

국내 사용자 대상 서비스 중인 불법 포르노 사이트에선 유명 여성 가수의 딥페이크 성범죄 영상물을 찾는 데 17초가량 걸렸다. 이름을 검색하자 수십여개에 달하는 딥페이크물이 쏟아져나왔다. 이처럼 텔레그램이 아니라도 딥페이크물 유통 경로는 천차만별이라는 지적이 나온다.이 ...

2024.09.06 14:05

텔레그램 창업자 폭발…"사용자의 범죄로 CEO 기소는 잘못"

텔레그램 창업자인 파벨 두로프 최고경영자(CEO)가 자신을 체포한 프랑스 당국을 향해 날을 세웠다. 플랫폼 사용자가 저지른 범죄로 운영사 대표를 기소하는 것은 잘못됐다는 것이다. 6일(현지시간) 로이터 통신에 따르면 두로프는 자신이 텔레그램 채널을 통해 "만약...

2024.09.06 09:44

딥페이크 성범죄 난리 났는데…텔레그램 이용자 역대 최대 '폭증'

딥페이크 성착취물 유포의 온상으로 지목된 모바일 메신저 플랫폼 텔레그램의 국내 이용자가 지난달 역대 최대 규모로 급증해 "노이즈 마케팅 효과"라는 분석이 나왔다.5일 앱 분석 서비스 모바일인덱스에 따르면 지난달 텔레그램의 월간 활성 이용자(MAU)는 347만1421명으...

2024.09.05 07:15

박규영도 당했다…'딥페이크' 최다 표적된 한국 스타들

연예계에서도 딥페이크 피해가 속출하고 있다. 소속사들은 강경 대응 방침을 알리며 선처는 없다고 경고하고 있다.배우 박규영의 소속사 사람엔터테인먼트는 지난 3일 공식 사회관계망서비스(SNS)를 통해 "최근 박규영 배우를 대상으로 딥페이크 제작물이 불법 제작 및 유포되는 ...

2024.09.04 09:32

"아들 성교육 이수증 좀"…'딥페이크' 가해자 부모의 황당 요청 [이슈+]

"대놓고 '우리 아들이 텔레그램 딥페이크 사태에 연루됐는데 성교육 이수증을 받을 수 있냐'고 물어보는 경우도 있었어요. 그럴 때는 단칼에 거절합니다." (40대 성교육 강사 김모 씨)텔레그램을 기반으로 불법 성 착취물을 제작하는 '딥페이크'...

2024.09.04 09:14

'여교사 2명 딥페이크' 끝 아니었다…남고생 만행에 '공분'

여교사 얼굴을 나체 사진과 합성해 유포한 고등학생이 학원 선배, 인플루언서 등을 상대로도 같은 범행을 저지른 것으로 드러났다. 3일 경찰 등에 따르면 인천 남동경찰서는 성폭력처벌법 위반 혐의로 입건한 10대 고교생 A군의 사회관계망서비스(SNS) 계정을 분석한...

2024.09.03 17:58

텔레그램, 성범죄 영상물 삭제…딥페이크 대응 물꼬 텄다

텔레그램이 방송통신심의위원회 요청에 따라 디지털 성범죄 영상물을 모두 삭제했다. 방심위는 3일 "텔레그램 측이 지난 1일 긴급 삭제 요청한 디지털 성범죄 영상물 25건을 모두 삭제했다"며 "사과의 뜻과 함께 신뢰 관계 구축 의사를 전해 왔다"고 밝혔다.&nbs...

2024.09.03 17:21

이수정 "n번방 몇 명 처벌하고 수사 마무리 한 게 실수"

이수정 경기대학교 범죄심리학과 교수가 최근 딥페이크 사태와 관련해 "'n번방' 가해자 몇 명을 엄벌하는 것으로 수사를 마무리한 게 실수"라고 지적했다.이 교수는 3일 오전 서울 여의도 국회의원회관에서 열린 '딥페이크 디지털성범죄 예방과 대응책 마련...

2024.09.03 15:33

딥페이크 성범죄 2만건 넘는데…경찰 수사인력 131명뿐

딥페이크 성범죄 등을 수사하는 전국 사이버성폭력 수사팀 인력이 131명에 불과한 것으로 나타났다. 3일 서미화 더불어민주당 의원실이 경찰청으로부터 제출받은 자료에 따르면 지난 6월 5일 기준 전국 18개 시도 경찰청 사이버성폭력 범죄 전담 수사팀은 26개팀, ...

2024.09.03 13:52

딥페이크 '가해女·피해男' 포스터 논란에…허은아 "잘 만들었다"

성폭력 피해 여성 등을 지원하는 기관에서 '딥페이크' 관련 상담 안내를 하면서 남학생을 피해자로, 여학생을 가해자로 묘사한 카드 뉴스를 제작해 3일 사과한 가운데, 개혁신당은 '잘 만든 포스터'라는 견해를 밝혔다. 허은아 개혁신당 ...

2024.09.03 12:31

딥페이크 가해자가 여학생?…여가부 측 결국 사과

여성가족부가 운영하는 여성폭력 상담 창구 '여성긴급전화1366'의 충남센터(이하 센터)가 '딥페이크' 관련 상담 안내를 하면서 남학생을 피해자로, 여학생을 가해자로 묘사한 카드 뉴스를 제작해 논란이 일었다. 센터 측은 "성 인지 감수성이 부...

2024.09.03 09:26

블랙핑크도 당했나…YG "부적절한 딥페이크, 모든 법적 조치 진행"

그룹 블랙핑크, 베이비몬스터 등이 소속된 YG엔터테인먼트가 딥페이크(AI 기반 합성) 영상물 문제에 대해 법적 대응을 예고했다.2일 YG엔터테인먼트 측은 "당사는 소속 아티스트들과 관련하여 부적절한 딥페이크 제작물이 제작 및 유포되고 있는 상황을 매우 엄중하게 인식하고...

2024.09.02 18:29

"텔레그램, 딥페이크 성범죄 방조 혐의"…경찰, 법인 내사 착수

경찰이 텔레그램 법인에 대한 성범죄 방조 혐의를 적용해 입건 전 조사(내사)에 착수했다.우종수 경찰청 국사수사본부장은 2일 정례 기자간담회에서 "프랑스에서 했듯이 서울경찰청이 텔레그램 법인에 대해 입건 전 조사에 착수했다"며 "혐의는 이번 범죄(허위영상물 등 범죄) 방...

2024.09.02 12:41

"아마 전 여친은 꿈에도 모를 걸"…비웃는 딥페이크 가해자들

정부가 딥페이크 성범죄에 대한 강력한 대응을 예고했지만, 가해자들은 "잡힐 리 없다"는 자신감을 보이며 자신들의 범죄 행각을 사회관계망서비스(SNS)와 온라인커뮤니티에 게시하는 모습까지 보이고 있다.텔레그램 딥페이크 성범죄가 수면위로 드러나면서 '딥페이...

2024.09.02 11:02

딥페이크 활용한 '영향력 공작' 대응…플랫폼 자율규제 강화

딥페이크(허위 합성 영상·사진물) 등 최신 기술을 활용한 적대 세력의 사이버 공간의 '영향력 공작'에 의한 국가 안보 훼손을 막고자 네이버와 유튜브 등 플랫폼 사업자들이 자율 규제를 강화하도록 하는 방안이 시행된다.신원식 국가안보실장은 1일 ...

2024.09.01 16:32

국가안보실, 딥페이크 대응 등 사이버안보기본계획 수립

최수진 한경닷컴 기자 naive@hankyung.com

2024.09.01 15:29

"이거 트와이스 아냐?"…딥페이크 영상에 JYP "강력 대응"

그룹 트와이스가 불법 딥페이크 영상물에 대한 강력 법적 대응을 예고했다. '딥페이크 성착취물'이 사회적 큰 논란으로 부상한 가운데 가요계까지 번지고 있는 모양새다.31일 가요계에 따르면 JYP엔터테인먼트는 전날 트와이스 공식 SNS를 통해 "당사...

2024.08.31 08:13

"그냥 올림픽보다 낫다"…'딥페이크' 제친 패럴림픽 인기 '후끈' [신현보의 딥데이터]

2024 파리 패럴림픽을 향한 관심이 뜨겁다. 최근 논란이 된 딥페이크(인공지능 기반 이미지 합성), 성범죄 혐의로 고소당해 그룹 NCT를 탈퇴한 가수 태일 등을 제치고 검색량 1위를 기록한 것이다. 딥페이크·태일 제친 패럴림픽 관심30일 검색량 ...

2024.08.31 07:00

눈에는 눈, AI에는 AI…'딥페이크 저격수' 뜬다

생성 인공지능(AI) 기술을 활용한 이미지 합성 기술인 딥페이크가 AI의 전쟁터가 됐다. 딥페이크를 활용한 음란물과 가짜뉴스가 범람하자 딥페이크 콘텐츠를 검출하려는 기술 업체와 가짜 콘텐츠의 사실성을 높이려는 기술 업체 간의 머리싸움이 치열해지고 있다. AI가 그럴듯한...

2024.08.30 17:51

'딥페이크' 보도한 기자 합성방까지…"입을 막는 폭력" 분노

지인의 얼굴 등을 나체 사진·영상에 합성하는 딥페이크(인공지능 기반 이미지 합성) 범죄가 이를 취재하고 보도하는 언론인까지 향하면서 즉각적인 수사와 처벌법 강화를 요구하는 목소리가커지고 있다. 한국여성기자협회(회장 하임숙)는 "여성 기자를 겨냥한 ...

2024.08.30 17:46