눈에는 눈, AI에는 AI…'딥페이크 저격수' 뜬다

생성 인공지능(AI) 기술을 활용한 이미지 합성 기술인 딥페이크가 AI의 전쟁터가 됐다. 딥페이크를 활용한 음란물과 가짜뉴스가 범람하자 딥페이크 콘텐츠를 검출하려는 기술 업체와 가짜 콘텐츠의 사실성을 높이려는 기술 업체 간의 머리싸움이 치열해지고 있다. AI가 그럴듯한...

2024.08.30 17:51

'딥페이크' 보도한 기자 합성방까지…"입을 막는 폭력" 분노

지인의 얼굴 등을 나체 사진·영상에 합성하는 딥페이크(인공지능 기반 이미지 합성) 범죄가 이를 취재하고 보도하는 언론인까지 향하면서 즉각적인 수사와 처벌법 강화를 요구하는 목소리가커지고 있다. 한국여성기자협회(회장 하임숙)는 "여성 기자를 겨냥한 ...

2024.08.30 17:46

딥페이크 성범죄 영상 보기만 해도 처벌…위장 수사도 확대

정부가 딥페이크(AI로 만든 진짜 같은 가짜 콘텐츠) 성범죄 영상을 시청만 해도 처벌하는 규정을 신설하기로 했다. 아동·청소년 대상 디지털 성범죄 수사에만 허용된 신분 위장 수사를 성인 대상 성범죄로 확대할 계획이다.정부는 30일 정부서울청사에서 김종문 국...

2024.08.30 17:07

'딥페이크 예방' 경찰 포스터에 그 손가락?…성별혐오 논란

경찰이 제작한 딥페이크 범죄 예방 홍보 포스터에 성별 혐오 논란이 불거진 손가락 모양이 삽입됐다. 더불어 법무부의 '성폭력·성희롱 간행물 제작 가이드라인'도 지켜지지 않았다는 지적이다.30일 경찰에 따르면 광주 남부경찰서는 지난 27일 딥페이...

2024.08.30 10:40

당정이 딥페이크에 칼 빼들자…사이버보안 테마 '들썩'

정부와 여당이 처벌 강화에 나설 정도로 딥페이크 성범죄의 심각성이 부각되면서 사이버 보안 관련 종목들이 급등락하고 있다.30일 오전 9시25분 현재 라온시큐어는 전일 대ㅑ비 495원(23.68%) 오른 2585원에, 샌즐배은 1000원(10.91%) 상승한 1만170원...

2024.08.30 09:32

韓, 딥페이크 음란물 취약국 1위…WSJ 보도

최근 여성의 얼굴에 음란물을 합성·유포하는 '딥페이크 성범죄' 확산으로 정부가 집중 단속에 나선 가운데, 전세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국 연예인이라는 해외 보안업체의 조사 결과가 나와 눈길을 끈다. 28일...

2024.08.30 00:15

유명 걸그룹 멤버가 성생활 인터뷰?…실체 알고 보니 '발칵'

세계적으로 이름을 알린 유명 걸그룹 멤버가 자신의 성생활을 주제로 인터뷰를 진행한 영상이 지금도 어렵지 않게 눈에 띈다. 딥페이크 기술로 만든 허위 영상이다. 이 영상은 수준 높은 완성도를 자랑한다. 실제로 해당 멤버가 자신의 성적 취향을 털어놓은 것처럼 보일 정도다....

2024.08.29 19:51

딥페이크 이어 딥보이스 공포…이젠 목소리까지 훔친다

지난해 제주도에서 음성 변조 앱을 이용해 피해자를 속이고 돈을 갈취한 범인이 체포됐다. 이 범죄자는 일본인 가수, 소속사 팀장, 다른 동료 가수 등으로 행세하며 피해자에게 57차례에 걸쳐 약 1600만원을 뜯어냈다. ○10대 AI 범죄가 늘어난 이유29일 업계...

2024.08.29 17:56

"딥페이크 성범죄 징역 5년→7년 추진…텔레그램과 핫라인 구축"

사람 얼굴을 음란물에 합성해 유포하는 딥페이크 성범죄의 형사 처벌이 강화된다. 특히 청소년을 중심으로 딥페이크 성범죄가 확산하자 형사 처벌에서 비켜난 촉법소년의 기준을 낮추는 방안이 논의될 것으로 전망된다. 딥페이크 음란물의 유통 경로가 되고 있는 메신저 텔레그램의 운영사와 정부 간 ‘핫라인’도 구축될 계획이다.국민의힘은 29일 국회에...

2024.08.29 17:53

'딥페이크' 전국교직원노조 성범죄 실태 기자회견

전국교직원노동조합 관계자들이 29일 오전 서울 종로구 정부서울청사 앞에서 학교 불법합성물(딥페이크) 성범죄 실태조사 결과 발표 기자회견을 하고 있다. 김범준 기자 bjk07@hankyung.com

2024.08.29 15:19

국조실, 딥페이크 성범죄 대응 TF 설치…내일 첫 회의

정부가 딥페이크 성범죄에 대응하기 위한 컨트롤 타워를 국무조정실에 설치하고 오는 30일 첫 회의를 한다.29일 정부 부처에 따르면 국조실은 30일부터 딥페이크 성범죄 관련 범정부 대응 태스크포스(TF)를 본격적으로 운영할 계획이다. TF는 김종문 국무1차장이 이끌 예정...

2024.08.29 15:01

딥페이크 범죄 팔 걷은 당정 "허위 영상물 형량 7년으로 강화"

당정은 딥페이크(불법 합성물 제작) 성범죄에 대응하기 위해 국무조정실에 '컨트롤 타워' 설치를 검토하기로 했다. 허위 영상물 처벌을 강화하고 주요 유포처인 텔레그램측과도 자율 규제를 위한 핫라인 확보를 추진하기로 했다.김상훈 국민의힘 정책위의장은 29일 ...

2024.08.29 10:02

한동훈 "딥페이크 범죄, 집중 해결할 문제"…與, 신속 입법 추진

불특정 다수 여성 얼굴에 음란물을 합성하는 '딥페이크' 성범죄물이 텔레그램을 중심으로 유포된 사실이 알려져 충격을 준 가운데, 국민의힘 지도부는 29일 정부 관계 부처로부터 딥페이크 성범죄 관련 긴급 현안 보고를 받았다.한동훈 국민의힘 대표는 이날 국회에...

2024.08.29 08:44

"빨리 지워주세요"…고3 딸 영상 본 엄마 '절규' [이슈+]

"딸이 고등학교 3학년인데 딥페이크 성 착취물 피해를 본 것 같아요. 수능이 두 달 남았는데 걱정이 큽니다. 최대한 빨리 피해 여부를 파악하고 삭제 조치해주세요." (딥페이크 피해자 자녀를 둔 50대 여성)최근 텔레그램을 기반으로 불특정 다수 여성 얼굴에 음란물을 합성...

2024.08.29 06:37

"1장에 2000원, 어차피 안 걸려"…딥페이크에 전국 '발칵' [이슈+]

딥페이크 성범죄물이 텔레그램을 중심으로 유포된 사실이 알려지면서, 서울시의 한 여자고등학교는 학생들의 사진이 담겨있던 학교 공식 사회관계망서비스(SNS) 계정을 당분간 폐쇄하기로 결정했다.해당 학교 교사들은 학생들에게 "당분간이라도 가급적 인스타그램 사진을 내리거나 비...

2024.08.28 20:00

'SNS 악의 축' 손발 묶자…전쟁·외교·코인판까지 요동

“텔레그램은 아동 성 착취물 생태계의 핵심 요소.”(알렉스 스테이모스 전 메타 정보보안 책임자) “검열하지 않았다는 이유로 법적 조치를 취하는 건 레드라인을 넘은 것.”(크리스 파블롭스키 럼블 최고경영자)프랑스 경찰의 파벨 두...

2024.08.28 17:47

학교 덮친 '딥페이크'…TF 꾸려 전방위 대응

최근 ‘딥페이크’ 기술을 활용해 음란물에 여성 얼굴을 합성하는 범죄가 확산 중인 가운데 학교 내 피해 사례가 올해에만 200건에 이른 것으로 나타났다. 교육부는 긴급 태스크포스(TF)를 구성하고 관계부처 대책회의를 통해 딥페이크 대응 후속조치를 마련하기로 했다. ○학생·교원 피해 올해만 ‘196건&rsq...

2024.08.28 17:46

'서울대 N번방' 딥페이크 제작 공범 징역 5년…법원 "역겨워"

서울대 여학생을 대상으로 딥페이크 합성 음란물을 만들어 유포한 이른바 ‘서울대 N번방’ 사건의 공범이 징역 5년을 선고받았다.28일 서울중앙지법 형사14단독 김유랑 판사는 성폭력범죄의처벌등에관한특례법위반(카메라 등 이용 촬영) 등 혐의로 기소된 박...

2024.08.28 11:00

사이버보안주 동반 급등…정부, 딥페이크 대책 마련

정부가 딥페이크 활용 성범죄를 근절하기 위한 강력 대책 마련에 착수했다는 소식 이후 사이버보안 관련주들이 동반 급등세다. 28일 오전 9시31분 현재 씨유박스 주가는 전 거래일 대비 5.05%(245원) 오른 5100원에 거래되고 있다. 씨유박스는 얼굴 인식 ...

2024.08.28 09:49

"학생들 두려움에 떨고 있어"…한동훈, 고3 손편지 공개

한동훈 국민의힘 대표가 고등학교 3학년생이 '딥페이크' 성범죄에 대한 대책 마련을 촉구하며 써서 보내온 손 편지를 공개했다. 한 대표는 지난 27일 페이스북에 국민의힘 전남도당 청소년특별위원회에서 활동하고 있는 한 고등학교 3학년생의 손 편지를 찍어 올렸...

2024.08.28 08:43