/사진=게티이미지뱅크
/사진=게티이미지뱅크
인공지능(AI)을 활용한 얼굴 합성 기술인 딥페이크로 인한 범죄와 피해가 계속되자 이를 방지하고 피해자를 보호하는 법 제정 움직임이 빨라지고 있다.

3일 업계에 따르면 올해 딥페이크 범죄는 주로 미성년자 대상으로 일어났다. 지난달 30일 교육부가 발표한 '학교 딥페이크 허위 영상물 피해 현황 4차 조사 결과'를 보면 올해 초부터 지난달 27일까지 교내 딥페이크 허위 영상물 피해 학생이 799명에 달하는 것으로 나타났다. 여기에 교사 31명과 직원 3명을 포함하면 교내 딥페이크 피해자는 총 833명이다.

같은 기간 누적 피해 신고는 초등학교 16건, 중학교 209건, 고등학교 279건 등 총 504건에 달한다. 1차 조사 당시 접수된 신고는 196건, 2차 238건, 3차 32건, 4차 38건 추가됐다.

주 가해자·피해자 '미성년자' 가장 많아…촉법소년 다수 포함

사진은 기사와 관련 없음 /게티이미지뱅크
사진은 기사와 관련 없음 /게티이미지뱅크
미성년자 대상으로 일어난 딥페이크 범죄의 주 가해자도 같은 미성년자였다. 경찰청에 따르면 올해 1월1일부터 지난달 25일까지 전국 경찰에 접수된 딥페이크 성범죄 관련 사건은 총 812건, 피의자는 총 387명이다. 피의자 10명 중 8명은 10대, 2명은 촉법소년이었다.

범죄자들은 또래 학생뿐 아니라 연예인들 대상으로 딥페이크 성 착취물을 제작하기도 했다.

지난 9월 경기남부경찰서에 따르면 연예인 20여명의 딥페이크 성 착취물을 불특정다수에게 판매한 혐의로 피의자 3명이 입건됐다.

이들은 '합사방'(합성사진방)이라는 채널을 개설해 연예인이 성적 행위를 하는 내용의 딥페이크 성 착취물을 불특정 다수에게 판매한 혐의를 받았다. 이와 함께 이들에게 방 이용권을 구매한 24명을 검거했는데 검거된 구매자는 모두 10~20대였다.

딥페이크 범죄는 주로 텔레그램을 통해 발생했다. 텔레그램은 딥페이크 범죄뿐 아니라 N번방, 마약 유통 등 다양한 범죄의 온상이 됐다. 텔레그램은 기본적으로 모든 메시지를 암호화하는 구조다. 때문에 신원 노출 걱정 없이 범죄를 저지를 여지가 있다.

또한 서버 위치가 알려지지 않아 비밀보안이 세고 쉽게 해킹하기 어려운 구조를 지니기 때문에 텔레그램 내 메시지에 대한 통제도 어렵다.

정부, 딥페이크 범죄 피해자 보호 박차 …법 개정·신설

사진=연합뉴스
사진=연합뉴스
이러한 범죄가 계속되자 정부는 칼을 빼들었다. 국회는 지난달 26일 성 착취물을 비롯한 허위 영상물 등의 소지·구입·저장·시청죄를 신설했다. 아울러 영상물을 보기만 해도 3년 이하 징역 또는 3000만원 이하의 벌금에 처하도록 하는 성폭력범죄처벌특례법 개정안을 의결했다.

이와 함께 성 착취물을 이용한 아동·청소년 대상 협박·강요 범죄의 처벌 규정을 새로 만들고 필요시 경찰이 '긴급 신분 비공개 수사'를 할 수 있도록 하는 아동·청소년성보호법 개정안을 본회의에서 처리했다.

또한 과학기술정보방송통신위원회는 지난달 30일 전체 회의를 열고 아동·청소년 성 착취물에 대해서는 관계 중앙행정기관의 장뿐만 아니라 수사기관의 장도 방통위에 해당 정보의 삭제를 요청할 수 있도록 했다.

같은 날 방송통신심의위원회는 텔레그램은 앞으로 딥페이크 영상물, 디지털 성범죄 등 기술을 악용한 불법 정보에 '무관용 원칙'을 적용해 텔레그램 내에 유통되는 불법 정보 파악에 다각적으로 협력하기로 했다.

불법성 판단 등 내용 심의 권한을 가진 방심위의 요청 시 이를 적극 수용해 텔레그램 내 불법 정보를 신속하게 삭제 차단 조치하겠다고 했다. 방심위에 따르면 텔레그램과 핫라인을 개설한 지난달 3일부터 25일까지 텔레그램에 총 148건의 디지털 성범죄 정보 삭제를 요청했고 텔레그램은 36시간 내 100% 이행했다.

황석진 동국대 국제정보보호대학원 교수는 "정부가 피해자에 대해 어떠한 조처를 하는 건 당연한 일이고 특히 가장 최우선으로 진행돼야 하는 건 피해자 트라우마를 최소화하기 위해 영상 확산을 막는 즉각 삭제 조치가 필요하다"며 "미성년자 가해자가 많은 딥페이크 범죄의 경우 처벌이 어렵다 하더라도 사회보호시설에서 성인지 감수정을 키우는 일정한 프로그램을 통해 이들을 사회와 분리하려는 조치를 강력하게 시행해야 한다"고 말했다.

유지희 한경닷컴 기자 keephee@hankyung.com