학교 덮친 '딥페이크'…TF 꾸려 전방위 대응

올 학생·교사 피해 196건
교육부, 179건 수사 의뢰

전담조직이 매주 1회 피해 조사
심리지원·예방교육 등 대응 나서
신고센터 개편…대처요령 홍보도

합성 음란물 삭제·유포 차단 등
딥페이크 탐지 시스템도 고도화

최근 ‘딥페이크’ 기술을 활용해 음란물에 여성 얼굴을 합성하는 범죄가 확산 중인 가운데 학교 내 피해 사례가 올해에만 200건에 이른 것으로 나타났다. 교육부는 긴급 태스크포스(TF)를 구성하고 관계부처 대책회의를 통해 딥페이크 대응 후속조치를 마련하기로 했다.

○학생·교원 피해 올해만 ‘196건’

교육부는 28일 정부서울청사에서 ‘학교 딥페이크 대응 브리핑’을 열고 17개 시·도교육청을 통해 조사한 결과 올해 1월부터 이달 27일까지 학생과 교원의 딥페이크 피해가 196건 접수됐다고 발표했다. 학생 피해가 186건(초등 8건·중등 100건·고등 78건), 교원 피해가 10건(중등 9건·고등 1건)이었다. 이 가운데 179건에 대해서는 수사를 의뢰했다. 오석환 교육부 차관은 “딥페이크 허위합성물 확산에 단호히 대처하고 신상정보 공개 우려 등의 불안을 해소할 것”이라고 말했다.

교육부는 차관을 단장으로 하는 긴급 TF를 구성했다. TF는 상황 총괄·학생 피해·교원 피해·디지털 윤리·현장 소통·언론 동향 등 6개 팀으로 이뤄졌다. 매주 한 번 학교 딥페이크 관련 문제를 조사하고 피해 사안을 처리한다. 피해자 심리 지원, 예방 교육, 디지털 윤리·책임성 강화 등 분야별로 대응할 계획이다.

피해자가 쉽게 대응할 수 있도록 제도도 개선한다. 교육부-시·도교육청-학교 신고체계와 대처요령을 명확히 홍보해 피해자가 언제 어디서나 신고할 수 있도록 한다. 또 딥페이크 등 신종 학교폭력 유형에 대응할 수 있도록 ‘교육분야 성희롱·성폭력 신고센터’를 개편한다. 기존에는 대면 중심으로 운영했지만, 온라인 체계로 바꿔 온라인 범죄에도 적극 대응하겠다는 구상이다. 딥페이크 등 허위합성물의 편집·합성·가공 행위가 놀이가 아니라 법적 처벌의 대상이라는 점을 알리는 안내문도 개별 학교에 전달한다.

교육부 관계자는 “사안을 조사하기 전에도 가해학생은 바로 분리해 관리할 것”이라며 “딥페이크 특성상 아주 고의적이고 피해가 클 가능성이 있어 처벌 수위가 높을 수밖에 없다”고 말했다.

교육부는 향후 관계부처 협의, 사회관계장관회의 등을 거쳐 후속 조치를 발표한다. 오 차관은 “사실로 확정된 사건은 엄중하고 단호하게 대처하고, 직접 피해자뿐만 아니라 간접 피해자의 치유와 회복도 돕겠다”고 말했다.

○과기정통부·여가부, 탐지 기술 고도화

과학기술정보통신부와 여성가족부는 딥페이크 탐지 기술을 고도화하기로 했다. 강도현 과기정통부 제2차관과 신영숙 여가부 차관은 이날 서울 중구 디지털성범죄피해자지원센터를 찾아 딥페이크 성범죄 피해 예방과 피해자 지원방안을 긴급 점검했다. 2018년 4월 연 이 센터는 작년 말까지 3만2000여 명의 피해자를 대상으로 피해 촬영물 상담 및 삭제, 수사·법률·의료 연계 지원 등 100만 건 이상의 서비스를 제공했다.

과기정통부와 여가부는 지난달부터 딥페이크 기반 디지털 성범죄 피해 예방과 보호 방안 마련을 위한 정책연구 추진 등을 협업하고 있다. 연구 결과를 바탕으로 연내 딥페이크 발전에 따른 디지털 성범죄 관련 법제 정비 방향과 탐지시스템 구축 방안을 도출할 예정이다. 과기정통부는 디지털 역기능에 대응하기 위한 기술도 개발 중이다.

지방자치단체도 발 빠르게 대책 마련에 나서고 있다. 서울시는 지자체 최초로 방송통신심의위원회와 함께 딥페이크 영상 삭제를 지원하는 핫라인을 가동하기로 했다. 내년에는 인공지능(AI) 기반 딥페이크 검출 기술인 ‘서울 안심 아이’를 개발할 계획이다.

경기도는 ‘젠더폭력통합대응단’을 꾸려 불법 영상물 삭제와 모니터링을 지원하고 피해자들에게 법률 자문과 전문심리 상담 등을 제공하기로 했다.

이혜인/이승우 기자 hey@hankyung.com