"AI 덕분"…서울시, 성범죄 영상모니터링 1265% 폭증

스토킹 피해, 성범죄 영상 유포 피해 등을 방지하기 위해 새로운 기술을 도입하는 사례가 늘고 있다. /GettyImages

서울시가 디지털 성범죄를 예방하고 피해를 줄이기 위해 도입한 인공지능(AI) 추적·감시 시스템이 성과를 내고 있다. 사람이 직접 모니터링을 하는 것보다 훨씬 효율적으로 추적이 이뤄지면서 모니터링 대상이 크게 늘어나고 문제 대응속도도 더 높아지는 중이다.

12일 서울시에 따르면 시는 지난 3월 AI 기술을 활용한 24시간 디지털 성범죄 자동 추적 및 감시 시스템을 도입한 후 7개월만에 모니터링 대상 영상 수를 1265% 늘렸다. 지난 3월29일부터 10월말까지 모니터링 영상 수는 45만 7440건으로 작년 같은 기간 사람(삭제지원관)이 직접 모니터링할 때(3만3511건)의 13배 수준이었다.

시는 작년 3월 서울시여성가족재단이 운영하는 '서울 디지털 성범죄 안심지원센터'를 열었다. 또 지난 3월 개관 1년을 맞아 서울연구원과 함께 전국에서 처음으로 AI 삭제 지원 기술을 도입했다. 이후 석달 간 테스트 기간을 거쳐 현재 소셜미디어(SNS) 상 피해 영상물을 24시간 실시간으로 자동 감시하는 체제가 구축됐다.

이 체제가 도입된 후 피해 영상물을 찾아내는 데 걸리는 시간은 크게 줄었다. 사람이 할 때는 키워드 입력부터 영상물을 확인하기까지 평균 2시간이 걸렸지만, AI가 도입된 후에는 3분 밖에 걸리지 않는다. 97.5% 짧아졌다.

이성은 서울시 양성평등담당관은 "SNS에서 피해 영상물이 재확산되는 걸 막기 위해서는 24시간 모니터링이 반드시 필요하다"며 "AI를 이용하면 사람이 일하지 않는 새벽 시간대 모니터링이 가능하고 삭제지원관이 피해 영상물을 접하며 받는 스트레스와 트라우마를 줄이는 장점이 크다"고 밝혔다. AI 도입 후 삭제지원 건수도 4141건으로 작년 같은 기간 2049건보다 102% 늘었다. 시는 15세 청소년의 피해 동영상을 22초만에 찾아내는 등 실질적인 도움을 주고 있다고 설명했다.

서울시는 다양한 성범죄와 스토킹 피해 등에 대한 지원책을 운영 중이다. 피해 영상물 삭제 등을 지원하는 '서울디지털성범죄 안심지원센터'에서는 10월 말까지 총 지원 건수는 392명의 피해자와 관련한 1만5002건에 대한 도움을 줬다. 작년(6241건)보다 지원건수가 급격히 늘었다.

주로 10~20대(51%, 200명)가 피해를 보는 비율이 높았다. 특히 10대 비율은 13.5%(53명)이었다. 시는 경찰과의 협력을 통해 1060건의 수사를 지원했으며, 이 과정에서 가해자를 검거‧특정하는 성과도 거뒀다. 574건의 법률‧소송, 1383건의 심리치료를 지원했다.

시는 지난 9월 전국 최초 스토킹 피해 전담조직 '스토킹 피해자 원스톱 지원 사업단'을 출범했다. 서울 경찰과 공조해 출범 한 달 만에 총 200건, 39명을 지원했다고 시는 설명했다. 상담이나 모니터링을 한 경우는 87건, 법률 및 심리치료 등 회복지원은 17건, 이주비 지원(최대 200만원)이나 민간경호 등 안전 지원은 65건, 기타 31건 등이다. 경호 지원은 경찰서장이 필요하다고 판단하는 경우에 한해 하루 10시간씩, 총 7일 동 2인 1조로 경호가 이뤄진다.

올해 5월에는 ‘성착취 피해 아동·청소년 통합지원센터’를 확대 운영, 성매매뿐 아니라 다양한 성착취 피해를 지원하고 성폭력, 스토킹, 협박 등의 중층피해를 겪는 아동‧청소년 116명(2,273건)에게 심리·의료‧법률 서비스 등을 지원했다.

원가정 복귀가 어려운 성매매 피해자 지원시설 퇴소 청소년을 위한 ‘자립정착금’(1000만 원)도 지원(2명)했다. 이 밖에도 고위험군 대상 소그룹 예방교육(491명)을 실시했으며, 장애 피 해 아동･청소년 대상 자기방어 특화 프로그램(53명)을 신설하고. 남성 피해 청소년에게 정신건강의학과 진료 등 건강지원(229건)도 이뤄졌다고 시는 설명했다.

이상은 기자 selee@hankyung.com