"이런 방법 있었어?"…女가수 음란 동영상, 5초 만에 '소름' [이슈+]
입력
수정
찾으면 쏟아져나오는 여가수 음란물
5초 만에 '딥페이크' 판정
텔레그램 밖에서도 딥페이크물 수두룩
AI 탐지 모델로 딥페이크 여부 확인 가능
세 가지 모델 각각 딥페이크 여부 탐지
한 모델만 딥페이크 판단해도 의심해야
화질 낮거나 보정 사진은 정확도 낮아
서비스 고도화 진행중…유료화 가능성도

이 가운데 한 영상을 틀고 얼굴이 나온 이미지를 캡처한 뒤 인공지능(AI) 보안기업 샌즈랩이 전날 시범 출시한 딥페이크 탐지 서비스 '페이크체크'에 올리자 5초 만에 '딥페이크' 판정이 나왔다. 페이크체크는 사용자가 올린 이미지의 딥페이크물 여부를 탐지하는 무료 서비스다. 이곳에 이미지를 올리면 몇 초 만에 딥페이크 여부를 판단한다. 딥페이크 여부는 AI 기반의 세 가지 탐지 모델로 각각 판정한 결과를 종합해 파악할 수 있다. 여가수 딥페이크물의 경우 두 가지 탐지 모델은 딥페이크일 확률이 90~100%라는 결과를 내놨고 나머지 한 모델은 '정상' 이미지로 분석했다. 모델마다 판정 기준에 차이가 있어 이 같은 차이가 나타난다는 설명이 뒤따랐다.
샌즈랩 측은 한 모델이라도 딥페이크일 확률이 높다는 결과를 제시하면 딥페이크물일 가능성을 의심해야 한다고 조언했다. 이미지 크기가 300픽셀일 경우 정확도는 90%를 넘는다.
별다른 인증 절차 없이 페이크체크 웹사이트에 접속하면 누구나 간편하게 딥페이크물 여부를 탐지해볼 수 있다. 동영상 탐지는 불가능하지만 대신 동영상에서 사람 얼굴이 나오는 장면을 캡처한 다음 이를 활용해 딥페이크물 여부를 확인하는 것은 가능하다. 다만 이 경우 화질이 좋은 이미지여야 판정할 수 있다.
이미지 크기가 작을 땐 정확도가 확연히 떨어진다. 실제로 이미지 크기가 작은 한 여성 아이돌 그룹 멤버의 딥페이크물은 페이크체크 내 세 탐지 모델 모두 딥페이크에 해당하지 않는다고 판정했다.
같은 딥페이크 성범죄 영상물에서 서로 다른 장면을 캡처한 경우엔 이미지마다 결과가 제각각이었다. 한 이미지는 두 모델이 딥페이크물이라고 판정한 반면 다른 이미지에 대해선 한 모델만이 딥페이크물로 판정했다. 이에 대해 샌즈랩 관계자는 "문제를 인지하고 있고 파인튜닝이 필요한 상황이어서 계속 이미지들을 넣고 결과에 따라 AI 탐지 모델들을 수정하고 있다"며 "초기라 버그도 수정하고 있고 AI 모델들도 학습을 시키는 단계여서 물리적 시간이 필요하다. 앞으로도 정교하게 (서비스를) 고도화해 나갈 예정"이라고 말했다.
샌즈랩은 최근 딥페이크 성범죄가 사회문제로 떠오르자 사회공헌 차원에서 무료 탐지 서비스를 제공하고 그에 따르는 클라우드 비용을 직접 부담하기로 했다.
김기홍 샌즈랩 대표는 "페이크체크는 딥페이크 침해 사고에 대한 대응책이 필요한 사회적 기대에 부응하기 위해 임직원들이 한마음 한뜻으로 만들어낸 실질적인 대안 확보 사례"라며 "미래 사이버 보안을 위한 AI 기술 개발로 사회에 이바지할 수 있도록 앞장서겠다"고 말했다.
김대영 한경닷컴 기자 kdy@hankyung.com