음란 동영상 위변조 여부 가리는 모바일 앱 나왔다

연예인 얼굴을 바꿔치기한 음란 동영상 등 '딥페이크' 제작물의 진위 여부를 가릴 수 있는 모바일 앱이 처음 개발됐다.

KAIST는 전산학부 이흥규 교수팀이 인공신경망(ANN) 기반 딥페이크 영상 및 사진 위·변조 탐지 소프트웨어인 '카이캐치'를 모바일 앱 형태로 개발해 서비스를 시작한다고 30일 발표했다.

KAIST 관계자는 "딥페이크 여부를 가리는 모바일 앱은 이번이 국내 최초"라며 "디지털콘텐츠 위변조 탐지가 필요한 공공(수사)기관, 산업계, 언론사, 각종 포털 등 뿐 아니라 일반인들도 사용 가능한 앱"이라고 설명했다.

주로 사람의 얼굴을 조작하는 딥페이크 유형은 얼굴 교체, 얼굴 재현, 얼굴 속성변환 세 가지로 나뉜다. 얼굴 교체와 얼굴 재현은 가짜뉴스 생산 및 살포로 큰 사회적 혼란을 일으킬 수 있고, 연예인 딥페이크 음란물 제작 등에도 쓰인다. 얼굴 속성 변환은 영상 증거를 조작하는 데 악용될 수 있다.

연구팀이 개발한 기술은 딥페이크 유형에 상관없이 적용할 수 있는 기술이다. 영상이나 사진의 미세한 변형 흔적을 탐지하는 인공지능(AI) 기술을 적용했다. 진짜·가짜 사진이나 동영상을 무수히 반복 학습해 진위여부 판별 능력을 갖추는 생성 적대적 신경망(GAN)을 주로 사용해 기술을 개발했다.

동영상은 avi, mp4 두가지 파일 판별이 가능하다. 얼굴이 지나치게 작거나 상당부분 잘린 경우가 아니면 탐지할 수 있다. 사진은 BMP, TIF, PNG, JPEG 등 대부분 이미지 파일의 위변조 여부를 가려낸다. 위변조가 의심되는 이미지를 올리면 위변조가 일어난 특정 영역을 주변 영역과 다른 색상으로 보여준다. 탐지 정확도는 90~98%에 달한다고 연구팀은 설명했다.

이 교수는 2007년부터 10년간 한국조폐공사 융합형보안기술연구센터 소장으로 재직하면서 유가증권, 상품권 등 위변조 판별기술을 개발해 산업체 등에 이전했다. 2015년엔 사진 위변조 탐지 소프트웨어 카이캐치1.0을 개발했다. 이번 연구는 이 교수의 KAIST 실험실 창업기업인 디지털이노텍과 협력으로 진행됐다.

이해성 기자 ihs@hankyung.com