내년 미국 대선을 앞두고 페이스북과 트위터, 구글 등 정보기술(IT) 공룡들이 '딥페이크' 동영상의 확산을 방지하려 애쓰고 있다고 일간 월스트리트저널(WSJ)이 22일(현지시간) 보도했다. 딥페이크란 정교한 머신러닝(기계학습) 알고리즘을 이용해 조작된 이미지나 동영상을 말한다.
다른 사람의 동영상에 유명 정치인이나 연예인의 얼굴을 감쪽같이 합성해 실제로 하지 않은 발언이나 행동을 한 것처럼 만들 수 있다.
문제는 이런 딥페이크 동영상의 진위를 구별하기가 거의 불가능하다는 점이다. WSJ은 "월트디즈니가 일부 '스타워즈' 영화에 캐릭터를 집어넣기 위해 이 알고리즘을 사용하는 등 딥페이크 기술은 무해한 앱(응용프로그램)에도 쓰이지만 악의적인 콘텐츠 제작에도 이용될 수 있다"고 지적했다.
이미지 편집 소프트웨어 포토샵으로 유명한 어도비의 부사장 데이나 라오는 가짜 동영상을 만드는 기술의 진보가 워낙 빨라서 기술을 이용해 딥페이크를 적발하는 게 곧 매우 힘들어질 것이라고 말했다.
그는 "이 싸움은 군비 경쟁이 될 것"이라고 전망했다. 딥페이크 제작 기술의 발전에 맞서 이를 적발하려는 쪽에서도 관련 기술을 발달시키는 경쟁의 순환고리가 전개될 것이란 뜻으로 풀이된다.
사이버보안 스타트업 딥트레이스에 따르면 올해 8월 온라인의 딥페이크 숫자는 작년 12월과 견줘 거의 2배인 1만4천678건으로 증가했다.
딥페이크 제작에 대한 관심도 높아지고 있다. 불과 2년 전 첫 딥페이크 동영상이 미국의 인기 온라인 포럼 레딧에 등장한 이래 지금은 최소한 20개 웹사이트와 온라인 포럼이 딥페이크를 더 잘 만드는 방법을 다루는 전용 공간이 됐다.
그러자 정보기술(IT) 공룡들도 행동에 나섰다.
구글은 20일 정치광고 규정을 업데이트하면서 앞으로 정치광고나 다른 광고에서 딥페이크의 사용을 금지한다고 밝혔다.
트위터 역시 이달 초 조작된 사진이나 동영상, 오디오가 자사 플랫폼에 올라올 경우 이를 찾아내 표시하는 방안을 검토 중이라고 밝혔다.
트위터 관계자는 "이런 부류의 합성 미디어나 가짜 정보는 대중의 신뢰를 약화시키고 핵심적 이슈에 대해 생산적 토론을 할 역량을 갉아먹는다"고 말했다.
페이스북과 마이크로소프트, 아마존은 6∼7개 대학과 손잡고 다음 달부터 '딥페이크 탐지 챌린지'를 가동한다.
이 프로그램은 사람들이 오해하도록 하기 위해 조작된 미디어를 적발하고 방지하는 새 방안을 연구하기 위한 것이다.
이뿐 아니다.
페이스북은 배우들이 등장하는 10만 건의 동영상을 수집해 연구자들이 딥페이크를 잡아내는 시스템을 개발하고 시험하는 데 이용하도록 하고 있다.
구글도 이와 비슷하게 딥페이크 적발 연구를 연마할 수 있는 동영상 목록을 구축했다.
이 회사는 또 올해 연구자들이 가짜 연설을 식별하는 방법을 개발할 수 있도록 지원하기 위해 다량의 오디오 클립을 모았다. 콘텐츠 조작을 적발할 연구를 진흥하기 위한 법안을 발의한 제리 모런(공화·캔자스) 상원의원은 딥페이크를 두고 "미국 유권자와 소비자들에 대한 구체적인 위협"이라고 말했다.