日총리 발언 아닌데…AI 허위 동영상 이어 가짜 음성 앱 확산

가짜 동영상 만든 20대 "온라인의 전현직 총리 동영상을 AI에 학습시켜 허위 음성 제작"
"정치가들 깔보는 패러디 만드는 이 더 나오길"…전문가 "혼란·국제문제 야기할 수도"

생성형 인공지능(AI)을 활용해 기시다 후미오 일본 총리가 등장하는 허위 동영상을 제작한 20대 일본인이 전현직 총리 음성을 흉내 내는 가짜 음성 낭독 애플리케이션도 만들어 확산시켰다고 요미우리신문이 22일 보도했다.

보도에 따르면 스마트폰과 컴퓨터를 통해 무료로 이용할 수 있는 이 앱에 문장을 입력하면 기시다 총리, 아베 신조·스가 요시히데 전 총리 등 3명의 음성과 비슷한 목소리가 나오는 것을 들을 수 있다.

사회관계망서비스(SNS) 엑스(X·옛 트위터)에는 이 앱으로 만든 것으로 추정되는 거짓 발언이 올라오고 있다고 요미우리는 전했다.

그러면서 요미우리는 아베 전 총리가 "딥스테이트(Deep State·국가를 좌지우지하는 비밀집단) 포위망 구축에 대해 푸틴 러시아 대통령과 위기감을 공유해 왔다"고 한 것을 한 예로 들었다.

혼슈 서부 효고현에 거주하는 이 20대 남성은 온라인에서 확보한 전현직 총리의 연설 동영상을 AI에 학습시켜 허위 음성을 만들었다고 요미우리에 밝혔다.

이어 그는 "나와 똑같이 정치가들을 깔보는 패러디를 만드는 사람이 나타나길 바란다고 생각했다"고 말했다.

최근 일본에서는 이 20대를 포함해 복수의 일본인이 만든 전현직 총리의 가짜 동영상이 유포되고 있다는 사실이 알려져 논란이 인 바 있다.

이와 관련해 일본 정부 대변인인 마쓰노 히로카즈 관방장관은 지난 6일 기자회견에서 "정부 정보를 거짓으로 발신하는 것은 경우에 따라 민주주의의 기반을 손상할 수 있는만큼 해서는 안 된다"고 말했다.

야마구치 신이치 고쿠사이대 교수는 "정치가의 거짓 동영상과 거짓 음성이 다양한 곳에서 혼란을 일으킬 수 있다"며 선전이나 선동에 이용되면 국제 문제로도 발전할 수 있다고 지적했다.

/연합뉴스