인공지능(AI)을 이용해 만든 기시다 후미오 일본 총리의 가짜 동영상이 소셜미디어(SNS)에서 확산해 최근 논란이 된 가운데 아베 신조와 스가 요시히데 전 총리를 악의적으로 표현한 AI 동영상도 확인됐다고 요미우리신문이 11일 보도했다.
이번에 확인된 가짜 동영상 중에는 아베 전 총리가 한학자 세계평화통일가정연합(옛 통일교·이하 가정연합) 총재를 '마더 문'이라고 호칭하는 등 통일교와 연결고리를 인정하는 듯한 내용을 담은 것도 있다. 지난 6월 인터넷에 올라온 또 다른 가짜 동영상에는 아베 전 총리가 러시아 국가를 부르는 장면이 담겼다.
스가 전 총리를 담은 가짜 동영상은 "실패에 실패를 거듭해 일본 전체를 적으로 돌려버렸다"고 말하는 모습이 들어있다.
효고현에 사는 남성(25)은 요미우리신문에 자신이 생성형 AI를 이용해 이들 동영상을 만든 것을 인정하고 "(아베 전 총리 등에 대한) 증오감을 높이기 위해서"라고 말한 것으로 전해졌다. 이 남성은 기자회견 등의 동영상을 생성 AI에 학습시키는 방법으로 가짜 동영상을 만들었으며 아베 전 총리의 가짜 동영상 제작 때는 기시다 총리의 가짜 동영상으로 논란을 빚은 오사카 거주 남성(25)이 공개한 AI 음성 학습 데이터도 이용했다고 한다.
해당 동영상 아래에는 'AI 아베 신조' 등의 제목이 붙어있지만, 동영상 안에는 AI로 만들어졌다는 설명이 없어 유포 과정에서 진위 판별이 어려워질 수도 있다고 요미우리신문은 전했다.
이 신문은 과거에도 정치인을 비판하는 성격의 패러디 영상 등이 있었지만 AI 보급으로 정교한 가짜 동영상을 쉽게 만들 수 있게 됨에 따라 대책 마련이 요구된다고 강조했다. 앞서 AI를 활용해 만든 기시다 총리의 가짜 동영상은 방송 뉴스 로고까지 표시된 채 지난 2일 소셜미디어 엑스(X·옛 트위터)에 올라와 하루 만에 조회수 232만회 이상을 기록할 정도로 빠르게 확산하면서 논란이 된 바 있다.
유명 정치인과 연예인의 가짜 동영상과 사진, 기사 등은 일본뿐만 아니라 이미 세계 여러 나라에서 문제가 되고 있다.
지난 3월에는 도널드 트럼프 전 대통령이 뉴욕 맨해튼에서 체포돼 끌려가는 모습 등이 담긴 '가짜 사진'이 인터넷에서 확산했는데 이 역시 AI로 만든 것이었다.