산케이신문이 'AI 유튜버'일 가능성이 높다고 지적한 영상. 선정성 논란이 된 유튜브 채널은 현재 정지된 상태다. /사진=유튜브 채널 '미스도쿄대' 캡처
산케이신문이 'AI 유튜버'일 가능성이 높다고 지적한 영상. 선정성 논란이 된 유튜브 채널은 현재 정지된 상태다. /사진=유튜브 채널 '미스도쿄대' 캡처
최근 일본에서 선정적인 동영상으로 높은 조회수를 낸 여성 유튜버를 두고 '생성형 인공지능(AI)이 아니냐'는 주장이 나왔다. 이런 논란과 함께 해당 유튜브 계정은 현재 정지된 상태다.

일본 매체 산케이신문은 지난 16일 "생성형 AI에 의해 작성·가공된 것으로 보이는 젊은 여성의 선정적인 동영상이 온라인상에서 확산하고 있다"며 "이 유튜버의 영상은 수백만 조회수에 달하는데, 전문가들은 이 채널이 AI를 통해 수익을 올리려고 만들어진 것으로 보인다고 진단했다"고 보도했다.

문제가 된 유튜브 채널은 지난해 9월 개설된 '미스도쿄대'라는 이름의 채널이다. 영상 속 유튜버는 자신을 도쿄대에 재학 중인 이공계 여대생이라고 소개했다.

산케이신문은 "이 채널에는 모델과 같은 외모를 가진 젊은 여성이 화면을 응시한 채 공원이나 야외를 걷는 모습이 올라왔다"며 "특히 '노브라 산책' 등의 자극적인 제목을 올리는가 하면, 옷을 입은 상태에서 속옷을 벗는 모습을 보여주는 시의 영상을 10여개 이상 게시했다"고 지적했다.

다만 도쿄대 홍보팀 측은 이 유튜버에 대해 "알지 못한다"고 답했다. 해당 유튜브 채널은 현재 정지된 상태로, 전문가들은 이런 영상이 AI로 제작됐을 가능성이 높다고 분석했다.

에치젠 공 국립정보학연구소 교수는 매체와의 인터뷰에서 "생성형 AI로 제작된 딥페이크(특정 인물의 얼굴 등을 영상에 합성하는 것)일 가능성이 있다"며 "그림자나 움직임이 매우 정밀하고 자연스럽게 보이지만, 옆모습이 잘려있거나 다른 물체가 얼굴을 가리는 장면이 없는 경우도 많다"고 설명했다.

아울러 산케이신문은 AI를 활용해 선정적 영상을 올리며 구독자와 조회수를 끌어들이는 것과 관련, 유튜브의 수익 구조에 대한 문제를 제기했다. 관련 영상 게시자 중에는 '유료 회원이 되면 보다 선정적인 동영상을 시청할 수 있다'는 페이지로 유도하는 경우도 있다고도 지적했다.

사사하라 카즈토시 도쿄공업대 교수는 "(현재 유튜브는) 딥페이크를 이용해 돈을 벌 수 있는 구조"라며 "딥페이크 포르노가 대량 생산되면 사회질서 면에서 문제가 된다"고 우려했다.

김세린 한경닷컴 기자 celine@hankyung.com