AI가 '뚝딱' 만들어낸 걸그룹 합성사진…"악용 가능성" 우려[영상]

사진=인공지능(AI) 모델 공유 사이트 시빗AI(CivitAI) 캡쳐

K팝 걸그룹 멤버 사진을 대량으로 도용해 학습시킨 인공지능(AI) 모델 데이터가 온라인상에 유포됐다. 수익 창출이나 음란물 제작 등 악용 가능성이 제기된다. 소속사는 대응을 검토하고 있다.

27일 관련 업계에 따르면 생성형 인공지능(AI) 모델 공유 사이트 시빗AI(CivitAI)에는 이용자들이 인기 KPOP 걸그룹 멤버의 이미지를 학습시킨 데이터가 다수 올라와 있다.

올라온 파일들은 작년 스테빌리티AI가 오픈소스로 공개한 이미지 합성 AI '스테이블 디퓨전'에 적용해 딥페이크 이미지를 생성할 수 있는 AI 모델이다. 스테이블 디퓨전은 '챗GPT' 같은 고성능 대화형 인공지능과 달리, 일반인도 자기 집 PC에서 오프라인으로 구동할 수 있다.

문제는 이런 AI 모델이 수익 창출이나 음란물 제작에 쓰일 수 있다는 점이다. 유튜브에는 이미지 생성 AI로 만들어낸 여성 이미지를 전시하는 'AI 룩북' 콘텐츠가 성행하고 있다. 일부 이용자들은 후원 플랫폼 '패트리온'에서 AI가 생성한 음란물을 판매하고 있다.

연예인이나 인플루언서의 초상권을 침해한 AI 모델로 창작물을 만들어 수익을 내면 민형사상 책임을 질 수 있다. 부정경쟁방지법 2조와 성폭력처벌법 14조의2 등에서 관련 내용을 다루고 있다.

K팝 업계도 소속 아티스트의 이미지를 활용한 AI 모델 배포에 대응 방안을 고민하고 있다. 생성형 AI로 제작하는 이미지가 아티스트의 명예나 초상권을 침해하는 경우 해당 저작물 삭제를 요청하고 필요한 경우 법적 대응도 고려하고 있는 것으로 전해졌다.

이송렬 한경닷컴 기자 yisr0203@hankyung.com