지난 3월 도널드 트럼프 전 미국 대통령이 경찰에 연행되는 사진이 유포됐다. 이는 인공지능(AI) 기술을 이용해 만들어진 가짜 이미지다. (사진: 엘리엇 히긴스 트위터)
지난 3월 도널드 트럼프 전 미국 대통령이 경찰에 연행되는 사진이 유포됐다. 이는 인공지능(AI) 기술을 이용해 만들어진 가짜 이미지다. (사진: 엘리엇 히긴스 트위터)
지난 3월 성추문 사건과 관련해 체포 전망이 제기되던 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 사진이 유포됐다. 이는 인공지능(AI)을 이용해 만든 허위 이미지로 밝혀졌다. 최근 소셜네트워크서비스(SNS)에선 프란치스코 교황이 명품 브랜드의 하얀 패딩 재킷을 입고 산책하는 모습이 찍힌 사진이 화제 됐다. 이 역시 AI가 생성한 가짜 사진이었다.

챗 GPT, 미드저니 등 생성형 AI 기술이 빠른 속도로 발전하면서 이에 대한 적절한 규제가 필요하다는 주장이 제기되고 있다. 생성형 AI가 만들어내는 이미지, 영상, 음성 등이 갈수록 정교해지면서 사용자들이 진위를 파악하기가 갈수록 어려워지고 있다.

이에 국회 문화체육관광위원회 소속 이상헌 더불어민주당 의원은 AI를 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 '콘텐츠산업진흥법 일부개정안'을 대표발의했다고 22일 밝혔다. 개정안이 통과되면 AI로 제작된 콘텐츠의 경우 해당 출처를 의무적으로 표시해야 한다.

AI 기술을 이용해 만든 콘텐츠에 대한 규제 논의는 선진국을 중심으로 확산하고 있다. 유럽연합(EU)에선 AI가 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있다. 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 방안이 발의된 상황이다.

이 의원은 "AI 기술 발전 속도가 지나치게 빨라지면서 오·남용으로 인한 부작용이 우려된다"며 "AI 오·남용을 막기 위한 관리 방안을 마련해 인공지능 시대의 규범적 틀을 확립하겠다"고 입법 취지를 말했다.

안시욱 기자 siook95@hankyung.com