"이건 인공지능이 만든 사진"…'AI 표시' 의무화 법안 나왔다

교황이 명품 패딩을 입은 사진. AI가 만든 가짜 사진이다.

텍스트, 이미지, 음악 등 콘텐츠가 인공지능(AI) 기술을 이용해 만들어졌을 경우 해당 콘텐츠가 AI를 이용해 제작된 콘텐츠라는 사실을 표시하도록 의무화하는 법안이 발의됐다. 이상헌 더불어민주당 의원은 22일 이 같은 내용의 콘텐츠산업 진흥법 일부개정법률안을 대표 발의했다고 밝혔다.

이 의원은 "AI 기술 발전 속도가 지나치게 빨라지면서 부작용이 우려된다"며 "AI 오·남용을 막기 위한 관리 방안을 마련해 인공지능 시대의 규범적 틀을 확립해야 한다"고 입법 취지를 밝혔다. 개정안이 통과되면 사용자들이 해당 콘텐츠의 진위를 알 수 있게 돼 허위 정보로 인한 사회적 혼란이 방지될 수 있다는 게 이 의원 측 설명이다.

최근 SNS에선 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 사진이 화제가 됐다. 이는 AI를 이용해 만든 허위 이미지로 밝혀졌다. 지난 13일 트럼프 전 미국 대통령은 자신의 SNS 계정에 CNN 앵커가 바이든 대통령을 비난하는 영상을 올렸다. AI가 만든 가짜 영상이었다.

전문가들은 생성형 AI에 의한 가짜뉴스 유통, 선동 이미지·영상물 배포 등으로 부작용이 나타날 가능성을 우려하고 있다. 이 의원실 관계자는 "생성형 인공지능이 만들어내는 이미지, 영상, 음성 등이 갈수록 정교해지고 있다. 이 때문에 사용자들은 진위를 쉽게 파악할 수 없게 됐다"고 설명했다.

국회엔 AI 관련 법안들이 10여건 발의돼 있다. 정필모 민주당 의원이 대표 발의한 ‘인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안’엔 인간이 AI를 개발하거나 제공, 또는 이용할 때 지켜야 할 윤리적 원칙이 담겨 있다. 같은 당 황희 의원이 대표 발의한 법안은 인간의 생명, 생체 인식, 사회 기반 시설, 출입국 관리 등과 관련된 AI를 고위험 AI로 명명하고, 안전하고 합리적인 개발과 이용을 위해 정부가 기본 계획을 수립해야 한다는 내용이 담겼다.

고은이 기자 koko@hankyung.com