미국 대선이 다가오는 가운데 구글이 인공지능(AI) 등을 이용해서 선거 광고를 제작한 경우 이를 의무적으로 알리도록 조치했다. 로이터통신에 따르면 구글은 1일(현지시간) 선거 광고에 디지털 방식으로 수정된 콘텐츠를 사용하면 그 사실을 공개하도록 하겠다고 밝혔다.
구글은 정치 콘텐츠 규정을 개정하면서 선거 광고를 할 때 '수정 혹은 합성 콘텐츠' 항목에 표시하는 조항을 만들었다.
선거 광고에서 실제 혹은 실제처럼 보이는 사람이나 이벤트를 묘사하려고 디지털 방식으로 변경된 콘텐츠를 사용한 경우가 해당한다. 로이터통신은 생성형 AI가 빠르게 성장하면서 정치적 악용과 관련한 우려가 커지고 있으며, 딥페이크(특정 인물의 얼굴 등을 영상에 합성)로 인해 진짜와 가짜의 경계가 더 흐려지고 있다고 말했다.
구글은 디지털 방식으로 손을 본 콘텐츠가 들어간 광고라는 점을 이용자들이 바로 알아볼 수 있게 할 것이며, 광고의 맥락에 따라 문구는 달라질 수 있다고 설명했다.
올해 세계 주요 국가에서 선거가 잇따르고 미 대선이 다가오면서 AI를 이용한 가짜 뉴스 및 광고와 관련한 경각심도 고조되고 있다. 지난 4월 인도 총선 기간에는 발리우드 배우 2명이 나렌드라 모디 총리를 비판하는 가짜 영상이 온라인에 퍼졌다.
이들 영상은 생성형 AI로 제작됐으며, 야당에 투표하라는 메시지를 담고 있었다.
5월엔 오픈AI가 인터넷상의 '기만적인 활동'(deceptive activity)에 자사의 AI 모델을 이용하려는 5건의 시도를 확인하고 차단했다. 대표적 생성형 AI인 챗GPT 개발사 오픈AI는 당시 러시아 2곳과 중국, 이란 각 1곳이 이런 시도를 했으며, 이스라엘 그룹도 포함됐다고 밝혔다.
이들은 짧은 댓글과 다양한 언어로 된 긴 기사를 만들고, 가짜 소셜미디어(SNS) 계정을 만들었다고 오픈AI는 설명했다.
메타는 이미 지난해 자사 플랫폼인 페이스북과 인스타그램에 게재되는 선거 관련 광고에 AI 등 디지털 도구가 사용됐는지 여부 공개를 의무화했다.