오픈AI와 구글, 메타 등 주요 빅테크 기업들이 미국 대선 등 중요한 선거를 앞두고 유권자를 속이는 인공지능(AI) 생성 콘텐츠에 공동 대응하기로 했다고 워싱턴포스트(WP)와 AP통신 등 미국 매체들이 13일(현지시간) 전했다. 보도에 따르면 주요 기술기업들은 이런 내용을 담은 합의문에 서명했으며, 이를 오는 16일 독일에서 열리는 뮌헨 안보 회의(MSC)에서 발표할 예정이다.
WP는 미리 입수한 이번 합의문 사본에 구글과 마이크로소프트(MS), 메타, 오픈AI, 어도비, 틱톡 등이 이름을 올렸으며, 일론 머스크 테슬라 최고경영자(CEO)가 소유한 소셜미디어 엑스(X, 옛 트위터)는 참여하지 않았다고 전했다.
메타와 MS 등 참여 기업들은 이날 미 언론에 보낸 이메일 성명에서 "세계적으로 여러 선거가 있는 중요한 해에 기술 기업들은 유권자를 노리는 기만적인 AI 사용을 막기 위해 노력하고 있다"며 "공동의 목표를 진전시키기 위해 함께 작업 중이고, 뮌헨 보안 콘퍼런스에서 세부 사항을 확정해 발표할 수 있기를 바란다"고 밝혔다. WP는 이번 합의에 참여한 기업들이 AI 도구로 생성된 선거 관련 콘텐츠를 식별할 수 있게 하고 대중에게 AI의 위험성을 교육하는 등의 조치에 합의했다고 전했다.
다만 이들 기업이 AI로 생성된 기만적인 콘텐츠 게시를 전면 금지하기로 한 것은 아니라고 WP는 지적했다.
앞서 AI를 이용한 가짜 콘텐츠 유포 문제가 심각해지면서 일부 기업은 이미 자체적인 대응책을 마련해 발표하기도 했다. 틱톡은 공인의 이미지를 이용한 AI 생성 콘텐츠가 정치적 또는 상업적 홍보를 위해 사용되는 것을 금지하고 있으며, 페이스북과 인스타그램의 모회사인 메타는 자사 플랫폼에 정치 광고를 게시할 때 AI를 사용했는지 여부를 공개하도록 요구하고 있다.
대형 기술기업들의 이런 움직임은 미 대선을 앞두고 AI가 생성한 딥페이크(AI로 만든 영상이나 이미지, 음성 조작물) 콘텐츠에 규제를 강화해야 한다는 목소리가 커지는 가운데 나왔다.
지난달에는 뉴햄프셔주 프라이머리(예비경선)를 하루 앞두고 민주당 당원에게 투표 거부를 독려하는 바이든 대통령의 가짜 목소리를 담은 전화가 걸려 오면서 AI를 이용한 선거 정보 조작에 대한 우려가 증폭됐다.