오픈AI "AI이용,선거에 영향 끼치려는 가짜콘텐츠 증가"

"챗GPT로 가짜·분열적 콘텐츠 생성해 웹에 유포"
올들어 20건 무력화시도에도 美대선 앞두고 증가

사진=REUTERS

챗GPT 제작사인 오픈AI 보고서에 따르면, 우려했던대로 AI모델을 이용해 선거에 영향을 미치려는 가짜 기사 및 소셜미디어 댓글 등 가짜 콘텐츠를 만드는 일이 빈번한 것으로 나타났다.

9일(현지시간) 오픈AI는 사이버 범죄자들이 챗GPT를 포함한 AI도구를 사용해 멀웨어 생성 및 디버깅, 웹사이트 및 소셜미디어 플랫폼에 가짜 콘텐츠 생성 등 악의적인 활동을 지원하는 경우가 점점 더 늘고 있다고 밝혔다.

이 회사는 올해 지금까지 20건 이상의 이런 시도를 무력화했다고 밝혔다. 그 중에는 지난 8월 미국 선거 등의 주제로 기사를 만드는데 사용된 챗GPT 계정도 포함된다고 말했다.

7월에는 르완다의 선거에 대한 댓글을 생성하는 데 사용된 여러 계정을 소셜 미디어 사이트 X에 게시하는 행위도 금지했다.

오픈AI는 그러나 지금까지는 전세계에서 선거에 영향을 미치려고 시도한 활동중 어느 것도 바이럴 참여나 지속적인 청중을 확보하지는 못했다고 덧붙였다.

로이터통신에 따르면, 미국 대선이 한 달도 남지 않은 상황에서, AI 도구와 소셜 미디어를 리용해 상대를 공격하기 위한 가짜 콘텐츠를 만들어 퍼뜨리는데 대한 우려가 커지고 있다.

미국 국토안보부는 미국정부는 러시아, 이란, 중국이 11월 5일 미국 선거에 영향을 미치려고 시도하는 위협이 커지고 있는 것으로 보고 있다. 여기에는 AI를 사용해 가짜 또는 분열적 정보를 유포하는 것도 포함된다.

오픈AI는 지난 주 66억 달러의 투자금 조달을 완료해 세계에서 가장 가치 있는 민간 기업 중 하나라는 지위를 굳혔다. 2022년 11월에 출시된 챗GPT는 현재 주간 활성사용자가 2억5천만명에 달하고 있다.

김정아 객원기자 kja@hankyung.com