챗GPT와 같은 생성 인공지능(AI)로 가짜 뉴스를 생산하는 ‘콘텐츠 팜’ 사이트가 50여개에 달하는 것으로 조사됐다. 콘텐츠 팜이란 검색 순위를 높이기 위해 잡동사니 자료를 가득 채워놓은 사이트를 가리키는 말이다.

4일 미국의 뉴스 신뢰성 평가 사이트인 뉴스가드는 최근 이런 내용을 골자로 한 ‘뉴스봇의 부상:온라인에서 확산되는 AI 생성 뉴스 웹사이트’ 보고서를 발표했다. 뉴스가드는 AI 챗봇를 이용하고 있는 수십개의 뉴스 사이트를 확인했는데, 이 중 49개 사이트가 ‘비즈 브레이킹 뉴스’, ‘마켓 뉴스 리포트’, ‘뉴스 라이브 79’ 등의 매체명을 내걸로 가짜 뉴스를 게재했다. 이들 사이트는 유입자 수를 늘리기 위해 선정적인 뉴스를 허위로 생산하기도 했다. 예를 들어 ‘셀럽데스’라는 사이트에서 ‘바이든 대통령 사망’이라는 기사를 내보냈다.

이외에도 정치, 건강, 엔터테인먼트, 금융, IT를 포함한 다양한 주제와 관련된 대량의 콘텐츠를 생성했다. 영어는 물론 중국어, 포르투갈어, 태국어 등 여러 언어로 운영 중이며, 전 세계에 퍼져 있는 것으로 확인됐다. 또 조사 결과 절반에 달하는 24개의 사이트가 구글 광고를 이용해 수익을 창출했다. 보고서는 “일부는 하루에 수백 개의 기사를 게시했다”며 “거의 모든 콘텐츠에 AI의 특징인 단조로운 언어와 반복적인 문구가 포함돼 있었다”고 전했다.

전문가들은 생성AI 개발 및 운영사에서 이 같은 부작용에 대한 대책 마련에 나서야 한다고 주문했다. 고든 프로비츠 뉴스가드 공동 CEO이자 전 월스트리트저널 발행인은 블룸버그와의 인터뷰에서 “AI를 사용해 이같은 일을 저지르는 것은 저널리즘을 가장한 사기 행위”라며 “오픈AI나 구글과 같은회사가 가짜 뉴스 생성을 막기 위해 AI 모델의 가드레일 구축에 더 신경을 써야 한다”고 지적했다.

노아 지안시라큐사 벤틀리대학교 부교수는 “이전에는 가짜 뉴스 생성에 인건비라도 들어갔지만 이제는 무료인데다 생산속도도 빨라졌다”라며 “더 많은 콘텐츠 공장이 자동화될 것”이라고 말했다.

구글은 대변인의 성명을 통해 “콘텐츠가 생성된 방식보다 품질에 중점을 두고 있다”며 “위반 사항을 감지하면 광고를 차단하거나 제거한다”고 밝혔다.

최진석 기자 iskra@hankyung.com