사진=AFP
사진=AFP
'어머 이런 사고가 일어났다니 정말 안타깝군요', '큰 사고라니 정말 안타깝네요', '안타까운 사고가 슬프네요' …

X(구 트위터)에 구조만 다를 뿐 모두 비슷한 내용의 '트윗'들이 30초 간격으로 끊임없이 게시된다. 모두 동일한 계정에서 작성된 이 트윗은 인공지능(AI) 로봇이 만들어낸 작업물이다. 계정을 운영하는 것도 실제 사람이 아니라 챗GPT를 비롯한 생성형 AI다. 이들은 모두 조회수가 높은 게시글에 답글을 달거나, 인용글을 만드는 등 인기 트윗에 '기생'하는 방식으로 운영되고 있다.

ADVERTISEMENT

최근 X를 중심으로 '유령 계정'에 대한 논란이 끊이지 않고 있다. 일론 머스크 테슬라 최고경영자(CEO)가 2023년 10월 트위터를 인수할 당시 "AI 봇들을 완벽하게 없애겠다"고 선언했지만 이용자들과 SNS 전문가들은 "인수 이전보다 AI 챗봇 문제가 더욱 심각해졌다"며 "자신있었던 머스크의 선언은 모두 무용지물"이라는 반응을 보이고 있다. X의 검색 체계가 모두 AI 봇들에 의해 점령당해 사실상 '회복 불능' 상태라는 주장도 나온다.

업계선 머스크의 트위터 인수가 오히려 AI 봇의 활동을 부추겼다는 평가다. 머스크가 지난해 X의 부분 유료화를 도입한 이후 게시글의 조회수에 따라 수익을 제공받는 정책이 만들어졌기 때문이다. 수익 창출을 원하는 이용자들이 여러 유령계정을 이용해 공유가 많은 게시글에 의미 없는 답글을 끊임없이 작성하는 방식으로 조회수를 올리는 방식이다.

일반 이용자들은 AI 봇들이 기존 글에 붙어 계속 같은 게시글을 생산해내기 때문에 SNS가 해야 할 역할인 검색과 소통이 불가능해졌다는 불만을 나타내고 있다. 인간과 달리 생성형 AI가 운영하는 계정의 특성상 시간 간격 없이 무한히 게시글을 만들어낼 수 있기 때문에 의미 없는 게시글의 수가 기하급수적으로 늘고 있어서다.

ADVERTISEMENT

AI 봇의 가장 큰 문제로 꼽히는 건 '알고리즘 조작'이다. 오픈AI의 챗GPT, 구글의 제미나이 등 일반 생성형AI의 답변 생성 체계를 방해한다는 것이다. 생성형AI는 현재 웹에 흩어진 정보들을 기반으로 답변을 생성하기 때문에 AI 봇들이 만드는 가짜 트윗과 정보성 게시글에 영향을 받을 수 있다는 것이다. 생성형 AI로 정보를 검색하거나 콘텐츠를 만드는 이용자들은 거짓 정보에 더욱 쉽게 노출된다.

AI 봇들이 서로 만들어내는 '깡통 대화'도 문제로 꼽힌다. 자동 대화 과정을 통해 게시글의 수가 늘어나며 거짓 정보를 키우기 때문이다. AI업계 관계자들은 "유령 AI 봇들이 '진짜 생성형 AI'를 바보로 만들고 있다"며 "생성형 AI의 알고리즘은 AI가 작성한 가짜 정보만 크롤링하는 중"이라고 경고하기도 했다.

더욱 큰 문제는 AI 봇이 기존 사용자들의 게시글을 학습해 인간과 완벽히 똑같은 답글까지 달 수 있다는 점이다. 향후 여론 조작에 악용될 우려도 제기됐다. 실제 2020년 미국 대선 당시 가짜 뉴스를 퍼뜨리는 AI 봇 계정 1200개 이상이 적발됐다. 일부 게시글은 무려 300만건 이상의 조회수를 기록했다.

ADVERTISEMENT

전문가들은 AI 봇 대부분이 자동으로 콘텐츠를 생산하기 위해 챗GPT를 사용하고 있다고 주장한다. 지난 1월 오픈AI 오류 당시 X의 AI 봇들이 "오픈AI의 오류로 인해 콘텐츠를 생산할 수 없습니다"라는 자동화 문구를 올리며 이러한 사실이 드러났다. 사건 직후인 지난 2월 사이버 보안 회사 CHEQ는 3일간 X에서 봇 트래픽 비율을 추적한 결과 유입된 트래픽의 4분의 3이 가짜라고 밝혀내기도 했다.

중동, 인도를 중심으로 '트윗 봇'을 전문으로 판매하는 업자들도 늘어나는 추세다. 파키스탄을 기반으로 활동하는 컴퓨터공학자 아와이스 유사프는 자신의 홈페이지를 통해 'ChatGPT 트위터 봇'을 판매하고 있다. 얼마나 복잡한 게시글을 생산할 수 있는지에 따라 최소 30달러에서 최대 500달러까지 가격을 책정했다.

X를 활용해 마케팅을 펼치는 국내 브랜드들 다수도 AI 봇으로 인한 불만을 토로하고 있다. 한 유통업계 관계자는 "젊은 여성 잠재고객들이 많이 모인 X의 특성상 홍보 창구로서 버릴 수 없는 존재"라며 "AI 봇들이 게시글에 너무 많이 붙어 실제 고객들의 반응을 살필 수 없다"고 말했다.

ADVERTISEMENT

지난해부터 X는 AI 봇의 트윗 생성을 막기 위해 일부 국가에서 '봇이 아님'을 증명하는 프로그램을 운영하기 시작했다. 월 8달러를 지불하고 신원을 인증하면 파란색 인증 표시를 부여하는 방식이다. 하지만 일각선 이같은 X의 노력도 무용지물이라는 목소리가 나온다. 인증 마크를 받은 계정 중 50%가 'AI 봇'임이 호주 연구진에 의해 드러나면서다.

AI 봇에 대한 불편에 X는 "정상적으로 개설된 계정"이라며 "이용 수칙을 위반하지 않은 이용자의 계정을 차단할 수 있는 근거는 없다"고 밝힌 상태다.

최지희 기자 mymasaki@hankyung.com