[토요칼럼] AI 가짜뉴스보다 무서운 것

결함 많은 AI 가짜사진에
세계 최대 美증시 휘청거려

러 국영방송 가세해 사진 전파
일부 투자자 의심 없이 '매도'

"AI 통제해야" 경고 나오지만
'사고의 마비'가 더 큰 문제

조미현 금융부 기자

‘AI COVER(인공지능 재녹음)’라는 표시가 없었다면 속을 뻔했다. 세계적인 팝스타 브루노 마스가 한국 아이돌 그룹 뉴진스의 ‘하입 보이’를 부른 영상 얘기다. 아무런 정보 없이 브루노 마스 특유의 창법과 외국인의 한국어 발음까지 살린 K팝을 들으면 ‘국뽕’(맹목적 애국심)에 취하지 않기가 어려울 것 같았다. 새삼 인공지능(AI) 기술의 발전이 무섭게 느껴지기도 했다. ‘가짜 목소리’에 ‘진짜 감정’이 휘둘릴 수 있다는 생각에서다.

반면 얼마 전 미국 증시를 뒤흔든 AI가 만든 사진 한 장은 조악하다는 느낌을 지울 수 없었다. 미 국방부 청사(펜타곤) 근처에서 폭발 사고가 난 장면이 담겼지만, AI 기술의 진보를 눈으로 확인하기에는 평범했다. 펜타곤 옆에 자욱한 까만 연기를 단순히 합성한 듯한 사진이었기 때문이다. 사진에 결함도 있었다. 사진 속 잔디와 바닥이 부자연스럽게 희미하고 울타리 모양은 불규칙했다. 이미지 분석 전문가인 하니 파리드 UC버클리 교수는 “AI 이미지에서 발견되는 일반적인 결함”이라고 지적했다.

“AI가 만든 가짜뉴스에 증시가 직접 타격을 받은 사실상 최초의 사건”(월스트리트저널)이라고 의미 부여하고 넘어가기에는 뒷맛이 개운치 않다. CNN 평가대로 ‘대충 만든 가짜 사진’에 세계 최대 자본시장이 휘청거렸기 때문이다. S&P500지수는 당일 오전 한때 0.3% 내렸고, 안전 자산인 미 국채 금리는 하락(가격 상승)했다.

사실 가짜뉴스가 사진 형태로 퍼지는 건 새로운 일이 아니다. 특히 정치판에서는 가짜 사진이 기승을 부린 지 오래다. 힐러리 클린턴 전 미 국무장관은 2015년 백인 우월주의를 상징하는 ‘남부연합기’가 교묘하게 합성된 대학생 시절 사진이 SNS에 퍼져 곤욕을 치렀다. 최근에는 뉴욕 맨해튼에서 경찰에게 체포되는 도널드 트럼프 전 대통령의 AI 가짜 사진이 SNS에서 논란이 됐다.

한국에서도 이런 일이 심심치 않게 벌어진다. 2020년 문재인 전 대통령이 왼손으로 국기에 경례하는 사진이 SNS에 급속하게 돌았다. 청와대가 공식적으로 “허위 조작된 합성 사진”이라고 진화에 나설 정도였다.

퓰리처상 수상자인 제임스 볼 전 가디언 기자는 가짜뉴스의 폐해를 경고한 책 <개소리는 어떻게 세상을 정복했는가>에서 이미지로 된 가짜뉴스가 사이트 링크보다 SNS에서 월등히 많이 공유된다고 지적했다. 그는 가짜뉴스가 진실이나 거짓 어느 쪽으로도 신경 쓰지 않는 사람들이 만들어내는 허구의 담론이라는 점에서 사실과 진실을 염두에 두고 전략적으로 꾸며낸 거짓말과 다르다고 했다. 그래서 가짜뉴스를 “거짓말보다 강력한 ‘개소리(bullshit)’”라고 규정했다.

그의 책에 따르면 가짜뉴스가 득세하는 것은 언론을 자처하는 가짜 미디어나 SNS와 같은 뉴 미디어 때문만은 아니다. 상당수 대형 매체는 가짜뉴스에 맞서려는 노력조차 하지 않는다. 뉴스를 소비하는 우리 역시 SNS에 도는 기사의 제목조차 읽지 않고 공유한다. 진실에 무심한 태도, 음모론에 쉽게 넘어가는 심리, 생각을 바꾸는 것에 대한 반발심 등도 ‘개소리’가 세상을 정복하도록 만드는 것들이다.

이번 AI 가짜 사진 소동도 크게 다르지 않다. 블룸버그를 사칭한 트위터 계정에 게재된 사진은 러시아 국영방송인 러시아투데이(RT) 등에 의해 퍼져나갔다. 트위터 팔로어 65만 명을 거느린 경제 뉴스 인플루언서가 해당 사진을 퍼 날랐고, 금세 수백 건의 리트윗이 이뤄졌다. 일부 투자자는 최소한의 검증이나 의심 없이 주식을 던졌다. 9·11 테러 당일 S&P500지수가 4.9% 폭락했다는 사실이 투자자들의 판단을 흐렸을 것이다. AI 가짜 사진은 그저 준비된 난리통의 트리거가 됐을 뿐이다.

챗GPT 창시자 샘 올트먼 오픈AI 최고경영자(CEO)는 최근 미 의회 청문회에 출석해 “AI를 통제하기 위해 국제원자력기구(IAEA)와 같은 국제 감시기구가 필요하다”고 제안했다. 하지만 이번 소동에서 보듯 AI보다 무서운 건 인간의 마비된 판단력과 의심하지 않는 사고의 게으름이란 생각이 든다. AI 기술이 발전할수록 AI가 만들어내는 가짜뉴스 역시 더 정교해지고 혼란을 키울 것이다. 우리가 AI 시대를 현명하게 맞이할 준비가 되지 않았다는 사실을 확인한 것 같아 두렵다.