"AI 가짜뉴스 때문에 손해 막심"…증권사들 아우성

헤지펀드와 퀀트 투자사, 초단타매매 증권사 등 컴퓨터 알고리즘 기반 증권사들 사이에서 ‘인공지능(AI) 경고등’이 켜졌다. 시장의 흐름과 새로운 소식에 민감하게 대응해 투자하는 이들은 AI발 가짜뉴스로 증시가 출렁이면 직격탄을 맞을 수밖에 없다는 설명이다.

15일(현지시간) 파이낸셜타임스(FT)는 “컴퓨터 기반 트레이딩 기업들이 지난달 말 발생한 ‘미 국방부(펜타곤) 가짜 폭발’ 이미지 사건 이후 AI가 수익에 미칠 수 있는 위협에 대해 우려하고 있다”고 보도했다.

지난달 22일 트위터 등 소셜네트위크서비스(SNS)를 통해 미 워싱턴의 펜타곤 건물에서 검은 연기가 피어오르는 사진이 빠르게 확산됐다. 얼마 지나지 않아 이 사진은 가짜로 밝혀졌지만 이때 S&P500은 30분 만에 0.3% 하락했다. 수사 전문 웹사이트 벨링캣 등은 이 이미지를 AI가 만들었을 가능성이 높다고 주장했다.

일종의 해프닝이었지만 컴퓨터 알고리즘 기반 트레이딩 시스템을 운영하는 회사들에게는 치명적인 문제였다. 헤지펀드와 초단타 매매 회사들은 알고리즘을 통해 방대한 양의 뉴스와 SNS를 뒤지며 시장이 움직이는 신호를 빠르게 잡아내 실시간으로 투자 전략을 바꾼다. 인간 대신 컴퓨터가 시장과 종목의 투자 수익률을 분석해 저평가된 투자 대상을 골라내는 퀀트투자도 마찬가지다.

한 퀀트 투자사의 경영진은 FT에 “컴퓨터는 가짜뉴스와 소셜 미디어 게시물을 가려내는 데 더욱 능숙해지고 있지만, 기계가 생성한 잘못된 정보는 새로운 영역”이라고 지적했다. 헤지펀드 플로린 코트 캐피털의 설립자 더그 그리닉은 “AI는 정보 환경에서 (인간이) 온갖 장난을 칠 수 있도록 해주고 있다”며 “이를 관리하기 어려워지고 있다”고 말했다.

이들은 AI가 인간은 물론 컴퓨터마저 속일 수 있는 가짜 이미지나 가짜 뉴스를 생산할 만큼 진화할 경우를 우려하고 있다. 그간 트레이딩 기업과 헤지펀드들은 인간이 만들어 낸 정보의 신빙성을 분석하고 이를 기반으로 투자 결정을 하는 알고리즘 개발에 막대한 돈을 들여 투자를 해왔다. 그러나 AI가 알고리즘마저 속이는 가짜 콘텐츠를 만들 만큼 진화하면 무용지물이 된다.

더 큰 문제는 인간이 AI가 만든 가짜 콘텐츠를 진실로 받아들일 때다. 소프트웨어 기업 레이븐팩의 수석 데이터 사이언티스트 피터 하페즈는 “알고리즘은 인간의 뇌를 모방해 정보를 습득하고 판단한다”며 “가짜 뉴스를 진실로 여기고 보도한 뉴스 보도를 분석하면 실제 사건으로 취급하고, 이에 기반한 분석과 투자 판단을 내놓을 수 있다”고 설명했다.

때문에 트레이딩 기업들은 이미 여러 뉴스들을 교차 확인하는 알고리즘 개발에 착수했다. 스위스 SYZ은행의 찰스-헨리 몬차우 최고투자책임자(CIO)는 “최근 (AI발 가짜뉴스 등 요인으로) 가격이 특정 수준에 도달하면 보유한 자산을 매도해 투자자들이 추가 손실을 입지 않도록 하는 손절매수 주문이 늘었다”고 전했다.

다만 FT는 “모든 퀀트 투자사가 이 문제를 맞닥뜨린 것은 아니다”라며 “많은 퀀트투자는 뉴스가 아닌 시장의 흐름을 보며 투자 결정을 내리는 만큼 단기적인 가격 변동에 흔들리지 않는다”고 전했다.

노유정 기자 yjroh@hankyung.com