테일러 스위프트부터 바이든까지…AI주 최대의 적은 '딥페이크'

국내 AI 관련주 올트먼 방한 이후 주가 하락
스위프트 딥페이크 사태 이후 AI 규제 목소리

바이든, 지난해 10월 'AI 행정명령' 발동 첫 규제
"AI 중장기 성장산업으로 단기 대응 금물"

팝스타 테일러 스위프트가 지난 7일 일본 도쿄에서 공연을 펼치고 있다. 지난달 스위프트의 딥페이크 음란 사진이 SNS를 통해 퍼지면서 미국 의회를 중심으로 AI 선도 업체들에 대한 규제 목소리가 커지고 있다. /AP

지난해부터 올 연초까지 뜨거웠던 인공지능(AI) 관련 종목들이 국내 주식시장에서 주춤하고 있다.

샘 올트먼 오픈AI 최고경영자(CEO)의 방한 이후 마땅한 상승동력(모멘텀)이 없는 데다, 지난달 세계적인 팝스타 테일러 스위프트 '딥페이크' 음란 이미지가 사회관계망서비스(SNS)를 통해 퍼진 것을 계기로 전 세계적으로 AI 규제 목소리가 커지면서 투자심리에 제동을 건 것 아니냐는 분석이다.

16일 한국거래소에 따르면 국내 증시에서 AI 관련주로 분류되는 이스트소프트(-28.60%), 한글과컴퓨터(-15.16%), 플리토(-33.69%), 폴라리스오피스(-17.68%), 포바이포(-16.39%), 크라우드웍스(-12.39%), 코난테크놀로지(-11.95%) 등은 올트먼이 방한했던 지난달 26일 이후 전날까지 주가가 큰 폭으로 떨어졌다.

이들 종목은 지난해 오픈AI의 '챗GPT' 등 주식시장에서 생성형 AI 열풍을 재료 삼아 주가가 2~3배씩 올랐다. 올 들어서도 지난달 26일까지 이스트소프트(220.65%), 포바이포(135.49%), 플리토(87.31%), 폴라리스오피스(84.68%) 등은 수십에서 수백퍼센트씩 주가가 뛰었다.

박상현 하이투자증권 연구원은 "자체 AI 칩 개발을 추진 중인 올트먼의 방한으로 AI 관련 투자 확대 기대감 등이 자극됐던 것으로 보인다"며 "특히 이는 외국인의 국내 주식 순매수 흐름에 긍정적 영향을 미쳤다"고 설명했다.

지난해 2월 엑스(X·옛 트위터)에는 조 바이든 미국 대통령이 우크라이나 지원을 위해 징병을 하겠다고 밝힌 딥페이크 영상이 올라왔다. /엑스(X) 갈무리

갑작스런 AI 관련주에 대한 투자심리 악화는 스위프트와 조 바이든 미국 대통령에 대한 딥페이크 사태 등 부정적 요소가 부각되면서 AI 규제 목소리가 커지고 있는 것과 무관치 않다.

최근 미국에서는 AI가 생성한 딥페이크 이미지에 규제가 필요하다는 목소리가 높아지고 있다. 특히 지난달 말 인기 최정상의 팝스타인 스위프트의 사진을 합성한 딥페이크 음란 이미지가 SNS 엑스(X, 옛 트위터) 등에서 확산한 사건이 큰 계기가 됐다.

이 사건을 계기로 미 의회와 행정부에선 규탄의 목소리가 쏟아졌다. 이베트 클라크 민주당 하원의원은 "수년 동안 여성들은 동의 없는 딥페이크의 표적이 돼 왔고, AI의 발전으로 딥페이크 만들기가 더욱 쉽고 저렴해졌다"며 "초당적 협력을 통해 해결해야 하는 문제"라고 했다. 카린 장피에르 백악관 대변인도 "백악관은 계속해서 생성형 AI가 생산한 이미지의 위협을 줄이려는 노력을 이어갈 것"이라며 "의회도 전략적 입법 조치를 해야 한다"고 말했다.

스위프트 사건뿐만이 아니다. 최근 미국 대선과 관련해서도 뉴햄프셔 프라이머리(예비경선)을 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 바이든 대통령의 가짜 목소리를 담은 전화 음성이 SNS를 통해 확산돼 문제를 일으키기도 했다.

도널트 트럼프 전 미국 대통령 딥페이크 사진. /엘리엇 히긴스 엑스(X) 갈무리

바이든 정부는 지난해 10월 '안전하고 믿을 수 있는 AI를 위한 행정명령'을 통해 AI 기술 개발에 가이드라인을 설정하면서 업계의 반발을 샀다. 이 가이드라인 중 '기술 개발 기업이 안전성 테스트 결과와 이외 중요 정보를 정부와 공유'하게 한 점, '연방거래위원회(FTC)로 하여금 권한을 행사해 공정하고 경쟁적인 AI 생태계를 조성하게 한 점' 등이 과도한 침해라는 비판을 받았다.

이혜원 KB증권 연구원은 "트럼프 행정부가 AI에 대한 연구개발(R&D) 지출 확대와 미국의 기술 우위를 지키는 데 초점을 뒀던 반면 바이든 행정부는 AI 위험성 규제에 초점을 두고 있다"며 "바이든의 행정명령은 세계적 AI 규제에서 선도에 서기 위한 측면이 있으나 성장중인 AI 산업에 제약을 가할 수도 있다"고 설명했다.

AI에 대한 일각의 우려에 대해 업계에선 보완 방안을 준비하고 있다. 메타, 구글, 마이크로소프트(MS), 오픈AI, 어도비, 틱톡 등 AI 선도 업체들은 이날 독일 뮌헨에서 열리는 '뮌헨 보안 콘퍼런스'에서 딥페이크 퇴치를 위한 협약을 발표할 예정이다. 생성형 AI 이미지에 보이지 않는 워터마크(복제를 막기 위한 표시)나 디지털 라벨(꼬리표)을 붙이는 방안이 나올 것으로 보인다.

다만 AI는 중장기 성장산업인 만큼 단기 대응보다는 관망하는 전략이 필요하다는 조언이다. 임지용 NH투자증권 연구원 "딥페이크 논란, AI 음성 변조를 선거에 악용하는 등 AI의 부정적 활용 사례가 나오고 있어 규제 목소리가 높지만 AI 선도 기업이 안전 대책을 마련하고 책임감 있는 조치를 취할 것으로 예상한다"며 "규제가 나오더라도 시간이 걸릴 것이고 당국의 입법 조치 역시 AI 발전 속도를 통제할 수 없기 때문에 단기 대응은 금물"이라고 말했다.

노정동 한경닷컴 기자 dong2@hankyung.com