'가짜 한동훈' 잡고 로고송 만들고…선거판 살림꾼 된 AI [긱스]
입력
수정
지면A15
선거 앞두고 도입 열풍“페이크(fake·가짜). 조작된 영상입니다.”
인조음성 만드는 일레븐랩스
딥페이크 잡는 딥브레인AI
연설문 작성하고 공약 개발
정치권, 선거운동에 AI 활용
'AI 정치인'은 총선서 금지
"긍정적 활용 방안 찾아야"
한 유튜브 채널에 올라온 1분 안팎의 한동훈 국민의힘 비상대책위원장 발언 영상 파일을 인공지능(AI) 스타트업 딥브레인AI의 딥페이크 탐지 솔루션에 올리자 AI가 빠르게 조작 여부를 감별하기 시작했다. 5~6분가량의 시간이 흐른 뒤 나온 판별 결과는 ‘가짜.’ 얼굴을 교체하는 ‘페이스 스와프’와 가짜 음성을 입히는 ‘립싱크’ 기술로 제작한 딥페이크 영상이었다.
○한국·미국 활용 확대
우크라이나 AI 스타트업 리페이스 앱은 1주일에 6500원만 내면 가짜 이미지를 뚝딱 생성해준다. 전 세계에서 1억 명 이상이 내려받았다. 최근엔 미국 스타트업 일레븐랩스에 대한 관심이 높다. 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 이 스타트업의 음성 생성 기술로 만들어졌기 때문이다. 바이든 대통령이 자주 쓰는 어투를 똑같이 따라 해 논란이 됐다.딥페이크를 감별하는 기술도 주목받고 있다. 지난 대선 때 ‘AI 윤석열’을 선보인 국내 스타트업 딥브레인AI는 이번 총선을 앞두고 딥페이크 영상을 탐지하는 솔루션을 서비스형소프트웨어(SaaS) 형태로 내놨다. 이정수 딥브레인AI 이사는 “정치 분야에 딥페이크가 악용되는 사례가 많아지면서 새로운 시장이 생겼다”며 “특히 개발도상국 선거 때 가짜 영상을 판별하기 힘든 경우가 많아 솔루션 수출 방안도 모색 중”이라고 했다.
선거를 앞두고 관련 스타트업의 몸값도 높아지고 있다. 인공음성 생성 스타트업 일레븐랩스는 최근 8000만달러 규모 투자를 유치해 회사 가치를 11억달러(약 1조4700억원)까지 끌어올렸다. 창업 2년 만에 유니콘 기업 반열에 올랐다. ‘애슐리’라는 AI 비서를 개발한 미국 스타트업 시복스도 최근 글로벌 투자사 사이에서 관심이 뜨겁다. 애슐리는 사회 및 정치 이슈에 대해 유권자와 자연스럽게 1 대 1 대화를 이어 나갈 수 있는 선거운동 특화 AI다.
○연설문·로고송도 AI 제작
한국 정치권에서도 공약 개발과 연설문 작성 등에 스타트업 기술이 활발하게 사용되고 있다. 국내 스타트업인 뤼튼테크놀로지스의 AI 챗봇 뤼튼은 연설문 작성에 주로 활용된다. 또 다른 국내 스타트업 리턴제로의 숏폼 편집 툴 아이코는 긴 영상을 숏폼으로 알아서 변환하고 자막까지 단다. 한 국민의힘 의원 관계자는 “후보자들이 AI의 도움을 받는다는 걸 굳이 밖에 알리진 않지만 내부적으론 이미 다양하게 활용하고 있다”며 “선거운동에 필요한 인력을 아낄 수 있다는 게 가장 큰 장점”이라고 했다.선거운동 비용을 줄여주는 스타트업 서비스도 있다. 국내 AI 음악 스타트업 포자랩스의 서비스를 쓰면 작곡가를 따로 고용하지 않고도 쉽게 로고송을 만들 수 있다. 패션테크 스타트업 에이아이바는 최근 선거용 의류와 선거 띠를 쉽게 제작할 수 있는 플랫폼을 내놨다. 김보민 에이아이바 대표는 “후보자들이 의류나 물품을 직접 편집, 제작할 수 있어 적은 비용으로도 선거운동을 할 수 있다”고 말했다. 매번 확인이 번거로운 정치자금법과 공직선거법 내용을 빠르게 확인할 수 있는 AI 챗봇도 등장했다. 리걸테크 스타트업 로앤굿의 선거법 챗봇이다. 중앙선거관리위원회 홈페이지에 게시된 서면질의와 온라인 질의응답 1만 건을 AI에 학습시켰다.○‘AI 윤석열’은 금지
2022년 대선 때 뜨거웠던 ‘AI 정치인’은 이번 총선에선 전면 금지됐다. 선거일 90일 전부터는 ‘AI 윤석열’ ‘AI 이재명’ 등을 활용한 선거운동을 할 수 없다. 지난 대선과 지방선거 때는 실제 후보와 똑 닮은 가상 인간이 시간과 장소에 구애받지 않고 전방위로 선거를 지원했다. 대선 후보였던 김동연 경기지사는 영입 인재 1호로 AI 대변인 ‘에이디’를 소개하기도 했다.당시에도 정치권 평가는 엇갈렸다. 선거 비용을 획기적으로 줄이고 유권자들의 관심을 끌 수 있다는 건 장점. 하지만 잘 짜인 대본을 학습한 AI가 유권자들에게 ‘착시 효과’를 일으킬 수 있다는 비판도 적지 않았다. 지난 지방선거 때 윤석열 대통령이 남해군수 후보를 지지하는 영상이 SNS에 돌았는데 가짜로 판명됐다.글로벌 빅테크들은 선거에 AI가 악용되는 것을 막기 위한 조치를 연이어 발표하고 있다. 오픈AI는 한 미국 민주당 경선 후보의 선거용 챗봇인 ‘딘닷봇’ 운영을 금지했다. 딘닷봇을 개발한 AI 스타트업 델파이 계정은 정지되고 챗봇도 삭제됐다. 미드저니도 11월 미국 대선이 끝날 때까지 주요 후보의 선거용 이미지 생성을 막기로 했다. AI 챗봇의 정치적 편향성도 논란거리다. 미 워싱턴대 등 공동연구진의 연구에서 챗GPT는 진보 성향, 메타 라마는 보수 성향의 답변을 내놨다.
○“기술 잘 활용할 방안 찾아야”
딥브레인AI는 이번 총선 때 AI 휴먼 기술을 활용할 수요가 많을 것으로 예상하고 휴먼 AI 제작 서비스(드림아바타)를 준비했다. 하지만 AI 휴먼 활용 금지 규제가 생기면서 계획이 무산됐다. 이정수 이사는 “AI가 선거에 긍정적으로 활용될 수 있는 부분이 많은데 딥페이크 관련 활용을 다 막은 것은 아쉬움이 크다”고 말했다.전문가들은 다음 선거부터는 AI를 제대로 감시하면서도 적절히 활용할 수 있는 방안을 새롭게 모색해야 한다고 보고 있다. 2026년 지방선거와 2027년 대선 때는 AI 기술이 지금보다 훨씬 더 발전할 텐데 그때도 딥페이크 활용을 모두 규제할 수는 없다는 얘기다. AI 기술을 통째로 틀어막기보다 악용 사례가 나왔을 때 제재하는 게 더 바람직하다는 목소리도 나온다. 전병곤 서울대 컴퓨터공학부 교수는 “무조건 규제하는 것보다는 일단 허용하고 문제가 되는 부분이 있다면 검토 후 제재하는 방식이 옳다”고 말했다.
고은이 기자 koko@hankyung.com