사진=연합뉴스
사진=연합뉴스
유명 역사학자인 유발 하라리 이스라엘 히브리대 교수가 인공지능(AI) 기술이 재앙과 같은 금융위기를 일으킬 가능성이 있다고 우려를 제기했다.

하라리 교수는 9일(현지시간) 영국 일간 가디언과 인터뷰에서 "금융계는 오직 데이터만으로 이뤄져 있기 때문에 AI에 이상적으로 적합한 분야"라며 이같이 밝혔다.

하라리 교수는 2008년 세계 금융위기가 부채담보증권(CDO)처럼 극소수만 이해할 수 있고 따라서 적절하게 규제되지 않은 금융상품에 의해 초래됐다고 설명했다.

하라리 교수는 "거의 당연히 인간, 심지어 그 기술을 창조한 인간조차 (AI의) 모든 잠재적 위험성과 문제점을 예상하기 극히 어렵다"고 강조했다.

그는 "AI가 금융 시스템에 대해 더 큰 통제권을 가질 뿐만 아니라 AI만 이해할 수 있고 사람은 아무도 이해할 수 없는 새로운 금융 도구를 창조하기 시작하면 어떤 일이 벌어지겠느냐"며 "스스로 결정을 내릴 수 있고 스스로 새로운 아이디어를 만들어내며 스스로 학습하고 개발할 수 있는 최초의 기술이기 때문에 인류 역사상 기존의 모든 기술과 다르다"고 진단했다.

또 AI와 관련해 핵무기처럼 모두가 이해할 수 있고 위험한 단일 시나리오는 없다면서 "매우 많은 수의 위험한 시나리오가 있다"고 전했다. 그러면서 "개별 시나리오 각각의 가능성은 상대적으로 작지만, 합하면 인류 문명의 생존을 해칠 수 있는 위협이 된다"고 말했다.

또 AI 안전과 관련해선 특정한 법·규제 조항을 만드는 것이 아니라 AI 기술을 잘 알아 새로운 기술혁신에 신속하게 대응할 수 있는 규제기관 설립에 초점을 맞춰야 한다고 강조했다.

이런 차원에서 그는 지난주 미국·영국 등 주요 국가들이 AI 안전과 관련해 정상회의를 갖고 발표한 '블레츨리 선언'에 대해 "매우 중요한 한 걸음 전진"이라고 평가했다.

지난 2일 폐막한 AI 안전 정상회의에는 미국·영국 등 10개국 정부와 유럽연합(EU), 오픈AI·구글 등 AI 기업들이 참가, 첨단 AI 모델의 출시 이전과 이후 안전성을 시험하기 위해 협력하기로 합의했다.

신현보 한경닷컴 기자 greaterfool@hankyung.com