빠르게 진화하는 인공지능(AI)이 인류를 멸종시킬 만큼 위협적이라는 경고가 미국에서 나왔다.

12일(현지시간) 미국 CNN방송에 따르면 AI 정책 컨설팅기업 글래드스톤AI는 최근 발표한 보고서에서 “가장 발전한 AI 시스템이 최악의 경우 인류 멸종 수준의 위협이 될 수 있다”고 지적했다. 이 보고서는 미국 국무부 의뢰를 받아 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기 전문가 200여 명을 1년에 걸쳐 인터뷰해 제작됐다.

연구진은 가장 발전한 AI 시스템이 무기가 될 수 있다고 경고했다. 기업들이 안전과 보안을 희생하면서 경쟁적으로 AI 개발을 가속화하고 있는데 어느 시점에서는 AI 통제력을 잃을 수 있다는 것이다.

이들은 보고서를 통해 “AI와 범용인공지능(AGI)의 부상은 핵무기처럼 세계 안보를 불안정하게 할 수 있다”고 밝혔다.

이를 방지하려면 미국 정부가 AI 감독기관과 규제 장치를 만들고 AI 훈련에 사용되는 컴퓨터 성능을 제한하는 등 개입이 필요하다고 주장했다.

한경제 기자 hankyung@hankyung.com