인공지능과 그 敵들

중국 정부는 미군과 다른 사람들로부터 훔친 데이터로 무엇을 하려고 할까. 인공지능(AI)의 잠재적인 이익은 많은 사람이 이미 인지하고 있을 정도로 널리 홍보되고 있다. 그러나 그 위험성은 국가 안보 전문가들 사이에서만 조용히 논의되고 있는 듯하다. 이제는 일반 대중을 그 토론에 끌어들일 때가 왔다.

AI의 혜택은 매우 유혹적이다. AI 덕분에 인류는 더욱 길어진 수명을 기대할 수 있게 됐다. 기업들의 생산성을 증가시키고, 귀중한 자원들을 과거보다 더 잘 보존할 수 있게 해 준다. 사람들은 다리에 있는 점을 찍어 디지털 기술로 피부과 의사에게 보낼 수 있고, 피부과 의사는 AI 기술을 활용해 그 점이 피부암인지 여부를 판단할 것이다.

데이터 기반의 센서와 드론은 농약과 물의 비율을 완벽히 조절해 제공함으로써 농업 생산성을 높일 수도 있다. 교통 부문의 AI 혁명은 운전자가 전혀 개입하지 않고 스스로 주행하는 자동차와 비행기 등이 곧 등장할 것임을 예고하고 있다. 우리가 즐기는 음악은 이제 단순히 기분을 좋게 할 뿐만 아니라 우리의 심박 수와 뇌 활동을 향상시키기 위한 수단이 되기도 한다.

그러나 우리는 이 같은 첨단기술이 질병을 일으키는 데도 사용될 수 있다는 것을 알아야 한다. 최악의 시나리오는 악당들이 기계를 조작하고, 깊이 있는 통찰력을 제공할 수 있는 방대한 데이터를 통제하는 데서 비롯된다.

미국과 중국은 누가 국제사회의 새로운 권력을 장악할 것인가를 놓고 치열한 경쟁을 벌이고 있다. 중국 공산당은 2030년까지 AI 부문에서 세계 최고가 될 것이라고 공언해왔다. 이미 중국은 세계 전역에 5세대(5G) 이동통신 네트워크를 구축하고 있고, 새로운 가상화폐를 개발하고 있다. 또 막대한 양의 정보를 통제하고 그것을 자신들의 정치·경제적 이익을 위해 사용할 수 있는 세상을 구축하는 데 힘쓰고 있다. 중국은 이미 14억 명의 자국민들에 대한 방대한 양의 자료를 확보했다. 중국 국민 가운데 어느 누구도 공산당 정권 아래서 사생활을 갖고 있지는 않은 것 같다.

그럼에도 중국 정부는 만족하지 않고 있다. 그들은 미국을 겨냥했고, 이미 미국 국민과 군대에 관한 가장 민감한 정보의 일부를 빼내가고 있다. 여기에는 2013년부터 의료 시스템과 데이터베이스(DB)를 반복적으로 침해하는 행위, 미 해군의 선박 정비 기록과 10만 명에 이르는 인적 사항을 캐내 온 것 등이 포함된다.

시간이 지나면 중국은 AI를 통해 미국인의 데이터를 악용할 수 있게 될 것이다. 예를 들어 개인화된 의료 기록은 개인화된 바이오 무기가 될 수 있다. 2017년 퇴역한 중국 장군 장스보는 생명공학을 활용해 특정 민족을 유전학적으로 공격할 수 있는 능력을 키울 수 있다고 했다. 중국이 빼내간 미 해군 자료를 살펴보면 미국이 어떻게 함대를 유지하는지 이해할 수 있다. 또 중국이 미국과 무기 경쟁을 벌이면서 미 해군 선박 설계의 취약성을 파악하는 데도 도움이 될 것이다.

이에 맞서기 위해 미국은 자체적인 딥러닝(심화학습) 모델을 훈련시키기 위해 방대한 데이터를 필요로 할 것이다. 미군은 현역 군인과 퇴역자, 군무원과 그 가족 등에 대한 3500만 개 이상의 개인 기록을 수집해 보유하고 있다. 이런 기록에는 표준적인 개인 정보 외에도 재무 정보, 훈련 기록뿐만 아니라 신체 및 도덕적 적성검사 결과 등도 포함된다. 무기 개발, 시험, 유지 관리 등에 대한 데이터는 훨씬 더 많이 보관된다.

의심할 여지 없이 미 국방부가 2020년에 AI와 머신러닝(기계학습) 연구 개발에 투입할 40억달러 가운데 일부는 더 나은 군사 하드웨어를 구축하는 데 쓰일 것이다. 또 각종 시스템의 유지 보수 필요성을 예측하고, 병력 배치를 최적화하고, 첨단 전장의학을 개발하는 데도 활용할 것이다. 이런 교육 모델은 더 많은 데이터를 제공할수록 더 정확해진다. 그러나 만약 군의 데이터가 유출된다면 그 정보는 그만큼 우리에게 해를 끼칠 가능성이 높다. 적은 우리가 알고 있는 것을 알게 되고, 우리가 보는 것을 보고 있는 것이다. 중국이 미군 전략 회의실 안에 있는 것이나 다름없다.

국방혁신위원회는 국방부의 AI 원칙에 대한 새로운 보고서를 발표했다. AI 시스템은 사용되는 동안 반복적으로 ‘안전성, 보안성, 견고성’ 등을 유지해야 한다고 강조한다. 이 자료의 중요성과 미국의 미래를 고려할 때 미군은 내일의 AI를 구축하는 데 필요한 하드웨어, 소프트웨어, 저장장치 등의 기초 위에서 완벽한 보안을 구축해야 한다.

미국이 안전하지 않은 시스템을 가동하고 상대국이 데이터를 해킹하거나 공급망을 악성 소프트웨어와 위조 하드웨어로 감염시키게 놔두는 과거의 실수를 되풀이하지 않도록 경계해야 한다. 우리의 최고 과학자들과 기술자들이 미국의 안보와 번영을 증진시키기 위해 지금 만들고 있는 AI는 반대로 죽음의 씨앗을 뿌릴 수도 있다.

데이터 무결성과 공급망 보안이 생체공학 로봇을 개발하는 알고리즘을 구축하는 것만큼 멋지게 들리지 않을 수도 있지만, 그것은 훨씬 더 중요하다. AI 혁명을 촉진하기 위해 사용하는 데이터를 우리가 지키지 못한다면, 그것은 우리의 적군을 위한 AI 역량을 구축하고 있는 것이나 다름없다.

원제=Artificial Intelligence and the Adversary
정리=안정락 기자 jran@hankyung.com

THE WALL STREET JOURNAL 한경 독점제휴

[column of the week] 인공지능과 그 敵들