"설계부터 안전하게"…18개국 참여 'AI 시스템 개발 가이드라인' 합의

오픈AI 로고. /사진=로이터

미국과 영국, 한국 등 18개 국가가 ‘안전한 인공지능(AI) 시스템 개발 가이드라인’에 합의했다.

27일(현지시간) 외신과 국가정보원에 따르면 이번 가이드라인에 영국 국가사이버안보센터(NCSC), 미국 사이버안보‧인프라보호청(CISA) 등 18개 국가의 23개 기관이 참여했다.

참가국으로 미국과 영국 외에 호주, 캐나다, 칠레, 체코, 에스토니아, 프랑스, 독일, 이스라엘, 이탈리아, 일본, 뉴질랜드, 나이지리아, 노르웨이, 폴란드, 한국, 싱가포르 등이 있다. 중국은 참여하지 않았다.

가이드라인은 영국 NCSC와 미국 CISA가 주도하고, 국정원 등 주요국 사이버안보기관이 협력 파트너로 대거 참여한 결과물이다.

국정원에 따르면, 이번 가이드라인은 AI 기술자들이 안전하게 시스템을 개발할 수 있도록 실용적인 조언을 담고 있다. 가이드라인은 먼저 개발 과정 전반에 걸쳐 ‘보안내재화’를 강조하면서, △보안에 대한 책임 △책임성‧투명성 보장 △기업 영업 시 보안내재화 최우선적 고려 등 3개 원칙을 제시했다.

또한 안전한 AI 시스템 개발방법에 대해 설계‧개발‧배포‧운영 등 4단계로 구분했다. 단계별로 상세한 조치사항을 담았다. 먼저 설계할 때 시스템에 대한 위협요소를 분석하고, 윤리적 요소를 고려하도록 했다. 개발 시에는 공급망 보안 대책을 마련하고, 배포 과정에선 IT 인프라와 AI 모델 조작 환경을 보호하도록 했다. 시스템을 운영할 때는 모니터링 및 자동 업데이트 보안대책을 적용해야 한다.

젠 이스털리 CISA 국장은 “이번 가이드라인은 설계상 안전한 AI 개발 및 배포를 위한 전 세계 정부의 공동 노력이라는 점에서 중요한 이정표”라며 “AI 시스템의 안전한 개발을 위한 탄력적인 기반을 구축하기 위해 전 세계가 함께 나아가야 한다”고 말했다.

실리콘밸리=최진석 특파원/김진원 기자 iskra@hankyung.com