"AI 위험 막을 안전망 필요"…美·中·EU 등 첫 '공동 협력'

英서 '블레츨리 선언' 발표

안전 테스트·평가지표 개발키로
머스크 "제3 심판기구 만들자"

한국 미국 중국 유럽연합(EU) 등 세계 주요국이 인공지능(AI) 기술의 위험성에 대해 처음으로 공동 협력을 다짐했다. 작년 말 챗GPT가 등장한 이후 AI의 안전성에 관한 우려가 커지자 각국이 협력을 강화하기로 한 것이다.

1일(현지시간) 영국 블레츨리파크에서 개막한 제1회 AI 안전 정상회의(AI Safety Summit)에서 이 같은 내용을 담은 ‘블레츨리 선언’이 발표됐다. 이 선언에는 28개국과 EU가 동참했다. 각국 대표들은 “프런티어 AI(고도의 능력을 갖춘 AI)가 잠재적으로 파국적인 피해를 초래할 수 있다”며 “기술의 발전 속도를 감안할 때 이런 위험성과 대응 방안에 관해 이해도를 빠르게 키워야 하고, 이는 각국이 정책을 세우고 서로 협력해야 하는 부분”이라고 밝혔다.

선언문에는 AI의 안전을 테스트하기 위한 도구를 개발하고, AI에 관한 적절한 평가지표 개발에서 각국이 협력한다는 내용 등이 담겼다.

2일까지 이어지는 이 회의는 리시 수낵 영국 총리 주도로 마련됐다. 생성형 AI 등장 이후 AI의 안전성에 관한 우려가 커지는 가운데, 수낵 총리는 영국이 중개자로서 규제 논의를 이끌겠다는 복안으로 이번 행사를 제안했다. 세계 주요국 정상급 인사들과 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO), 일론 머스크 테슬라 CEO 등 기업인, 학계 전문가 약 100명이 참석했다.

다만 주요 7개국(G7) 정상 중엔 조르자 멜로니 이탈리아 총리만 자리했다. 그 밖에 카멀라 해리스 미국 부통령, 우르줄라 폰데어라이엔 EU 집행위원장, 안토니우 구테흐스 유엔 사무총장 등이 참석하고 윤석열 대통령은 화상으로 연설했다.

1일 오전 개막 총회에서 우차오후이 중국 과학기술부 차관은 “AI 안전성과 관련해 각계와 대화 및 소통을 강화하고, 국제 거버넌스 프레임워크 구축을 위해 협력할 태세가 돼 있다”고 말했다.

조 바이든 미국 대통령은 이번 AI 정상회의를 앞두고 지난달 30일 AI 규제 등의 내용을 담은 행정명령에 서명했다. 미국이 AI 규제 주도권을 쥐겠다는 의지로 해석된다. 지나 러몬도 미국 상무부 장관은 이번 회의에서 “국립표준기술연구소(NIST) 산하에 AI 안전 연구소를 설치하고 영국이 설립하려는 기관과 공식 파트너십을 맺겠다”고 발표했다.

머스크 CEO는 바이든의 행정명령을 겨냥한 듯 제3자 심판기구를 설립하자고 제안했다. 미국 정부가 AI 모델 출시에 앞서 각 기업이 시행한 안전실험 결과를 정부와 공유하도록 지시했기 때문이다. 머스크는 이날 기자들에게 “AI 통찰을 위한 프레임워크를 만들어 AI 기업을 감독하고 경고음을 낼 수 있는 제3자적, 독립적 심판기구가 있기를 바란다”며 “감독하기 전에 통찰부터 시작해야 한다. AI업계에서는 정부가 뭘 해야 하는지 알기도 전에 일단 성급하게 규칙부터 들이댈 것이란 우려가 크다”고 말했다.

한편 영국 정부는 다음 AI 안전 정상회의는 한국과 프랑스에서 각각 6개월 간격으로 개최된다고 밝혔다.

김리안 기자 knra@hankyung.com