"AI 제품 출시 전 안전성 시험"…미·영 등 합의, 중국은 빠져

AI 안전 정상회의 참석자 기념사진 /영국 정부 제공

미국과 영국 등 주요 국가와 인공지능(AI) 기술을 개발하는 테크기업들이 새로운 첨단 모델 출시 전에 안전성을 시험하기로 합의했다.

리시 수낵 영국 총리는 2일(현지시간) ‘AI 안전 정상회의’ 후 기자회견에서 “뜻을 같이하는 국가들과 AI 기업들과 함께 기념비적 합의에 이르렀다”며 “새로운 AI 모델이 출시되기 전에 안전성을 시험하기 위해 함께 노력할 것”이라고 밝혔다.

영국은 지난 1일부터 이틀간의 일정으로 블레츨리 파크에서 주요국 정상급 인사와 AI 기술을 개발하는 기업의 고위급 임원, 학계 관계자 등 100여명이 참석한 가운데 AI 안전 정상회의를 개최했다. AI 안전과 관련한 국제사회의 첫 회의로 미국, 중국, 한국 등 28개국과 유럽연합(EU)이 참여했다.

영국 정부는 이날 회의 후 발표한 성명에서 미국, 영국, 캐나다, 프랑스, 한국, 일본 등 국가의 대표들과 마이크로소프트(MS), 구글, 메타플랫폼스, 오픈AI 등의 기업 대표들이 차세대 AI 모델의 안전성을 시험하는 데 협력하는 것이 중요하다는 점을 인식했다고 설명했다. 영국 정부는 또 “첨단 AI 기술에 대한 위험을 파악하기 위해 ‘과학의 상태’ 보고서를 발간하기로 했다”고 설명했다.

수낵 총리는 이날 회의에 앞서 “AI로 인한 혜택이 있지만 한편으론 위험이 팬데믹이나 핵전쟁만큼이나 심각할 수 있다”며 “리더들은 사람들을 보호하는 조처를 할 책임이 있다”고 말했다. 우르줄라 폰데어라이엔 EU 집행위원장은 성명에서 “과학계가 독립적으로 AI 시스템을 평가할 수단을 갖춰야 하고, AI 관련 국제 기준을 만들어야 한다”고 말했다. 이어 “문제 발생 시 신속하게 대응하는 표준 절차와 국제 경보 시스템이 마련돼야 한다”고 덧붙였다.

이날 합의한 이들의 명단에 중국은 포함되지 않았다. 중국은 회의 첫날엔 참석했지만, 이 논의가 이뤄진 둘째 날엔 초청받지 않았기 때문이다.

수낵 총리와 머스크 /사진 : EPA 연합뉴스

한편, 일론 머스크 테슬라 최고경영자(CEO)는 이날 AI 안전 정상회의가 끝난 뒤 수낵 총리와 AI에 관해 단독 대담하는 행사를 가졌다. 머스크는 이 자리에서 “AI가 있는 미래에는 ‘보편적 기본소득’이 아니라 ‘보편적 고소득’ 시대가 될 것”이라고 전망했다. 삶의 의미를 어떻게 찾는가가 미래의 과제가 된다는 것이다. 머스크는 AI에 대한 규제의 필요성도 인정했다. 그는 “AI는 역사상 가장 파괴적인 힘”이라며 “규제는 귀찮은 일이지만 심판이 있는 게 좋다는 것을 여러 해에 걸쳐서 배웠다”고 말했다.

실리콘밸리=최진석 특파원 iskra@hankyung.com