AI 안전연구소 설립 뜻 모은 정상들…"지구적 난제 함께 해결"

"안전·혁신·포용"…AI 서울 선언

인공지능 서울 정상회의
尹 "AI 악영향 최소화할 것"

윤석열 대통령이 21일 온라인으로 열린 ‘AI 서울 정상회의’에서 발언하고 있다. 윤 대통령 뒤쪽으로 이재용 삼성전자 회장과 이해진 네이버 글로벌투자책임자(GIO), 브래드 스미스 마이크로소프트(MS) 부회장, 닉 클레그 메타 글로벌담당 대표 등이 보인다. 대통령실 제공

윤석열 대통령은 21일 온라인으로 열린 ‘AI 서울 정상회의’에서 “인공지능(AI)이 미칠 수 있는 악영향을 최소화해 사회의 안녕과 민주주의가 훼손되지 않도록 해야 한다”고 말했다.

윤 대통령은 이날 리시 수낵 영국 총리와 공동으로 주재한 회의에서 AI 부작용을 줄이기 위한 글로벌 규범의 정립 필요성을 강조했다. 윤 대통령은 “영국과 미국 등 주요국의 AI안전연구소 설립 움직임을 환영한다”며 “한국도 AI안전연구소를 세워 AI 안전성 강화를 위한 글로벌 네트워크에 동참하겠다”고 말했다.

윤 대통령은 안전과 혁신, 포용이라는 ‘AI 거버넌스 3원칙’도 국제사회에 밝혔다. 윤 대통령은 “거주 지역 및 소득 수준과 관계없이 누구나 AI의 혜택을 누릴 수 있도록 AI의 포용성을 확보하는 것이 중요하다”고 말했다.

이날 회의엔 삼성전자와 네이버를 비롯해 아마존, 마이크로소프트(MS), 오픈AI, 구글 딥마인드, IBM, 메타, 미스트랄AI 등 각국의 빅테크 대표들도 참석했다.

"안전·혁신·포용 위한 AI" 서울 선언
장관급 합의 그친 英 '블레츨리'…'서울 선언'은 정상급으로 발전

21일 ‘AI 서울 정상회의’에서 나온 ‘서울선언’은 인공지능(AI)을 주제로 한국과 주요 7개국(G7), 유럽연합(EU), 호주, 싱가포르 등의 정상들이 함께 만든 성과다. 지난해 11월 영국에서 열린 ‘AI 안전성 정상회의’에서도 AI 안전을 주제로 한 ‘블레츨리선언’이 나왔지만 이 문서는 장관급 합의에 그쳤다. 다루는 내용도 더 넓어졌다. 서울선언에선 AI 안전뿐 아니라 AI 혁신·포용 등으로 논의가 확장됐다.

“프런티어 AI 기업 책임 인식”

서울선언의 핵심은 국제 AI 논의에서 안전, 혁신, 포용성 등을 우선순위로 두기로 했다는 점이다. AI의 설계, 개발, 배치, 사용 분야에서 안전성, 보안성, 신뢰성 등을 전제하기로 했다. AI 관련 거버넌스를 각국이 서로 협의해 구축하기로 한 것도 의미가 크다.

산업계에서 눈여겨볼 부분은 AI기업의 책임을 강조한 대목이다. 서울선언은 “프런티어 AI를 개발하고 배치하는 단체들의 특별한 책임을 인식한다”고 명시했다. 프런티어 AI는 범용으로 쓰일 수 있는 고성능 AI 모델을 아우르는 용어다. 이날 회의에 참석한 AI 기업은 삼성, 네이버 등 한국 기업 2곳을 포함해 아마존, 앤트로픽, 코히어, 미스트랄AI, 마이크로소프트, 구글, IBM, 오픈AI 등 16곳이다.

리시 수낵 영국 총리는 “세계 각국에서 이렇게 많은 AI 선두 기업이 AI 안전성을 위한 단일 약속에 합의한 것은 세계 최초”라며 “혁신 기술을 열어줄 글로벌 AI 안전 기준을 세우는 것”이라고 말했다. 또 “작년 영국의 블레츨리 정상회의는 성공적이었고, 우리는 한국과 함께 AI 서울 정상회의에서 구체적인 진전을 이뤄내며 성공을 이어가고 있다”고 덧붙였다.

영국 과학혁신기술부는 “기업들은 위험을 충분히 완화할 수 없다면 AI 모델을 개발하거나 사용하지 않기로 했다”고 설명했다.

각국 정상들은 AI 안전연구소와 같은 연구·감독 기관 설립에도 뜻을 모았다. 이 기관들의 네트워크를 구축해 안전 연구에서 협력하겠다는 구상이다. AI 안전 과학 분야에서 협력 의지를 담은 ‘서울의향서’도 이날 회의의 부속서로 따로 공개했다. 민주주의, 법치주의, 인권·기본적 자유, 프라이버시 등의 보호, AI·디지털 격차 해소 등에 AI를 활용하겠다는 내용이다.

윤석열 대통령은 이날 회의 개회사에서 “대한민국도 AI안전연구소를 설립해 글로벌 AI 안전성 강화를 위한 네트워크에 동참하겠다”며 “AI 혁신은 글로벌 경제에 새로운 성장 동력을 부여하고 환경오염 등 지구적인 난제를 풀어가는 데 큰 도움을 줄 것”이라고 강조했다.

22일 장관 세션…지속 가능 AI 논의

회의 둘째 날인 22일엔 장관들이 머리를 맞댄다. 서울 한국과학기술연구원(KIST)에서 AI 서울 정상회의 ‘장관세션’이 대면으로 열린다. AI 안전성을 확립하기 위한 방안과 지속 가능한 AI 발전 방안을 논의한다. 한국 정부가 단독으로 주최하는 ‘AI 글로벌 포럼’도 이날 진행된다. 다음 AI 정상회의는 프랑스에서 내년 초 열릴 예정이다.

회의에 참석한 사절단들은 한국 AI 기술도 체험했다. 미셸 더넬란 영국 과학혁신기술부 장관은 21일 회의에 앞서 경기 성남시에 있는 ‘네이버 1784’를 방문했다. 네이버 사옥에서 AI, 로봇, 자율주행, 클라우드 등의 기술을 체험했다. 싱가포르 사절단도 서울 서초구에 있는 뤼튼테크놀로지스 사무실을 방문해 생성형 AI 기술에 대한 설명을 들었다.

양길성/이주현 기자 vertigo@hankyung.com