"6개월만 AI 개발 멈추자"…머스크 등 IT거물 1000명 서명

"위험 관리 확신 있을 때만 개발"
'中에 기회만'·'오픈AI 견제' 시선도

사진=연합로이터

일론 머스크 테슬라 최고경영자(CEO) 등 AI 전문가들이 6개월간 첨단 AI 개발을 일시 중단해야 한다고 주장했다. 적절한 규제와 안전망이 마련될 때까지 AI 개발을 일시 중단해야 한다는 것이다.

29일(현지시간) 로이터 통신·CNN 등 외신에 따르면 미국 비영리단체 '삶의 미래 연구소'(FLI·Future of Life Institute)는 "독립적인 외부 전문가가 감독하는 안전 프로토콜을 개발할 때까지 모든 AI 연구실에서 오픈AI가 최근 공개한 AI 모델 GPT-4보다 강력한 AI 개발을 최소 6개월간 즉시 중단할 것으로 요청한다"는 공개 서명에 머스크와 워즈니악을 포함한 유명 인사 1280명의 서명을 받았다고 밝혔다.

이 서한에는 이미지 생성 AI인 스테이블디퓨전 개발사인 스테빌리티AI의 에마드 모스타크 CEO, 에번 샤프 핀터레스트 CEO, 세계적 베스트셀러 작가인 유발 하라리, AI 권위자인 스튜어트 러셀 UC버클리 컴퓨터과학과 교수, 알파벳 산하 AI 기업 딥마인드의 연구진 등 유명 AI 전문가들이 서명했다.

이들은 서한에서 "최첨단 AI는 지구상의 생명 역사에 중대한 변화를 나타낼 수 있다"며 "강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다"고 주장했다. 만약 이러한 중단을 신속하게 시행할 수 없다면 정부가 개입해 유예 조치를 취해야 한다고도 덧붙였다.

지난 22일부터 시작된 이 공개 서명은 머스크 같은 AI 업계 거물들이 잇따라 서명을 했다는 소식이 전해졌다. 당초 이름과 직책, 이메일 주소만 넣으면 참여할 수 있으면서 초반엔 네티즌들의 친 장난에 시진핑 중국 국가주석, 영화 캐릭터 존 윅, 샘 올트만 오픈AI CEO 등의 이름도 들어가 있었다.

이에 따라 정말 AI 업계 유명인들이 서명했느냐는 논란이 있었다. 그러나 FLI 측은 29일 "요수아 벤지오 교수, 스티브 워즈니악, 유발 하라리, 일론 머스크, 게리 마커스 뉴욕대 명예교수 등 1000명 이상이 서명을 했다"고 공식 확인했다. FLI 측은 "목록에 있는 상위 서명자는 직접 연락해 서명 사실을 확인했다"면서도 "전체 목록에 대해 확인하는 것은 우리의 능력을 초과한다"고 밝혔다.

일각에서는 이 서명이 전 세계 테크 업계에 부정적 영향을 가져올 수 있다는 우려가 나온다. 특히 미국에서 개발을 중지할 경우, 미국 영향권을 벗어난 중국에 기술력을 따라잡는 기회만 주는 것 아니냐는 비판도 제기된다.

한쪽에서는 이번 서명이 AI 주도권을 가진 오픈AI와 이를 따라잡으려는 AI 업체들의 '견제구'로 바라보는 시선도 나온다. 해당 서명엔 구글과 구글의 딥마인드, 메타, 스테이블AI 같은 업체의 관계자 서명은 있지만, 오픈AI 관계자의 서명은 없다.

신현보 한경닷컴 기자 greaterfool@hankyung.com