캘리포니아 주지사, AI 안전법에 거부권 행사…실리콘밸리 '안도'

1억 달러 AI 모델에 강력한 규제하는 'SB1047'
한 달간의 논란 끝에 실리콘밸리 勝
스콧 위너 "거대 기업 감독 좌절"

사진=연합뉴스

개빈 뉴섬 캘리포니아 주지사(사진)가 인공지능(AI) 규제법에 거부권을 행사했다. 강력한 AI 규제 시도에 일단 제동을 걸며 한 달간 이어진 논란에 마침표를 찍고, 실리콘밸리의 손을 들어줬다는 평가가 나온다.

美 내 최대 AI 규제법 불발

뉴섬 주지사는 29일(현지시간) 성명을 통해 'SB1047'로 알려진 이 법안이 "AI 시스템이 고위험 환경에 배치되는지, 중요한 의사 결정이 포함되는지, 민감한 데이터가 사용되는지 여부를 고려하지 않는다"며 거부권 행사 이유를 밝혔다. 이어 해당 법안이 "가장 기본적인 기능에도 엄격한 기준을 적용한다"며 "대중을 보호하는 가장 좋은 방법이라고 생각하지 않는다"고 덧붙였다. 주 의회가 지난달 28일 이 법안을 통과시킨 지 한 달만에 내려진 결정이다. 뉴섬 주지사는 서명 기한인 30일을 하루 앞두고 거부권을 행사했다.

AI 규제법은 개발 비용이 1억달러가 넘는 AI 모델을 기업이 대중에게 공개할 때는 사전에 안전성을 시험해야 한다는 내용을 담고 있다. AI 모델 출시 후 AI가 인명 사망 또는 5억달러(약 6600억원)에 이르는 재산 피해를 일으켰다면 주 법무장관이 기업을 고소할 수도 있다. 비상 상황 시 AI 모델을 완전히 종료하는 '킬 스위치' 기능도 탑재하도록 하고, AI 시스템의 문제를 공개하려고 하는 직원에 대한 내부 고발자 보호 조치도 마련하는 방안이 담겼다. 해당 법안은 본사가 어디에 있든 캘리포니아 내 모든 회사에 적용한다는 점에서 미국 내에서 가장 강력하고 광범위한 AI 규제가 될 수 있다는 평가를 받았다.

뉴섬 주지사는 해당 법안의 취지는 '선의'에 해당한다면서도 법안이 AI 모델의 규모에만 중점을 둘 뿐 AI의 활용 맥락은 고려하지 않는다고 지적했다. 월스트리트저널(WSJ)은 "대규모 AI 모델은 고객 서비스와 같이 위험성이 낮은 활동을 전담할 가능성이 높지만, 오히려 소규모 AI 모델이 전력망이나 의료 기록과 같은 민감한 데이터와 관련된 중요한 의사 결정 과정에 쓰일 수 있다는 가능성이 있다"고 설명했다.

"혁신 저해 우려" 실리콘밸리 기업들 손 들어준 뉴섬

이번 거부권 행사로 AI 규제에 반대하며 '탈(脫)실리콘밸리'까지 예고했던 기업들은 안도의 한숨을 내쉬게 됐다. 오픈AI, 구글, 메타, 마이크로소프트(MS) 등은 AI 규제법이 혁신을 저해하고 AI 시장을 장악하려는 미국의 발목을 잡을 수 있다며 반대해왔다. 낸시 펠로시 전 하원의장도 민주당 의원에 거부권을 행사하라고 요청하는 등 정치권에서의 논란도 커졌다. 뉴욕타임스는 최근 몇 주 동안 거부권 행사를 목적으로 한 로비스트들의 활동도 크게 늘었다고 전했다.

법안 발의자인 민주당 소속 스콧 위너 캘리포니아주 상원의원은 뉴섬의 거부권 행사에 대해 "캘리포니아가 다시 한번 혁신적인 기술 규제를 선도할 기회를 놓쳤다"며 아쉬움을 표했다. "대중의 안전과 복지, 그리고 지구의 미래에 영향을 미치는 거대 기업에 대한 감독을 기대했던 모든 사람에게는 좌절과도 같다"고 평가했다.

다만 이날 뉴섬 주지사는 거부권 행사와 함께 AI 연구자들과 협력해 AI 규제 방안을 연구하는 중이라고 발표했다. 'AI의 대모'라 풀리는 페이페이 리 미국 스탠퍼드대 컴퓨터공학과 교수, 제니퍼 투어 체이스 UC버클리대학 컴퓨팅·데이터 과학 및 사회과학대학 학장 등이 자문에 참여하고 있다고 밝혔다.

김세민 기자 unijade@hankyung.com