미국 주요 빅테크가 포진한 캘리포니아주 의회에서 인공지능(AI) 규제법을 통과시켰다. AI 안전성 검증을 의무화하는 등 기존 다른 주에서 도입한 AI 법안보다 강력한 규제 내용을 담았다. 일부 빅테크는 AI 기술 혁신이 저해될 것을 우려하며 입법이 확정되면 캘리포니아를 떠나겠다는 입장까지 밝히고 있다.

○AI 피해에 형사 고소할 수도

초강력 'AI 규제법' 덮친다…실리콘밸리 긴장
뉴욕타임스(NYT)는 28일(현지시간) 캘리포니아주 하원이 AI 규제를 위한 ‘SB1047’ 법안을 찬성 49표, 반대 1표로 통과시켰다고 전했다. 법안은 주 상원으로 전달되지만 상원은 이미 한 차례 법안에 찬성 의사를 밝힌 만큼 수정안 검토를 마친 후 주지사 서명 절차로 넘길 것으로 전망된다. 주요 외신은 주 의회가 AI 규제안을 통과시키면서 개빈 뉴섬 캘리포니아 주지사가 AI 규제 결정권을 쥐게 됐다고 평가했다. 주지사가 다음달 30일까지 최종 승인 여부를 결정하면 법안은 효력이 생긴다. 뉴섬 주지사는 아직 법안 지지 여부를 밝히지 않았다.

이 법안의 골자는 ‘AI 안전성 시험 의무화’다. 법안에 따르면 빅테크가 강력한 AI 기술을 대중에게 공개하기 전에 안전성을 시험하는 것이 필수다. 주 법무부 장관은 AI 시스템이 인명 사망 또는 5억달러(약 6678억원)에 이르는 재산 피해 같은 ‘중대한 피해’를 일으키면 기업을 고소할 수도 있다. AI 개발자는 AI 모델이 잘못될 경우 끄는 방법인 ‘킬 스위치’(kill switch·비상정지) 기능을 넣어야 하며, 5년 동안 안전 및 보안 프로토콜의 편집되지 않은 사본을 보관해야 한다. 법안은 제3자 감사 인력을 고용해 AI 회사의 안전 관행을 평가하도록 의무화했고, AI 문제를 고발하려는 직원에 대해 내부 고발자 보호 조치를 마련하도록 하는 내용도 담았다. 이 때문에 앞서 콜로라도와 유타주에서 통과된 AI 규제법보다 강력하다는 평가를 받는다.

법안 발의자인 민주당 소속 스콧 위너 캘리포니아주 상원의원은 이날 성명을 통해 “주 의회는 신기술이 발전함에 따라 대중의 이익을 보호할 수 있도록 하는 역사적 조치를 취했다”고 했다. 그는 “이 법안이 빅테크와 경쟁하려는 소규모 스타트업에는 영향을 미치지 않을 것”이라고 주장했다. 해당 법안이 개발 비용이 1억달러(약 1335억원)를 넘거나 일정 정도 이상 전력이 필요한 AI 모델만 안전 테스트를 의무화한다는 점에서다.

○혁신 저해 우려 vs 필요한 규제

이 법안은 민주당과 실리콘밸리 내에서도 AI 기술 혁신을 저해할 것이라는 논란을 야기한다. 빅테크를 규제한다는 취지에는 공감하더라도 오히려 해당 법안이 빅테크는 물론이고 소규모 스타트업의 발전도 가로막을 수 있다는 의견이 제기되면서다. 낸시 펠로시 전 하원의장은 지난 16일 해당 법안과 관련해 “의도는 좋지만 정보가 부족하다”고 평가하며 위너 의원에게 우려를 표하는 공개서한을 발표했다. 오픈AI는 22일 법이 통과되면 실리콘밸리 기업이 캘리포니아를 떠날 수도 있다며 반대했다. ABC방송에 따르면 세계 50대 AI 기업 중 35개가 캘리포니아에 자리 잡았다. 7월 도널드 트럼프 전 대통령 캠프는 재선에 성공하면 이 법안을 철회하겠다고 발표했다.

빅테크가 처벌을 두려워해 더 이상 AI 모델을 오픈소스 방식으로 개발하지 않을 수 있다는 의견도 나온다. 오픈소스란 개발자가 코드를 공개한 소프트웨어를 뜻한다. 오픈소스는 AI 발전을 이끈 주역으로 평가받는다. 크리스 니콜슨 페이지원벤처스 파트너는 “오픈소스 소프트웨어 커뮤니티는 여전히 이것이 AI 개발에 방해가 될 것이라는 우려를 갖고 있다”고 NYT에 말했다.

하지만 xAI, 앤스로픽 등 일부 AI 기업은 찬성 의견을 냈다. AI 스타트업 xAI를 이끄는 일론 머스크 테슬라 최고경영자(CEO)는 27일 “20년 이상 AI 규제를 옹호해왔다”며 “대중에게 잠재적으로 위험할 수 있는 제품 및 기술을 규제하는 것과 마찬가지”라고 했다.

김세민 기자 unijade@hankyung.com