인프라 제어 AI에 '안전 브레이크' 장착 등 5가지 원칙도 제시
MS "AI 규제기구 필요…항상 인간의 통제하에 있도록 해야"(종합)
인공지능(AI) 기술이 급속히 발전하면서 규제 목소리가 커지는 가운데 마이크로소프트(MS)가 25일(현지시간) AI 규제를 위한 정부 기구가 필요하다고 밝혔다.

MS 최고법무책임자인 브래드 스미스 부회장은 이날 자신의 블로그에 "AI 개발을 감시할 연방정부 차원의 기구를 설치하는 것이 가장 합리적"이라고 밝혔다.

그는 "우리는 항상 AI가 인간의 통제하에 있도록 해야 한다"며 "이것은 기술 중심 기업과 정부 모두에게 최우선 순위가 돼야 한다"고 강조했다.

이어 "AI를 이용해 사람들을 속이려는 의도로 합법적인 콘텐츠가 변경되는 것을 막기 위한 조치가 필요하다"고 설명했다.

그는 또 "물리적 보안, 사이버 보안, 국가 보안 등 보호해야 할 가장 중요한 형태의 AI에 대해서는 라이선스가 필요하다"고 강조했다.

스미스 부회장의 기구 설치 언급은 앞서 생성형 AI '챗GPT' 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)의 주장을 뒷받침한다.

올트먼은 지난 16일 미 의회 청문회에 출석해 AI의 위험을 완화하기 위해 정부 규제 개입을 강조한 바 있다.

오픈AI도 국제원자력기구(IAEA)와 같은 AI 규제 국제기구가 필요하다고 주장했다.

MS는 이날 또 블로그를 통해 AI 규제에 필요한 5가지 원칙을 제시했다.

MS는 우선 중요 인프라에 사용되는 특정 AI 시스템에 '안전 브레이크'를 의무적으로 장착할 것을 제안했다.

이는 열차 비상 브레이크와 유사한 것으로, 유사시에 대비해 중요 인프라 시설에 사용되는 AI를 완전히 끄거나 감속할 수 있도록 해야 한다는 것이다.

MS는 "일각에서는 AI가 더욱 강력해짐에 따라 이를 잘 제어할 수 있는지 우려하고 있다"며 "전기, 수도, 교통과 같은 중요 인프라의 AI 제어 관련 필요성이 제기된다"고 설명했다.

이어 이런 브레이크 장치는 오랫동안 엘리베이터나 스쿨버스, 고속열차와 같은 다른 기술에도 내장돼 왔다고 덧붙였다.

MS는 또 정부 주도의 AI 기술 사용에 대한 '가드레일' 구축을 제안하며, 상무부 산하 미국표준기술연구소(NIST) 등이 이를 마련할 수 있다고 설명했다.

아울러 AI 앱이나 고급 기초 모델, AI 인프라에 대한 법적인 틀 구축, 학술적·비영리적 AI 연구에 대한 자금 지원도 강조했다.

AI가 사회에 미칠 영향을 해결하기 위해 민관 협력 관계 구축도 제안했다.

MS는 발전된 AI 시스템을 만들거나 사용하는 모든 조직은 AI 관련 자체 거버넌스 시스템을 개발하고 구현해야 한다며 MS는 지난 6년간 이를 구축했다고 설명했다.

MS는 오픈AI에 100억 달러(약 13조3천억원) 이상을 투자하며 전 세계 AI 기술 경쟁에 불을 지폈다.

검색 엔진 빙과 문서 도구 등 모든 자사 제품에 AI 챗봇을 탑재하며 오픈AI와 함께 이 경쟁에서 가장 앞서 있다는 평가를 받고 있다.

/연합뉴스