바이든 대통령, AI위험 예방 위한 행정명령 서명

AI시스템개발시 안전테스트결과 정부와 사전 공유 등
AI 학습과정상 편견 강화와 민권침해 방지조치 등 요구

사진=AP

조 바이든 미국 대통령은 30일(현지시간) 인공지능(AI) 관련 위험으로부터 소비자와 근로자, 소수 집단을 보호하기 위한 행정명령에 서명했다.

로이터에 따르면 이 행정명령은 미국 정부의 AI에 대한 가장 최근의 규제이다. 오픈AI와 알파벳 및 메타 플랫폼과 같은 회사들은 AI생성 콘텐츠에 워터마크를 적용하는데 자발적으로 동의했다.

이 행정명령은 미국의 국가 안보, 경제, 공중 보건 또는 안전에 영향이 큰 AI 시스템 개발자는 국방물자생산법(DPA)에 따라 안전 테스트 결과를 대중에게 공개하기 전 미국 정부와 사전에 공유하도록 했다.

또한 각 기관별로 해당 테스트에 대한 표준을 설정하고 관련 화학, 생물학, 방사선, 핵 및 사이버 보안 위험을 해결하도록 했다.

이를 위해 미상무부가 AI가 생성한 항목에 대한 "콘텐츠 인증 및 워터마킹에 대한 지침을 개발"할 것이라고 백악관은 밝혔다.

이 관계자는 이번 행정명령이 법적인 효력을 갖고 있으며 백악관은 AI 의회의 입법 조치도 필요할 것으로 본다고 밝혔다.

AI가 인터넷상에 퍼져 있는 내용들을 학습함으로써 기존의 편견 강화와 민권 침해의 위험을 높일 수 있다고 미국 관리들은 경고해왔다. 이에 따라 이 행정명령은 주택 계약이나 연방 혜택 프로그램 및 연방 계약에서 "AI 알고리즘이 인종적, 사회적 차별을 악화시키는 데 이용되는 것을 방지”하도록 하고 있다.

또 AI가 일자리 대체 등 근로자에게 초래할 수 있는 피해를 해결하기 위해 "모범 사례"를 개발하고 노동 시장에 미치는 영향에 대한 포괄적인 보고서도 작성하도록 했다.

한편 7개 선진국 그룹인 G7도 이 날 첨단 AI 시스템을 개발하는 기업을 위한 행동 강령에 합의할 예정이다

김정아 객원기자 kja@hankyung.com