유럽연합(EU)이 인공지능(AI)을 대중 감시나 사회적 행동 평가에 활용하는 기업에 철퇴를 가할 전망이다.

13일(현지시간) 블룸버그통신에 따르면 EU 집행위원회는 이 같은 내용을 골자로 한 법안을 다음주 회원국에 제안할 예정이다. AI를 대중 감시에 활용하는 등 새로운 규정을 어긴 기업에는 글로벌 매출의 최대 4%에 달하는 과징금을 부과한다는 게 핵심이다.

블룸버그는 EU 집행위로부터 입수한 문서를 토대로 새 법안에 포함된 규정을 조목조목 소개했다. 우선 AI 기술을 활용한 행동 조작, 개인정보 이용, 사회적 평가 등 무분별한 감시가 엄격히 제한된다. 공공 보안과 국방 관련 분야는 예외다. 하지만 얼굴인식처럼 공공장소에서 주로 사용되는 원격 생체인식 시스템을 활용하려면 EU 당국의 특별 허가를 받아야 한다.

AI를 활용한 감시 우려가 큰 앱은 ‘고위험 AI’로 분류돼 출시 이전에 치밀한 조사를 받아야 한다. 고위험 AI는 사람의 안전과 생명, 기본권을 위협할 수 있는 시스템을 말한다. 여기에는 자율주행자동차와 원격기술 등도 포함될 수 있다고 EU 집행위 측은 설명했다.

EU 집행위는 일부 기업에 한해 새로운 AI 관련 규정의 준수 여부를 자체적으로 평가하도록 허용할 방침이다. 하지만 그렇지 않은 기업은 제3의 기관으로부터 규정을 잘 지키고 있다는 증명서를 받아야 한다. 이 증명서의 유효기간은 최장 5년이다. EU 집행위는 “이 규정은 EU에서 사업을 하는 해외 기업에도 똑같이 적용된다”며 “당국에 협조하지 않는 기업은 글로벌 매출의 최대 4%까지 과징금을 물릴 수 있다”고 했다.

블룸버그는 EU가 AI를 포함한 첨단기술 분야에서 미국과 중국을 바삐 추격하고 있는 가운데 이런 법안이 나왔다는 점에 주목했다. 새 규정이 현실화하면 새로운 AI 기술이 나올 때마다 당국의 조사를 받게 돼 EU 기업들의 경쟁력이 크게 뒤처질 것이라는 우려가 나오고 있어서다.

박상용 기자 yourpencil@hankyung.com