EU 세계 첫 AI규제법 통과…AI 훈련방법·데이터 보고해야

테러 등 특수상황 제외 생체정보 수집 금지
법 위반 시 글로벌 매출 7% 벌금으로 부과

유럽연합(EU)이 세계 최초의 인공지능(AI) 규제 법에 최종 합의했다.

EU 이사회는 9일(현지시간) 보도자료를 통해 "세계 최초의 (AI) 관련 입법인 이 법은 개인정보보호규정(GDPR)처럼 AI 규제에 대한 국제 표준을 설정해 기술 규제에 대한 유럽의 접근 방식을 세계에 알릴 수 있을 것"이라고 밝혔다. EU 집행위원회와 이사회, 유럽의회로 구성된 3자 협의체는 37시간에 걸친 마라톤 회의 끝에 지난 7일 합의에 이르렀다.

블룸버그통신에 따르면 합의안에는 EU에서 범용 AI를 운영하는 회사는 기본적인 투명성 요건을 충족해야한다는 내용이 담겼다. 범용 AI 운영사는 모델 훈련 방법과 데이터를 요약 보고해야하고 EU 저작권법을 준수하는 정책을 마련해야 한다.

AI법 도입 과정에서 가장 논란이 됐던 '생체정보 수집'은 금지된다. AI 업체들이 안면 인식 데이터베이스를 구축하기 위해 인터넷에서 무차별적으로 이미지를 모으는 일은 불가능하게 됐다. 다만 테러 공격 등 심각한 범죄가 발생할 경우 행정 당국이 AI를 이용해 혐의자를 수색할 수 있다는 예외 조항이 적용된다.

AI로 정직성 등 사회적 점수를 매기거나 직원이나 교육대상의 감정을 인식하는 행위도 규제된다. 아울러 AI가 만든 창작물에는 출처가 AI라고 명시해야 한다.

연산 능력이 초당 1셉틸리온(10의 24제곱)이 넘는 AI는 '시스템적 위험이 있는 AI'로 분류해 더 엄격한 규제를 적용하기로 했다. 오픈AI의 GPT-4가 이 기준에 해당하는 것으로 알려졌다.
법을 위반하는 회사는 최대 3500만유로(약 497억원) 또는 직전 회계연도 글로벌 매출의 7%를 벌금으로 내야 한다.

이 법안은 EU 집행위원회가 2021년 4월 초안을 발의하면서 논의되기 시작했고 지난 6월 유럽의회를 통과했다. AI 스타트업이 발달하고 있는 독일 프랑스 이탈리아 등이 법안이 산업 성장을 가로막을 수 있다며 반대해 논의에 진통을 겪었다. 합의안은 27개 EU 회원국이 승인하면 그로부터 2년 뒤 적용된다.

김인엽 기자 inside@hankyung.com