EU "의료·교육분야 인공지능 활용 땐 반드시 사람이 감독해야"

세계 첫 'AI 규제법' 승인

위반 땐 매출 7% 과징금 부과
단계 시행 뒤 2026년 전면도입

21일(현지시간) 유럽연합(EU)이 승인한 ‘인공지능(AI)법’은 AI 활용 위험도를 수준별로 나눠서 규제 수준을 차등 적용한다. 인간을 뛰어넘는 범용인공지능(AGI)의 등장 가능성까지 고려해 마련된 세계 최초의 규제다. 이 법이 앞으로 세계 각국의 AI 규제 관련 국제 표준 역할을 할 것이란 전망이 나온다.

○EU, 3년 만에 최종 승인

EU가 AI법의 윤곽을 그리기 시작한 것은 3년 전이다. 2021년 EU 의회는 오픈AI의 ‘챗GPT’ 등 생성형 AI 출시가 잇따르자 초안을 발의했다. 일부 회원국이 AI법으로 이 기술을 규제하자는 데 반대해 그간 진척이 없다가 최근 AI가 급격히 발전하면서 규제 필요성에 대한 공감대가 커졌다. 기술 남용 가능성, 사실 오류 등에 관한 우려가 커지면서 지난해 12월 회원국 간 합의가 이뤄졌다. EU 의회는 지난 3월 찬성 523표, 반대 46표로 이 법안을 통과시켰다.

AI법은 다음달 정식 발효된다. 발효 6개월 뒤부터 금지 대상 AI 규정이 우선 시행되고 발효 1년 뒤부터 AGI 규제가 시행된다. 2026년 중반 이후부터는 모든 조항이 27개 EU 회원국 역내에서 전면 시행된다.

이 법의 핵심은 AI 기술을 활용 범위에 따라 크게 네 단계의 위험도로 나눠 규제하는 것이다. 테러 납치 등 중범죄를 제외하고는 프로파일링을 기반으로 한 치안 업무에 AI를 사용하는 것도 금지된다. 인종, 종교, 성적 취향과 같은 특정 범주에 따라 사람을 분류하기 위해 생체 인식 데이터를 사용하는 AI 기술 활용은 원천 금지된다. 의료 교육 선거 등 공공 분야에 AI 기술을 활용하기 위해선 반드시 사람이 감독하고 위험 관리 시스템을 구축해야 한다.

○위반 시 매출 7% 과징금

이 법은 EU 집행위원회가 규정 위반 기업에 3500만유로(약 518억원) 또는 글로벌 매출의 7%에 해당하는 금액 중 더 높은 금액의 벌금을 부과할 수 있도록 했다. EU는 집행위 연결총국 산하에 ‘AI 사무소’를 신설해 법 집행을 총괄하도록 한다는 계획을 세웠다.

미국 빅테크들은 AI법이 불러올 파장에 촉각을 곤두세우고 있다. 구글 딥마인드는 지난 17일 미래의 AI 위협을 미리 감지하고 적절히 대응할 수 있는 ‘프런티어 안전 프레임워크(개발 방식)’를 공개했고, 마이크로소프트(MS)는 앞으로 매년 발간할 ‘투명성 보고서’를 발표했다. 앤스로픽은 21일 자사 클로드3 소네트 모델의 내부 작동 방식을 이해해 통제 가능성이 높아졌다는 논문을 홈페이지에 게재했다.

EU를 시작으로 다른 나라도 앞다퉈 AI 규제 법제화에 나설 전망이다. 미국은 작년 10월 AI 표준화를 포함하는 ‘인공지능 행정명령’을 발표했다. 일본은 2022년 6월 ‘AI 전략 2022’를 발표했고, 중국은 지난 1월 ‘AI 산업표준화 지침’을 내놨다.

송영찬 기자 0full@hankyung.com