EU "AI로 감정추적·사회적 점수 평가 안돼" 가이드라인 제시

사진=게티이미지뱅크

고용주가 인공지능(AI)를 활용해 직원들의 감정을 추적하거나, 민간·공공기관이 개인의 신용도 또는 평판 등을 점수화하면 안 된다는 유럽연합(EU)의 AI 활용 지침이 발표됐다.

4일(현지시간) 로이터통신 등에 따르면 유럽진행위원회는 이 같은 내용의 AI 가이드라인을 이날 공표했다.

이번 가이드라인은 법적인 구속력은 없다. 유럽 시장에서 AI 서비스를 제공하려는 사람들과 시장 감시 기구에 법적 확실성을 제공하기 위한 가이드라인이라고 유럽집행위 관계자는 설명했다.

가이드라인을 보면 이용자가 상당한 재정적 약속을 하도록 설계된 서비스에는 의도치 않는 결제를 유도하는 다크패턴, 나이·장애 등 사회경제적 상황에 따라 이용자를 착취하는 AI 기반 애플리케이션을 금지하고 있다.

EU는 이용자가 상당한 재정적 약속을 하도록 설계된 서비스에 내장된 AI 기반 다크패턴(의도치 않은 결제를 유도하는 등 이용자를 기만하는 웹 디자인)과 나이, 장애 또는 사회경제적 상황에 따라 이용자를 착취하는 AI 기반 애플리케이션을 금지했다.

또 사회복지 기관 및 기타 공공·민간 기관이 출신과 인종과 같은 개인 정보를 이용해 AI를 기반으로 사회적 점수를 매기는 것도 금지된다.

경찰 역시 검증되지 않은 생체인식 정보만을 기반해 개인의 범죄 행동을 예측하면 안 된다. 법 집행 목적이라고 하더라도 AI 기반 안면인식 기술을 장착한 이동형 폐쇄회로(CC)TV 카메라는 기본적으로 금지되며, 엄격한 안전장치 하에서만 제한적으로 허용된다.

고용주가 웹캠과 음성인식 시스템을 사용해 직원들의 감정을 추적하는 것도 금지된다.

앞서 EU는 작년 3월 세계 최초로 포괄적 AI 규제법을 마련했고, 이 법은 내년 8월2일 시행될 예정이다.

한경우 한경닷컴 기자 case@hankyung.com