EU, 세계 첫 AI 규제안 최종협상…'챗GPT 답변 출처 표기·안면인식 금지'

유럽연합(EU)이 세계 최초의 인공지능(AI) 규제법을 도입하기 위한 최종협상에 들어갔다. 챗GPT 등 생성형 AI에 대한 규제도 포함된 만큼 최근 전 세계 정부가 고심하는 AI 규제 방안의 가이드라인이 될 수 있다는 평가가 나온다.

14일(현지시간) 유럽의회는 본회의 표결에서 EU 전역에서 AI를 규제하기 위한 법안 협상안이 찬성 499표, 반대 28표, 기권 93표로 가결됐다고 발표했다.

의회는 이날 EU 집행위원회와 27개국을 대표하는 EU 이사회 간 3자 협상에 돌입한다고 밝혔다. 3자 협상은 EU가 새로운 법안을 시행하기 전 거쳐야 하는 최종 관문이다.

14일 가결된 협상안 초안에는 챗GPT 등 생성형 AI에 대한 규제 방안이 담긴 것이 특징이다. 오픈AI와 구글 등 생성형 AI를 운영하는 기업들은 위험성을 판단하는 평가를 받아야 하며 AI 챗봇이 불법적인 콘텐츠를 만들지 않도록 관리해야 한다. 또 AI가 만든 콘텐츠의 경우 이 사실을 알려야 하며, AI가 학습한 데이터들의 저작권을 공개해야 한다.

EU가 AI 규제법 초안을 구성한 건 2년 전인 2021년이다. 그러나 올 들어 챗GPT가 큰 관심을 받고 구글 등이 잇따라 생성형 AI를 내놓으면서 AI 규제에 대한 필요성이 제기됐다. 이에 유럽의회는 협상안에 생성형 AI 규제 규정을 추가해 본회의에 상정했다.

월스트리트저널은 “저작권 공개는 AI 챗봇이 콘텐츠를 만들 때 참고한 자료들을 만든 이들이 수익을 분배받을 수 있는 잠재적인 수단이 될 것”이라고 평가했다.

각국 정부가 AI를 활용해 시민들을 감시하지 못하게 하는 방안들도 담겼다. 먼저 협상안은 공공장소에서 안면인식 기술을 사용해 시민들을 감시하거나 이를 통해 얻은 정보를 경찰 등 수사에 활용하는 행위를 금지했다. 얼굴 인식 데이터베이스를 개발하기 위해 감시 영상과 인터넷 정보를 수집하는 것도 금지했다.

또 협상안은 범죄자 등의 이전의 범죄 행동과 기타 데이터를 분석하여 미래 불법 활동을 예측하는 ‘예측 치안 시스템’ 도입도 금지했다. 중도 우파 성향의 일부 의원들은 실종 아동 찾기와 테러 공격 방지를 위한 예외 조항을 포함할 것을 주장했으나 본회의 투표에서 부결됐다.

로베르타 메솔라 유럽의회 의장은 기자회견에서 “앞으로 AI에 대해 지속적이고 명확한 경계와 한계가 있어야 할 것”이라고 말했다. 이어 “우리가 타협하지 않을 한 가지는, 언제든 기술이 발전할 때 인간의 기본권 및 민주적 가치와 함께 가야 한다는 점”이라고 강조했다.

다만 남은 3자 협상에서 EU 집행위원회와 유럽의회, EU 이사회 간 의견을 조율하는 데 시간이 걸릴 수 있다는 분석이 나온다. 집행위원회와 이사회 등에선 안면인식 기술 사용 금지를 두고 이견이 나오는 것으로 알려졌다.

블룸버그는 “집행위원회가 올해 말 협상 타결을 목표로 하고 있으며 이 경우 AI 규제법은 2026년 시행될 수 있다”고 전했다.

협상안이 최종 확정되면 이를 어긴 기업은 총 연매출의 6%에 육박하는 벌금을 부과받을 수 있다. 블룸버그는 “EU의 생성형 AI 규제 강도와 범위에 따라 향후 10년간 1조3000억 달러 이상의 가치가 있을 것으로 추정되는 이 분야에 큰 영향을 미칠 수 있다”고 내다봤다. 업계에서는 전방위적 AI 규제가 혁신을 저해할 수 있다는 우려의 목소리도 나온다.

EU 뿐 아니라 미국과 중국 등 각국 정부는 AI 규제의 필요성을 두고 고민하고 있다. 이날 미 상원에서는 생성형 AI가 만든 답변 등 콘텐츠에 대해 사업자가 법적 책임을 지도록 하는 법안이 발의됐다. 일반적으로 인터넷 사용자가 올린 콘텐츠에 대해 인터넷 사업자는 책임을 지지 않는 면책권이 적용되지만, 이를 생성형 AI에는 적용하지 않는 내용의 법안이다.

노유정 기자 yjroh@hankyung.com