각국에서 생성형 인공지능(AI) 규제를 강화하는 흐름이 뚜렷합니다. 미국과 유럽연합(EU), 중국이 저마다의 규제 방안을 제시해 AI를 둘러싼 우려를 불식시키겠다는 선언을 이어가고 있습니다. AI는 분명 잠재된 위험성을 갖고 있습니다. 다만 주요국의 움직임은 철저히 계산된 것이란 분석도 적지 않습니다. 한경 긱스(Geeks)가 AI 규제에 대한 각국의 동향과 그 속내를 파헤쳤습니다.
생성형 인공지능(AI)의 오용 위험성을 경계해야 한다는 목소리가 높아지는 가운데 미국과 유럽연합(EU)이 AI 규제에 속도를 내고 있다. AI의 부작용 제어를 명분으로 내세우고 있지만, 이런 규제 움직임마저 시장 주도권을 잡겠다는 성격이 짙다는 분석이다.
美, 후발 주자를 규제로 견제?
게티이미지뱅크미국은 연방정부 차원에서 법률·행정명령·가이드라인을 쏟아내고 있다. 공통적으로 이용자 권리를 보호하고, AI의 잠재 위험을 관리하겠다는 취지를 담고 있다. 미국 상무부 산하 국립표준기술연구소(NIST)가 올해 내놓은 ‘AI 위험 관리 프레임워크’에서 AI의 편향성은 관리가 필요하다며 지침을 제시한 게 대표적이다. 기업의 AI 시스템을 감독하는 ‘알고리즘 책임법’과 학습 데이터 오·남용을 방지하는 ‘미국 데이터 개인정보 및 보호법’도 제정했다. 최근엔 보안(security)·책임(accountability)·민주적 토대(foundations)·설명 가능성(explainability)의 앞 글자를 딴 ‘SAFE 혁신 프레임워크’를 향후 AI 규제의 전반적 방향으로 제시하기도 했다. 이와 함께 공무원의 AI 이해도를 높이는 ‘AI 훈련법’, 민관 협력을 늘리는 ‘국가 AI 이니셔티브법’ 등 산업진흥책도 펴고 있는 점이 특징이다.
EU는 미국보다 규제 움직임이 거세다. 샘 올트먼 오픈AI 최고경영자(CEO)가 “유럽 사업을 중단할 수도 있다”고 말할 정도다. EU의 행정부 격인 집행위원회는 지난 14일(현지시간) 세계 최초의 AI 규제법 초안을 본회의에서 통과시켰다. 이 법안은 2021년 4월 발의됐는데 수정 절차를 거치며 초안보다 강화됐다. 원격 안면 감정 분석을 막거나, AI로 사회적 신용점수를 매기는 것을 금지하는 식이다. 이르면 2026년엔 규제가 적용될 것으로 보인다. AI의 먹이인 데이터 관련 법도 무시할 수 없다. EU의 개인정보보호법(GDPR) 등이 AI 업체를 떨게 하는 요소다.미국과 EU가 규제 주도권을 움켜쥐려는 목적엔 차이가 있다. 미국은 후발 국가를 견제하려는 의도가 크다. 오픈AI 구글 메타 등 AI 분야 빅테크는 대부분 미국 업체다. 이들 수준에 맞춰 만들어지는 AI 규제가 표준이 될 경우 기초 체력이 부족한 후발 국가 기업은 부담이 커진다. 반면 EU는 미국에 견줄 만한 AI 업체가 없다. 해외 빅테크에 자국 시장을 내주지 않기 위해 규제를 강화하고 있다는 게 업계 분석이다.
"韓, 국제기구에 의견 적극 피력해야"
생성형 AI 성장세가 가팔라지며, 중국 역시 빠르게 규제를 전개하고 있다. 지난달 중국 국무원은 ‘생성형 AI 서비스 관리 방법’ 법률안에 대한 의견 수렴을 끝냈다. AI로 생성된 콘텐츠는 사회주의 핵심 가치를 반영해야 하며, 사회질서를 교란해서는 안된다는 준수 의무가 부과될 예정이다. 네트워크 안전법, 개인정보보호법 등 관련 법령을 지킬 것도 적시됐다. 요구사항이 충족되지 않을 시엔 해당 서비스가 중단된다는 조치 내용도 포함시켰다. 법안은 중국 전국인민대표대회 상무위원회 검토를 거쳐 최종 도입될 예정이다.중국은 주요국 중 처음으로 딥페이크 관련 규제 내놨다. 중국 국가인터넷정보판공실은 지난 1월부터 ‘인터넷 정보 서비스 딥(deep) 합성 관리 규정’을 시행했다. AI 기반으로 딥페이크 서비스를 제공할 경우 표식을 붙여 원본을 추적할 수 있도록 했다. 이미지나 목소리를 활용하려면 당사자 동의를 구해야 하고, 불법적인 정보 생산에 기술을 쓰는 것은 원천 금지한다고 선언했다.
국내 AI 규제는 이제 걸음마를 뗐다. 정부가 2020년 ‘AI 법·제도·규제 정비 로드맵’을 마련한 이후 지난 2월 ‘선(先)허용, 후(後)규제’를 명문화한 ‘AI 기본법’이 국회 과학기술정보방송통신위원회 법안소위를 통과했다. 이상직 법무법인 태평양 변호사는 “특정 국가 수준을 따르는 것보다 한국의 강점 분야 규제를 풀고 부족한 분야는 엄격히 하는 국가 전략이 필요하다”며 “AI 규제를 위한 국제기구가 설립된다면 의견 제시도 적극적으로 해야 한다”고 말했다.
참 한 가지 더
AI 통합 규제기관 두고 빅테크도 '충돌’
게티이미지뱅크오픈AI는 강력한 권한을 가진 국제기구나 정부기구 신설을 통해 AI를 규제할 것을 주창하고 있다. 샘 올트먼 오픈AI 대표는 지난달 미국 상원에 출석해 규제기관 허가을 받은 회사만 AI를 서비스해야 한다는 입장을 밝혔고, AI 규제 논의는 지금 시작해야 미래를 대비할 수 있다는 주장을 꾸준히 설파하고 있다. 최근 방한에선 “한국이 규제 등 AI 분야에서 지도자적 역할을 할 수 있다”고 말하기도 했다. 오픈AI와 ‘혈맹’이 된 마이크로소프트(MS) 측도 “AI 개발을 감시할 연방정부 차원의 기구가 필요하다”는 입장을 내세우고 있다.
그렇다고 모든 빅테크가 동등한 시각을 가진 것은 아니다. 워싱턴포스트(WP) 등 외신에 따르면, 구글은 미국 상무부 국가통신정보청(NTIA)에 제출한 의견서를 통해 “AI 규제는 전담부서가 아니라 부문별 기관이 담당하는 ‘허브 앤 스포크’ 방식이 필요하다”고 밝혔다. 허브 앤 스포크는 뮬류나 네트워크 업계에서 자주 활용되는 개념인데, 핵심은 분산형 구조다. 구글은 의료, 금융 등 각 분야의 문제가 발생할 텐데, 해당 분야 경험이 없는 단일 부서는 역량이 부족할 것이라고 지적했다.
특정 기구나 기관에 강한 권한을 부여하는 것은 업계의 민감한 화두다. 국제 표준이 어떤 식으로 마련되는지, 나아가 선두 업체가 얼마나 관여하는지는 핵심 쟁점이다. 오픈AI의 도약을 지켜보는 글로벌 빅테크들이 위기감을 느끼는 이유다. 이런 가운데 AI 국제 기구 도입 논의는 탄력을 받고 있다. 로이터 등 외신에 따르면, 지난 12일(현지시간) 안토니우 구테흐스 유엔 사무총장은 “AI가 통제 불가능한 괴물이 될 수 있다”며 국제원자력기구(IAEA) 형태의 규제기구 도입 의사를 밝혔다. 오는 9월 AI 자문위원회를 만들어 계획을 구체화하기로 했다. 국내선 개인정보보호위원회와 디지털플랫폼정부위원회가 23일 AI와 데이터 프라이버시를 논하는 첫 국제 콘퍼런스를 열고 협력 방안을 논의했다.