한경 로앤비즈의 'Law Street' 칼럼은 기업과 개인에게 실용적인 법률 지식을 제공합니다. 전문 변호사들이 조세, 상속, 노동, 공정거래, M&A, 금융 등 다양한 분야의 법률 이슈를 다루며, 주요 판결 분석도 제공합니다.
사진=게티이미지뱅크
사진=게티이미지뱅크
인공지능(AI) 정책에 중요한 이정표가 될 ‘AI 발전과 신뢰기반 조성 등에 관한 법률안’이 11월26일 국회 과학기술정보방송통신위원회를 통과했다. 21대 국회에서부터 논의된 법안이 마침내 결실을 볼 전망이다. 여야가 연내 본회의 통과를 검토 중인 가운데, 정부도 긴급 경제장관회의에서 연내 처리를 위해 국회와 적극 협의하겠다는 입장을 밝혔다.

주목할 점은 AI 산업이 초기 단계임에도 불구하고 산업계가 법안 제정에 찬성하는 목소리를 냈다는 것이다. 기본법안이 제정된다고 하더라도 한국의 인공지능 산업이 갑자기 발전하지는 않을 텐데, 왜 산업계에서는 인공지능 기본법안 제정에 찬성하는 입장이 많았을까? 이는 AI 산업 발전의 방향성과 규제 프레임워크 확립이 시급하다는 인식에서다.

실제로 글로벌 AI 규제 동향을 살펴보면, 미국은 바이든 행정부가 행정명령을 통해 큰 틀의 규제 방향만 제시한 후 산업계 의견을 수렴하며 세부 사항을 조율하는 접근법을 택했다. 반면 유럽은 AI 산업이 성숙하지 않은 상황에서도 글로벌 테크기업 규제와 자국 산업 보호를 위해 AI 법을 선제적으로 제정했다. AI 규제에 대한 정립 방식을 떠나서 유럽과 미국의 이러한 규제 방향은 개별 국가 또는 지역 내의 AI 산업에 대해 하나의 가이드라인이 되고 있는바, 우리나라에서도 AI 기본법안 제정이 필요하다는 목소리가 보다 컸다.

다만 법안이 본회의를 통과하더라도 이는 시작에 불과하다. AI 산업 진흥과 규제의 세부 방안이 구체화하려면 정부의 명확한 로드맵과 법안 관련 규율 체계에 대한 가이드라인이 뒷받침돼야 한다.

법안 시행을 앞두고 해결해야 할 과제도 산적해 있다. 우선 '고영향 AI'의 판단 기준을 명확히 해야 한다. AI 기본법은 생명·신체 안전 및 기본권에 중대한 영향을 미치는 AI 시스템을 '고영향 AI'로 규정하고 있다. 시행령을 통해 고영향 AI를 추가로 정할 수 있도록 했다.
고영향 인공지능 유형
고영향 인공지능 유형
'고위험 AI'가 아닌 '고영향 AI'라는 용어를 선택하면서 기본권에 중대한 영향을 미치는 AI도 규제 범위에 포함하고 있는바, 기본권에 대한 영향 정도를 어떻게 평가할 것인지, 그리고 AI 기본법안 제정 이후 고영향 AI의 범위를 곧이어 추가할 것인지 등에 대한 검토가 필요하다. AI가 생명, 신체나 기본권에 위험을 미치는 것을 넘어서서 중대한 (부정적) 영향을 미치는 경우에 이를 규제하여야 한다는 점에 대해서는 동의를 하는 바이지만, 아직 어느 수준의 부정적 영향이 발생하는 경우 이를 고영향 AI로 보아 규제할지는 정해지지 않았다. 이에 대한 사회적 합의를 통해 규제 방향을 보다 명확히 정립할 필요가 있다.

또 다른 과제는 개별 규제당국과 과학기술정보통신부 간 역할 조정이다. 예컨대 금융위원회는 2021년 금융 분야 AI 가이드라인을 발표해 금융기관들의 AI 서비스 도입 기준을 제시한 바 있다. 당시 금융위는 신용평가, 대출 심사, 자산관리, 상품설명, 고객상담 등에 관하여 개별 금융기관들이 준수하여야 할 가이드라인을 발표한 바 있는데, 이번 AI 기본법이 대출 분야를 고영향 AI로 규정하면서 기존 규제와의 조화가 필요한 상황이다. 이는 금융뿐 아니라 보건 분야에서도 발생할 수 있는 문제로, 권한 위임 등을 통해 해결할 필요가 있다.

마지막으로 AI 이용사업자에 대한 규율 수준에 대해 검토할 필요가 있다. AI 이용사업자도 이용자에게 AI 서비스 등을 제공하므로, AI 사업자로서 규제받아야 한다는 점에는 모두 동의하고 있지만, 어느 수준에서 이를 적용할지에 대해서는 세부적인 논의가 필요하다. 예를 들어, 챗GPT 등 고성능 AI를 활용한 서비스 사업자가 증가하는 가운데, AI 제공사업자와 이용사업자 간 안전성 확보 의무를 어떻게 배분할지에 대한 구체적인 지침이 필요하다는 목소리가 나온다.

전문가들은 AI 기본법이 연내 제정되더라도 시행 전까지 충분한 의견수렴과 세부 지침 마련이 필요하다고 입을 모은다. 법안이 AI 산업 발전을 저해하는 걸림돌이 아닌, 건강한 성장을 위한 가이드라인으로 자리 잡을 수 있도록 정부와 업계의 긴밀한 소통이 요구되는 시점이다.

대출도 고영향 AI 규제대상?....AI 기본법 3가지 쟁점 [태평양의 미래금융]
윤주호 법무법인 태평양 변호사 ㅣ 서울대 정치학과를 졸업한 뒤 2006년 사법연수원 35기를 수료했다. 방송통신, 인공지능(AI), 개인정보 컴플라이언스, E-커머스, 블록체인, 핀테크 등 신기술 산업 분야에 대한 탁월한 전문성을 기반으로 개별 기업들에 대한 통신 규제, 개인정보 보호, AI 컴플라이언스 체계 구축, 마이데이터 허가, 혁신금융서비스 등에 관한 자문을 제공하고 있다. 또한, 과학기술정보통신부 고문변호사, 한국정보화진흥원, 금융보안원 등에서 주도하는 연구반 활동에도 참여하여 산업 특성을 고려한 규제 방향 설정에도 다양한 의견을 제시하고 있다.

태평양의 미래금융전략센터(센터장: 한준성 고문)는 2024년 5월 출범하여, 금융권 디지털 혁신 가속화와 금융 기술 발전에 발맞춰 가상자산·전자금융·규제대응·정보보호 등 금융 및 IT 분야 최정예 전문가들로 진용을 구축하고 있다.