"AI 윤리 문제, 기술 부족이 원인…규제보다 표준화로 해결"

과실연 'AI 규제·책임론' 포럼

"알고리즘 공개, 만능 키 아냐"
산업 진흥과 규제 어우러져야

“(기술진화 과정에서) 시행착오는 어차피 계속 나올 수밖에 없습니다. 정부의 역할은 규제와 처벌뿐만이 아니라 사업화 진흥에도 있습니다.”

15일 바른 과학기술사회 실현을 위한 국민연합(과실연)이 주최한 ‘AI(인공지능)의 규제·책임론에 대하여: 혼란 진단과 대안 모색’ 포럼에서 박상철 서울대 법학전문대학원 교수는 AI 분야의 섣부른 규제에 대해 강한 우려를 나타냈다. 이날 행사에서는 안현실 한국경제신문 AI경제연구소장이 좌장을 맡은 가운데 김경만 과학기술정보통신부 인공지능기반정책과장, 김대원 카카오 이사, 문정욱 정보통신정책연구원 지능정보사회정책센터장, 서정연 서강대 컴퓨터공학과 교수가 토론자로 참여해 AI의 올바른 진흥 방식에 대해 머리를 맞댔다.

주제 발표에 나선 박 교수는 “현재 각국 정부의 AI 규제가 ‘알고리즘의 공개’를 강조하는 쪽으로 흐르고 있는데, 방향이 잘못됐다”며 “훈련된 모델과 알고리즘의 개념을 혼동하면 안 된다”고 강조했다. AI가 어떻게 고도화됐는지에 대한 데이터 내용과 변수의 상관관계를 파악하는 것이 먼저지, 이미 인간의 ‘뇌’처럼 변한 AI의 알고리즘을 공개하라고 하는 건 기술적으로 어렵고 굳이 필요치도 않다는 것이다. 그는 “그보다는 이해력이 뒷받침된 규제가 중요하다”고 강조했다.

규제 수립 방식에 대해서 김 이사는 “AI 규제는 유달리 개연성에 근거하는 것 같다”고 말했다. 그는 “다른 규제들은 인과성을 기반으로 하는데, AI만 미리 예단을 하고 경계하며 규제를 만드는 것은 걸음마를 뗀 AI의 혁신에 저해될 수 있다”고 했다. 서 교수 역시 “AI기술 전체를 대상으로 포괄적인 규제를 만드는 것은 매우 위험한 일”이라며 “이루다 사태 등은 어떻게 보면 기술의 부족으로 발생한 현상으로 봐야 하고, 필요에 따라선 규제보다는 기술 표준화로 해결해야 할 것”이라고 제안했다.

AI에 법인격이 있는지 여부는 핵심 화두로 떠올랐다. 박 교수는 “AI에 대한 법인격 부여를 두고 법학계의 혼선이 커지고 있는데, 제대로 된 정리가 안 된 내용이 정부의 법제 정비 로드맵에까지 영향을 주는 모습”이라며 “자칫 AI 법인격이 난무할 경우 정작 사고 시 책임을 져야 하는 사람은 빠져나갈 수 있기 때문에 깊이 있는 논의가 필요하다”고 말했다.

산업 진흥책이 위축 없이 병행돼야 한다는 목소리도 컸다. 패널로 참석한 문 센터장은 “최근 이루다 사태 등과 관련해 AI 기술이 통제가 필요하다는 논의가 커졌는데, 과잉 규제의 우를 범할 수도 있게 됐다”며 “마치 마차의 바퀴처럼 AI 진흥책과 규제의 균형점을 모색하는 것이 중요하다”고 했다.

이날 정부 측 패널로 참여한 김 과장은 “반드시 필요한 경우가 아니라면 규제보다는 진흥책에 집중해야 한다는 주장들에 공감한다”며 “정부는 공정성, 개인정보 보호 등이 확보된 다량의 학습용 데이터를 제공하고 신뢰성 체크리스트도 개발하는 등 산업 성장에도 집중할 예정”이라고 말했다.

안 소장은 “규제 논의 상당수는 과학기술에 대한 혼란과 오해에서 비롯되고 있다”며 “막연한 공포와 불안을 바로잡을 수 있도록 법 제도의 합리적 접근이 시급하다”고 지적했다.

이시은 기자 see@hankyung.com