혐오 발언 및 개인정보 유출 등의 논란에 휩싸인 인공지능(AI) 챗봇 '이루다'가 서비스를 잠정 중단한다.사진=연합뉴스
혐오 발언 및 개인정보 유출 등의 논란에 휩싸인 인공지능(AI) 챗봇 '이루다'가 서비스를 잠정 중단한다.사진=연합뉴스
최근 인공지능(AI) 챗봇 '이루다'를 둘러싼 윤리적 논란이 불거지고 있는 가운데 방송통신위원회가 AI서비스에 대해 이용자 보호원칙이 지켜질 수 있도록 제도개선을 추진한다.

방통위는 이용자 및 사업자 대상 교육·컨설팅을 지원하고, AI윤리규범 등을 구체화하는 제도개선을 추진할 계획이라고 14일 밝혔다.

AI 채팅로봇의 혐오·차별적인 표현, AI 채팅로봇에 대한 이용자의 성희롱성 발언 등이 사회적으로 큰 논란을 일으킨데 따른 조치다. 세부적으로 △이용자·사업자 대상 AI윤리교육 및 컨설팅 지원 △AI서비스 이용자 보호원칙의 구체적 실행지침 마련 △AI 행위를 포괄하는 등 기존 법체계 정비 등을 추진한다.

이에 따라 방통위는 올해부터 이용자에게 AI서비스의 비판적 이해 및 주체적 활용에 대한 교육을 실시한다. 교육 내용으로는 이용자가 AI서비스에 활용된 알고리즘의 편향성을 파악하고, 그에 따른 문제를 최소화하여 서비스를 이용할 수 있는 방안 등을 담을 계획이다.

2022년부터는 신규예산을 확보해 AI윤리교육 지원대상을 이용자에서 사업자로까지 확대한다. 스타트업 등을 대상으로 서비스 설계시 AI 역기능 등 위험관리 컨설팅을 지원하는 사업도 추진 예정이다.

이와 함께 방통위는 AI서비스의 이용자보호를 위해 규범 및 제도를 구체화해 나간다. 방통위는 2019년 11월 '차별금지, 인간존엄성 보호' 등의 내용을 포함한 '이용자 중심의 지능정보사회를 위한 원칙'을 발표한 바 있다. 해당 원칙이 선언적 규정이라면, 올해부터는 이를 실천하기 위한 구체적 사례와 방법 등을 사업자 등과 공유한다는 것이다.

특히, 사업자의 규제부담 및 AI서비스의 혁신 저해를 최소화하기 위해 민간에서 현재 실천하고 있는 모범사례를 적극적으로 발굴해 이를 바탕으로 실행지침을 마련한다.

중장기적으로는, 이용자에게 피해를 야기한 AI서비스의 책임소재 및 권리구제 절차 등이 포괄될 수 있도록 기존의 법체계를 정비해 나갈 계획이다. 이를 위해, 방통위는 지난해 1월 정보통신정책연구원(KISDI) 내에 지능정보사회 정책센터를 설립하고, 지난해 9월부터 센터 내에 법제 연구반을 구성하여 운영하고 있다.

한상혁 위원장은 "AI서비스는 더 많은 부가가치를 창출하고, 생활의 편의를 더해줄 것이지만, 올바른 윤리와 규범이 없는 AI서비스는 이용자 차별과 사회 갈등을 초래할 수 있다"며 "AI기술의 혜택은 골고루 누리되, 부작용은 최소화할 수 있도록 사람중심의 AI를 위한 정책을 촘촘히 추진해 나갈 것"이라고 강조했다.

조아라 한경닷컴 기자 rrang123@hankyung.com