'AI 활용' 가이드라인 만드는 인권위…"인간 존엄 보장돼야"

국가인권위원회가 인공지능(AI) 개발과 활용 과정에서 인권침해가 발생하지 않도록 공공기관 등이 준수해야 할 기준을 제시하는 가이드라인을 내놓기로 해 주목된다.

17일 연합뉴스 취재를 종합하면 인권위는 제6차 전원위원회에서 '인공지능 개발과 활용을 위한 인권 가이드라인 권고 건'을 원안 의결하기로 했다.

사회 전반에서 인공지능 활용이 늘면서 인권침해 문제도 커지는 상황을 고려해 기존의 자율규제 방식 위주인 다른 윤리강령과 다소 차별화한 인권 기준에 입각한 인공지능 가이드라인을 만든 것이다.

가이드라인은 ▲ 인간의 존엄성 ▲ 알 권리 ▲ 자기 결정권 ▲ 평등권 보장 등을 기본 원칙으로 내세웠다.

정부와 공공기관, 기업이 인간의 존엄과 가치를 침해하지 않는 범위에서 인공지능을 개발·활용하고, 개인의 자율성 등을 침해해서는 안 된다는 것이 큰 원칙이다.

아울러 인공지능의 결정이 특정 집단이나 일부 계층에 차별적이거나 부당한 영향을 초래하지 않고, 개인의 안전이나 권리에 차별적 영향을 미치지 않도록 필요한 조처를 해야 한다는 것도 주요 원칙 중 하나다.

구체적인 방안으로는 국가가 인공지능에 의해 발생할 수 있는 인권침해와 차별 가능성에 대해 인권 영향평가를 하고, 이 평가를 개발해 적용하는 것을 의무화하는 내용도 담겼다.

또 인공지능이 개인의 인권과 안전에 미치는 위험성을 단계별로 구분한 뒤 그에 맞춰 규제 수준을 정하고 인적 개입이 이뤄지도록 법 제도를 마련하라는 방안도 내놨다.

인공지능을 개발하고 활용하는 전반적인 과정에서 차별적이고 편향적인 데이터 결과가 나오지 않도록 검수하고, 이미 개발된 인공지능도 모니터링을 통해 차별적 결과가 발생하지 않도록 개선 조치를 하라는 내용도 포함됐다.

인권위는 국무총리에게 이 가이드라인에 기초해 범정부적인 정책이 수립·이행되고 관계 법령이 규정될 수 있도록 관련 부처를 유기적으로 조정하고 통할할 것을 권고하기로 했다.

또 과학기술정보통신부를 비롯해 개인정보보호위원회, 방송통신위원회, 공정거래위원회, 금융위원회 등 인공지능과 관련된 부처에는 공공기관 등이 가이드라인을 준수하고, 인공지능과 관련한 인권침해와 차별이 발생하지 않도록 관리·감독하라고 권고할 방침이다.

/연합뉴스