장영하 "스스로 판단하는 AI…책임은 누가 질지 논의 필요"

미리 보는 글로벌인재포럼

장영하 서식스대 연구소 부교수

“인공지능(AI) 시대에 인류는 AI 활동의 최종 결정권자 역할을 해야 합니다.”

장영하 영국 서식스대 과학기술정책연구소(SPRU) 부교수(사진)는 AI와 인류가 공존하는 사회에서 인류가 맡을 역할이 무엇인지 묻자 이같이 답했다. 장 교수는 “결국 AI는 인간에 의해 사용과 방향성이 결정되는 도구”라며 “수많은 데이터를 학습해 결과를 예측하는 AI는 ‘그러므로’라는 논리를 따르는 데 비해 인간은 ‘그럼에도 불구하고’라고 말할 수 있다는 점에서 AI 행위의 결정권을 갖는다”고 강조했다.

장 교수는 서울대에서 공학을 전공하고 SPRU에서 기술혁신 세부전공으로 경영학 박사학위를 받았다. 2000년대 초반부터 정보통신기술(ICT) 분야에서 혁신전략 및 기술전략 관리자, 소프트웨어 엔지니어 등으로 11년간 활동했다. 장 교수는 “AI는 궁극적으로 기업과 개인의 생산성을 극대화하는 유용한 도구로 쓰여야 한다”며 “기술 접근성을 높여 AI의 발전과 혁신이 소수에게만 집중되지 않고 사회 전반에 골고루 퍼질 수 있도록 우리 사회가 ‘포용적 혁신’을 주도해야 할 시점”이라고 설명했다. 그는 AI와 인류가 공존하려면 “인간이 AI를 친숙한 도구로 받아들이는 자세가 필요하다”고 말했다.

AI 기술 발전으로 화두에 오를 수 있는 사안으로는 ‘AI 행동의 책임 문제’를 꼽았다. 장 교수는 “AI가 스스로 판단하고 결정을 내리게 된다면 AI의 행동에 대한 책임이 누구에게 있는지 가리기 위한 논쟁이 심화할 것”이라며 “AI의 권리와 책임 범위가 어디까지인지 지금부터 신중하게 논의해야 한다”고 했다.

장 교수는 “아직 AI 기술을 총괄할 사회·윤리적 가이드라인에 대한 합의가 충분하지 않다”며 “최종 결정권자인 인간의 가치와 윤리를 반영해 뚜렷한 청사진을 그려야 할 때”라고 강조했다.

이소현 기자 y2eonlee@hankyung.com