"인공지능(AI)의 신뢰도를 확보하려면 AI가 편견을 학습하지 않도록 사람이 계속 관리하는 것이 중요합니다. " IBM의 세스 도브린 부사장은 23일 국내 취재진과 온라인 간담회에서 이렇게 말했다.
IBM은 최근 AI 챗봇 '이루다' 사태로 국내에 AI 윤리라는 화두가 던져진 상황에서 IBM이 '신뢰할 수 있는(Trusted) AI'를 만들고자 어떤 노력을 하는지 공유하려고 간담회를 열었다.
도브린 부사장은 "비즈니스 분야에서 AI는 사람이 결정해야 하는 것을 예측하고 보완하는 역할을 맡는데, 그러려면 AI의 예측을 사람이 신뢰할 수 있어야 한다"며 "비즈니스 AI는 결국 얼마나 신뢰할 수 있느냐로 판가름 난다"고 말했다. 이어 "'신뢰'라는 문제는 AI 모델을 투명하게 검증할 수 있느냐는 것"이라며 "(개발사는) AI에 내재한 편견을 감지할 능력, 위험을 인지할 능력, 편견을 개선해 더 정확한 결과를 도출할 능력이 필요하다"고 강조했다.
도브린 부사장은 신뢰할 수 있는 AI라면 개방적이어야 하고, 공정하고 편견이 없어야 하고, 비즈니스와 윤리를 잘 이해해야 하고, 데이터를 관리할 수 있어야 한다고 말했다.
IBM은 이를 위해 'AI는 인간을 대체하는 것이 아니라 인간의 지능을 보완하기 위한 것', '데이터와 통찰의 소유권은 창작자에게 있다', '새로운 기술과 AI 시스템은 반드시 투명하고 설명 가능해야 한다' 등의 원칙을 세우고 있다고 한다. 도브린 부사장은 "편견이라는 것은 그 기준이 국가나 업종에 따라 다양할 수 있다"며 "(개발사는) AI의 목적과 맥락에 맞게 편견 제거 작업을 할 수 있어야 한다"고 말했다.
그러면서 "개발 과정뿐 아니라 서비스를 운영할 때도 편견을 지속해서 감시하고 제거할 수 있어야 한다"며 "AI 전체 과정에서 사람이 계속 개입하고 주시하는 게 중요하다"고 거듭 강조했다.
도브린 부사장은 IBM의 AI 전략 부문 최고 데이터 책임자(Chief Data Officer)다. 2016년 11월 IBM에 합류해 클라우드 및 AI 소프트웨어의 데이터 및 AI 혁신을 주도하고 있다.