IBM 부사장 "AI는 인류 가치 반영해야…왓슨x로 위험 해결"

"AI 서울 정상회의 채택 기업 서약, 제품과 정책에 반영"

크리스티나 몽고메리 IBM 부사장은 23일 "인공지능(AI)의 진정한 발전 척도는 기술적 역량 이상의 것"이라며 "인류 공동 가치를 반영하고 공동 과제를 해결하며 소수 특권층이 아닌 사회 전체가 혁신의 혜택을 누리는 세상을 만들기 위해 어떻게 활용되는가로 판단해야 한다"고 밝혔다.

최근 열린 'AI 서울 정상회의' 참석차 한국에 온 몽고메리 부사장은 이날 서울 여의도 한국IBM에서 가진 인터뷰에서 "IBM은 AI 소프트웨어를 포함해 개발한 모든 기술이 처음부터 책임감 있고 윤리적으로 만들어지도록 보장한다"며 이같이 말했다.

몽고메리 부사장은 IBM의 AI 윤리 위원회 의장으로서 AI 윤리 정책 및 실행에 대한 거버넌스와 의사 결정 프로세스를 총괄하는 팀을 맡고 있다.

또한 IBM의 개인 정보 보호 프로그램, 규정 준수와 글로벌 전략을 감독하고 IBM 개인 정보 보호 정책의 모든 측면을 지휘하고 있다.

몽고메리 부사장은 IBM의 생성형 AI 소프트웨어 플랫폼인 '왓슨x'가 여러 가지 기본 AI, 데이터 거버넌스, 위험 관리 설루션을 기반으로 구축됐다고 강조했다.

그러면서 고객들이 왓슨x, 특히 왓슨x.거버넌스 소프트웨어를 통해 조직의 AI 활동을 감독·관리하고, 자동화를 통해 위험을 완화하며, 규제 요건을 관리하고, 윤리적 문제를 해결할 수 있다고 설명했다.

몽고메리 부사장은 "AI에 대해 개방형 접근 방식을 취하면 다양한 이해 관계자가 참여해 AI 모델의 위험성을 평가하고 연구 내용을 면밀히 조사하므로 AI가 가질 수 있는 편견과 취약점, 다양한 위험 요소를 식별하고 수정할 수 있다"고 밝혔다.

이어 "또한 널리 합의된 개방형 표준을 채택한 새로운 AI 모델을 개발하고, 이 기술이 책임감 있게 배포되고 사람들이 신뢰하고 혜택을 볼 수 있는 방식으로 사용될 수 있도록 보장한다"고 덧붙였다.

IBM은 오픈 소스 소프트웨어의 발전에 일찍부터 기여한 기업으로 평가받는다.

IBM은 1990년대 초부터 오픈 라이선스, 오픈 거버넌스, 오픈 표준을 추진하면서 리눅스, 아파치, 이클립스와 같은 영향력 있는 커뮤니티를 지원해왔다.

최근에는 레드햇을 인수하고 에코시스템을 구축해 AI를 중심으로 한 개방형 혁신을 발전시켜 왔다.

메타 등 80여 개 기업 및 단체와 협력해 AI 동맹을 출범하기도 했다.

몽고메리 부사장은 또 'AI 서울 정상회의'와 관련해서는 "다른 주요 기업들과 함께 '서울 AI 기업 서약'에 서명하고 정상 세션에서 채택된 '서울 선언'에서 강조된 안전·혁신·포용의 가치가 AI 거버넌스 발전에 있어 중요하다는 점을 확인했다"고 밝혔다.

그러면서 "기업 입장에서도 신뢰받는 기술이 고객들에게 사용될 수 있어 안전성은 중요하다"면서 "IBM은 업계에서 최초로 AI 윤리위를 만들었고 AI 개발 초기부터 안전성과 윤리를 우선순위에 둬왔다"고 덧붙였다.

또 "서울 기업 서약도 앞으로 IBM의 AI 관련 제품이나 정책에 반영될 것이나 다만 AI에 대한 규제는 기술 자체가 아니라 맥락을 파악해 어떻게 사용되는지에 대해 이뤄져야 한다"고 말했다.

/연합뉴스