"기업들, AI 활용 책임질 조직 만들어야"

삼정KPMG 보고서
"경영진은 AI 거버넌스 고민할 때"

기업들이 인공지능(AI) 활용을 늘리는 가운데 'AI 거버넌스(지배구조)' 수립에도 공을 들여야 한다는 지적이 나왔다. AI 모델이 내놓은 결과값을 바탕으로 의사결정을 할 때 조직 내 역할·책임 범위 등을 명확히 해야 한다는 얘기다.

19일 삼정KPMG는 '챗GPT가 촉발한 초거대 AI 비즈니스 혁신' 보고서에서 이같은 분석을 내놨다. 보고서는 챗GPT와 초거대 AI, 생성형 AI 등 AI 기술 도입에 따라 기업 경영진 격인 'C레벨'이 주안점을 둬야할 기업 내 AI 관리 방안을 제언했다. AI 활용 시 기업 내 각 부서가 어떤 변화를 겪을지도 분석했다.

"마케팅·HR·법무 부서 등에 AI 영향 클 것"

보고서는 생성형 AI의 영향이 거셀 부서로 △마케팅·영업 △고객 서비스 △인사(HR) △법률·컴플라이언스 △연구·개발(R&D) △물류·유통 등을 꼽았다. AI 기반 업무 자동화로 업무의 속도와 효율성을 높이고, 사람은 보다 복잡하고 고도화 된 업무에 집중할 수 있게 되면서 생산성 전반이 증진될 것으로 예상되는 분야다.

마케팅 부서가 생성형 AI 도구를 통해 광고 문구 가안을 여러개 만들고, 최종 결정은 사람이 하는 식으로 시간·비용을 단축하는 게 그런 예다. 국내에선 CJ가 지난달 ‘성향맞춤 AI 카피라이터’를 개발해 업무에 활용하고 있다. 현대백화점도 AI 카피라이팅(문구 생성) 시스템 '루이스'를 도입했다.

삼정KPMG는 "소비자 맞춤형 마케팅 콘텐츠를 생산하고, 데이터 기반 제품 추천, 가격 설정 등 세일즈 전략을 세울 때에도 AI 기술을 활용할 수 있다"며 "AI 챗봇, 가상 비서 등을 통하면 시공간 제약 없는 고객 서비스를 제공할 수 있다"고 했다.

기업 내 인사 부서는 생성형 AI 기술로 채용 프로세스를 자동화할 수 있다. 직원들의 역량 분석·계발 과정도 데이터를 기반으로 고도화할 수 있다. 법률·컴플라이언스 부서는 AI를 통해 법적 문서를 작성하고, R&D부서는 AI를 코딩 과정에 활용하는 식으로 업무 효율을 높일 수 있다. 물류·유통 부문은 AI 기반 재고 관리, 발주·유통 등으로 기업의 각종 자원을 아낄 수 있다.

"경영진, AI 부작용 선제 관리 필수"

이같은 각 부문 AI 도입 과정에서 리스크 관리가 필수라는 게 삼정KPMG의 지적이다. 아직 초창기로 정비 과정을 거치고 있는 각종 규제, AI 모델이 도출한 결과값 신뢰도, 기초 데이터의 정합성 등 여러 리스크 요인을 두루 따져 선제적 대응을 해야한다는 얘기다.

삼정KPMG는 "AI 결과값을 활용하는 과정에서 사고가 발생한 경우 대응 프로세스, AI 판단 결과를 어떻게 고객이나 규제 당국에 이해시킬 수 있는지 등 AI 도입에 따른 주요 질문을 만들어 점검하라"며 "이를 기반으로 조직과 조직 내 역할·책임(R&R), 통제·관리 프로세스 등을 정해야 한다"고 했다.

AI를 실무에 도입할 때 역할과 책임을 명확히 해야한다고도 강조했다. AI 관련 법·제도와 회사 내부 규정 등을 검토해 AI 거버넌스 가이드라인을 작성하라는 설명이다. 기업이 도입한 AI 솔루션·시스템 등의 '생애 주기'를 관리하기 위해 AI 위원회 등 별도 조직을 두고 꾸준히 관리하라고도 제안했다.

조재박 삼정KPMG 디지털본부장(부대표)는 "AI 도입이 확산하면서 기업들이 어떻게 데이터를 관리·활용하고 AI를 쓰는지가 사업 성패의 관건으로 떠올랐다"며 "AI를 적극 활용할 방안을 모색하면서 AI 거버넌스를 구축해 사업 효율은 올리고, 리스크는 줄여야 한다"고 강조했다.

선한결 기자 always@hankyung.com