"AI 도입의 적은 내부에 있다"

IT 직원들도 AI에 이해부족 많아
AI 팀과 현장직원 서로 발맞춰야

독일 기술자가 생산 설비의 이상 유무를 컴퓨터 프로그램으로 확인하고 있다.

AI를 도입한 기업들이 똑같이 겪는 어려움이 있습니다. 데이터를 공유하고 AI를 이해하는 데 대한 내부 직원들의 신뢰 부족입니다. AI 기술에 대한 이해 부족도 큽니다. 한국과 미국 일본에서 이런 어려움을 호소하는 기업들이 늘고 있습니다. 이를 해결하는 방안은 무엇인지 찾아봅니다.

마케팅부서에서 데이터 공유 부족 심해

산업연구원이 최근 AI를 도입한 283개 기업을 설문 조사한 내용을 담은 '기업의 AI 도입 및 활용확대를 위한 정책과제'를 내놓았습니다. AI를 도입한 기업들의 어려움과 고민 등을 담았습니다. 이 조사에서 눈에 띄는 부분이 AI에 대한 내부 직원들의 인식이었습니다. 조사에 따르면 기업의 가장 큰 애로 사항은 AI 관련 조직의 역량 부족과 신뢰 부족(46%)이었습니다. 이게 투자 대비 낮은 수익(25.7%)보다 오히려 높았습니다. 이어 경영진의 AI 지식부족(14.3%),비즈니스모델의 부적합(11%)등으로 나타났습니다. 그만큼 AI에 대한 조직의 이해도가 떨어진다는 것이었습니다.

지난해 마이크로소프트가 하버드대와 공동으로 미국 AI 도입 기업을 대상으로 시행한 조사 보고서에서도 비슷한 결과가 나왔습니다. 이 조사에서 기업에서 AI 활용을 가장 어렵게 하는 장벽이 내부직원들의 AI 지식의 부족(32%)이라고 응답했습니다. AI 성과에 리더들이 명확하게 반응하지 않는다(31%)는 응답이 다음이었으며 기존 시스템의 데이터 부족(27%),AI에 대한 업무의 재배치(27%)순이었습니다. 아무리 훌륭한 데이터 과학자들을 뽑는다고 하더라도 시스템과 조직문화가 뒷받침하지 않으면 자칫 AI 도입이 무용지물이 될 수도 있다는 것입니다. 특히 마케팅과 판매부서에서의 데이터 공유 부족이 AI 진척에 가장 큰 장애물이 될수도 있다고 이 보고서는 지적합니다.

내부 직원들의 AI 이해 부족 해결이 관건

일본 기업 역시 AI 도입에서 이런 고민을 하나 봅니다. 일본의 경제지 니혼게이자이신문은 최근 게재한 'AI 현장에서 불만이 나오는 이유'란 제목의 칼럼에서 AI를 도입할 때 현장 담당자들의 불만이 줄곧 제기되고 있다고 소개합니다. 이런 질문들은 대개 '인공지능 예측은 믿을 수없다', 'AI의 예측이 틀리면 누가 책임질 것인가 ', '이 AI는 업무에 사용할 수 없다' 등입니다.
이 신문은 그 이유에 대해 AI를 도입한 뒤 업무 전환에 대한 사내 검토와 합의가 충분하게 이뤄지지 않았다는 점을 들고 있습니다. AI 도입을 맡은 개발팀들은 속도가 중요하므로 일단 도입한 뒤 딥러닝(심층학습)에 의해 이런 합의를 하면 된다고 생각합니다. 하지만 업무 현장에선 그런 학습 프로세스를 잘 이해하지 못하게 됩니다.
예를 들어 불량품을 검사하는 AI가 처음에는 대단하다고 평가하지만, 나중에 현장에서는 결국 불량품이 발견되면 누군가가 책임을 져야 한다고 불만을 토로합니다. AI의 정확도 보다 차라리 눈 검사가 낫기 때문에 AI는 필요하지 않다는 반발도 나옵니다. AI 데이터와 업무 현장의 데이터와의 괴리도 종종 발생합니다. 그렇게 되면 AI의 예측정확도는 떨어져 재학습도 필요하게 됩니다. AI는 한번 만들어지면 끝이 아니라 보수가 중요하다는 인식이 있어야 합니다. 결국 개발팀과 현장이 발을 맞춰가지 않으면 AI의 도입이 갈수록 어려워진다고 이 칼럼은 주장하고 있습니다.
오춘호 연구위원 ohchoon@hankyung.com