글로벌 주요 컨설팅 업체들이 인공지능(AI)을 활용하는 과정에서 잘못된 정보가 담긴 보고서를 내놔 망신을 당했다. 고객사의 AI 도입을 돕는다는 컨설팅 기업이 이른바 ‘AI 환각’에 빠져 신뢰성 논란이 커질 것으로 전망된다.

30일 파이낸셜타임스(FT)에 따르면 AI 탐지 기업 GPT제로는 PwC 중동법인이 2024년부터 올해까지 발간한 보고서 4건을 조사했다. 여기에서 AI가 작성한 것으로 보이는 흔적과 다수의 부정확한 인용이 확인됐다. 컨설팅 사업 확대를 지원하기 위해 제작된 이들 보고서에는 사실과 다른 내용, 존재하지 않는 논문이 참고 문헌에 이름을 올렸다. 사우디아라비아 리야드 대기 상태를 다룬 학술 논문을 인용했지만 실제 논문과 저자는 존재하지 않는 것으로 확인됐다.

오류는 가짜 논문에 그치지 않고 핵심 논거를 조작하는 것으로 이어졌다. PwC의 공공서비스 보고서는 ‘시티즌 펄스’라는 자체 분석 체계를 덴마크와 사우디, 미국, 호주 정부가 사용하고 있다고 소개했다. 하지만 각국 정부 사이트에서는 해당 분석 체계를 사용한 사실이 확인되지 않았다. 전기자동차 시장 보고서에서는 중국 공공 충전기를 1300만 개로 제시했지만 국제에너지기구(IEA) 통계에 따르면 실제 숫자는 358만 개(2024년 기준)에 그쳤다.

다른 컨설팅 업체에서도 비슷한 문제가 불거진 바 있다. EY도 허위 각주가 포함된 보고서를 공개한 뒤 해당 자료를 회수했다. 최근 KPMG가 발표한 ‘에이전트 AI 시대 새로운 경쟁력’ 보고서도 UBS, 영국 국민보건서비스(NHS), 스위스 연방철도(SBB) 등 여러 기관의 AI 활용에 관한 허위 내용을 담아 철회됐다.

GPT제로에 따르면 이 보고서의 인용 내용 45건 가운데 실제 자료를 정확히 표시한 것은 5건에 불과했다. 딜로이트 호주법인은 호주 고용·노사관계부에 제출한 보고서에서 존재하지 않는 연구 논문을 인용하고 연방법원 판결문에 없는 판사의 발언을 만들어냈다.

이 같은 사례들은 글로벌 컨설팅업계에 악영향을 미칠 것으로 보인다. AI 도입 전략과 책임 있는 AI 활용, AI 오류 방지 정책 등을 자문한다는 컨설팅사가 자신들의 보고서에 나타나는 오류부터 바로잡지 못하고 있어서다.

PwC 중동법인은 “발간한 연구 자료의 정확성을 중요하게 생각하고, 참고 인용 내용을 업데이트하고 있다”며 “책임 있는 AI 이용 원칙에 따라 연구와 콘텐츠 개발 과정에서 모든 구성원이 준수해야 하는 품질 관리 절차를 운영하고 있다”고 밝혔다.

김주완 기자 kjwan@hankyung.com