"금융업엔 '설명 가능한' AI모델 필요"

금융연구원 챗GPT 보고서

챗GPT와 같은 생성형 인공지능(AI)이 금융업에 유용하게 쓰일 수 있지만 금융회사는 AI의 판단을 고객이 납득할 수 있도록 ‘설명 가능한 AI’(XAI) 도입에 힘을 쏟아야 한다는 지적이 제기됐다.

4일 한국금융연구원이 발간한 ‘챗GPT에 대한 금융기관의 대응과 과제’ 보고서에 따르면 글로벌 금융회사들은 이미 챗GPT와 같은 AI 기술을 활용해 업무 효율성을 높여 나가고 있다. 미국의 모건스탠리는 챗GPT와 연동하는 재무상담사 전용의 AI 툴을 개발하고 있다. 그동안 PDF 형태로 보관해오던 시장조사 보고서 등을 대규모 언어모델 AI에 학습시키면 이후 재무상담사가 신속하게 판단해야 하는 일이 생길 때 AI의 도움을 얻을 수 있기 때문이다.

하지만 금융연구원은 “금융업무는 공공성과 사회적 책임이 크고, 금융상품 판매 때 고객에 대한 설명 책임 및 거래의 투명성, 형평성 확보가 요구되기 때문에 XAI(eXplainable AI) 도입을 추진해야 한다”고 강조했다.

XAI는 결과물에 대한 이유를 사람이 이해할 수 있는 방식으로 제시하는 AI를 일컫는다. 금융연구원은 “일반적인 AI는 데이터 학습을 기반으로 알고리즘을 스스로 생성하고 수시로 바꾸기 때문에 설명 가능성을 요구하기 어렵다”고 설명했다.

정의진 기자 justjin@hankyung.com