설명 가능한 AI, 신용평가에 적용…피플펀드, 업계 최초 상용화

핀테크 스타트업 피플펀드가 업계 최초 설명 가능한 AI 모델(XAI)을 자체 개발해 상용화한다고 29일 발표했다. 여신심사 및 평가 과정에 적용되는 AI 신용평가 시스템에 의사 결정의 근거를 설명할 수 있는 시스템을 덧붙인 것이다.

XAI는 4가지가 개발됐다. 차입자 신용평가 결괏값에 영향을 미친 긍·부정 요인을 고객에게 설명하는 모델, 대출 신청자의 잠재 우량도를 설명하는 AI 등이다. 유입되는 잠재 차입자의 데이터가 과거 차입자와 얼마나 유사한지 따져 신뢰 수준을 설명해 주고, 거시경제 흐름 변화에 따라 평가 체계의 성능 저하 정도를 따져주는 AI도 있다.

XAI는 금융기관 문의에 따라 만들어졌다. 피플펀드는 온라인투자연계금융업(온투업) 인가 업체다. 2금융권에서 자신들이 거절한 차입자가 피플펀드의 대출 승인을 받는 것을 보고, 근거 설명을 요청해와 직접 제작에 돌입했다는 설명이다. 피플펀드는 2019년부터 AI 기반 신용평가 체계를 도입해 왔다.

강민승 피플펀드 최고기술책임자(CTO)는 “아직 AI의 투명성과 공정성에 대한 사회적 신뢰가 충분하지 않은 상황에서, 알고리즘 판단 결과를 충분히 설명하지 못하면 기술 확대가 어렵다고 판단했다”며 “AI 신용평가 시스템에서 새롭게 발견되는 차별과 불공정 요소를 빠르게 탐지하고 해결해 갈 것”이라고 말했다.

이시은 기자 see@hankyung.com