금융위, 신용평가 AI 모형 검증한다…보안 가이드라인도 마련

'금융 AI 활용 활성화 및 신뢰확보 방안' 후속조치

금융위원회는 17일 인공지능(AI) 기반 신용평가모형 검증체계와 금융분야 AI 보안 가이드라인을 마련했다고 밝혔다. 금융위는 검증체계를 활용해 AI 신용평가모형을 활용하고 있는 신용평가회사에 대한 검증을 연내 진행할 계획이다.

금융위는 지난해 8월 금융권의 AI 활용을 지원하기 위해 ‘금융분야 인공지능 활용 활성화 및 신뢰확보 방안’을 발표했다. 신용평가모형 검증체계와 보안 가이드라인은 이 방안의 후속조치로 마련됐다.

신용평가모형 검증체계는 신용정보회사가 AI 특성을 고려해 데이터를 적절히 관리하는지와 신용평가모형에 사용되는 알고리즘과 변수를 합리적으로 선정했는지 점검한다. 신용평가모형이 통계적으로 유의한지와, 신용평가회사가 금융소비자에게 신용평가모형과 신용평가 결과에 대해 충분히 설명할 수 있는지도 검증한다.

개인신용평가체계 검증위원회는 올해 중에 이 검증체계를 활용해 AI 신용평가모형을 활용하고 있는 개인사업자신용평가회사를 검증할 예정이다. 향후 개인신용평가회사 등의 AI 신용평가모형에 대해서도 검증할 계획이다.

금융분야 AI 보안 가이드라인은 AI 모델을 개발할 때 고려해야 할 보안사항을 개발 단계별로 제시한다. AI 챗봇 서비스에 대한 보안성 체크 리스트도 제공한다.

특히 최근들어 가장 활발히 사용되는 서비스인 챗봇에 대한 보안성 체크리스트를 별도로 마련했다. 이용자에게 “챗봇의 입력창에 개인정보를 입력하면 안 된다”고 안내하는지 여부를 사업자가 확인하도록 했다.

금융위는 “금융분야는 고품질 데이터가 풍부해 AI 활용의 잠재력이 매우 크다”며 “향후 AI 활성화 및 신뢰 확보 방안의 다른 세부 추진과제에 대해서도 차질없이 추진하겠다”고 밝혔다.

최한종 기자 onebell@hankyung.com