김주현 금융위원장이 17일 금융 분야 인공지능(AI) 신뢰 제고를 위해 정확성 등을 사전 검증해볼 수 있는 테스트베드(시험대)를 구축하겠다고 밝혔다. 소비자 보호를 위해 '설명 가능한 AI'를 뜻하는 'XAI(eXplainable AI)'에 대한 안내서도 마련하기로 했다.
김 위원장은 이날 서울 중구 은행회관 뱅커스클럽에서 열린 한국신용정보원 주최 '금융 산업의 AI 대응전략 세미나'에서 이같이 밝혔다.
김 위원장은 "금융소비자 편의성을 높이고 금융회사 업무 효율성을 제고하는 AI가 다양한 영역에 도입·활용되고 있다"며 "다만 개인정보 침해, 사이버 보안, 윤리적 문제와 같은 다양한 리스크에 대한 우려도 제기되고 있다"고 말했다. 그러면서 "금융 분야의 경우 AI 오작동으로 소비자의 재산상 손실을 초래할 수 있을 뿐만 아니라 여러 금융회사가 특정 AI 모델을 활용할 경우 디지털 집중 리스크가 확대돼 금융 안정에도 영향을 미칠 수 있다"며 대응 방안 검토가 필요하다고 강조했다.
소수의 AI 기술·모델이 시장을 지배하고 이를 기반으로 한 서비스들이 대거 출시될 경우 금융 시스템 내 동질성이 높아져 쏠림 현상이 심화할 수 있다는 것이다.
이에 따라 금융위는 AI 공정성·정확성 제고를 위해 '금융 AI 테스트베드'를 구축하기로 했다. 신용평가 AI, 금융사기 방지 AI, 금융보안 AI 등에 대한 검증을 수행할 수 있도록 검증용 데이터와 컴퓨팅 자원 등을 제공할 예정이다.
AI 모델의 작동원리, AI 의사결정의 근거 등을 금융 소비자들이 이해할 수 있도록 '설명 가능한 AI 안내서'도 마련할 계획이다.
김 위원장은 "AI가 사회적 신뢰를 확보하기 위해서는 공정성과 정확성이 담보돼야 하며 AI가 내린 판단의 근거가 무엇인지 금융소비자가 이해할 수 있어야 한다"고 강조했다. 아울러 앞서 발표한 '금융 AI 데이터 라이브러리'를 차질 없이 구축하고, 데이터 결합 전문 기관을 확대함으로써 양질의 빅데이터 확보도 지원하기로 했다.
금융위는 AI 데이터 라이브러리를 구축함으로써 규제 샌드박스의 형태(규제 한시적 예외)로 데이터 재사용도 허용할 계획이다.
AI 신기술 활용 활성화 등을 위해 금융 데이터 규제 개선도 함께 추진된다.
이날 세미나에는 다양한 전문가들의 발제 및 발표도 이어졌다.
서정호 금융연구원 부원장은 AI 의사결정 확대에 대비한 영업행위 규제 재정립, 금융소비자 피해 예방 및 손해배상 방안 등을 검토할 필요가 있다고 제언했다.
우리은행 옥일진 부행장은 "금융권은 생성형 AI를 활용해 보다 발전된 초개인화 금융 서비스를 제공할 수 있으나, 생성형 AI는 답변의 정확도보다는 문장의 자연스러움, 대용량 데이터의 확보를 통한 학습을 중요시하기 때문에 금융업의 핵심 가치인 신뢰성과 상충하는 딜레마가 있다"고 밝혔다.
그러면서 "안전하고 효율적인 금융 분야 생성형 AI를 위해서는 양질의 학습 데이터 확보와 안전한 인프라 구축이 필수적이며, 정부, 금융회사, 기술기업 사이 긴밀한 협력도 요구된다"고 덧붙였다. 홍동숙 신용정보원 팀장은 "금리·환율 등 거시정보 및 개인·기업 대출금액 등 신용정보를 활용해 개인사업자의 부도율을 예측하는 AI 모형을 개발했다"며 "앞으로 취약 업종의 리스크 관리가 용이해질 것"이라고 말했다.