"왜 이런 결과가 나온 거야?"…'설명 가능한 AI' 뜬다 [긱스]

챗GPT가 촉발한 이른바 '생성 인공지능(AI)' 열풍이 산업계로 확산되면서 서비스형AI(AIaaS)가 잇따라 등장하고 있는데요. AI가 '흥미로운 장난감' 수준을 넘어 진정한 업무 파트너가 되려면 어떤 것들이 필요할까요? 정보기술(IT) 업계에서는 '파인튜닝'과 '신뢰성'을 관건으로 보고 있습니다. 파인튜닝은 개별 기업 및 사용자의 목적에 따라 서비스를 세밀하게 조정하는 것을 말합니다. 한마디로 디테일하게 특화하는 것이죠. 신뢰성을 위해서는 투명성, 윤리성 등 많은 과제가 있습니다만 최근엔 '설명 가능한 AI(XAI)' 개념이 대두되는 추세입니다. 사람과 마찬가지로 업무 파트너로는 더 친절하고 믿을 만한 AI가 필요할 것 같습니다. 한경 긱스(Geeks)가 관련 사례와 개념을 살펴봤습니다.

게티이미지뱅크

출처 링크만 달아줘도...신뢰성↑

자연어 인지검색 스타트업 올거나이즈는 최근 자체 업무용 AI 챗봇 솔루션에 GPT API를 탑재한 '알리GPT'를 선보였다. 이전까지는 질문을 하면 답이 적힌 문서를 빠르게 추출해 주는 것에 그쳤다면 알리GPT는 이를 종합해 하나의 글로 만들어준다.

올거나이즈는 답변의 출처를 프리뷰 형태로 제공한다. AI가 스스로 만든 문장이 어느 문서를 참고했는지 알려주는 것이다. 챗GPT의 맹점으로 꼽히는 글의 출처를 알 수 없다는 점을 보완해 신뢰도를 높였다.

알리GPT. 자연어로 질문하면 정리된 문장으로 대답해주는 동시에 출처를 제공한다. 올거나이즈코리아 제공

신기빈 올거나이즈 CAIO(최고인공지능책임자)는 "생성형 AI 기술이 정보를 요약 혹은 압축하면서 손실이 발생하는 경우가 있는데, 어느 부분에서 어떻게 압축했는지 보여주는 것이 알리 GPT의 답변 문서 표시 및 미리 보기 기능"이라며 "법률, 금융, 의료 등 최종 판단에 근거와 레퍼런스가 필요한 분야에 필수"라고 설명했다.

AI 서비스에 '설명성'을 붙이려는 시도가 잇따라 등장하고 있다. 인간이 이해할 수 있고 신뢰할 수 있는 설명을 제공할 수 있는 AI인 설명가능한AI(XAI) 개념의 일환으로 볼 수 있다. 근거를 완벽하게 제시하지는 못해도 "최소한 어떤 자료를 통해 결과가 도출된건지 알아야 업무에 활용 가능하다"는 이용자의 수요에 맞춘 것이다.

이스라엘 스타트업 AI21랩은 지난달 글의 실제 인용 출처를 제공하는 텍스트 생성 AI ‘워드튠 스파이스' 서비스를 출시했다. 이 서비스는 GPT 기반의 생성AI 서비스지만, 글 전체를 만들어주는 챗GPT나 재스퍼 등과 달리 작성자가 우선 텍스트를 입력하면 그에 맞춰 추가하고 대안을 제시해준다. 여기에 자신이 추가한 기사, 위키 등 온라인 소스는 링크 형태로 출처를 제공해 신뢰도를 높인다. AI가 글쓰기를 대신해주는 것이 아닌 팩트와 사례를 더해주는 공동 집필자로 기능하는 셈이다.

마이크로소프트(MS)는 검색엔진 빙(Bing)과 웹브라우저 엣지에 챗GPT를 적용했다. 이용자가 질문을 하며 AI챗봇이 출처와 정리된 답안을 제시한다. 구글 자회사 딥마인드 역시 출처 제공 기능을 갖춘 생성AI 챗봇 '스패로우'를 연내에 출시할 것이라고 예고했다.

전문 서비스에 필요해질 XAI

XAI의 중요성은 AI 상용화가 확대되면서 더욱 커질 전망이다. 시장조사업체 리서치앤마켓은 전세계 설명가능한AI 시장 규모가 2020년 35억 달러에서 2030년 210억 달러로 성장할 것으로 내다봤다.

XAI는 AI가 오류를 냈다면 그 이유가 무엇인지, AI의 결과는 얼마나 신뢰해야 하는지에 대한 판단 근거를 만들기 위한 분석 모델이다. 폭넓게는 이러한 기능을 제공하는 프로세스, 서비스 등을 의미한다.

XAI는 그간 AI 상용화의 걸림돌이었던 'AI 블랙박스'화를 보완하기 위한 방안으로 꼽혀왔다. AI는 마치 블랙박스처럼 학습된 데이터를 통해 스스로 모델을 만들기 때문에 데이터의 어떤 속성이 결론 영향을 미쳤는지에 대해서 알지 못하는데, 이러한 특성 때문에 의료 국방 제조 등 의사결정에 근거가 필요한 분야에서는 활용되기 어려웠다.

최재식 KAIST 김재철AI대학원 교수는 "머신러닝이 데이터 학습이라면 XAI는 그 학습 속성이 어떤지 이해하는 알고리즘으로 해석과 설명으로 크게 나눌 수 있다"며 "프리미엄, 전문 서비스에는 XAI가 중요해지는만큼 핵심 연구 분야가 될 것"라고 말했다. 이어 "챗GPT의 기반인 트랜스포머 모델에 대한 분석기술이 만들어진다면 업무용 서비스에도 큰 변화를 가져올 수 있다"고 설명했다.

XAI는 제조, 금융 등 다양한 분야에 적용되고 있다. 최 교수가 창업한 스타트업 인이지는 XAI를 통해 모니터링과 예측을 제공해 문제를 인지하고, 개선점을 분석해 공정을 최적으로 운영할 수 있게 도와준다. 인이지의 솔루션은 포스코 스마트 고로에 적용해 용광로 쇳물 온도 오차를 25% 줄이는데 기여했다. 작년 11월에는 부천의 주요 교차로에 국내 최초로 XAI기반 교통 정체 예측 및 교통 신호 최적화 기술을 적용해 출퇴근시 통행량을 향상하기도 했다.

해외에서도 XAI는 AI 신뢰성 확보의 핵심이 될 것으로 보고있다. 미국 국방부 산하 고등연구계획국(DARPA)은 2017년부터 AI 내부를 사람이 확인할 수 있는 설명 모델과 인터페이스 프로그램을 개발중이다.

마이크로소프트의 링크드인은 고객들이 계약을 취소할 위험을 예측해주고, 그 이유를 설명해주는 AI를 영업직원에게 적용했다. 로이터통신 보도에 따르면 링크드인은 2년 이상 시행착오를 거쳐 설명가능한 AI시스템 '크리스탈 캔들 바이 링크드인'을 지난해 7월 선보였고 이후 구독 매출을 8% 포인트 올렸다.

최다은 기자 max@hankyung.com