"골고루 똑똑한 AI, 개발 실마리 찾았다"
다양한 업무를 동시에 처리하는 사람을 ‘멀티 플레이어’라고 한다. 사람의 뇌를 모방해 설계한 인공지능(AI)은 이런 능력이 떨어진다. 국내외 연구진이 AI를 멀티 플레이어로 만들 수 있는 실마리를 찾았다.

이상완 KAIST 바이오및뇌공학과 교수(사진)와 김동재 미국 뉴욕대 박사후연구원은 ‘강화학습 중 편향(bias)-분산(variation) 상충 문제에 대한 전두엽의 해법’이란 논문을 세계 3대 학술지 ‘셀’의 하위 저널인 ‘셀 리포트’에 실었다고 5일 발표했다.

AI가 문제를 스스로 해결하는 주요 원리 중 하나인 강화학습은 데이터 반복 주입과 수학적 알고리즘을 토대로 이뤄진다. 그런데 알고리즘이 충분치 않은 상태에서 데이터를 과하게 입력하면 문제가 약간만 달라져도 AI 성능이 급격히 떨어진다. 이를 출력값의 분산이 커지는 ‘과대적합(overfitting)’ 문제라고 한다.

반대로 데이터를 다양하게 주입할 경우 비슷한 문제에 대한 답을 대충 내놓기는 하지만 정확도가 떨어지는 문제가 생긴다. 이를 출력값의 편향이 커지는 ‘과소적합(underfitting)’ 문제라고 한다. 과대적합-과소적합 상충 문제는 AI 개발의 오랜 난제다. 이 문제가 해결되면 AI가 특정 사안을 주의 깊게 다루면서 다른 상황도 적절히 살피는 사람 같은 능력이 생긴다.

연구팀은 사람의 뇌 전두엽의 한 부위인 ‘복외측 전전두피질’이 이 문제를 해결하는 데 중요한 역할을 한다는 사실을 밝혀냈다. 복외측 전전두피질은 양쪽 눈과 귀 사이에 각각 위치한 뇌 영역이다. 연구팀은 기능성 자기공명영상(fMRI) 장치로 뇌를 실제로 관찰한 뒤 영상 데이터를 기반으로 알고리즘을 만들어 이를 증명했다.

이상완 교수는 “AI는 못 푸는 문제가 사람에겐 정말 쉽게 느껴지는 경우가 많다”며 “뇌의 다양한 능력을 AI 관점에서 풀어낸 연구로 차세대 AI 개발, 스마트 교육, 행동치료 등 다양한 분야에 활용될 것으로 기대한다”고 말했다. 이번 연구는 삼성전자 미래기술육성센터, 과학기술정보통신부 한국연구재단의 지원을 받아 수행됐다.

이해성 기자 ihs@hankyung.com