세계 최강의 바둑고수 커제 9단을 누른 인공지능(AI) 알파고를 개발한 구글 딥마인드가 이번에는 낯선 곳에서 빨리 지름길을 찾는 동물의 본능적인 위치 감각에 도전장을 냈다. 까마귀가 날아가며 위치와 거리를 계산하듯이 동물의 감각을 능가하는 주행기술이 머지않아 등장할 것이란 전망이 나온다.

영국의 딥마인드와 런던칼리지대 연구진은 동물 뇌에서 위치 감각을 담당하는 신경세포 기능을 모방해 포유류와 같은 길찾기 능력을 가진 AI를 개발했다고 국제학술지 네이처에 9일(현지시간) 발표했다.

사람은 복잡한 미로나 낯선 공간에 가면 들어갔다 나왔다를 반복하면서 스스로 길을 찾는다. 가장 짧은 길을 본능적으로 찾아내기도 한다. 쥐와 같은 다른 포유류도 마찬가지다. 과학자들은 포유류가 처음 들어간 공간에서 길을 찾는 원리를 연구해 왔지만 이를 모방하지는 못했다. 사람의 뇌를 모방한 인공신경망은 바둑과 같은 게임이나 물체 인식에서 독보적인 성과를 내고 있지만 공간 파악에선 별다른 성과가 없었다.

동물의 길찾기 능력은 뇌의 ‘격자 세포’라는 특수한 신경세포에서 나온다. 이들 신경세포가 글로벌위치확인시스템(GPS)처럼 동물들이 자신의 위치를 계속해서 파악하도록 규칙적인 신호를 쏜다. 거리와 방향을 알 수 있는 것은 물론 두 지역을 이동하는 경로를 계획하는 능력을 가지고 있다.

격자 세포라는 말은 2014년 노벨생리의학상을 받은 마이브리트 모세르, 에드바르 모세르 노르웨이과학기술대 교수 부부가 처음 쓴 말이다. 이들은 쥐가 특정한 위치를 지나갈 때마다 활성화하는 신경세포들이 특정한 패턴이 있음을 처음 알아냈다. 격자 세포의 활성화가 일어나는 지점들을 공간에 표시해보면, 격자 세포의 활성화는 공간에서 육각형 구조의 패턴으로 활성화하는 것으로 나타난다.

연구진은 인공 신경망을 이용해 가상의 공간에서 길을 찾는 탐색 훈련을 진행했다. 설치류가 먹이를 찾는 패턴을 보여주는 시뮬레이션을 제공하고 딥러닝 방식으로 학습을 시켰다. 격자 세포를 비롯해 특정 위치를 인식하는 위치 세포, 머리 방향에 따라 작동하는 방향 세포가 작동할 때 쥐가 먹이를 찾는 과정에서 보이는 행동 패턴을 학습하게 한 것이다. 이 AI는 가로 세로 각각 2.2m에 설치된 미로에서 반복적인 길찾기 훈련을 받았다.

연구진은 이렇게 학습한 AI를 활용해 기니피그와 같은 실험용 인공 에이전트를 만들었다. 인공 에이전트에게 A에서 B로 가는 길을 찾으라고 하면 마치 포유류처럼 지름길로 움직였다. 단순히 목표물을 찾아가는 상황에선 격자 세포뿐 아니라 위치 세포, 머리 방향 세포가 비슷하게 작동하는 반면 닫힌 문을 열거나 지름길이 생겼을 때는 오로지 격자 세포 역할을 하는 신경망 부위가 작동하는 것으로 나타났다. 신경망의 격자세포 부위를 끄면 인공 에이전트의 탐색 능력이 떨어지고 목표에 대한 방향감과 거리 정확도가 떨어진다는 점도 확인했다. 어떤 면에서는 똑같은 임무를 받은 사람보다 뛰어난 결과를 얻었다. 이런 능력은 실제 어둠 속에서 낯선 장소나 상황에서 움직이는 포유류들에서 발견된다.

그동안 격자 세포에 대한 수많은 연구가 있었지만 연산의 복잡성 때문에 이를 구현하기 어려웠다. 네이처는 “격자 세포가 공간 정보를 저장하는 방법을 알아낸 것은 물론 움직이는 물체의 이동 방위각의 변화량과 변화 방향을 정확하게 파악하는 벡터 기반 탐색 방식에서 중요한 역할을 수행한다는 점을 제시했다”고 평가했다. 이어 “AI를 활용해 소리를 인지하거나 팔다리를 조절하는 뇌 영역에 관한 이론을 시험할 수 있는 길을 열었다”며 “현재 동물들이 수행하고 있는 연구의 일부를 대체할 것”이라고 전망했다.

박근태 기자 kunta@hankyung.com