23일 오후 5시 경기 성남 판교에 있는 NHN엔터테인먼트 본사. 국내 바둑랭킹 1위 신진서 9단이 컴퓨터 앞에 앉아 대국을 시작하자 팽팽한 긴장이 감돌았다. 대결 상대는 이 회사가 자체 개발한 인공지능(AI) 바둑 프로그램 ‘한돌’이었다.

2017년 첫선을 보인 한돌은 성능을 꾸준히 끌어올린 덕에 기량이 일취월장했다. 최근 한 달간 국내 바둑계 강자인 신민준(6위) 이동훈(5위) 김지석(3위) 박정환(2위) 9단을 모두 이겼다. 겨뤄본 선수들은 “한돌의 약점을 찾기 힘들었다”며 “천천히 맞춰가다 빈틈이 보이면 정확하게 찌르는 정통파”라고 평했다. 이날 신진서 9단도 1시간30분 만에 돌을 던졌다.
한국판 바둑 알파고 '한돌' 실력은…
‘한국판 알파고’는 맹훈련 중

구글 딥마인드의 바둑 AI ‘알파고’가 이세돌 9단을 꺾어 한국 사회를 경악에 빠뜨린 게 2016년 3월이었다. 그로부터 3년, 국내 정보기술(IT)업계가 개발한 토종 바둑 AI들이 알파고를 따라잡기 위한 ‘도전’에 한창이다.

게임 포털 ‘한게임’을 운영하는 NHN도 이 경쟁에 뛰어들었다. 2016년 연구진 50여 명을 거느린 기술연구센터를 세웠고, 10개월의 개발 기간을 거쳐 2017년 12월 한돌을 출시했다. 박근한 NHN 기술연구센터 이사는 “우리도 알파고에 큰 충격을 받아 AI 연구를 대폭 강화했다”며 “1년 전 한돌은 프로 9단과 비슷한 실력이었지만 이젠 이세돌을 이긴 3년 전 알파고의 수준을 뛰어넘었다”고 말했다.

한돌 개발에는 알파고에 적용된 몬테 카를로 트리 탐색(MCTS)을 비롯해 딥러닝, 강화학습 등 여러 방식이 활용됐다. MCTS는 경우의 수가 엄청나게 많은 상황에서 모든 경우를 계산하지 않아도 정답에 가까운 값을 찾는 알고리즘이다.

초반에 의외로 많은 도움을 준 게 한게임 바둑의 ‘자동대국 모드’였다. 1999년 한게임이 문을 열 때부터 쌓인 방대한 기보 자료가 AI 학습에 투입됐다. 이후 한돌은 자가 대국 등을 반복하면서 다음 수(手) 확률을 예측하는 정확도를 계속 끌어올리고 있다.

갈길 먼 ‘알파고 따라잡기’

국내 IT기업이 ‘알파고 충격’에 자극받아 개발한 토종 바둑 AI는 더 있다. 중소 소프트웨어업체 돌바람네트웍스가 2012년 출시한 ‘돌바람’은 이듬해 일본 컴퓨터바둑대회에서 우승하는 등 돌풍을 일으켰다. 작년 11월에는 카카오가 ‘오지고’라는 바둑 AI를 내놨다.

안타깝지만 “외산에 비해 갈 길이 멀다”는 지적이 많다. 돌바람은 초반 기세가 푹 꺾여 지난해 6월 중국에서 열린 AI 바둑대회에서 9위에 그쳤다. 오지고는 프로기사와의 첫 대국에서 바둑의 기본인 축(逐)을 파악하지 못해 83수 만에 불계패하는 망신을 당했다.

한국기원 관계자는 “해외에 비해 바둑 AI 기술에 대한 지원과 투자가 원활하지 않다”며 “바둑 강국인 한국의 위상이 AI 시대엔 떨어지고 있다”고 안타까워했다.

알파고는 2017년 세계 바둑랭킹 1위인 중국의 커제를 꺾은 뒤 ‘은퇴’를 선언했다. 바둑에선 AI 기술로 이룰 게 더 없으며 의료, 환경, 에너지 등의 연구로 이동하기 위해서라고 밝혔다. 지난달엔 알파고를 100전100승으로 꺾은 새 AI 프로그램 ‘알파 제로’도 공개했다.

中·美·日이 주도하는 AI 바둑

지금 세계 AI 바둑대회를 휩쓸고 있는 주인공은 중국 게임업체 텐센트가 개발한 ‘줴이’다. 커제도 “줴이를 활용해 공부한다”고 할 정도다. 일본에선 2016년 IT기업 드왕고와 도쿄대, 일본기원이 공동 개발한 ‘딥젠고’가 등장했다. 알파고처럼 해외 유명 선수를 줄줄이 꺾고 지난해 은퇴했다.

텐센트의 또 다른 바둑 AI인 ‘펑황바둑’, 칭화대가 개발한 ‘싱전’, 벨기에에서 선보인 ‘릴라제로’ 등도 주요 대회에서 막강한 경기력을 과시하고 있다. 미국 페이스북은 바둑 AI ‘엘프 오픈고’를 개발해 오픈소스(무상 공개)로 뿌렸다.

임현우 기자 tardis@hankyung.com