[이슈+] "알파고, 이세돌에 일부러 져줬을 것…구글 사과해야"
입력
수정
지난해 3월 대국 전 '알파고 완승' 예상
빅데이터 전문가 김진호 교수 파격 주장
빅데이터 전문가인 김진호 서울과학종합대학원 빅데이터MBA학과 교수(사진)는 12일 이 같이 주장했다. 김 교수는 지난해 ‘구글 딥마인드 챌린치 매치’ 직전 대다수 전문가들이 이세돌 9단의 승리를 점치던 가운데 알파고가 전승을 거둘 것으로 전망해 주목받은 인물이다.그는 당시에도 구글이 학술지 《네이처》에 제출한 논문을 근거로 알파고의 승리를 예견했다. ‘고의 패배’라는 이번 파격적 주장 역시 알파고의 알고리즘이 매우 정교하다는 과학적 사실을 토대로 한 것이다. 여기에 알파고가 ‘버전업’ 된 사실을 알게 되면서 확신을 가졌다고 했다.
알파고가 일부러 져주지 않았다면 다섯 경기 가운데 한 경기에서 버그가 발생했다는 것으로, 20%의 사고율은 수많은 시뮬레이션 등을 통해 철저히 검증한 AI에선 있을 수 없다고 봤다. 김 교수는 “이세돌 9단이 이긴 제4국 후반부에서 알파고가 일부러 져줬다고 봐야 합리적으로 이해된다”고 강조했다.
김 교수의 주장은 나름의 가설을 세우고 검증을 거친 결과다. 구글 딥마인드가 데이터를 공개하지 않는 이상 ‘합리적 추론’을 할 수밖에 없다는 게 그의 설명. 일종의 소거법이다.최근 전세계 바둑 고수들과의 온라인 대국에서 60연승을 달린 뉴 알파고가 화제가 되면서 공개적으로 의혹을 제기하기로 결심했다는 김 교수는 “이세돌에 져줬다”는 사후적 주장 못지않게 “구글 딥마인드의 사과와 재발 방지가 필요하다”는 주문에도 방점을 찍었다.
그는 지난해 3월 대국 당시 한경닷컴과 아프리카TV의 공동 생중계 해설자로 나섰다. 이런 인연으로 김 교수는 알파고가 이세돌 9단에 져줬을 것이라고 보는 이유를 구체적으로 풀어쓴 글을 한경닷컴에 보내왔다. 한경닷컴은 김 교수의 주장이 근거를 갖춘 추론이라고 판단, 동의를 얻어 문답 형태로 정리해 전문을 싣는다.
- 놀라운 예상이다.
“하지만 대국 전에 구글 딥마인드가 전 세계 바둑 팬들에 공식 사과해야 할 두 가지가 있다. 우선 이세돌 9단과의 대국에서 알파고의 실력을 숨긴 것을 사과해야 한다. 사람들은 이세돌 9단이 판 후이 2단을 이긴 ‘버전13’보다 약간 실력이 향상된 알파고와 대결하는 것으로 생각했다. 그 정도라면 이세돌 9단이 쉽게 이길 것으로 예상했다. 그러나 이 9단과 맞붙은 상대는 그 알파고가 아니었다.”- 훨씬 버전업 됐다는 것인가.
“그렇다. 이세돌 9단과 대결한 알파고는 ‘버전18’이었다. 버전18은 버전13 알파고가 4점 깔고도 지는 수준이다. 구글 딥마인드는 이 사실을 숨겼다. 전문가들은 버전13을 과소평가했으나, 버전13 알파고도 이세돌 9단과 막상막하의 실력을 갖고 있었다. 프로바둑 국가대표 상비군 감독인 목진석 9단도 대국 전에 그렇게 평가했다. 그런데도 구글 딥마인드는 이세돌 9단을 확실히 이기려고 업그레이드를 계속해 버전18을 들고 나온 것이다.”
- 버전18이 그렇게 막강해진 이유는 뭔가.
“버전13이 학습한 16만 건의 기보는 유럽 아마6~9단들의 것이다. 그중 35% 정도는 접바둑이었고. 이들은 판 후이 2단을 이길 수 없는 수준의 사람들이다. 하지만 그 데이터로 학습한 알파고는 판 후이 2단에 5대 0으로 압승했다. 강화학습과 딥러닝을 정교하게 결합한 알파고 알고리즘의 엄청난 성능이 입증된 것이다. 이후는 간단하다. 알파고의 능력은 학습에 사용한 데이터(기보)의 질에 좌우된다. 아시아 최정상 프로들의 기보를 입력해 똑같은 과정을 반복하면 어떻게 되겠나.”
- 버전18 알파고가 이 정도로 강력하다는 것을 어떻게 알았나.
“구글 딥마인드가 끝까지 숨겼다면 알 길이 없다. 그런데 경기 후 이 사실을 밝혔다. 알파고 개발 총책임자 데이비드 실버 박사가 영국 런던대(UCL)에서 특강했다. 이세돌 9단에 승리한 9일 뒤인 3월24일이었다. 이 강연에서 버전18이 버전13을 4점 접바둑에서도 이긴다는 취지로 설명했다. ‘사실 원래부터 상대가 안 되는 게임이었다’라고 자랑한 셈이다.”
“알파고가 일부러 져줬을 것이다. 개발자들은 애초부터 알파고의 전승을 확신했다. 당시 대국을 앞두고 데미스 하사비스 구글 딥마인드 대표는 이세돌 9단에 미치지 못할 것이란 전망에 이렇게 답했다. ‘그들은 프로그래머가 아니다(They are not programmers)!’ 프로그래머가 모든 것을 확인하고 검증한 다음 프로그램을 실행하듯, 알파고는 이세돌 9단과 겨뤄보려는 게 아니라 역사적 승리를 거두려고 왔다는 뜻으로 한 말이다. 다만 한 번은 져주려고 했던 것 같다. 4번째 대국이 여러 이유로 져주기에 가장 적당하다고 판단했하지 않았을까.”
- 알파고가 져줬다고 주장하는 근거는.
“사실 4국이 끝나고 여러 통의 전화를 받았다. ‘대국이 이상하게 전개됐다’, ‘알파고가 일부러 진 것 같다’ 등의 내용이었다. 알파고가 져줬을 것이라는 주장의 근거는 다음과 같다. 4국 데이터를 갖고 있지 않기 때문에 합리적 추론을 할 수 밖에 없는데. 첫째, 일부러 진 게 아니라면 알파고는 이세돌 9단과의 5국 중 제4국에서 버그를 낸 게 된다. 사고율이 20%나 된다면 인공지능(AI)이 아니다. 100만 번에 한 번 미만의 버그 수준이 돼야 제대로 된 AI다. 둘째, 4국에선 버그가 10여 회나 발생했다. 이렇게 많은 버그를 낸다면 버전13 알파고에게 4점 접바둑을 이길 수가 없다. 셋째, 실수가 터무니없었다. 복잡하고 어려운 국면이 아니라 평범한 장면에서 엉뚱한 곳에 두는 실수를 한 것이다. 넷째, 아마추어 하수도 하지 않는 실수를 했다. 1선을 두는 것과 같이 손해가 뻔한 수를 연이어 둔 게 그것이다. 일부러 져주려 하지 않은 이상 일어나기 어려운 일이다. 마지막으로, 이세돌 9단과의 대결 이후에 구글 딥마인드가 이런 말도 안 되는 버그에 대해 언급한 적이 없다.”
- 정황이 확실하다는 것인가.
“알파고엔 문제가 없었다. 단지 4국 후반부에서 일부러 오답으로 바둑을 뒀다고 봐야 합리적으로 설명된다. 대국장 어딘가에 있던 통제실(control room)에는 정답이 떴지만 ‘알파고의 손’이었던 아자 황에게는 일부러 오답을 보낸 것으로 생각한다.”
- 구글 딥마인드가 져준 적 없다고 한다면?
“제 주장이 틀렸음을 입증하는 건 매우 간단하다. 구글 딥마인드가 알파고의 4국 데이터를 공개하면 된다. 특히 백 78수에 대한 알파고가 둔 최적의 다음 수(79) 계산 과정을 공개하면 확실히 알 수 있을 것이다. 구체적으로 정책망, 평가망, 트리 평가(tree evaluation) 등의 과정과 착수 선택(percentage frequency), 이후 주요 수순(principal variation)을 어떻게 계산했는지 밝히면 된다. 데이터를 보면 알 수 있다. 아마 공개하기 어려울 것이다. 버그가 나지 않았다면 말이다.”
- 주장이 사실이라면 왜 일부러 져줬다고 보나.
“선의로 보면 유구한 역사를 가진 바둑에 대한 경의, 그리고 무거운 부담을 진 대결에 응한 이세돌 9단에 대한 존경 등의 이유 때문일 것이다. 악의로 해석한다면, 알파고의 실력을 숨겼다는 사실을 은폐하기 위해 한번은 져줬을 것으로 본다.”
- 선의인가, 악의인가.
“악의에 가깝다고 생각한다. 알파고 실력으로는 흥미진진하고 아슬아슬하게 져줄 수도 있었다. 자신이 둘 차례에서 승률 50% 정도의 수들만 선택하면 되니까. 하지만 그렇게 하지 않았다. 초반부터 일방적으로 앞서다 갑자기 어처구니없는 수들을 뒀다. 일부러 진 것이라는 티를 낸 것이다. 결과적으로 4국 중반 이후 기보는 말도 안 되는 기록으로 남고 말았다. 이런 오점에 대해서도 구글 딥마인드는 바둑 팬들에게 사과해야 할 것이다.”
“짐작컨대 1~3국을 이겨 승리를 확정한 뒤 4국을 져주고, 최종 5국을 이기면 승리 분위기도 가져가지 않겠나. ‘신의 한 수’로 알파고가 흔들렸다는 것도 잘못된 추정이다. 알파고는 자아가 없다. 상대가 무슨 수를 왜 두는지에 관심이 없다. 흔들릴 이유가 없다는 뜻이다. 이세돌 9단의 78수는 놀라웠다. 불리한 상황에서 상대가 강한 곳에 뒀다. 하지만 신의 한수라는 말 이면에는 ‘만약 그 수가 성립한다면’이란 가정이 생략됐다. 그 수는 성립하는 수가 아니었다. 알파고가 제대로 응대했다면 이세돌 9단의 흑돌이 모두 죽는 수였다.”
- 알파고가 그때부터 제대로 응대하지 않은 이유는 무엇인가.
“제대로 응대하면 이세돌 9단의 흑돌이 모두 죽는다. 그러면 집 차이가 너무 커져 알파고가 져주려 해도 져줄 수 없었다. 그래서 이후 제대로 응대하지 않았을 것이다. 그러면서 말도 안 되는 수가 이어졌고, 결과적으로 져주려는 의도가 드러났다.”
- 결국 알파고가 너무 강했다는 얘기가 된다.
“그렇다. 개발자들조차 놀랄 만큼 알파고의 실력이 는 것이다. 알파고는 많은 천재 과학자들이 오랜 노력 끝에 탄생시킨 위대한 업적이다. 하사비스 대표가 달 착륙에 비견했던 데 전적으로 동의한다.”
- 알파고의 실력을 밝혔다면 어땠을까.
“실력을 숨기고 상대가 얕보도록 한 뒤 유유히 승리를 챙긴 것이다. 신사도에 어긋난다. 알파고의 실력을 대국 전에 솔직하게 밝혔다면 이세돌 9단이 대결에 임하는 각오가 달랐을 것이다. 지금처럼 후회가 남는 대결이 되지 않았을 수 있다. 개인적으로 구글 딥마인드가 왜 알파고의 실력을 굳이 숨긴 건지 이해가 가지 않는다.”
- 주장대로라면 버전13으로도 이세돌 9단과 대결할 수 있었을 텐데.
“아쉽다. 그렇게 했다면 정말 흥미진진한 대결이 됐을 것이다. 이유를 추정해보자. 구글의 명성이나 주가 영향 등 여러 이유 때문에 구글 딥마인드는 첫 도전에서 무조건 성공하고 싶었던 것 같다. 체스의 전례가 있기 때문이다. IBM의 체스 컴퓨터 ‘딥블루’는 1996년 챔피언 카스파로프에 도전했다가 2무3패로 졌다. 일류기업 IBM의 위상이 크게 떨어졌다. 개발자들도 엄청난 부담감을 느껴야 했다. 13개월 뒤 재도전해 2승3무1패로 승리했다. 구글은 이런 실패를 원하지 않았던 걸로 보인다. 확실한 승리를 위해 업그레이드 하지 않았을까.”
- 그래서 사과해야 한다는 것인가.
“구글의 모토가 ‘사악하지 말자(Don’t be evil)’, ‘바른 일을 하자(Do the right thing)’다. 단기적 이익을 희생하더라도 세상을 위해 좋은 일을 하는 회사가 되자는 뜻이다. 그런데 이번 일은 달랐던 것 같다. 눈앞의 승리만을 위해 기업 신조에 어긋나는 행동을 한 것 아닌가. 이 점을 전 세계 바둑 팬들에게 사과해야 한다고 본다.”
- 이제 와서 굳이 사과를 요구하는 이유는 뭔가.
“이번에 알파고가 재등장해 세계 최고수들을 상대로 전대미문의 60연승을 거뒀다. 앞으로 커제 9단과 공식 대결을 펼치는 것으로 안다. 이세돌 9단과의 대국 때처럼 비신사적 행동이 반복돼선 안 된다고 생각했다.”
- 그렇다면 커제 9단과의 대국은 어떻게 치러져야 하나.
“대국시 통제실을 없애 중간 과정에서의 조작 가능성을 원천 봉쇄하고, 대국 전에 알파고의 실력이 어느 정도인지 정확히 밝혀야 한다. 이세돌 9단과의 대국 후 지난 10개월 동안 알파고는 상상을 초월할 정도로 강해졌을 것이다. 개인적으로 최고 프로선수가 최소한 6점은 깔아야 하는 실력으로 예상한다. 상상할 수 없는 차이가 됐다. 알파고가 최근 60연승 중에도 가끔 일부러 최선의 수를 두지 않고 실력을 숨겼을 가능성이 있다고 생각한다.”
- AI에 인간 최고수가 전패하는 바둑의 미래는 어떻게 될까.“우려와 반대로 긍정적 영향을 미칠 것이다. 20년 전 AI가 체스를 정복했지만 체스의 인기는 여전하다. 앞으로는 다양한 형식의 경기나 대회가 벌어지지 않을까. 예컨대 인간이 기계와 한 팀이 될 수도 있다. 기계의 계산과 사람의 전략적 판단이 어우러지는 경기, 흥미롭지 않나? AI는 정교한 방식으로 최선의 수를 계산할 뿐이다. 사람만이 바둑판에서 전개되는 감정, 기풍, 수읽기 등의 오묘한 깊이를 즐길 줄 안다. 따라서 바둑의 인기는 줄어들지 않을 것이다. 또 하나, AI의 목표는 사람을 대체하는 게 아니라 보완하는 것이다.”
김봉구 한경닷컴 기자 kbk9@hankyung.com
기사제보 및 보도자료 open@hankyung.com