"허준이 교수의 '리드 추측' 증명, AI 학습 돌파구 열었다"

11개 난제 해결한 연구성과
산업에 어떻게 적용될까

AI 신경망 설계 작업때
수식으로 표현해 데이터 연결
강아지-고양이 구분 쉬워지고
검색 프로그램 효율성 높아져

순열·조합 등 이산수학 성과는
반도체 설계 기술에 큰 도움

허준이 한국 고등과학원 석학교수(미국 프린스턴대 교수·39)가 한국 수학자로는 최초로 ‘수학계 노벨상’으로 알려진 필즈상을 수상하면서 허 교수의 연구 성과를 실제 경제·산업 현장에 어떻게 적용할 수 있을지에 관심이 커지고 있다. 허 교수는 수십 년간 풀지 못한 ‘리드 추측’부터 ‘엘리아스-프라우드풋-웨이크필드’ 추측까지 11개의 난제를 조합론과 대수기하학을 융합한 완전히 새로운 방식으로 풀어냈다. 허 교수의 업적이 산업계에 어떤 영향을 미칠지 허 교수의 석사 지도교수인 김영훈 서울대 수리과학부 교수의 설명과 함께 살펴봤다.

AI 학습 ‘이륙’ 돌파구 열어

허 교수의 업적은 순수 학문인 수학에서 얻은 성과지만 그 응용 범위는 무궁무진할 것이란 평가다. 허 교수의 학문적 성과가 특정 산업·기술에 1 대 1 형식으로 곧바로 적용될 것으로 기대하는 것은 무리다. 하지만 미국 중국 등 주요국 간 경쟁이 심화하고 있는 정보기술(IT), 인공지능(AI), 반도체 설계, 교통 물류, 통계물리 등의 분야 기술 발전에 물꼬를 트는 계기가 될 것이란 전망이 많다.

김 교수는 “허 교수의 업적은 앞으로 100년간 IT와 AI 분야 발전에 지대한 영향을 미칠 것”이라며 “정보통신, 반도체 설계, 기계학습 등 셀 수 없는 분야에 응용이 가능하다”고 했다. 그는 “필즈상 수상과 같은 수학 분야 최정상급 연구는 수십 년에 걸쳐 활용되는 만큼 당장 어디에 활용할 수 있다고 말하는 것은 성급하다”면서도 “10~20년 이내에 반드시 주요 산업에서 응용할 것”이라고 자신했다.

그중에서도 가장 큰 기대를 받는 것은 AI 기술의 비약적 발전이다. 리드 추측 등을 풀어낸 성과를 활용하면 AI를 학습시킬 때 효율성을 크게 높일 수 있어서다. 기존에는 AI 신경망을 설계할 때 모든 노드(점·인공지능 학습에 필요한 데이터들의 변수)를 사람이 직접 선을 그려 연결하는 비효율적인 방식을 사용했다.

하지만 허 교수가 돌파구를 마련한 그래프 이론을 적용하면 어떤 점을 연결하고 뺄지를 수식으로 표현해 효율적인 AI 학습이 가능해진다. 이를테면, ‘고양이 사진’을 AI에 카메라를 통해 보여주고 모니터에 ‘고양이 단어’를 출력하게 하는 것은 고양이 사진과 단어를 각각 하나의 점으로 표현하는 것이라고 할 수 있다. 이 둘은 선으로 연결된다. ‘강아지 사진’과 ‘고양이 단어’는 연결하지 않는다. 그리고 이 과정을 수없이 많이 반복하면서 효율화하는 것이 AI 학습이라고 할 때, 이를 가장 간단한 수식 하나로 표현할 수 있다면 인공지능의 효율성이 크게 높아지는 식이다. 그간 AI는 인간과 달리 강아지와 고양이를 구분하는 데 큰 어려움을 겪었는데 그런 제약을 재빨리 넘을 길을 마련한 셈이다.

검색부터 보안산업까지 ‘혁신’

‘리드 추측’과 ‘로타 추측’ 등을 해결한 것은 검색 프로그램의 효율성을 높일 것으로 기대된다. 김 교수는 “그래프 이론을 적용해 모든 선에 점수를 매겨 우선순위를 얻은 뒤 가장 점수가 높은 원하는 검색 결과를 첫 페이지에 보여주는 방식을 선보일 수 있다”며 “허 교수의 연구를 응용하면 검색 페이지 결과의 정확도를 더욱 높일 수 있을 것”으로 봤다.

빅데이터와 고속연산의 효율성을 높이는 데도 활용할 수 있다. 수많은 사례를 가정하고 돌발변수를 고려해야 하는 초복잡계 교통·물류 관련 프로그램을 개발하거나 기상 예보의 정확성을 높이는 데도 기여할 수 있을 것으로 기대된다.

집합과 순열, 조합, 확률 등을 다루는 이산수학에서의 성과는 반도체 설계나 통신·보안 프로그램 개선과 직결된다. 초고난도 암호를 만들어 보안 프로그램을 강화하는 쪽으로 응용할 수 있다.

허 교수는 자연에서 발생한 많은 일을 수식으로 옮겼을 때, 그 수식에서는 ‘로그-오목’한 모습이 나오는 것에서 연유한 ‘로그-오목’ 관련 난제를 일거에 해소했다. 허 교수가 풀어낸 메이슨-웰시 추측, 로타 추측, 도슨-콜번 추측 모두 특정 수식에서 나오는 ‘로그-오목’과 관련이 있다.

김 교수는 “허 교수 연구 성과는 ‘로그-오목의 문제를 해결했다’는 한 줄로 요약할 수 있다”며 “19세기 나온 리만기하학 50년 뒤에 상대성이론으로 이어졌고, 그 뒤 50년이 지나고 위성항법장치(GPS)가 나오게 됐듯 허 교수의 업적도 미래의 삶을 바꾸는 데 큰 역할을 할 것”이라고 덧붙였다.

김진원 기자 jin1@hankyung.com