[STRONG KOREA-한국인 과학자가 뛴다] (9) 수학‥황준묵교수, 수학 대가들 앞에서 48년 난제 풀어

지난 8월 스페인 마드리드에서 열린 국제수학자총회(ICM)에 한 한국인 과학자가 '초청 강연자'로 소개되자 세계 각국에서 모여든 수백여명 수학자들의 시선이 집중됐다. 그가 유창한 영어로 어떤 '수학 공식'을 풀어 가자 환호성이 터졌다. 세계 수학계가 지난 48년 동안 숙제로 갖고 온 '변형 불변성의 증명'이 마침내 풀리는 순간이었다. 주인공은 한국과학기술원(KAIST) 산하 고등과학원(KIAS)의 황준묵 교수(43).

황 교수가 홍콩대학의 목(Mok) 교수와 공동 연구를 통해 푼 변형 불변성의 증명은 '대칭성을 가진 공간이 갑자기 다른 공간으로 바뀔 수 없다'는 것이 골자다. 일반인들은 용어조차 이해하기 어려운 이 난제는 1958년 코다이라라는 일본인 수학자의 연구에서 제기된 의문으로 그동안 수많은 수학자들이 도전했지만 해결하지 못했다. 황 교수는 "이 증명은 숫자의 문제(대수학)를 도형의 문제(미분 기하학)로 바꾸도록 해 초끈 이론 등 이론 물리학적인 난제를 해결하는 단초가 될 수 있다"고 말했다.

황 교수가 이 문제에 도전하고 나선 것은 1990년대 초반. 97년 관련 논문을 처음 발표한 뒤 9년간 4편의 관련 논문을 잇따라 내놓았고 이번에 종지부를 찍으면서 세계적 수학자 명성을 얻었다. 가야금 명인 황병기 이화여대 명예교수의 아들인 황 교수는 서울대 물리학과(82학번)를 졸업하고 93년 미국 하버드대에서 수학 석·박사 학위를 받았다.

"수학은 수만 권의 책이 꽂힌 도서관에 들어가 원하는 책을 찾는 것과 같습니다.

쉽지는 않지만 차근차근 머리 속 공간을 거닐면서 다른 각도에서 바라보기를 거듭하면 '운 좋게' 답을 찾을 수도 있지요." 그가 난제를 해결한 비결이라며 들려준 말이다.

국력에 비해 크게 뒤떨어진다는 평가를 받고 있는 수학에서 한국인 과학자들이 서서히 두각을 나타내고 있다. 특히 기하학 대수학 등 이른바 '이론 수학' 분야에서 더욱 그렇다. 황 교수가 초청 강연자로 나선 이번 ICM에는 고등과학원의 오용근 교수(45)와 김정한 연세대 교수(44)도 초청 강연자로 나섰다. 한국 수학자들이 초청 강연자로 이 자리에 선 것은 사상 처음이다. 4년마다 개최되는 ICM은 수학의 노벨상으로 불리는 '필즈상'을 주는 세계 수학계 최대 행사이며 여기에 초청 강연자로 나서는 것은 세계적 수준의 과학자라는 말과 동일시된다.

오용근 교수는 '사교위상수학의 플로어 호몰로지 이론'의 응용 방법을 연구한 업적을 평가받았다. 김정한 교수는 네트워크의 임의의 점들 간 연결 고리를 분석하는 데 사용되는 '임의 그래프' 연구로 세계적인 주목을 받았다.

ICM에서 볼 때 한국은 그동안 수학 변방국이었다. 여기에서는 회원 국가의 수학 실력을 최하 1그룹부터 최고 5그룹까지 나누며 우리나라는 이집트 등과 함께 2그룹에 속해 있다.

필즈상 투표권이 2표뿐이라는 뜻.이러한 낮은 수학 실력 평가는 수학자 수에서 나타난다. 현재 대한수학회에 등록된 수학자가 2000여명에 불과할 만큼 저변이 넓지 못하다.

그러나 이러한 상황에도 불구하고 황 교수 같은 비교적 젊은 수학자들이 최근 뛰어난 연구 성과를 발표하면서 이론 수학에서는 세계 학계로부터 재평가를 받고 있는 것. 이들의 활약 덕분에 ICM에서 '한국을 3그룹으로 승격시키자'는 논의가 나오고 있을 정도다.

이론 수학 분야에서는 금종해 고등과학원 교수(49)도 세계적으로 평가받고 있다. 그는 최근 스승인 미국 미시간대 돌가체프 교수와 함께 대수기하학 분야에서 20년 동안 미해결 과제이던 '유한표수체 위에서 정의된 K3 곡면의 사교 유한대칭군의 분류'를 푸는 데 성공했다.

금 교수의 논문은 한국인으로서는 처음으로 국제적 수학 저널인 '애널스 오브 매스매틱스'에 게재될 예정이다.

강석진 서울대 수리과학부 교수(45)는 '수학의 유혹' '아빠와 함께 수학을' 등 대중에게 수학을 쉽게 설명하는 책을 다수 펴내는 등 '수학의 전도사' 노릇을 톡톡히 하고 있다.

이론 수학과 달리 우리나라의 금융공학 암호론 바이오매스 등 '응용 수학' 분야는 걸음마 단계에 머물러 있다는 평가다. 이 분야에서는 몇몇 수학자들이 신영역을 개척해 나가며 고군분투하고 있다. 위인숙 고려대 이과대학장(54)은 최근 수학·통계학·전산학·경영학 등이 연계된 금융공학 협동과정을 학부·대학원에 개설해 서울시와 함께 동북아 지역에 적합한 새로운 금융 상품을 개발하고 있다.

박형주 고등과학원 교수(42)는 전산대수학과 신호처리 분야에 수학을 활용하고 있다.

그는 2004년 음성·화상 정보 등 신호를 압축하거나 왜곡된 부분을 제거하는 신호처리 분야에서 대수학적 기법을 쓸 수 있다는 것을 세계 최초로 발견,제안해 학계의 주목을 받았다.

임종인 고려대 정보보호기술연구센터장(50)은 고대에서 학·석·박사 과정을 모두 마친 토종 수학자로 암호학 분야 전문가다.

그가 이끌고 있는 정보보호기술연구센터는 스마트 카드의 트랩도어 검출 기술 등 보안 분야의 주요 과제를 차례로 풀어냈으며 2003년에는 타원 곡선암호(ECC)를 이용한 인증 시스템을 세계 최초로 실용화하기도 했다.

국가수리과학연구소와 한국생명과학연구원(KRISS)에 동시 소속돼 있는 남덕우 박사(34)는 수학 박사 학위(KAIST)를 받은 한국인 중 처음으로 생물정보학 분야에 뛰어들어 바이오매스 분야를 개척하고 있다.

남 박사가 올해 컴퓨터사이언스 알고리즘 저널 '머신 러닝'에 게재한 '부린 유전자 발현 네트워크의 효과적 검색 방법'이라는 논문은 생물학적 네트워크를 수학적으로 모델링한 것으로 '굉장히 기대되는 연구'라는 평가를 받았다.

이상은 기자 selee@hankyung.com