"기술 진보 속도 너무 빨라…수학자·기업 밀착 협력 나서야"
삼성전자가 2010년부터 ‘특별 관리’하는 수학자가 있다. 암호학 분야에서 세계 최고 실력을 인정받는 천정희 서울대 수리과학부 교수(사진)다.

천 교수는 “기술 진보 속도가 너무 빨라 공학을 뛰어넘어 수학, (소재·부품산업의 핵심인) 화학 등 자연과학자들과 기업이 바로 협력해야 하는 시대가 왔다”며 “수학과 전산학 지식이 4차 산업혁명 시대의 최고 경쟁력”이라고 강조했다.

그는 4세대 암호인 ‘동형암호’의 권위자다. 현재 공인인증서 등 대부분 인터넷 전산시스템에 사용되는 3세대 암호 ‘공개키암호(RSA)’는 수학의 정수론(소인수분해)을 기반으로 한다. 암호화키와 복호화키로 구성된다. 그러나 이 구조 때문에 이론적으로 해킹이 가능하고, 차세대 컴퓨터인 양자컴퓨터가 상용화하면 깨진다.

동형암호는 RSA와 달리 데이터를 복원할 때 ‘가로챌 키’가 아예 없어 해킹이 현재 수준의 슈퍼컴퓨터로도 불가능하다. 양자컴퓨터도 깨기 힘든 ‘양자 내성암호’ 가운데 하나다.

천 교수가 이끄는 서울대 수학기반산업데이터해석연구센터를 비롯해 미국 IBM·마이크로소프트(MS), 프랑스 방산업체 탈레스(젬알토) 등 세계적으로 다섯 곳만이 동형암호 기술을 보유하고 있다. 이 기술은 빅데이터 시대 개인정보 보호가 화두로 떠오르면서 산업계의 관심이 급증했다. 그가 동형암호 제작기 ‘혜안’을 토대로 창업한 스타트업(신생 벤처기업) 크립토랩엔 삼성전자가 25억원 투자를 조율하고 있다.

천 교수는 “딥러닝을 할 때 기업들이 빅데이터를 확보해야 하는데 개인정보 보호 때문에 발이 묶여 있다”며 “데이터를 활용하려는 기업들에 동형암호는 ‘베스트 파트너’가 될 수 있다”고 말했다. 지난해부터 그에게 삼성SDS, 네이버, 현대자동차, 롯데정보통신 등의 문의가 쇄도하는 이유다. 동형암호를 쓰려면 아직 속도가 느리다는 단점이 있지만, 천 교수는 이를 극복하는 연구도 하고 있다.

삼성전자는 2010년부터 고화질 디지털콘텐츠 무선 송·수신 암호화 기술을 수학적 난독화로 구현해달라고 천 교수에게 요청했다. 2000년대 후반 매출과 브랜드 가치 등에서 소니를 넘어선 삼성전자가 ‘퍼스트 무버(first mover: 선도자)’로 올라서기 위한 원천기술 확보 차원에서 천 교수를 먼저 찾아온 것이다. 올해 그는 4차 산업혁명 시대 새로운 보안 패러다임을 제시한 공로로 포스코청암상 과학상을 받았다.

천 교수는 KAIST에서 수학 정수론 전공으로 학사부터 박사까지 모두 마쳤다. 국가보안기술연구소의 전신인 한국전자통신연구원(ETRI) 부호기술연구소에서 3년간 일한 뒤 2003년 서울대 교수로 부임했다.

2015년엔 미국 국방부 산하 연구기관인 방위고등연구계획국(DARPA)에서 건넨 암호문제를 풀면서 세계적 주목을 받았다. 다중선형함수로 구성된 난독화 알고리즘을 깨는 과제에서 미 매사추세츠공대(MIT) 버클리대 등 10여 개 유수 연구팀을 모두 제쳤다.

이해성 기자 ihs@hankyung.com