"기술 진보 속도 너무 빨라…수학자·기업 밀착 협력 나서야"

세계적 권위 암호학자 천정희 서울대 교수

슈퍼컴도 못깨는 암호시스템 개발
삼성, 콘텐츠 송·수신 암호화 요청
네이버·현대차서도 잇단 협업 문의

삼성전자가 2010년부터 ‘특별 관리’하는 수학자가 있다. 암호학 분야에서 세계 최고 실력을 인정받는 천정희 서울대 수리과학부 교수(사진)다.

천 교수는 “기술 진보 속도가 너무 빨라 공학을 뛰어넘어 수학, (소재·부품산업의 핵심인) 화학 등 자연과학자들과 기업이 바로 협력해야 하는 시대가 왔다”며 “수학과 전산학 지식이 4차 산업혁명 시대의 최고 경쟁력”이라고 강조했다.

그는 4세대 암호인 ‘동형암호’의 권위자다. 현재 공인인증서 등 대부분 인터넷 전산시스템에 사용되는 3세대 암호 ‘공개키암호(RSA)’는 수학의 정수론(소인수분해)을 기반으로 한다. 암호화키와 복호화키로 구성된다. 그러나 이 구조 때문에 이론적으로 해킹이 가능하고, 차세대 컴퓨터인 양자컴퓨터가 상용화하면 깨진다.

동형암호는 RSA와 달리 데이터를 복원할 때 ‘가로챌 키’가 아예 없어 해킹이 현재 수준의 슈퍼컴퓨터로도 불가능하다. 양자컴퓨터도 깨기 힘든 ‘양자 내성암호’ 가운데 하나다.

천 교수가 이끄는 서울대 수학기반산업데이터해석연구센터를 비롯해 미국 IBM·마이크로소프트(MS), 프랑스 방산업체 탈레스(젬알토) 등 세계적으로 다섯 곳만이 동형암호 기술을 보유하고 있다. 이 기술은 빅데이터 시대 개인정보 보호가 화두로 떠오르면서 산업계의 관심이 급증했다. 그가 동형암호 제작기 ‘혜안’을 토대로 창업한 스타트업(신생 벤처기업) 크립토랩엔 삼성전자가 25억원 투자를 조율하고 있다.

천 교수는 “딥러닝을 할 때 기업들이 빅데이터를 확보해야 하는데 개인정보 보호 때문에 발이 묶여 있다”며 “데이터를 활용하려는 기업들에 동형암호는 ‘베스트 파트너’가 될 수 있다”고 말했다. 지난해부터 그에게 삼성SDS, 네이버, 현대자동차, 롯데정보통신 등의 문의가 쇄도하는 이유다. 동형암호를 쓰려면 아직 속도가 느리다는 단점이 있지만, 천 교수는 이를 극복하는 연구도 하고 있다.

삼성전자는 2010년부터 고화질 디지털콘텐츠 무선 송·수신 암호화 기술을 수학적 난독화로 구현해달라고 천 교수에게 요청했다. 2000년대 후반 매출과 브랜드 가치 등에서 소니를 넘어선 삼성전자가 ‘퍼스트 무버(first mover: 선도자)’로 올라서기 위한 원천기술 확보 차원에서 천 교수를 먼저 찾아온 것이다. 올해 그는 4차 산업혁명 시대 새로운 보안 패러다임을 제시한 공로로 포스코청암상 과학상을 받았다.

천 교수는 KAIST에서 수학 정수론 전공으로 학사부터 박사까지 모두 마쳤다. 국가보안기술연구소의 전신인 한국전자통신연구원(ETRI) 부호기술연구소에서 3년간 일한 뒤 2003년 서울대 교수로 부임했다.

2015년엔 미국 국방부 산하 연구기관인 방위고등연구계획국(DARPA)에서 건넨 암호문제를 풀면서 세계적 주목을 받았다. 다중선형함수로 구성된 난독화 알고리즘을 깨는 과제에서 미 매사추세츠공대(MIT) 버클리대 등 10여 개 유수 연구팀을 모두 제쳤다.

이해성 기자 ihs@hankyung.com